My AI är en experimentell och vänlig chattbot som för närvarande är tillgänglig för Snapchattare.
Vår strategi för AI-säkerhet
Vi bryr oss om vår communitys säkerhet och välbefinnande och arbetar för att återspegla dessa värderingar i våra produkter. My AI drivs av stora språkmodeller som GPT-modeller från OpenAI och Gemini-modeller från Google och har tränats på ett brett utbud av texter, med ytterligare säkerhetsförbättringar och kontroller som är unika för Snapchat. My AI har programmerats att följa vissa riktlinjer så att den information som tillhandahålls inte är skadlig (bland annat undviks svar som är våldsamma, hatiska, sexuellt explicita eller på annat sätt farliga; och att undvika skadliga fördomar), men det lyckas inte alltid.
Vi använder samma säkerhetsåtgärder och verktyg som vi använder i Snapchat. My AI har även anpassats för att blockera resultat för sökord som handlar om droger eller innehåller slang. Om snapchattare söker efter svar på en rad psykiska problem var som helst på Snapchat visas dessutom resurser från specialistorganisationer. Det här verktyget, som kallas Here For You, dyker upp i chattar med My AI.
Vi arbetar också med att lägga till fler verktyg för My AI i Family Center som ger föräldrarna större insyn i och kontroll över tonåringarnas användning av My AI.
Desinformation och konfliktskapande ämnen
My AI drivs av stora språkmodeller som GPT-modeller från OpenAI och Gemini-modeller från Google och har tränats på ett brett utbud av texter, med ytterligare säkerhetsförbättringar och kontroller som är unika för Snapchat. Denna textmassa återspeglar mångfalden av information som finns på internet, vilket inkluderar desinformation och konfliktskapande ämnen.
Träningsprocessen utformades i syfte att undvika förstärkande av skadlig eller felaktig information och modellen har också finjusterats för att minska språkbias och prioritera faktainformation — även om det inte alltid lyckas fullt ut. Snap har också lagt till ytterligare attribut och säkerhetsfunktioner som är unika för Snapchat.
Begränsningar hos My AI
Vi arbetar ständigt med att förbättra och utveckla My AI men det är möjligt att My AI:s svar kan innehålla partiskt, felaktigt, skadligt eller vilseledande innehåll. Eftersom My AI är under ständig utveckling bör du alltid dubbelkontrollera svar som My AI ger innan du litar på några råd och du bör inte dela konfidentiell eller känslig information. Till skillnad från chattar med vänner kommer alla meddelanden med My AI att sparas om de inte raderas och de kan användas för att förbättra Snaps produkter samt anpassa din upplevelse, vilket inkluderar annonser.
My AI:s svar är ibland begränsade till den senaste informationen i de underliggande modellernas träningsdata. Detta innebär att My AI:s svar kanske inte är aktuella angående senaste nyheter och evenemang. My AI kan också undvika vissa känsliga ämnen när det är lämpligt.