My AI är en experimentell, vänlig, chattbot som för närvarande är tillgänglig för Snapchattare.
Vår strategi för AI-säkerhet
Vi bryr oss om vår communitys säkerhet och välbefinnande och arbetar för att återspegla dessa värderingar i våra produkter. My AI drivs av LLM:er som GPT3.5 och GPT4 från OpenAI och är byggt på dess teknik och har tränats på ett varierat utbud av texter. My AI har programmerats att följa vissa riktlinjer så att den information som tillhandahålls inte är skadlig (bland annat undviks svar som är våldsamma, hatiska, sexuellt explicita, farliga, partiska osv.), men det lyckas inte alltid.
Vi använder samma säkerhetsåtgärder och verktyg som vi använder i Snapchat. My AI har även anpassats att blockera resultat för sökord som handlar om droger eller innehåller slang. Om snapchattare söker efter svar på en rad psykiska problem var som helst på Snapchat visas dessutom resurser från specialistorganisationer. Det här verktyget, som kallas Here For You, dyker upp i chattar med My AI.
Vi arbetar också med att lägga till fler verktyg för My AI i Family Center som ger föräldrarna större insyn i och kontroll över tonåringarnas användning av My AI.
Feedback
Precis som andra typer av artificiell intelligens och maskininlärningstekniker förbättras AI-chattbottar ju mer de används. Vi uppmuntrar snapchattare att ge oss feedback, särskilt om något blir fel, så att vi kan arbeta för att utveckla tekniken tillsammans med OpenAI.
Snapchattare kan enkelt skicka feedback till vårt team genom att trycka på ett svar från My AI för att dela vad de vill se mer eller mindre av medan vi fortsätter att träna My AI.
För att rapportera en chatt skickad av My AI…
- Tryck och håll chattsvaret och tryck på "Anmäl"
- Berätta varför du rapporterar chatten
- Tryck på "Skicka"
Desinformation och konfliktskapande ämnen
My AI drivs av Large Language Models (LLM) som GPT3.5 och GPT4 från OpenAI, som har tränats på en stor och varierad textmängd, inklusive olika typer av text som böcker, artiklar och webbsidor. Denna textmassa återspeglar mångfalden av information som finns på internet, vilket inkluderar desinformation och konfliktskapande ämnen.
Träningsprocessen utformades i syfte att undvika förstärkande av skadlig eller felaktig information och modellen har också finjusterats för att minska språkbias och prioritera faktainformation — även om det inte alltid lyckas fullt ut. Snap har också lagt till ytterligare attribut och säkerhetsfunktioner som är unika för Snapchat.
Begränsningar hos My AI
Vi arbetar ständigt med att förbättra och utveckla My AI men det är möjligt att My AIs svar kan innehålla partiskt, felaktigt, skadligt eller vilseledande innehåll. Eftersom My AI är under ständig utveckling bör du alltid dubbelkolla svar som My AI ger innan du litar på några råd och du bör inte dela konfidentiell eller känslig information. Till skillnad från chattar med vänner kommer alla meddelanden med My AI att sparas om de inte raderas och de kan användas för att förbättra Snaps produkter samt anpassa din upplevelse, vilket inkluderar annonser.
My AI:s svar är ibland begränsade till den senaste informationen i de underliggande modellernas träningsdata. Detta innebär att My AI:s svar kanske inte är aktuella angående senaste nyheter och evenemang. My AI kan också undvika vissa känsliga ämnen när det är lämpligt.