My AI er en eksperimentell, vennlig chatbot som er tilgjengelig for Snapchat-brukere.
Vår tilnærming til AI-sikkerhet
Vi er opptatt av sikkerheten og velværet til samfunnet vårt, og vi jobber for at disse verdiene skal reflekteres i produktene. My AI er drevet av store språkmodeller som GPT-modeller fra OpenAI og Gemini-modeller fra Google og har blitt trent på et variert utvalg av tekster, med ytterligere sikkerhetsforbedringer og kontroller som er unike for Snapchat. Selv om My AI ble programmert til å overholde visse retningslinjer slik at informasjonen den gir ikke er skadelig (inkludert å unngå svar som er voldelige, hatefulle, seksuelt eksplisitte eller på annen måte farlige; og unngå å opprettholde skadelige skjevheter), kan det hende det ikke alltid lykkes.
Vi integrerer de samme sikkerhetstiltakene og verktøyene som brukes på tvers av Snapchat. Å blokkere resultater for søkeord og slang er også en del av hvordan vi har tilpasset My AI. Og hvis Snapchattere søker etter en rekke psykiske helseplager hvor som helst på Snapchat, vil de få ressurser fra ekspert-organisasjoner. Verktøyet er kalt, Here For You, og vil dukke opp i chatter med My AI.
Vi jobber også med å legge til flere verktøy i Familiesenteret vårt knyttet til My AI, som kan gi foreldre mer synlighet og kontrollere tenåringens bruk av My AI.
Feilinformasjon og kontroversielle emner
My AI er drevet av store språkmodeller som GPT-modeller fra OpenAI og Gemini-modeller fra Google og har blitt trent på et variert utvalg av tekster, med ytterligere sikkerhetsforbedringer og kontroller som er unike for Snapchat. Dette korpuset reflekterte mangfoldet av informasjon tilgjengelig på Internett, inkludert feilinformasjon og kontrovesielle emner.
Opplæringsprosessen var designet for å unngå forsterkning av skadelig eller unøyaktig informasjon, og modellen ble også finjustert for å redusere skjevheter i språket og for å prioritere faktainformasjon – selv om det ikke alltid lykkes. Snap har også lagt til flere visuelle egenskaper og sikkerhetsfunksjoner som er unike for Snapchat.
My AIs begrensninger
Vi jobber kontinuerlig med å forbedre og utvikle My AI, men det er mulig at My AIs svar kan inkludere partisk, feilaktig, skadelig eller misvisende innhold. Fordi My AI er en funksjon i utvikling, bør du alltid sjekke svar gitt av My AI uavhengig før du stoler på noen råd, og du bør ikke dele konfidensiell eller sensitiv informasjon. I motsetning til andre chatter med venner, vil alle meldinger med My AI bli lagret med mindre du sletter dem, og kan brukes til å forbedre Snaps produkter og for å tilpasse opplevelsen din, inkludert annonser.
My AI sine svar er noen ganger begrenset til den nyeste informasjonen i modellens treningsdata. Dette betyr at svarene fra My AI ikke nødvendigvis har informasjon om de siste nyhetene og hendelsene. My AI kan også unngå visse sensitive emner der det er hensiktsmessig.