My AI er en eksperimentell, vennlig chatbot som er tilgjengelig for Snapchattere.
Vår tilnærming til AI-sikkerhet
Vi bryr oss veldig mye om sikkerheten og trivselen i samfunnet vårt og jobber for å reflektere disse verdiene i produktene våre. My AI er drevet av store språkmodeller som GPT3.5 og GPT4 fra OpenAI og bygget på teknologien dens, og den har blitt trent på en rekke ulike tekster. Mens My AI ble programmert til å overholde visse retningslinjer slik at informasjonen den gir ikke er skadelig (inkludert å unngå svar som er voldelige, hatefulle eller seksuelt eksplisitte eller på annen måte farlig; samt å unngå å opprettholde skadelige biaser), er det ikke alltid at den lykkes.
Vi integrerer de samme beskyttelsene og verktøyene vi på Snapchat. Å blokkere resultater for nøkkelord om narkotika og slang er også en del av hvordan vi har tilpasset My AI. I tillegg, hvis Snapchattere søker etter en rekke psykiske problemer på Snapchat, vil de bli gitt ressurser fra ekspertorganisasjoner. Verktøyet som kalles Here For You, vil dukke opp i chatter med My AI.
Vi jobber også med å legge til flere verktøy i Familiesenteret vårt knyttet til My AI som gir foreldre mer synlighet og kontroll over tenåringens bruk av My AI.
Tilbakemeldinger
Som alle andre typer kunstig intelligens og maskinlæringsteknologier, forbedres AI-chatbots jo mer de brukes. Vi oppfordrer Snapchattere til å gi oss tilbakemeldinger, spesielt hvis noe går galt, slik at vi kan arbeide for å utvikle teknologien sammen med OpenAI.
Snapchattere kan enkelt sende tilbakemeldinger til teamet vårt ved å trygge og holde på alle svarene som My AI gir, for å dele mer om hva de ønsker å se mer eller mindre av mens vi fortsetter å lære opp My AI.
For å rapportere en chat som er mottatt fra My AI...
- Trykk og hold på chat-svaret og trykk på "Rapporter"
- Gi oss beskjed om hvorfor du rapporterer chatten
- Trykk på "Send inn"
Feilinformasjon og omstridte temaer
My AI drives av store språkmodeller som GPT3.5 og GPT4 fra OpenAI, som har blitt opplært på en stor og variert mengde tekster, inkludert bøker, artikler og nettsteder. Dette tekstmaterialet reflekterte mangfoldet av informasjon som er tilgjengelig på internett, inkludert feilinformasjon og splittende emner.
Treningsprosessen ble designet for å unngå å fremheve skadelig eller unøyaktig informasjon, og modellen ble også finjustert for å redusere skjevheter i språket og for å prioritere faktiske opplysninger - selv om det kanskje ikke alltid er vellykket. Snap har også lagt til ekstra attributter og sikkerhetsfunksjoner som er unike for Snapchat.
Begrensninger ved My AI
Vi jobber kontinuerlig med å forbedre og utvikle My AI – men det kan hende at svarene fra My AI er partiske, feilaktige, skadelige eller kan ha villedende innhold. Fordi My AI er en funksjon som er under utvikling, bør du uavhengig alltid sjekke opp i alle svar du får fra My AI før du stoler på rådene den gir, og du bør ikke dele konfidensiell eller sensitiv informasjon. I motsetning til andre chatter med venner, vil alle meldinger med My AI bli beholdt med mindre du sletter dem, og kan brukes til å forbedre Snaps produkter og for å tilpasse opplevelsen din, inkludert annonser.
My AIs svar er noen ganger begrenset til den siste informasjonen i de underliggende treningsdataene for modellen. Dette betyr at My AIs svar kanskje ikke er oppdatert på de siste nyhetene og hendelsene. My AI may also avoid certain sensitive subjects as appropriate.