My AI er en eksperimentell, vennlig chatbot for øyeblikket tilgjengelig for Snapchattere.
Vår tilnærming til AI-sikkerhet
Vi bryr oss dypt om sikkerheten og velferden til samfunnet vårt og jobber for å gjenspeile disse verdiene i produktene våre. My AI er drevet av store språkmodeller som GPT-modeller fra OpenAI og Gemini-modeller fra Google og har blitt lært opp på en rekke forskjellige tekster, med ytterligere sikkerhetsforbedringer og kontroller som er unike for Snapchat. Selv om My AI ble programmert til å følge visse retningslinjer, slik at informasjonen den gir ikke er skadelig (inkludert å unngå reaksjoner som er voldelige, hatefulle, seksuelt eksplisitte eller på annen måte farlige; og unngå å opprettholde skadelige skjevheter), er det ikke alltid at den lykkes.
Vi integrerer de samme sikkerhetstiltakene og verktøyene som vi bruker på Snapchat. Blokkering av resultater for søkeord om narkotika og slang er også en del av hvordan vi har tilpasset My AI. I tillegg, hvis Snapchattere søker etter en rekke psykiske problemerstllinger hvor som helst på Snapchat, vil de motta ressurser fra ekspertorganisasjoner. Dette verktøyet, kalt Here For You, vil dukke opp i chatter med My AI.
Vi jobber også med å legge til flere verktøy i familiesenteret vårt rundt My AI som vil gi foreldre mer synlighet og kontroll rundt tenåringenes bruk av My AI.
Tilbakemelding
Som andre typer kunstig intelligens og maskinlæringsteknologier, forbedres AI-chatboter jo mer de brukes. Vi oppfordrer Snapchattere til å sende tilbakemeldinger til oss, spesielt hvis noe går galt, slik at vi kan jobbe med å utvikle teknologien sammen med OpenAI.
Snapchattere kan enkelt sende tilbakemeldinger til teamet vårt ved å trykke lenge på et hvilket som helst svar fra My AI for å dele mer om hva de vil se mer eller mindre av mens vi fortsetter å lære opp My AI.
For å rapportere en chat mottatt fra My AI ...
- Trykk og hold på chat-svaret og trykk på "Rapporter"
- Fortell oss hvorfor du rapporterer chatten
- Trykk på "Send"
Feilinformasjon og splittende emner
My AI er drevet av store språkmodeller som GPT-modeller fra OpenAI og Gemini-modeller fra Google og har blitt lært opp på en rekke forskjellige tekster, med ytterligere sikkerhetsforbedringer og kontroller som er unike for Snapchat. Dette korpuset reflekterte mangfoldet av informasjon tilgjengelig på internett, inkludert feilinformasjon og splittende emner.
Opplæringsprosessen ble designet for å unngå å forsterke skadelig eller unøyaktig informasjon, og modellen ble også finjustert for å redusere skjevheter i språket og for å prioritere faktainformasjon - selv om det kanskje ikke alltid er vellykket. Snap har også lagt til flere attributter og sikkerhetsfunksjoner som er unike for Snapchat.
My AI sine begrensninger
Vi jobber hele tiden med å forbedre og utvikle My AI, men det er mulig at svarene til My AI kan inneholde partisk, feil, skadelig eller villedende innhold. Fordi My AI er en funksjon i utvikling, bør du alltid uavhengig sjekke svarene du får fra My AI før du stoler på noen råd, og du bør ikke dele konfidensiell eller sensitiv informasjon. I motsetning til andre chatter med venner, vil alle meldinger med My AI oppbevares med mindre du sletter dem og kan brukes til å forbedre Snap sine produkter og til å tilpasse opplevelsen din, inkludert annonser.
My AIs svar er noen ganger begrenset til den nyeste informasjonen i de underliggende modellenes treningsdata. Dette betyr at svarene til My AI kanskje ikke er oppdatert på siste nyheter og hendelser. My AI kan også unngå visse sensitive emner etter behov.