My AI er en eksperimentel, venlig chatbot, der i øjeblikket er tilgængelig for Snapchattere.
Vores tilgang til AI-sikkerhed
Vi går meget op i vores fællesskabs sikkerhed og velvære og arbejder for at afspejle disse værdier i vores produkter. My AI er drevet af store sprogmodeller som GPT-modeller fra OpenAI og Gemini-modeller fra Google og er blevet trænet op med et stort og varieret udvalg af tekster, med ekstra sikkerhedsforbedringer og kontroller, som er unikke for Snapchat. Selv om My AI er programmeret til at overholde visse retningslinjer for at sikre at de oplysninger, den giver, ikke er skadelige (herunder for at undgå svar, der er voldelige, hadefulde, seksuelt eksplicitte eller på anden måde farlige, og for at undgå at fastholde skadelige fordomme), lykkes det måske ikke altid.
Vi integrerer de samme sikkerhedsforanstaltninger og værktøjer, som vi bruger på Snapchat. Blokering af resultater, der indeholder nøgleord og slang, relateret til stoffer er også en a de måder, hvorpå vi har tilpasset My AI. Hvis Snapchattere søger efter information om en række mentale sundhedsproblemer, et hvilket som helst sted på Snapchat, vil de desuden få adgang til ressourcer fra ekspertorganisationer. Dette værktøj, der hedder Here For You, vil blive vist i chats med My AI.
Vi arbejder også på at tilføje yderligere værktøjer til vores familiecenter omkring My AI, som vil give forældre mere synlighed og kontrol over deres teenagers brug af My AI.
Misinformation og emner, der skaber splid
My AI er drevet af store sprogmodeller som GPT-modeller fra OpenAI og Gemini-modeller fra Google og er blevet trænet op med et stort og varieret udvalg af tekster, med ekstra sikkerhedsforbedringer og kontroller, som er unikke for Snapchat. Dette korpus afspejlede den mangfoldighed af information, der er tilgængelig på internettet, herunder misinformation og emner, der skaber splid.
Træningsprocessen blev designet til at undgå at forstærke skadelige eller unøjagtige oplysninger, og modellen blev også finjusteret til at reducere sproglige fordomme og prioritere faktuelle oplysninger - selv om det ikke altid lykkes. Snap har også tilføjet yderligere egenskaber og sikkerhedsfunktioner, der er unikke for Snapchat.
My AI's begrænsninger
Vi arbejder hele tiden på at forbedre og udvikle My AI, men det er muligt, at My AI's svar kan indeholde forudindtaget, ukorrekt, skadeligt eller vildledende indhold. Da My AI er en funktion, der er under udvikling, bør du altid kontrollere svarene fra My AI uafhængigt, før du stoler på råd, og du bør ikke dele fortrolige eller følsomme oplysninger. I modsætning til andre chats med venner vil alle beskeder med My AI blive gemt, medmindre du sletter dem, og de kan bruges til at forbedre Snap-produkterne og tilpasse din oplevelse, herunder de annoncer, du får vist.
My AI's svar er nogle gange begrænset til de seneste oplysninger i de underliggende modellers træningsdata. Det betyder, at My AI's svar måske ikke er aktuelle i forhold til de seneste nyheder og begivenheder. My AI kan også undgå visse følsomme emner, hvis det er passende og relevant.