My AI er en eksperimentel, venlig chatbot, der i øjeblikket er tilgængelig for Snapchatters.
Vores tilgang til AI-sikkerhed
Vi går meget op i vores samfunds sikkerhed og velvære og arbejder for at afspejle disse værdier i vores produkter. My AI er drevet af store sprogmodeller som GPT3.5 og GPT4 fra OpenAI og bygget på deres teknologi, og den er blevet trænet på en bred vifte af tekster. Selv om My AI er programmeret til at overholde visse retningslinjer, så de oplysninger, den giver, ikke er skadelige (herunder at undgå svar, der er voldelige, hadefulde, seksuelt eksplicitte eller på anden måde farlige, og at undgå at fastholde skadelige fordomme), lykkes det måske ikke altid.
Vi integrerer de samme sikkerhedsforanstaltninger og værktøjer, som vi bruger på Snapchat. Blokering af resultater for nøgletekster om stoffer og slang er også en del af den måde, vi har tilpasset My AI på. Hvis Snapchatters søger efter en række mentale sundhedsproblemer et hvilket som helst sted på Snapchat, vil de desuden få adgang til ressourcer fra ekspertorganisationer. Dette værktøj, der hedder Here For You, vil blive vist i chats med My AI.
Vi arbejder også på at tilføje yderligere værktøjer til vores familiecenter omkring My AI, som vil give forældrene mere synlighed og kontrol over deres teenagers brug af My AI.
Feedback
Ligesom andre typer af kunstig intelligens og maskinlæringsteknologier forbedres AI-chatbots, jo mere de bruges. Vi opfordrer Snapchatters til at sende feedback til os, især hvis noget går galt, så vi kan arbejde på at udvikle teknologien sammen med OpenAI.
Snapchatters kan nemt sende feedback til vores team ved at trykke længe på et svar fra My AI for at dele mere om, hvad de gerne vil se mere eller mindre af, mens vi fortsætter med at træne My AI.
Sådan rapporterer du en chat modtaget fra My AI...
- Tryk og hold på chat-svaret, og tryk på 'Rapportér'.
- Lad os vide, hvorfor du anmelder chatten
- Tryk på 'Indsend'
Fejlinformation og emner, der skaber splittelse
My AI er drevet af store sprogmodeller som GPT3.5 og GPT4 fra OpenAI, som er blevet trænet på et stort og varieret tekstkorpus, herunder forskellige typer tekst som bøger, artikler og websider. Dette korpus afspejlede den mangfoldighed af information, der er tilgængelig på internettet, herunder misinformation og emner, der skaber splid.
Træningsprocessen blev designet til at undgå at forstærke skadelige eller unøjagtige oplysninger, og modellen blev også finjusteret til at reducere sproglige fordomme og prioritere faktuelle oplysninger - selv om det ikke altid lykkes. Snap har også tilføjet yderligere egenskaber og sikkerhedsfunktioner, der er unikke for Snapchat.
My AI's begrænsninger
Vi arbejder konstant på at forbedre og udvikle My AI, men det er muligt, at My AI's svar kan indeholde forudindtaget, ukorrekt, skadeligt eller vildledende indhold. Da My AI er en funktion, der er under udvikling, bør du altid kontrollere svarene fra My AI uafhængigt, før du stoler på råd, og du bør ikke dele fortrolige eller følsomme oplysninger. I modsætning til andre chats med venner vil alle beskeder med My AI blive gemt, medmindre du sletter dem, og de kan bruges til at forbedre Snap-produkterne og tilpasse din oplevelse, herunder annoncer, til dig.
My AI's svar er nogle gange begrænset til de seneste oplysninger i de underliggende modellers træningsdata. Det betyder, at My AI's svar måske ikke er aktuelle i forhold til de seneste nyheder og begivenheder. My AI kan også undgå visse følsomme emner, hvis det er relevant.