My AI is een experimentele, vriendelijke chatbot die momenteel beschikbaar is voor Snapchatters.
Onze aanpak van AI Veiligheid
We geven veel om de veiligheid en het welzijn van onze gemeenschap en werken hard om die waarden in onze producten terug te laten komen. My AI wordt mogelijk gemaakt door grote taalversies zoals GPT3.5 en GPT4 van OpenAI en is gebouwd op de technologie ervan, en het is getraind op een breed scala aan teksten. Hoewel My AI is geprogrammeerd om zich aan bepaalde richtlijnen te houden zodat de informatie die verstrekt wordt niet schadelijk is (waaronder het vermijden van reacties die gewelddadig, haatdragend, seksueel expliciet of anderszins gevaarlijk zijn; en het vermijden van het in stand houden van schadelijke vooroordelen), zal hij daar niet altijd in slagen.
We integreren dezelfde beveiligingen en tools die we gebruiken voor Snapchat. Het blokkeren van zoekresultaten die met drugs en straattaal te maken hebben is ook een onderdeel van hoe wij My AI hebben aangepast. Bovendien, als Snapchatters ergens op Snapchat zoeken naar een reeks geestelijke gezondheidsproblemen, krijgen ze bronnen van deskundige organisaties voorgesteld. Deze tool, genaamd Here for You, zal verschijnen in chats met My AI.
We werken ook aan het toevoegen van extra tools aan ons Familiecentrum rond My AI. Hiermee krijgen ouders meer zicht en controle over het gebruik van My AI door hun tieners.
Feedback
Net als andere soorten kunstmatige intelligentie en technologieën voor machinaal leren, worden AI-chatbots beter naarmate ze vaker worden gebruikt. Daarom moedigen wij Snapchatters aan om feedback aan ons te geven, vooral als er iets mis gaat. Hierdoor kunnen we samen met OpenAI werken aan de ontwikkeling van de technologie.
Snapchatters kunnen gemakkelijk feedback naar ons team sturen door lang te drukken op een antwoord van My AI, om meer te delen over wat ze meer of minder zouden willen zien terwijl wij My AI blijven trainen.
Om een Chat te rapporteren die is ontvangen via My AI ...
- Houd het chat-antwoord ingedrukt en tik op 'Rapporteren'
- Laat ons weten waarom je de Chat rapporteert
- Tik op 'Indienen'
Onjuiste informatie en controversiële onderwerpen
My AI wordt mogelijk gemaakt door grote taalversies zoals GPT3.5 en GPT4 van OpenAI, die zijn getraind op een groot en divers tekstcorpus, inclusief verschillende soorten tekst zoals boeken, artikelen en webpagina's. Dit corpus weerspiegelt de diversiteit van informatie die beschikbaar is op het internet, inclusief onjuiste informatie en controversiële onderwerpen.
Het trainingsproces werd zo ontworpen dat kwetsende of onjuiste informatie niet wordt versterkt, en het model werd ook verfijnd om vooroordelen in het taalgebruik te verminderen en feitelijke informatie voorrang te geven - hoewel dit niet altijd succesvol is. Snap heeft ook extra kenmerken en veiligheidsfuncties toegevoegd die uniek zijn voor Snapchat.
De beperkingen van My AI
We werken voortdurend aan het verbeteren en ontwikkelen van My AI, maar het is mogelijk dat de reacties van My AI bevooroordeelde, onjuiste, kwetsende of misleidende inhoud kunnen bevatten. Omdat My AI een evoluerende functie is, moet je altijd onafhankelijk de antwoorden van My AI controleren voordat je vertrouwt op enig advies, en deel je geen vertrouwelijke of gevoelige informatie. In tegenstelling tot andere chats met vrienden worden alle berichten met My AI bewaard tenzij je ze verwijdert. Ze kunnen dus gebruikt worden om de producten van Snap te verbeteren en jouw ervaring te personaliseren, inclusief advertenties.
De reacties van My AI worden soms beperkt tot de nieuwste informatie in de trainingsgegevens van de onderliggende systemen. Dit betekent dat de reacties van My AI mogelijk niet actueel zijn wat betreft het nieuws en andere gebeurtenissen. My AI kan ook sommige gevoelige onderwerpen vermijden.