Moja umetna inteligenca je eksperimentalna, prijazna, klepetava trenutno na voljo uporabnikom Snapchat.
Naš pristop k varnosti v inteligenci
Zelo nas skrbi varnost in dobro počutje naše skupnosti in si prizadevamo, da bi odražali te vrednote v naših izdelkih. Mojo umetno inteligenco poganjajo veliki jezikovni modeli, kot so modeli GPT iz modelov OpenAI in Gemini iz Googla in je usposobljen za raznolika besedila, z dodatnimi varnostnimi izboljšavami in nadzorom, ki so edinstveni za Snapchat. Medtem ko je bila moja inteligenca programirana, da upošteva določene smernice, zato informacije, ki jih nudi, niso škodljive (vključno z izogibanjem odzivom, ki so nasilni, sovražni, spolno eksplicitni ali drugače nevarni; in izogibanjem ohranjanju škodljivih pristranskosti), morda ne bodo vedno uspešne.
V Snapchatu vključujemo enake zaščitne ukrepe in orodja, ki jih uporabljamo. Blokiranje rezultatov za ključne besede drog in sleng je tudi del tega, kako smo prilagodili moji AI. Poleg tega bodo v primeru, da Snapchat uporabniki iščejo vrsto vprašanj duševnega zdravja kjerkoli v Snapchatu, služili viri strokovnih organizacij. To orodje, imenovano Tukaj za vas, bo prikazalo v klepetu z razdelkom My AI.
Prav tako si prizadevamo za dodajanje dodatnih orodij v naš družinski center okoli moje umetne inteligence, ki bi staršem omogočila večjo vidnost in nadzor nad uporabo svojih najstnikov v moji inteligenci.
Povratne informacije
Tako kot druge vrste tehnologij umetne inteligence in strojnega učenja tudi klepetalnice AI izboljšujejo, bolj jih uporabljajo. Spodbujamo uporabnike Snapchat, da nam predložijo povratne informacije, še posebej, če gre kaj narobe, zato lahko delamo za razvoj tehnologije skupaj z OpenAI.
Uporabniki Snapchat lahko z lahkoto pošiljajo povratne informacije naši ekipi tako, da dolgo pritiskajo na kakršenkoli odziv moje umetne inteligence, da si delijo več o tem, kaj si želijo videti bolj ali manj, medtem ko še naprej usposabljamo mojo AI.
Če želite prijaviti klepet, prejeto od moje AI...
- Pritisnite in držite odgovor za klepet in tapnite »Poročilo«
- Povejte nam, zakaj želite klepet prijaviti
- Tapnite »Pošlji«
Napačne informacije in razdeljene teme
Mojo umetno inteligenco poganjajo veliki jezikovni modeli, kot so modeli GPT iz modelov OpenAI in Gemini iz Googla in je usposobljen za raznolika besedila, z dodatnimi varnostnimi izboljšavami in nadzorom, ki so edinstveni za Snapchat. To telo je odražalo raznolikost informacij, ki so na voljo na internetu, vključno z napačnimi informacijami in razvejanimi temami.
Postopek usposabljanja je bil zasnovan tako, da bi preprečil širjenje škodljivih ali netočnih informacij, model pa je bil prav tako natančno prilagojen za zmanjšanje prijav v jeziku in dajanje prednosti dejanskim informacijam – čeprav morda ni vedno uspešno. Snap je dodal tudi dodatne atribute in varnostne funkcije, ki so edinstvene v Snapchatu.
Omejitve moje AI’s
Nenehno si prizadevamo izboljšati in razvijati mojo AI, vendar je možno, da lahko odgovori moje AII vključujejo pristransko, nepravilno, škodljivo ali zavajajočo vsebino. Ker je moja umetna inteligenca razvijajoča se funkcija, morate vedno neodvisno preveriti odgovore, ki jih je posredovala moja inteligenca, preden se opirajo na kakršnekoli nasvete, in ne smete deliti zaupnih ali občutljivih podatkov. Za razliko od drugih klepetov s prijatelji bodo vsa sporočila z mojo inteligenco ohranjena, razen če jih izbrišete in lahko uporabite za izboljšanje izdelkov Snap, in za prilagajanje vaših izkušenj, vključno z oglasov.
Odgovori moje AII so včasih omejeni na najnovejše informacije v podatkih o usposabljanju osnovnih modelov. To pomeni, da odzivi moje AII morda ne bodo aktualni v nedavnih poročilih in dogodkih. Moja umetna inteligenca lahko tudi prepreči nekatere občutljive teme, kot je primerno.