Moja umetna inteligenca je eksperimentalni, prijazen klepetalni robot, ki je trenutno na voljo uporabnikom Snapchata.
Naš pristop k varnosti umetne inteligence
Zelo nam je mar za varnost in dobro počutje naše skupnosti in si prizadevamo, da bi te vrednote odražali v naših izdelkih. Mojo umetno inteligenco poganjajo modeli velikih jezikov, kot so modeli GPT podjetja OpenAI in modeli Gemini podjetja Google, in je bila usposobljena na najrazličnejših besedilih, z dodatnimi varnostnimi izboljšavami in kontrolami, ki so edinstvene za Snapchat. Čeprav je bila moja umetna inteligenca programirana tako, da upošteva določene smernice, zato informacije, ki jih zagotavlja, niso škodljive (vključno z izogibanjem odzivom, ki so nasilni, sovražni, spolno eksplicitni ali kako drugače nevarni; in izogibanjem ohranjanju škodljivih pristranskosti), morda ni vedno uspešna.
V Snapchatu uporabljamo enake zaščitne ukrepe in orodja, kot jih uporabljamo. Blokiranje rezultatov za ključne besede in sleng, povezane z drogami, je prav tako del prilagoditve Moje umetne inteligence. Poleg tega, če uporabniki Snapchata kjer koli na Snapchatu iščejo vrsto težav z duševnim zdravjem, jim bodo na voljo viri strokovnih organizacij. To orodje, imenovano Tukaj za vas, se bo prikazalo v klepetih z mojo umetno inteligenco.
Prav tako delamo na dodajanju dodatnih orodij v naš Družinski center v zvezi z My AI, ki bi staršem omogočila večjo preglednost in nadzor nad uporabo My AI s strani njihovih najstnikov.
Dezinformacije in sporne teme
Mojo umetno inteligenco poganjajo modeli velikih jezikov, kot so modeli GPT podjetja OpenAI in modeli Gemini podjetja Google, in je bila usposobljena na najrazličnejših besedilih, z dodatnimi varnostnimi izboljšavami in kontrolami, ki so edinstvene za Snapchat. Ta zbirka je odražala raznolikost informacij, ki so na voljo na internetu, vključno z dezinformacijami in spornimi temami.
Proces usposabljanja je bil zasnovan tako, da se je izognilo širjenju škodljivih ali netočnih informacij, model pa je bil tudi natančno uglašen za zmanjšanje pristranskosti v jeziku in dajanje prednosti dejanskim informacijam – čeprav to morda ni vedno uspešno. Snap je dodal tudi dodatne atribute in varnostne funkcije, ki so edinstvene za Snapchat.
Omejitve moje umetne inteligence
Nenehno si prizadevamo za izboljšanje in razvoj Moje umetne inteligence, vendar je možno, da njeni odzivi vključujejo pristransko, napačno, škodljivo ali zavajajočo vsebino. Ker je My AI funkcija v razvoju, morate vedno neodvisno preveriti odgovore, ki jih ponuja My AI, preden se zanesete na kakršen koli nasvet, in ne smete deliti zaupnih ali občutljivih informacij. Za razliko od drugih klepetov s prijatelji bodo vsa sporočila z My AI shranjena, razen če jih izbrišete, in se lahko uporabijo za izboljšanje Snapovih izdelkov in prilagajanje vaše izkušnje, vključno z oglasi.
Odzivi moje umetne inteligence so včasih omejeni na najnovejše informacije v učnih podatkih osnovnih modelov. To pomeni, da odzivi moje umetne inteligence morda ne bodo ažurni glede nedavnih novic in dogodkov. Moja umetna inteligenca se lahko po potrebi tudi izogne določenim občutljivim temam.