Moj AI je eksperimentalni, prijateljski chatbot trenutno dostupan Snapchatterima.
Naš pristup sigurnosti umjetne inteligencije
Duboko nam je stalo do sigurnosti i dobrobiti naše zajednice i nastojimo odraziti te vrijednosti u našim proizvodima. Moju umjetnu inteligenciju pokreću modeli velikih jezika poput GPT modela iz OpenAI-a i Gemini modela iz Googlea te je obučena na raznolikom rasponu tekstova, s dodatnim sigurnosnim poboljšanjima i kontrolama jedinstvenim za Snapchat. Iako je My AI programiran da se pridržava određenih smjernica kako informacije koje pruža ne bi bile štetne (uključujući izbjegavanje nasilnih, mržnjom ispunjenih, seksualno eksplicitnih ili na drugi način opasnih odgovora; te izbjegavanje širenja štetnih predrasuda), možda neće uvijek biti uspješan.
Integriramo iste zaštitne mjere i alate koje koristimo u cijelom Snapchatu. Blokiranje rezultata za ključne riječi i sleng povezane s drogama također je dio načina na koji smo prilagodili Moju umjetnu inteligenciju. Osim toga, ako korisnici Snapchata traže niz problema s mentalnim zdravljem bilo gdje na Snapchatu, bit će im pruženi resursi stručnih organizacija. Ovaj alat, nazvan Here For You, prikazivat će se u chatovima s My AI.
Također radimo na dodavanju dodatnih alata u naš Obiteljski centar vezanih uz My AI koji bi roditeljima pružili veću vidljivost i kontrolu nad korištenjem My AI od strane njihovih tinejdžera.
Dezinformacije i kontroverzne teme
Moju umjetnu inteligenciju pokreću modeli velikih jezika poput GPT modela iz OpenAI-a i Gemini modela iz Googlea te je obučena na raznolikom rasponu tekstova, s dodatnim sigurnosnim poboljšanjima i kontrolama jedinstvenim za Snapchat. Ovaj korpus odražavao je raznolikost informacija dostupnih na internetu, uključujući dezinformacije i kontroverzne teme.
Proces obuke osmišljen je kako bi se izbjeglo pojačavanje štetnih ili netočnih informacija, a model je također fino podešen kako bi se smanjile pristranosti u jeziku i dale prioritet činjeničnim informacijama - iako to možda neće uvijek biti uspješno. Snap je također dodao dodatne atribute i sigurnosne značajke jedinstvene za Snapchat.
Ograničenja moje umjetne inteligencije
Neprestano radimo na poboljšanju i razvoju Moje umjetne inteligencije, ali moguće je da odgovori Moje umjetne inteligencije uključuju pristran, netočan, štetan ili obmanjujući sadržaj. Budući da je My AI značajka u stalnom razvoju, uvijek biste trebali samostalno provjeriti odgovore koje pruža My AI prije nego što se oslonite na bilo kakav savjet i ne biste trebali dijeliti povjerljive ili osjetljive informacije. Za razliku od drugih razgovora s prijateljima, sve poruke s My AI bit će sačuvane osim ako ih ne izbrišete i mogu se koristiti za poboljšanje Snap proizvoda i personalizaciju vašeg iskustva, uključujući oglase.
Odgovori moje umjetne inteligencije ponekad su ograničeni na najnovije informacije u podacima za obuku temeljnih modela. To znači da odgovori moje umjetne inteligencije možda neće biti ažurni na najnovije vijesti i događaje. Moja umjetna inteligencija također može izbjegavati određene osjetljive teme prema potrebi.