Moja UI je eksperimentalna, prijateljska, chatbot trenutno dostupna Snapchatterima.
Naš pristup sigurnosti umjetne inteligencije
Duboko nam je stalo do sigurnosti i dobrobiti naše zajednice i rada na odražavanju tih vrijednosti u našim proizvodima. Moj AI pokreće veliki jezični modeli poput GPT modela iz Googleovih OpenAI i Gemini te je trenirao na različitim vrstama tekstova, s dodatnim sigurnosnim poboljšanjima i kontrolama jedinstvenim Snapchat. Dok je Moja UI bila programirana da se pridržava određenim smjernicama pa informacije koje on pruža nisu štetne (uključujući izbjegavanje odgovora koji su nasilni, mržnji, seksualno eksplicitni ili na drugi način opasni; i izbjegavanje trajnog štetnih pristranosti), možda neće uvijek biti uspješno.
Ugrađujemo iste zaštitne mjere i alate koje koristimo u Snapchatu. Blokiranje rezultata za ključne riječi i slang također je dio načina na koji smo mi prilagodili Moj AI. Osim toga, ako Snapchatteri traže niz problema s mentalnim zdravljem bilo gdje na Snapchatu, oni će biti posluženi resursima stručnih organizacija. Ovaj alat, koji je zvao Ovdje za tebe, pojavit će se u razgovorima s Mojim UI-om.
Također radimo na dodavanju dodatnih alata našem Obiteljskom centru oko Moje UI koji bi roditeljima dao veću vidljivost i kontrolu oko korištenja mojih AI-ja tinejdžera.
Povratne informacije
Kao i druge vrste tehnologija za umjetno inteligenciju i strojno učenje, AI chatbots poboljšavaju što se više koriste. Potiču Snapchattere da nam dostave povratne informacije, pogotovo ako nešto pođe po zlu, tako da možemo raditi na razvoju tehnologije zajedno s OpenAI.
Snapchatteri mogu lako slati povratne informacije našem timu dugim pritiskom na bilo koji odgovor My AI da dijele više o onome što žele vidjeti više ili manje dok nastavljamo trenirati Moj AI.
Prijaviti razgovor primljen od My AI...
- Pritisnite i držite odgovor na razgovor i dodirnite "Izvješće"
- Javite nam zašto izvješćujete razgovor
- Dodirnite ,,Pošalji''
Misinformation i razdvojene teme
Moj AI pokreće veliki jezični modeli poput GPT modela iz Googleovih OpenAI i Gemini te je trenirao na različitim vrstama tekstova, s dodatnim sigurnosnim poboljšanjima i kontrolama jedinstvenim Snapchat. Ovaj korpus reflected je raznolikost informacija dostupnih na internetu, uključujući pogrešne informacije i različite teme.
Proces obuke je osmišljen kako bi se izbjeglo pojačanje štetnih ili netočnih informacija, a model je također bio fino podešen za smanjenje pristranosti na jeziku i određivanje prioriteta činjeničnih informacija - iako možda neće uvijek biti uspješan. Snap je također dodao dodatne atribute i sigurnosne značajke jedinstvene Snapchat.
Ograničenja mog AI-ja
Stalno radimo na poboljšanju i razvoju Moj AI-ja, ali je moguće da odgovori Moj AI-ja mogu uključivati pristrano, netočno, štetno ili obmanjujući sadržaj. Budući da je Moja inteligencija evoluirana značajka, uvijek biste trebali samostalno provjeriti odgovore koje mi daje UI prije nego što se oslanjaju na bilo koji savjet i ne biste trebali dijeliti povjerljive ili osjetljive informacije. Za razliku od drugih razgovora s prijateljima, sve poruke s Moj AI bit će zadržane osim ako ih ne izbrišeš i mogu se koristiti za poboljšanje Snapovih proizvoda i za prilagodbu vašeg iskustva, uključujući oglase.
Odgovori mog AI-ja ponekad su ograničeni na najnovije informacije u podacima o obuci osnovnih modela. To znači da odgovori Mog AI-ja možda nisu aktualni na nedavnim vijestima i događajima. Moja UI može također izbjeći određene osjetljive subjekte prema potrebi.