My AI este un chatbot experimental, prietenos, disponibil pentru Snapchatteri.
Abordarea noastră privind siguranța AI
Ne pasă foarte mult de siguranța și bunăstarea comunității noastre și depun efort pentru ca produsele noastre să reflecte aceste valori. My AI este bazată pe modele lingvistice mari, cum ar fi modelele GPT de la OpenAi și modelele Gemini de la Google, și a fost antrenată pe o gamă variată de texte, cu îmbunătățiri suplimentare ale siguranței și controale unice pentru Snapchat. În timp ce My AI a fost programat să respecte anumite reguli, astfel încât informațiile pe care le furnizează să nu fie dăunătoare (inclusiv, să evite răspunsurile violente, care instigă la ură, cu un conținut sexual explicit sau periculoase în orice fel și să evite perpetuarea prejudecăților nocive), ar putea să mai și dea greș.
Integrăm aceleași garanții și instrumente pe care le folosim pe întreaga platformă Snapchat. Blocarea rezultatelor pentru cuvintele cheie care includ droguri și argou este, de asemenea, unul din modurile în care am personalizat My AI. În plus, dacă Snapchatterii caută (oriunde pe Snapchat) o serie de subiecte legate de sănătatea mentală, pot primi răspunsuri de la oganizații de experți. Acest instrument, pe care l-am denumit Here For You, va apărea în chat-urile cu My AI.
De asemenea, lucrăm la a adăuga instrumente suplimentare în componentele Centrului pentru Familie relaționate cu My AI, care ar oferi părinților mai multă vizibilitate și control în ceea ce privește modul în care copiii lor adolescenți folosesc My AI.
Feedback
Ca și alte tipuri de inteligență artificială și tehnologii de învățare, chatboții AI devin tot mai buni pe măsură ce sunt folosiți. Încurajăm Snapchatterii să ne trimită părerile lor, în special dacă ceva nu merge bine, pentru ca noi să putem îmbunătăți tehnologia din jurul OpenAI.
Snapchatterii pot ajuta echipa noastră oferindu-i feedback despre orice răspuns My AI. Pentru asta, trebuie să apese îndelung pe răspunsul respectiv, spunând-ne mai multe despre ce le-ar plăcea sau vadă mai mult (sau mai puțin), în timp ce continuă să antreneze My AI.
Pentru a raporta o conversație trimisă de My AI...
- Ține apăsat pe răspunsul conversației și apasă pe „Raportează”
- Spune-ne de ce raportezi conversația
- Atinge „Trimite”
Dezinformarea și subiectele controversate
My AI este bazată pe modele lingvistice mari, cum ar fi modelele GPT de la OpenAI și modelele Gemini de la Google și a fost antrenată pe o gamă variată de texte, cu îmbunătățiri suplimentare ale siguranței și controale unice pentru Snapchat. Acest corpus a reflectat diversitatea informațiilor disponibile pe internet, inclusiv dezinformarea și subiectele controversate.
Procesul de antrenare a fost conceput pentru a evita amplificarea informațiilor dăunătoare sau inexacte, iar modelul a fost, de asemenea, reglat pentru a reduce prejudecățile de limbaj și pentru a acorda prioritate informațiilor factuale, deși este posibil să nu fie întotdeauna de succes. Snap a adăugat, de asemenea, atribute suplimentare și caracteristici de siguranță unice pentru Snapchat.
Limitările My AI
Lucrăm în mod constant pentru a îmbunătăți și a evolua My AI, dar este posibil ca răspunsurile My AI să includă conținut părtinitor, incorect, dăunător sau înșelător. Deoarece My AI este o funcție în evoluție, trebuie să verifici întotdeauna în mod independent răspunsurile furnizate de My AI înainte de a te baza pe orice sfat și nu trebuie să împărtășești informații confidențiale sau sensibile. Spre deosebire de alte chat-uri cu prietenii, toate mesajele cu My AI vor fi păstrate, în afara cazului în care le ștergi tu, și pot fi folosite pentru a îmbunătăți produsele Snap, pentru a-ți personaliza experiența (inclusiv anunțurile pe care le vezi).
Răspunsurile My AI sunt uneori limitate la cele mai recente informații din datele de formare ale modelelor de bază. Acest lucru înseamnă că răspunsurile My AI ar putea să nu fie la curent cu știrile și evenimentele recente. My AI poate evita, de asemenea, anumite subiecte sensibile, după caz.