My AI ir eksperimentāls, draudzīgs tērzēšanas robots, kas pašlaik ir pieejams Snapchat lietotājiem.
Mūsu pieeja mākslīgā intelekta drošībai
Mēs ļoti rūpējamies par mūsu kopienas drošību un labsajūtu un strādājam, lai atspoguļotu šīs vērtības savos produktos. My AI darbību nodrošina lielo valodu modeļi, piemēram, GPT modeļi no OpenAI un Gemini modeļi no Google, un tas ir apmācīts, izmantojot daudzveidīgu tekstu klāstu, ar papildu drošības uzlabojumiem un lietotnei Snapchat unikālām vadīklām. Lai gan My AI tika programmēts ievērot noteiktas vadlīnijas, lai tā sniegtā informācija nebūtu kaitīga, (tostarp izvairīties no vardarbīgām, naidpilnām, seksuāla rakstura vai citādi bīstamām atbildēm un izvairīties no kaitīgiem aizspriedumiem), šis rīks ne vienmēr var to nodrošināt.
Mēs integrējam tos pašus aizsardzības līdzekļus un rīkus, ko izmantojam visā Snapchat. Rīks My AI ir arī pielāgots bloķēt rezultātus saistībā ar narkotiku atslēgvārdiem un slengu. Turklāt, ja Snapchat lietotāji jebkurā vietā platformā Snapchat meklēs informāciju saistībā ar garīgās veselības problēmām, viņiem tiks nodrošināti resursi no ekspertu organizācijām. Tērzējot ar My AI, tika parādīts rīks ar nosaukumu Here For You.
Mēs arī strādājam pie papildu rīku pievienošanas mūsu Ģimenes centram saistībā ar My AI, kas vecākiem sniegtu lielāku redzamību un kontroli pār to, kā viņu pusaudži izmanto My AI.
Atsauksmes
Tāpat kā citi mākslīgā intelekta un mašīnmācīšanās tehnoloģiju veidi, mākslīgā intelekta tērzēšanas roboti kļūst labāki, lietojot tos arvien vairāk. Mēs aicinām Snapchat lietotājus sniegt mums atsauksmes, jo īpaši, ja kaut kas noiet greizi, lai mēs varētu strādāt un attīstīt tehnoloģiju kopā ar OpenAI.
Snapchat lietotāji var viegli nosūtīt atsauksmes mūsu komandai, nospiežot un turot uz jebkuras atbildes no My AI, lai pastāstītu vairāk par to, ko viņi vēlētos redzēt vairāk vai mazāk, kamēr mēs turpinām apmācīt rīku My AI.
Lai ziņotu par tērzēšanas ziņu, kas saņemta no My AI…
- Nospiediet un turiet uz tērzēšanas atbildes un pieskarieties “Ziņot”
- Pastāstiet mums, kāpēc ziņojat par tērzēšanas ziņu
- Pieskarieties “Iesniegt”
Dezinformācija un strīdīgas tēmas
My AI darbību nodrošina lielo valodu modeļi, piemēram, GPT modeļi no OpenAI un Gemini modeļi no Google, un tas ir apmācīts, izmantojot daudzveidīgu tekstu klāstu, ar papildu drošības uzlabojumiem un lietotnei Snapchat unikālām vadīklām. Šis korpuss atspoguļoja internetā pieejamās informācijas daudzveidību, tostarp dezinformāciju un strīdīgas tēmas.
Apmācības process tika izstrādāts tā, lai izvairītos no kaitīgas vai neprecīzas informācijas izplatīšanas, un modelis tika arī precīzi pielāgots, lai samazinātu valodas novirzes un piešķirtu prioritāti faktiskajai informācijai, lai gan tas ne vienmēr var būt sekmīgi. Snap ir arī pievienojis papildu atribūtus un drošības funkcijas, kas ir unikālas lietotnei Snapchat.
My AI ierobežojumi
Mēs pastāvīgi strādājam, lai uzlabotu un attīstītu My AI, taču pastāv iespēja, ka My AI atbildes var ietvert neobjektīvu, nepareizu, kaitīgu vai maldinošu saturu. Tā kā rīks My AI tiek nemitīgi pilnveidots, jums vienmēr ir neatkarīgi jāpārbauda My AI sniegtās atbildes, pirms paļaujaties uz jebkādu padomu, un jums nevajadzētu kopīgot konfidenciālu vai sensitīvu informāciju. Atšķirībā no citām tērzēšanas sarunām ar draugiem, visi ziņojumi ar rīku My AI tiks saglabāti, ja vien jūs tos neizdzēsīsiet, un tie var tikt izmantoti, lai uzlabotu Snap produktus un personalizētu jūsu pieredzi, tostarp reklāmas.
My AI atbildes dažkārt aprobežojas ar jaunāko informāciju pamatā esošo modeļu apmācības datos. Tas nozīmē, ka My AI atbildes var nebūt aktuālas saistībā ar jaunākajām ziņām un notikumiem. Rīks My AI attiecīgā gadījumā var arī izvairīties no noteiktām sensitīvām tēmām.