My AI ir eksperimentāls, draudzīgs, tērzēšanas bots, kas pašlaik ir pieejams Snapchat lietotājiem.
Mūsu pieeja MI drošībai
Mums patiešām rūp mūsu kopienas drošība un labklājība, un strādājam, lai atspoguļotu šīs vērtības savos produktiem. My AI ir balstīta uz lielas valodas modeļiem, piemēram, GPT modeļiem noOPAI un Genu modeļiem no Google, un tas ir apmācīts par dažādu tekstu klāstu, izmantojot papildu drošības uzlabojumus un kontroles iespējas, kas attiecas tikai uz Snapchat. Lai gan My AI tika ieprogrammēts ievērot noteiktas vadlīnijas, tāpēc tā sniegtā informācija nav kaitīga (tostarp izvairīšanos no vardarbīgām, naidīgām, seksuāla rakstura vai citādi bīstamām atbildēm; un izvairīšanās no kaitīgiem aizspriedumiem), tas ne vienmēr var būt veiksmīgs.
Mēs integrējam tie paši drošības pasākumi un rīki, kādus izmantojam Snapchat. Esam pielāgojuši My AI arī rezultātu bloķēšana, izmantojot narkotiku atslēgvārdus un slengas. Turklāt, ja Snapchat lietotāji jebkur Snapchat platformā meklēs ar dažādām garīgās veselības problēmām, viņiem tiks sniegti resursi no ekspertu organizācijām. Šis rīks ar nosaukumu Here For You tiks parādīts tērzēšanas sarunās ar My AI.
Mēs arī strādājam pie papildu rīku pievienošanas mūsu Ģimenes centram saistībā ar My AI, kas sniegtu vecākiem labāku pārskatāmību un kontroles iespējas saistībā ar to, kā viņu pusaudzis izmanto My AI.
Maldinoša informācija un strīdīgas tēmas
My AI ir balstīta uz lielas valodas modeļiem, piemēram, GPT modeļiem noOPAI un Genu modeļiem no Google, un tas ir apmācīts par dažādu tekstu klāstu, izmantojot papildu drošības uzlabojumus un kontroles iespējas, kas attiecas tikai uz Snapchat. Šis krājums atspoguļoja internetā pieejamās informācijas daudzveidību, tostarp maldinošu informāciju un strīdīgas tēmas.
Apmācības process tika izstrādāts, lai izvairītos no kaitīgas vai neprecīzas informācijas pastiprināšanas, un modelis tika arī precizēts, lai samazinātu neobjektīvus valodu un lai noteiktu prioritāti faktiskai informācijai - lai gan tas ne vienmēr var būt veiksmīgs. Snap ir arī pievienojis tikai Snapchat papildu atribūtus un drošības funkcijas.
My AI ierobežojumi
Mēs nepārtraukti strādājam, lai uzlabotu un attīstītu My AI, taču iespējams, ka My AI atbildes var ietvert neobjektīvu, nepareizu, kaitīgu vai maldinošu saturu. Tā kā My AI funkcija ir nepārtraukta, jums vienmēr vajadzētu neatkarīgi pārbaudīt My AI sniegtās atbildes, pirms paļauties uz jebkādiem ieteikumiem, kā arī nevajadzētu kopīgot konfidenciālu vai sensitīvu informāciju. Atšķirībā no citām tērzēšanas sarunām ar draugiem, visi ziņojumi ar My AI tiks saglabāti, ja vien tos neizdzēsīsiet, un tie var tikt izmantoti, lai uzlabotu Snap produktus un personalizētu jūsu pieredzi, tostarp reklāmas.
Mana AI atbildes dažreiz aprobežojas ar jaunāko informāciju pamatā esošo modeļu apmācības datos. Tas nozīmē, ka My AI atbildes var nebūt aktuālas uz jaunākajām ziņām un notikumiem. My AI var arī pēc vajadzības izvairīties no noteiktām sensitīvām tēmām.