„My AI“ yra eksperimentinis, draugiškas, pokalbių robotas, šiuo metu prieinamas „Snapchat“ naudotojams.
Mūsų požiūris į AI saugą
Mums labai rūpi mūsų bendruomenės sauga ir gerovė ir stengiamės, kad šios vertybės atsispindėtų mūsų produktuose. „My AI“ yra teikiama didelės kalbos modelių, pvz., GPT modeliai iš Nyderlandų AI ir „Gemini“ modeliai iš Google, ir buvo apmokomi naudoti įvairių tekstų su papildomais saugumo patobulinimais ir valdiklių, būdingų tik „Snapchat“. Nors „My AI“ buvo užprogramuotas laikytis tam tikrų gairių, kad joje pateikiama informacija nebūtų žalinga (įskaitant vengimą atsakymų, kurie yra smurtinių, neapykantą kurstančių, seksualinio pobūdžio ar kitaip pavojingų; ir žalingų šališkumo užtikrinimą), tai ne visada gali būti sėkminga.
Mes integruojame tuos pačius apsaugos priemones ir įrankius, kuriuos naudojame visoje „Snapchat“. " Be to, jei „Snapchat“ naudotojai ieškos įvairių psichikos sveikatos problemų bet kurioje „Snapchat“ platformoje, jiems bus suteiktas išteklius iš ekspertų organizacijų. Šis įrankis, pavadinimu „Čia dėl tavęs“, bus rodomas pokalbiuose su „My AI“.
Taip pat stengiamės įtraukti papildomų įrankių prie mūsų Šeimos centro apie „My AI“, kurie suteiktų tėvams daugiau matomumo ir kontrolės, kaip paaugliai naudojasi „My AI“.
Dezinformacija ir nesąžiningą temos
„My AI“ yra teikiama didelės kalbos modelių, pvz., GPT modeliai iš Nyderlandų AI ir „Gemini“ modeliai iš Google, ir buvo apmokomi naudoti įvairių tekstų su papildomais saugumo patobulinimais ir valdiklių, būdingų tik „Snapchat“. Šis rinkinys atspindėjo internete prieinamos informacijos įvairovę, įskaitant dezinformaciją ir nesąžiningą temas.
Mokymo procesas buvo sukurtas siekiant išvengti žalingos ar netikslios informacijos platinimo, o modelis taip pat buvo patobulintas, kad būtų sumažinti šališkumą kalba ir teikti pirmenybę faktinei informacijai – nors tai ne visada gali būti sėkminga. „Snap“ taip pat pridėjo papildomų atributų ir saugumo funkcijų, tik „Snapchat“.
Mano AI apribojimai
Mes nuolat tobuliname „My AI“, tačiau gali būti, kad „My AI“ atsakymai gali būti šališku, neteisingą, žalingą ar klaidinantį turinį. Kadangi „My AI“ funkcija besivystanti, prieš remdamiesi patarimais, visada turėtumėte savarankiškai patikrinti „My AI“ pateiktus atsakymus ir neturėtumėte dalytis konfidencialia ar neskelbtina informacija. Priešingai nei kituose pokalbiuose su draugais, visi pranešimai su „My AI“ bus išsaugoti, nebent juos ištrinsite, ir jie gali būti naudojami „Snap“ produktams tobulinti ir jūsų patirčiai, įskaitant skelbimus, suasmeninti.
Mano AI atsakymai kartais apsiriboja naujausia informacija pagrindinių modelių mokymo duomenyse. Tai reiškia, kad „My AI“ atsakymai gali būti ne aktualūs apie naujausias naujienas ir įvykius. Mano AI taip pat gali, jei reikia, vengti tam tikrų jautrių temų.