Mano DI yra eksperimentinis, draugiškas pokalbių robotas, šiuo metu prieinamas Snapchat naudotojams.
Mūsų požiūris į DI saugumą
Mes nuoširdžiai rūpinamės savo bendruomenės saugumu ir gerove bei siekiame šias vertybes atspindėti savo produktuose. Mano DI veikia naudodama didelius kalbos modelius, tokius kaip GPT modeliai iš OpenDI ir Gemini modeliai iš Google. Ji buvo apmokyta naudojant įvairius tekstus ir papildyta unikaliomis Snapchat saugumo patobulinimais bei kontrolės priemonėmis. Nors Mano DI buvo suprogramuota laikytis tam tikrų gairių, kad jos pateikiama informacija nebūtų žalinga (įskaitant atsakymų, kurie yra smurtiniai, neapykantos kupini, seksualiai aiškūs ar kitaip pavojingi, vengimą bei žalingų šališkumų išvengimą), ji ne visada gali būti sėkminga.
Mes integruojame tas pačias apsaugos priemones ir įrankius, kuriuos naudojame visoje Snapchat platformoje. Rezultatų blokavimas pagal narkotikų susijusius raktinius žodžius ir žargoną taip pat yra dalis to, kaip pritaikėme Mano DI. Be to, jei Snapchat naudotojai bet kur platformoje ieškos informacijos apie įvairias psichikos sveikatos problemas, jiems bus pateikiami ištekliai iš ekspertas organizacijų. Čia dėl tavęs Čia dėl tavęs, bus rodomas pokalbiuose su Mano DI.
Taip pat dirbame prie papildomų įrankių pridėjimo Šeimos centras aplinkoje, susijusių su Mano DI, kurie suteiks tėvams daugiau matomumo ir kontrolės dėl paauglių naudojimosi Mano DI.
Atsiliepimai
Kaip ir kitos dirbtinio intelekto bei mašininio mokymosi technologijos, DI pokalbių robotai tobulėja, kuo daugiau jie yra naudojami. Mes skatiname Snapchat naudotojus pateikti atsiliepimas, mums, ypač jei kažkas nepavyksta, kad galėtume tobulinti technologijos kartu su OpenAI.
Snapchat naudotojai gali lengvai siųsti atsiliepimas mūsų komandai, ilgai paspaudę bet kurį atsakymą iš Mano DI, kad pasidalintų, ką norėtų matyti daugiau ar mažiau, kol mes toliau mokome Mano DI.
Norėdami pranešti apie pokalbis, gautą iš Mano DI…
- Paspauskite ir laikykite ant pokalbis atsakymo ir Paliesti 'Pranešti'
- Praneškite mums, kodėl pranešate apie šį pokalbis.
- Paliesti 'Pateikti'
Dezinformacija ir skaldantys klausimai
Mano DI veikia naudodama didelius kalbos modelius, tokius kaip GPT modeliai iš OpenDI ir Gemini modeliai iš Google. Ji buvo apmokyta naudojant įvairius tekstus ir papildyta unikaliomis Snapchat saugumo patobulinimais bei kontrolės priemonėmis. Šis korpusas atspindėjo įvairią informaciją, prieinamą internete, įskaitant dezinformaciją ir skaldančius klausimus.
Mokymo procesas buvo sukurtas taip, kad būtų išvengta žalingos ar netikslios informacijos sklaidos, o modelis taip pat buvo patobulintas siekiant sumažinti kalbos šališkumą ir teikti prioritetą faktinei informacijai — nors jis ne visada gali būti sėkmingas. Snap taip pat pridėjo papildomų Snapchat atributų ir saugos funkcijų.
Mano DI's apribojimai
Mes nuolat stengiamės tobulinti ir plėsti Mano DI, tačiau gali būti, kad jo atsakymai kartais gali būti šališki, netikslūs, žalingi arba klaidinantys. Mes nuolat dirbame, kad tobulintume ir vystytume Mano DI, tačiau yra tikimybė, kad Mano DI atsakymai gali apimti šališką, neteisingą, žalingą ar klaidinančią turinį. Skirtingai nei pokalbiai su draugais, visi pranešimai su Mano DI bus saugomi, nebent juos ištrinsite, ir gali būti naudojami „Snap“ produktų tobulinimui bei jūsų patirties personalizavimui, įskaitant skelbimus.
Mano DI's atsakymai kartais yra ribojami pagal naujausią informaciją, esančią pagrindinių modelių mokymo duomenyse. Tai reiškia, kad Mano DI's atsakymai gali būti nesuderinami su naujausiomis naujienomis ir įvykiais. Mano DI taip pat gali vengti tam tikrų jautrių temų, kai tai yra tinkama.