My AI on eksperimentaalne, sõbralik vestlusbot, mis on praegu Snapchatteritele saadaval.
Meie lähenemisviis AI ohutusele
Hoolime väga oma kogukonna ohutusest ja heaolust ning töötame selle nimel, et kajastada neid väärtusi oma toodetes. My AI aluseks on suured keelemudelid, nagu OpenAI GPT mudelid ja Google'i Gemini mudelid, ning seda on treenitud mitmesuguste tekstide osas koos täiendavate turvatäiustuste ja Snapchatile ainulaadsete juhtelementidega. Kuigi My AI programmeeriti järgima teatud juhiseid, nii et selle pakutav teave ei oleks kahjulik (sealhulgas vägivaldsete, vaenu õhutavate, seksuaalselt vulgaarsete või muul viisil ohtlike vastuste vältimine ning kahjulike eelarvamuste kinnistamise vältimine), ei pruugi see alati olla edukas.
Integreerime samad kaitsemeetmed ja tööriistad, mida kasutame kogu Snapchatis. Narkootikumidega seotud märksõnade ja slängi tulemuste blokeerimine on samuti osa sellest, kuidas oleme kohandanud My AI-d. Lisaks sellele, kui Snapchatterid otsivad ükskõik kus Snapchatis mitmesuguseid vaimse tervise probleeme, pakutakse neile ekspertorganisatsioonide ressursse. See tööriist nimega Here For You kuvatakse My AI-ga vestlustes.
Töötame ka selle kallal, et lisada oma perekeskusesse My AI-ga seotud täiendavaid tööriistu, mis annaksid vanematele parema nähtavuse ja kontrolli teismeliste My AI kasutamise üle.
Tagasiside
Nagu teisedki tehisintellekti ja masinõppetehnoloogiad, arenevad ka AI-vestlusbotid, mida rohkem neid kasutatakse. Julgustame Snapchattereid meile tagasisidet saatma, eriti kui midagi läheb valesti, et saaksime koos OpenAI-ga tehnoloogiat edasi arendada.
Snapchatterid saavad meie meeskonnale hõlpsalt tagasisidet saata, vajutades pikalt mis tahes My AI vastust, et jagada rohkem seda, mida nad rohkem või vähem näha tahaksid, kui jätkame My AI treenimist.
My AI-lt saadud vestlusest teatamiseks…
- Vajutage ja hoidke all vestluse vastust ja puudutage nuppu "Teata"
- Andke meile teada, miks te vestlusest teavitate
- Puudutage nuppu "Edasta"
Väärinformatsioon ja lahkarvamusi tekitavad teemad
My AI aluseks on suured keelemudelid, nagu OpenAI GPT mudelid ja Google'i Gemini mudelid, ning seda on treenitud mitmesuguste tekstide osas koos täiendavate turvatäiustuste ja Snapchatile ainulaadsete juhtelementidega. See tekstikogu peegeldas Internetis saadaoleva teabe mitmekesisust, sealhulgas desinformatsiooni ja lahkarvamusi tekitavaid teemasid.
Treenimis protsessi eesmärk oli vältida kahjuliku või ebatäpse teabe võimendamist ning mudelit viimistleti ka keele kasutuse kallutatuse vähendamiseks ja faktilise teabe prioritiseerimiseks — kuigi see ei pruugi alati olla edukas. Snap on lisanud ka Snapchatile ainulaadseid atribuute ja turvafunktsioone.
My AI piirangud
Töötame pidevalt My AI täiustamise ja arendamise nimel, kuid on võimalik, et My AI vastused võivad sisaldada kallutatud, ebaõiget, kahjulikku või eksitavat sisu. Kuna My AI on arenev funktsioon, peaksite enne nõuandele lootma jäämist alati iseseisvalt kontrollima My AI antud vastuseid ning te ei tohiks jagada konfidentsiaalset ega tundlikku teavet. Erinevalt teistest sõpradega vestlustest säilitatakse kõik My AI sõnumid, kui te neid ei kustuta ja neid võidakse kasutada Snapi toodete täiustamiseks ja teie kasutuskogemuse, sealhulgas reklaamide, isikupärastamiseks.
My AI vastused piirduvad mõnikord aluseks olevate mudelite treeningandmete uusima teabega. See tähendab, et My AI vastused ei pruugi olla värskete uudiste ja sündmuste kohta ajakohased. My AI võib vajadusel ka teatud tundlikke teemasid vältida.