My AI -botti on kokeellinen ja ystävällinen keskustelubotti, joka on Snapchattaajien käytettävissä.
Näin edistämme tekoälyn turvallisuutta
Yhteisömme turvallisuus ja hyvinvointi on meille ensiluokkaisen tärkeää, ja haluamme näiden arvojen toteutuvan tuotteissamme. My AI toimii OpenAIn GPT-mallien ja Googlen Gemini-mallien kaltaisten laajojen kielimallien avulla, ja sitä on koulutettu monenlaisilla teksteillä. Siihen on myös lisätty Snapchatille ainutlaatuisia turvallisuus- ja hallinnointitoimintoja. Vaikka My AI -botti on ohjelmoitu noudattamaan tiettyjä ohjeita, jotta sen antamat tiedot eivät olisi haitallisia (eli se välttää väkivaltaisia, vihaisia, seksuaalisia tai muuten vaarallisia vastauksia, eikä se vahvista haitallisia käsitysvääristymiä), tämä ei välttämättä aina onnistu.
Olemme integroineet samat suojatoimet ja työkalut, jotka ovat käytössä muuallakin Snapchatissa. Huumeita koskevien avainsanojen ja slangin hakutulosten estäminen on myöskin ollut osa My AI -botin mukauttamista. Lisäksi Snapchattaajat, jotka tekevät haun missä tahansa Snapchatin osiossa koskien jotakin lukuisista mielenterveysongelmista, saavat käyttöönsä asiantuntijaorganisaatioiden tarjoamia resursseja. Tämä työkalu on nimeltään Here For You, ja se tulee näkyviin My AI -chateissa.
Pyrimme myös lisäämään työkaluja Perhekeskukseen My AI -bottiin liittyen, jotta vanhemmilla olisi enemmän tietoa ja valvontaa koskien teiniensä My AI:n käyttöä.
Disinformaatio ja kiistanalaiset aiheet
My AI toimii OpenAIn GPT-mallien ja Googlen Gemini-mallien kaltaisten laajojen kielimallien avulla, ja sitä on koulutettu monenlaisilla teksteillä. Siihen on myös lisätty Snapchatille ainutlaatuisia turvallisuus- ja hallinnointitoimintoja. Tämä kokoelma kuvasti internetistä saatavan tiedon moninaisuutta, ja se sisälsi myös disinformaatiota ja kiistanalaisia aiheita.
Koulutusprosessi suunniteltiin sellaiseksi, että voitiin välttää haitallisen tai virheellisen tiedon leviämistä. Mallia myös hienosäädettiin, jotta se vähentäisi kielellisiä vääristymiä ja priorisoisi faktatietoa, mutta tämä ei aina välttämättä onnistu. Käytössä on myös lisätoimintoja ja turvallisuusominaisuuksia, joita ei ole muualla kuin Snapchatissa.
My AI -botin rajoitteet
Kehitämme My AI -bottia jatkuvasti, mutta sen antamiin vastauksiin voi sisältyä puolueellista, virheellistä, haitallista tai harhaanjohtavaa sisältöä. My AI on kehittyvä ominaisuus, joten tarkista aina itse botin tarjoamien vastausten todenmukaisuus ennen kuin luotat sen neuvoihin, äläkä jaa luottamuksellisia tai arkaluonteisia tietoja. Toisin kuin koskee keskusteluita kavereidesi kanssa, kaikki My AI -botin kanssa käymiesi keskusteluiden viestit säilytetään, ellet poista niitä. Niitä voidaan myös käyttää Snapin tuotteiden kehittämiseen sekä käyttökokemuksesi personointiin esimerkiksi mainonnan osalta.
Joskus My AI:lta on mahdollista saada ainoastaan sellaisia vastauksia, joita perustana olevien mallien uusin koulutusdata tarjoaa. Täten My AI:n vastaukset eivät välttämättä ole ajan tasalla viimeisimpien uutisten ja tapahtumien suhteen. My AI saattaa myös välttää tiettyjä arkaluonteisia aiheita, mikäli se on tarpeen.