MyAI on kokeellinen, ystävällinen chatbot, joka on tällä hetkellä saatavilla Snapchattaajille.
Lähestymistapamme tekoälyn turvallisuuteen
Välitämme syvästi yhteisömme turvallisuudesta ja hyvinvoinnista ja pyrimme heijastamaan näitä arvoja tuotteissamme. My AI käyttää suuria kielimalleja, kuten OpenAI:n GPT-malli ja Googlen Gemini-malli, ja sitä on koulutettu erilaisilla teksteillä sekä Snapchatille ainutlaatuisilla turvaparannuksilla ja säätimillä. Vaikka MyAI ohjelmoitiin noudattamaan tiettyjä ohjeita, joten sen tarjoamat tiedot eivät ole haitallisia (mukaan lukien väkivaltaisten, vihamielisten, seksuaalisesti avoimen tai muuten vaarallisten vastausten välttäminen ja haitallisten ennakkoluulojen säilyttämisen välttäminen), niin se ei välttämättä aina onnistu.
Integroimme samat suojaukset ja työkalut, joita käytämme kaikkialla Snapchatissa. Tulosten estäminen huumeavainsanoilla ja slangilla on myös osa sitä, miten olemme mukauttaneet MyAI -sovellusta. Lisäksi, jos snapchattaajat hakevat erilaisia mielenterveyttä koskevia teemoja mistä tahansa Snapchatista, niin heille tarjotaan resursseja asiantuntijaorganisaatioilta. Tämä työkalu, nimeltään Here For You, näkyy My AI -keskusteluissa.
Lisäksi pyrimme myös lisäämään My AI:n ympärillä olevaan perhekeskukseemme lisätyökaluja, jotka antaisivat vanhemmille enemmän näkyvyyttä ja hallintaa teini-ikäistensä My AI:n käytössä.
Palaute
Kuten muutkin tekoäly- ja koneoppimistekniikat, tekoäly-chatbotit paranevat sitä mukaa mitä enemmän niitä käytetään. Kannustamme Snapchattaajia lähettämään meille palautetta, varsinkin jos jokin menee pieleen, jotta voimme kehittää teknologiaa yhdessä OpenAI:n kanssa.
Snapchattaajat voivat helposti lähettää palautetta tiimillemme painamalla pitkään mitä tahansa My AI:n vastausta kertoakseen lisää siitä, mitä he haluaisivat nähdä enemmän tai vähemmän, kun jatkamme My AI:n kouluttamista.
Raportoidaksesi My AI:ltä saadusta chatista…
- Paina ja pidä painettuna Chat-vastausta ja napauta "Ilmoita"
- Kerro meille, miksi ilmoitat chatista
- Napauta 'Lähetä'
Väärä tieto ja mielipiteitä jakavat aiheet
My AI käyttää suuria kielimalleja, kuten OpenAI:n GPT-malli ja Googlen Gemini-malli, ja sitä on koulutettu erilaisilla teksteillä sekä Snapchatille ainutlaatuisilla turvaparannuksilla ja säätimillä. Tämä aineisto heijasti Internetissä saatavilla olevan tiedon monimuotoisuutta, mukaan lukien väärää tietoa ja erimielisyyttä aiheuttavia aiheita.
Koulutusprosessi suunniteltiin välttämään haitallisen tai epätarkan tiedon lisäämistä, ja mallia myös hienosäädettiin vähentämään kielen harhaa ja priorisoimaan faktatietoa – vaikka se ei välttämättä aina onnistu. Snap on myös lisännyt Snapchatille ainutlaatuisia lisämääritteitä ja turvaominaisuuksia.
My AI-sovelluksen rajoitukset
Pyrimme jatkuvasti parantamaan ja kehittämään My AI:tä, mutta on mahdollista, että My AI:n vastaukset voivat sisältää puolueellista, virheellistä, haitallista tai harhaanjohtavaa sisältöä. Koska My AI on kehittyvä ominaisuus, sinun tulee aina tarkistaa My AI:n antamat vastaukset itsenäisesti ennen kuin luotat neuvoihin, etkä saa jakaa luottamuksellisia tai arkaluonteisia tietoja. Toisin kuin muut chatit kaverien kanssa, kaikki My AI -viestit säilytetään, ellet poista niitä, ja niitä voidaan käyttää Snapin tuotteiden parantamiseen ja käyttökokemuksesi personointiin, mukaan lukien mainokset.
My AI:n vastaukset rajoittuvat toisinaan uusimpiin tietoihin taustalla olevien mallien harjoitusdatassa. Tämä tarkoittaa, että My AI:n vastaukset eivät välttämättä ole ajan tasalla viimeaikaisista uutisista ja tapahtumista. My AI voi myös välttää tiettyjä herkkiä aiheita tarpeen mukaan.