Moje AI je experimentální, přátelský a chatbot v současné době dostupný Snapchatterům.
Náš přístup k bezpečnosti AI
Hluboce se staráme o bezpečnost a pohodu naší komunity a snažíme se tyto hodnoty odrážet v našich produktech. Moje AI je napájena velkými jazykovými modely, jako jsou modely GPT z modelů OpenAI a Gemini od společnosti Google a byla vyškolena na rozmanitém rozsahu textů. Další vylepšení bezpečnosti a ovládání jedinečné společnosti Snapchat. Zatímco byla moje AI naprogramována tak, aby se řídila určitými pokyny, takže informace, které poskytují, nejsou škodlivé (včetně vyvarování se násilných, nenávistných a sexuálně explicitních nebo jinak nebezpečných a to škodlivých předsudků), nemusí být vždy úspěšné.
Integrujeme stejné záruky a nástroje, které používáme v rámci programu Snapchat. Blokování výsledků pro klíčová slova a slangové drogy je také součástí toho, jak jsme si vyvlastnili My AI . Pokud navíc Snapchatters vyhledá řadu problémů duševního zdraví kdekoliv na programu Snapchat, budou jim poskytovány prostředky od odborných organizací. Tento nástroj, který se nazývá Zde pro vás, se zobrazí v chatu se společností Moje AI.
Pracujeme také na přidávání dalších nástrojů do našeho Rodinného centra kolem Mé AI , které by rodičům poskytly větší viditelnost a kontrolu nad používáním Mé umělé inteligence jejich teenagerů a jejich ovládání.
Zpětná vazba
Stejně jako ostatní typy technologií umělé inteligence a strojového učení se také snaží chatboty AI vylepšit, čím více jsou používány. Vyzýváme Snapchattery, aby nám předložili zpětnou vazbu, zejména pokud se něco pokazí, abychom mohli pracovat na vývoji technologie spolu s aplikací OpenAI.
Snapchatteři mohou snadno vyslat zpětnou vazbu našemu týmu tím, že dlouho vytlačíte jakoukoli reakci ze strany Mé AI a více se můžete podělit o to, co by se chtěli dozvědět více, či méně, zatímco budeme nadále trénovat Moje AI.
Vyhlášení chatu obdrženého ze Mé umělé inteligence...
- Stiskněte a podržte odpověď na chatu a klepněte na „Zpráva“
- Dejte nám vědět, proč jste nahlásili Chat
- Klepněte na „Odeslat“
Neinformovanost a rozdělování témat
Moje AI je napájena velkými jazykovými modely, jako jsou modely GPT z modelů OpenAI a Gemini od společnosti Google a byla vyškolena na rozmanitém rozsahu textů. Další vylepšení bezpečnosti a ovládání jedinečné společnosti Snapchat. Tento korpus odrážel rozmanitost informací, které jsou k dispozici na internetu, včetně dezinformací a rozptýlených témat.
Proces školení byl navržen tak, aby se zabránilo zesílení škodlivých nebo nepřesných informací a model byl také vyladěn na snížení zaujatosti v jazyce a upřednostnění faktické informace – ačkoli nemusí být vždy úspěšný. Společnost Snap také přidala další atributy a bezpečnostní funkce jedinečné společnosti Snapchat .
Omezení mé AI
Neustále pracujeme na zlepšení a vyvíjení mé umělé inteligence, ale je možné, že odpovědi Moje AI mohou zahrnovat objektivní, nesprávné, škodlivé nebo zavádějící obsah. Protože je moje AI vyvíjející se funkcí, měli byste vždy nezávisle zkontrolovat odpovědi poskytované mojí AI předtím, než se budete spoléhat na jakékoli rady, a neměli byste sdílet důvěrné nebo citlivé informace. Na rozdíl od jiných chat s přáteli budou všechny zprávy se společností My AI uchovávány, pokud je nevymažete a mohou být použity ke zlepšení produktů společnosti Snap a k přizpůsobení vašich zážitků včetně reklam.
Odpovědi mé AI jsou někdy omezeny na nejnovější informace v údajích o školení podkladových modelů. To znamená, že reakce mé AI nemusí být aktuální na aktuálních zprávách a událostech. Moje AI se může také vyvarovat některým citlivým subjektům podle potřeby.