My AI je experimentální, přátelský chatbot, který je aktuálně k dispozici Snapchatterům.
Náš přístup k bezpečnosti na základě umělé inteligence
Záleží nám na bezpečnosti a blahu naší komunity a snažíme se tyto hodnoty promítat do našich produktů. My AI využívá velké jazykové modely, jako jsou modely GPT od OpenAI a modely Gemini od společnosti Google a byla školena v používání široké škály textů, včetně dalších bezpečnostních vylepšení a ovládacích prvků jedinečných pro Snapchat. Ačkoli byla My AI naprogramována tak, aby se řídila určitými pokyny, takže informace, které poskytuje, nejsou škodlivé (včetně vyhýbání se reakcím, které jsou násilné, nenávistné, sexuálně explicitní nebo jinak nebezpečné; a udržování škodlivých předsudků), nemusí být vždy úspěšné.
Do celého Snapchatu integrujeme stejné ochranné prvky a nástroje, které používáme. Blokování výsledků pro drogová klíčová slova a slang je také součástí toho, jak jsme přizpůsobili My AI. Pokud navíc Snapchatteři vyhledají kdekoli na Snapchatu řadu problémů s duševním zdravím, budou jim poskytnuty prostředky od odborných organizací. Tento nástroj s názvem Here For You se bude zobrazovat v chatech s My AI.
Také pracujeme na tom, abychom do Rodinného centra přidali další nástroje pro My AI, které by rodičům poskytly větší přehled a kontrolu nad tím, jak jejich dospívající My AI používají.
Dezinformační a rozvratná témata
My AI využívá velké jazykové modely, jako jsou modely GPT od OpenAI a modely Gemini od společnosti Google a byla školena v používání široké škály textů, včetně dalších bezpečnostních vylepšení a ovládacích prvků jedinečných pro Snapchat. Tento korpus odráží rozmanitost informací dostupných na internetu, včetně dezinformací a rozporuplných témat.
Vzdělávací proces byl navržen tak, aby se zabránilo šíření škodlivých nebo nepřesných informací, a model byl také vyladěn tak, aby se omezily jazykové předsudky a upřednostňovaly věcné informace - i když nemusí být vždy úspěšné. Snap také přidal další atributy a bezpečnostní funkce, které jsou jedinečné pro Snapchat.
Omezení My AI
Neustále pracujeme na zlepšení a rozvoji My AI, je však možné, že reakce My AI mohou zahrnovat neobjektivní, nesprávný, škodlivý nebo zavádějící obsah. Protože se My AI vyvíjejí, měli byste vždy nezávisle zkontrolovat odpovědi poskytnuté od My AI, než se spolehnete na jakoukoli radu, a neměli byste sdílet důvěrné nebo citlivé informace. Na rozdíl od jiných chatů s přáteli budou všechny zprávy s My AI uchovávány, dokud je nesmažete, a mohou být použity ke zlepšení produktů společnosti Snap a k přizpůsobení vašich zážitků, včetně reklam.
Reakce My AI jsou někdy omezené na nejnovější informace v tréninkových datech základních modelů. To znamená, že odpovědi My AI nemusí být aktuální na nedávné novinky a události. My AI se také může dle potřeby vyhýbat určitým citlivým tématům.