Moja umelá inteligencia je experimentálny, priateľský chatbot, ktorý je momentálne dostupný pre používateľov Snapchatu.
Náš prístup k bezpečnosti umelej inteligencie
Hlboko nám záleží na bezpečnosti a blahobyte našej komunity a snažíme sa tieto hodnoty odrážať v našich produktoch. Moja umelá inteligencia je poháňaná modelmi veľkých jazykov, ako sú modely GPT od OpenAI a modely Gemini od spoločnosti Google, a bola trénovaná na širokej škále textov s dodatočnými bezpečnostnými vylepšeniami a ovládacími prvkami jedinečnými pre Snapchat. Hoci bola My AI naprogramovaná tak, aby dodržiavala určité pravidlá, aby informácie, ktoré poskytuje, neboli škodlivé (vrátane vyhýbania sa násilným, nenávistným, sexuálne explicitným alebo inak nebezpečným reakciám; a vyhýbania sa prehlbovaniu škodlivých predsudkov), nemusí byť vždy úspešná.
Integrujeme rovnaké bezpečnostné opatrenia a nástroje, aké používame v celej aplikácii Snapchat. Blokovanie výsledkov pre kľúčové slová a slang súvisiace s drogami je tiež súčasťou prispôsobenia funkcie Moja umelá inteligencia. Okrem toho, ak Snapchatteri vyhľadávajú rôzne problémy s duševným zdravím kdekoľvek na Snapchate, budú im poskytnuté zdroje od odborných organizácií. Tento nástroj s názvom Tu pre vás sa zobrazí v chatoch s mojou umelou inteligenciou.
Pracujeme tiež na pridaní ďalších nástrojov do nášho Rodinného centra v súvislosti s aplikáciou Moja umelá inteligencia, ktoré by rodičom poskytli väčší prehľad a kontrolu nad používaním aplikácie Moja umelá inteligencia ich tínedžermi.
Dezinformácie a kontroverzné témy
Moja umelá inteligencia je poháňaná modelmi veľkých jazykov, ako sú modely GPT od OpenAI a modely Gemini od spoločnosti Google, a bola trénovaná na širokej škále textov s dodatočnými bezpečnostnými vylepšeniami a ovládacími prvkami jedinečnými pre Snapchat. Tento korpus odrážal rozmanitosť informácií dostupných na internete vrátane dezinformácií a kontroverzných tém.
Tréningový proces bol navrhnutý tak, aby sa predišlo zosilňovaniu škodlivých alebo nepresných informácií, a model bol tiež doladený s cieľom znížiť jazykové skreslenia a uprednostniť faktické informácie – hoci to nemusí byť vždy úspešné. Snap tiež pridal ďalšie atribúty a bezpečnostné funkcie, ktoré sú pre Snapchat jedinečné.
Obmedzenia mojej umelej inteligencie
Neustále pracujeme na vylepšovaní a vývoji služby My AI, ale je možné, že jej odpovede môžu obsahovať zaujatý, nesprávny, škodlivý alebo zavádzajúci obsah. Keďže funkcia Moja umelá inteligencia (My AI) sa neustále vyvíja, mali by ste si vždy nezávisle skontrolovať odpovede poskytované funkciou Moja umelá inteligencia predtým, ako sa spoľahnete na akúkoľvek radu, a nemali by ste zdieľať dôverné ani citlivé informácie. Na rozdiel od iných chatov s priateľmi sa všetky správy cez My AI uchovajú, pokiaľ ich neodstránite, a môžu sa použiť na zlepšenie produktov Snap a na prispôsobenie vášho zážitku vrátane reklám.
Reakcie mojej umelej inteligencie sú niekedy obmedzené na najnovšie informácie v trénovacích dátach podkladových modelov. To znamená, že odpovede mojej umelej inteligencie nemusia byť aktuálne v súvislosti s najnovšími správami a udalosťami. Moja umelá inteligencia sa tiež môže podľa potreby vyhnúť určitým citlivým témam.