Moja AI je experimentálny, priateľský, chatbot momentálne dostupný Snapchatterom.
Náš prístup k bezpečnosti umelej inteligencie
Hlboko sa staráme o bezpečnosť a blaho našej komunity a pracujeme na zohľadňovaní týchto hodnôt v našich produktoch. Moja umelá inteligencia je poháňaná modelmi Large Language (Large Language Models), ako sú modely GPT od spoločnosti OpenAI a Gemini od spoločnosti Google a bola vyškolená na rôznorodé spektrum textov, pričom ďalšie vylepšenia a kontroly bezpečnosti sú jedinečné pre Snapchat. Hoci moja umelá inteligencia bola naprogramovaná, aby dodržiavala určité usmernenia, takže informácie, ktoré poskytuje, nie sú škodlivé (vrátane predchádzania odpovediam, ktoré sú násilné, nenávistné, sexuálne explicitné, alebo inak nebezpečné, a vyhýbajúc sa pretrvávajúcim škodlivým skresleniam), nemusia byť vždy úspešné.
Rovnaké záruky a nástroje, ktoré používame v rámci Snapchatu. Výsledky blokovania pre kľúčové slová a slang na drogy je tiež súčasťou toho, ako sme prispôsobili My AI. Okrem toho, ak Snapchatteri vyhľadajú celý rad problémov duševného zdravia kdekoľvek na Snapchat, budú im poskytnuté zdroje od odborných organizácií. Tento nástroj, ktorý sa volá tu pre vás, sa objaví v chatoch s mojou umelou inteligenciou.
Takisto pracujeme na pridaní ďalších nástrojov do nášho Rodinného centra okolo mojej umelej inteligencie, ktorá by rodičom viac zviditeľnila a kontrolovala používanie mojej umelej inteligencie ich dospievajúcich.
Spätná väzba
Rovnako ako iné typy umelých technológií inteligencie a strojového učenia, aj ďalšie nástroje umelej inteligencie zlepšujú ich používaním. Vyzývame Snapchatterov, aby nám predložili spätnú väzbu, najmä ak sa niečo pokazí, takže môžeme pracovať na vývoji technológie spolu s OpenAI.
Snapchatteri môžu jednoducho poslať spätnú väzbu nášmu tímu dlhým stlačením akejkoľvek reakcie mojej umelej inteligencie, aby sa viac podelili o to, čo by chceli vidieť, zatiaľ čo budeme naďalej trénovať My AI.
Na nahlasovanie konverzácie prijatého od mojej umelej inteligencie…
- Stlačte a podržte odpoveď na konverzáciu a ťuknite na položku „Správa“
- Dajte nám vedieť, prečo čet nahlasujete.
- Klepnite na ,Odoslať'
Misinformation a rozpoznávacie témy
Moja umelá inteligencia je poháňaná modelmi Large Language (Large Language Models), ako sú modely GPT od spoločnosti OpenAI a Gemini od spoločnosti Google a bola vyškolená na rôznorodé spektrum textov, pričom ďalšie vylepšenia a kontroly bezpečnosti sú jedinečné pre Snapchat. Tento korpus odzrkadľuje rozmanitosť informácií dostupných na internete vrátane nesprávnych informácií a of tém.
Proces odbornej prípravy bol navrhnutý tak, aby sa zabránilo zosilneniu škodlivých alebo nepresných informácií, a model bol tiež vylepšený na zníženie skreslenia v jazyku a na stanovenie priorít faktických informácií – hoci to nemusí byť vždy úspešné. Snap pridal aj ďalšie funkcie atribútov a bezpečnosti, ktoré sú jedinečné pre Snapchat.
Obmedzenia mojej umelej inteligencie
Neustále pracujeme na zlepšovaní a vývoji mojej umelej inteligencie, ale je možné, že odpovede mojej umelej inteligencie môžu zahŕňať neobjektívne, nesprávne, škodlivé alebo zavádzajúce obsah. Pretože moja umelá inteligencia je vyvíjajúca sa funkcia, mali by ste vždy nezávisle skontrolovať odpovede poskytnuté mojou umelou inteligenciou, predtým než sa spoliehať na akékoľvek rady, a nemali by ste zdieľať dôverné alebo citlivé informácie. Na rozdiel od iných chatov s priateľmi, všetky správy s mojou umelou inteligenciou budú zachované, pokiaľ ich neodstránite a možno ich použijete na zlepšenie produktov Snapu a na prispôsobenie vašich skúseností, vrátane reklám.
Odpovede mojej umelej inteligencie sa niekedy obmedzujú na najnovšie informácie v údajoch o odbornej príprave príslušných modelov. To znamená, že odpovede mojej umelej inteligencie nemusia byť aktuálne na nedávne správy a udalosti. Moja umelá inteligencia sa môže vyhnúť aj určitým citlivým subjektom, ak je to vhodné.