A My AI egy kísérleti, felhasználóbarát chatbot, amely jelenleg a Snapchatters számára érhető el.
A mesterséges intelligencia biztonságával kapcsolatos megközelítésünk
Mélyen törődünk közösségünk biztonságával és jólétével, és azon dolgozunk, hogy ezeket az értékeket termékeinkben is tükrözzük. A mesterséges intelligenciámat nagy nyelvi modellek, például az OpenAI GPT-modelljei és a Google Gemini-modelljei működtetik, és sokféle szövegen lett betanítva, további biztonsági fejlesztésekkel és a Snapchatre jellemző vezérlőkkel. Bár a mesterséges intelligenciámat úgy programozták, hogy betartsa bizonyos irányelveket, így az általa nyújtott információk nem károsak (beleértve az erőszakos, gyűlöletkeltő, szexuálisan explicit vagy egyéb módon veszélyes válaszok elkerülését; valamint a káros előítéletek fenntartásának elkerülését), nem mindig lehet sikeres.
Ugyanazokat a biztonsági intézkedéseket és eszközöket integráljuk, mint a Snapchatben. A kábítószeres kulcsszavak és a szleng találati listájának blokkolása szintén a Saját mesterséges intelligencia testreszabásának része. Ezenkívül, ha a Snapchatters a Snapchat bármely részén mentális egészségügyi problémákra keres rá, szakértői szervezetektől származó forrásokat jelenítenek meg számukra. Ez az eszköz, melynek neve Here For You, megjelenik a Saját mesterséges intelligenciával folytatott csevegésekben.
Dolgozunk azon is, hogy további eszközöket adjunk a Saját MI-hez kapcsolódó Családi Központunkhoz, amelyek nagyobb rálátást és kontrollt biztosítanának a szülőknek a tinédzserük Saját MI-használata felett.
Félrevezető és megosztó témák
A mesterséges intelligenciámat nagy nyelvi modellek, például az OpenAI GPT-modelljei és a Google Gemini-modelljei működtetik, és sokféle szövegen lett betanítva, további biztonsági fejlesztésekkel és a Snapchatre jellemző vezérlőkkel. Ez a korpusz tükrözte az interneten elérhető információk sokféleségét, beleértve a félretájékoztatást és a megosztó témákat is.
A betanítási folyamatot úgy tervezték, hogy elkerülje a káros vagy pontatlan információk felerősítését, és a modellt finomhangolták a nyelvi torzítások csökkentése és a tényszerű információk előtérbe helyezése érdekében – bár ez nem mindig sikeres. A Snap további, a Snapchatre jellemző tulajdonságokat és biztonsági funkciókat is hozzáadott.
A mesterséges intelligencia korlátai
Folyamatosan dolgozunk a Saját mesterséges intelligencia fejlesztésén és fejlesztésén, de lehetséges, hogy a Saját mesterséges intelligencia válaszai elfogult, helytelen, káros vagy félrevezető tartalmakat tartalmaznak. Mivel a Saját MI egy folyamatosan fejlődő funkció, mindig ellenőrizd a Saját MI által adott válaszokat, mielőtt bármilyen tanácsra hagyatkoznál, és ne ossz meg bizalmas vagy érzékeny információkat. A barátokkal folytatott egyéb csevegésekkel ellentétben a Saját mesterséges intelligencia funkcióval küldött összes üzenet megmarad, hacsak nem törlöd őket, és felhasználhatók a Snap termékeinek fejlesztésére és a felhasználói élmény személyre szabására, beleértve a hirdetéseket is.
A mesterséges intelligencia válaszai néha a mögöttes modellek betanítási adataiban található legfrissebb információkra korlátozódnak. Ez azt jelenti, hogy a Saját mesterséges intelligencia válaszai esetleg nem aktuálisak a legfrissebb híreket és eseményeket tekintve. A mesterséges intelligencia adott esetben elkerülhet bizonyos érzékeny témákat.