Моят изкуствен интелект е експериментален, приятелски настроен чатбот, който в момента е достъпен за потребителите на Snapchat.
Нашият подход към безопасността на изкуствения интелект
Ние се грижим дълбоко за безопасността и благополучието на нашата общност и работим, за да отразим тези ценности в нашите продукти. Моят изкуствен интелект се захранва от модели за големи езици, като GPT модели от OpenAI и Gemini модели от Google, и е обучен върху разнообразни текстове, с допълнителни подобрения в безопасността и контроли, уникални за Snapchat. Въпреки че „Моят изкуствен интелект“ е програмиран да спазва определени насоки, така че информацията, която предоставя, да не е вредна (включително избягване на реакции, които са насилствени, изпълнени с омраза, сексуално откровени или по друг начин опасни; и избягване на увековечаване на вредни предразсъдъци), той може да не винаги е успешен.
Интегрираме същите предпазни мерки и инструменти, които използваме в целия Snapchat. Блокирането на резултати за ключови думи, свързани с наркотици, и жаргон също е част от начина, по който персонализирахме Моят AI. Освен това, ако потребителите на Snapchat търсят редица проблеми с психичното здраве някъде в Snapchat, ще им бъдат предоставени ресурси от експертни организации. Този инструмент, наречен „Тук е за теб“, ще се показва в чатове с моя изкуствен интелект.
Работим и върху добавянето на допълнителни инструменти към нашия Семеен център, свързани с My AI, които биха дали на родителите по-голяма видимост и контрол върху използването на My AI от техните тийнейджъри.
Дезинформация и спорни теми
Моят изкуствен интелект се захранва от модели за големи езици, като GPT модели от OpenAI и Gemini модели от Google, и е обучен върху разнообразни текстове, с допълнителни подобрения в безопасността и контроли, уникални за Snapchat. Този корпус отразява разнообразието от информация, достъпна в интернет, включително дезинформация и спорни теми.
Процесът на обучение е проектиран така, че да се избегне усилването на вредна или неточна информация, а моделът е прецизиран, за да се намалят езиковите пристрастия и да се даде приоритет на фактическата информация - макар че това не винаги може да е успешно. Snap добави и допълнителни атрибути и функции за безопасност, уникални за Snapchat.
Ограниченията на моя изкуствен интелект
Ние непрекъснато работим за подобряване и развитие на My AI, но е възможно отговорите на My AI да включват предубедено, неправилно, вредно или подвеждащо съдържание. Тъй като My AI е развиваща се функция, винаги трябва самостоятелно да проверявате отговорите, предоставени от My AI, преди да разчитате на каквито и да е съвети, и не трябва да споделяте поверителна или чувствителна информация. За разлика от други чатове с приятели, всички съобщения с My AI ще бъдат запазени, освен ако не ги изтриете, и могат да бъдат използвани за подобряване на продуктите на Snap и за персонализиране на вашето преживяване, включително реклами.
Отговорите на моя изкуствен интелект понякога са ограничени до най-новата информация в данните за обучение на основните модели. Това означава, че отговорите на моя изкуствен интелект може да не са актуални за последните новини и събития. Моят изкуствен интелект може също така да избягва определени чувствителни теми, ако е уместно.