My AI — это экспериментальный дружелюбный чат-бот, доступный в настоящее время для снапчаттеров.
Наш подход к безопасности ИИ
Мы глубоко заботимся о безопасности и благополучии нашего сообщества и стараемся отражать эти ценности в наших продуктах. My AI работает на основе больших языковых моделей, таких как модели GPT от OpenAI и Gemini от Google. Он был обучен на различных текстах с дополнительными улучшениями безопасности и элементами управления, уникальными для Snapchat. Хотя My AI был запрограммирован с учётом соблюдения определённых правил, чтобы предоставляемая им информация не причиняла вреда, включая недопущение в его ответах насилия, ненависти, откровенной сексуальной информации или иной опасности, а также вредоносных предубеждений, он не всегда может преуспевать в этом.
Мы используем те же средства защиты и инструменты, что и в Snapchat. Блокирование результатов по ключевым словам, относящимся к наркотикам и сленгу, также является частью настройки My AI. Кроме того, если снапчаттеры будут искать в Snapchat информацию по различным вопросам психического здоровья, им будут предложены ресурсы от экспертных организаций. Этот инструмент под названием Here For You будет появляться в чате с My AI.
Мы также работаем над добавлением дополнительных инструментов в Семейный центр в части My AI, которые позволят родителям лучше видеть и контролировать использование My AI их подростками.
Обратная связь
Как и другие виды технологий искусственного интеллекта и машинного обучения, чат-боты ИИ совершенствуются по мере их использования. Мы призываем снапчаттеров отправлять нам отзывы, особенно если что-то работает неправильно, чтобы мы могли работать над развитием технологии вместе с OpenAI.
Снапчаттеры могут легко отправлять отзывы нашей команде, долго нажимая на любой ответ чат-бота «My AI», и сообщить нам о том, что они хотели бы видеть чаще или реже. Мы будем использовать это для обучения чат-бота.
Чтобы пожаловаться на чат с My AI, сделайте следующее:
- Нажмите и удерживайте ответ в чате, а затем выберите Пожаловаться.
- Сообщите нам причину жалобы на чат
- Нажмите Отправить
Дезинформация и неоднозначные темы
My AI работает на основе больших языковых моделей, таких как модели GPT от OpenAI и Gemini от Google. Он был обучен на различных текстах с дополнительными улучшениями безопасности и элементами управления, уникальными для Snapchat. Эта база данных отражает разнообразие информации, имеющейся в Интернете, включая дезинформацию и неоднозначные темы.
Процесс обучения предполагал недопущение вредоносной или неточной информации, а модель также была доработана с целью уменьшения предвзятости в языке и приоритизации фактической информации, хотя и не всегда. Snap также добавила дополнительные атрибуты и функции безопасности, уникальные для Snapchat.
Ограничения My AI
Мы постоянно работаем над улучшением и развитием My AI, но возможно, что его ответы могут содержать необъективный, неправильный, вредный или вводящий в заблуждение контент. Поскольку My AI является развивающейся функцией, вы всегда должны самостоятельно проверять ответы, предоставляемые этим чат-ботом, прежде чем полагаться на какие-либо советы. Кроме того, не следует делиться с ним конфиденциальной или секретной информацией. В отличие от других чатов с друзьями, все сообщения, отправленные My AI, будут сохранены, если вы их не удалите. Эти сообщения также могут быть использованы для улучшения продуктов Snap и персонализации ваших возможностей, включая рекламу.
Иногда ответы My AI ограничиваются последней информацией из обучающих данных базовых моделей. Это означает, что ответы My AI могут не соответствовать последним новостям и событиям. При необходимости My AI также может избегать определённых деликатных тем.