My AI es un chatbot experimental y amigable actualmente disponible para Snapchatters.
Nuestro enfoque de la seguridad en IA
Nos tomamos muy en serio la seguridad y el bienestar de nuestra comunidad, y trabajamos para reflejar estos valores en nuestros productos. My AI está impulsada por modelos lingüísticos de gran tamaño, como los modelos GPT de OpenAI y los modelos Gemini de Google, y ha sido entrenada con una amplia gama de textos, con mejoras de seguridad y controles exclusivos para Snapchat. Aunque My AI está diseñada para seguir pautas que eviten respuestas perjudiciales (como contenido violento, de odio, explícitamente sexual o peligroso, y la promoción de prejuicios dañinos), puede que en ocasiones no logre hacerlo.
Integramos las mismas medidas de seguridad y herramientas que en Snapchat. También hemos personalizado My AI para bloquear los resultados de palabras clave relacionadas con las drogas y la jerga. Además, si los usuarios de Snapchat buscan temas relacionados con la salud mental en cualquier parte de Snapchat, se les proporcionarán recursos de organizaciones especializadas. Esta herramienta, llamada Here For You, aparecerá en los chats con My AI.
También estamos trabajando para añadir herramientas adicionales a nuestro Centro de familia en torno a My AI que darían a los padres más visibilidad y control sobre el uso de My AI por parte de sus hijos adolescentes.
Desinformación y temas polémicos
My AI está impulsada por modelos lingüísticos de gran tamaño, como los modelos GPT de OpenAI y los modelos Gemini de Google, y ha sido entrenada con una amplia gama de textos, con mejoras de seguridad y controles exclusivos para Snapchat. Este corpus de datos refleja la variedad de información disponible en internet, incluido la desinformación y temas polémicos.
El proceso de entrenamiento se diseñó para evitar amplificar información dañina o inexacta, y el modelo fue ajustado para reducir sesgos y dar prioridad a la información verificada, aunque no siempre pueda lograrlo por completo. Snap también ha añadido atributos y funciones de seguridad adicionales exclusivos de Snapchat.
Limitaciones de My AI
Aunque trabajamos constantemente para mejorar y hacer evolucionar My AI, es posible que sus respuestas incluyan contenido tendencioso, incorrecto, perjudicial o engañoso. Debido a que My AI es una función en desarrollo, siempre es recomendable verificar de manera independiente las respuestas proporcionadas antes de confiar en cualquier consejo, así como evitar compartir información confidencial o sensible. A diferencia de otros chats con amigos, todos los mensajes con My AI se conservarán a menos que los borres y podrán ser utilizados para mejorar los productos de Snap y personalizar tu experiencia, incluidos los anuncios.
Las respuestas de My AI pueden estar restringidas a la información más reciente que se encuentra en los datos de entrenamiento de los modelos subyacentes. Lo que significa que algunas respuestas pueden no estar actualizadas con respecto a noticias y eventos recientes. My AI puede evitar tratar ciertos temas delicados cuando lo considere necesario.