My AI es un chatbot experimental y amigable actualmente disponible para los Snapchatters.
Nuestro enfoque de la seguridad en IA
Nos tomamos muy en serio la seguridad y el bienestar de nuestra comunidad, y trabajamos para reflejar estos valores en nuestros productos My AI funciona con grandes modelos de lenguaje, como los modelos GPT de OpenAI y los modelos Gemini de Google, y ha sido entrenado en una amplia gama de textos, con mejoras de seguridad y controles adicionales exclusivos de Snapchat. Aunque My AI se programó para cumplir con ciertas pautas para que la información que proporciona no sea perjudicial (como evitar respuestas violentas, odiosas, sexualmente explícitas o peligrosas, y evitar perpetuar sesgos perjudiciales), es posible que no siempre tenga éxito.
Integramos las mismas medidas de seguridad y herramientas que en Snapchat. El bloqueo de los resultados de palabras clave sobre drogas y la jerga también forma parte de cómo hemos personalizado My AI. Además, si los usuarios de Snapchat buscan temas relacionados con la salud mental en cualquier parte de Snapchat, se les proporcionarán recursos de organizaciones especializadas. Esta herramienta, llamada Here For You, aparecerá en los chats con My AI.
También estamos trabajando en agregar herramientas adicionales a nuestro Centro Familiar en torno a My AI que brindarían a los padres más visibilidad y control sobre el uso de My AI por parte de sus adolescentes.
Comentarios
Al igual que otros tipos de inteligencia artificial y tecnologías de aprendizaje automático, los chatbots de IA mejoran cuanto más se utilizan. Animamos a los Snapchatters a que nos envíen comentarios, especialmente si algo sale mal, para que podamos trabajar para hacer evolucionar la tecnología junto con OpenAI.
Los Snapchatters pueden enviar fácilmente comentarios a nuestro equipo pulsando durante mucho tiempo cualquier respuesta de My AI para compartir más sobre lo que les gustaría ver más o menos mientras seguimos entrenando a My AI.
Para informar de un Chat recibido de My AI…
- Mantén pulsada la respuesta del chat y toca "Informar"
- Indícanos por qué estás reportando el Chat
- Toca "Enviar"
Desinformación y temas polémicos
My AI funciona con grandes modelos de lenguaje, como los modelos GPT de OpenAI y los modelos Gemini de Google, y ha sido entrenado en una amplia gama de textos, con mejoras de seguridad y controles adicionales exclusivos de Snapchat. Este corpus de datos refleja la variedad de información disponible en internet, incluido la desinformación y temas polémicos.
El proceso de entrenamiento se diseñó para evitar amplificar información dañina o inexacta, y el modelo fue ajustado para reducir sesgos y dar prioridad a la información verificada, aunque no siempre pueda lograrlo por completo. Snap también ha añadido atributos y funciones de seguridad adicionales exclusivos de Snapchat.
Limitaciones de My AI
Aunque trabajamos constantemente para mejorar y hacer evolucionar My AI, es posible que sus respuestas incluyan contenido tendencioso, incorrecto, perjudicial o engañoso. Debido a que My AI es una función en desarrollo, siempre es recomendable verificar de manera independiente las respuestas proporcionadas antes de confiar en cualquier consejo, así como evitar compartir información confidencial o sensible. A diferencia de otros chats con amigos, todos los mensajes con My AI se conservarán a menos que los elimines y pueden utilizarse para mejorar los productos de Snap y personalizar tu experiencia, incluidos los anuncios.
Las respuestas de My AI pueden estar restringidas a la información más reciente que se encuentra en los datos de entrenamiento de los modelos subyacentes. Lo que significa que algunas respuestas pueden no estar actualizadas con respecto a noticias y eventos recientes. My AI puede evitar tratar ciertos temas delicados cuando lo considere necesario.