My AI es un chatbot amistoso y experimental que está disponible actualmente para los Snapchatters.
Nuestro enfoque de seguridad con la IA
La seguridad y el bienestar de nuestra comunidad son valores de gran importancia para nosotros, por lo que trabajamos para reflejarlosen nuestros productos. My AI está desarrollada por OpenAI y basada en su tecnología, y ha sido entrenada con una extensa variedad de textos. A pesar de que My AI ha sido programada para seguir ciertas pautas para que la información que proporcione no sea perjudicial (entre ellas, evitar respuestas violentas, odiosas, sexualmente explícitas o peligrosas y evitar perpetuar prejuicios dañinos), puede que no siempre lo consiga.
Estamos implementando las mismas medidas de seguridad y herramientas que utilizamos en Snapchat. También hemos personalizado My AI para bloquear los resultados de palabras clave relacionadas con drogas o lenguaje coloquial. Asimismo, si los usuarios de Snapchat buscan temas relacionados con la salud mental en cualquier lugar de Snapchat, se les ofrecerán recursos de organizaciones expertas. Esta herramienta, llamada Here For You, aparecerá en los chats con My AI.
También estamos trabajando para añadir herramientas adicionales a nuestro Centro de Familia en relación con My AI, lo que daría a los padres más visibilidad y control sobre el uso de My AI por parte de sus hijos adolescentes.
Comentarios
Al igual que otros tipos de inteligencia artificial y tecnologías de aprendizaje automático, los chatbots de IA mejoran cuanto más se utilizan. Invitamos a los Snapchatters a que nos envíen sus comentarios, especialmente si algo anda mal, para que podamos trabajar en el desarrollo de la tecnología junto con OpenAI.
Los Snapchatters pueden proporcionar fácilmente sus comentarios sobre My AI al mantener pulsada cualquier respuesta y compartir lo que les gustaría ver más o menos mientras seguimos entrenando a My AI.
Para informar de un Chat recibido de My AI...
- Mantén pulsada la respuesta del chat y toca "Informar".
- Indícanos por qué estás denunciando el Chat
- Toca "Enviar".
Desinformación y temas polémicos
My AI funciona con la tecnología GPT de OpenAI, que fue entrenada en un corpus de texto amplio y diverso, que incluye varios tipos de texto, como libros, artículos y páginas web. Este corpus muestra la diversidad de la información disponible en Internet, incluida también la desinformación y los temas controvertidos.
El proceso de entrenamiento se diseñó para evitar la amplificación de información perjudicial o inexacta, y el modelo también se ajustó para reducir los sesgos en el lenguaje y dar prioridad a la información objetiva, aunque no siempre se logra de manera perfecta. Snap también ha añadido atributos adicionales y características de seguridad exclusivas de Snapchat
Las limitaciones de My AI
Nos esforzamos continuamente por mejorar y hacer evolucionar a My AI, pero es posible que las respuestas de este sistema incluyan contenido sesgado, incorrecto, perjudicial o engañoso. Dado que My AI es una herramienta en evolución, siempre debes comprobar de forma independiente las respuestas proporcionadas por My AI antes de confiar en cualquier consejo, y evita compartir información confidencial o sensible. A diferencia de otros chats con amigos, todos los mensajes con My AI serán almacenados a menos que los borres, y podrán ser utilizadas para mejorar los productos de Snap y personalizar tu experiencia, incluidos los anuncios.