My AI es un chatbot amistoso y experimental que está disponible actualmente para los Snapchatters.
Nuestro enfoque de seguridad con la IA
La seguridad y el bienestar de nuestra comunidad son valores de gran importancia para nosotros, por lo que trabajamos para reflejarlosen nuestros productos. My AI funciona con modelos de lenguaje de gran tamaño, como los modelos GPT de OpenAI y los modelos Gemini de Google, y ha sido entrenado con una amplia variedad de textos, con mejoras de seguridad adicionales y controles exclusivos de Snapchat. A pesar de que Mi IA ha sido programada para seguir ciertas pautas para que la información que proporcione no sea perjudicial (entre ellas, evitar respuestas violentas, odiosas, sexualmente explícitas o peligrosas y evitar perpetuar prejuicios dañinos), puede que no siempre lo consiga.
Estamos implementando las mismas medidas de seguridad y herramientas que utilizamos en Snapchat. También hemos personalizado Mi IA para bloquear los resultados de palabras clave relacionadas con drogas o lenguaje coloquial. Asimismo, si los usuarios de Snapchat buscan temas relacionados con la salud mental en cualquier lugar de Snapchat, se les ofrecerán recursos de organizaciones expertas. Esta herramienta, llamada Here For You, aparecerá en los chats con My AI.
También estamos trabajando para añadir herramientas adicionales a nuestro Centro de Familia en relación con My AI, lo que daría a los padres más visibilidad y control sobre el uso de My AI por parte de sus hijos adolescentes.
Comentarios
Al igual que otros tipos de inteligencia artificial y tecnologías de aprendizaje automático, los chatbots de IA mejoran cuanto más se utilizan. Invitamos a los Snapchatters a que nos envíen sus comentarios, sobre todo si algo va mal, para que podamos trabajar en la evolución de la tecnología junto con OpenAI.
Los Snapchatters pueden proporcionar fácilmente sus comentarios sobre My AI al mantener pulsada cualquier respuesta y compartir lo que les gustaría ver más o menos mientras seguimos entrenando a My AI.
Para informar de un Chat recibido de My AI...
- Mantén pulsada la respuesta del chat y toca "Informar".
- Indícanos por qué estás denunciando el Chat
- Toca "Enviar".
Desinformación y temas conflictivos
My AI funciona con modelos de lenguaje de gran tamaño, como los modelos GPT de OpenAI y los modelos Gemini de Google, y ha sido entrenado con una amplia variedad de textos, con mejoras de seguridad adicionales y controles exclusivos de Snapchat. Este corpus muestra la diversidad de la información disponible en Internet, incluida también la desinformación y los temas controvertidos.
El proceso de entrenamiento se diseñó para evitar la amplificación de información perjudicial o inexacta, y el modelo también se ajustó para reducir los sesgos en el lenguaje y dar prioridad a la información objetiva, aunque no siempre se logra de manera perfecta. Snap también ha incorporado funciones de seguridad y atributos adicionales exclusivos de Snapchat.
Las limitaciones de Mi IA
Nos esforzamos continuamente por mejorar y hacer evolucionar a My AI, pero es posible que las respuestas de este sistema incluyan contenido sesgado, incorrecto, perjudicial o engañoso. Dado que My AI es una herramienta en evolución, siempre debes comprobar de forma independiente las respuestas proporcionadas por My AI antes de confiar en cualquier consejo, y evita compartir información confidencial o sensible. A diferencia de otros chats con amigos, todos los mensajes con Mi IA serán almacenados a menos que los borres, y podrán ser utilizadas para mejorar los productos de Snap y personalizar tu experiencia, incluidos los anuncios.
En algunos casos, las respuestas de My AI se limitan a la información más reciente disponible en los datos de entrenamiento de los modelos subyacentes. Esto significa que las respuestas de My AI podrían no estar al día en cuanto a noticias y acontecimientos recientes. My AI también puede evitar ciertos temas delicados según sea necesario.