My AI est un chatbot expérimental, convivial et actuellement disponible pour Snapchatters.
Notre approche de la AI Safety (sécurité IA)
Nous attachons une grande importance à la sécurité et au bien-être de notre communauté et nous nous efforçons de refléter ces valeurs dans nos produits. My AI est alimentée par des grands modèles de langage, tels que les modèles GPT d’OpenAI et les modèles Gemini de Google. Elle a été entraînée sur un large éventail de textes, avec des améliorations et des contrôles de sécurité supplémentaires propres à Snapchat. Bien que My AI (Mon IA) ait été programmé pour respecter certaines directives afin que les informations qu’il fournit ne soient pas préjudiciables (notamment en évitant les réponses violentes, haineuses, sexuellement explicites ou autrement dangereuses, et en évitant de perpétuer des préjugés néfastes), il peut ne pas toujours réussir.
Nous intégrons les mêmes mesures de protection et les mêmes outils que ceux que nous utilisons sur Snapchat. Le blocage des résultats pour les mots-clés liés aux stupéfiants et à l’argot fait également partie de la façon dont nous avons personnalisé My AI (Mon IA). En outre, si les Snapchateurs font des recherches sur un ensemble de troubles mentaux, n’importe où sur Snapchat, ils recevront des ressources provenant d’organisations spécialisées. Vous trouverez cet outil, Here For You (À votre écoute), dans les discussions avec My AI.
Nous travaillons également à ajouter des outils supplémentaires à notre Centre parental autour de My AI, lesquels permettraient aux parents de mieux connaître et contrôler comment leurs adolescents utilisent My AI.
Remarques
Comme tout autre type de technologie d’intelligence artificielle et d’apprentissage automatique, les chatbots IA s’améliorent au fur et à mesure qu’on les utilise. Nous encourageons les Snapchateurs à nous envoyer des commentaires, en particulier si un problème survient, afin que nous puissions améliorer la technologie avec OpenAI.
Les Snapchatters peuvent facilement envoyer des commentaires à notre équipe en appuyant longuement sur n’importe quelle réponse de My AI afin d’en dire plus sur ce qu’ils aimeraient voir plus ou moins pendant que nous continuons à former My AI.
Signaler chat reçu de My AI…
- Appuyez longuement sur la réponse du chat et appuyez sur 'Signaler'
- Faites-nous savoir pourquoi vous signalez ce chat
- Appuyez sur « Envoyer »
Désinformation et sujets controversés
My AI est alimentée par des grands modèles de langage, tels que les modèles GPT d’OpenAI et les modèles Gemini de Google. Elle a été entraînée sur un large éventail de textes, avec des améliorations et des contrôles de sécurité supplémentaires propres à Snapchat. Ce corpus reflétait la diversité des informations disponibles sur Internet, y compris la désinformation et les sujets controversés.
Le processus de test (formation) a été conçu afin d’éviter d’amplifier les informations préjudiciables ou erronées et le modèle a également été peaufiné, afin de réduire les préjugés dans la langue et donner la priorité aux informations factuelles. De nouveaux attributs et fonctionnalités de sécurité uniques à l’application par Snap.
Les inconvénients de My AI (Mon IA)
Nous travaillons constamment pour améliorer et faire évoluer My AI, mais il est possible que les réponses de My IA comprennent un contenu biaisé, incorrect, nuisible ou trompeur. My AI étant une fonctionnalité en pleine évolution, vous devez toujours vérifier indépendamment les réponses fournies par My AI avant de vous fier à n'importe quel conseil, vous ne devriez pas partager des informations confidentielles ou sensibles. Contrairement aux autres chats avec des amis, tous les messages avec My AI (Mon IA) seront conservés, à moins que vous ne les supprimiez. Ils pourraient servir à améliorer les produits Snap et personnaliser votre expérience, y compris les publicités.
Les réponses de My AI sont parfois limitées aux dernières informations contenues dans les données d’entraînement des modèles sous-jacents. Cela signifie que les réponses de My AI peuvent ne pas être à jour par rapport à l’actualité et aux événements récents. My AI peut également éviter certains sujets sensibles, le cas échéant.