My AI est un chatbot expérimental, convivial et actuellement disponible pour les Snapchatters.
Notre approche de la AI Safety (sécurité IA)
Nous attachons une grande importance à la sécurité et au bien-être de notre communauté et nous nous efforçons de refléter ces valeurs dans nos produits. My AI est alimentée par des grands modèles de langage, tels que les modèles GPT d’OpenAI et les modèles Gemini de Google. Elle a été entraînée sur un large éventail de textes, avec des améliorations et des contrôles de sécurité supplémentaires propres à Snapchat. Bien que My AI (Mon IA) ait été programmée pour respecter certaines directives afin que les informations qu’elle fournit ne soient pas préjudiciables (notamment en évitant les réponses violentes, haineuses, sexuellement explicites ou autrement dangereuses, et en évitant de perpétuer des préjugés néfastes), la possibilité d'erreurs est toujoures présente.
Nous intégrons les mêmes mesures de protection et les mêmes outils que ceux que nous utilisons sur Snapchat. Le blocage des résultats pour les mots-clés liés aux stupéfiants et à l’argot fait également partie de la façon dont nous avons personnalisé My AI (Mon IA). En outre, si les Snapchatters font des recherches sur un ensemble de troubles mentaux, n’importe où sur Snapchat, ils recevront des ressources provenant d’organisations spécialisées. Vous trouverez cet outil, Here For You (À votre écoute), dans les discussions avec My AI.
Nous travaillons également à ajouter des outils supplémentaires à notre Centre parental autour de My AI (Mon IA), lesquels permettraient aux parents de mieux connaître et contrôler comment leurs adolescents utilisent My AI (Mon IA).
Désinformation et sujets controversés
My AI est alimentée par des grands modèles de langage, tels que les modèles GPT d’OpenAI et les modèles Gemini de Google. Elle a été entraînée sur un large éventail de textes, avec des améliorations et des contrôles de sécurité supplémentaires propres à Snapchat. Ce corpus reflétait la diversité des informations disponibles sur Internet, y compris la désinformation et les sujets controversés.
Le processus de test (formation) a été conçu afin d’éviter d’amplifier les informations préjudiciables ou erronées et le modèle a également été peaufiné, afin de réduire les préjugés dans la langue et donner la priorité aux informations factuelles. Snap a également ajouté des attributs supplémentaires et des fonctionnalités de sécurité uniques à Snapchat.
Les inconvénients de My AI (Mon IA)
Nous travaillons constamment pour améliorer et faire évoluer My AI, mais il est possible que les réponses de My IA comprennent un contenu biaisé, incorrect, nuisible ou trompeur. My AI étant une fonctionnalité en pleine évolution, vous devez toujours vérifier indépendamment les réponses fournies par My AI avant de vous fier à n'importe quel conseil, vous ne devriez pas partager des informations confidentielles ou sensibles. Contrairement aux autres chats avec des amis, tous les messages avec My AI (Mon IA) seront conservés, à moins que vous ne les supprimiez. Ils pourraient servir à améliorer les produits Snap et personnaliser votre expérience, y compris les publicités.
Les réponses de My AI sont parfois limitées aux dernières informations contenues dans les données d’entraînement des modèles sous-jacents. Cela signifie que les réponses de My AI peuvent ne pas être à jour par rapport à l’actualité et aux événements récents. My AI peut également éviter certains sujets sensibles, le cas échéant.