My AI ist ein experimenteller, freundlicher Chatbot, der derzeit für Snapchatter verfügbar ist.
Unser Ansatz für die Sicherheit der KI
Die Sicherheit und das Wohlergehen unserer Community liegen uns sehr am Herzen und wir bemühen uns, diese Werte in unseren Produkten widerzuspiegeln. My AI basiert auf großen Sprachmodellen wie den GPT-Modellen von OpenAI und den Gemini-Modellen von Google. Es wurde anhand vielfältiger Texte geschult und bietet zusätzliche Sicherheitsverbesserungen und Kontrollen, die es nur bei Snapchat gibt. Obwohl My AI darauf programmiert wurde, sich an bestimmte Richtlinien zu halten, damit die bereitgestellten Informationen nicht negativ sind (einschließlich der Vermeidung von Antworten, die gewalttätig, hasserfüllt, sexuell explizit oder anderweitig gefährlich sind, und der Vermeidung der Fortführung von negativen Vorurteilen), funktioniert dies nicht immer.
Wir integrieren dieselben Sicherheitsvorkehrungen und Tools, die wir auch bei Snapchat verwenden. Das Blockieren von Ergebnissen für Drogen-Schlüsselwörter und -Slang ist ebenfalls Teil der Anpassung von My AI. Darüber hinaus werden Snapchattern, wenn sie auf Snapchat nach verschiedenen Themen der psychischen Gesundheit suchen, Ressourcen von Expertenorganisationen angezeigt. Dieses Tool, Here For You genannt, wird in Chats mit My AI angezeigt.
Des Weiteren arbeiten wir daran, unser Family Center um zusätzliche Tools rund um My AI zu erweitern, die den Eltern mehr Transparenz und Kontrolle über die Nutzung von My AI durch ihre Teenager ermöglichen sollen.
Feedback
Wie andere Technologien der künstlichen Intelligenz und des maschinellen Lernens verbessern sich auch KI-Chatbots, je mehr sie eingesetzt werden. Wir laden Snapchatter dazu ein, uns Feedback zu geben, insbesondere wenn etwas schiefläuft, damit wir die Technologie gemeinsam mit OpenAI weiterentwickeln können.
Snapchatter können ganz einfach Feedback an unser Team senden, indem sie lange auf eine Antwort von My AI drücken, um mehr darüber zu erfahren, was sie mehr oder weniger sehen möchten, während wir My AI weiter trainieren.
So meldest du einen Chat von My AI …
- Drücke und halte die Chat-Antwort gedrückt und tippe auf „Melden“
- Teil uns mit, warum du den Chat meldest
- Tippe auf „Abschicken“
Fehlinformationen und kontroverse Themen
My AI basiert auf großen Sprachmodellen wie den GPT-Modellen von OpenAI und den Gemini-Modellen von Google. Es wurde anhand vielfältiger Texte geschult und bietet zusätzliche Sicherheitsverbesserungen und Kontrollen, die es nur bei Snapchat gibt. Dieser Korpus spiegelte die Vielfalt der im Internet verfügbaren Informationen wider, einschließlich Fehlinformationen und kontroverse Themen.
Der Trainingsprozess wurde so gestaltet, dass schädigende oder ungenaue Informationen nicht verstärkt werden. Gleichzeitig wurde das Modell fein abgestimmt, um sprachliche Verzerrungen zu reduzieren und sachlichen Informationen den Vorrang zu geben – auch wenn dies nicht immer gelingt. Snap hat außerdem zusätzliche Attribute und Sicherheitsfunktionen hinzugefügt, die es nur bei Snapchat gibt.
Die Grenzen von My AI
Wir arbeiten ständig an der Verbesserung und Weiterentwicklung von My AI. Dennoch ist es möglich, dass die Antworten von My AI voreingenommene, falsche, schädliche oder irreführende Inhalte enthalten. Da My AI eine sich weiterentwickelnde Funktion ist, solltest du die Antworten von My AI immer unabhängig überprüfen, bevor du dich auf einen Rat verlässt. Außerdem solltest du keine vertraulichen oder sensiblen Informationen teilen. Im Gegensatz zu anderen Chats mit Freunden werden alle Nachrichten mit My AI gespeichert, sofern du sie nicht löschst. Sie können zur Verbesserung der Snap Produkte und zur Personalisierung deiner Erfahrung, einschließlich Werbeanzeigen, verwendet werden.
Die Antworten von My AI beschränken sich manchmal auf die neuesten Informationen in den Daten aus dem Training der zugrunde liegenden Modelle. Demzufolge berücksichtigen die Antworten von My AI eventuell nicht die neuesten Nachrichten und Ereignisse. Gegebenenfalls kann My AI darüber hinaus bestimmte sensible Themen vermeiden.