My AI は、現在 Snapchat ユーザーが利用できる実験的でフレンドリーなチャットボットです。
AIの安全性に対する当社のアプローチ
私たちはコミュニティの安全と幸福が非常に大切だと考えており、その価値観を製品に反映させるよう努めています。My AI は、OpenAI の GPT モデルや Google の Gemini モデルなどの大規模言語モデルを搭載し、さまざまなテキストでトレーニングされており、Snapchat 独自の追加の安全性強化機能と制御機能を備えています。My AI は、提供する情報が有害でないように特定のガイドラインに従うようにプログラムされていますが (暴力的、憎悪的、性的に露骨、またはその他の危険な応答を回避すること、有害な偏見を永続させないようにすることなど)、必ずしも成功するとは限りません。
Snapchat 全体で使用しているものと同じ安全対策とツールを統合します。薬物関連のキーワードやスラングの結果をブロックすることも、My AI をカスタマイズする方法の一部です。さらに、SnapchatユーザーがSnapchat上のあらゆる場所でメンタルヘルスに関するさまざまな問題を検索すると、専門機関からのリソースが提供されます。「Here For You」と呼ばれるこのツールは、My AI とのチャットに表示されます。
また、My AI に関する追加ツールをファミリー センターに追加し、保護者が 10 代のお子様の My AI の使用状況をより詳細に把握し、制御できるようにする取り組みも進めています。
フィードバック
他の種類の人工知能や機械学習テクノロジーと同様に、AI チャットボットは使用すればするほど向上します。特に何か問題が発生した場合には、Snapchat ユーザーの皆様にフィードバックを送信していただくようお願いしています。そうすることで、OpenAI とともにテクノロジーの進化に取り組むことができます。
Snapchat ユーザーは、My AI からの応答を長押しすることで、My AI のトレーニングを継続しながら、さらに何をもっと見たいのか、または何を減らしたいのかをチームに簡単にフィードバックできます。
My AI から受信したチャットを報告するには…
- チャットの応答を長押しして「報告」をタップします
- チャットを報告する理由を教えてください
- 「送信」をタップ
誤報と分裂を招く話題
My AI は、OpenAI の GPT モデルや Google の Gemini モデルなどの大規模言語モデルを搭載し、さまざまなテキストでトレーニングされており、Snapchat 独自の追加の安全性強化機能と制御機能を備えています。このコーパスは、誤情報や分裂を招く話題など、インターネット上で入手可能な情報の多様性を反映しています。
トレーニング プロセスは、有害または不正確な情報を増幅しないように設計されており、モデルは言語の偏りを減らし、事実情報を優先するように微調整されていますが、常に成功するとは限りません。Snap は、Snapchat 独自の追加属性と安全機能も追加しました。
私のAIの限界
当社は My AI の改善と進化に常に取り組んでいますが、My AI の応答には偏った内容、不正確な内容、有害な内容、または誤解を招く内容が含まれる可能性があります。My AI は進化し続ける機能であるため、アドバイスに頼る前に必ず My AI が提供する回答を独自に確認し、機密情報やセンシティブな情報を共有しないでください。友人との他のチャットとは異なり、My AI とのメッセージはすべて削除しない限り保持され、Snap の製品を改善し、広告を含むユーザー体験をパーソナライズするために使用される場合があります。
My AI の応答は、基礎となるモデルのトレーニング データの最新情報に限定される場合があります。つまり、My AI の応答は最近のニュースやイベントに関するものではない可能性があります。My AI は、必要に応じて特定のデリケートな主題を避けることもあります。