My AIは、現在Snapchatユーザーが利用可能な、実験的でフレンドリーなチャットボットです。
AIの安全性に対するアプローチ
当社は地域社会の安全と安寧に深く関心を持ち、その価値を製品に反映するように努力しています。 My AIは、GoogleのOpenAIモデルやGeminiモデルのGPTモデルなどの大規模言語モデルを搭載しており、Snapchat独自の安全強化や管理により、多様なテキストでトレーニングされています。 My AIは特定のガイドラインを遵守するようにプログラムされているため、提供される情報は有害ではありません（暴力的、憎悪的、性的に露骨な、またはその他の危険な反応を避けることを含む）が、常に有害な偏見を避けることができるとは限りません。
Snapchat全体で使用しているのと同じ保護手段とツールを統合しています。 麻薬関連のキーワードと俗語の結果の遮断も、My AIをカスタマイズした方法の一部です。 さらに、SnapchatユーザーがSnapchatのどこでもさまざまなメンタルヘルスの問題を検索すると、専門家組織のリソースが提供されます。 Here For YouというこのツールはMy AIとのチャットで表示されます。
また、当社は、My AI周辺のファミリーセンターに、保護者がティーンエイジャーのMy AI利用状況について可視化して管理しやすくするツールの追加にも取り組んでいるところです。
誤った情報と意見の分かれるトピック
My AIは、GoogleのOpenAIモデルやGeminiモデルのGPTモデルなどの大規模言語モデルを搭載しており、Snapchat独自の安全強化や管理により、多様なテキストでトレーニングされています。 このコーパスは、誤った情報や意見の分かれる話題を含む、インターネット上で利用可能な情報の多様性を反映しています。
教育過程は有害または不正確な情報を増幅させないように設計され、モデルも言語の偏見を減らし、事実情報を優先するように微調整されました。それでも、必ずしも完全であるとは限りません。Snapはまた、Snapchat独自の追加属性や安全機能を追加しました。
My AIの制限事項
当社は、My AIの改善と発展に絶えず取り組んでいますが、My AIの回答には、偏っていたり、不正確だったり、有害または誤解を招いたりするコンテンツが含まれる可能性があります。My AIは進化し続ける機能であるため、MyAIのアドバイスに頼る前に、提供された回答を常にご自身で確認してください。また、機密情報や個人情報を共有するべきではありません。フレンドとの他のチャットとは異なり、My AIと一緒にするすべてのメッセージは削除しない限り維持され、Snapの製品改善と広告をはじめとする個人的な経験のカスタマイズに活用されることもあります。
My AIの回答は、基礎となるモデルのトレーニングデータにある最新の情報に限られる場合があります。 つまり、My AIの回答は、最近のニュースやイベントに関する最新情報ではない可能性があるということです。 My AIは、必要に応じて特定のセンシティブな話題を避ける場合もあります。