My AIは、現在Snapchatユーザーが利用可能な、実験的でフレンドリーなチャットボットです。
AIの安全性に対するアプローチ
当社は地域社会の安全と安寧に深く関心を持ち、その価値を製品に反映するように努力しています。 My AIは、OpenAIのGPT3.5やGPT4などの大規模言語モデルを搭載し、その技術に基づいて構築されており、様々なテキストについてトレーニングされています。My AIは特定のガイドラインを遵守するようにプログラムされているため、提供される情報は有害ではありません（暴力的、憎悪的、性的に露骨な、またはその他の危険な反応を避けることを含む）が、常に有害な偏見を避けることができるとは限りません。
Snapchat全体で使用しているのと同じ保護手段とツールを統合しています。 麻薬キーワードと俗語の遮断結果も、My AIをカスタマイズした方法の一部です。 さらに、SnapchatユーザーがSnapchatのどこでもさまざまなメンタルヘルスの問題を検索すると、専門家組織のリソースが提供されます。 Here For YouというこのツールはMy AIとのチャットで表示されます。
また、当社は、My AIを中心としたファミリーセンターに、ティーンエイジャーのMy AIの使用について保護者がより見やすく、コントロールできるようなツールを追加することにも取り組んでいるところです。
フィードバック
他のタイプの人工知能と機械学習技術のようにAIチャットボットも活用すればするほど改善されます。 Snapchatユーザーは特に何か問題が発生した場合、当社にフィードバックを提出することを推奨しています。そのため、OpenAIと共に技術の進化に取り組むことができます。
Snapchatユーザーは、My AIの応答を長押しすると、チームに簡単にフィードバックを送ることができます。
My AIから受け取ったチャットを報告するには
- 「チャット応答」を長押しし、「報告」をタップします
- チャットを報告する理由を教えてください
- 「送信」をタップします。
誤った情報と意見の分かれるトピック
My AIは、OpenAIのGPT3.5やGPT4などの大規模言語モデルを搭載しています。これらのモデルは、書籍、記事、Webページなどのさまざまな種類のテキストを含む、大規模で多様なテキストコーパスで訓練されました。このコーパスは、誤った情報や意見の分かれる話題を含む、インターネット上で利用可能な情報の多様性を反映しています。
教育過程は有害または不正確な情報を増幅させないように設計され、モデルも言語の偏見を減らし、事実情報を優先するように微調整されました。それでも、必ずしも完全であるとは限りません。Snapはまた、Snapchat独自の追加属性や安全機能を追加しました。
My AIの制限事項
当社は、My AIの改善と進化に絶えず取り組んでいますが、My AIの回答には、偏った、不正確な、有害な、または誤解を招くコンテンツが含まれる可能性があります。My AIは進化し続ける機能であるため、MyAIのアドバイスに頼る前に、提供された回答を常にご自身で確認してください。また、機密情報や機密情報を共有するべきではありません。フレンドとの他のチャットとは異なり、My AIと一緒にするすべてのメッセージは削除しない限り維持され、Snapの製品改善と広告をはじめとする個人的な経験のカスタマイズに活用されることもあります。
My AIの回答は、基礎となるモデルのトレーニングデータにある最新の情報に限られる場合があります。 つまり、My AIの回答は、最近のニュースやイベントに関する最新情報ではない可能性があるということです。 My AIは、必要に応じて特定のセンシティブな話題を避ける場合もあります。