My AI هو روبوت محادثة تجريبي وودود ومتاح حاليًا لمستخدمي ومستخدمات سناب شات.
منهجنا لسلامة AI
نحن نهتم بشدة بسلامة ورفاهية مجتمعنا ونعمل على ظهور هذه القيم في منتجاتنا. يتم تشغيل "My AI" بواسطة نماذج لغوية كبيرة مثل نماذج GPT من OpenAI ونماذج Gemini من Google، وقد تم تدريبه على مجموعة متنوعة من النصوص، مع تحسينات إضافية على السلامة وعناصر التحكّم الفريدة لسناب شات. وعلى الرغم من أن "My AI" تمت برمجته للالتزام ببعض الإرشادات، وبالتالي فإن المعلومات التي يقدمها ليست ضارة (بما في ذلك تجنب الردود العنيفة أو البغيضة أو الجنسية الصريحة أو غير ذلك من الخطورة؛ وتجنب استمرار التحيزات الضارة)، فقد لا يكون ناجحًا دائمًا.
نحن ندمج نفس الإجراءات الوقائية والأدوات التي نستخدمها عبر سناب شات. ويُعد حظر النتائج للكلمات الرئيسية الخاصة بالمخدرات واللغة السوقية أيضًا جزءًا من كيفية تخصيص "My AI". بالإضافة إلى ذلك، إذا بحث مستخدمو ومستخدمات سناب شات عن مجموعة من مشكلات الصحة العقلية في أي مكان على سناب شات، فسيتم تقديم موارد لهم من منظمات متخصّصة. هذه الأداة، Here For You، ستظهر في الدردشة مع "My AI".
نحن نعمل أيضًا على إضافة أدوات إضافية إلى مركز العائلة حول "My AI" والتي من شأنها أن تمنح الوالدين مزيدًا من الرؤية والتحكّم في استخدام المراهقين لـ "My AI".
المعلومات المضلّلة والموضوعات الخلافية
يتم تشغيل "My AI" بواسطة نماذج لغوية كبيرة مثل نماذج GPT من OpenAI ونماذج Gemini من Google، وقد تم تدريبه على مجموعة متنوعة من النصوص، مع تحسينات إضافية على السلامة وعناصر التحكّم الفريدة لسناب شات. وتعكس هذه المجموعة تنوّع المعلومات المتاحة على الإنترنت، بما في ذلك المعلومات المضلّلة والمواضيع المثيرة للانقسام.
لقد تم تصميم عملية التدريب لتجنب تضخيم المعلومات الضارة أو غير الدقيقة، كما تم ضبط النموذج لتقليل التحيزات في اللغة ولإعطاء الأولوية للمعلومات الواقعية — على الرغم من أن ذلك قد لا يكون ناجحًا دائمًا. كما أضافت سناب سمات إضافية وميزات أمان فريدة إلى سناب شات
القيود المفروضة على "My AI".
نحن نعمل باستمرار على تحسين وتطوير My AI، ولكن من الممكن أن تتضمّن ردود My AI محتوى متحيزًا أو غير صحيح أو ضارًا أو مضللًا. ونظرًا لأن My AI يعتبر ميزة متطوّرة، يجب عليك دائمًا التحقق بشكلٍ مستقل من الإجابات التي يقدمها My AI قبل الاعتماد على أي نصيحة، ويجب ألّا تشارك معلومات سرية أو حساسة. وعلى عكس الدردشات الأخرى مع الأصدقاء، سيتم الاحتفاظ بجميع الرسائل التي تمت مع "My AI" ما لم تحذفها ويمكن استخدامها لتحسين منتجات سناب ولإضفاء الطابع الشخصي على تجربتك، بما في ذلك الإعلانات.
تقتصر ردود My AI أحيانًا على أحدث المعلومات في بيانات تدريب النماذج الأساسية. وهذا يعني أن ردود My AI قد لا تكون حديثة فيما يتعلّق بالأخبار والأحداث الأخيرة. كما قد يتجنّب My AI بعض الموضوعات الحساسة حسب الاقتضاء.