البقاء بأمان مع "My AI"

My AI هو روبوت محادثة تجريبي ودود متاح حاليًا لمستخدمي ومستخدمات سناب شات.

منهجنا لسلامة AI

نحن نهتم بشدة بسلامة ورفاهية مجتمعنا ونعمل على ظهور هذه القيم في منتجاتنا. يتم تشغيل "My AI" بواسطة نماذج لغوية كبيرة مثل نماذج GPT من OpenAI ونماذج Gemini من Google، وقد تم تدريبه على مجموعة متنوعة من النصوص، مع تحسينات إضافية على السلامة وعناصر التحكّم الفريدة لسناب شات. وعلى الرغم من أن "My AI" تمت برمجته للالتزام ببعض الإرشادات، وبالتالي فإن المعلومات التي يقدمها ليست ضارة (بما في ذلك تجنب الردود العنيفة أو البغيضة أو الجنسية الصريحة أو غير ذلك من الخطورة؛ وتجنب استمرار التحيزات الضارة)، فقد لا يكون ناجحًا دائمًا.

نحن ندمج نفس الإجراءات الوقائية والأدوات التي نستخدمها عبر سناب شات. ويُعد حظر النتائج للكلمات الرئيسية الخاصة بالمخدرات واللغة السوقية أيضًا جزءًا من كيفية تخصيص "My AI". بالإضافة إلى ذلك، إذا بحث مستخدمو ومستخدمات سناب شات عن مجموعة من مشكلات الصحة العقلية في أي مكان على سناب شات، فسيتم تقديم موارد لهم من منظمات متخصّصة. هذه الأداة، Here For You، ستظهر في الدردشة مع "My AI".

نحن نعمل أيضًا على إضافة أدوات إضافية إلى مركز العائلة حول "My AI" والتي من شأنها أن تمنح الوالدين مزيدًا من الرؤية والتحكّم في استخدام المراهقين لـ "My AI".

الملاحظات

مثل الأنواع الأخرى من تقنيات الذكاء الاصطناعي والتعلم الآلي، تعمل روبوتات الدردشة بالذكاء الاصطناعي على تحسين استخدامها. نحن نشجع مستخدمي ومستخدمات سناب شات على إرسال ملاحظات لنا، خاصةً إذا حدث خطأ ما، حتى نتمكّن من العمل على تطوير التكنولوجيا جنبًا إلى جنب مع OpenAI.

يمكن أن يرسل مُستخدمو سناب شات الملاحظات لفريقنا بسهولةٍ عن طريق الضغط المطول على أي رد من "الذكاء الاصطناعي خاصتي" لمشاركة المزيد حول ما يرغبون في رؤيته أكثر أو أقل بينما نواصل تدريب "الذكاء الاصطناعي خاصتي".

للإبلاغ عن دردشة تلقيتها من My AI...

1. اضغط مع الاستمرار على رد الدردشة ثم انقر على "إبلاغ"
2. أخبرنا سبب إبلاغك عن الدردشة
3. المس "إرسال"

المعلومات المضلّلة والموضوعات الخلافية

يتم تشغيل "My AI" بواسطة نماذج لغوية كبيرة مثل نماذج GPT من OpenAI ونماذج Gemini من Google، وقد تم تدريبه على مجموعة متنوعة من النصوص، مع تحسينات إضافية على السلامة وعناصر التحكّم الفريدة لسناب شات. وتعكس هذه المجموعة تنوّع المعلومات المتاحة على الإنترنت، بما في ذلك المعلومات المضلّلة والمواضيع المثيرة للانقسام.

لقد تم تصميم عملية التدريب لتجنب تضخيم المعلومات الضارة أو غير الدقيقة، كما تم ضبط النموذج لتقليل التحيزات في اللغة ولإعطاء الأولوية للمعلومات الواقعية — على الرغم من أن ذلك قد لا يكون ناجحًا دائمًا. كما أضافت سناب سمات إضافية وميزات أمان فريدة إلى سناب شات

القيود المفروضة على "My AI".

نحن نعمل باستمرار على تحسين وتطوير My AI، ولكن من الممكن أن تتضمّن ردود My AI محتوى متحيزًا أو غير صحيح أو ضارًا أو مضللًا. ونظرًا لأن My AI يعتبر ميزة متطوّرة، يجب عليك دائمًا التحقق بشكلٍ مستقل من الإجابات التي يقدمها My AI قبل الاعتماد على أي نصيحة، ويجب ألّا تشارك معلومات سرية أو حساسة. وعلى عكس الدردشات الأخرى مع الأصدقاء، سيتم الاحتفاظ بجميع الرسائل التي تمت مع "My AI" ما لم تحذفها ويمكن استخدامها لتحسين منتجات سناب ولإضفاء الطابع الشخصي على تجربتك، بما في ذلك الإعلانات.

في بعض الأحيان، تقتصر ردود My AI على أحدث المعلومات في بيانات تدريب النماذج الأساسية. وهذا يعني أن ردود My AI قد لا تكون حديثة فيما يتعلّق بالأخبار والأحداث الأخيرة. كما قد يتجنّب My AI بعض الموضوعات ذات الأهمية حسب الاقتضاء.