My AI هو روبوت محادثة تجريبي ودود متاح حاليًا لمستخدمي ومستخدمات سناب شات.
منهجنا لسلامة AI
نحن نهتم بشدة بسلامة ورفاهية مجتمعنا ونعمل على ظهور هذه القيم في منتجاتنا. إن "My AI" مدعوم من OpenAI ومبني على التكنولوجيا الخاصة بها، وقد تم تدريبه على مجموعة متنوعة من النصوص. وعلى الرغم من أن "My AI" تمت برمجته للالتزام ببعض الإرشادات، وبالتالي فإن المعلومات التي يقدمها ليست ضارة (بما في ذلك تجنب الردود العنيفة أو البغيضة أو الجنسية الصريحة أو غير ذلك من الخطورة؛ وتجنب استمرار التحيزات الضارة)، فقد لا يكون ناجحًا دائمًا.
نحن ندمج نفس الإجراءات الوقائية والأدوات التي نستخدمها عبر سناب شات. ويُعد حظر النتائج للكلمات الرئيسية الخاصة بالمخدرات واللغة السوقية أيضًا جزءًا من كيفية تخصيص "My AI". بالإضافة إلى ذلك، إذا بحث مستخدمو ومستخدمات سناب شات عن مجموعة من مشكلات الصحة العقلية في أي مكان على سناب شات، فسيتم تقديم موارد لهم من منظمات متخصّصة. هذه الأداة، Here For You، ستظهر في الدردشة مع "My AI".
نحن نعمل أيضًا على إضافة أدوات إضافية إلى مركز العائلة حول "My AI" والتي من شأنها أن تمنح الوالدين مزيدًا من الرؤية والتحكّم في استخدام المراهقين لـ "My AI".
الملاحظات
مثل الأنواع الأخرى من تقنيات الذكاء الاصطناعي والتعلم الآلي، تعمل روبوتات الدردشة بالذكاء الاصطناعي على تحسين استخدامها. نحن نشجع مستخدمي ومستخدمات سناب شات على إرسال ملاحظات لنا، خاصةً إذا حدث خطأ ما، حتى نتمكّن من العمل على تطوير التكنولوجيا جنبًا إلى جنب مع OpenAI.
يمكن أن يرسل مُستخدمو سناب شات الملاحظات لفريقنا بسهولةٍ عن طريق الضغط المطول على أي رد من My AI لمشاركة المزيد حول ما يرغبون في رؤيته أكثر أو أقل بينما نواصل تدريب My AI.
للإبلاغ عن دردشة تلقيتها من My AI...
- اضغط مع الاستمرار على رد الدردشة ثم انقر على "إبلاغ"
- أخبرنا سبب إبلاغك عن الدردشة
- المس "إرسال"
المعلومات المضلّلة والموضوعات الخلافية
يتم تشغيل My AI بواسطة تقنية GPT الخاصة بـ OpenAI والتي تم تدريبها على مجموعة نصية كبيرة ومتنوعة، بما في ذلك أنواع مختلفة من النصوص مثل الكتب والمقالات وصفحات الويب. وتعكس هذه المجموعة تنوّع المعلومات المتاحة على الإنترنت، بما في ذلك المعلومات المضلّلة والمواضيع المثيرة للانقسام.
لقد تم تصميم عملية التدريب لتجنب تضخيم المعلومات الضارة أو غير الدقيقة، كما تم ضبط النموذج لتقليل التحيزات في اللغة ولإعطاء الأولوية للمعلومات الواقعية — على الرغم من أن ذلك قد لا يكون ناجحًا دائمًا. كما أضافت سناب أيضًا سمات إضافية وميزات أمان فريدة لسناب شات
القيود المفروضة على "My AI".
نحن نعمل باستمرار على تحسين وتطوير My AI، ولكن من الممكن أن تتضمّن ردود My AI محتوى متحيزًا أو غير صحيح أو ضارًا أو مضللًا. ونظرًا لأن My AI يعتبر ميزة متطوّرة، يجب عليك دائمًا التحقق بشكلٍ مستقل من الإجابات التي يقدمها My AI قبل الاعتماد على أي نصيحة، ويجب ألّا تشارك معلومات سرية أو حساسة. وعلى عكس الدردشات الأخرى مع الأصدقاء، سيتم الاحتفاظ بجميع الرسائل التي تمت مع "My AI" ما لم تحذفها ويمكن استخدامها لتحسين منتجات سناب ولإضفاء الطابع الشخصي على تجربتك، بما في ذلك الإعلانات.