My AI के साथ सुरक्षित रहना

मेरा AI एक प्रयोगात्मक और मित्रवत, चैटबॉट है, जो वर्तमान में Snap चैटर्स के लिए उपलब्ध है.

AI सुरक्षा के लिए हमारा दृष्टिकोण

हम अपने समुदाय की सुरक्षा और भलाई के बारे में गहराई से परवाह करते हैं और अपने उत्पादों में उन मूल्यों को दर्शाने के लिए काम करते हैं. My AI, ओपनAI के लिए GPT मॉडल और Google के जेमिनी मॉडल जैसे लार्ज लैंग्वेज मॉडल द्वारा संचालित है और इसे Snapchat के लिए अद्वितीय विस्तारित सुरक्षा संवर्द्धन और नियंत्रण के साथ, विभिन्न प्रकार के टेक्स्ट पर प्रशिक्षित किया गया है। जबकि My AI को कुछ दिशानिर्देशों का पालन करने के लिए प्रोग्राम किया गया था, इसलिए यह जो जानकारी प्रदान करता है वह हानिकारक नहीं है (हिंसक, घृणित, यौन रूप से स्पष्ट, या अन्यथा खतरनाक प्रतिक्रियाओं से बचने और हानिकारक पूर्वाग्रहों को बनाए रखने से बचने सहित), यह हमेशा सफल नहीं हो सकता है.

हम उन्हीं सुरक्षा उपायों और उपकरणों को एकीकृत करते हैं जिनका उपयोग हम Snapchat में करते हैं. ड्रग कीवर्ड और स्लैंग के लिए ब्लॉकिंग परिणाम भी उसी का हिस्सा है जिस तरह से हमने My AI को अनुकूलित किया है. इसके अलावा, अगर स्नैपचैट के उपयोगकर्ता Snapchat पर कहीं भी कई तरह के मानसिक स्वास्थ्य मुद्दों की खोज करते हैं, तो उन्हें विशेषज्ञ संगठनों से संसाधन उपलब्ध कराए जाएंगे. यह टूल, जिसे Here For You कहा जाता है, वह My AI के साथ चैट में दिखाई देगा।

हम माई एआई के आसपास अपने फ़ैमिली सेंटर में अतिरिक्त टूल जोड़ने पर भी काम कर रहे हैं जो माता-पिता को My AI के अपने किशोरों के उपयोग के बारे में अधिक दृश्यता और नियंत्रण प्रदान करेगा.

फ़ीडबैक

अन्य प्रकार की आर्टिफिशियल इंटेलिजेंस और मशीन लर्निंग तकनीकों की तरह, AI चैटबॉट्स जितना अधिक उपयोग किया जाता है, उसमें सुधार होता है. हम Snap चैटर्स को हमें फीडबैक सबमिट करने के लिए, खासकर ऐसी स्थिति में जहां कुछ गलत हो जाता है, प्रोत्साहित करते हैं ताकि हम इस प्रोद्योगिकी को OpenAI के साथ विकसित करने के लिए काम कर सकें।

Snapchatters मेरे AI के किसी भी उत्तर पर लंबा दबाव देकर अपनी टीम को इस बारे में आसानी से अधिक जानकारी साझा करने के लिए, कि वे क्या अधिक या कम देखना चाहते हैं, जिसकी मदद से हम मेरे AI को प्रशिक्षित करते रहेंगे.

My AI से मिले चैट को रिपोर्ट करना…

1. चैट रिस्पांस पर दबाएं व पकड़े रहें और 'रिपोर्ट करें' पर टैप करें
2. हमें बताएं कि आप चैट की रिपोर्ट क्यों कर रहे हैं
3. 'सबमिट करें' पर टैप करें

गलत सूचना और विभाजनकारी विषय-क्षेत्र

My AI, ओपनAI के लिए GPT मॉडल और Google के जेमिनी मॉडल जैसे लार्ज लैंग्वेज मॉडल द्वारा संचालित है और इसे Snapchat के लिए अद्वितीय विस्तारित सुरक्षा संवर्द्धन और नियंत्रण के साथ, विभिन्न प्रकार के टेक्स्ट पर प्रशिक्षित किया गया है। यह व्यवस्थित सेट गलत सूचना और मतभेद पैदा करने वाले विषयों सहित इंटरनेट पर उपलब्ध जानकारी की विविधता को दर्शाता है।

प्रशिक्षण प्रक्रिया को हानिकारक या अफ़वाह फैलाने वाली जानकारी से बचने के लिए डिज़ाइन किया गया था और भाषा में पूर्वाग्रहों को कम करने और तथ्यात्मक जानकारी को प्राथमिकता देने के लिए मॉडल में भी सुधार की गई थी — हालांकि इस काम में इसे हमेशा सफलता हासिल नहीं हो सकती है। Snap ने Snapchat के लिए अद्वितीय अतिरिक्त एट्रिब्यूट्स और सेफ़्टी फ़ीचर्स भी जोड़े हैं।

My AI की सीमाएं

हम My AI में सुधार लाने के साथ-साथ इसे और बेहतर बनाने के लिए लगातार काम कर रहे हैं, लेकिन यह संभव है कि My AI के जवाबों में पक्षपातपूर्ण, गलत या गुमराह करने वाले कॉन्टेंट हो सकते हैं। चूंकि My AI एक लगातार विकसित होता फ़ीचर है, इसलिए आपको किसी सलाह पर भरोसा करने से पहले My AI द्वारा दिए गए जवाबों की हमेशा स्वतंत्र रूप से जांच करनी चाहिए और आपको किसी गोपनीय या संवेदनशील जानकारी को शेयर नहीं करना चाहिए। फ़्रेंड्स के साथ दूसरे चैट के विपरीत, My AI के साथ किए गए सभी मैसेज को तब तक बनाए रखा जाएगा जब तक कि आप उन्हें डिलीट नहीं कर देते और इनका इस्तेमाल विज्ञापन के साथ-साथ Snap Inc. के प्रोडक्ट्स को और बेहतर बनाने में साथ ही साथ आपके अनुभव को खास आपके लिए तैयार करने में किया जाएगा।

My AI के जवाब, कभी-कभी अंतर्निहित मॉडल के प्रशिक्षण डेटा में मौजूद नवीनतम जानकारी तक सीमित होते हैं। इसका मतलब है कि हाल के समाचार और आयोजनों के बारे में My AI के जवाब, वर्तमान नहीं भी हो सकते हैं। My AI उचित लगने पर कुछ संवेदनशील विषयों को नजरअंदाज भी कर सकता है।