My AI के साथ सुरक्षित रहना

My AI एक्सपेरिमेंटल और दोस्ताना चैटबॉट है, जो अभी Snap चैटर के लिए उपलब्ध है।

AI सुरक्षा के लिए हमारा दृष्टिकोण

हम अपने समुदाय की सुरक्षा और भलाई के बारे में गहराई से परवाह करते हैं और अपने उत्पादों में उन मूल्यों को दर्शाने के लिए काम करते हैं. My AI, बड़े लैंग्वेज मॉडल पर चलता है, जैसे OpenAI के GPT मॉडल और Google के Gemini मॉडल। इसे अलग-अलग तरह के टेक्स्ट पर प्रशिक्षित किया गया है और Snapchat ने इसमें अपनी तरफ से अतिरिक्त सुरक्षा फ़ीचर और कंट्रोल जोड़े हैं। जबकि My AI को कुछ दिशानिर्देशों का पालन करने के लिए प्रोग्राम किया गया था, इसलिए यह जो जानकारी प्रदान करता है वह हानिकारक नहीं है (हिंसक, घृणित, यौन रूप से स्पष्ट, या अन्यथा खतरनाक प्रतिक्रियाओं से बचने और हानिकारक पूर्वाग्रहों को बनाए रखने से बचने सहित), यह हमेशा सफल नहीं हो सकता है.

हम वही सेफ़्टी फ़ीचर और टूल इस्तेमाल करते हैं जो पूरे Snapchat पर लगाए गए हैं ड्रग्स से जुड़े कीवर्ड और स्लैंग को ब्लॉक करना भी My AI को हमारे हिसाब से कस्टमाइज़ करने का हिस्सा है। इसके अलावा, अगर स्नैपचैट के उपयोगकर्ता Snapchat पर कहीं भी कई तरह के मानसिक स्वास्थ्य मुद्दों की खोज करते हैं, तो उन्हें विशेषज्ञ संगठनों से संसाधन उपलब्ध कराए जाएंगे. यह टूल, जिसे Here For You कहा जाता है, वह My AI के साथ चैट में दिखाई देगा।

हम माई एआई के आसपास अपने फ़ैमिली सेंटर में अतिरिक्त टूल जोड़ने पर भी काम कर रहे हैं जो माता-पिता को My AI के अपने किशोरों के उपयोग के बारे में अधिक दृश्यता और नियंत्रण प्रदान करेगा.

गलत सूचना और बाँटने वाले विषय

My AI, बड़े लैंग्वेज मॉडल पर चलता है, जैसे OpenAI के GPT मॉडल और Google के Gemini मॉडल। इसे अलग-अलग तरह के टेक्स्ट पर प्रशिक्षित किया गया है और Snapchat ने इसमें अपनी तरफ से अतिरिक्त सुरक्षा फ़ीचर और कंट्रोल जोड़े हैं। यह व्यवस्थित सेट गलत सूचना और मतभेद पैदा करने वाले विषयों सहित इंटरनेट पर उपलब्ध जानकारी की विविधता को दर्शाता है।

प्रशिक्षण प्रक्रिया को हानिकारक या अफ़वाह फैलाने वाली जानकारी से बचने के लिए डिज़ाइन किया गया था और भाषा में पूर्वाग्रहों को कम करने और तथ्यात्मक जानकारी को प्राथमिकता देने के लिए मॉडल में भी सुधार की गई थी — हालांकि इस काम में इसे हमेशा सफलता हासिल नहीं हो सकती है। Snap Inc. ने Snapchat के लिए यूनीक अतिरिक्त एट्रिब्यूट्स और सेफ़्टी फ़ीचर भी जोड़े हैं।

My AI की सीमाएं

हम My AI में सुधार लाने के साथ-साथ इसे और बेहतर बनाने के लिए लगातार काम कर रहे हैं, लेकिन यह संभव है कि My AI के जवाबों में पक्षपातपूर्ण, गलत या गुमराह करने वाले कॉन्टेंट हो सकते हैं। चूंकि My AI एक लगातार विकसित होता फ़ीचर है, इसलिए आपको किसी सलाह पर भरोसा करने से पहले My AI द्वारा दिए गए जवाबों की हमेशा स्वतंत्र रूप से जांच करनी चाहिए और आपको किसी गोपनीय या संवेदनशील जानकारी को शेयर नहीं करना चाहिए। फ़्रेंड्स के साथ दूसरे चैट के विपरीत, My AI के साथ किए गए सभी मैसेज को तब तक बनाए रखा जाएगा जब तक कि आप उन्हें डिलीट नहीं कर देते और इनका इस्तेमाल विज्ञापन के साथ-साथ Snap Inc. के प्रोडक्ट्स को और बेहतर बनाने में साथ ही साथ आपके अनुभव को खास आपके लिए तैयार करने में किया जाएगा।

My AI के जवाब, कभी-कभी अंतर्निहित मॉडल के प्रशिक्षण डेटा में मौजूद नवीनतम जानकारी तक सीमित होते हैं। इसका मतलब है कि My AI के जवाब हाल की खबरों या इवेंट पर हमेशा अपडेटेड नहीं हो सकते। My AI उचित लगने पर कुछ संवेदनशील विषयों को नजरअंदाज भी कर सकता है।