My AI, güncel olarak Snapchat kullanıcılarına sunulan deneysel ve arkadaş canlısı bir sohbet botudur.
Yapay Zeka Güvenliğine Yaklaşımımız
Topluluğumuzun güvenliğine ve iyiliğine büyük önem veriyoruz ve bu değerleri ürünlerimize yansıtmaya çalışıyoruz. My AI; OpenAI GPT modelleri ve Google Gemini modelleri gibi Büyük Dil Modelleri tarafından desteklenmektedir ve Snapchat'e özgü ek güvenlik geliştirmeleri ve kontrolleri ile çok çeşitli metinler üzerinde eğitilmiştir. My AI, verdiği bilgilerin zararlı olmaması için (şiddet içeren, nefret dolu, cinsel açıdan müstehcen veya başka bir şekilde tehlikeli olabilecek yanıtlardan ve zararlı önyargıları devam ettirmekten kaçınmak dahil) belirli kurallara uyacak şekilde programlanmış olsa da, bu her zaman başarılı olamayabilir.
Snapchat genelinde kullandığımız güvenlik önlemleri ve araçlarının aynılarını burada da kullanıyoruz. Uyuşturucuyla ilgili anahtar kelimeler ve argo deyimler için arama sonuçlarının engellenmesi de My AI üzerinde yaptığımız düzenlemelerin bir parçasıdır. Buna ek olarak, Snapchat kullanıcıları, Snapchat’te herhangi bir yerde bir dizi akıl sağlığı sorunu hakkında arama yaparlarsa, bu konuda uzman kuruluşların sağladığı kaynaklara ulaşıyorlar. Here For You (Yanındayız) adındaki bu araç, My AI ile yapılan sohbetlerde de görünecek.
Aile Merkezimize, ebeveynlere sorumlu oldukları gençlerin My AI'ı kullanmalarında daha fazla görülebilirlik ve kontrol sağlayacak, My AI hakkında ilave araçlar eklemek için de çalışıyoruz.
Geri Bildirim
Diğer yapay zeka ve makine öğrenimi teknolojileri gibi yapay zeka sohbet botları da ne kadar çok kullanılırlarsa o kadar çok gelişme gösteriyorlar. OpenAI ile birlikte bu teknolojiyi daha da iyileştirebilmemiz için Snapchat kullanıcılarını, özellikle bir sorunla karşılaştıklarında, bize geri bildirim göndermeye davet ediyoruz.
Biz My AI'ı geliştirmeye devam ederken, Snapchat kullanıcıları da My AI'ın herhangi bir yanıtı üzerine basılı tutarak daha fazla veya daha az görmek istedikleri şeyleri ekibimize geri bildirim olarak gönderebilir.
My AI'den gelen bir Sohbeti bildirmek için…
- Sohbet yanıtı üzerine basılı tutun ve "Şikayet Et" üzerine dokunun
- Sohbet'i neden bildirdiğini bize söyle
- "Gönder" üzerine dokunun
Yanlış Bilgiler ve Ayrılık Yaratan Konular
My AI; OpenAI GPT modelleri ve Google Gemini modelleri gibi Büyük Dil Modelleri tarafından desteklenmektedir ve Snapchat'e özgü ek güvenlik geliştirmeleri ve kontrolleri ile çok çeşitli metinler üzerinde eğitilmiştir. Bu derlem yanlış bilgiler ve ayrılık yaratan konular da dahil olmak üzere, internet üzerinde mevcut olan bilgi çeşitliliğini yansıtıyordu.
Eğitim süreci zararlı veya doğru olmayan bilgilerin artmasını önleyecek şekilde tasarlandı ve kullanılan model aynı zamanda dildeki yanlılıkları azaltacak ve olgusal bilgilere öncelik verecek şekilde ince ayardan geçirildi — ama istenen sonuca ulaşmak her zaman mümkün olmayabiliyor. Snap tamamen Snapchat'e özel ek nitelikler ve güvenlik özellikleri de ekledi.
My AI'ın Sınırları
My AI'yi geliştirmek ve daha iyi hale getirmek için aralıksız çalışıyoruz ama buna rağmen My AI'nin yanıtlarında yanlı, doğru olmayan, zararlı ya da yanıltıcı içerikler bulunabilir. My AI sürekli gelişen bir özellik olduğu için bir öneriye güvenmeden önce My AI'nin verdiği yanıtları başka kaynaklardan mutlaka kontrol etmen ve gizli ya da hassas bilgileri paylaşmaktan kaçınman gerekir. Arkadaşlarınla yaptığın diğer sohbetlerden farklı olarak My AI ile yaptığın mesajlaşmalar sen onları silmediğin sürece saklanır ve Snap'in ürünlerini geliştirmek ve reklamlar da dahil olmak üzere kullanıcı deneyimini kişiselleştirmek için kullanılabilir.
My AI yanıtları bazen altta yatan modellerin eğitim verilerindeki en güncel bilgilerle sınırlıdır. Bu da My AI yanıtlarının son haberler ve olaylar hakkında güncel olmayabileceği anlamına gelir. My AI ayrıca belirli hassas konulardan uygun şekilde kaçınabilir.