Το My AI είναι ένα πειραματικό, φιλικό, chatbot που είναι διαθέσιμο προς το παρόν στους Snapchatters.
Η προσέγγισή μας στην ασφάλεια της AI
Ενδιαφερόμαστε βαθιά για την ασφάλεια και την ευημερία της κοινότητάς μας και εργαζόμαστε για να αντανακλούμε αυτές τις αξίες στα προϊόντα μας. Το My AI υποστηρίζεται από Μεγάλες Γλώσσες Μοντέλα, όπως μοντέλα GPT της OpenAI και μοντέλα Gemini της Google, και έχει εκπαιδευτεί σε μια μεγάλη γκάμα κειμένων, με πρόσθετες βελτιώσεις ασφάλειας και χειριστήρια μοναδικά για το Snapchat. Ενώ το My AI προγραμματίστηκε να συμμορφώνεται με συγκεκριμένες οδηγίες ώστε οι πληροφορίες που παρέχει να μην είναι επιβλαβείς (όπως την αποφυγή απαντήσεων που είναι βίαιες, μίσους, απόρρητες σεξουαλικά ή με άλλο τρόπο επικίνδυνες· και την αποφυγή της διαιώνισης επιβλαβών προκαταλήψεων), μπορεί να μην είναι πάντα επιτυχής.
Ενσωματώνουμε τις ίδιες δικλείδες και εργαλεία που χρησιμοποιούμε στο Snapchat. Ο αποκλεισμός αποτελεσμάτων για λέξεις-κλειδιά για ναρκωτικά και αργκό είναι επίσης μέρος του τρόπου προσαρμογής του My AI. Επιπλέον, αν οι Snapchatters αναζητήσουν μια σειρά από ζητήματα ψυχικής υγείας οπουδήποτε στο Snapchat, θα τους εξυπηρετούνται πόροι από ειδικούς οργανισμούς. Αυτό το εργαλείο, που ονομάζεται Here For You, θα εμφανίζεται σε συνομιλίες με το My AI.
Εργαζόμαστε επίσης να προσθέσουμε πρόσθετα εργαλεία στο Κέντρο Οικογένειας γύρω από το My AI που θα έδιναν στους γονείς μεγαλύτερη ορατότητα και έλεγχο γύρω από τη χρήση του My AI από τον έφηβο τους.
Παραπληροφόρηση & Διχαστικά θέματα
Το My AI υποστηρίζεται από Μεγάλες Γλώσσες Μοντέλα, όπως μοντέλα GPT της OpenAI και μοντέλα Gemini της Google, και έχει εκπαιδευτεί σε μια μεγάλη γκάμα κειμένων, με πρόσθετες βελτιώσεις ασφάλειας και χειριστήρια μοναδικά για το Snapchat. Το σώμα αυτό αντανακλούσε την ποικιλομορφία των πληροφοριών που είναι διαθέσιμες στο διαδίκτυο, που περιλαμβάνουν παραπληροφόρηση και διχαστικά θέματα.
Η εκπαιδευτική διαδικασία σχεδιάστηκε για να αποφεύγει την ενίσχυση επιβλαβών ή ανακριβών πληροφοριών, και το μοντέλο επίσης βελτιστοποιήθηκε για να μειώνει τις γλωσσικές προκαταλήψεις και να δίνει προτεραιότητα στις πραγματικές πληροφορίες — αν και μπορεί να μην είναι πάντα επιτυχής. Η Snap έχει επίσης προσθέσει πρόσθετα χαρακτηριστικά και λειτουργίες ασφαλείας μοναδικές στο Snapchat.
Οι Περιορισμοί του My AI
Εργαζόμαστε συνεχώς για τη βελτίωση και την εξέλιξη του My AI, αλλά είναι πιθανό οι απαντήσεις του My AI μπορεί να περιλαμβάνουν μεροληπτικό, εσφαλμένο, επιβλαβές ή παραπλανητικό περιεχόμενο. Καθώς το My AI είναι μια εξελισσόμενη δυνατότητα, θα πρέπει πάντα να ελέγχετε ανεξάρτητα τις απαντήσεις που παρέχονται από το My AI πριν βασιστείτε σε οποιαδήποτε συμβουλή, και δεν πρέπει να κοινοποιείτε εμπιστευτικές ή ευαίσθητες πληροφορίες. Σε αντίθεση με άλλες συνομιλίες με φίλους, όλα τα μηνύματα με My AI θα διατηρηθούν εκτός και αν τα διαγράψετε, και μπορεί να χρησιμοποιηθούν για τη βελτίωση των προϊόντων της Snap και για την εξατομίκευση της εμπειρίας σου, συμπεριλαμβανομένων των διαφημίσεων.
Οι απαντήσεις του My AI περιορίζονται μερικές φορές στις τελευταίες πληροφορίες στα δεδομένα εκπαίδευσης των υποκείμενων μοντέλων. Αυτό σημαίνει ότι οι απαντήσεις του My AI μπορεί να μην είναι επίκαιρες σε πρόσφατες ειδήσεις και γεγονότα. Το My AI μπορεί επίσης να αποφύγει ορισμένα ευαίσθητα θέματα, όπως χρειάζεται.