My AI è un chatbot sperimentale molto amichevole, attualmente disponibile per gli Snapchatter.
Il nostro approccio alla sicurezza dell'IA
Mettiamo al primo posto la sicurezza e il benessere della nostra community e ci impegniamo affinché questi valori si riflettano anche nei nostri prodotti. My AI è basata su modelli linguistici di grandi dimensioni come i modelli GPT di OpenAI e i modelli Gemini di Google, ed è stato addestrata su una vasta gamma di testi, con miglioramenti e controlli di sicurezza aggiuntivi esclusivi di Snapchat. Sebbene La mia IA sia stata programmata per rispettare determinate linee guida in modo che le informazioni che mette a disposizione non risultino dannose, non sempre questo obiettivo viene raggiunto. Ad esempio, evita di rispondere in modo violento, che inciti all'odio, in modo sessualmente esplicito o altrimenti pericoloso ed evita di rafforzare pregiudizi nocivi.
In questo strumento abbiamo integrato le stesse misure di sicurezza e gli stessi strumenti che utilizziamo in Snapchat. Ad esempio, abbiamo personalizzato La mia IA in modo che i risultati di parole chiave afferenti alle droghe o allo slang siano bloccati. Inoltre, se gli Snapchatter cercano alcuni problemi di salute mentale su Snapchat, verranno proposte loro le risorse provenienti dalle organizzazioni specializzate. Questo strumento, chiamato Here For You, verrà mostrato nelle chat con My AI.
Stiamo anche lavorando per aggiungere ulteriori strumenti per My AI al nostro Family Center, in modo da permettere ai genitori di avere maggiore visibilità e controllo sul modo in cui i ragazzi utilizzano il chatbot.
Commenti
Analogamente ad altri tipi di intelligenza artificiale e di tecnologie per l'apprendimento automatico i chatbots IA migliorano quanto più vengono utilizzati. Invitiamo gli Snapchatter a inviarci il loro feedback, soprattutto se riscontrano dei problemi, in modo da consentirci di migliorare questa tecnologia con OpenAI.
Gli Snapchatter possono inviare facilmente il feedback al nostro team tenendo premuto su qualsiasi risposta ricevuta da My AI per condividere di più su ciò che desiderano vedere di più o di meno mentre continuiamo ad addestrare My AI.
Per segnalare una chat ricevuta da La mia IA…
- Tieni premuta la chat e tocca "Segnala"
- Facci sapere perché vuoi segnalare la Chat
- Tocca "Invia"
Disinformazione e argomenti controversi
My AI è basata su modelli linguistici di grandi dimensioni come i modelli GPT di OpenAI e i modelli Gemini di Google, ed è stato addestrata su una vasta gamma di testi, con miglioramenti e controlli di sicurezza aggiuntivi esclusivi di Snapchat. Il corpus voleva riflettere la diversità delle informazioni presenti su internet, inclusa la disinformazione e gli argomenti controversi.
Il processo di apprendimento è stato progettato per evitare di amplificare le informazioni dannose o imprecise e il modello è stato anche messo a punto per ridurre i pregiudizi nel linguaggio e per dare priorità alle informazioni concrete, anche se non sempre ha successo. Snap ha anche aggiunto ulteriori caratteristiche e funzioni di sicurezza esclusive di Snapchat.
I limiti di My AI
Lavoriamo costantemente per migliorare e far evolvere My AI, ma è possibile che le risposte di My AI includano contenuti parziali, errati, dannosi o fuorvianti. Poiché La mia IA è una funzione in continua evoluzione, è necessario verificare sempre in modo indipendente le risposte fornite da La mia IA prima di affidarsi a qualsiasi consiglio e non condividere informazioni riservate o sensibili. A differenza delle altre chat con gli amici, tutti i messaggi che invii a La mia IA potrebbero essere conservati, a meno che tu non li elimini, e potrebbero essere utilizzati per migliorare i prodotti Snap e per personalizzare la tua esperienza, inclusa la pubblicità.
Le risposte di My AI sono a volte limitate alle informazioni più recenti presenti nei dati di addestramento dei modelli sottostanti. Ciò significa che le risposte di My AI potrebbero non essere aggiornate su notizie ed eventi recenti. My AI potrebbe anche evitare alcuni argomenti sensibili.