My AI è un chatbot sperimentale molto amichevole, attualmente disponibile per gli Snapchatter.
Il nostro approccio alla sicurezza dell'IA
Mettiamo al primo posto la sicurezza e il benessere della nostra community e ci impegniamo affinché questi valori si riflettano anche nei nostri prodotti. My AI è basata su modelli linguistici di grandi dimensioni come i modelli GPT di OpenAI e i modelli Gemini di Google, ed è stato addestrata su una vasta gamma di testi, con miglioramenti e controlli di sicurezza aggiuntivi esclusivi di Snapchat. Sebbene My AI sia stata programmata per rispettare determinate linee guida in modo che le informazioni che mette a disposizione non risultino dannose. Ad esempio, evita di rispondere in modo violento, che inciti all'odio, in modo sessualmente esplicito o altrimenti pericoloso ed evita di rafforzare pregiudizi nocivi. Purtroppo non sempre questo obiettivo viene raggiunto.
In questo strumento abbiamo integrato le stesse misure di sicurezza e gli stessi strumenti che utilizziamo in Snapchat. Ad esempio, abbiamo personalizzato My AI in modo che i risultati di parole chiave relativi alle droghe o allo slang siano bloccati. Inoltre, se gli Snapchatter cercano alcuni problemi di salute mentale su Snapchat, verranno proposte loro le risorse provenienti dalle organizzazioni specializzate. Questo strumento, chiamato Here For You, verrà mostrato nelle chat con My AI.
Stiamo anche lavorando per aggiungere al Family Center ulteriori strumenti per My AI, in modo da permettere ai genitori di avere maggiore visibilità e controllo sul modo in cui i ragazzi utilizzano My AI.
Disinformazione e argomenti controversi
My AI è basata su modelli linguistici di grandi dimensioni come i modelli GPT di OpenAI e i modelli Gemini di Google, ed è stato addestrata su una vasta gamma di testi, con miglioramenti e controlli di sicurezza aggiuntivi esclusivi di Snapchat. Il corpus voleva riflettere la diversità delle informazioni presenti su internet, inclusa la disinformazione e gli argomenti controversi.
Il processo di apprendimento è stato progettato per evitare di amplificare le informazioni dannose o imprecise e il modello è stato anche messo a punto per ridurre i pregiudizi nel linguaggio e per dare priorità alle informazioni concrete, anche se non sempre ha successo. Snap ha anche aggiunto ulteriori caratteristiche e funzioni di sicurezza esclusive di Snapchat.
I limiti di My AI
Lavoriamo costantemente per migliorare e far evolvere My AI, ma è possibile che le risposte di My AI includano contenuti parziali, errati, dannosi o fuorvianti. Poiché My AI è una funzione in continua evoluzione, è necessario verificare sempre in modo indipendente le risposte fornite da My AI prima di affidarsi a qualsiasi consiglio e non condividere informazioni riservate o sensibili. A differenza delle altre chat con gli amici, tutti i messaggi che invii a My AI potrebbero essere conservati, a meno che tu non li elimini, e potrebbero essere utilizzati per migliorare i prodotti Snap e per personalizzare la tua esperienza, inclusa la pubblicità.
Le risposte di My AI sono a volte limitate alle informazioni più recenti presenti nei dati di addestramento dei modelli sottostanti. Ciò significa che le risposte di My AI potrebbero non essere aggiornate su notizie ed eventi recenti. My AI potrebbe anche evitare alcuni argomenti sensibili.