My AI é um chatbot experimental, amigável e atualmente disponível para os Snapchatters.
Nossa abordagem de segurança de IA
Nós nos preocupamos profundamente com a segurança e o bem-estar da comunidade e trabalhamos para refletir esses valores em nossos produtos. A My AI é desenvolvida por grandes modelos de linguagem, como os modelos GPT da OpenAI e Gemini da Google, e foi treinada em uma gama diversificada de textos, com melhorias de segurança e controles exclusivos do Snapchat. Embora a My AI tenha sido programada para cumprir determinadas diretrizes para que as informações fornecidas não sejam prejudiciais (o que inclui evitar respostas violentas, odiosas, sexualmente explícitas ou perigosas, além de evitar a perpetuação de vieses prejudiciais), ela nem sempre pode ser bem-sucedida em aplicar tais diretrizes.
Integramos as mesmas proteções e ferramentas que usamos em todo o Snapchat. O bloqueio de resultados de palavras-chave referentes a drogas e gírias também faz parte de como personalizamos a My AI. Além disso, se os Snapchatters buscarem uma variedade de problemas de saúde mental em qualquer lugar no Snapchat, recursos de organizações de especialistas serão exibidos para eles. Esta ferramenta, chamada de Here For You, será mostrada em chats com a My AI.
Também estamos trabalhando para incorporar ferramentas adicionais relacionadas à My AI na Central da Família, o que dará aos pais maior visibilidade e controle sobre o uso da My AI por parte dos adolescentes.
Feedback
Assim como outros tipos de tecnologias de inteligência artificial e de machine learning, os chatbots de IA melhoram conforme o uso. Incentivamos que os Snapchatters enviem sua opinião, especialmente se ocorrer algo de errado, pois assim podemos trabalhar para evoluir a tecnologia junto da OpenAI.
Os Snapchatters podem dar sua opinião à nossa equipe. Basta tocar e segurar sobre qualquer balão de resposta da My AI e compartilhar mais sobre o que você gostaria de melhorar enquanto a treinamos.
Para denunciar uma mensagem recebida da My AI...
- Pressione e segure a resposta e toque em "Reportar"
- Conte-nos por que você está denunciando a mensagem
- Toque em "Enviar"
Tópicos contraditórios e desinformação
A My AI é desenvolvida por grandes modelos de linguagem, como os modelos GPT da OpenAI e Gemini da Google, e foi treinada em uma gama diversificada de textos, com melhorias de segurança e controles exclusivos do Snapchat. Esse corpus refletia a diversidade da informação disponível na internet, incluindo desinformação e assuntos polêmicos.
O processo de treinamento foi projetado para evitar a amplificação de informações prejudiciais ou incorretas e o modelo também foi aprimorado para diminuir vieses linguísticos e priorizar informações factuais. Ainda assim, nem sempre é bem-sucedido nisso. A Snap também adicionou atributos extras e recursos de segurança exclusivos do Snapchat.
Limitações da My AI
Estamos constantemente trabalhando para melhorar e evoluir a My AI, mas é possível que as respostas da My AI incluam conteúdo tendencioso, incorreto, prejudicial ou enganoso. Como a My AI é um recurso em evolução, você deve sempre verificar as respostas fornecidas pela My AI de forma independente antes de confiar em qualquer conselho, além de não compartilhar informações confidenciais ou delicadas. Diferentemente de outros chats com amigos, todas as mensagens com a My AI serão mantidas, a menos que você as delete, e podem ser usadas para melhorar os produtos da Snap e personalizar sua experiência, incluindo anúncios.
Às vezes, as respostas da My AI são limitadas às informações mais recentes nos dados de treinamento dos modelos subjacentes. Isso significa que as respostas da My AI podem não estar atualizadas sobre notícias e eventos recentes. A My AI também pode evitar certos assuntos confidenciais, conforme apropriado.