O My AI é um chatbot experimental, amigável e atualmente disponível para os Snapchatters.
A nossa abordagem à segurança da IA
Impressionamo-nos profundamente com a segurança e o bem-estar da nossa comunidade e trabalhamos para refletir esses valores nos nossos produtos. O My AI é alimentado por Modelos de Linguagem de Grande Porte, como os modelos GPT da OpenAI e os modelos Gemini da Google, e foi treinado para uma vasta gama de textos, com melhorias e controlos de segurança adicionais exclusivos do Snapchat. Embora o My AI tenha sido programado para respeitar determinadas diretrizes, para que a informação que o mesmo fornece não seja prejudicial (incluindo evitar respostas violentas, odiosas, sexualmente explícitas ou de outra forma perigosas; e evitar a perpetuação de vieses prejudiciais), pode nem sempre ser bem-sucedido.
Integramos as mesmas salvaguardas e ferramentas que usamos no Snapchat. O bloqueio de resultados de palavras-chave e gíria de drogas também faz parte da forma como personalizámos o My AI. Além disso, se os Snapchatters pesquisarem uma série de problemas de saúde mental em qualquer sítio no Snapchat, serão recursos a serem recursos de organizações especializadas. Esta ferramenta, chamada Here For You, será exibida em chats com o My AI.
Estamos também a trabalhar na adição de ferramentas adicionais ao nosso Centro da Família em torno do My AI que dariam mais visibilidade e controlo sobre a utilização do My AI pelos seus filhos adolescentes.
Feedback
À semelhança de outros tipos de inteligência artificial e tecnologias de aprendizagem automática, os chatbots de IA melhoram à medida que são usados. Incentivamos os Snapchatters a enviarem-nos feedback, especialmente se algo correr mal, para podermos trabalhar para evoluir a tecnologia juntamente com a OpenAI.
Os Snapchatters podem facilmente enviar feedback à nossa equipa, pressionando longo qualquer resposta do My AI para partilhar mais sobre o que gostariam de ver mais ou menos do que enquanto continuamos a treinar My AI.
Para denunciar um Chat recebido do My AI…
- Prima e mantenha pressionado sobre a resposta do Chat e toque em "Denunciar"
- Diga-nos porque está a denunciar o Chat
- Toque em "Enviar"
Desinformação e tópicos divisivos
O My AI é alimentado por Modelos de Linguagem de Grande Porte, como os modelos GPT da OpenAI e os modelos Gemini da Google, e foi treinado para uma vasta gama de textos, com melhorias e controlos de segurança adicionais exclusivos do Snapchat. Este corpus refletiu a diversidade da informação disponível na internet, incluindo a desinformação e tópicos de divisão.
O processo de formação foi concebido para evitar a amplificação de informações prejudiciais ou imprecisas, e o modelo também foi ajustado para reduzir tendências na linguagem e priorizar informações factuais - embora possa nem sempre ser bem-sucedido. A Snap também adicionou atributos e funcionalidades de segurança adicionais para o Snapchat.
Limitações da minha IA
Estamos constantemente a trabalhar para melhorar e desenvolver o My AI, mas é possível que as respostas do My AI possam incluir conteúdo tendencioso, incorreto, prejudicial ou enganoso. Uma vez que o My AI é uma funcionalidade em evolução, o utilizador deve sempre verificar de forma independente as respostas fornecidas pelo My AI antes de confiar em qualquer conselho, e não deve partilhar informações confidenciais ou sensíveis. Ao contrário de outros chats com amigos, todas as mensagens no My AI serão retidas, a menos que o utilizador as elimine e possa ser usado para melhorar os produtos da Snap e para personalizar a sua experiência, incluindo anúncios.
As respostas do My AI estão, por vezes, limitadas à informação mais recente nos dados de formação dos modelos subjacentes. Isto significa que as respostas do My AI podem não estar atualizadas em notícias e eventos recentes. O My AI também pode evitar determinados assuntos sensíveis, conforme adequado.