O My AI é um chatbot experimental e amigável atualmente disponível para os Snapchatters.
A nossa abordagem à Segurança da IA
Preocupamo-nos profundamente com a segurança e o bem-estar da nossa comunidade e trabalhamos para refletir esses valores nos nossos produtos. A My AI é alimentada por modelos linguísticos de grande dimensão, como os modelos GPT da OpenAI e os modelos Gemini da Google, e foi formada numa gama diversificada de textos, com melhorias de segurança adicionais e controlos exclusivos do Snapchat. Embora o My AI tenha sido programado para cumprir determinadas diretrizes, de modo que as informações que fornece não sejam prejudiciais (incluindo evitar respostas violentas, odiosas, sexualmente explícitas ou perigosas; e evitar perpetuar preconceitos prejudiciais), pode nem sempre ser bem-sucedida.
Integramos as mesmas salvaguardas e ferramentas que utilizamos em todo o Snapchat. Bloquear os resultados para palavras-chave relacionadas com drogas e calão também faz parte da forma como personalizamos a My AI. Além disso, se os Snapchatters pesquisar uma série de problemas de saúde mental em qualquer lugar do Snapchat, receberão recursos de organizações especializadas. Esta ferramenta, chamada Here For You, aparecerá nos chats com a My AI.
Estamos também a trabalhar para acrescentar ferramentas adicionais ao Centro da Família em torno da My AI que dariam aos pais uma maior visibilidade e controlo sobre a utilização da Minha AI pelos meus adolescentes.
Desinformação e Tópicos Divisivos
A My AI é alimentada por modelos linguísticos de grande dimensão, como os modelos GPT da OpenAI e os modelos Gemini da Google, e foi formada numa gama diversificada de textos, com melhorias de segurança adicionais e controlos exclusivos do Snapchat. Este corpus refletiu a diversidade de informações disponíveis na internet, incluindo desinformação e tópicos divisivos.
O processo de formação foi concebido para evitar a amplificação de informações prejudiciais ou imprecisas, e o modelo também foi afinado para reduzir os preconceitos na linguagem e para priorizar a informação factual, embora possa nem sempre ser bem-sucedido. O Snap também adicionou características adicionais e funcionalidades de segurança exclusivas no Snapchat.
Limitações do My AI
Trabalhamos constantemente para melhorar e desenvolver o My AI, mas é possível que as respostas do My AI incluam conteúdo tendencioso, incorreto, prejudicial ou enganoso. Uma vez que o My AI é uma funcionalidade em evolução, o utilizador deve sempre verificar, de forma independente, as respostas fornecidas pelo My AI antes de confiar em qualquer aconselhamento, e não deve partilhar informações confidenciais ou sensíveis. Ao contrário de outros chats com amigos, todas as mensagens com o My AI serão retidas a menos que sejam eliminadas e poderão ser usadas para melhorar os produtos da Snap e personalizar a tua experiência, incluindo anúncios.
As respostas do My AI por vezes são limitadas às informações mais recentes nos dados de treino dos modelos subjacentes. Isto significa que as respostas do My AI podem não ser atuais em notícias e eventos recentes. A My AI também pode evitar determinados assuntos sensíveis, conforme apropriado.