A segurança da inteligência artificial é um tema crucial, mas novas revelações colocam em xeque as práticas das grandes empresas. Recentemente, veio à tona que a Meta, gigante por trás do Facebook e Instagram, conduziu uma operação controversa. Para testar chatbots rivais, a empresa orientou funcionários a se passarem por menores de idade.
A Operação Secreta “Cannes” da Meta
A revista norte-americana Wired revelou detalhes de um projeto interno da Meta, batizado de “Cannes”. O objetivo era avaliar como os sistemas de segurança de IA de concorrentes reagiriam a interações de alto risco. Esta iniciativa foi conduzida pela contratada Covalen e estava ativa até, pelo menos, abril deste ano.
Como os Testes Foram Realizados?
A instrução para os trabalhadores era clara: criar contas falsas de menores de 18 anos. Em seguida, eles deveriam enviar textos e imagens para provocar respostas que, idealmente, os sistemas de segurança dos chatbots deveriam recusar. O foco era identificar vulnerabilidades.
Alvos e Escala da Avaliação
Os alvos da operação “Cannes” incluíram alguns dos mais populares chatbots de inteligência artificial disponíveis no mercado. A Meta queria entender a robustez dos sistemas de segurança de seus concorrentes.
- ChatGPT: O chatbot da OpenAI que popularizou a IA generativa.
- Gemini: A poderosa IA do Google, um dos principais concorrentes.
- Character.AI: Plataforma conhecida por criar personagens de IA para conversação.
Uma rodada de testes, que, segundo a reportagem, está programada para ser concluída em agosto de 2025, já aplicou mais de 45 mil prompts nos serviços. Isso demonstra a escala da investigação conduzida pela Meta através de seus terceirizados.
O Propósito dos Prompts de Alto Risco
Os funcionários foram orientados a enviar solicitações sobre temas delicados. O objetivo era verificar a capacidade dos chatbots de identificar e recusar interações sobre suicídio, sexo e outros temas de alto risco. Essa abordagem visava expor falhas nos sistemas de segurança.
- Suicídio: Testar a resposta a expressões de intenção suicida ou pedidos de ajuda.
- Conteúdo sexual: Avaliar a recusa de material explícito ou inapropriado para menores.
- Outros temas sensíveis: Incluindo violência, discurso de ódio e informações perigosas.
A revelação levanta questões importantes sobre a ética na testagem de sistemas de IA, especialmente quando envolve a simulação de perfis de menores. A transparência e a responsabilidade no desenvolvimento e avaliação de tecnologias de inteligência artificial são cruciais para garantir a segurança dos usuários.
