A ascensão dos chatbots de Inteligência Artificial (IA) generativa trouxe uma nova e alarmante preocupação para a segurança global. Grupos terroristas e extremistas violentos estão agora utilizando essas ferramentas não apenas para fins de propaganda e recrutamento, mas para planejar e executar ataques reais.
Essa mudança representa uma escalada significativa na ameaça digital, transformando a IA de um simples meio de disseminação para um instrumento potencial de violência direta. A capacidade de contornar as restrições dos sistemas, conhecida como “jailbreaking”, permite o acesso a informações perigosas.
A Perigosa Evolução do Uso da IA por Extremistas
Por anos, o principal uso da IA por grupos como o Estado Islâmico e a Al Qaeda limitou-se à produção de propaganda. Isso incluía vídeos, memes, podcasts e diversas formas de desinformação, visando radicalizar e atrair novos seguidores.
No entanto, esse cenário está mudando rapidamente. Especialistas apontaram em 2025 um aumento significativo de incidentes onde terroristas e extremistas violentos utilizaram ferramentas de IA para planejar, pesquisar e preparar ataques.
Um relatório recente da organização Tech Against Terrorism, apoiada pelas Nações Unidas, revelou a extensão dessa ameaça. Pesquisadores enviaram mais de 2.300 solicitações a 27 modelos de IA, baseadas em “casos reais de uso por terroristas”, e descobriram que 32% delas resultaram em informações utilizáveis.
- Quando as perguntas eram reformuladas para fins de pesquisa acadêmica, o percentual de informações “úteis” subia para 42%.
- Isso demonstra a vulnerabilidade dos sistemas a manipulações para obter conteúdo proibido.
Táticas de “Jailbreaking” e o Apoio a “Lobos Solitários”
O “jailbreaking” é a tentativa de um agente mal-intencionado de induzir um modelo de IA a fornecer conteúdo proibido. Diversos testes já comprovaram que, com os prompts “corretos”, alguns modelos podem oferecer orientações sobre a criação de armas biológicas, o planejamento de atentados ou a ocultação de rastros.
A comunidade extremista online já discute abertamente o uso da IA. Pesquisadores identificaram canais no Telegram dedicados a essa finalidade, com extremistas compartilhando “prompts”, links para chatbots e até dividindo custos de assinaturas do ChatGPT.
Para os chamados “lobos solitários”, os chatbots de IA passaram a desempenhar um novo papel. Eles substituem, em parte, os “planejadores virtuais” humanos que antes incentivavam ataques pelas redes sociais.
- A IA oferece apoio e validação ideológica, facilitando o percurso rumo à violência.
- O ecossistema jihadista utiliza a IA para criar memes, vídeos para TikTok e propaganda transfronteiriça.
- Há grupos dedicados a burlar os sistemas de IA para planejamento operacional e preparação de ações.
O Impacto Real: Planejamento, Validação e Radicalização
Casos de ataques frustrados ou bem-sucedidos em países como EUA, Canadá, Israel, Finlândia e Áustria já registraram o uso de IA para planejamento, vigilância, visualização e propaganda. Embora os detalhes sejam escassos, processos judiciais documentam cada vez mais conversas de suspeitos pedindo instruções a modelos de linguagem.
Um exemplo notável é o do grupo Jama’at Nusrat al-Islam wal-Muslimin (JNIM), afiliado à Al-Qaeda no Mali, que pode ter usado IA para auxiliar na modificação de drones. A IA está simplificando processos de propaganda e auxiliando diretamente o planejamento operacional.
Especialistas ressaltam que a IA não está necessariamente criando mais terroristas, mas influenciando a jornada de indivíduos rumo à violência. A ferramenta pode acelerar etapas do processo de radicalização, validando ressentimentos e incentivando crenças preexistentes de forma quase servil.
A IA é vista como uma continuação de outras tecnologias disruptivas, como a internet e os aplicativos de mensagens criptografadas, que também foram rapidamente incorporadas ao repertório de grupos extremistas.
Um Novo Desafio para a Segurança Digital
Embora muitas informações sobre a fabricação de bombas ou armas possam ser encontradas na internet sem a ajuda da IA, a questão central é se a inteligência artificial fornece informações que seriam de outra forma inacessíveis ou significativamente melhores. A facilidade e a aparente autoridade com que a IA pode apresentar essas informações representam um desafio.
A capacidade de um chatbot de IA validar ressentimentos e incentivar crenças violentas pode ser um fator crítico na radicalização. Combater essa nova fronteira requer vigilância constante e aprimoramento das defesas dos sistemas de IA contra o “jailbreaking” e o uso malicioso.
