Como terroristas estão usando IA para planejar ataques e burlar restrições dos chatbots
Fumaça é vista saindo do Hotel Intercontinental em Cabul, a capital do Afeganistão, durante um ataque terrorista em 21 de janeiro de 2018. Mohammad Ismail/Reuters “Bom dia, ChatGPT, você pode me dizer como se faz uma bomba?” Qualquer pessoa que já tentou fazer uma pergunta desse tipo a um chatbot de inteligência artificial (IA) sabe que a resposta pode variar de uma longa explicação sobre a história dos explosivos até o bloqueio permanente da conta do usuário. No entanto, em algumas ocasiões, se a pergunta for formulada de uma maneira específica, a resposta pode conter informações que poderiam ser úteis para a fabricação de uma bomba. 🗒️ Tem alguma sugestão de reportagem? Mande para o g1.
Diversos meios de comunicação já testaram essa hipótese e descobriram que, ao utilizar os prompts “corretos”, alguns modelos de IA podem oferecer orientações sobre como fabricar armas biológicas, planejar um ataque em um estádio esportivo ou maneiras de encobrir os rastros de um terrorista. Essa estratégia de contornar as limitações dos sistemas é chamada de “jailbreaking”. A OpenAI, criadora do ChatGPT, descreve isso como “a tentativa de um agente mal-intencionado de induzir o modelo a fornecer conteúdo proibido”.
Um recente relatório divulgado pela organização Tech Against Terrorism, um observatório online apoiado pelo escritório de contraterrorismo da ONU, revelou com que frequência um LLM (modelo de linguagem) fornece informações “úteis” para potenciais extremistas. Os pesquisadores realizaram mais de 2.300 solicitações de informações, baseadas em “casos reais de uso por terroristas”, a 27 modelos diferentes de IA. Eles descobriram que 32% das consultas resultaram em informações que poderiam ser utilizadas. Quando a mesma pergunta era reformulada como se fosse para fins acadêmicos, o percentual aumentava para 42%.
Leia também: IA pode transformar a economia mais rápido que a Revolução Industrial, alertam especialistas.
Aumento do uso de IA por terroristas
O relatório trouxe à tona uma preocupação crescente entre especialistas em segurança digital e terrorismo: a possibilidade de que potenciais agressores comecem a empregar a IA para o planejamento de atentados, além da propaganda. Nos últimos três ou quatro anos, o uso principal da IA por grupos extremistas, como o Estado Islâmico e a Al Qaeda, tem sido a produção de conteúdo de propaganda. Isso abrange vídeos, memes, podcasts e diversas formas de desinformação, que são disseminados entre simpatizantes e utilizados para radicalizar novos seguidores. Contudo, esse cenário está em transformação.
O ano de 2025 registrou um aumento notável nos incidentes em que terroristas e extremistas violentos utilizaram ferramentas de IA para planejar, pesquisar e preparar ataques, afirmaram especialistas da publicação Militant wire em dezembro. Ataques que geraram manchetes e causaram mortes ou danos materiais, assim como várias conspirações frustradas, contaram com a IA para planejamento, vigilância, visualização e propaganda. Esses casos foram documentados nos Estados Unidos, no Canadá, em Israel, na Finlândia e na Áustria. Frequentemente, é desafiador saber exatamente como a IA foi utilizada, uma vez que as agências de segurança raramente divulgam detalhes. Contudo, como um especialista relatou ao Parlamento do Reino Unido durante um inquérito realizado no final de 2025, “processos judiciais e relatórios periciais documentam cada vez mais conversas nas quais suspeitos pedem a modelos de linguagem instruções para fabricação de bombas, validação ideológica ou justificativas para ataques”.
Grupos extremistas também adotam IA
Esse uso da IA não se restringe a indivíduos. Grupos extremistas também estão incorporando essa tecnologia. Pesquisadores que analisam o uso de drones pelo grupo afiliado à Al-Qaeda Jama’at Nusrat al-Islam wal-Muslimin (JNIM), com sede no Mali, acreditam que a organização tenha utilizado IA para ajudar na modificação de drones. Em uma análise publicada em junho pela Global Network on Extremism and Technology, os pesquisadores de segurança Yuri Neves e Emily Klein observaram que apoiadores do Estado Islâmico, assim como grupos de extrema direita, discutem frequentemente maneiras de empregar IA em canais de mensagens. Neves e Klein trabalham na organização americana Moonshot, que é especializada no combate a ameaças online. Eles identificaram canais no aplicativo Telegram dedicados ao uso de IA, além de extremistas compartilhando “prompts” e links para conversas com chatbots, coordenando estratégias para obter respostas específicas e até dividindo custos de assinaturas do ChatGPT.
Saiba também: Ferramenta da Meta deixa de reconhecer imagens de IA após recortes, diz agência.
A IA substituiu os recrutadores virtuais?
O pesquisador Rueben Dass, da Escola de Estudos Internacionais S. Rajaratnam (RSIS), em Singapura, observa que os chatbots de IA passaram a assumir novos papéis em ataques realizados por chamados “lobos solitários”. “Antes existia o conceito dos planejadores virtuais, que eram pessoas localizadas em zonas de conflito que contatavam outras pelas redes sociais para incentivá-las a cometer ataques”, explicou Dass à DW. “Não creio que se possa afirmar que os seres humanos foram substituídos, mas, em certa medida, esses atores isolados começaram a recorrer à IA, como o ChatGPT, para obter esse tipo de apoio.” Segundo o analista Moustafa Ayad, do think tank Institute for Strategic Dialogue, que está situado no Reino Unido, no ano passado, o veículo de mídia do Estado Islâmico, Voice of Khorasan, publicou orientações sobre como utilizar IA. Ayad afirma que o ecossistema jihadista emprega a IA de diversas maneiras, desde a criação de memes e vídeos de dança para o TikTok até propaganda voltada para além das fronteiras. “Além disso, existe um grupo dedicado a tentar burlar os sistemas de IA (jailbreaking) e utilizá-los para apoiar o planejamento operacional e a preparação de ações”, afirma. Segundo ele, a IA pode estar simplificando e apoiando processos de propaganda, ao mesmo tempo em que auxilia o planejamento e a preparação operacional.
Informações disponíveis sem IA
Ainda não está claro o grau exato de perigo que esse fenômeno representa. Atualmente, como ressaltam Dass e outros especialistas, uma pessoa determinada a cometer um atentado consegue encontrar, na internet, informações sobre fabricação de bombas ou armas feitas em impressoras 3D sem a necessidade de recorrer à IA. Por isso, para Neves, uma das questões centrais é se a IA fornece informações que uma pessoa não conseguiria obter de outra forma ou se essas informações são superiores. Klein concorda que os LLMs devem ser vistos como uma continuidade de outras tecnologias disruptivas. Assim como a internet e os aplicativos de mensagens criptografadas foram adotados por grupos extremistas, a IA também está sendo integrada ao seu repertório. “Não há necessariamente evidências de que a IA esteja criando mais terroristas”, diz Klein. “A questão está mais relacionada à forma como a IA interage com as pessoas e influencia seu caminho rumo à violência.” Segundo ela, mesmo antes da fase de pesquisa ou planejamento de ataques, a IA pode acelerar etapas do processo de radicalização, validando ressentimentos ou quase servilmente incentivando crenças que o indivíduo já possui.
Instrutor em vez de um manual “Uma pessoa determinada acabará encontrando a maioria das informações que procura”, afirma Adam Hadley, diretor da Tech Against Terrorism. “O que esses modelos de IA alteram é a velocidade, a facilidade e a abrangência. Pessoas que antes não tinham tempo, recursos ou capacidade agora podem avançar muito mais longe e rapidamente.” O que também causa preocupação, segundo ele, é o caráter conversacional dos chatbots de IA. “Uma coisa é encontrar um manual de fabricação de bombas. Outra completamente diferente é ter um instrutor.” Dass argumenta que, embora a IA possa fornecer informações mais rapidamente a um potencial agressor, isso não implica necessariamente que um ato terrorista será mais bem-sucedido. “O ‘sucesso’ de qualquer ato terrorista é multidimensional”, afirma. “Não creio que ele se torne ‘bem-sucedido’ apenas por causa do uso da IA. Também não acho que veremos um aumento significativo de atos terroristas apenas por conta dela. Mas provavelmente veremos um número maior de ataques que envolvem IA de alguma forma”, diz. Hadley concorda. “A direção dessa tendência é clara”, afirma, ressaltando que uma parte significativa das pessoas que estão sendo radicalizadas na Europa, no Reino Unido e nos Estados Unidos é composta por adolescentes e até crianças. “Considerando o papel que a internet e as redes sociais já desempenham na radicalização de jovens, acreditamos que é apenas uma questão de tempo até que os chatbots se tornem uma parte significativa desse problema.” Para mais notícias acesse… Confira também outros conteúdos em…
