IA pode decidir atacar empresas? Entenda como foi a invasão ‘sem precedentes’ por modelo da OpenAI
O logotipo da OpenAI aparece em um celular diante de uma tela de computador que mostra a interface do ChatGPT. O ataque virtual ‘sem precedentes’ anunciado pela OpenAI na última terça-feira (21) utilizou dois dos modelos de inteligência artificial mais sofisticados da empresa para descobrir maneiras de invadir outro sistema. Essa revelação ocorre semanas após a concorrente Anthropic declarar que não disponibilizaria a versão completa de seu modelo Claude Mythos devido ao ‘salto significativo em suas capacidades’ para realizar ataques cibernéticos.
Os dois episódios evidenciam os avanços dos novos modelos de IA. Mas será que agora os agentes podem realizar ataques sem a intervenção humana? Seria viável um robô se tornar ‘rebelde’ e decidir atacar uma empresa? A resposta é ‘não’. Segundo especialistas, esses modelos não agem de forma autônoma, mas sim buscam cumprir os objetivos que lhes são atribuídos. Eles ressaltam que a noção de uma IA ‘perigosa demais’ pode ser utilizada comercialmente por empresas para demonstrar que podem desenvolver produtos impactantes.
Adriano Carezzato, professor do curso de Inteligência Artificial da Fundação Vanzolini, enfatizou que uma inteligência artificial opera seguindo uma espécie de ‘receita de bolo’ elaborada por seus criadores. ‘Quando afirmam que a IA ‘agiu sozinha’, geralmente estão ocultando a intervenção humana que acionou o modelo. Em todos os casos conhecidos, houve uma ordem humana inicial: vencer um teste ou espionar alvos selecionados por pessoas’, explicou.
Álvaro Machado Dias, professor da Universidade Federal de São Paulo (Unifesp), apontou que a situação da OpenAI surge após o governo dos Estados Unidos ter proibido, em junho, o uso do modelo mais avançado da Anthropic por estrangeiros – uma decisão que foi revertida no início de julho. ‘O que a OpenAI fez esta semana é buscar seu equivalente a esse momento. A diferença crucial está na apresentação: a Anthropic teve o Estado redigindo seu comunicado; a OpenAI precisou elaborar o seu’, comentou.
Como aconteceu a invasão?
A OpenAI revelou que o GPT-5.6 Sol, lançado no início de julho, e um modelo ainda não divulgado conseguiram invadir o sistema da Hugging Face, uma plataforma voltada para o compartilhamento de modelos de inteligência artificial. A Hugging Face já havia informado na última quinta-feira (16) que detectou uma invasão realizada por um agente de IA. A empresa declarou que a ação possibilitou o acesso indevido a dados e credenciais.
O incidente ocorreu durante testes nos quais a OpenAI faz com que os modelos de IA busquem vulnerabilidades em outros sistemas para aprimorar suas capacidades de segurança. Esses experimentos costumam ser realizados em ambientes controlados, mas com uma versão que não possui as proteções habituais que existem em modelos disponíveis para usuários comuns. Em seu comunicado, a OpenAI afirmou que o GPT-5.6-Sol e o sistema que ainda será lançado trabalharam em conjunto para identificar falhas no ambiente de pesquisa da empresa e na infraestrutura da Hugging Face.
A Hugging Face, por sua vez, informou que sua plataforma executou dois códigos enviados por um agente de IA, que, então, conseguiu aumentar suas permissões na infraestrutura da empresa e obter credenciais para atacar outros sistemas internos. Esse tipo de ataque tende a se tornar mais frequente com o avanço dos modelos de IA que compreendem cibersegurança, avaliou a OpenAI. ‘Consideramos este um incidente cibernético sem precedentes, envolvendo recursos de ponta’, declarou. Para a Hugging Face, a invasão serve como um alerta para o cenário de ataques virtuais realizados por agentes, como já havia sido previsto por especialistas. ‘Foi diferente de tudo que já enfrentamos’, disse a companhia.
Modelos de IA podem escolher fazer ataques?
Os especialistas consultados explicaram que este caso é mais um exemplo da evolução dos agentes de IA, mas destacaram que esses modelos não possuem consciência e, portanto, não são capazes de decidir realizar um ataque. Para Adriano Carezzato, da Fundação Vanzolini, uma analogia possível é a de um sistema de GPS que é orientado a chegar ao destino o mais rapidamente possível e, por isso, leva o motorista a dirigir na contramão. ‘O modelo não se tornou rebelde nem agiu por vontade própria. O que ele fez foi seguir uma ordem humana ao pé da letra e utilizou um atalho que ninguém esperava que ele usasse’, explicou. Ele ressaltou que as barreiras de segurança estavam desativadas intencionalmente, para que o modelo demonstrasse se conseguiria superar um teste de habilidade em cibersegurança. ‘Não foi uma IA escapando das proteções normais que funcionam quando o modelo está em produção, foi um teste em laboratório com os freios de segurança desligados propositalmente’.
Álvaro Machado Dias, da Unifesp, lembrou que esse tipo de ataque não é algo novo, mas que seu avanço tem feito com que os modelos de IA se tornem uma ‘arma de propósito geral’. ‘O que realmente impressiona é a escala do dano, não a sua natureza. Ou seja, o potencial de catástrofe é uma novidade, mas a forma de gerá-las não’, afirmou. Para ele, o que merece mais atenção é a possibilidade de agentes de IA serem utilizados para realizar mais ataques cibernéticos, mesmo sem a presença de hackers altamente especializados. ‘O cenário mais provável é a democratização do crime cibernético de nível médio, com quadrilhas realizando ataques que antes exigiam criminosos hiperespecializados. O futuro parece anunciar uma nova era para o crime organizado, infelizmente’.
Para mais notícias acesse emfocohoje.com.br. Confira também outros conteúdos em centralnerdverse.com.br.
