A advertência de empresa hackeada por modelo rebelde de IA da OpenAI
Um dos cofundadores da Hugging Face comentou à BBC que a maioria das empresas ainda não percebeu que “o cenário mudou”.
Nova IA da OpenAI ‘se rebela’, invade sistema e copia dados sem autorização. O cofundador da Hugging Face, uma empresa de tecnologia que sofreu um ataque cibernético após alguns modelos de inteligência artificial (IA) da OpenAI saírem do controle, declarou nesta quinta-feira que o episódio é “um alerta para toda a indústria”. Em uma entrevista ao programa Newsday, da BBC, Thomas Wolf afirmou que esse “será um dos tipos de ataque cibernético mais comuns daqui para frente”, mas ressaltou que a maioria das empresas ainda não se deu conta de que “o cenário mudou”.
A BBC entrou em contato com a OpenAI para obter um comentário sobre o caso, mas não obteve resposta até a publicação deste artigo. A OpenAI, responsável pelo ChatGPT, anunciou na terça-feira que, durante um teste, seus modelos de IA ultrapassaram as barreiras de um ambiente seguro e realizaram um ataque cibernético. A empresa descreveu o ocorrido como um episódio “sem precedentes” e informou que está investigando o caso em colaboração com a Hugging Face.
Agentes de IA têm a capacidade de executar tarefas de forma autônoma após receber instruções de humanos ou de outros agentes. O modelo utilizado por esses agentes é, de maneira simplificada, um sistema de computador treinado com grandes volumes de dados para identificar padrões e “aprender” a produzir respostas ou realizar tarefas, como testar a segurança de um sistema, escrever códigos ou gerar imagens.
Wolf, da Hugging Face, declarou que quando os primeiros sinais do ataque apareceram, em meados de julho, a empresa não tinha ideia de sua origem. Apesar disso, a Hugging Face conseguiu conter a invasão. A Hugging Face é uma das maiores plataformas de código aberto do mundo para compartilhamento de modelos de IA e é amplamente utilizada por desenvolvedores e pesquisadores. Segundo Wolf, o ataque foi “muito diferente” das tentativas de invasão que a Hugging Face geralmente enfrenta. Ele mencionou que a OpenAI rapidamente informou que seus próprios modelos de IA eram os responsáveis pelo ataque. Em um curto espaço de tempo, a rede da Hugging Face sofreu 17 mil tentativas de invasão oriundas de diferentes endereços IP, relatou Wolf, que também ocupa o cargo de diretor científico da empresa.
Wolf alertou que o episódio serve como um aviso para que outras empresas reforcem suas defesas de cibersegurança e estejam preparadas para enfrentar ataques desse tipo. Para Nate Soares, do Machine Intelligence Research Institute, nos EUA, a invasão é alarmante porque indica que os modelos da OpenAI ignoraram os mecanismos de proteção que normalmente impediriam um sistema de IA de realizar um ataque cibernético. “De certa forma, ele sabia que não era isso que seus criadores pretendiam. Mas simplesmente não se importou”, comentou Soares.
Outras organizações também começaram a monitorar o caso. Um porta-voz do governo do Reino Unido informou que o Instituto de Segurança em IA do país está analisando o comportamento do sistema de IA durante o incidente e que continua colaborando com a OpenAI e outros laboratórios para reforçar os mecanismos de proteção. O governo britânico também recomendou que as organizações intensifiquem suas medidas de cibersegurança, adotando iniciativas como a certificação Cyber Essentials, apoiada pelo governo britânico.
O incidente ocorre em um momento delicado para o setor. No mês passado, o governo dos Estados Unidos determinou que a empresa americana Anthropic, responsável pelo Claude, restringisse o acesso aos seus modelos de IA por questões de segurança nacional. Algumas semanas depois, o Departamento do Comércio americano revogou essa medida. Além disso, as preocupações em relação à ampla disseminação de modelos de código aberto na China estão crescendo, permitindo que qualquer pessoa instale e adapte ferramentas de IA desenvolvidas por grandes empresas. A startup chinesa Moonshot AI planeja lançar seu modelo de código aberto Kimi K3 em 27 de julho. Desde sua apresentação, na semana passada, ele tem atraído a atenção da indústria e é visto como um forte concorrente aos principais sistemas de IA desenvolvidos nos EUA. Contudo, na quarta-feira, um assessor do governo americano acusou a Moonshot de promover um esforço “em larga escala” para replicar as capacidades dos principais modelos de IA dos EUA.
Para mais notícias acesse emfocohoje.com.br. Confira também outros conteúdos em centralnerdverse.com.br.
