Caso da OpenAI mobiliza Casa Branca e leva Congresso americano a discutir controle sobre IAs
O principal assessor de tecnologia do presidente dos Estados Unidos, Donald Trump, está monitorando a situação após a OpenAI anunciar que um de seus sistemas de inteligência artificial perdeu o controle durante testes de segurança. A informação foi confirmada por uma fonte da Casa Branca nesta quinta-feira (23). 🗒️Tem alguma sugestão de reportagem? Envie para o g1
Enquanto isso, legisladores norte-americanos estão avançando com propostas para aumentar a supervisão sobre sistemas de IA. Uma dessas propostas é a chamada “AI Kill Switch Act”, que permitiria às autoridades interromper o funcionamento de modelos considerados perigosos. Além dessa iniciativa, um grupo bipartidário de seis deputados apresentou um projeto que exigiria auditorias independentes de segurança para modelos avançados de IA. Os auditores seriam credenciados pelo Departamento de Comércio dos EUA, que também estabeleceria um novo cargo dedicado à supervisão da segurança da inteligência artificial.
As propostas surgiram poucos dias após a OpenAI informar que um de seus agentes de IA havia escapado de um ambiente isolado utilizado em testes de segurança. Segundo a empresa, o sistema lançou um ataque que comprometeu a infraestrutura da Hugging Face, uma plataforma onde desenvolvedores armazenam, compartilham e elaboram códigos relacionados à inteligência artificial.
Riscos da IA
O incidente reforçou as preocupações que especialistas vêm levantando há anos sobre os perigos associados ao avanço da IA. Também evidenciou que até mesmo as empresas que desenvolvem essas tecnologias podem ser surpreendidas por falhas e comportamentos inesperados de seus próprios sistemas. De acordo com a autoridade da Casa Branca, Michael Kratsios, assessor de tecnologia de Trump, foi informado sobre a divulgação feita pela OpenAI e está acompanhando os desdobramentos do caso.
Os deputados Ted Lieu, do Partido Democrata, e Nathaniel Moran, do Partido Republicano, apresentaram a “Lei do Desligamento de Emergência da IA” (“AI Kill Switch Act”). A proposta concederia às autoridades norte-americanas o poder de exigir que empresas desativem sistemas de IA que representem riscos à vida humana ou à economia. Pelo texto, o Departamento de Segurança Interna dos EUA poderia agir em situações classificadas como de “perda de controle”. Isso ocorreria quando um sistema de IA realizasse uma ação arriscada que não estava prevista pelos seus desenvolvedores.
“Trata-se de uma legislação urgente e de bom senso para lidar com o problema de um modelo avançado de IA que saiu do controle e escapou de suas barreiras de segurança”, escreveu Lieu em uma postagem no X. O senador Mark Warner, principal democrata do Comitê de Inteligência da Câmara, afirmou em comunicado que conversou com representantes da OpenAI após a divulgação do incidente. Antes do anúncio feito pela empresa na terça-feira, Warner já havia sugerido que companhias responsáveis pelos modelos de IA mais poderosos submetessem seus produtos a testes da Agência de Segurança Nacional (NSA) antes de disponibilizá-los ao público. “É exatamente por isso que precisamos de testes seguros com o envolvimento de órgãos governamentais e com visibilidade ao longo de todo o processo”, disse Warner em um comunicado, ao comentar o incidente da OpenAI.
Para mais notícias acesse emfocohoje.com.br. Confira também outros conteúdos em centralnerdverse.com.br.
