Indústria global de IA não atende padrões de segurança, alerta relatório
A Anthropic, uma empresa americana de inteligência artificial (IA), conquistou a melhor pontuação em um ranking semestral de segurança, mas o setor global enfrenta dificuldades para lidar com ameaças “existenciais”, conforme um relatório divulgado nesta terça-feira (7). O Future of Life Institute, um think tank dos Estados Unidos focado em segurança em IA, avaliou nove das principais empresas de IA do mundo e elaborou uma classificação com base em dados públicos e informações fornecidas pelas próprias companhias.
O relatório indica que as nove empresas estão falhando em enfrentar ameaças “existenciais”, como o desenvolvimento de modelos que atinjam um nível de inteligência comparável ao humano, conhecidos como “inteligência artificial geral” ou AGI. Foram examinados os esforços em seis áreas: avaliação de riscos; danos atuais; estruturas de segurança; segurança existencial; governança e transparência, além de compartilhamento de informações.
Nenhuma empresa recebeu um “A”, a nota máxima, em qualquer categoria, enquanto a Anthropic se destacou com a melhor nota geral, um “C+”. O documento ressalta que várias companhias que anteriormente proibiam o uso militar de suas tecnologias estão “revertendo gradualmente o rumo”, incluindo a Anthropic, que foi criticada por manter “compromissos militares questionáveis”. O governo dos Estados Unidos utilizou a tecnologia da Anthropic em operações militares na Venezuela e no Irã no último ano, segundo relatos da imprensa, embora a empresa tenha enfrentado recentemente uma proibição do Pentágono devido a divergências sobre a segurança da IA.
Embora existam “tentativas construtivas”, os esforços em geral são considerados “totalmente insuficientes”. Outros riscos apontados incluem o uso indevido de um modelo para realizar ciberataques ou executar atividades potencialmente prejudiciais aos seres humanos. Para mais notícias acesse em foco hoje. Confira também outros conteúdos em central nerdverse.
