Relatório da ONU aponta enormes benefícios potenciais e grandes riscos decorrentes da IA
Especialistas da ONU alertam que a inteligência artificial pode impulsionar avanços em diversas áreas, mas também traz riscos crescentes à saúde mental, à democracia, aos direitos humanos e à segurança, exigindo uma governança baseada em evidências científicas.
A corrida da IA gera grandes expectativas em relação às ferramentas e aos milhões de dólares que podem ser gerados. O rápido progresso da IA traz enormes benefícios potenciais para países e indivíduos em todo o mundo, mas também apresenta riscos significativos, afirmaram 40 cientistas e especialistas reconhecidos no primeiro relatório elaborado por um painel científico independente da ONU sobre a tecnologia.
O relatório, que será apresentado aos governos durante o primeiro Diálogo Global da ONU sobre a governança da IA, em Genebra, de 6 a 7 de julho, oferece a primeira avaliação científica global e independente da IA, com um relatório mais detalhado e abrangente previsto para o próximo ano. Os membros do painel foram escolhidos de todas as regiões do mundo e têm um mandato de três anos, atuando independentemente de qualquer governo, instituição ou empresa.
A seguir, alguns detalhes do relatório preliminar:
- Os formuladores de políticas necessitam de evidências científicas para gerenciar a IA, mas as capacidades da tecnologia estão ultrapassando a compreensão científica e a habilidade de adaptação dos governos, com poucos métodos disponíveis para controlar sistemas de IA altamente autônomos.
- O copresidente do painel, Yoshua Bengio, observou um aumento nas evidências de comportamentos enganosos da IA e afirmou que a ciência não pode assegurar que a IA não causará danos catastróficos “seja por conta própria, seja devido a usuários mal-intencionados”, à medida que suas capacidades se expandem.
- “Os potenciais benefícios da IA são imensos”, concluiu o relatório. “A rápida e descontrolada implementação da tecnologia em larga escala também apresenta riscos significativos, incluindo danos à saúde mental dos usuários, uso potencial como ferramenta destrutiva, impactos nos sistemas sociais, econômicos e ambientais, e desafios relacionados ao controle da tecnologia.”
- A adoção da IA acelerou de forma ampla, mas desigual, entre países e setores. Globalmente, mais de um bilhão de pessoas agora utilizam IA conversacional semanalmente, mas a adoção nos países em desenvolvimento está atrasada.
- O desenvolvimento da IA está ainda mais concentrado, com os EUA respondendo por 75% do poder de computação entre os 500 maiores supercomputadores de IA do mundo, enquanto a China representa 15%.
- Embora mais de 7.000 idiomas sejam falados globalmente, os modelos atuais de IA são treinados para apenas uma pequena fração deles, e a tradução automática de alguns idiomas apresenta erros que podem impactar diagnósticos de saúde e decisões de tratamento.
- Os riscos incluem possíveis impactos negativos sobre os direitos humanos, sistemas sociais e o meio ambiente, com a crescente circulação de material de abuso sexual infantil gerado por IA e de violência sexual facilitada por deepfakes.
- A IA também facilita a criação e o direcionamento de conteúdo persuasivo em grande escala, contribuindo para uma “erosão gradual da integridade da informação que pode minar a confiança pública, a coesão social e a deliberação democrática”.
- A maioria dos países, incluindo as economias avançadas, carece do conhecimento técnico necessário para avaliar os novos modelos de IA mais avançados ou participar de forma significativa de sua governança.
Para mais notícias acesse emfocohoje.com.br. Confira também outros conteúdos em centralnerdverse.com.br.
