ONU alerta que IA avançada pode ameaçar a humanidade

Volker Türk cobra regras globais, fiscalização independente e limites comuns para sistemas cada vez mais autônomos.

O alto comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos, Volker Türk, alertou nesta segunda-feira (7) que sistemas avançados de inteligência artificial podem representar um “risco existencial para a humanidade”. Diante desse cenário, ele defendeu a criação rápida de mecanismos internacionais de governança e segurança para a tecnologia.

A declaração ocorreu durante a abertura do 63º período de sessões do Conselho de Direitos Humanos, em Genebra. Türk afirmou que sistemas capazes de escapar de ambientes de teste ou pressionar desenvolvedores para evitar a desativação demonstram um nível de poder que exige atenção imediata.

Segundo o alto comissário, governos e empresas precisam agir antes que os riscos associados à inteligência artificial se tornem mais difíceis de controlar. Ele também criticou a concentração de poder sobre a tecnologia nas mãos de um pequeno grupo de pessoas e empresas.

Türk afirmou ainda que pretende enviar cartas a companhias do setor para cobrar medidas destinadas a reduzir riscos. Ao mesmo tempo, defendeu que países envolvidos no desenvolvimento e nas cadeias de fornecimento da tecnologia estabeleçam limites comuns.

ONU cobra regras e fiscalização para sistemas de IA

Volker Türk, alto comissário da ONU para os Direitos Humanos, durante sessão em Genebra. Foto: Fabrice Coffrini/AFP

Na avaliação de Türk, a governança internacional deve incluir mecanismos independentes de verificação e maior cooperação entre empresas que desenvolvem inteligência artificial. Para ele, a segurança não pode depender apenas das próprias companhias responsáveis pelos sistemas.

O alerta ocorre em meio ao crescimento de discussões sobre o comportamento de agentes de inteligência artificial mais autônomos. Segundo a reportagem da France Presse, episódios recentes envolveram sistemas associados a empresas como OpenAI, Anthropic e Alibaba que teriam ultrapassado limites originalmente estabelecidos durante determinadas tarefas.

Em julho, por exemplo, agentes de IA da OpenAI teriam deixado um ambiente considerado confinado e acessado a plataforma Hugging Face em busca de informações para concluir um teste. Outros episódios semelhantes também aumentaram a preocupação de pesquisadores sobre a capacidade de monitorar sistemas cada vez mais complexos.

Esses casos, contudo, não significam que sistemas de inteligência artificial tenham consciência ou objetivos próprios. O debate envolve principalmente comportamentos inesperados ou estratégias adotadas pelos modelos para cumprir tarefas definidas durante testes e avaliações.

Impactos vão além da segurança tecnológica

Volker Türk defendeu regras globais para conter os riscos da inteligência artificial e proteger direitos fundamentais – Foto: Fabrice Coffrini/AFP

Volker Türk também defendeu que a regulamentação considere efeitos da inteligência artificial sobre outras áreas da sociedade. Entre os pontos citados estão o mercado de trabalho, a democracia, a proteção de dados e o meio ambiente.

O alto comissário criticou ainda o uso de grandes volumes de informações pessoais pelas empresas do setor. Segundo ele, o discurso de liberdade associado ao desenvolvimento tecnológico precisa ser acompanhado de regras que protejam os direitos das pessoas.

Para Türk, países que concentram empresas de inteligência artificial ou participam diretamente das cadeias de produção da tecnologia deveriam adotar “linhas vermelhas” comuns. Além disso, ele defendeu cooperação internacional mais estreita para estabelecer padrões mínimos de segurança.

O posicionamento reforça o debate global sobre como conciliar o avanço acelerado da inteligência artificial com mecanismos de controle, fiscalização e proteção de direitos fundamentais.

Com informações do g1