Desenvolvimento da IA não pode depender de "caprichos"do mercado, alertam especialistas da ONU

Secretário-geral da ONU, António Guterres, estabeleceu em 2023 um comitê de cerca de quarenta especialistas nas áreas de tecnologia, direito e proteção de dados pessoais

O desenvolvimento da inteligência artificial (IA) e os riscos associados a ela não podem depender dos "caprichos" do mercado, alertaram, nesta quinta-feira (19), especialistas da Organização das Nações Unidas, que pedem ferramentas de cooperação internacional, mas não propõem uma instância reguladora global.

O secretário-geral da ONU, António Guterres, estabeleceu em outubro do ano passado este comitê de cerca de quarenta especialistas nas áreas de tecnologia, direito e proteção de dados pessoais, provenientes do meio acadêmico, governos ou setor privado, incluindo empresas como Microsoft, Google-Alphabet e OpenAI.

Seu relatório final, publicado a poucos dias da "Cúpula do Futuro", que será realizada em Nova York, constata a "falta de governança global em matéria de IA" e a exclusão dos países em desenvolvimento das discussões sobre este assunto existencial.

Dos 193 Estados-membros da ONU, apenas sete fazem parte das grandes iniciativas relacionadas à IA (no âmbito da OCDE, G20 e do Conselho da Europa), e 118 estão totalmente ausentes, na maioria países do hemisfério sul.

No entanto, a natureza "transfronteiriça" dessas tecnologias "exige uma abordagem global", insistem.

"A IA deve servir à humanidade de forma justa e segura", reiterou Guterres esta semana. "Sem controle, os perigos que a inteligência artificial gera podem ter implicações graves para a democracia, a paz e a estabilidade" do planeta.

Papel "crucial" dos governos
Nesse contexto, o comitê de especialistas pede aos Estados-membros da ONU que estabeleçam ferramentas para melhorar a cooperação mundial na matéria, incentivar os avanços da humanidade e evitar abusos.

"Ninguém pode prever atualmente a evolução dessas tecnologias" e aqueles que tomam decisões não têm voz no desenvolvimento e uso de sistemas que nem mesmo "compreendem".

Nessas circunstâncias, o "desenvolvimento, a implementação e o uso dessas tecnologias não podem depender apenas dos caprichos do mercado", alertam os especialistas, antes de destacarem o papel "crucial" que os governos e as organizações regionais devem desempenhar.

Entre as conclusões, eles sugerem a criação de um grupo internacional de especialistas científicos sobre IA, inspirado no modelo de especialistas da ONU sobre o clima (IPCC), cujos relatórios são referência para a descrição do aquecimento global, seu impacto e as soluções para mitigá-lo.

Estes cientistas assessorariam a comunidade internacional sobre os riscos emergentes, os setores que precisam de mais pesquisa e poderiam identificar como algumas tecnologias poderiam ajudar a cumprir os objetivos de desenvolvimento sustentável (eliminação da fome e da pobreza, igualdade de gênero ou clima, entre outros).

Essa ideia faz parte do projeto de Pacto Digital Mundial, que está sendo discutido e que se espera que seja adotado no domingo durante a "Cúpula do Futuro" na ONU.

Os especialistas também sugerem que se estabeleça um diálogo político intergovernamental regular sobre o assunto e que se crie um fundo para ajudar os países em desenvolvimento.

Evitar surpresas
Tudo isso sob a égide de uma estrutura leve dentro da própria secretaria da ONU, sugerem.

Os especialistas não concordam, no entanto, com a criação de uma entidade internacional de governança à imagem da Agência Internacional de Energia Atômica (AIEA), como chegou a sugerir Guterres, a menos que os riscos se tornem "mais sérios e mais concentrados".

Nesse caso, "poderia ser necessário que os Estados criem uma instituição internacional com poderes de supervisão, alerta, verificação e execução", acrescentam.

Em uma mensagem, o chefe da ONU oferece "total apoio" às recomendações, que "esboçam os planos" para "construir uma arquitetura internacional de IA inclusiva, flexível e eficaz para o presente e o futuro".

Os especialistas identificam vários perigos da IA em um setor que evolui rapidamente: entre eles, a desinformação que ameaça as democracias, os "deepfakes" (vídeos que distorcem a realidade) de cunho mais pessoal, principalmente sexuais, violações dos direitos humanos, armas autônomas e a utilização delas por grupos criminosos ou terroristas.

"Dada a rapidez, a autonomia e a opacidade dos sistemas de IA, esperar que uma ameaça surja poderia significar que já é tarde demais para responder", admitem, defendendo uma avaliação científica constante e diálogos políticos para que "o mundo não seja pego de surpresa".