Principais empresas globais de tecnologia assumem compromissos sobre segurança de IA

Anúncio foi feito antes do primeiro dia da Cúpula de Seul sobre inteligência artificial, na Coreia do Sul, uma continuação da conferência de novembro, no Reino Unido

As principais empresas de inteligência artificial aderiram a uma nova rodada de compromissos voluntários sobre segurança de IA, anunciaram os governos do Reino Unido e da Coreia do Sul antes da abertura de uma cúpula global de IA em Seul, nesta terça-feira.

Segundo o Financial Times, as empresas, que incluem as gigantes da tecnologia Amazon, Google, Meta e Microsoft, bem como a OpenAI, liderada por Sam Altman, a xAI de Elon Musk e a desenvolvedora chinesa Zhipu AI, estão entre as que assumiram compromissos voluntários de segurança na Cúpula de Seul sobre IA, incluindo o desligamento de seus sistemas de ponta se não conseguirem controlar os riscos mais extremos.

O anúncio se baseia na chamada Declaração de Bletchley, feita na primeira Cúpula de Segurança de IA, organizada pelo primeiro-ministro do Reino Unido, Rishi Sunak, em novembro.

De acordo com o comunicado, diz o FT, as empresas de IA “avaliarão os riscos apresentados por seus modelos ou sistemas de fronteira... inclusive antes de implantar esse modelo ou sistema e, conforme apropriado, antes e durante o treinamento”.

As empresas também definirão os “limites nos quais os riscos graves apresentados por um modelo ou sistema, a menos que sejam adequadamente mitigados, serão considerados intoleráveis” e como essas mitigações serão implementadas.

Durante a sessão de abertura da Cúpula de Seul, o secretário-geral da ONU, Antonio Guterres, disse que, seis meses após a reunião de Bletchley, “estamos vendo avanços tecnológicos que mudam vidas e novos riscos que ameaçam vidas - da desinformação à vigilância em massa e à perspectiva de armas autônomas letais”.

Em seu discurso em vídeo, Guterres afirmou que é preciso haver proteções universais e diálogo regular sobre IA. “Não podemos entrar em um futuro distópico em que o poder da IA é controlado por poucas pessoas - ou pior, por algoritmos além da compreensão humana”, disse ele.

Em março, a Assembleia Geral da ONU aprovou a primeira resolução global sobre o uso seguro de sistemas de inteligência artificial.

O anúncio de terça-feira ecoa os “compromissos voluntários” assumidos na primeira assembleia sobre segurança em IA, há seis meses, pela Amazon, Anthropic, Google, Inflection AI, Meta, Microsoft e OpenAI “para ajudar a avançar em direção ao desenvolvimento seguro e transparente da tecnologia de IA”.

No entanto, ainda não está claro como as empresas poderão ser responsabilizadas caso não cumpram seus compromissos.

Encontro de líderes
Nesta terça-feira, o presidente sul-coreano Yoon Suk Yeol e o primeiro-ministro britânico Rishi Sunak se encontraram virtualmente com outros líderes mundiais, atores importantes da indústria e chefes de organizações internacionais.

Antes dessa reunião, a secretária de Ciências do Reino Unido, Michelle Donelan, afirmou ao Financial Times que "não se trata apenas do que mais as empresas podem fazer, mas também do que mais os países podem fazer”, confirmando ainda que o governo chinês estará representado nas reuniões que serão realizadas no segundo dia da cúpula, amanhã.

Autoridades e participantes disseram que as conversas não serão apenas sobre os riscos apresentados pela IA, mas também discussões sobre pontos positivos e como ela pode contribuir para a humanidade de maneira equilibrada.