Mais de mil acadêmicos e executivos, como Elon Musk, pedem pausa em inteligência artificial
Carta aberta é assinada por centenas de especialistas e alerta para o risco de tecnologia como a do ChatGPT, que nem seus próprios criadores conseguem "entender, prever ou controlar de forma confiável"
O bilionário Elon Musk e mais de mil pesquisadores, especialistas e executivos do setor de tecnologia publicaram nesta quarta-feira (28) uma carta aberta conclamando empresas do mundo inteiro a realizarem uma pausa de seis meses no desenvolvimento de novas ferramentas de inteligência artificial (IA), como o popular ChatGPT, diante do que chamaram de “perigosa” corrida armamentista.
A carta foi divulgada pelo Future of Life Institute, um grupo sem fins lucrativos, e ganhou a adesão de centenas de acadêmicos e executivos do setor em poucas horas desde que foi tornada pública.
“Nos últimos meses, vimos os laboratórios de Inteligência Artificial em uma corrida fora do controle para desenvolver e aprimorar mentes digitais que ninguém - nem seus próprios criadores – consegue entender, prever ou controlar de forma confiável”, diz a carta, que menciona riscos à sociedade e à humanidade.
O Future of Life Institute tem Musk como um dos seus maiores financiadores e é liderado por Max Tegmark, professor do Instituto de Tecnologia de Massachusetts (MIT) e pesquisador de IA.
Entre os signatários da carta estão os mais conceituados pesquisadores americanos sobre inteligência artificial, como os professores Stuart Russel e Youshua Bengio. Também assinam o documento co-fundadores da Apple, Pinterest e Skype e os fundadores de startups de IA como Stability AI e Charcacter.ai.
Eles pedem uma pausa no desenvolvimento dessa nova tecnologia até que protocolos de segurança sejam desenvolvidos, implementados, compartilhados e auditados por especialistas independentes. E, caso os laboratórios de IA não consigam fazer essa suspensão nas pesquisas, eles conclamam os governos a agirem e instituírem uma moratória:
"Pedimos a todos os laboratórios de IA que pausem imediatamente, por pelo menos seis meses, os treinamentos de sistemas de IA mais poderosos do que o GPT-4 (a versão mais atual do Chat-GPT). Esta pausa precisa ser pública e verificável, e incluir todos os atores relevantes. Se esta pausa não puder ser colocada em prática rapidamente, os governos devem tomar medidas e estabelecerem uma moratória (nas pesquisas)", diz a carta.
Os protocolos de segurança a serem criados, dizem os signatários da carta, não apenas precisam ter auditoria independente como devem "garantir que os sistemas serão seguros acima de qualquer dúvida razoável".
"Todos os sistemas com inteligência que rivalizem com a humana podem apresentar riscos profundos à sociedade e à humanidade", alertam.
Musk é um dos cofundadores da OpenAI, o laboratório de inteligência artificial por trás da criação do ChatGPT e de outras ferramentas de IA, mas deixou a plataforma em 2018 e se tornou um crítico dela desde então.
Entre os primeiros mil signatários da carta, há ainda engenheiros e pesquisadores da Microsoft, Google, Amazon e Meta (dona do Facebook e do Instagram).
Ação dos governos
O Reino Unido vai publicar um documento nesta quarta-feira pedindo aos reguladores que desenvolvam uma abordagem consistente sobre o uo da Inteligência Artificial nas diferentes indústrias, de modo a assegurar que os sistema de Inteligência Artificial sejam justos e transparentes. No entanto, o governo britânico não vai dar mais poder ou recursos aos reguladores com este intuito, ao menos por enquanto.
A União Europeia também está preparando sua própria legislação sobre como a IA será usada na Europa, que deverá prever multas para empresas que violarem as regras.