Depois de acabar com equipe de segurança, OpenAI cria conselho de supervisão com Sam Altman

CEO da empresa será um dos nove integrantes do comitê de conformidade. Companhia também anunciou que já está desenvolvendo novo modelo que vai substituir o atual GPT-4, do ChatGPT

A OpenAI criou um comitê para avaliar a segurança de seus modelos de inteligência artificial, uma mudança de governança feita semanas após a renúncia de seu principal executivo no assunto e a efetiva dissolução de sua equipe interna que cuidava do tema.

O novo comitê passará 90 dias avaliando as salvaguardas na tecnologia da OpenAI antes de apresentar um relatório.

"Após a revisão completa do conselho, a OpenAI compartilhará publicamente uma atualização sobre as recomendações adotadas de maneira consistente com a segurança," disse a empresa em uma publicação na terça-feira (28).

A OpenAI também informou que iniciou recentemente o treinamento de seu mais recente modelo de IA, que deve no futuro substituir GPT-4, que atualmente treina a ferramenta de IA mais popular do grupo, o ChatGPT.

Os rápidos avanços recentes da empresa em IA levantaram preocupações sobre como ela gerencia os perigos potenciais da tecnologia. Essas preocupações ficaram maiores no fim do ano passado, quando o CEO da OpenAI Sam Altman foi demitido da diretoria após desentendimentos com o fundador e cientista-chefe Ilya Sutskever. Ambos entraram em desacordo sobre a velocidade de desenvolvimento de produtos de IA e as medidas para limitar os danos.

Essas preocupações voltaram a tomar forma este mês, após Sutskever e um outro importante executivo, Jan Leike, deixarem a empresa. Os dois cientistas lideravam a chamada "equipe de conformidade" da OpenAI, que se concentrava em ameaças de longo prazo de uma IA mais poderosa.

Leike, que renunciou, escreveu que seu setor estava "lutando" por recursos tecnológicos dentro da OpenAI. Outros funcionários que saíram reafirmaram suas críticas.

Após a saída de Sutskever, a OpenAI acabou com a equipe. A empresa disse nesta terça-feira que esse trabalho continuaria sob a unidade de pesquisa, e que John Schulman seria o novo chefe de "Ciência e Conformidade".

O novo comitê de segurança da OpenAI será composto por três membros do conselho — o presidente Bret Taylor; o CEO do Quora, Adam D’Angelo; e a ex-executiva da Sony Entertainment, Nicole Seligman — juntamente com seis funcionários, incluindo Schulman e Altman.

A empresa disse que seguirá fazendo consultas a especialistas externos, nomeando dois deles: Rob Joyce, um conselheiro de segurança nacional de Donald Trump, e John Carlin, um ex-funcionário do Departamento de Justiça do governo Joe Biden.