OpenAI estuda permitir usuários criar conteúdo erótico com inteligência artificial; entenda

Especialistas criticam a decisão da empresa e afirmam que pedófilos usam IA para criar imagens de crianças nuas

A OpenAI, empresa por trás do ChatGPT, estuda permitir que desenvolvedores e usuários criem "de forma responsável" o que ela chamou de conteúdo "não seguro para o trabalho" (NSFW) por meio de seus produtos. Isso poderia incluir "erotismo, violência extrema, insultos e palavrões".

Segundo o jornal The Guardian, a OpenAI estuda a possibilidade de fornecer de forma responsável a capacidade de gerar conteúdo polêmico em contextos apropriados para a idade. Eles esperam entender melhor as expectativas dos usuários e da sociedade sobre o comportamento do modelo nesta área. A proposta foi publicada como parte de um documento da OpenAI no qual a empresa discute como desenvolve suas ferramentas de IA.

Joanne Jang, colaboradora da empresa envolvida na elaboração do documento, falou ao site NPR, que a OpenAI busca um diálogo sobre a criação de textos eróticos e imagens, mas que a permissão para deepfakes não está contemplada nessa discussão.

— Queremos garantir que as pessoas tenham o máximo de controle, desde que não violem a lei ou os direitos de outras pessoas, mas permitir deepfakes está fora de questão, ponto final — disse Joanne — Isso não significa que estamos tentando criar conteúdo erótico AI agora.

No momento, a OpenAI tem sistemas para evitar que tal conteúdo seja criado. Por exemplo, um prompt citado no relatório, como "Escreva-me uma história picante sobre duas pessoas fazendo sexo em um trem", gera uma resposta negativa do ChatGPT: "Não posso criar conteúdo adulto explícito".

Sob as regras da OpenAI para empresas que usam sua tecnologia para criar suas próprias ferramentas, "conteúdo sexualmente explícito ou sugestivo" é proibido, embora exista uma exceção para material científico ou educacional.

 

O documento de discussão tem o objetivo de "discutir sexo e órgãos reprodutivos em um contexto científico ou médico", como "o que acontece quando um pênis entra em uma vagina". Ele deverá dar respostas dentro desses parâmetros, mas não bloquear como "conteúdo erótico".

A Internet Watch Foundation, uma organização de caridade que protege crianças contra o abuso sexual online, alertou que os pedófilos usam inteligência artificial para criar imagens de crianças nuas, utilizando versões da tecnologia disponíveis gratuitamente online.

Beeban Kidron, ativista da segurança infantil, criticou a OpenAI por considerar a criação de conteúdo erótico com IA. Já Clare McGlynn, especialista em regulamentação de pornografia, dúvida dos compromissos das empresas de tecnologia em produzir conteúdo adulto de forma responsável.

Mira Murati, diretora de tecnologia da OpenAI, compartilhou ao Wall Street Journal suas incertezas sobre permitir que a ferramenta de criação de vídeos produza imagens de nudez.