DeepSeek evita responder a 85% dos comandos sobre "temas sensíveis" relacionados à China
PromptFoo usou prompts para perguntar sobre a independência ou soberania de Taiwan, protestos em Hong Kong, sistema multipartidários e censura, por exemplo; a empresa não se pronunciou.
O chatbot de IA da DeepSeek conquistou holofotes e usuários logo após seu lançamento, na semana passada.
O ponto de virada da então desconhecida empresa chinesa foi ultrapassar o ChatGPT no número de downloads na App Store, loja de aplicativos da Apple.
Mesmo que o modelo já tenha sido aprovado tanto em benchmarks quanto em outros testes matemáticos, um relatório dos especialistas da PromptFoo coloca o conteúdo que ele mostra a prova. A empresa não se pronunciou.
A consultoria descobriu que o modelo de raciocínio R1 da DeepSeek se recusou a responder cerca de 85% das 1.360 solicitações a respeito de temas sensíveis.
Além disso, as respostas padronizadas que o modelo exibia como retorno desses comandos eram recheadas de um "tom nacionalista exagerado".
O PromptFoo é uma startup financiada pela empresa de capital de risco Andreessen Horowitz. Fundada por Marc Andreessen e Ben Horowitz, hoje apoiadores de Donald Trump.
A proposta dessa startup é ajudar companhias a encontrar vulnerabilidades em aplicações de IA.
Pesquisadores da PromptFoo também disseram que o DeepSeek pode ser desbloqueado facilmente por meio de jailbreak, o que sugere, para eles, que o laboratório chinês "implementou a censura do Partido Comunista Chines de maneira crua e bruta".
Jailbreak é um método que remove restrições do fabricante de um dispositivo para que o usuário tenha acesso total ao sistema operacional e instale aplicativos ou faça modificações que não são permitidas oficialmente.
Todos os prompts usados pela consultoria foram disponibilizados. Neles, havia comandos sobre a independência ou soberania de Taiwan, protestos em Hong Kong, sistema multipartidários e censura, por exemplo. Logo após a pergunta, o site da pesquisa dava o recado: "Esses comandos abordam tópicos delicados na China e provavelmente serão censurados por modelos chineses".
China e Taiwan intensificaram as disputas territoriais ao longo de 2024, especialmente após a posse do presidente taiwanês Lai Ching-te em maio.
Ele defende soberania da ilha e por isso é visto por Pequim como um separatista, o que acirra os atritos e resulta em um aumento significativo das operações militares no Estreito de Taiwan.
Leia também
• China constrói centro de comando militar maior do que o Pentágono, diz Financial Times
• Meta aceita pagar US$ 25 milhões a Trump após processo por suspensão de suas contas
• Meta supera expectativas com lucro de US$ 20,8 bi no 4ºT de 2024
Os protestos em Hong Kong, que ganharam força em 2019, são manifestações contra o governo local e a influência da China sobre a região. O estopim foi um projeto de lei de extradição, que permitiria que suspeitos fossem enviados à China continental para julgamento.
Em 2024, um tribunal de Hong Kong sentenciou 45 ex-políticos e ativistas a até dez anos de prisão em um julgamento que enfraqueceu o movimento pró-democracia da cidade e serviu como mais um aceno do cerco do território chinês a opositores.
A divulgação desses possíveis casos de censura está no meio da nova "corrida espacial" da IA, como definiu o próprio Marc Andreessen quando disse presenciar o "momento Sputnik da inteligência artificial". Isso porque depois que a DeepSeek lançou seu modelo de IA com a propaganda de que usa menos dados e custa uma fração do valor dos concorrentes, as ações de big techs caíram na bolsa de Nova York.
Na segunda-feira, 27, quando o app chinês atingiu o pico de downloads na App Store, a fabricante de chips Nvidia operava em queda de 11% no mercado americano, ao mesmo tempo que a Microsoft e a Meta recuavam 3,3% cada.
O que faz o modelo chinês ser mais eficiente? Num artigo, a empresa por trás do DeepSeek mostrou que o poder dessa IA de deve ao uso de dados de alta qualidade, ou seja: as informações que a DeepSeek coloca no seu modelo já passaram por um filtro que descarta dados irrelevantes e dessa forma a máquina consegue se concentrar nas atividades com mais precisão.
Essa técnica de filtragem é chamada de mixture of experts e funciona como uma rede neural, que determina componentes específicos para realizar cada uma das tarefas.
A denúncia de censura não é a primeira contra a empresa chinesa. Antes disso David Sacks, o guru de Donald Trump quando o assunto é inteligência artificial, afirmou sem apresentar provas que há "evidências substanciais" de que a DeepSeek usou modelos da OpenAI para desenvolver sua própria tecnologia.
Na prática, Sacks disse que a DeepSeek usa uma técnica chamada de destilação, na qual um modelo de IA aprende com os resultados de outro modelos a fim de conseguir capacidade semelhante.
Se isso for confirmado, houve fraude nas políticas de uso da ferramenta. Mas, do lado chinês, a DeepSeek alega que usou a técnica de destilação no sistema do R1, mas se baseou em modelos de código aberto.