Logo Folha de Pernambuco
Tecnologia

DeepSeek evita responder a 85% dos comandos sobre "temas sensíveis" relacionados à China

PromptFoo usou prompts para perguntar sobre a independência ou soberania de Taiwan, protestos em Hong Kong, sistema multipartidários e censura, por exemplo; a empresa não se pronunciou.

O chatbot de inteligência artificial da empresa chinesa DeepSeek subiu ao topo das paradas de downloads da Apple Store, surpreendendo analistas e especialistas do setor com sua capacidade de igualar seus concorrentes nos EUA.O chatbot de inteligência artificial da empresa chinesa DeepSeek subiu ao topo das paradas de downloads da Apple Store, surpreendendo analistas e especialistas do setor com sua capacidade de igualar seus concorrentes nos EUA. - Foto: Greg Baker / AFP

O chatbot de IA da DeepSeek conquistou holofotes e usuários logo após seu lançamento, na semana passada.

O ponto de virada da então desconhecida empresa chinesa foi ultrapassar o ChatGPT no número de downloads na App Store, loja de aplicativos da Apple.

Mesmo que o modelo já tenha sido aprovado tanto em benchmarks quanto em outros testes matemáticos, um relatório dos especialistas da PromptFoo coloca o conteúdo que ele mostra a prova. A empresa não se pronunciou.

A consultoria descobriu que o modelo de raciocínio R1 da DeepSeek se recusou a responder cerca de 85% das 1.360 solicitações a respeito de temas sensíveis.

Além disso, as respostas padronizadas que o modelo exibia como retorno desses comandos eram recheadas de um "tom nacionalista exagerado".

O PromptFoo é uma startup financiada pela empresa de capital de risco Andreessen Horowitz. Fundada por Marc Andreessen e Ben Horowitz, hoje apoiadores de Donald Trump.

A proposta dessa startup é ajudar companhias a encontrar vulnerabilidades em aplicações de IA.

Pesquisadores da PromptFoo também disseram que o DeepSeek pode ser desbloqueado facilmente por meio de jailbreak, o que sugere, para eles, que o laboratório chinês "implementou a censura do Partido Comunista Chines de maneira crua e bruta".

Jailbreak é um método que remove restrições do fabricante de um dispositivo para que o usuário tenha acesso total ao sistema operacional e instale aplicativos ou faça modificações que não são permitidas oficialmente.

Todos os prompts usados pela consultoria foram disponibilizados. Neles, havia comandos sobre a independência ou soberania de Taiwan, protestos em Hong Kong, sistema multipartidários e censura, por exemplo. Logo após a pergunta, o site da pesquisa dava o recado: "Esses comandos abordam tópicos delicados na China e provavelmente serão censurados por modelos chineses".

China e Taiwan intensificaram as disputas territoriais ao longo de 2024, especialmente após a posse do presidente taiwanês Lai Ching-te em maio.

Ele defende soberania da ilha e por isso é visto por Pequim como um separatista, o que acirra os atritos e resulta em um aumento significativo das operações militares no Estreito de Taiwan.

Os protestos em Hong Kong, que ganharam força em 2019, são manifestações contra o governo local e a influência da China sobre a região. O estopim foi um projeto de lei de extradição, que permitiria que suspeitos fossem enviados à China continental para julgamento.

Em 2024, um tribunal de Hong Kong sentenciou 45 ex-políticos e ativistas a até dez anos de prisão em um julgamento que enfraqueceu o movimento pró-democracia da cidade e serviu como mais um aceno do cerco do território chinês a opositores.

A divulgação desses possíveis casos de censura está no meio da nova "corrida espacial" da IA, como definiu o próprio Marc Andreessen quando disse presenciar o "momento Sputnik da inteligência artificial". Isso porque depois que a DeepSeek lançou seu modelo de IA com a propaganda de que usa menos dados e custa uma fração do valor dos concorrentes, as ações de big techs caíram na bolsa de Nova York.

Na segunda-feira, 27, quando o app chinês atingiu o pico de downloads na App Store, a fabricante de chips Nvidia operava em queda de 11% no mercado americano, ao mesmo tempo que a Microsoft e a Meta recuavam 3,3% cada.

O que faz o modelo chinês ser mais eficiente? Num artigo, a empresa por trás do DeepSeek mostrou que o poder dessa IA de deve ao uso de dados de alta qualidade, ou seja: as informações que a DeepSeek coloca no seu modelo já passaram por um filtro que descarta dados irrelevantes e dessa forma a máquina consegue se concentrar nas atividades com mais precisão.

Essa técnica de filtragem é chamada de mixture of experts e funciona como uma rede neural, que determina componentes específicos para realizar cada uma das tarefas.

A denúncia de censura não é a primeira contra a empresa chinesa. Antes disso David Sacks, o guru de Donald Trump quando o assunto é inteligência artificial, afirmou sem apresentar provas que há "evidências substanciais" de que a DeepSeek usou modelos da OpenAI para desenvolver sua própria tecnologia.

Na prática, Sacks disse que a DeepSeek usa uma técnica chamada de destilação, na qual um modelo de IA aprende com os resultados de outro modelos a fim de conseguir capacidade semelhante.

Se isso for confirmado, houve fraude nas políticas de uso da ferramenta. Mas, do lado chinês, a DeepSeek alega que usou a técnica de destilação no sistema do R1, mas se baseou em modelos de código aberto.

Veja também

Newsletter