A OpenAI anunciou, em 30 de setembro de 2026, que identificou e interrompeu uma campanha coordenada destinada a extrair o reasoning protegido de seus modelos. O ataque, classificado como adversarial distillation, foi detectado com início em julho e envolveu manipulação de interações para revelar etapas de raciocínio internas não acessíveis ao usuário comum. A empresa atribui o núcleo da atividade a indivíduos ligados à Moonshot AI, desenvolvedora do Kimi.
O que foi a campanha de distillation
Adversarial distillation consiste na extração sistemática — e não autorizada — do raciocínio interno gerado por modelos avançados, com o objetivo de treinar, reproduzir ou aprimorar outros sistemas de IA. Segundo a OpenAI, o protected reasoning contém registros detalhados dos caminhos lógicos usados pelo modelo para resolver tarefas, muitas vezes com informações não presentes na resposta final ao usuário.
O método não envolveu invasão de sistemas ou quebra de criptografia, mas sim manipulação de prompts e fluxos de conversação, incluindo tentativas de decifrar reasoning criptografado transferido entre sessões. O volume de requisições cresceu rapidamente, com picos de 16.000 tentativas em apenas dois dias (24 e 25 de julho), partindo de mais de 4.000 usuários. Análise posterior ampliou o escopo para 15.000 usuários em padrões correlatos, todos neutralizados até 28 de julho.
Riscos e implicações
A extração desse reasoning ameaça tanto a segurança quanto a integridade dos modelos. Permite que terceiros treinem sistemas rivais sem absorver os custos de desenvolvimento e, potencialmente, sem replicar as salvaguardas implementadas pela OpenAI. O risco se agrava à medida que modelos são aplicados em domínios sensíveis ou de uso dual. A OpenAI destaca que a vulnerabilidade não é exclusiva de seus sistemas e afeta todo o setor, razão pela qual compartilhou detalhes técnicos com parceiros do Frontier Model Forum.
Mitigações adotadas
A resposta envolveu bloqueio e restrição de contas fraudulentas, reforço nos controles de cadastro e infraestrutura, monitoramento ampliado de redes correlatas e melhorias nas proteções para reasoning oculto. A empresa fechou uma brecha que permitia o replay de reasoning criptografado e passou a detectar e reter saídas de modelo que pudessem expor esse conteúdo. Intervenções também foram feitas em serviços de terceiros usados para contornar restrições. As informações foram compartilhadas com parceiros industriais e canais governamentais para ampliar a vigilância e a resposta coletiva.
Próximos passos
A OpenAI prevê que tentativas de distillation adversarial vão se sofisticar conforme os modelos evoluem. O plano de resposta se apoia em três eixos: aprimoramento técnico das proteções, melhor detecção e repressão a campanhas coordenadas e intensificação da troca de informações com setor público e privado. A empresa ressalta que sistemas que suportam reasoning portátil ou replayable enfrentam riscos similares e recomenda adoção de controles adaptativos e contínuos.
Por que importa
O episódio reforça que a segurança de modelos de IA avançados não depende apenas de proteção de dados ou arquitetura fechada, mas também de vigilância ativa sobre o uso e abuso do reasoning interno. O Brasil, que já consome APIs de frontier models para aplicações sensíveis, deve monitorar de perto o debate sobre distillation — e exigir de provedores controles transparentes para mitigar esse tipo de ataque.