A OpenAI anunciou em 30 de setembro de 2026 a interrupção de uma campanha coordenada para extrair raciocínio protegido dos seus modelos — um caso representativo dos riscos crescentes de adversarial distillation no setor de IA. A ação começou a ser monitorada na primeira semana de julho, com picos de atividade nos dias 24 e 25 de julho, quando foram detectadas 16.000 tentativas de extração em padrões relevantes, distribuídas entre mais de 4.000 usuários. A investigação ampliou o escopo e identificou um cluster de mais de 15.000 usuários envolvidos, com a campanha sendo totalmente bloqueada até 28 de julho fonte.
O que é adversarial distillation
O termo refere-se ao uso sistemático e não autorizado das saídas ou raciocínio interno de um modelo para treinar, reproduzir ou aprimorar outro modelo — muitas vezes sem replicar os mecanismos de segurança do original. O alvo da campanha era o chamado protected reasoning: o registro interno do modelo ao executar tarefas, que pode revelar informações além da resposta final e facilitar a reprodução de suas capacidades. Os operadores não invadiram sistemas, mas manipularam interações para tornar esse raciocínio visível ao solicitante, burlando restrições de uso.
Como o ataque foi realizado
Segundo a OpenAI, os operadores usaram técnicas inovadoras, como copiar raciocínio criptografado de uma conversa e pedir para outro modelo descriptografar e transcrever esse conteúdo. O ataque não explorou vulnerabilidades específicas dos modelos OpenAI — o método pode afetar outros sistemas avançados de IA. Pesquisadores independentes também notificaram a empresa sobre vulnerabilidades relacionadas, que foram confirmadas e aceleraram a resposta. A evolução dos métodos ao longo do tempo reforça o desafio contínuo de proteger modelos contra distillation adversária.
Resposta e mitigação
A OpenAI respondeu com uma combinação de enforcement de contas, controles técnicos e coordenação com parceiros. Contas fraudulentas foram banidas ou restringidas, controles de infraestrutura e cadastro foram reforçados, e a monitoração de padrões de extração foi ampliada. A empresa fechou caminhos que permitiam o replay e recuperação de raciocínio criptografado, e adicionou checagens para bloquear saídas que pudessem expor raciocínio. Parceiros e órgãos governamentais foram acionados por meio do Frontier Model Forum para compartilhar informações e fortalecer defesas no setor.
Atribuição e implicações
A OpenAI atribui um núcleo da atividade a indivíduos ligados à Moonshot AI, desenvolvedora do Kimi. Não está claro se todos os operadores pertenciam ao mesmo grupo. O caso evidencia riscos de segurança e soberania tecnológica: a extração de raciocínio pode acelerar o desenvolvimento de concorrentes sem o mesmo investimento em segurança, sobretudo em domínios de uso dual. O problema não é exclusivo da OpenAI e exige resposta coordenada em toda a indústria.
Próximos passos
A expectativa é que tentativas de distillation adversária se tornem mais sofisticadas à medida que modelos avançam. A defesa exige controles em múltiplas camadas, adaptação contínua e colaboração entre empresas e governos. A OpenAI seguirá focada em proteção técnica contra extração, detecção e resposta a campanhas coordenadas, e compartilhamento de informações sobre ameaças.
Para o mercado brasileiro e global, o episódio serve de alerta: proteger o raciocínio interno dos modelos é prioridade estratégica para evitar vazamento de capacidades e preservar vantagens competitivas.