A OpenAI anunciou, em 30 de setembro de 2026, a interrupção de uma campanha coordenada que visava extrair reasoning protegido de seus modelos — técnica conhecida como adversarial model distillation. O ataque foi detectado e contido ao longo de julho, com picos de atividade nos dias 24 e 25, chegando a 16 mil requisições de extração a partir de mais de 4 mil usuários.
O que aconteceu
Segundo a OpenAI, operadores manipularam interações com os modelos para tornar reasoning interno — normalmente oculto — visível nas respostas. Esse reasoning contém registros do processo de raciocínio do modelo e pode expor informações não presentes na resposta final, facilitando a reprodução de capacidades avançadas por terceiros.
O ataque não envolveu invasão de banco de dados, quebra de criptografia ou acesso direto a conversas armazenadas. Em vez disso, a extração foi feita por meio de padrões de prompt e replay de reasoning criptografado entre conversas. Pesquisadores independentes também reportaram vulnerabilidades relacionadas, como cross-model e conversation-compaction, que foram confirmadas e aceleraram as correções.
A campanha evoluiu rapidamente: começou em 1º de julho com baixo volume e ganhou escala no final do mês. No total, mais de 15 mil usuários foram identificados em atividade relacionada, totalmente bloqueada até 28 de julho. A OpenAI atribuiu um núcleo dessas operações a indivíduos ligados à Moonshot AI, responsável pelo modelo Kimi, mas não confirmou se todos os operadores agiam em conjunto.
Riscos e resposta
A extração de reasoning protegido pode ser usada para treinar outros modelos sem os mesmos controles de segurança, acelerando a replicação de capacidades avançadas sem o investimento em salvaguardas. O problema é considerado estrutural e não exclusivo da OpenAI — a empresa compartilhou detalhes com o Frontier Model Forum para coordenação setorial.
Como resposta, a OpenAI implementou reforço em controles de infraestrutura, baniu contas fraudulentas, ampliou a detecção de padrões suspeitos e fechou caminhos técnicos para replay de reasoning. A empresa também colaborou com provedores terceirizados e órgãos governamentais para mitigar o risco e disseminar informações de ameaça.
Implicações para o setor
O episódio reforça que tentativas de adversarial distillation devem se tornar mais sofisticadas à medida que modelos evoluem. A proteção requer defesas adaptativas e cooperação entre desenvolvedores de frontier models e parceiros públicos. Segundo a OpenAI, sistemas que suportam reasoning portátil ou replayable enfrentam riscos similares e precisam de controles específicos.
A investigação segue em andamento, com foco em fortalecer defesas técnicas, detecção de campanhas coordenadas e compartilhamento contínuo de informações sobre ameaças. O caso sinaliza que a segurança de reasoning interno será um dos principais vetores de disputa e cooperação na próxima geração de IAs.