O projeto openTPU marca um avanço notável no uso de agentes de IA para o desenvolvimento de hardware especializado em inferência. Publicado no GitHub em outubro de 2026, o openTPU é um acelerador de IA de código aberto, projetado por agentes de IA, capaz de rodar modelos modernos em placas FPGA comerciais.
O que é o openTPU
O openTPU foi desenvolvido com base nos aprendizados do projeto auto-arch-tournament, focando em responder até onde agentes de IA conseguem ir no design de hardware e se podem construir chips capazes de executar sua própria inferência. O resultado é um monorepo compacto, que abrange desde a lógica em SystemVerilog, conjunto de instruções, simulador bit-exato, linguagem de kernel e compilador, até o software de host que opera uma placa PCIe real.
A plataforma foi testada em uma placa Inspur YPCB-00338 (FPGA Xilinx Kintex-7 xc7k480t, dois canais DDR3), mostrando que o hardware projetado por IA pode ser funcional e comparável a soluções convencionais.
Resultados de desempenho
O openTPU foi avaliado rodando dez modelos de linguagem modernos, incluindo LFM2.5-230M, Qwen3-0.6B, Qwen3.5-0.8B, Gemma 4 E2B, LFM2-2.6B, SmolLM3-3B, Phi-4-mini, Qwen3.5-2B, Qwen3.5-4B e Gemma 4 E4B. Todos os testes foram feitos com pesos reais dos modelos e utilizando diferentes quantizações (int8, 4-bit, int8 head).
No modelo LFM2.5-230M (int8), a placa atingiu 59 tokens/s no decode (device), com taxa de uso de DRAM em torno de 85% do pico. Em versões 4-bit, o throughput subiu para 85,8 tokens/s. Outros modelos como Qwen3-0.6B (int8) alcançaram 21,6 tokens/s, e SmolLM3-3B (int8) ficou em 5 tokens/s. O modelo Phi-4-mini (3.8B, int8) rodou a 4 tokens/s.
O desempenho foi consistente: para cada modelo, a geração de tokens no hardware era bit a bit idêntica ao simulador, validando a precisão do design. Com builds mais recentes, houve ganhos de 8-10% em velocidade de inferência e uso de DRAM próximo ao máximo teórico das placas DDR3 (até 94%).
O projeto detalha o método de teste: prompts de 512 tokens, decodificação greedy de 64 tokens e medições tanto no dispositivo quanto no tempo de parede (incluindo overhead do host). O firmware inclui controladores LiteDRAM calibrados automaticamente, matriz de multiplicação systolic de quatro colunas e engine de stream dedicada.
Por que importa
O openTPU é um exemplo prático de agentes de IA desenhando hardware funcional, não apenas simulando, mas rodando modelos reais em placas acessíveis. Isso abre caminho para ciclos mais curtos de inovação em hardware de IA, redução de custos em protótipos e maior democratização do acesso a aceleradores customizados.
Para pesquisadores e engenheiros brasileiros, o repositório público e a documentação detalhada tornam o openTPU uma referência para aprendizado e experimentação em arquitetura de hardware de IA. O fato de ser open-source e comprovadamente funcional diferencia o projeto de iniciativas puramente acadêmicas ou restritas a grandes empresas.
Limitações e próximos passos
O openTPU ainda depende de placas FPGA específicas e tem limitações de capacidade de memória — modelos maiores que 4 GiB precisam de soluções híbridas. No entanto, o projeto mostra que agentes de IA já conseguem projetar aceleradores viáveis para uma gama de modelos relevantes em 2026. O repositório segue ativo, com builds recentes trazendo ganhos incrementais de desempenho e eficiência.