A OpenAI divulgou nesta segunda-feira (25) os primeiros resultados do Jalapeño, seu chip proprietário para inferência de IA. Segundo a empresa, o Jalapeño alcançou desempenho e eficiência energética superiores aos principais aceleradores comerciais do mercado, com ganhos expressivos em throughput e latência.
Ganhos em desempenho e eficiência
O Jalapeño foi testado em três grandes modelos públicos: GPT-OSS 120B, DeepSeek R1 670B e Kimi K2.5 1T. Nos testes, o chip entregou entre 1,5 e 1,9 vezes mais trabalho de IA por watt no pico de throughput, além de latência de ponta a ponta 1,7 a 3,6 vezes menor que sistemas rivais. Em cargas altamente interativas — típicas de agentes conversacionais —, o ganho de performance chegou a 2,1 a 4,1 vezes.
A OpenAI destaca que o Jalapeño mantém desempenho sólido tanto em tarefas de prefill (processamento inicial do prompt, mais intensivo em computação) quanto na fase de decode (geração sequencial de tokens, limitada por largura de banda de memória). O resultado, segundo a empresa, é um acelerador equilibrado e capaz de suportar modelos cada vez maiores e mais complexos, inclusive de terceiros.
Arquitetura pensada para agentes e workloads modernos
O Jalapeño foi projetado com foco em workloads de linguagem natural e agentes interativos, minimizando movimentação de dados e atrasos de comunicação entre núcleos e chips. O design permite que o estado do modelo (incluindo o KV cache) seja mantido local, reduzindo latência e melhorando a eficiência. A rede de interconexão interna foi desenhada para manter toda a carga de trabalho dentro de um sistema coeso, evitando gargalos comuns em arquiteturas fragmentadas.
A OpenAI também usou IA no próprio processo de design do chip, o que, segundo a empresa, permitiu reduzir o ciclo de desenvolvimento para nove meses — do conceito ao tapeout. A automação baseada em modelos acelerou etapas de implementação, verificação e otimização dos circuitos aritméticos.
Métricas e metodologia
Os testes utilizaram o benchmark público InferenceX, da SemiAnalysis, que mede todo o fluxo de uma requisição de IA. Os resultados foram normalizados pelo consumo de energia publicado de cada acelerador. O Jalapeño é classificado para operar a 700 watts, mas, nos workloads testados, manteve consumo sustentado igual ou inferior a 550 watts.
Na avaliação interna da OpenAI, o Jalapeño ampliou sua vantagem em modelos proprietários de fronteira, sugerindo que a arquitetura ganha ainda mais relevância à medida que aumentam o tamanho e a complexidade dos modelos servidos.
Por que importa
A entrada da OpenAI no segmento de silício proprietário sinaliza a busca por controle integral da stack, da pesquisa ao hardware. Com ganhos de eficiência e latência, o Jalapeño pode permitir inferência mais barata, rápida e escalável — reduzindo custos operacionais e melhorando a experiência para usuários finais. Para o mercado, é um movimento que pressiona fornecedores tradicionais de aceleradores e evidencia a tendência de verticalização em IA.
O Jalapeño ainda está em fase de ramp-up, mas a OpenAI promete ampliar em breve o acesso a produtos construídos sobre o novo chip. O desempenho apresentado, se mantido em escala, pode redefinir padrões para workloads de linguagem e agentes interativos.