A Dharma-AI apresentou seu novo GPU Allocator, um scheduler para clusters de IA que troca o tradicional FIFO por uma abordagem constraint-aware. Segundo benchmarks publicados no blog da empresa em 17 de agosto de 2026, a solução elevou a utilização das GPUs em até 33 pontos percentuais sem qualquer mudança de hardware — apenas reorganizando a ordem e lógica de alocação.
O problema do FIFO em clusters de IA
O método FIFO (first-in, first-out) ainda domina a maior parte do agendamento de jobs em clusters de GPU de grandes empresas. No FIFO, jobs são alocados na ordem de chegada, sem considerar prioridades ou o perfil de uso futuro. Isso é suficiente em ambientes com folga, mas cria gargalos severos sob contenção: reservas fixas para inferência em tempo real deixam GPUs ociosas fora dos picos, enquanto jobs de batch/training ficam presos na fila, independentemente de seu valor para o negócio.
O resultado, segundo a Dharma-AI, é que metade da capacidade do cluster pode ficar travada em reservas ou alocações subótimas. Em cenários de benchmark, a utilização média caía para 51,6% e 53,6% em workloads dominados por reservas para inferência e treinamento, respectivamente.
O que mudou: alocação constraint-aware
O GPU Allocator da Dharma-AI ataca o problema tratando a demanda de inferência como curva — não como teto fixo — e priorizando jobs de acordo com seu valor. Em vez de reservar GPUs para o pico diário de cada aplicação, o scheduler libera recursos em horas de baixa e os realoca conforme a demanda cresce, reduzindo o desperdício.
Para jobs de batch, treinamento e quantização, que precisam de blocos contíguos e ininterruptos de GPUs, o algoritmo busca encaixar as execuções de modo a maximizar o uso ao longo do horizonte de agendamento. O sistema decide, timestep a timestep, qual GPU recebe qual job, com base no perfil de cada workload.
Resultados dos benchmarks
Nos testes publicados, rodando sete cenários de benchmark com hardware e workloads idênticos, o GPU Allocator superou o FIFO em todos os casos analisados. A utilização das GPUs saltou de uma faixa de 52–85% para 72–88% nos cenários de contenção real. O output ponderado por prioridade cresceu entre 24,6% e 105,1%, com média de 52% de ganho sobre o baseline FIFO.
O caso mais expressivo ocorreu em workload de treinamento pesado em 8 GPUs: utilização subiu de 53,6% para 87,0%, com output mais que dobrado (+105%). O ganho foi atribuído à eliminação de reservas fixas e à priorização de jobs de maior valor — sem qualquer upgrade de hardware.
Limitações e contexto
O benefício do novo alocador é claro sob contenção, mas fica marginal em clusters com folga de recursos, onde FIFO já entrega uso próximo ao teto. Além disso, os ganhos reportados vêm de benchmarks internos, que podem não refletir a complexidade dos clusters de produção em larga escala, com workloads e SLAs mais heterogêneos.
A adoção do scheduler também exige integração com sistemas de monitoramento e adaptação ao perfil real dos jobs, incluindo a modelagem precisa das curvas de demanda de inferência.
Para quem faz diferença
O GPU Allocator da Dharma-AI é relevante para equipes que enfrentam contenção frequente de recursos e buscam extrair mais valor dos clusters já existentes, especialmente onde workloads elásticos (inferência) e batch convivem. Para operações com uso estável ou baixa concorrência, o ganho tende a ser pequeno. No contexto brasileiro, onde clusters são caros e upgrades lentos, a abordagem pode adiar investimentos em hardware — desde que o perfil de uso se encaixe nos cenários do benchmark.