A LiquidAI anunciou em 20 de agosto de 2026 a disponibilização dos checkpoints DSpark para três modelos da família LFM2.5: LFM2.5-1.2B-Instruct, LFM2.5-2.6B e LFM2.5-8B-A1B. A principal novidade é a integração nativa da técnica de speculative decoding DSpark, trazendo ganhos de velocidade relevantes sem comprometer a qualidade das respostas.
O que muda com o DSpark
A inferência em LLMs é tradicionalmente limitada pela movimentação de pesos entre DRAM e SRAM, e não pelo processamento em si. O DSpark emprega um modelo “draft” leve para sugerir grupos de tokens candidatos, validados em lote pelo modelo principal — reduzindo o custo total por token validado. O método, inspirado em abordagens como EAGLE-3 e DFlash, agrega três componentes: backbone paralelo (DFlash), head sequencial Markoviana para dependência entre tokens, e um verificador por confiança que elimina sufixos de baixa probabilidade. O resultado é um aumento expressivo na aceitação de tokens sugeridos e, consequentemente, na velocidade de geração.
Ganhos práticos de desempenho
Os testes cobriram tanto GPUs de alto desempenho (H100) quanto execução local em MacBook Pro M4 Max, usando implementações baseadas em llama.cpp e SGLang. Para o modelo LFM2.5-2.6B, os ganhos médios foram de 2,67x no H100 (323 para 864 tokens/s) e 2,27x no M4 Max (61 para 139 tokens/s), mantendo paridade de qualidade sob greedy decoding. Ou seja, a sequência final emitida é idêntica à do baseline. No caso do LFM2.5-1.2B-Instruct, o speedup médio foi de 2,10x (GPU) e 2,54x (on-device), com variações de aceitação de tokens por dataset. Já o LFM2.5-8B-A1B apresentou aceitação elevada, mas ganho menor no edge (1,18x), devido à arquitetura MoE e limitações atuais do backend Metal em llama.cpp.
Além do throughput bruto, a latência de function-calling caiu em média 57% para o LFM2.5-2.6B, aproximando a experiência local da oferecida por modelos proprietários em nuvem — relevante para aplicações agenticas e embarcadas.
Integração e uso
O DSpark já está integrado upstream ao llama.cpp e ao SGLang, dois dos frameworks mais usados para execução local e em servidores. Os modelos drafter (~300M parâmetros) são leves o suficiente para rodar em paralelo com o modelo principal sem exigir hardware especializado adicional. Os checkpoints estão disponíveis no Hugging Face, com documentação para uso direto em pipelines existentes.
Por que importa
A aceleração via speculative decoding se consolida como um diferencial prático para LLMs open source, permitindo experiências interativas em dispositivos de borda e servidores mais baratos. Para o mercado brasileiro, onde custos de nuvem e acesso a hardware de ponta ainda são gargalos, a possibilidade de rodar modelos competitivos com menor latência e consumo é estratégica — tanto em aplicações corporativas quanto para desenvolvedores independentes. A manutenção da qualidade de saída, garantida por design, elimina o trade-off usual entre velocidade e precisão.