A LiquidAI anunciou em 24 de setembro de 2026 o LFM2.5-VL-DSpark, um drafter experimental projetado para acelerar modelos vision-language (VLM), começando pelo LFM2.5-VL-3B. A proposta é clara: entregar ganhos expressivos de velocidade no processo de inferência, com impacto mínimo no uso de memória e sem comprometer a qualidade das respostas.
Speculative decoding chega aos modelos visão-linguagem
O LFM2.5-VL-DSpark aplica o conceito de speculative decoding, já conhecido em LLMs, para o domínio multimodal. O drafter adiciona 280 milhões de parâmetros (aumento de apenas 8,9% sobre o modelo de 3B) e atua sugerindo blocos de tokens candidatos com base em estados ocultos do modelo principal. Cada candidato é então verificado, garantindo que a saída final mantenha a exatidão do modelo base.
O treinamento seguiu a receita DSpark, misturando dados supervisionados de visão e linguagem. A arquitetura do drafter é composta por 4 camadas de atenção e um bloco de tamanho 9. O resultado é um componente enxuto, com footprint de memória contido, integrado ao pipeline de inferência.
Ganhos de velocidade: números concretos
Nos testes reportados, o DSpark drafter trouxe aceleração significativa:
- Em dispositivos Apple Silicon (MLX, M5 Max): velocidade de decode de 2,30x a 3,13x, com redução de latência end-to-end de até 2,62x.
- No M3 Ultra (llama.cpp): decode de 1,57x a 2,14x mais rápido, latência total 1,30x a 1,77x menor.
- No H100 (GPU): decode de 2,04x a 2,66x, latência total de 1,64x a 2,27x.
Os benchmarks cobriram seis tarefas de visão, incluindo VQA, legendas de imagem, análise de gráficos e conversação multimodal, segundo a suíte MMSpec.
Limitações práticas da abordagem
Apesar dos ganhos, o speculative decoding acelera apenas a etapa de decode. Em VLMs, etapas como o encoding da imagem e o prefill do prompt continuam sendo gargalos, especialmente em hardware de borda. Isso significa que, mesmo com grandes ganhos no decode, o impacto no tempo total pode ser limitado, conforme a proporção de tempo gasto nas outras etapas do pipeline (Amdahl’s law).
Suporte imediato e uso livre
O LFM2.5-VL-DSpark chega com suporte imediato para as principais stacks open-source do ecossistema: llama.cpp, MLX-VLM e SGLang. Os modelos estão disponíveis em formatos Safetensors e GGUF, prontos para download, fine-tuning e deploy sem restrições comerciais. O setup exige builds específicos dessas ferramentas para ativar o modo speculative.
Por que importa
A chegada de speculative decoding nativo para VLMs open-weight coloca a LiquidAI na vanguarda da otimização multimodal. Para quem desenvolve aplicações de visão e linguagem em edge ou serve múltiplos usuários em GPU compartilhada, o DSpark representa uma oportunidade de reduzir custos e latência sem comprometer a qualidade. O suporte imediato a stacks populares facilita adoção, especialmente em contextos de pesquisa e produtos no Brasil, onde acesso a hardware de ponta é restrito. O modelo reforça a tendência de arquiteturas abertas e aceleradas, aproximando a experiência multimodal de uso local ao padrão de cloud.