A LiquidAI anunciou em 24 de setembro de 2026 o LFM2.5-VL-DSpark, um drafter experimental para acelerar inferência em modelos vision-language (VLMs). O lançamento amplia a família LFM2.5, trazendo a abordagem de speculative decoding já vista em LLMs para workloads multimodais.
O que é o LFM2.5-VL-DSpark
O LFM2.5-VL-DSpark atua como um drafter: um pequeno modelo (280 milhões de parâmetros, 8,9% do modelo alvo de 3 bilhões) que propõe blocos de tokens candidatos enquanto o modelo principal verifica e aceita ou rejeita cada sugestão. O objetivo é acelerar o decode sem sacrificar a qualidade da saída.
A arquitetura do drafter é baseada em atenção, com 4 camadas e bloco de 8 ou 9 tokens, compatível com diferentes hardwares. O modelo foi treinado sobre dados SFT multimodais, balanceando tarefas de VQA, image captioning e conversação multi-turn.
Ganhos de performance e limitações
Nos testes divulgados, o DSpark trouxe ganhos de 2,30x a 3,13x no decode em dispositivos Apple M5 Max, e até 2,62x em tempo fim a fim (end-to-end). Em GPUs H100, o speedup variou de 2,66x no decode a 2,27x end-to-end, dependendo da tarefa.
No entanto, o benefício do speculative decoding em VLMs é limitado pelo tempo de prefill e pela etapa de encoding de imagem. Como esses estágios não são acelerados, o ganho total depende do peso relativo do decode na pipeline, seguindo a Lei de Amdahl. Em edge devices, onde o prefill pesa mais, a aceleração é menor do que em ambientes de datacenter.
Integração e uso
O LFM2.5-VL-DSpark é open-weight, disponível em formatos Safetensors e GGUF via Hugging Face. O modelo conta com suporte imediato para llama.cpp, MLX-VLM e SGLang, facilitando a adoção em ambientes diversos — de edge a servidores. A configuração exige builds específicos dessas ferramentas para ativar o speculative decoding.
A LiquidAI destaca que a saída do drafter é “exata”: cada token candidato é verificado, garantindo que o resultado final seja idêntico ao do modelo alvo sem drafter em modo greedy.
Por que importa
A chegada do DSpark para VLMs marca um avanço incremental, mas relevante, para aplicações multimodais no edge e em ambientes com restrição de hardware. A possibilidade de acelerar inferência sem perda de qualidade, mantendo o modelo open-weight e multiplataforma, amplia opções para desenvolvedores e pesquisa aplicada no Brasil. O suporte imediato para frameworks populares reduz barreiras de adoção e pode influenciar concorrentes a seguir o caminho da especulação multimodal.