Benchmark

FastBench

Métrica: % de acertos em QA de vídeo streaming

Execução

8 de outubro de 2026

# Modelo Score Δ
01 Gemini-3.5-Flash 50.7% —
02 Qwen3-VL-8B (2 FPS) 32.9% —
03 Qwen3-VL-8B (24 FPS) Sampling denso 44.6% —
04 ProactiveFrame Baseline sem fine-tuning não divulgado —

O FastBench é um novo benchmark para avaliar o desempenho de Video Large Language Models (VLMs) em cenários de streaming de vídeo com alta dinâmica — situações em que eventos acontecem rápido e a janela de contexto é limitada. O estudo, publicado em 8 de outubro de 2026, revela um gargalo técnico: mesmo os modelos líderes do mercado, como o Gemini-3.5-Flash, não conseguem superar a barreira dos 51% de acerto em tarefas de QA baseadas em vídeos reais de alta frequência.

O desafio do vídeo dinâmico

Benchmarks anteriores priorizavam cenários estáticos ou de baixa dinâmica, onde sampling esparso (1–2 quadros por segundo) era suficiente. O FastBench inova ao exigir que VLMs processem e compreendam eventos rápidos, como movimentos bruscos ou múltiplas ações em sequência, simulando situações reais em streaming — como câmeras de segurança, esportes ou direção autônoma.

O pipeline do FastBench inclui geração de perguntas e respostas a partir de clipes de alta taxa de quadros, filtragem de questões que poderiam ser respondidas em sampling lento, verificação de respostas com ferramentas automáticas (SAM3, CoTracker3) e rounds de validação humana. O conjunto cobre 306 pares de QA em oito domínios e seis tipos de habilidade, incluindo análise instantânea e retrospectiva.

Resultados: limites dos VLMs atuais

O Gemini-3.5-Flash marcou 50,7% de acerto, sendo o melhor entre os testados. O Qwen3-VL-8B subiu de 32,9% (2 FPS) para 44,6% (24 FPS) quando exposto a sampling mais denso, mas os ganhos saturam rapidamente à medida que o contexto histórico é comprimido para caber no orçamento de tokens. O baseline ProactiveFrame, que alterna sampling denso e esparso sem treinamento extra, superou sampling uniforme em até 5,4 pontos, mas ainda ficou distante do “oracle” — um sistema que sabe exatamente quando focar na resolução temporal fina.

O resultado central: VLMs atuais têm dificuldade em perceber quando devem aumentar a resolução temporal para captar eventos críticos. Mesmo com sampling alto, o acúmulo de contexto acaba diluindo a informação relevante.

Por que importa

Aplicações que dependem de vídeo streaming — como monitoramento em tempo real, análise de esportes ou direção assistida — exigem percepção refinada de eventos rápidos. O FastBench mostra que o salto dos VLMs atuais para casos reais de alta dinâmica ainda está distante. Para o mercado brasileiro, onde câmeras em cidades e soluções de segurança são ubiquas, a limitação aponta a necessidade de arquiteturas ou estratégias de sampling mais inteligentes, e reforça que benchmarks tradicionais não refletem o desafio do mundo real.

O código e os dados do FastBench estão disponíveis para a comunidade, abrindo espaço para novos avanços em VLMs de streaming.

Tags
  • #fastbench
  • #vlm
  • #benchmark
  • #video
  • #gemini