A Meta lançou em 15 de outubro de 2026 o Muse Spark Open, modelo open-weight voltado para aplicações multimodais de larga escala. Com arquitetura mixture-of-experts (MoE), o modelo integra processamento de texto, imagens, áudio e vídeo em uma única interface, e promete desempenho de frontier model com pesos abertos.
Arquitetura e capacidades
O Muse Spark Open é um modelo com aproximadamente 816 bilhões de parâmetros totais, dos quais cerca de 42 bilhões são ativados por token via MoE. São 62 camadas, cada uma com 256 experts – apenas 8 são usados por token. Isso permite que o modelo exija memória equivalente a 816B para deploy, mas execute cada token com custo computacional de um modelo 42B. Segundo a documentação apresentada na Hugging Face, a arquitetura MoE emprega roteamento por token, normalização específica para queries e keys (QK-norm), e residual gates aprendidos para combinar entradas e saídas dos blocos.
O modelo foi treinado com foco em tarefas de agente autônomo para código: leitura de bases extensas, refatoração multi-arquivo, debugging prolongado e uso de ferramentas. O contexto de 1 milhão de tokens permite análise e geração sobre sessões longas, unificando texto, imagens, áudio e vídeo na mesma janela de contexto.
Multimodalidade e encoders
O Muse Spark Open processa entradas multimodais:
- Texto: fluxo padrão de LLM.
- Imagens e vídeo: codificados por um perception encoder de 1,8B parâmetros, arquitetura baseada em ViT, que converte patches de 14×14 em tokens para o modelo principal. O mesmo encoder atende vídeo e imagem.
- Áudio: um encoder dedicado converte áudio em tokens, com 12,5 tokens por segundo (1 token a cada 80ms), usando arquitetura convolucional em pirâmide.
Todos os tipos de entrada compartilham o contexto de até 1 milhão de tokens. O modelo emite apenas texto, mas pode consumir qualquer uma das modalidades na entrada.
Infraestrutura e deployment
O checkpoint BF16 do Muse Spark Open ocupa cerca de 1,5 TB (safetensors). Há também versão NVFP4 (4 bits), otimizada para GPUs NVIDIA Blackwell, sem perdas relevantes de acurácia. Segundo a Meta, o modelo roda em 4 nós de 8 GPUs H200 (BF16, TP=32) ou em um nó B200 (NVFP4). O deployment é compatível com frameworks populares como llama.cpp, vLLM e SGLang.
Os repositórios de checkpoints são disponibilizados publicamente: Muse-Spark-Open-816B-A42B e Muse-Spark-Open-816B-A42B-NVFP4.
Comparativo e contexto de mercado
O Muse Spark Open é o maior modelo open-weight já disponibilizado pela Meta, superando o Muse Glimmer (lançado em agosto de 2026) em escala e multimodalidade. Enquanto Glimmer é denso e voltado para uso local, Spark Open aposta em arquitetura MoE para escala massiva e contexto ampliado. A disponibilização de pesos abertos em um modelo multimodal de 816B reforça a Meta como principal fornecedor de modelos frontier open-weight, em contraste com abordagens fechadas de concorrentes como OpenAI e Google.
No contexto brasileiro, a abertura dos pesos e suporte a múltiplas modalidades facilita a adoção em pesquisas, aplicações acadêmicas e startups de nicho, sem custos de licenciamento ou dependência de APIs proprietárias.
Por que importa
O lançamento do Muse Spark Open coloca o ecossistema open-source em novo patamar de escala e flexibilidade multimodal. Para desenvolvedores e empresas brasileiras, significa acesso livre a um modelo frontier capaz de lidar com texto, imagens, áudio e vídeo, ampliando possibilidades para agentes autônomos, análise de dados complexos e aplicações interativas. O contexto de 1M tokens é diferencial para tarefas longas, como revisão de código, transcrição multimídia e análise de sessões extensas, antes restritas a modelos proprietários.