Um modelo de 7 bilhões de parâmetros, aberto do zero, diz encostar em gigantes de 235 bilhões em matemática
Pesquisadores publicaram o ZGCM-1, modelo de linguagem de 7 bilhões de parâmetros com pesos, dados, código e logs de treino abertos, que afirma rivalizar com modelos dezenas de vezes maiores em raciocínio matemático e busca com ferramentas.
Em artigo publicado no arXiv, um grupo de pesquisadores apresentou o ZGCM-1, um modelo de linguagem denso de 7,39 bilhões de parâmetros treinado do zero, que segundo o paper fica competitivo com modelos "ordens de grandeza maiores", como o Qwen3-235B-A22B e o GLM-5.1, em tarefas de raciocínio matemático e busca com ferramentas (agentic search). O material completo, incluindo pesos do modelo, checkpoints intermediários, código de treino, dados por etapa e logs de experimento (W&B), foi liberado no GitHub e no Hugging Face.
O projeto parte de uma aposta específica: um modelo compacto não consegue memorizar passivamente a internet aberta como um modelo gigante faz, então a saída é combinar raciocínio interno deliberado com uso ativo de ferramentas externas, como buscadores. Para sustentar isso em um contexto de 256 mil tokens, os autores descrevem uma receita de treino que mistura atenção híbrida (janela deslizante e atenção total intercaladas), um otimizador FP8 chamado Muon e uma etapa de meio-treino que reformula interações como decisões sequenciais (Markov Decision Process, um jeito de modelar decisões passo a passo).
Nos números do relatório técnico, o ZGCM-1 marca 97,13% no MATH-500, 75,00% no AIME 2026 e 70,42% no HMMT 2025, com o melhor ranking médio entre sete modelos comparáveis de 7 a 8 bilhões de parâmetros em 14 testes de raciocínio. Em tarefas de busca com múltiplas etapas, chega a 63,09% no WebWalkerQA e 19,43% no BrowseComp. Os autores também afirmam um ganho de eficiência de cerca de 4,2 vezes no tempo até convergência do pré-treino em contexto de 16 mil tokens, e throughput 3,94 vezes maior em 256 mil tokens com a atenção híbrida.
Um ponto que chamou atenção na página do Hugging Face foi o processo de desenvolvimento em si: segundo os autores, agentes de IA (chamados de "agent swarms") administraram de forma autônoma operações de cluster, curadoria de dados e avaliação diagnóstica ao longo do projeto, um fluxo que o paper chama de "AI-native R&D workflow". O pré-treino usou cerca de 4,19 trilhões de tokens, e o meio-treino, cerca de 600 bilhões de tokens, com o contexto estendido progressivamente de 16 mil para 64 mil e depois 256 mil tokens.
Todo o material, do texto do paper às tabelas de benchmark, vem do próprio grupo que criou o modelo, publicado em canais que replicam o mesmo comunicado original (arXiv, GitHub e Hugging Face), sem validação de terceiros até o momento. Isso não invalida os números, mas significa que ainda não há reprodução independente dos resultados.
7 bilhões de parâmetros contra modelos de 235 bilhões, segundo os próprios autores
O confronto de escalaO Layer 8 volta ao assunto quando houver novidade.
Todo o material vem do próprio grupo que criou o modelo, sem confirmação externa até agora.
Quem pesquisa IA aberta
Ganha acesso completo a um modelo competitivo, não só aos pesos finais
- Foram liberados pesos de pré-treino, meio-treino e pós-treino, checkpoints intermediários e dados por etapa. Fonte: arXiv.org
- Interpretação · leitura do Layer 8Abrir o processo inteiro, não só o resultado, é o que separa este lançamento de um modelo aberto comum.
Quem compara modelos grandes e pequenos
Um modelo pequeno se mede contra modelos dezenas de vezes maiores
- O paper diz ficar competitivo com o Qwen3-235B-A22B e o GLM-5.1 em matemática e busca com ferramentas. Fonte: arXiv.org e Hugging Face Papers
- O que alguns dizemAlguns leem os números como prova de que tamanho não importa mais.Por que não se sustentaOs testes vêm só dos autores, sem reprodução independente até agora.
Evidência▾
Mostramos 2 camadas dessa história. Se ficou alguém de fora, comenta quem é.
Nos comentários do post desta matéria no Instagram, @l8times. Se muita gente apontar a mesma, ela vira uma nova Camada 8.
Entidades ZGCM-1, Qwen3-235B-A22B, GLM-5.1, Qwen3-8B, MATH-500, AIME 2026, HMMT 2025, WebWalkerQA, BrowseComp, Hugging Face, GitHub, arXiv
Apurada e escrita por IA, verificada contra as fontes linkadas acima. Uma pessoa revisou antes de sair. O público decide a pauta, a IA apura, os fatos não se votam. Esta matéria se lê em 6 cards que você desliza, ou nesta página.
Como o Layer 8 é feito →
