For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the complete content index is available at https://we0.ai/llms.txt, the full English article bundle is available at https://we0.ai/llms-full.txt, and this page is available as Markdown at https://we0.ai/pt/articles/ling-3-1-flash-open-weights-1m-context-an-61a6d80d.md.
A InclusionAI, da Ant, lançou os pesos do Ling-3.1-flash, um modelo mixture-of-experts desenvolvido para documentos longos, raciocínio e tra...
A InclusionAI, da Ant, lançou os pesos do Ling-3.1-flash, um modelo mixture-of-experts desenvolvido para documentos longos, raciocínio e trabalho assistido por ferramentas. O IT Home noticiou o lançamento em 16 de outubro, após o anúncio da equipe no dia anterior.
As questões práticas vão além da janela de contexto anunciada. Equipes que consideram sua própria implantação precisam saber quanta memória os pesos ocupam, qual configuração de serving foi usada em um benchmark e como a latência muda conforme a carga de trabalho. Os números publicados oferecem pontos de partida úteis, desde que essas condições sejam mantidas associadas a eles.
O model card oficial descreve uma arquitetura MoE híbrida-linear com aproximadamente 560 bilhões de parâmetros totais e 25 bilhões de parâmetros ativos por token, compatível com uma janela de contexto de até um milhão de tokens. O repositório lista uma licença MIT.
Parâmetros ativos descrevem a parte da rede usada para um token individual. Eles não significam que uma implantação precisa armazenar apenas 25 bilhões de parâmetros. O armazenamento dos pesos e a memória de trabalho continuam sendo importantes na escolha do hardware.
O IT Home cita uma pontuação de 41 no Artificial Analysis Intelligence Index e velocidade de saída de aproximadamente 210 tokens por segundo. A página de avaliação consultada para este artigo mostra a mesma pontuação e aproximadamente 213 tokens por segundo; as medições em tempo real podem mudar à medida que provedores e testes são atualizados.
Gráfico do Artificial Analysis reproduzido na reportagem do IT Home. Ele mostra um instantâneo de uma medição específica, não uma velocidade de implantação garantida.
A fonte também inclui o gráfico mais amplo de avaliação de tarefas da equipe. Seus resultados de programação e terminal dependem do ambiente de avaliação; o gráfico observa que alguns resultados foram obtidos usando o LingCode. Uma pontuação dessa configuração não deve ser automaticamente atribuída a toda aplicação que usa o modelo base.
Gráfico fornecido na reportagem de origem; os resultados são informados pela equipe do modelo.
Para a implantação otimizada reportada, os especialistas roteados usam MXFP4, enquanto as camadas densas mantêm block-FP8. O IT Home informa que isso reduz a memória dos pesos de aproximadamente 534 GB para 292 GB e permite que a configuração de serving Hopper correspondente passe de oito GPUs para quatro.
Esses são números específicos da configuração. A ocupação dos pesos é uma parte do orçamento de memória: servir contextos longos, múltiplas solicitações simultâneas e buffers específicos da implementação acrescenta requisitos adicionais. Quatro GPUs com memória insuficiente não equivalem ao sistema de quatro Hopper testado.
A distinção é particularmente relevante porque o exemplo padrão atual de SGLang no model card usa oito GPUs H200, enquanto descreve separadamente uma configuração com quatro GB300. Nenhuma delas deve ser silenciosamente substituída pelo experimento de quatro Hopper com precisão mista descrito na reportagem.
A fonte descreve paralelismo de contexto de prefill e decode, identificado como PCP e DCP, para lidar com entradas longas. Ela também relata suporte mais robusto a JSON Schema para chamadas de ferramentas, algo relevante quando um assistente precisa produzir argumentos compatíveis com uma interface de negócios existente.
O limite de contexto de um modelo, o máximo configurado em um mecanismo de serving e o limite de solicitações de um provedor hospedado podem ser diferentes. Antes de enviar um documento muito grande, verifique o endpoint específico ou a receita de serving local, em vez de tratar a janela de um milhão de tokens do título como uma garantia de que todas as rotas a aceitam.
Argumentos estruturados também exigem validação no lado da aplicação. Uma chamada de ferramenta bem-formada ainda pode solicitar a operação errada ou conter um valor incorreto; portanto, a conformidade com o esquema e a correção da tarefa devem ser avaliadas separadamente.
O IT Home relata dois experimentos de serving com diferentes distribuições de solicitações e contagens de hardware:
| Medição | Condições de teste reportadas | Resultado |
|---|---|---|
| Latência interativa | Oito GPUs Hopper; entrada média de cerca de 25,47 mil tokens; saída de cerca de 224 tokens; taxa de acerto de cache de 76% | Tempo médio até o primeiro token: 604 ms; intervalo médio entre tokens de saída: 3,28 ms |
| Throughput sob restrições de latência | Quatro GPUs Hopper; entrada média de cerca de 8,5 mil tokens; saída de cerca de 800 tokens | Cerca de 1,36 consultas por segundo, com TTFT P50 abaixo de 3 segundos e latência inter-token P90 abaixo de 70 ms |
A primeira carga de trabalho se beneficia de reutilização substancial de cache e saídas curtas. A segunda pergunta quanto tráfego uma instância pode atender enquanto permanece dentro de suas metas de latência especificadas. Combinar o número mais rápido de cada linha descreveria um sistema que a reportagem não testou.
Descreva sua ideia uma vez e o We0 AI pode gerar um site de apresentacao, paginas e CMS, alem de ajudar a atrair clientes e trafego apos o lancamento.
Uma geração completa de projetos para registro gratuito
Melhor para experimentar um fluxo de geração completo e ver rapidamente um primeiro rascunho do projeto.
Para o planejamento de capacidade, use uma distribuição representativa de tamanhos de documentos, extensões de resposta e reutilização de cache. Meça tanto o centro da distribuição de latência quanto as solicitações mais lentas e, então, verifique se o sistema ainda atende aos requisitos da aplicação sob carga concorrente.
A fonte lista uma oferta temporária de 25% do preço regular, equivalente a um desconto de 75%. As tarifas citadas por milhão de tokens são:
| Serviço | Moeda | Entrada | Saída | Leitura de entrada em cache |
|---|---|---|---|---|
| OpenRouter | USD | US$ 0,075 | US$ 0,225 | US$ 0,015 |
| Ling Studio | CNY | ¥0,50 | ¥1,50 | ¥0,10 |
Esses são os valores da oferta de lançamento reportada, e não um compromisso permanente de preço. A página do modelo no OpenRouter e as informações de faturamento do serviço devem orientar uma compra, pois a disponibilidade do provedor, o comprimento de contexto suportado e os descontos podem mudar de forma independente.
Os pesos estão listados no Hugging Face e no ModelScope. Para a implementação, comece pela orientação de serving do model card atual; o artigo de origem é uma reportagem de lançamento e não fornece um procedimento completo de implantação.
É um modelo de linguagem da InclusionAI para raciocínio, processamento de contexto longo e tarefas assistidas por ferramentas. Sua descrição oficial lista aproximadamente 560B de parâmetros totais, com 25B ativos por token.
Sim, o repositório oficial no Hugging Face disponibiliza o modelo e lista uma licença MIT. Revise os arquivos e a licença atuais do repositório antes de adaptar ou redistribuir os pesos.
Não, computação ativa e pesos totais armazenados são quantidades diferentes. A ocupação otimizada dos pesos citada pela fonte é de aproximadamente 292 GB, antes da memória adicional necessária para serving.
A fonte relata esse resultado para uma configuração específica de precisão mista. Isso não estabelece que quaisquer quatro placas Hopper, qualquer tamanho de contexto ou qualquer configuração de concorrência funcionarão.
Não, eles usam diferentes contagens de hardware e distribuições de solicitações. Mantenha a taxa de acerto de cache, os comprimentos de token e as restrições de latência associados aos resultados ao compará-los.
A fonte descreve a oferta como temporária. Verifique o preço atual, a política de cache e o limite de contexto suportado pelo provedor selecionado antes de estimar custos.
Os pesos abertos do Ling-3.1-flash tornam a avaliação local possível, enquanto a configuração de precisão mista reportada reduz seus requisitos de armazenamento e GPU. Seu contexto longo e suas chamadas de ferramentas estruturadas são relevantes para assistentes centrados em documentos e fluxos de trabalho empresariais.
A comparação útil de implantação é a configuração completa: precisão, memória da GPU, comprimento da entrada, concorrência e reutilização de cache. Trate os benchmarks publicados como resultados de teste a serem reproduzidos em sua carga de trabalho, não como garantias universais de serving.
Comece com uma frase e tenha um site completo em minutos.
