For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the complete content index is available at https://we0.ai/llms.txt, the full English article bundle is available at https://we0.ai/llms-full.txt, and this page is available as Markdown at https://we0.ai/fr/articles/ling-3-1-flash-open-weights-1m-context-an-61a6d80d.md.
InclusionAI d'Ant a publié les poids de Ling-3.1-flash, un modèle de mélange d'experts conçu pour les documents longs, le raisonnement et le...
InclusionAI d'Ant a publié les poids de Ling-3.1-flash, un modèle de mélange d'experts conçu pour les documents longs, le raisonnement et les tâches assistées par outils. IT Home a signalé cette publication le 16 octobre, après l'annonce de l'équipe la veille.
Les questions pratiques dépassent sa fenêtre de contexte annoncée. Les équipes qui envisagent leur propre déploiement doivent savoir combien de mémoire occupent les poids, quelle configuration d'inférence a été utilisée pour un benchmark et comment la latence évolue selon la charge de travail. Les chiffres publiés constituent des points de départ utiles, à condition de conserver les conditions de test qui les accompagnent.
La fiche officielle du modèle décrit une architecture MoE hybride-linéaire comptant environ 560 milliards de paramètres au total et 25 milliards de paramètres actifs par token, avec une fenêtre de contexte pouvant atteindre un million de tokens. Le dépôt indique une licence MIT.
Les paramètres actifs désignent la partie du réseau utilisée pour un token individuel. Ils ne signifient pas qu'un déploiement doit uniquement stocker 25 milliards de paramètres. Le stockage des poids et la mémoire de travail restent importants lors du choix du matériel.
IT Home cite un score de 41 dans l'Artificial Analysis Intelligence Index et une vitesse de sortie d'environ 210 tokens par seconde. La page d'évaluation consultée pour cet article affiche le même score et environ 213 tokens par seconde ; les mesures en direct peuvent changer à mesure que les fournisseurs et les tests sont mis à jour.
Graphique d'Artificial Analysis reproduit dans le rapport d'IT Home. Il présente un instantané de mesure particulier, et non une vitesse de déploiement garantie.
La source inclut également le graphique d'évaluation plus large de l'équipe sur les tâches. Ses résultats en codage et terminal dépendent du banc d'essai d'évaluation ; le graphique précise que certains résultats ont été obtenus avec LingCode. Un score issu de cette configuration ne doit pas être automatiquement attribué à chaque application utilisant le modèle de base.
Graphique fourni dans le rapport source ; les résultats sont rapportés par l'équipe du modèle.
Dans le déploiement optimisé rapporté, les experts routés utilisent MXFP4, tandis que les couches denses conservent le format block-FP8. Selon IT Home, cela réduit la mémoire des poids d'environ 534 Go à 292 Go et permet à la configuration Hopper correspondante de passer de huit GPU à quatre.
Il s'agit de chiffres propres à une configuration. L'empreinte des poids n'est qu'une partie du budget mémoire : l'inférence de contextes longs, les requêtes simultanées multiples et les buffers propres à l'implémentation ajoutent d'autres besoins. Quatre GPU dotés d'une mémoire insuffisante ne sont pas équivalents au système à quatre GPU Hopper testé.
Cette distinction est particulièrement importante, car l'exemple SGLang standard de la fiche actuelle du modèle utilise huit GPU H200, tandis qu'elle décrit séparément une configuration à quatre GB300. Aucun de ces exemples ne doit être substitué implicitement à l'expérience à quatre GPU Hopper en précision mixte rapportée dans l'article.
La source décrit le parallélisme de contexte lors du préremplissage et du décodage, identifié comme PCP et DCP, pour traiter les entrées longues. Elle rapporte également une prise en charge renforcée de JSON Schema pour les appels d'outils, un point pertinent lorsqu'un assistant doit produire des arguments conformes à une interface métier existante.
La limite de contexte d'un modèle, le maximum configuré dans un moteur d'inférence et la limite de requête d'un fournisseur hébergé peuvent différer. Avant d'envoyer un document très volumineux, vérifiez l'endpoint spécifique ou la recette d'inférence locale, plutôt que de considérer la fenêtre annoncée d'un million de tokens comme une assurance que chaque route l'acceptera.
Les arguments structurés nécessitent également une validation côté application. Un appel d'outil bien formé peut toujours demander une mauvaise opération ou contenir une valeur incorrecte ; la conformité au schéma et l'exactitude de la tâche doivent donc être évaluées séparément.
IT Home rapporte deux expériences d'inférence avec des distributions de requêtes et des nombres de matériels différents :
| Mesure | Conditions de test rapportées | Résultat |
|---|---|---|
| Latence interactive | Huit GPU Hopper ; entrée moyenne d'environ 25,47K tokens ; sortie d'environ 224 tokens ; taux de cache atteint de 76 % | Temps moyen jusqu'au premier token : 604 ms ; intervalle moyen entre les tokens de sortie : 3,28 ms |
| Débit sous contraintes de latence | Quatre GPU Hopper ; entrée moyenne d'environ 8,5K tokens ; sortie d'environ 800 tokens | Environ 1,36 requête par seconde, avec un TTFT P50 inférieur à 3 secondes et une latence inter-token P90 inférieure à 70 ms |
La première charge bénéficie d'une réutilisation importante du cache et de sorties courtes. La seconde examine le volume de trafic qu'une instance peut servir tout en restant dans les objectifs de latence spécifiés. Combiner le chiffre le plus rapide de chaque ligne décrirait un système que le rapport n'a pas testé.
Decrivez votre idee une fois, et We0 AI peut generer un site vitrine, des pages et un CMS, puis vous aider a attirer clients et trafic apres le lancement.
Une génération de projet complète pour une inscription gratuite
Idéal pour essayer un flux de génération complet et voir rapidement une première ébauche de projet.
Pour planifier la capacité, utilisez une distribution représentative des longueurs de documents, des longueurs de réponses et de la réutilisation du cache. Mesurez à la fois le centre de la distribution de latence et les requêtes plus lentes, puis vérifiez que le système répond toujours aux exigences de l'application sous charge concurrente.
La source mentionne une offre temporaire à 25 % du prix habituel, soit une remise de 75 %. Ses tarifs indiqués par million de tokens sont les suivants :
| Service | Devise | Entrée | Sortie | Lecture d'entrée mise en cache |
|---|---|---|---|---|
| OpenRouter | USD | $0.075 | $0.225 | $0.015 |
| Ling Studio | CNY | ¥0.50 | ¥1.50 | ¥0.10 |
Ces chiffres correspondent à l'offre de lancement rapportée, et non à un engagement tarifaire permanent. La page du modèle OpenRouter et les informations de facturation du service doivent prévaloir pour une décision d'achat, car la disponibilité des fournisseurs, la longueur de contexte prise en charge et les remises peuvent évoluer indépendamment.
Les poids sont répertoriés sur Hugging Face et ModelScope. Pour l'implémentation, partez des recommandations d'inférence de la fiche actuelle du modèle ; l'article source est lui-même un rapport de publication et ne fournit pas de procédure de déploiement complète.
Il s'agit d'un modèle de langage InclusionAI destiné au raisonnement, au traitement de contextes longs et aux tâches assistées par outils. Sa description officielle indique environ 560 milliards de paramètres au total, dont 25 milliards actifs par token.
Oui, le dépôt officiel Hugging Face fournit le modèle et indique une licence MIT. Examinez les fichiers et la licence actuels du dépôt avant de l'adapter ou de le redistribuer.
Non. Le calcul actif et le total des poids stockés sont deux quantités différentes. L'empreinte optimisée des poids indiquée par la source est d'environ 292 Go, avant l'ajout de la mémoire nécessaire à l'inférence.
La source rapporte ce résultat pour une configuration particulière en précision mixte. Elle n'établit pas que n'importe quelles quatre cartes Hopper, n'importe quelle longueur de contexte ou n'importe quel réglage de concurrence fonctionneront.
Non, ils utilisent des nombres de matériels et des distributions de requêtes différents. Conservez le taux de cache atteint, les longueurs de tokens et les contraintes de latence lorsque vous comparez ces résultats.
La source qualifie l'offre de temporaire. Vérifiez le prix en direct, la politique de cache et la limite de contexte prise en charge par le fournisseur choisi avant d'estimer les coûts.
Les poids ouverts de Ling-3.1-flash rendent possible une évaluation locale, tandis que la configuration en précision mixte rapportée réduit ses besoins de stockage et de GPU. Son contexte long et ses appels d'outils structurés sont pertinents pour les assistants centrés sur les documents et les flux de travail d'entreprise.
La comparaison utile entre déploiements porte sur la configuration complète : précision, mémoire GPU, longueur d'entrée, concurrence et réutilisation du cache. Considérez les benchmarks publiés comme des résultats de test à reproduire avec votre propre charge de travail, et non comme des garanties universelles d'inférence.
Partez d’une phrase et obtenez un site complet en quelques minutes.
