For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the complete content index is available at https://we0.ai/llms.txt, the full English article bundle is available at https://we0.ai/llms-full.txt, and this page is available as Markdown at https://we0.ai/es/articles/ling-3-1-flash-open-weights-1m-context-an-61a6d80d.md.
InclusionAI de Ant ha publicado los pesos de Ling-3.1-flash, un modelo de mezcla de expertos diseñado para documentos extensos, razonamiento...
InclusionAI de Ant ha publicado los pesos de Ling-3.1-flash, un modelo de mezcla de expertos diseñado para documentos extensos, razonamiento y trabajo asistido por herramientas. IT Home informó sobre el lanzamiento el 16 de octubre, después del anuncio del equipo el día anterior.
Las preguntas prácticas van más allá de su ventana de contexto anunciada. Los equipos que consideren su propio despliegue necesitan saber cuánta memoria ocupan los pesos, qué configuración de servicio utilizó una prueba comparativa y cómo cambia la latencia según la carga de trabajo. Las cifras publicadas ofrecen puntos de partida útiles, siempre que se mantengan vinculadas a esas condiciones.
La tarjeta oficial del modelo describe una arquitectura MoE híbrida-lineal con aproximadamente 560 mil millones de parámetros totales y 25 mil millones de parámetros activos por token, compatible con una ventana de contexto de hasta un millón de tokens. El repositorio indica una licencia MIT.
Los parámetros activos describen la parte de la red utilizada para un token individual. No significan que un despliegue solo necesite almacenar 25 mil millones de parámetros. El almacenamiento de pesos y la memoria de trabajo siguen siendo importantes al elegir el hardware.
IT Home cita una puntuación de 41 en el Artificial Analysis Intelligence Index y una velocidad de salida de aproximadamente 210 tokens por segundo. La página de evaluación consultada para este artículo muestra la misma puntuación y aproximadamente 213 tokens por segundo; las mediciones en directo pueden cambiar a medida que se actualizan los proveedores y las pruebas.
Gráfico de Artificial Analysis reproducido en el informe de IT Home. Muestra una instantánea de medición concreta, no una velocidad de despliegue garantizada.
La fuente también incluye el gráfico de evaluación más amplio del equipo para tareas. Sus resultados de programación y terminal dependen del entorno de evaluación; el gráfico señala que algunos resultados se obtuvieron usando LingCode. Una puntuación de esa configuración no debe atribuirse automáticamente a todas las aplicaciones que usan el modelo base.
Gráfico proporcionado en el informe de la fuente; los resultados son comunicados por el equipo del modelo.
Para el despliegue optimizado reportado, los expertos enrutados usan MXFP4, mientras que las capas densas conservan block-FP8. IT Home indica que esto reduce la memoria de pesos de aproximadamente 534 GB a 292 GB y permite que la configuración de servicio Hopper correspondiente pase de ocho GPU a cuatro.
Estas son cifras específicas de la configuración. La huella de los pesos es una parte del presupuesto de memoria: el servicio de contextos largos, varias solicitudes simultáneas y los búferes específicos de la implementación añaden requisitos adicionales. Cuatro GPU con memoria insuficiente no equivalen al sistema de cuatro Hopper probado.
La distinción es especialmente relevante porque el ejemplo estándar actual de SGLang en la tarjeta del modelo utiliza ocho GPU H200, mientras que describe por separado una configuración de cuatro GB300. Ninguna de las dos debe sustituirse silenciosamente por el experimento de cuatro Hopper con precisión mixta del informe.
La fuente describe paralelismo de contexto de prellenado y decodificación, identificado como PCP y DCP, para gestionar entradas largas. También informa de un soporte más sólido de JSON Schema para llamadas a herramientas, algo relevante cuando un asistente debe producir argumentos que coincidan con una interfaz empresarial existente.
El límite de contexto de un modelo, el máximo configurado de un motor de servicio y el límite de solicitudes de un proveedor alojado pueden diferir. Antes de enviar un documento muy grande, compruebe el endpoint específico o la receta de servicio local en lugar de tratar la ventana de un millón de tokens del titular como una garantía de que todas las rutas la aceptan.
Los argumentos estructurados también necesitan validación en el lado de la aplicación. Una llamada a herramienta bien formada aún puede solicitar la operación equivocada o contener un valor incorrecto, por lo que el cumplimiento del esquema y la corrección de la tarea deben evaluarse por separado.
IT Home informa de dos experimentos de servicio con distribuciones de solicitudes y cantidades de hardware diferentes:
| Medición | Condiciones de prueba reportadas | Resultado |
|---|---|---|
| Latencia interactiva | Ocho GPU Hopper; entrada media de unos 25,47K tokens; salida de unos 224 tokens; tasa de aciertos de caché del 76% | Tiempo medio hasta el primer token: 604 ms; intervalo medio entre tokens de salida: 3,28 ms |
| Rendimiento con restricciones de latencia | Cuatro GPU Hopper; entrada media de unos 8,5K tokens; salida de unos 800 tokens | Aproximadamente 1,36 consultas por segundo, con TTFT P50 inferior a 3 segundos y latencia entre tokens P90 inferior a 70 ms |
La primera carga de trabajo se beneficia de una reutilización considerable de caché y de salidas cortas. La segunda pregunta cuánto tráfico puede atender una instancia manteniéndose dentro de sus objetivos de latencia especificados. Combinar el número más rápido de cada fila describiría un sistema que el informe no probó.
Describe tu idea una vez y We0 AI puede generar un sitio de presentacion, paginas y CMS, y ayudarte a atraer clientes y trafico tras el lanzamiento.
Una generación completa de proyectos para registro gratuito
Lo mejor para probar un flujo de generación completo y ver rápidamente el primer borrador del proyecto.
Para la planificación de capacidad, utilice una distribución representativa de longitudes de documentos, longitudes de respuestas y reutilización de caché. Mida tanto el centro de la distribución de latencia como las solicitudes más lentas, y después compruebe que el sistema sigue cumpliendo los requisitos de la aplicación bajo carga concurrente.
La fuente enumera una oferta temporal al 25% del precio habitual, equivalente a un descuento del 75%. Sus tarifas citadas por millón de tokens son:
| Servicio | Moneda | Entrada | Salida | Lectura de entrada almacenada en caché |
|---|---|---|---|---|
| OpenRouter | USD | $0.075 | $0.225 | $0.015 |
| Ling Studio | CNY | ¥0.50 | ¥1.50 | ¥0.10 |
Estas son las cifras de oferta de lanzamiento del informe, no un compromiso de precio permanente. La página del modelo de OpenRouter y la información de facturación del servicio deben regir una compra, ya que la disponibilidad del proveedor, la longitud de contexto compatible y los descuentos pueden cambiar de forma independiente.
Los pesos figuran en Hugging Face y ModelScope. Para la implementación, comience con las instrucciones de servicio de la tarjeta actual del modelo; el artículo fuente es en sí mismo un informe de lanzamiento y no proporciona un procedimiento de despliegue completo.
Es un modelo de lenguaje de InclusionAI para razonamiento, procesamiento de contexto largo y tareas asistidas por herramientas. Su descripción oficial enumera aproximadamente 560B parámetros totales, con 25B activos por token.
Sí, el repositorio oficial de Hugging Face proporciona el modelo e indica una licencia MIT. Revise los archivos y la licencia actuales del repositorio antes de adaptarlos o redistribuirlos.
No, el cálculo activo y el total de pesos almacenados son cantidades diferentes. La huella de pesos optimizada de la fuente es de aproximadamente 292 GB, antes de la memoria adicional necesaria para el servicio.
La fuente informa de ese resultado para una configuración concreta de precisión mixta. No establece que funcionen cuatro tarjetas Hopper cualesquiera, cualquier longitud de contexto o cualquier configuración de concurrencia.
No, utilizan diferentes cantidades de hardware y distribuciones de solicitudes. Mantenga vinculados la tasa de aciertos de caché, las longitudes de tokens y las restricciones de latencia al comparar los resultados.
La fuente califica la oferta como temporal. Compruebe el precio vigente, la política de caché y el límite de contexto compatible del proveedor elegido antes de calcular los costes.
Los pesos abiertos de Ling-3.1-flash hacen posible la evaluación local, mientras que la configuración de precisión mixta reportada reduce sus requisitos de almacenamiento y GPU. Su contexto largo y sus llamadas estructuradas a herramientas son relevantes para asistentes con muchos documentos y flujos de trabajo empresariales.
La comparación útil para un despliegue es la configuración completa: precisión, memoria de GPU, longitud de entrada, concurrencia y reutilización de caché. Trate las pruebas comparativas publicadas como resultados que deben reproducirse con su carga de trabajo, no como garantías universales de servicio.
Empieza con una sola frase y obtén un sitio completo en minutos.
