For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the complete content index is available at https://we0.ai/llms.txt, the full English article bundle is available at https://we0.ai/llms-full.txt, and this page is available as Markdown at https://we0.ai/zh/articles/matrix-game-4-0-rtx-5090-neural-rendering-59d3cc6b.md.
Skywork AI 的 Matrix-Game 4.0 将 AI 生成游戏中容易混淆的两项任务分开:可执行引擎维护规则和物理状态;因果视频模型将引擎的低多边形图像转换为细节更丰富的画面。

Skywork AI 的 Matrix-Game 4.0 将 AI 生成游戏中容易混淆的两项任务分开:可执行引擎维护规则和物理状态;因果视频模型将引擎的低多边形图像转换为细节更丰富的画面。
这种分离是该项目的核心理念。如果角色拾取盾牌、受到伤害或完成任务,由引擎决定实际发生了什么。神经渲染器负责画面呈现,而不是让生成的像素成为分数或玩家生命值的最终裁决依据。
本次发布还包含单 GPU RTX 5090 推理路径。重要的问题在于:演示数据具体衡量了什么、已发布代码实际具备哪些能力,以及可下载模型仍在多大程度上依赖特定场景。
视频模型可以生成可信的运动画面,却不一定能为每一条游戏规则提供可靠的表示。一个视觉上合理的帧,并不必然能确定敌人的位置、某件物品归谁所有,或一次碰撞是否应当结束游戏。
Matrix-Game 4.0 将这些事实保留在代码中。引擎处理输入、推进世界状态,并生成成本相对较低的低多边形 RGB 视图。视频模型随后依据这些结构化输入生成最终视觉呈现。
官方代码库将其称为由引擎支撑的游戏玩法和流式神经渲染。这是一种混合系统,并不意味着该模型已经在内部学会并能可靠执行通用游戏引擎的所有功能。
因此,视觉错误不会直接改变底层的碰撞结果或游戏状态。它仍可能使玩家感到困惑,因此该架构是将两类故障模式分离,而非消除所有错误。
项目页面展示了一个结合编程智能体和游戏引擎的框架。用户指令可以被转换为新规则或提示词,而引擎提供维持世界一致性所需的状态。

来源:Skywork AI,Matrix-Game 4.0 项目页面。该概念图包含空间记忆检索;已发布的射击游戏运行时行为范围更窄,详见下文。
从高层来看,工作流如下:
QbitAI 的示例包括:盾牌耐久度先于生命值损失,以及将赛车任务从计时赛改为追逐赛。这些案例说明了显式规则的价值:修改游戏玩法意味着修改和测试代码,而不仅仅是要求视频模型描绘另一种结果。
Hugging Face 模型卡描述了三个面向特定场景的渲染器:中世纪城堡、古埃及和城市赛车。每个检查点约有 50 亿个 BF16 参数,并且需要 Matrix-Game 4.0 推理源代码。
这些权重并非可直接接入的 Diffusers 流水线。该发布提供推理代码、浏览器演示、原生游戏源代码、模型和游戏资产;而模型卡明确说明,未包含训练代码和训练数据。
输出分辨率为 480×864 RGB。启动后,每个潜变量数据块对应四帧 RGB 图像;启动数据块仅包含一帧。提供的共享资源和场景专属策略非常关键,因此任意编解码器或其他场景的参考配置都不能等价替代。
HUD 元素和音频仍是独立的、按帧对齐的呈现层。模型并不会仅仅因为这些组件在最终演示中同时出现,就生成其中的全部内容。
项目图示包含通过相机姿态检索的空间记忆和动态语义描述。当前的运行时契约则更为明确:已发布的射击游戏配置使用固定场景提示词和有界缓存,并明确列出该配置不使用检索记忆或动态提示词生成。
赛车支持由引擎提供的固定字幕,或按数据块对齐的动态字幕。动态条件输入会保留文本编码器,并在字幕变化时更新与文本相关的缓存条目,这会带来吞吐成本。
这种区分可避免将吸引人的研究图示误当作可下载演示的完整功能清单。在假定某个展示机制会在特定运行路径中启用之前,应先确认所使用的场景和预设。
源报告将工程优化归纳为减少模型必须推断、记忆和计算的内容。官方材料支持其主要机制:低多边形视觉条件输入、参考信息、有界近期历史缓存,以及少步因果生成。
模型不再仅依据文本合成场景,而是接收由引擎渲染的结构信息。因此,对象和相机运动会以视觉约束的形式输入。文本条件输入补充场景语义,而已发布模式会因场景不同而变化。
在推理方面,实时路径使用 TAEHV 编解码器、一步去噪、优化后的 DiT 执行和 CUDA Graphs。质量预设使用 Wan 编码与解码、两步去噪以及原生 DiT。文档提示,这些模式具有不同的质量和计算成本。
在 RTX 5090 上,专用预设会在加载时将 DiT 块的线性权重转换为 FP8,并在推理期间量化激活值。嵌入层和输出头仍保持 BF16。普通的 rtx5090 使用 PyTorch SDPA;rtx5090-sage 则需要额外安装经过补丁处理的 SageAttention 构建版本。
项目页面展示了 RTX 5090 一步去噪演示的以下数据。这些数据描述的是展示配置,而不是对每个场景或每台计算机帧率的保证。
| 项目页面数据 | 衡量内容或说明 |
|---|---|
| 83 FPS | RTX 5090 上的一步去噪演示。 |
| 48 ms | 对一个数据块进行去噪;启动后对应四帧 RGB 图像。 |
| 112 ms | 报告演示中,从按键到第一帧作出反应的时间。 |
| 480p | 流式输出分辨率类别。 |
| 单 GPU | 展示配置中,文本编码器、DiT 和 VAE 均驻留于一张 GPU。 |
输入一句想法,We0 AI 即可生成展示站、页面与 CMS。发布上线后并帮你获取客户和流量。
用户注册赠送一次完整项目生成
适合先体验一次完整生成流程,快速看到项目初稿。
QbitAI 还报告了两步去噪约 57 FPS、峰值 GPU 显存约 18.5 GiB,以及以 60 FPS 展示的游戏画面。这些均为来源方报告的数据;不应将它们合并解读为每种模式都能同时达到所有指标。
当前 README 中的浏览器示例使用 --fps 40,但明确将其定义为目标游戏捕获节奏,而非实测渲染吞吐量或延迟保证。启动和预热阶段也与稳态推理不同。
视频编码、缓冲、传输和浏览器解码都会带来模型去噪时间以外的额外工作。因此,单数据块推理时间、服务器流水线吞吐量和从操作到屏幕显示的延迟,是不同的指标。
源材料还将该系统与另一套 NVIDIA 研究配置进行比较。如果不匹配硬件、分辨率、质量和延迟定义,这些数字并不能构成公平的通用排名。
v4 README记录了推理所需的 Linux、NVIDIA GPU 和 Python 3.12,以及匹配的 PyTorch、CUDA 和驱动环境。浏览器演示还需要主机具备原生游戏和媒体依赖项。浏览器客户端本身不需要推理 GPU。
首次运行前:
Matrix-Game-4/ 目录中的 v4 安装说明,而不是父目录中的说明。下载器会将 Hub 场景文件夹映射到运行时路径,因此 Hugging Face 上的文件夹名称不足以推断本地目录布局。官方清单会在安装资源前验证文件大小和 SHA256。
该发布要求每个服务器进程只有一个活动会话和一个场景模型。其 README 将其称为受信任的单用户演示,并采用回环默认设置,而不是具备身份验证功能的公共云游戏服务。不要将其 HTTP、RTSP 和 WebRTC 服务直接暴露在互联网上。
v4 源代码采用 Apache-2.0 许可证。模型卡还说明,项目场景权重、sink 图像和游戏资产采用 Apache-2.0;共享资源和第三方材料则保留各自的条款。TAEHV 带有 MIT 许可声明,赛车音频中的部分资产则需要署名。
这提供了大量可下载材料,但并不是完整的训练发布。重新分发基于该项目的作品时,应保留适用的许可证和音频署名。
模型专用于提供的场景和相机配置文件。模型卡列出了在未见几何结构、快速运动、遮挡和长时间会话中可能出现的外观漂移与几何错误,并明确不保证帧率、显存适配或精确场景重建。
因此,Matrix-Game 4.0 是一个用于测试引擎支撑神经渲染的具体平台。它不应被描述为通用游戏生成器、已验证的多人服务,或能够消除传统游戏开发需求的系统。
官方发布包含经过优化的 RTX 5090 推理路径,并报告了单 GPU 演示。性能和显存是否适配取决于文档所述的具体配置,模型卡并未保证其适用于所有工作负载。
不会。可执行游戏引擎拥有游戏玩法和物理状态的控制权。神经输出可能包含视觉错误,但不会直接改变引擎的碰撞计算或规则计算。
模型卡明确说明不包含。发布内容包括与已发布推理代码和游戏源代码配合使用的场景检查点和资产,这与复现模型训练属于不同范围。
--fps 40 是否保证每秒显示 40 帧?不保证。README 将其定义为目标捕获节奏。编码、传输、缓冲、浏览器解码和推理均可能影响最终呈现和延迟。
概念项目图包含这一机制,但当前运行时契约指出,已发布的射击游戏配置不使用检索记忆。赛车的动态字幕模式也与射击游戏的固定提示词路径分离。
该发布文档规定每个服务器进程只能有一个活动会话,并将其描述为受信任的单用户演示。不应将其服务直接暴露在互联网上,也不应假定其已经具备身份验证和公共服务防护能力。
Matrix-Game 4.0 使用可执行引擎维护游戏状态,同时由因果视频模型渲染其视觉外观。单 GPU 发布提供了一种审视这一职责划分的实用途径,其中包含可下载场景、推理代码和资产。
其演示结果颇具前景,但已发布配置、场景专用性和彼此独立的性能指标,与醒目的 FPS 标题同样重要。
从一句话开始,几分钟内拿到完整网站。