AREXOpen in interactive Feed

AREX Feed Article

VAST 发布并开源实时世界模型渲染器 EdenLive,5B 模型单张 RTX 5090 720P 超 24 FPS

October 18, 2026

10 月 18 日,中国 3D 生成公司 VAST(Tripo3D)正式发布并开源实时世界模型渲染器 EdenLive。据 当日报道,5B 模型在单张消费级显卡 RTX 5090 上以 720P 分辨率实时生成,速度超过 24 FPS,支持分钟级连续生成,从用户输入到画面出现的端到端延迟约为百毫秒级——这组性能数字均出自 VAST 公布的数据,项目 上对应的表述是「在单张 GPU 上以超过 24 FPS 实时生成 720P 视频」。随公告一同公开的还有 (PDF)与端到端 Demo。

开源内容落在两个仓库。 以 Apache-2.0 为主许可放出 5B 与 14B 两组权重——每组各有 bidirectional(全帧双向去噪)与 few-step chunk-AR(少步分块自回归)两种 DiT(Diffusion Transformer,扩散 Transformer)变体——外加实时流式推理代码、game-prototype-turbo 技能(把一段文本提示变成粗略可玩的游戏原型)和 prompt-to-game 可游玩原型前端;全部权重约 210 GB,完整托管在 上,按组件分别授权。

上游管状态,模型管画面:一套解耦的实时渲染回路

EdenLive 把「世界如何运行」与「画面如何呈现」拆开处理:上游交互程序——游戏引擎或编码智能体——显式维护游戏规则与世界状态,EdenLive 只负责把上游输出的参考视频流实时渲染成精细画面。项目页摘要写明了这样拆分的直接后果:世界状态可以被直接检查、修改和测试,交互可以延伸到上游程序暴露的任何变量;神经模型不必再同时学习状态转移与外观,有限的实时算力可以全部投给视觉合成。

模型接收三类输入:参考视频或代理视频流提供布局、镜头与运动,目标首帧定下整体外观与画风,文本提示词补充风格和细节。量子位举的街头对打 Demo 能看出回路怎么转:玩家按键控制方块角色的移动和攻击,交互系统更新位置、判定命中与血量,EdenLive 把左边的方块实时渲染成右边写实的人物;玩家看到画面再继续按键。控制信号经一枚后训练的 DINOv3 视觉编码器(仓库称 proxy-DINO)逐帧注入——Hugging Face 模型卡说明,它把几何粒度、外观各异的参考映射进共享特征空间,用以条件化扩散 Transformer,并抑制参考外观向生成结果泄漏。据 VAST 介绍,这也是 EdenLive「首次」在实时生成的前提下,同时做到任意参考输入、任意画风与长时连续运行。

实时吞吐的两个出处:官方口径与 LightX2V 部署

「超 24 FPS」在这次发布里有两个出处。其一是 VAST 官方口径,项目主页对此另附脚注:单 GPU 部署仅指 5B 模型的 720P 档——仓库里 14B 双向推理的示例按两张 GPU 并行给出;仓库给出的验证环境按配备 80 GB 显存的 NVIDIA GPU 列出,默认 5B 双向配置依赖 FA4 时间注意力内核(要求 SM90 架构与 BF16 精度)。

其二是部署方 LightX2V 的口径:GitHub 仓库引述其 ,EdenLive 5B 在单张 RTX 5090、1280×704 分辨率下达到约 24.7 FPS 推理吞吐,满足 24 FPS 实时播放的门槛。这条路径的加速手段包括低比特量化、高效内核与算子融合、KV cache(键值缓存)优化、torch.compile、CUDA Graphs 与流式 LightTAE 解码。

支撑实时生成的底层技术,项目页称为「实时视频蒸馏」,把多步扩散模型蒸馏成少步分块自回归生成器,每个 chunk 做 4 步去噪;服务系统再把程序仿真、参考编码与生成流水线化,预留一个 chunk 的提前量,画面才能边算边播。无论哪个口径,这些性能数字都出自公司或部署方,不是独立测量结果。

权重树里有什么:四个 DiT 与四类许可

Hugging Face 上的 VAST-AI/EdenLive 不只是四个 DiT 目录:dit-5b、dit-5b-bidir、dit-14b、dit-14b-bidir 之外,还配有 Wan2.1 与 Wan2.2 两代 VAE(变分自编码器)、TAEHV/LightTAE 实时解码器、UMT5 文本编码器、仅供 14B 图生视频使用的 CLIP(LAION 训练的图文编码器)、proxy-DINO 视觉编码器,以及给工作台渲染写实首帧的 flux-c2f,合计约 210 GB。

许可证按组件分成四类。DiT、VAE、UMT5、调度器与 TAEHV 解码器均为 Apache 2.0——前两者衍生自同样采用 Apache 2.0 的 Wan2.1/2.2;CLIP 是 MIT;视觉编码器沿用 Meta 的 DINOv3 License;flux-c2f 则落在 FLUX 非商业许可 v2.1 下,由 Black Forest Labs 的 FLUX.2 [klein] 9B 加一枚 VAST 自训 LoRA 组成。模型卡写明:使用工作台(workbench)整体受非商业约束,而离线与实时视频管线不加载 flux-c2f,用 start.sh 玩注册游戏也不加载 FLUX。

实时服务端同样开源:流式服务基于 NVIDIA FlashDreams 搭建,通过 WebRTC(浏览器实时通信)把生成画面推给浏览器,实时档由 TAEHV 解码器承接。桥接主机要求安装 claude 命令行工具并登录授权,游戏生成以 --dangerously-skip-permissions 参数运行。

从推箱子到机械手:四类用法与 VAST 自己承认的短板

量子位把演示归成四类。交互式游戏预览里,2D、3D 场景都能接入:岩浆闯关里角色用冷冻枪制造落脚点、跳跃前进,双人对打则展示画面与血条、回合计时等状态的配合;现阶段它更适合场景漫游、推箱子这类交互频率不高的玩法。

场景与动画预览面向美术决策:布局与运镜锁定后,同一套参考可以生成写实、手绘等不同画风的版本——比如把「鹈鹕骑自行车」的画面生成出细致的羽毛质感与海边光影,或给简模雪地行车场景补上车身纹理、积雪与光影。视频重渲染与换皮把已有视频交给模型重画:蓝色背景前的真人换成卡通角色,实拍房屋转成手绘动画,姿态与布局不变。第四类是具身数据增强:人手换成机械手,橙色抹布换成黄色,推车扶手改成金属质感,操作动作与原视频保持一致,已有的操作视频由此衍生出不同外观的样本。

prompt-to-game 把这些串成一条链:game-prototype-turbo 技能先按文本生成粗略可玩的原型,游戏运行时交互系统持续更新状态并输出简化参考画面,EdenLive 再实时渲染成精细画面反馈给玩家。工作台前端由游戏库、聊天生成新游戏和游玩窗口组成,游戏渲染用 Three.js(网页 3D 渲染库),技能模块基于 GameBlocks 搭建。

边界也写在明处:VAST 承认高频激烈交互对生成速度和动作呈现要求更高,多角色同框时的身份保持、小物体的精细控制、长时间生成中的视觉一致性,都有提升空间。

比共识早三四个月的路线,与留给第三方的复算

解耦不是这一步才提出来的。量子位回顾,VAST 今年 6 月初公开的 Project Eden 研究预览就已把「状态维护与视觉渲染解耦」定为核心设计,并给出三层架构——持续演化的结构化状态、状态到观测的接口、生成式神经渲染;按该报道转述的说法,这条路线比行业共识早了约 3~4 个月,窗口期被用来积累数据、打磨模型与系统。支撑模型的成对数据覆盖 2D、3D 简化场景、引擎渲染与真实视频;VAST 还把自家 3D 能力用在数据侧,从视频里提取深度、相机位姿与几何运动轨迹。

在项目主页,VAST 给 EdenLive 划了一圈参照系:交互式世界模型(文中点名 Lingbot World、Pixverse R)把状态与生成绑在一个模型里;Vidu S2 同样做实时参考驱动生成,但据其描述大多限于人像场景;Seedance 2.5 与 MiniMax H3 这类 blockout 方案属于离线可控生成;DLSS 5 则是在既有渲染管线上的超分与补帧。这些对比出自 VAST 之口,是对自身定位的陈述,不是第三方评测。

发布时间线有一条可公开核对的轨迹:GitHub 仓库与 Hugging Face 模型卡都创建于 10 月 12 日,早于公告日;模型卡更新于 10 月 18 日,技术报告文件的最后修改时间也停在 10 月 18 日,与当日报道互证。发稿前经 核实,仓库最后一次代码推送已到 10 月 19 日。至于那组性能数字,权重、推理代码与部署文档都已公开,截至发稿还没有第三方在同样硬件上跑出实测。

参考链接