世界模型与具身智能:从预测到动作的统一框架
梳理世界模型(WAM、WVM、LoopWM)与具身智能(VLA、Skill)的最新进展,以及如何评估和落地
世界模型与具身智能:从预测到动作的统一框架
梳理世界模型(WAM、WVM、LoopWM)与具身智能(VLA、Skill)的最新进展,以及如何评估和落地
本文系统梳理世界模型与具身智能的最新进展,从概念辨析、技术路线到评估体系,构建从预测到动作的统一框架。内容涵盖世界动作模型(WAM)、世界价值模型(WVM)、循环世界模型(LoopWM)等前沿架构,以及VLA、具身技能等具身智能方向。深入探讨了世界模型的评估阶梯(L0-L7)、具身原生的预训练范式、Real2Sim数据生成、闭环数据采集等关键议题,并分析了当前面临的开放挑战与未来趋势。
引言:当“世界模型”成为热词
过去两年,“世界模型”从一个相对小众的研究概念,迅速膨胀为人工智能领域最炙手可热的标签之一。视频生成、机器人、自动驾驶、游戏引擎……几乎每个与物理世界打交道的方向都在使用这个词。然而,热度越高,概念反而越模糊。李飞飞近期撰文指出,“世界模型”已成为当今AI领域最被过度使用的术语之一。
这种混乱的根源在于,人们口中的“世界模型”实际上指向了三种不同的事物:渲染器(输出供人眼观看的像素)、模拟器(输出几何、物理上忠实的表征)和规划器(输出行动)。它们服务于不同的目标,也遵循不同的评价标准。
本文旨在系统梳理世界模型与具身智能的最新进展,从概念辨析、技术路线到评估体系,构建一个从预测到动作的统一框架。我们将涵盖世界动作模型(WAM)、世界价值模型(WVM)、循环世界模型(LoopWM)等前沿架构,以及VLA、具身技能等具身智能方向,并深入探讨评估、数据、部署等关键议题。
第一部分:世界模型的概念辨析与分类
1.1 三种“世界模型”:渲染器、模拟器与规划器
李飞飞在其博客中提出了一个精妙的分类:今天被称为“世界模型”的各种系统,本质上是解决三个不同的问题——渲染世界、模拟世界,以及在世界中行动。
这三种角色并非互斥,一个完整的系统往往需要它们的协同。例如,模拟器可以为规划器提供训练环境,渲染器则可以将规划结果可视化。
1.2 世界动作模型(WAM):让预测服务动作
新加坡国立大学等机构发布的综述《World Action Models》提出了一个更技术化的分类。WAM的核心特征是:模型预测的未来表征必须服务于动作生成。根据预测表征的形式,WAM可分为三类:
综述的核心结论是:所有WAM设计都是表征表达力与算力、时延、标注成本之间的权衡,行业整体趋势是“少想象、多执行”——减少无用画面生成,保留控制必需的预测特征。
1.3 世界价值模型(WVM):为时序决策提供“指南针”
字节跳动Seed团队联合北大、清华提出的WVM,将视频世界模型与时序价值估计结合。传统基于VLM的价值模型存在监督稀疏、时序建模薄弱的缺陷。WVM利用视频世界模型强大的时空建模能力,采用流匹配实现分块分布式价值预测,能够精准识别犹豫、重试等次优行为。
在Suboptimal-Value-Bench基准上,WVM在识别次优轨迹方面大幅超越现有方法,并证明仅使用低质量次优数据即可显著提升下游策略的成功率。
第二部分:具身智能的核心技术路线
2.1 VLA:从视觉到动作的直接映射
视觉-语言-动作模型(VLA)是当前具身智能最主流的技术路线。它复用预训练VLM主干,直接将观测与指令映射为动作。RT-2、OpenVLA、π系列等工作证明,通过小规模微调,互联网尺度预训练学到的语义知识可以落地为机器人行为。
然而,标准VLA存在本质局限:模型不会建模自身动作引发的环境变化,仅学习观测-动作映射,不考虑物理规则。因此,当前趋势是将VLA与世界模型结合,形成预测-动作一体化架构。
蚂蚁灵波发布的LingBot-VLA 2.0是这一方向的代表。该模型在6万小时预训练数据上训练,支持20种机器人构型,并融合深度感知和未来预测能力。其关键设计包括:
2.2 具身技能:从模仿到可复用经验
英伟达提出的ASPIRE代表了一种全新的持续学习范式。它将机器人的失败和修复经验沉淀为可复用的“技能”(Skill),这些技能不是模型权重,而是一段段经过验证的代码修复模式。
ASPIRE的核心流程是:机器人执行任务→记录感知、导航、抓取等过程→Agent判断问题并迭代程序→跑通后沉淀为Skill。这种方式使得机器人完成第100个任务时,不再像完成第1个任务那样一无所知。
2.3 隐空间世界模型:无界动力的MWA™
无界动力发布的MWA™是全球首个“长时序双向物理因果链”隐空间世界模型。其核心创新包括:
在RoboCasa GR1 TableTop榜单上,MWA™以75.2%的平均任务成功率超越英伟达GR00T-N1.6,拿下全球第一。
第三部分:世界模型的评估体系
3.1 评估阶梯:从L0到L7
南京大学团队提出的7级评估阶梯,为世界模型评估提供了清晰的坐标:
对于面向具身决策的世界模型,L4到L7提供的评估证据强度更高,也更接近模型在真实系统中的作用方式。
3.2 MemoBench:动态环境下的“消失-重现”评测
哈佛大学等机构提出的MemoBench,是首个面向动态环境的“消失-重现”世界建模评测基准。其核心范式是“可见-消失-重现”(V-D-R):物体在视野内经历物理变化→相机移开→相机转回,模型需要准确还原物体更新后的状态。
测试结果显示,当前所有主流模型的“物体重现得分”均未超过0.6(满分1),意味着没有一个模型能稳定地让消失的物体“记得住、认得出、变得对”。这清晰揭示了“生成画面逼真”与“真正理解世界”之间的显著差距。
3.3 RoboDojo:具身智能的“珠峰”
RoboDojo是一个统一的仿真+真实世界机器人操作评测基准,包含42个仿真任务和18个真实机器人任务。评测覆盖泛化、记忆、精细操作、长程执行、开放语义理解五大能力。
结果令人警醒:当前最强通用机器人策略在仿真平均成功率仅8.80%,真实世界最好模型平均成功率仅12.8%,而人类专家在真实世界是100%。这揭示了当前模型距离可靠、泛化、可部署的通用机器人操作还有巨大差距。
第四部分:数据、架构与部署的关键进展
4.1 具身原生:从数字世界到物理世界的范式迁移
蚂蚁灵波提出的“具身原生”概念,标志着机器人模型训练从“基于数字世界模型的能力嫁接”转向“面向物理世界需求的原生设计”。其LingBot-VA 2.0是全球首个具身原生预训练模型,从数据构成、训练目标到架构设计,每一步都面向“机器人在真实物理世界中完成任务”而设计。
关键设计包括:
4.2 Real2Sim:从真实世界到仿真环境的自动转换
英伟达GEAR联合李飞飞团队提出的SimFoundry,只需一段真实世界视频,就能自动生成可交互的机器人仿真环境。其核心流程分为三步:
实验表明,引入数字表亲后,机器人在真实世界中的平均任务成功率提升17%-40%。
4.3 闭环数据:从行为记录到运行日志
脸谱心智提出的Ego-NeuroLoop数据范式,将数据采集从“记录人做了什么”升级为“记录人如何做对的”。它同时采集四类信号:world camera(环境)、gaze(注意力)、EEG(神经状态)、sEMG(肌肉执行),构成完整的闭环链路。
配套的NeuroMatrix硬件负责降低采集门槛,NeuroBooster则作为“神经信号的VLM”,将噪声信号对齐增强为模型可消费的格式。这种数据范式让模型有机会学习人类在真实操作中的预测、反馈、修正机制。
4.4 循环世界模型:让计算深度成为新的扩展轴
脸谱心智提出的LoopWM,通过参数共享的循环Transformer模块对潜状态进行迭代精炼,将“迭代潜深度”引入为世界模型新的扩展维度。其核心设计包括:
在ScienceWorld基准上,约1B参数的LoopWM取得了68.4%的EM,显著超过Claude-opus-4-6-max的47.2%,实现了最高100倍的参数效率提升。
第五部分:开放挑战与未来趋势
5.1 核心挑战
5.2 未来趋势
结语
世界模型与具身智能正在经历一场深刻的范式变革。从“预测下一个词”到“预测下一状态”,从“生成好看画面”到“理解物理因果”,从“模仿动作轨迹”到“学习闭环策略”,每一步都在将AI推向更接近真实世界智能的方向。
正如南京大学团队所言,世界模型的意义最终体现在它能否帮助智能系统形成对环境演化的有效把握,并在复杂任务中持续产出高质量决策。这条路仍然漫长,但方向已经清晰。
FAQ
什么是世界模型?它与视频生成模型有何区别? 世界模型是一种交互式预测模型,它根据动作来模拟时空环境。核心区别在于:视频生成模型预测P(x(t+1)|x(t)),即基于当前帧预测下一帧;而世界模型预测P(s(t+1)|s(t), a(t)),即基于当前状态和动作预测下一状态。动作a(t)是关键——世界模型必须能够响应干预,而不仅仅是生成连贯画面。
VLA和世界模型是什么关系?它们会相互取代吗? VLA(视觉-语言-动作模型)直接学习从观测到动作的映射,不显式建模未来。世界模型则先预测未来状态再生成动作。两者并非取代关系,而是互补:VLA更成熟、离产业落地更近;世界模型提供了更强的物理理解和规划能力。当前趋势是将两者融合,形成预测-动作一体化架构,如WAM、WLA等。
当前世界模型面临的最大挑战是什么? 最大挑战是“能力主张与评估证据之间的落差”。很多模型能生成逼真的未来视频,但在动作干预、策略评估、闭环优化等决策核心能力上表现不佳。具体挑战包括:长时程稳定性(误差累积)、物理真实性(物体恒存、因果推理)、实时性与部署成本、以及数据瓶颈(真机数据稀缺、场景覆盖有限)。
如何评估一个世界模型的好坏? 评估应从决策价值出发,而非仅看生成质量。南京大学团队提出的7级评估阶梯(L0-L7)提供了系统框架:低层级(L0-L3)关注视觉质量、语义对齐和物理合理性;高层级(L4-L7)关注动作可控性、奖励预测、策略排序和规划效用。对于面向具身决策的模型,高层级指标更关键。
什么是“具身原生”预训练? 具身原生指模型从数据构成、训练目标到架构设计,从第一步起就面向“机器人在真实物理世界中完成任务”而设计,而非复用数字世界中为内容创作而生的模型。例如,LingBot-VA 2.0采用因果架构从零训练,让模型天然按照“只能看过去、不能看未来”的时间线学习,匹配机器人闭环控制的时间结构。
Real2Sim和Sim2Real是什么关系? Sim2Real(从仿真到真实)是传统范式,指在仿真中训练策略再迁移到真实世界,但面临仿真与现实的差距。Real2Sim(从真实到仿真)是新兴范式,指从真实世界视频自动生成高保真仿真环境,再在其中训练和评估策略。SimFoundry等工作证明,Real2Sim生成的仿真环境可以准确预测策略在真实世界的表现,并自动扩展出大量训练数据。
相关教程
从 GeneBench-Pro 到 CJS 框架,系统梳理模型评测基准、安全攻击与对齐技术的全景与深度实践
梳理 JEPA、Kairos、γ-World 等核心进展,揭示世界模型如何驱动具身智能迈向新阶段
追踪收集、评估数据集、A/B 测试与回归检测
系统讲解后训练中的关键方法(SFT、RLHF、OPD、PEFT),并给出评估通用能力损失的量化方法
从工具到同事——AI Agent 如何重塑每个人的工作方式
对比上下文工程、RAG、记忆框架的优劣,并介绍记忆工程的最新实践