EN

世界模型与具身智能:从预测到动作的统一框架

梳理世界模型(WAM、WVM、LoopWM)与具身智能(VLA、Skill)的最新进展,以及如何评估和落地

返回教程列表
高级30 分钟

世界模型与具身智能:从预测到动作的统一框架

梳理世界模型(WAM、WVM、LoopWM)与具身智能(VLA、Skill)的最新进展,以及如何评估和落地

本文系统梳理世界模型与具身智能的最新进展,从概念辨析、技术路线到评估体系,构建从预测到动作的统一框架。内容涵盖世界动作模型(WAM)、世界价值模型(WVM)、循环世界模型(LoopWM)等前沿架构,以及VLA、具身技能等具身智能方向。深入探讨了世界模型的评估阶梯(L0-L7)、具身原生的预训练范式、Real2Sim数据生成、闭环数据采集等关键议题,并分析了当前面临的开放挑战与未来趋势。

引言:当“世界模型”成为热词

过去两年,“世界模型”从一个相对小众的研究概念,迅速膨胀为人工智能领域最炙手可热的标签之一。视频生成、机器人、自动驾驶、游戏引擎……几乎每个与物理世界打交道的方向都在使用这个词。然而,热度越高,概念反而越模糊。李飞飞近期撰文指出,“世界模型”已成为当今AI领域最被过度使用的术语之一。

这种混乱的根源在于,人们口中的“世界模型”实际上指向了三种不同的事物:渲染器(输出供人眼观看的像素)、模拟器(输出几何、物理上忠实的表征)和规划器(输出行动)。它们服务于不同的目标,也遵循不同的评价标准。

本文旨在系统梳理世界模型与具身智能的最新进展,从概念辨析、技术路线到评估体系,构建一个从预测到动作的统一框架。我们将涵盖世界动作模型(WAM)、世界价值模型(WVM)、循环世界模型(LoopWM)等前沿架构,以及VLA、具身技能等具身智能方向,并深入探讨评估、数据、部署等关键议题。

第一部分:世界模型的概念辨析与分类

1.1 三种“世界模型”:渲染器、模拟器与规划器

李飞飞在其博客中提出了一个精妙的分类:今天被称为“世界模型”的各种系统,本质上是解决三个不同的问题——渲染世界、模拟世界,以及在世界中行动。

  • 渲染器(Renderer):输出以像素形式呈现的观测结果,核心质量指标是视觉保真度。例如,一个将文字提示转化为电影级视频的模型就是渲染器。它不携带对三维结构的显式理解,生产的是观察者所能看到的东西。
  • 模拟器(Simulator):输出状态——一种几何上、物理上或动力学上忠实的表征。模拟器的“合同”是结构性的,要求经得起检验的几何结构、遵循牛顿定律的物理。NVIDIA的Omniverse是典型代表。
  • 规划器(Planner):输出行动。给定观测和目标,规划器回答“Agent下一步应该做什么?”视觉-语言-动作模型(VLA)和基于模型的系统都属于此类。
  • 这三种角色并非互斥,一个完整的系统往往需要它们的协同。例如,模拟器可以为规划器提供训练环境,渲染器则可以将规划结果可视化。

    1.2 世界动作模型(WAM):让预测服务动作

    新加坡国立大学等机构发布的综述《World Action Models》提出了一个更技术化的分类。WAM的核心特征是:模型预测的未来表征必须服务于动作生成。根据预测表征的形式,WAM可分为三类:

  • 渲染后解码(Render-and-Decode):完整走完视频生成流程,输出像素画面后再提取动作。优势是能复用大规模视频先验,但推理延迟极高。代表:UniPi、GR-1。
  • 仅隐空间(Latent-Only):保留视频训练主干,但跳过像素解码,直接从中间隐变量提取动作。优势是保留动力学先验的同时大幅降低计算开销。代表:VPP、Fast-WAM。
  • 无视频生成(Video-Generation-Free):完全移除视频生成主干,依靠LLM/VLM在嵌入空间完成预测。算力开销最低,但缺少视觉先验。代表:FLARE、DUST。
  • 综述的核心结论是:所有WAM设计都是表征表达力与算力、时延、标注成本之间的权衡,行业整体趋势是“少想象、多执行”——减少无用画面生成,保留控制必需的预测特征。

    1.3 世界价值模型(WVM):为时序决策提供“指南针”

    字节跳动Seed团队联合北大、清华提出的WVM,将视频世界模型与时序价值估计结合。传统基于VLM的价值模型存在监督稀疏、时序建模薄弱的缺陷。WVM利用视频世界模型强大的时空建模能力,采用流匹配实现分块分布式价值预测,能够精准识别犹豫、重试等次优行为。

    在Suboptimal-Value-Bench基准上,WVM在识别次优轨迹方面大幅超越现有方法,并证明仅使用低质量次优数据即可显著提升下游策略的成功率。

    第二部分:具身智能的核心技术路线

    2.1 VLA:从视觉到动作的直接映射

    视觉-语言-动作模型(VLA)是当前具身智能最主流的技术路线。它复用预训练VLM主干,直接将观测与指令映射为动作。RT-2、OpenVLA、π系列等工作证明,通过小规模微调,互联网尺度预训练学到的语义知识可以落地为机器人行为。

    然而,标准VLA存在本质局限:模型不会建模自身动作引发的环境变化,仅学习观测-动作映射,不考虑物理规则。因此,当前趋势是将VLA与世界模型结合,形成预测-动作一体化架构。

    蚂蚁灵波发布的LingBot-VLA 2.0是这一方向的代表。该模型在6万小时预训练数据上训练,支持20种机器人构型,并融合深度感知和未来预测能力。其关键设计包括:

  • MoE架构处理多本体数据的差异
  • 双查询蒸馏补强空间理解和时序预判
  • 统一动作表示抹平不同本体之间的差异
  • 2.2 具身技能:从模仿到可复用经验

    英伟达提出的ASPIRE代表了一种全新的持续学习范式。它将机器人的失败和修复经验沉淀为可复用的“技能”(Skill),这些技能不是模型权重,而是一段段经过验证的代码修复模式。

    ASPIRE的核心流程是:机器人执行任务→记录感知、导航、抓取等过程→Agent判断问题并迭代程序→跑通后沉淀为Skill。这种方式使得机器人完成第100个任务时,不再像完成第1个任务那样一无所知。

    2.3 隐空间世界模型:无界动力的MWA™

    无界动力发布的MWA™是全球首个“长时序双向物理因果链”隐空间世界模型。其核心创新包括:

  • 潜动作自监督预训练:通过逆动力学编码器,将导致画面改变的动作转化为高维向量,摆脱对动作标签的依赖。
  • 双向动力学架构:正动力学解码器负责“由因及果”的正向推演,逆动力学编码器负责“由果推因”的因果复盘。
  • 时序Chunk级逆向动力学:打破传统单步推理局限,实现10秒以上长周期连续动作序列的稳定规划。
  • 在RoboCasa GR1 TableTop榜单上,MWA™以75.2%的平均任务成功率超越英伟达GR00T-N1.6,拿下全球第一。

    第三部分:世界模型的评估体系

    3.1 评估阶梯:从L0到L7

    南京大学团队提出的7级评估阶梯,为世界模型评估提供了清晰的坐标:

  • L0:视觉合理性——生成结果是否看起来真实
  • L1:已记录未来预测——对日志轨迹未来片段的预测能力
  • L2:语义对齐——是否符合指令、任务和场景语义
  • L3:物理合理性——是否满足基本物理和几何一致性
  • L4:动作可控性与干预保真——动作变化能否引起正确的任务相关变化
  • L5:奖励、价值与结果保真——是否能准确预测成功率、奖励和进度
  • L6:策略评估与排序——对候选策略优劣的判断是否与真实环境一致
  • L7:规划与优化效用——进入规划器或强化学习闭环后,能否真正提升决策质量
  • 对于面向具身决策的世界模型,L4到L7提供的评估证据强度更高,也更接近模型在真实系统中的作用方式。

    3.2 MemoBench:动态环境下的“消失-重现”评测

    哈佛大学等机构提出的MemoBench,是首个面向动态环境的“消失-重现”世界建模评测基准。其核心范式是“可见-消失-重现”(V-D-R):物体在视野内经历物理变化→相机移开→相机转回,模型需要准确还原物体更新后的状态。

    测试结果显示,当前所有主流模型的“物体重现得分”均未超过0.6(满分1),意味着没有一个模型能稳定地让消失的物体“记得住、认得出、变得对”。这清晰揭示了“生成画面逼真”与“真正理解世界”之间的显著差距。

    3.3 RoboDojo:具身智能的“珠峰”

    RoboDojo是一个统一的仿真+真实世界机器人操作评测基准,包含42个仿真任务和18个真实机器人任务。评测覆盖泛化、记忆、精细操作、长程执行、开放语义理解五大能力。

    结果令人警醒:当前最强通用机器人策略在仿真平均成功率仅8.80%,真实世界最好模型平均成功率仅12.8%,而人类专家在真实世界是100%。这揭示了当前模型距离可靠、泛化、可部署的通用机器人操作还有巨大差距。

    第四部分:数据、架构与部署的关键进展

    4.1 具身原生:从数字世界到物理世界的范式迁移

    蚂蚁灵波提出的“具身原生”概念,标志着机器人模型训练从“基于数字世界模型的能力嫁接”转向“面向物理世界需求的原生设计”。其LingBot-VA 2.0是全球首个具身原生预训练模型,从数据构成、训练目标到架构设计,每一步都面向“机器人在真实物理世界中完成任务”而设计。

    关键设计包括:

  • 因果预训练:让模型天然按照“只能看过去、不能看未来”的时间线学习
  • 语义视觉-动作分词器:将画面和动作翻译成同一种语言
  • Foresight Reasoning:边执行边思考,持续预判后面几秒的变化
  • 4.2 Real2Sim:从真实世界到仿真环境的自动转换

    英伟达GEAR联合李飞飞团队提出的SimFoundry,只需一段真实世界视频,就能自动生成可交互的机器人仿真环境。其核心流程分为三步:

  • 提取:利用VLM和SAM分割场景中的物体
  • 生成:构建数字孪生,补充物理属性
  • 增强:自动生成数字表亲(Digital Cousins),从物体、场景、任务三个维度扩展训练数据
  • 实验表明,引入数字表亲后,机器人在真实世界中的平均任务成功率提升17%-40%。

    4.3 闭环数据:从行为记录到运行日志

    脸谱心智提出的Ego-NeuroLoop数据范式,将数据采集从“记录人做了什么”升级为“记录人如何做对的”。它同时采集四类信号:world camera(环境)、gaze(注意力)、EEG(神经状态)、sEMG(肌肉执行),构成完整的闭环链路。

    配套的NeuroMatrix硬件负责降低采集门槛,NeuroBooster则作为“神经信号的VLM”,将噪声信号对齐增强为模型可消费的格式。这种数据范式让模型有机会学习人类在真实操作中的预测、反馈、修正机制。

    4.4 循环世界模型:让计算深度成为新的扩展轴

    脸谱心智提出的LoopWM,通过参数共享的循环Transformer模块对潜状态进行迭代精炼,将“迭代潜深度”引入为世界模型新的扩展维度。其核心设计包括:

  • 谱稳定性约束:保证循环更新在数值上是收缩的,而非发散的
  • Deferred Decoding:先在潜空间连续推演,再解码输出
  • Early Exit:根据任务复杂度动态调整循环次数
  • 在ScienceWorld基准上,约1B参数的LoopWM取得了68.4%的EM,显著超过Claude-opus-4-6-max的47.2%,实现了最高100倍的参数效率提升。

    第五部分:开放挑战与未来趋势

    5.1 核心挑战

  • 长时程稳定性:当前世界模型在长时间rollout中仍面临误差累积问题。LiveWorld等工作通过将世界演化与观察渲染解耦来缓解这一问题,但端到端的隐式动态记忆仍是开放方向。
  • 物理真实性:视频生成模型在物体恒存、因果推理等基础物理规律上仍存在显著短板。MemoBench揭示,所有模型在“消失-重现”任务上均未及格。
  • 数据瓶颈:机器人真机数据采集成本高、场景覆盖有限。Real2Sim、人类视频迁移等方案正在探索,但Sim2Real gap和跨本体迁移仍是难题。
  • 实时性与成本:高保真世界模型往往推理延迟高、部署成本大。MoWorld等Flash World Model通过全栈国产NPU优化实现了50FPS实时推理,但画质与速度的平衡仍需持续优化。
  • 5.2 未来趋势

  • 预测-动作一体化:WAM、WLA等架构正在将世界建模与动作生成深度融合,从“先想象再执行”走向“边推演边行动”。
  • 具身原生设计:从数据、架构到训练目标,模型正从为数字世界设计转向为物理世界设计。
  • 闭环数据范式:从记录行为结果到记录闭环过程,EEG、sEMG等神经信号正在成为新的数据维度。
  • 技能化与持续学习:ASPIRE等范式将训练从梯度下降转向技能精炼,让机器人能够持续积累经验。
  • 评估体系完善:从单一指标到多层级评估阶梯,从仿真到真机标准化评测,评估正在成为推动技术进步的关键基础设施。
  • 结语

    世界模型与具身智能正在经历一场深刻的范式变革。从“预测下一个词”到“预测下一状态”,从“生成好看画面”到“理解物理因果”,从“模仿动作轨迹”到“学习闭环策略”,每一步都在将AI推向更接近真实世界智能的方向。

    正如南京大学团队所言,世界模型的意义最终体现在它能否帮助智能系统形成对环境演化的有效把握,并在复杂任务中持续产出高质量决策。这条路仍然漫长,但方向已经清晰。

    FAQ

    什么是世界模型?它与视频生成模型有何区别? 世界模型是一种交互式预测模型,它根据动作来模拟时空环境。核心区别在于:视频生成模型预测P(x(t+1)|x(t)),即基于当前帧预测下一帧;而世界模型预测P(s(t+1)|s(t), a(t)),即基于当前状态和动作预测下一状态。动作a(t)是关键——世界模型必须能够响应干预,而不仅仅是生成连贯画面。

    VLA和世界模型是什么关系?它们会相互取代吗? VLA(视觉-语言-动作模型)直接学习从观测到动作的映射,不显式建模未来。世界模型则先预测未来状态再生成动作。两者并非取代关系,而是互补:VLA更成熟、离产业落地更近;世界模型提供了更强的物理理解和规划能力。当前趋势是将两者融合,形成预测-动作一体化架构,如WAM、WLA等。

    当前世界模型面临的最大挑战是什么? 最大挑战是“能力主张与评估证据之间的落差”。很多模型能生成逼真的未来视频,但在动作干预、策略评估、闭环优化等决策核心能力上表现不佳。具体挑战包括:长时程稳定性(误差累积)、物理真实性(物体恒存、因果推理)、实时性与部署成本、以及数据瓶颈(真机数据稀缺、场景覆盖有限)。

    如何评估一个世界模型的好坏? 评估应从决策价值出发,而非仅看生成质量。南京大学团队提出的7级评估阶梯(L0-L7)提供了系统框架:低层级(L0-L3)关注视觉质量、语义对齐和物理合理性;高层级(L4-L7)关注动作可控性、奖励预测、策略排序和规划效用。对于面向具身决策的模型,高层级指标更关键。

    什么是“具身原生”预训练? 具身原生指模型从数据构成、训练目标到架构设计,从第一步起就面向“机器人在真实物理世界中完成任务”而设计,而非复用数字世界中为内容创作而生的模型。例如,LingBot-VA 2.0采用因果架构从零训练,让模型天然按照“只能看过去、不能看未来”的时间线学习,匹配机器人闭环控制的时间结构。

    Real2Sim和Sim2Real是什么关系? Sim2Real(从仿真到真实)是传统范式,指在仿真中训练策略再迁移到真实世界,但面临仿真与现实的差距。Real2Sim(从真实到仿真)是新兴范式,指从真实世界视频自动生成高保真仿真环境,再在其中训练和评估策略。SimFoundry等工作证明,Real2Sim生成的仿真环境可以准确预测策略在真实世界的表现,并自动扩展出大量训练数据。