ARTICLE / DEEP READING

资讯动态

记录重要内容,保留清晰观点,让每一次深入阅读都能获得新的启发。

k1体育 - k1体育官网 -k1体育十年品牌 值得信赖 资讯动态 世界模型能不能上桌?WorldOracle给出了一场真实大考
世界模型能不能上桌?WorldOracle给出了一场真实大考文章配图
READ
IN DEPTH

FEATURED ARTICLE

世界模型能不能上桌?WorldOracle给出了一场真实大考

据k1体育整理:

机器之心发布 机器人明明抓空了,世界模型却预测它成功抓起了水果。

这是 WorldOracle 展示的一个案例:给定真实操作的初始画面和动作序列,模型生成了一个看起来合理、却与实际执行不同的结果。

画面里的成功,现实中并未发生。

世界模型究竟是在预测未来,还是在「脑补」一个最常见的成功结局?

近日,来自普林斯顿大学、得克萨斯大学奥斯汀分校、多伦多大学、NVIDIA 和智元的研究人员共同提出 WorldOracle,以相同初始画面和动作序列对应的真实执行为参照,检验世界模型的预测能力。

研究对包括 DreamDojo、Cosmos 3、IRASim、GE-Sim 2.

0等七种代表性模型开展评测,发现了两类突出问题:机械臂的移动路径预测得较准,物体的位置和运动却仍可能偏离现实;

短时表现较好的模型,在完整操作序列中可能明显退化。

10 月 16 日,面向动作驱动的世界模型的评测平台 WorldOracle 向开发者正式开放。

研究团队已经预先采集真实操作过程,记录画面与动作,开发者只需使用评测集提供的初始画面和动作序列生成预测视频并提交平台,再由平台与对应的真实执行记录对照评分,就可以判断模型是否准确预测了动作后果,并据此定位短板、验证改进。

论文:《WorldOracle: Benchmarking Action-Conditioned World Models against Real-World Executions》 论文链接:https://arxiv.

org/abs/2610.

18826 项目主页:https://worldoracle-benchmark.

github.

io/ 一、首批成绩单:七种世界模型 谁能对上真机?

01 机械臂动对了,物体却未必跟得上 机械臂伸向水果、合拢夹爪的过程,可能与真实画面接近,但水果是否被带起来、随后移动到哪里,模型却可能预测错误。

为区分这两类表现,研究团队分别比较预测视频中机械臂和物体的位置、运动与真实记录的吻合程度,并给出评分。

机械臂与操作物体的空间对齐得分。

结果显示,五个参评模型的机械臂得分均高于物体得分,也就是说,画面中的机械臂即使较好地跟随了给定动作,物体的位置与运动仍可能偏离现实。

IRASim 的机械臂得分为 78.

8,操作物体只有 29.

1;

Cosmos 3 的两项得分分别为 89.

4 和 45.

4。

其余模型也存在不同程度的差距。

02 预测时间拉长,准确性明显退化 另一项挑战来自时间。

机器人完成一段连续操作,往往需要多次抓取、放置和调整。

前一次交互留下的物体状态,会成为后一次操作的起点。

模型能否持续贴近现实,需要放到完整过程中检验。

WorldOracle 同时评估轨迹前 30 秒和完整长序列,模型表现如何?

同一模型在两种评测时长下的单视角综合分 结果显示,在同一组机器人遥操作数据上,五个模型的单视角综合分均有所下降。

其中,DreamDojo 的得分从 50.

56 降至 27.

08,Cosmos 3 从 53.

99 降至 26.

60,两者下降均接近减半。

GE-Sim 2.

about image

0 在这组测试中的得分则从 73.

86 降至 63.

33,短时与完整长序列得分均为五种模型中最高,长序列下的降幅也相对较小。

模型之间的相对次序也发生了变化:IRASim 的前 30 秒得分低于 Ctrl-World、DreamDojo 和 Cosmos 3,但完整序列得分高于这三个模型。

二、WorldOracle 是怎么出题、怎么判分的?

01 在这里,准确预测失败也能得高分 WorldOracle 的评测从预先采集的真实操作记录出发:向模型提供初始画面和动作序列,由模型生成预测视频,再与同一组动作对应的真实执行进行比较。

模型需要预测的,包括真实操作中的抓空、掉落和洒水。

即便现实中的操作失败了,如果准确预测这次失败,也是正确的预测。

失败案例因此成为一类重要的测试样本:它能够检验模型是否遵循给定动作及其后果,还是把操作过程补成了一个常见的成功版本。

评测覆盖智元 G2、YAM 两种机器人本体,以及第一视角人手操作场景。

水果抓取、挂毛巾、倒水和开合抽屉四类任务,分别涉及刚体、柔性物体、流体和关节物体交互,各本体的具体任务覆盖以评测集为准。

其中,人手场景面向能够接收手部动作输入的世界模型,检验模型能否根据记录的手部姿态序列,预测后续物体变化和交互结果。

具备相应第一视角世界建模能力的模型,在这一场景下接受零样本评测,不使用平台提供的额外人手适配数据。

四类任务的真实执行画面 数据包含两类

关注k1体育,掌握更多体坛动态。

SHARE THIS IDEA

觉得有用?分享给朋友

让更多人看到这篇内容。

返回资讯列表

YOU MAY ALSO LIKE

推荐阅读

TRENDING STORIES

热点新闻

最小红军向轩:7岁参军9岁长征,1955年被授予了什么军衔?

最小红军向轩:7岁参军9岁长征,1955年被授予了什么军衔?

1955年9月,北京,授衔名单即将公布,29岁的向轩站在礼堂外,右眼已经失明,身上还留着未能取出的弹片。有人看着他年轻的面孔,打趣道:“老向,你这年纪,可不像老同志。”向轩没有接话,只是摸了摸衣袋里的旧手枪。 这支枪不大,却伴随他走过童年。向轩的身世,本身就是湘鄂西革命岁月的一段缩影。他的母亲贺满姑曾参加游击斗争,1928年被捕遇害。年幼的向轩失去母亲后,由姨母贺英抚养,后来又与舅舅贺龙率领的部队

福基纳自曝上海夺冠菲斯是背后贵人,斯维托丽娜和孟菲尔斯离婚

福基纳自曝上海夺冠菲斯是背后贵人,斯维托丽娜和孟菲尔斯离婚

如果定义福基纳在上海大师赛的逆袭?听听西班牙金发男自己怎么说,他将拿到这个冠军称为贵人相助。 这个贵人是谁?菲斯! 福基纳赛后接受采访时主动对外曝料,如果不是菲斯用自己的经历激励他走出伤病困境,这次他绝不会在上海成为福大师! “ 现在,我想起了菲斯,他是我非常好的朋友。 此前,他因为伤病缺席了很多站比赛,但复出之后,他在每一场比赛中都展现出了更强大的状态。 他的经历给了我巨大的力量,如果他能够做到

“我已经蠢的不像人了!”女大学生报道路上崩溃,网友:社会化程度太低了!

“我已经蠢的不像人了!”女大学生报道路上崩溃,网友:社会化程度太低了!

有些家长把孩子保护的太好了,只要成绩好,其他的爸妈都能接管。孩子也习惯了安逸的生活,社会化程度非常低。 小猫小狗社会化程度低,出门在外会应激,严重的甚至口吐白沫,倒地身亡。孩子社会化程度低,出门在外,也一样容易情绪崩溃! 一女大学生分享自己大学的报道路,一路上大问题没有,小问题不断,每一个小问题的发生,她都选择了最笨的解决方式,事后情绪崩溃,哭诉自己蠢的简直不像人! “我已经蠢的不像人了!”女大学

利好来了吗?央行、证监会连放多个利好

利好来了吗?央行、证监会连放多个利好

金融街论坛下午开幕,潘功胜、丁向群、吴清、朱鹤新四家一把手同台。核心利好应该就是以下这些, 但这个"利好"要打引号 。 但潘行长整篇演讲 通篇没有降准、没有降息 。讲的是框架转型:公开市场主要操作品种期限 有望切换为隔夜 ,DR001成为主要政策利率, 退出存贷款基准利率 。 五项措施里"应对非银大额赎回的流动性支持工具"—— 那是债市的,不是股市的 。 换了一把尺子,短端定价更准、曲线更平滑,这

姆巴佩:若有人能创造奇迹必定是我;我踢球从不垫鞋垫

姆巴佩:若有人能创造奇迹必定是我;我踢球从不垫鞋垫

在获得金十一人奖后,姆巴佩接受了杂志《Onze Mondial 》的深度专访,在本次专访的第三部分,姆巴佩谈到了自己对平凡生活的向往、儿时的足球梦想,以及对年轻球员的建议。此外,他还解释了自己为何始终坚信能够成为世界最佳球员,并透露了一个鲜为人知的踢球习惯:从小到大,他踢球时从来不使用鞋垫。 记者:那么在今天,作为一个普通男人,什么事情能让你感到发自内心的快乐? 姆巴佩:很多事情!就像普通人一样!