乐鱼平台

网易乐鱼平台 > > 正文

自变量发布 X2Real 仿真评测基准,实现顶尖水平高质量仿真,具身模型进入“自动化评测”时代

0
分享至

具身智能正在面临一个日益严峻的问题:当数据规模与模型能力持续增长,我们应该如何衡量模型的能力进步,又该如何发现模型缺陷,加以改进?衡量模型能力需要一把客观可信的标尺,评测体系正是行业必不可少的基础设施。

然而目前的模型评测存在诸多问题:真机评测成本昂贵、耗时缓慢,难以满足研发高频次、大规模的测试需要。仿真评测虽然能大幅提升测试效率,但又面临仿真不够“真实”、题库不够“丰富”的问题,很容易被模型“摸透规律”刷分,评测能力难以伴随模型能力共同成长。

今日,自变量发布 X2Real——一套可进化的仿真评测基准,旨在评估具身模型在真实物理世界中的性能。它提出三个设计原则:可信性(Faithfulness)、有效性(Effectiveness)和客观性(Fairness),分别通过与真实硬件对齐的仿真、多维度的任务设计,以及自动化的评测与诊断流程,让仿真评测成为模型性能的可信标尺。

更重要的是,X2Real 是一套能够伴随模型成长不断进化的评测体系,其评测能力不会随着模型能力提升而过时。经过测试,X2Real 仿真评测与真机评测的任务成功率相关性达到 0.96、进度分相关性达到 0.99,居于行业最前列水平。它真正实现了“让模型能力可度量,让研发进步可积累”,成为具身行业的关键基础设施。

仿真忠实还原真机表现,任务成功率相关性高达 0.96

X2Real 的第一个原则是可信性,即忠实反应模型在物理世界的真实能力。这要求 X2Real 能够以极高的仿真度模拟机器人在现实物理世界的动作。

但仿真与现实之间存在天然差异:关节的响应快慢、画面的质感、物理的重量与摩擦力,这些细节的仿真失真都会影响模型策略的表现。因此,要让仿真评测成为可信赖的“考场”,第一步就是将虚拟机器人调试到与真实机器人表现一致。


X2Real 采用与真实硬件对齐的仿真标定,去校准仿真世界里的机器人视觉、物理和控制特性。在控制参数方面,自变量团队先记录下真实机械臂的运动轨迹,再将同样的控制指令输入仿真系统,比较两者的运动轨迹,反复调整关节的响应力度,直到两者一致。经测试,X2Real 能够实现毫米级的轨迹一致性。

在视觉特征和物理属性上,X2Real 也都对偏差做了细致标定,确保模型在仿真中看到的画面、感受到的接触反馈,都与现实一致。这些标定覆盖了多种主流机器人本体,包括单臂 Franka、双臂 ArtiXon Arm-6A、ARX R5 和移动操作平台 Quanta X1 等。

测试显示,X2Real 经过标定能够忠实反映模型能力:在通用操作任务上,仿真评测与真机评测的任务成功率相关性达到 0.96、进度分相关性达到 0.99,仿真评测足以成为模型能力的可信量化依据。

44 个任务“海量题库”,全面考核推理与操作能力

X2Real 的第二个原则是有效性,即综合全面地考察模型的能力和短板。它从任务的多样性入手,将通用操作能力分为推理与操作两个类别:推理即正确理解任务指令和视觉输入,作出正确的动作决策;操作即正确执行对应的动作,达到预期的结果。

X2Real 共设计了 10 个类别的 44 个仿真任务,能够覆盖推理与操作中的多类关键能力。具体来说,4 类推理能力包括泛化、视觉理解、语言理解、记忆;5 类操作任务包括精细操作、双臂协同、工具使用、动态物体操作、移动操作。用于评测的任务由其中的一系列动作组合而成,比如拉开抽屉放入药瓶、将眼镜挂上木架子等。


此外,X2Real 还专门设计了一类挑战任务,包括堆叠积木、按指定颜色序列按键、解决汉诺塔,分别考核模型的运动精度、长时记忆和推理规划能力。目前,这些任务对大部分具身模型都有很大的挑战,为模型未来进步留下充足的评测空间。

严格隔离训练与考试配置,杜绝模型“背题”刷分

X2Real 的第三个原则是客观性:既减少模型靠“背题”获得高分的可能性,也保证各种模型在同一规则下可以比较。围绕客观性要求,X2Real 做出三点设计:

一是任务的多维随机化。X2Real 将任务拆分为三个维度:外观条件,包括背景、光照、桌面材质纹理;任务设置,包括任务资产、物体摆放、干扰物布局、语言指令;具身条件,包括夹爪类型、相机参数、桌面高度。这些维度分别随机化,确保模型无法靠“死记硬背”评测环境获得好成绩。


二是严格分离训练与评测配置。模型在测试前,都需要在 X2Real 提供的近 300 小时数据集上进行后训练。X2Real 确保这些训练数据在统一的绿幕摄影棚中采集,与评测的考试环境完全隔离,能够检验模型对新配置的泛化能力,杜绝“考前泄题”的风险。


三是持续生成新考题。X2Real 使用由英伟达 Isaac Lab-Arena 支撑的 Mana 仿真生态系统,将场景、机器人、任务步骤和环境都打包为可复用的模块,能够持续生成新的评测组合,相当于拥有无限的题库。

智能体驱动任务设计与评分,让评测成为“自动化流水线”

X2Real 能持续扩充考题,靠的是一套让大模型智能体深度参与的工作系统。

智能体同时驱动两个循环:一是任务设计的循环,持续编写新任务、新场景,扩充评测体系;二是回放分析的循环:每次评测后自动读取失败节点与轨迹,定位能力薄弱的环节,生成新的针对性任务。


在任务设计循环中,智能体会驱动仿真软件搭建任务。通常,使用仿真软件需要处理复杂的底层接口,智能体难以直接使用。X2Real 则不直接使用这些接口,而是给智能体提供一套标准化的“可选项”:选择场景、摆放物品、定义任务步骤、选择机器人形态。配置完成后,系统还会自动检测,剔除掉不合理的配置。

在回放分析的循环中,X2Real 会将每个任务拆解为任务图:子任务按照先后关系连接成流程,每个节点的完成情况,都由物体姿态、接触关系、抓取状态等自动判定。即使模型未能完成最终任务目标,开发者也能知道它卡在哪一步,为改进模型提供清晰的诊断意见。

此外,智能体还会根据每次评测的节点记录,定位出模型能力的薄弱环节,针对性地生成新考题。可以说,在 X2Real 系统中,人类只提供高层意图,具体迭代都由智能体执行。这真正将“出题、判分、补题”的一整套评测流程,从人力密集工作变为可自动运行的流水线。


得关注的是,在传统评测中,由于不同模型拥有不同的接口,包括输入格式、动作表示、推理节奏等,难以直接互相比较。X2Real 通过统一评测协议(Policy Space)将这些差异由适配层统一翻译,相当于给所有模型发了同样的“答题卡”。

通过统一评测协议,X2Real 也大幅降低了评测门槛:开发者不需在本地搭建仿真环境,只需要接入统一模型接口、在本地运行模型推理服务,平台就能在线完成评测判分和轨迹回放工作。这使仿真评测变成开发者触手可及的行业基础设施。

“扎实的度量”将带来“扎实的进步”,仿真评测与模型能力共同成长

具身智能的持续迭代,需要一套能够与模型共同成长的评测体系。X2Real 在真实反映模型能力的基础上,能够提供更加细致的诊断方案,持续参与模型的改进,让每一次评测都成为模型能力下一次增长的起点。

自变量团队相信,建立持续可信的评测反馈机制,是具身智能实现长期持续进步的前提。当模型能力能够被持续验证,失败经验就能被系统地积累,数据、算力与算法资源就能投入到更有针对性的研究方向,提升模型研发的效率。

X2Real 希望为行业建立的,正是这样一个能够伴随模型持续成长的评测基础设施。在具身智能模型发展的道路上,当每一步足迹都可以被丈量、被记录、被评估,最终将汇集成一条通向“物理智能奇点”的康庄大道。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
35岁傅彪儿子,住豪宅生活奢华,单身满头白发,和母亲相依为命

35岁傅彪儿子,住豪宅生活奢华,单身满头白发,和母亲相依为命

生命之泉的奥秘
2026-10-20 05:59:45
A股:不必再等周三开盘了,行情已经十分清晰,明天没有任何意外了

A股:不必再等周三开盘了,行情已经十分清晰,明天没有任何意外了

财经大拿
2026-10-20 12:11:04
加拿大媒体曝出惊人消息!一名华人因参加1979年对越自卫反击战被启动驱逐程序!

加拿大媒体曝出惊人消息!一名华人因参加1979年对越自卫反击战被启动驱逐程序!

水泥土的搞笑
2026-10-20 05:44:22
黄然非被带走,其供职的世界500强魏桥集团会受到牵连吗?

黄然非被带走,其供职的世界500强魏桥集团会受到牵连吗?

微评社
2026-10-20 14:56:28
越南人评价中国:环境很好,科技很发达,不过有一点比不上越南

越南人评价中国:环境很好,科技很发达,不过有一点比不上越南

Hi科普啦
2026-10-19 19:35:20
中央明确:职工提前退休,主要有两种方式

中央明确:职工提前退休,主要有两种方式

微法官
2026-10-20 08:05:28
国家出手了!用大陆盾构机挖边境隧道?这口恶气,中国彻底不忍了

国家出手了!用大陆盾构机挖边境隧道?这口恶气,中国彻底不忍了

疯狂小菠萝
2026-10-20 14:59:27
演员李小冉宣布离婚,其结婚逾十年未生育,曾坦言“没有心理成熟到想去承担这样一个沉重的责任”

演员李小冉宣布离婚,其结婚逾十年未生育,曾坦言“没有心理成熟到想去承担这样一个沉重的责任”

台州交通广播
2026-10-20 00:28:24
原来大家都是这样积累人脉的?网友:我就是这样的人确实贵人不断

原来大家都是这样积累人脉的?网友:我就是这样的人确实贵人不断

另子维爱读史
2026-10-20 11:13:27
中方拒签联合声明,邻国也不签,鲁比奥将登机离国,美方打破常规

中方拒签联合声明,邻国也不签,鲁比奥将登机离国,美方打破常规

揽星戈
2026-10-20 07:19:51
中国籍夫妇在日本被捕!涉嫌利用酒店Wi-Fi发送48万封钓鱼邮件

中国籍夫妇在日本被捕!涉嫌利用酒店Wi-Fi发送48万封钓鱼邮件

日本窗
2026-10-19 19:48:45
拼命还清一亿四千万巨债,曾经的“亮剑女神”,现回浙江农家生活

拼命还清一亿四千万巨债,曾经的“亮剑女神”,现回浙江农家生活

阿绐聊社会
2026-10-20 13:23:50
网传新型卖淫方式又来了,评论区炸锅:当“欲望”撞上“钱包”..

网传新型卖淫方式又来了,评论区炸锅:当“欲望”撞上“钱包”..

慧翔百科
2026-10-19 17:42:05
当年许家印对手下有多疯狂?

当年许家印对手下有多疯狂?

流苏晚晴
2026-10-20 12:09:52
车间实拍流出!特斯拉Roadster高压氮气罐引争议,网友:这要炸了,不死也得死啊

车间实拍流出!特斯拉Roadster高压氮气罐引争议,网友:这要炸了,不死也得死啊

火山詩话
2026-10-20 17:01:23
暗流已经出现?苏联当年的颠覆套路再现中国,接连怪事更值得警惕

暗流已经出现?苏联当年的颠覆套路再现中国,接连怪事更值得警惕

補懂事的孩紙
2026-10-16 11:58:16
一个国家能蠢到什么程度?看看法国就明白了:法国黑人接近800万,巴黎新生儿里70%是黑人

一个国家能蠢到什么程度?看看法国就明白了:法国黑人接近800万,巴黎新生儿里70%是黑人

怪味历史连连看
2026-09-08 01:55:32
蒋介石秘书回忆:世人都说国民党亡于腐败,其实祸根就坏在1944年那一次秘密调防

蒋介石秘书回忆:世人都说国民党亡于腐败,其实祸根就坏在1944年那一次秘密调防

磊子讲史
2026-10-20 16:36:19
李小冉凌晨发文怒斥:删我评论对吧,你那么见不得人吗

李小冉凌晨发文怒斥:删我评论对吧,你那么见不得人吗

南方都市报
2026-10-20 11:01:47
先别说8架F-22打一架歼-20了,接下来可能是1架F-22被8架歼-20打

先别说8架F-22打一架歼-20了,接下来可能是1架F-22被8架歼-20打

兵鉴史
2026-10-19 00:55:01
2026-10-20 20:16:49
前沿在线 incentive-icons
前沿在线
前沿在线官方账号,关注AI、机器人、智能车等前沿领域;
487文章数 1237关注度
往期回顾 全部

新版MiniMax,能和DeepSeek掰手腕吗?

21岁驴友遇难 死前表达"饿了"并解开了手机锁屏密码

21岁驴友遇难 死前表达"饿了"并解开了手机锁屏密码

30天30队·奇才:三状元一榜眼 35胜?

刘恺威承认新恋情,打球认识

抄底万达之后 私募大佬又对恒大下手了

黑科技一次看全 2026奇瑞全球创新大会干货汇总

态度原创

我找到几位大厂优秀女性,问她们为什么战略性怀孕

vivo X500 Pro系列解锁天玑9600 Pro影像与AI全新体验!

痘痘能根治吗?皮肤科医生说实话

2026秋冬大衣流行趋势

《地城安保公司》试玩开放 胜者可命名角色

无障碍浏览 进入关怀版