企业官网建设流程全解析

原文：An Unexpected Robot Policy: Early Evaluations of GPT-6 Astra on RoboDojo and Beyond
作者：Wenbo Zhang 等
arXiv：https://arxiv.org/abs/2609.24170
说明：本文档是按原论文结构编写的中文详细导读与内容整理

0. 摘要

具身智能系统通常可以按“双系统”思路理解：

• System 1（系统 1）：通常是预训练机器人策略，以较高频率把观测转换为动作。
• System 2（系统 2）：通常是具备视觉能力的语言模型，负责高层规划和语义推理。
  本文研究一个问题：不针对具体机器人任务进行微调，大语言模型（LLM）能否直接充当机器人操作策略？ 作者将这种设置称为 LLM as policy（让 LLM 直接充当策略）。

研究团队在 RoboDojo 的全部 42 项任务上评测了三个 LLM，并将结果与 40 个公开机器人策略进行比较。GPT-6 Astra 和 GPT-5.5 遵循每项任务 50 个 episode 的官方评测协议；DeepSeek-Flash 因评测成本原因，每项任务只测试 10 个 episode。

GPT-6 Astra 在2,100 次试验中取得 22.48% 的平均成功率和 28.97 的 Score，高于对比中的所有公开策略。相比之下，采用相同动作后处理方式的 GPT-5.5 和 DeepSeek-Flash，平均成功率分别只有 0.88% 和 1.92%。

Astra 的能力分布并不均衡：在需要语义理解的任务上表现较好，但在高精度控制、动态操作和复杂双臂协同任务上表现较弱。上下文学习实验没有发现单次示范能够整体提升成功率；部分交互轨迹则显示，模型会根据动作执行后的反馈，在同一任务过程中修正后续动作。

总体而言，不同 LLM 的机器人操作能力差异很大。Astra 的结果初步显示，通用语言模型可能具备直接操作机器人的潜力，但在可靠的精细操作和动态控制方面仍有明显限制。

1. 简要介绍

“语言模型能否执行机器人操作？”并不是一个单一的问题，因为模型本身从来都不是整个系统。一个能够正确识别物体的模型，仍然可能无法成功抓取它；一个能够生成看似合理的路径点（waypoint）的模型，仍然可能无法维持与物体的接触。

执行官方指令的冻结 VLA 模型、负责布置场景并将任务交给该 VLA 执行的模型、通过控制框架（harness）自行生成笛卡尔空间运动的模型，以及将原始 API 输出直接发送给机器人的模型，实际上是四种不同的系统，只不过它们恰好使用了同一个基准测试。

RoboDojo 是我们用来衡量上述不同系统性能的基准标准。RoboDojo 是一个统一的仿真与真实世界基准测试，包含 42 项仿真任务和 18 项真实世界任务。它并非仅使用单一的任务成功率进行评分，而是从五个能力维度进行评估：泛化能力（Generalization）、精确性（Precision）、长时序任务能力（Long-Horizon）、记忆能力（Memory）以及开放能力（Open）。

官方仿真评测协议规定，每项任务运行 50 个回合（episode），总计 2100 次试验（trial）；平均成功率（Average SR）则通过对上述五个能力维度进行等权平均计算得出。公开排行榜采用的正是这一评测协议，因此，不遵循该协议得到的数值不能与排行榜上的结果直接比较。

公开排行榜中的参评系统几乎全部是学习得到的策略：这些 VLA 和 WAM 模型检查点通过统一的评测框架进行部署和测试，这一评测框架所回答的问题，与本文试图回答的问题并不相同。

我们并不训练新的机器人策略。我们关注的是：在仅提供一个非学习型控制框架（harness）和官方规定的观测接口约定（observation contract）的情况下，前沿多模态模型能否在相同的任务和奖励机制下，实现闭环控制。

基于学习策略的研究脉络包括 RT-1 [6]、RT-2 [7]、PaLM-E [8]、Open X-Embodiment [9]、Octo [10]、OpenVLA [11]、π0 [12]、Diffusion Policy [13]、ACT [14]、VIMA [19] 和 RoboCat [20]。另一条互补的研究路线，则利用语言模型进行任务规划或生成可执行的控制指令，代表性工作包括 SayCan [15]、Inner Monologue [16]、Code as Policies [17] 和 VoxPoser [18]。

RoboProbe 的不同之处在于：它将前沿模型直接放置在动作执行链路中，同时保持运动控制接口固定不变，并且不通过学习来获得该接口。

为了使这一研究问题能够通过实验进行验证或证伪，RoboProbe 根据动作执行链路中实际承担控制职责的主体，将系统划分为三个层级，如图 2 所示：

• L1：学习型策略（Learned Policy）——由经过训练的策略模型直接产生机器人动作。
• L2：LLM 指挥策略（LLM instructs a policy）——大语言模型只负责向策略模型下达指令，实际动作仍由策略模型生成。
• L3：LLM 直接行动（LLM acts）——大语言模型直接参与动作生成与控制，而不是通过另一个学习型策略来执行动作。
  
  本报告研究的是 L3 层级。在该系统中，GPT-6-Astra 负责规划，harness 是实现机器人控制的方法，而整个动作执行链路中不包含任何 VLA 模型。

GPT-5.5 使用完全相同的 harness 运行，因此，两种模型之间的任何性能差异都不能归因于底层控制原语的不同。所有三个 L3 系统的评测结果均基于单个随机种子（single seed）：Astra 和 GPT-5.5 每项任务运行 50 个回合，结果分别为 28.97 / 22.48% 和 1.13 / 0.88%；DeepSeek-Flash 使用的规划器为 deepseek-flash，每项任务运行 10 个回合，结果为 2.99 / 1.92%。

本报告的其余部分将分为四个步骤展开。

• 首先，评测部分将展示基于单个随机种子得到的结果表，并将其与公开的 VLA 排行榜进行对比。
• 随后，案例研究部分将不再严格遵循上述标准评测协议，而是展示其他实验案例：在Franka 机械臂和双臂人形机器人上开展的关节位置控制实验、移动人形机器人的演示，以及一项钢琴编程控制实验。
• 接下来，研究发现部分将排行榜解读为一条能力发展阶梯：模型已经具备语义理解和空间理解能力，但尚不具备充分的物理常识。该部分还将重新审视上下文学习（in-context learning），认为它应当被理解为一种在线适应机制，而不是一次性的模仿过程。
• 最后，实现部分将把 L3 的定义进一步转化为可执行、可验证的技术方案，并将其具体实现为 Inspect EEF，即一种使用有界笛卡尔空间目标（bounded Cartesian targets）进行控制的方法。

2. 评测

RoboDojo-Sim 上的零样本（Zero-shot）评测是本文的主要实验结果。

三个 L3 规划器均使用相同的RoboProbe 控制框架（harness），并且都采用**单个随机种子（single seed）**进行评测，但它们的测试预算并不相同：Astra 和 GPT-5.5 对每项任务分别测试 50 次，总计 2,100 次试验；DeepSeek-Flash 对每项任务测试 10 次，总计 420 次试验，其中 Generalization（泛化能力）维度的测试分为 5 次标准测试和 5 次随机测试。

凡是出现 DeepSeek 评测结果的地方，均使用符号 † 进行标记。下文重新列出了公开的 VLA 排行榜，以便为各项成功率（SR）数据提供对照参考。本文并未完成官方规定的 RoboDojo-Real 全套评测：由于 Astra多次产生不符合物理规律或存在安全隐患的动作，且其中一些事件造成了硬件损坏，研究人员出于安全考虑中止了测试。

在 Franka 机械臂和双臂人形机器人上开展的诊断性关节位置控制实验，将作为案例研究进行报告，而不属于官方规定的包含 18 项任务的 RoboDojo-Real 评测协议 [1]。

2.1 Zero-shot Results RoboDojo-Sim Benchmark

表 1 按照 RoboDojo 官方评测协议，采用 Score/SR%（得分/成功率百分比） 的单元格格式展示对比结果，并将本文的实验结果与公开的 VLA 排行榜并列呈现。

为了使 Astra、DeepSeek-Flash 和 GPT-5.5 的结果能够清晰展示，精简版表格保留了 15 个模型，未展示的排名则使用省略号表示。Score（得分）按照官方脚本 summarize_result.py 的计算方式，定义为平均过程奖励（mean process reward）乘以 100；Average（平均值）则是五个能力维度的等权平均值，而不是整体微观成功率。

图 3 展示了所有策略的评测结果，其中包括 Astra、GPT-5.5 和 DeepSeek-Flash。

表 2 在官方逐任务（Per-Task）排行榜的基础上，额外加入了两个数据来源：一是来自单随机种子、每项任务运行 50 个回合的实验数据导出文件中的两个官方 LLM 结果列；二是来自 DeepSeek-Flash 单随机种子、每项任务运行 10 个回合的评测实验的结果列，并使用 † 进行标记。

其中，Generalization（泛化能力）维度的各个单元格数值，是标准泛化测试（Gen-Std）与随机泛化测试（Gen-Rand）两项结果的平均值 [1]。

这里我以报告中显示Astra表现较差的精确性为例截的图，后续可以在这些任务上进行研究。

2.2 Zero-shot Results RoboDojo-Real Benchmark

安全原因导致测试中止。 在真实机器人实验过程中，Astra 频繁产生不符合物理规律或存在安全隐患的动作，其中一些事件造成了设备损坏。因此，研究人员中止了测试，并未执行完整的、包含 18 项任务的官方评测协议。

下文所展示的涉及 12 项任务、保留了 33 次试验记录的材料，仅用于诊断和分析模型的实际控制表现。

在安全中止前后保留下来的实验材料共涉及 12 项任务和 33 次试验，每项任务的试验次数不固定，范围为 n = 1–4。实验记录来自三种机器人平台：ARX X5（9 段视频）、Piper（21 段视频）和 Piper X（3 段视频）。这些实验记录不构成一次正式的官方评测，也不属于官方评测提交结果。

汇总得到的 Score（得分）和 SR（成功率）仅用于诊断分析。表 3 中列出的官方完整评测协议参考结果，只用于提供背景和比较参照，不能与本文保留的实验结果直接进行比较。

每次试验的得分均直接取自对应任务目录中的 scores.json 文件。根据保留下来的实验视频和得分记录，stack_bowls 任务中的 trial_8 是唯一一次完全成功的试验。

在 stack_bowls 任务中，trial_4、trial_5 和 trial_6 获得了部分奖励；此外，store_in_safe 任务中的 trial_1 也获得了部分奖励。在得分为零的实验视频中，机器人通常已经尝试接近目标物体、抓取物体或搬运物体，但任务最终的成功判定条件（terminal predicate）仍未得到满足。

3. 案例研究

基准测试得分反映了规划器在 42 项固定任务中能够成功完成任务的频率，但它并不能说明，同一个规划器还能够被用于完成哪些其他任务。

下面的三个案例研究不再遵循 RoboDojo 的标准评测协议，而是在我们认为具有启发意义的实验场景中，进一步探索该规划器的能力范围。这三个案例研究均不会产生能够与上文表格中的 Score（得分）或 SR（成功率）直接比较的结果。

将控制闭环部署到真实硬件上，包括一台 Franka 机械臂和一台双臂人形机器人，并试图区分哪些失败源于规划器自身，而不是基准测试的设计。实验发现，规划器能够正确理解任务的语义，但在抓取可供性（grasp affordance）和闭环控制时序方面表现不佳。

人形机器人演示实验和坐姿抓取任务保留了相同的类型化动作接口（typed-action interface），但更换了机器人本体，改用一台基于 UE5 的移动人形机器人。该机器人必须先行走、转向并坐下，才能伸手触及目标物体。这些实验旨在检验，当任务执行时域变得更长时，原有的动作接口是否仍然有效。

Astra 编写钢琴控制程序则彻底改变了实验设置：模型不再通过 harness 直接执行动作，而是为两只 Shadow 灵巧手编写控制程序，让它们在一架 88 键钢琴上执行任务。该实验旨在考察：当模型将其对物理世界的理解表达为程序代码，而不是逐步生成单个动作时，这种物理理解能力是否仍然能够发挥作用。

3.1 关节位置控制部署实验

RoboDojo-Sim 的评测结果构成了正式的成绩表，但它并不是唯一开展的真实机器人实验。

关节位置控制实验记录了在两种机器人本体上开展的一系列实验：一台Franka机械臂，以及一台配备头部相机和两只腕部相机的双臂人形机器人。这些实验既不属于RoboProbe L3 的 move_eef 控制模式，也不属于包含 18 项任务的官方 RoboDojo-Real 评测协议，因此不报告 Score 或 SR。

这些实验记录真正关注的是：同一个规划器在哪些情况下能够成功完成任务、在哪些情况下会陷入停滞，以及它何时能够理解需要进行的控制修正，却又无法及时将其付诸执行。

在这两种机器人上，研究人员观察到了三个共同现象。

• 任务语义理解较为可靠。 模型通常能够正确理解任务要求及其目标。
• 抓取可供性判断与利用能力并不可靠： 两种机器人都不会主动采用较大幅度的旋转动作，以改善末端执行器与目标物体之间的接触状态。
• 此外，规划器能够提出动态修正策略，例如随着液体流量减小而逐渐增大倾斜角度；但其感知、推理和控制闭环的运行速度不足以支持它及时执行这一修正。
  

人形机器人实验记录还指出，相比于 Franka，模型在该人形机器人上更快地学会了基于关节位置的旋转控制。研究人员推测，这可能与第一人称视角数据（egocentric data）的作用有关。

3.2 人形机器人演示

实验采用相同的类型化动作闭环，但这次部署在一台基于 UE5 的移动人形机器人上。动作接口包括：Walk（行走）、turn（转向）、hand cm（手部位置控制，单位为厘米）、wrist R/P/Y（手腕的滚转角、俯仰角和偏航角控制）以及 close（闭合手部或夹爪）。

图像叠加层（Overlay）显示的是模型发出的动作请求。该实验的任务指令为 target RED（以红色目标为目标物体），执行的动作编号为 004–026，并在动作 022 时发出 close 1.00 指令，即以 1.00 的指令值执行闭合操作。

3.3 长时序坐姿抓取任务

该实验仍然使用相同的动作接口，但任务执行过程更长：目标指令为 target WHITE（以白色目标为目标物体），总时长为 117 秒，动作编号为 001–038。机器人依次完成行走、坐下和坐姿抓取操作，并在动作 037 时执行 close 1.00 闭合指令。

4. 发现

本报告围绕两项核心研究发现展开。

• 第一项发现将零样本评测排行榜解读为一条能力发展阶梯：GPT-6-Astra 的能力已经从语义理解进一步发展到空间理解，但仍然缺乏物理常识。
• 第二项发现则重新审视上下文学习（In-Context Learning，ICL）：单次示范（one-shot demonstrations）几乎没有带来明显帮助，而在机器人本体和动作空间受到扰动的情况下，模型展现出的在线适应能力却出乎意料地强。

适用范围。 上述两项发现均来自本文使用的仿真环境，包括 RoboDojo-Sim 以及在同一套系统中开展的扰动实验。这些发现可能反映了模型在当前实验设置下的潜力，但并不意味着模型在所有场景中都已经具备这些能力，或者在其他场景中也必然能够展现出相同的能力。

4.1 GPT-6 推进了机器人操作能力的发展，但物理常识仍然是主要瓶颈

当前仍然存在的能力差距，被作者称为物理常识（Physical Commonsense） [21]，即模型对接触动力学、力敏感性以及碰撞几何关系所具有的隐式理解能力。

在以下几类任务中，模型的表现会显著下降：

• 高接触密集度任务： 例如插入操作，以及存在摩擦条件下的堆叠任务。
• 高精度任务： 例如对位置容差要求严格的物体放置任务。
• 障碍物规避任务： 例如在杂乱环境中绕过障碍物进行运动。

平均指标掩盖了一种互补的、具有双峰特征的能力分布。

Astra 在公开排行榜的 Score（得分）指标上处于领先位置，但当评测结果被拆分到每一项具体任务时，这种整体领先优势便不再表现为全面领先：在 15 项任务中，Astra 的得分比 DM0.5 高出 5 分以上；在 11 项任务中，Astra 的得分比 DM0.5 低 5 分以上；在剩余的 16 项任务中，两者的得分差距处于正负 5 分以内。

几何对齐、带编号或代数表达的指令，以及由语言指令引导的堆叠或分类任务，更有利于 Astra 发挥其优势；而需要持续接触控制的任务，以及涉及多步骤物理操作流程的任务，则更有利于公开排行榜中的 VLA 模型。

4.2 将上下文学习重新理解为在线适应

GPT-6 在机器人操作任务中展现出了非常强且相对稳健的上下文学习（In-Context Learning，ICL）能力。今年最常见的一种研究范式，是向机器人提供人类示范，让机器人通过模仿示范来获得新技能，这种方法通常被称为单次示范上下文学习（one-shot ICL）。

单次示范：帮助作用出乎意料地有限

这种常见的单次示范上下文学习范式，对 Astra 的帮助非常有限，甚至可能降低模型的表现。示范能够传达任务意图，例如在 press_by_number（按编号按压）任务中，示范可以帮助模型理解应该执行什么操作，但无法直接赋予模型原本欠缺的运动控制技能。

对于那些零样本测试结果为 0/10 的任务，在加入示范之后，采用图像条件输入的实验中仅有 2/150 个回合成功，而采用文本条件输入的实验中则有 0/150 个回合成功。此外，特定场景布局下的接触几何关系也可能误导规划器，导致图像示范和文本示范这两种条件下的表现，均低于对应的零样本基线。

对于能力强大的基础模型而言，基本任务技能已经在一定程度上内化于模型权重之中。在大多数任务中，模型已经能够生成整体趋势合理的运动轨迹，只是还无法达到较高的操作精度。

在这种情况下，来自不同场景布局的单次示范，既不能进一步帮助模型理解任务意图（因为模型本身已经能够理解），也不能提高其操作精度。相反，这种来自分布外场景（out-of-distribution）的示范轨迹，甚至可能主动误导模型，使其产生不恰当的动作。

在线适应能力

真正令人惊讶的是，上下文学习（ICL）以另一种形式表现了出来——即强大的在线适应能力（online adaptation）。测试了多种扰动情况，包括对末端执行器施加随机外力、随机丢弃或遮挡输入信息，以及故意提供错误的机器人状态信息或图像输入。

令我们惊讶的是，Astra 能够通过几轮试错，识别这些扰动并从中恢复。这表明，Astra 具备很强的输入—输出关系理解与协调能力，而这种能力在专门针对机器人训练的策略中并不常见。更重要的是，Astra无需针对这些扰动进行专门训练，就能以零样本（zero-shot）的方式实现这种能力。

交互过程中的鲁棒性测试采用与之前相同的 L3 Inspect EEF 控制框架（harness）、move_eef 工具，以及 general_pickup 任务中的布局 0、1、2、4、7、8、9 和 10。每种布局仅运行 1 个回合（episode），设置 image_horizon = 2，并将规划器调用次数设为 100 次，除非另有说明。

当图像方向或笛卡尔坐标运动方向的符号在未提前告知模型的情况下发生变化时，规划器会比较自己请求执行的动作与实际观测到的结果，并据此进行自我修正（self-repair）。

相比之下，缺失全局视觉信息以及存在 10 厘米的控制抖动，会造成更严重的影响。这是因为目标搜索和精确抓取需要消耗大量交互回合预算，导致模型更难在有限的回合内完成任务。

这种跨机器人本体（cross-embodiment）的适应能力，具体表现为两个不同的层级：

1. 隐式适应：当机器人本体发生变化，或者动作空间受到扰动时，模型从第一轮开始就能够正确执行操作。这种适应在模型内部隐式、无声地完成，外部无法观察到明显的探索或试错阶段。从外部观察者的角度来看，模型的行为就好像这些扰动从未发生过一样。
2. 显式适应：模型观察到实际动作结果与预期结果不一致后，会明确识别这种差异，并通过可观察到的策略调整来进行补偿。这一适应过程是透明、可观察的：模型会在几轮交互之内完成反思、问题诊断和动作修正。

5. Harness on GPT-6-Astra

本文提出的方法是一套 L3 级机器人控制框架（robot harness），而不是一个新的 VLA 模型。语言模型通过调用一组固定的、非学习型的工具接口进行规划，而整个系统中，只有harness 负责将这些工具调用转换为 RoboDojo 所需的关节动作。

GPT-6-Astra 是本文接受测试的规划器，而不是本文提出的方法本身。

一次实验只有同时满足以下三个条件，才被定义为 L3：

• 动作执行链路中不包含任何经过训练的策略模型。
• 每一个运动目标都由已注册的工具接口生成，并通过局部几何计算或关节插值实现。
• 任务是否成功，完全由 RoboDojo 的官方奖励机制判定 [1]。

如果系统使用了预先编写的抓取／放置宏指令、特权访问的物体位姿信息，或者在不告知模型的情况下暗中修改模型输出的数值，那么这次实验就不再属于本文所定义的同一种 L3 方法。

RoboProbe 的三个系统层级

RoboProbe 根据动作执行链路中实际承担控制职责的主体，将系统划分为三个层级。只有当每个层级都具有明确且可执行的判定边界时，这些层级名称才具有实际意义；否则，各种系统都可能被归入听起来最有吸引力的标签之下，导致分类失去意义。

本文使用 Responses API 调用 GPT-6-Astra 作为规划器，默认将推理强度设置为 medium（中等），并且每轮交互只允许调用一次工具。系统中没有部署任何 VLA 模型检查点，也不需要使用 GPU 执行策略模型推理。模型服务仍然通过XPolicyLab 的 WebSocket 通信协议进行交互[2]。因此，仿真环境无法直接区分当前接入的是语言模型规划器还是已部署的策略模型，只能根据最终接收到的动作字典（action dictionary）来判断。

L3 Inspect EEF——笛卡尔空间目标与纯 RGB 输入

三个 LLM 实验组均使用同一套 Inspect EEF 控制框架。该系统属于Inspect Robots [5] 的智能体架构：由一个前沿大语言模型通过工具调用控制机器人本体，每次工具调用执行一个经过审核的运动片段。模型接收三路 RGB相机图像、14 维本体状态信息（proprioception）以及官方任务指令，但不接收具有实际度量尺度的深度信息（metric depth）。

系统只向模型提供两个工具：移动末端执行器，以及放弃当前任务。系统没有用于主动声明任务成功的工具。只有当 RoboDojo 自行判定任务成功后，才会结束相应的评测回合。因此，只要模型仍然获得新的交互轮次，就说明任务目标尚未被环境判定为完成。

本地控制代码首先对模型请求的每一个末端执行器目标施加边界约束，然后将其转换为关节轨迹，并通过插值生成运动片段，最后按照机器人本体的控制频率以开环方式执行该片段。对于双臂桌面机器人，其控制频率为 25 Hz。

上述坐标转换与轨迹插值过程正是 harness 的核心组成部分：模型输出的数值不会被直接写入机器人关节，而是必须经过中间控制层的处理。

GPT-6-Astra 是默认规划器。Astra、作为消融对照的 GPT-5.5，以及 DeepSeek-Flash 均使用相同的 Inspect EEF 工具接口。因此，A/B 对比实验的差异来自规划器模型本身，而不是通信协议或数据格式的不同。

Harness 不会做什么

在主要评测中，harness不会向模型提供真实标注的物体名称、场景布局 JSON 文件、奖励判定脚本的答案，也不会提供作为预言机信息的六自由度物体位姿（oracle 6D pose）。

Harness 不会提供用于声明任务成功的工具。智能体侧的验证机制仅用于指导和调整控制行为，而任务成绩完全由 RoboDojo 自身的奖励机制决定。如果开展使用特权物体位姿信息的变体实验，其结果将作为性能上界（upper bound）单独报告，绝不会与本文表格中的主要实验结果混合。