强化学习(RL)用交互结果与奖励改进策略,属于学习方法,贯穿运动控制、真机操作与 VLA 后训练。机器人奖励可来自任务检测、规则或人工标注,不等同于语言模型 RLHF。
| 路线 | 学习信号 | 主要成本与限制 |
|---|---|---|
| 仿真在线 RL | 大量交互、任务/跟踪奖励 | 仿真差距、奖励偏差、迁移验证 |
| 真机 RL / 人在回路 | 真实交互、奖励检测、示范与接管 | 重置、探索、人工及硬件时间 |
| 离线经验与 VLA 后训练 | 历史轨迹、价值估计或策略优化 | 覆盖不足、信用分配与评测泄漏 |
当前判断 · 2026-10-10 核查
仿真后训练的真机收益有条件。 DRIVE 的两项短操作在匹配场景的同条件对照中改善视觉扰动鲁棒性;RLinf-VLA 关抽屉的 SFT 与 RL 两组均为 8/10,只有动作质量的定性改善。后者不能被训练吞吐提升改写成成功率增长。原文对照
真实经验可以超越原示范表现,但尚不能据此判定总成本低。 HIL-SERL 的纠正模仿对照、RAPolicy 的共同 SFT 起点支持特定任务的改进;奖励标注、示范、接管、重置及算力仍是条件。在线阶段时长不是总人工时间,也不能外推 RL 普遍取代模仿。后训练证据
历史观察
按发布时点排列,反映本站已收录范围,不代表完整研究时间线。
- 从温度受限到电池受限:不测温度的 Unitree Go2 步态策略
对做机器人本体控制与部署的工程师,可借鉴之处很具体:电机热约束可以在训练阶段用奖励解决,不必把温度塞进策略观测,也不必等真机过热再补救——路径是"先为自家机型辨识一个热模型,再把模型预测的稳态温度作为一项奖励加进现有的行走策略训练",策略输入和部署代码不需要大改,评估结果也不受电机起始冷热影响。 落到工程上有几个前提。其一,每款机型都要自己采数据做辨识:本文热模型只用 Go2 一台机器人的两段运行数据辨识,22 个参数在论文中完整列出,可以照着复现;辨识时先用电气量把参数锚定到物理量纲,再拟合温度。其二,要跑通仿真到实机的迁移,并保证步态能力不被牺牲:论文把新奖励加进原有的行走策略训练流程,并在真机上跑通了含楼梯和坡道的工厂环线。其三,奖励权重要在热余量和跟踪精度之间自己权衡:论文部署的权重在楼梯上多出 18–19 % 的速度跟踪误差,权重再往更激进的方向调时楼梯、粗糙地形和下坡的误差继续上升,而热余量只多 2–4 °C。 范围也要说清:验证只在 Go2 这一种四足机型上做,跨机验证仅涉及另一台 Go2,不能直接外推到双足或人形;带载时按实测步态统计预测的最热稳态温度仍比仿真均值高 4.6 °C(空载高 0.8 °C)。
- TEMPO:面向视觉-语言-动作模型的语义-动作解耦强化学习后训练
对做 VLA 在线后训练的工程师,可借鉴的是一种模块级 RL 拆法:把语义接口和动作专家分到各自的 TD3 循环,用更新频率差去对齐两者不同的适应需求(语义侧慢、动作侧快),同时冻结主干以保住预训练的语义知识。落地前提是模型结构里要有一个可冻结的视觉语言主干,以及一个能与动作专家分开优化的条件接口——作者在 FLOWER 之外把同一方法用到了 VLA-Adapter-Pro(用其原生的分层 key/value 投影充当语义投影模块),SR5 从 77.23% 提到 79.17%,平均连续完成长度从 4.437 提到 4.487。工程代价是两条循环各要维护一套回放缓冲区、评论家等组件。频率设置上,5:1、10:1 相对预训练策略分别高 3.9 与 3.4 个点,而等频 1:1 反而略低,说明收益来自两个模块都参与更新、且两者更新频率存在差别。以上均为作者论文自报,未见独立复现材料。
- SSR:面向开放世界的稳健对称人形行走(作者论文,arXiv:2605.30770v2)
对做机器人本体软件的工程师,可直接借鉴的有三点:一是把落脚安全判断从"触地之后"提前到"摆动腿还在半空",这属于奖励与信号设计层面的改动,不必替换整套控制栈;二是把左右对称增广从输入级(原始深度图)挪到潜变量级,作者称相对对照基线 InpSym 峰值显存 28.8 GB→23.7 GB、单卡可训;三是"深度图 + 单策略 + 不建图"是一套可照抄的落地组合:腰部 D435i 以 60 Hz 采前向深度,640 × 360 裁剪到 36 × 36,Jetson AGX Orin 上 50 Hz 推理。跨平台结果提示方法可换到不同尺寸本体,但需要在目标机型上从头重训,而不是直接迁移同一策略。
- SuperMimic:用单个可微世界模型扩展人形机器人全身控制
对做本体控制栈和训练基础设施的工程师,这篇论文变动的是成本结构:策略更新不再吃仿真器吞吐,rollout 在神经动力学里完成,所以「加卡换提升」这条经验不再成立——对照里 PPO-Sim 从四卡到八卡几乎无增益,而 SuperMimic 单卡 1.2 小时就达到目标回报 0.82;作者报告的对照基线 SONIC 需要 128 张 GPU 跑约 168 小时、约 21,000 GPU 小时。训练栈上要接的东西相对明确:从仿真器记录的转移拟合一个共享的可微世界模型,与策略交替更新;仿真器本身不需要可微,现有的刚体仿真器可以原样保留,这一点对已有 MuJoCo 系仿真管线的团队尤其重要,因为接触不光滑的刚体仿真本来就难做梯度。部署侧的证据是作者自己的真机演示(Unitree G1,一个通用跟踪器、不做逐动作调参,覆盖移动、接触丰富动作和杂技动作),属于论文报告的落地结果,不是厂商声明,但目前只到定性演示层面,没有实机的量化指标。另一条对写控制栈的人有用的经验是价值网络(critic,用于估计想象视野之外的回报)的作用:作者报告带 critic 时可以在更短的想象视野下训练,而且仿真推扰下带 critic 的策略能站稳、不带 critic 的会持续踉跄并在更高推扰速度下摔倒——不过这只是仿真证据,作者没有给出实机推扰的量化对比。
- 真实与仿真数据的 VLA 适配:机器人国际象棋案例研究
对机器人本体软件工程师,这篇论文给出几条可直接照做的判断:挑检查点只能看闭环成功率,验证损失和开环动作误差在这里会选错;比较检查点前必须做一次短的学习率冷却,否则差距可达 31 个百分点;真机演示不足时先用仿真演示预训练,128 条真实演示的量级上仍有明显收益;用策略自身轨迹继续训练这条路,在这篇论文的设置里没测出优于纯行为克隆的收益,可先暂缓投入。
- ScanDreamer:面向四旋翼导航的地图接地世界模型
对做飞行策略的工程师,实用点是:把机器人本来就有的位姿、历史观测和传感器朝向显式写成一张占据图,让进度奖励和“想象”都挂在地图上,而不是指望网络在隐状态里自己记住;同等交互预算下成功率更高、碰撞更少,训练所需数据量也更低。
- DexHOT:把灵巧操作的目标从物体位姿换成手-物构型迁移
对做灵巧手控制与本体软件的工程师,最值得借鉴的是目标接口:把"目标"从物体位姿扩展为手-物关系(论文用一个杯子的例子说明只指定物体状态是不够的)。实现上,上层由贪心规划或一次人类演示给出构型子目标,子目标以 1 Hz 更新;下层一个冻结策略在 30 Hz 上闭环跟踪,负责中间手部动作、手指步态和换握,物体运动与最终手部摆放都能被显式指定。上游来源(规划或演示)与底层控制实现分开,换上游来源时不必重写底层控制。文中所有成功率均为作者在自建基准与自测协议下的自评,尚未见独立复现。
- ROOF:在头顶障碍约束下学习人形机器人的跌倒恢复
对做本体控制与策略部署的开发者,有三处结构可直接借鉴。一是输入侧:几何信息只在训练时用来算奖励,部署时策略只吃机器人自身状态(93 维本体感知),不必再向部署环境索取几何或接触信息,接触也只是训练信号。二是奖励侧:几何引导只反馈“有没有让出空间”,不指定逃离方向或接触顺序,所以同一条策略能应付训练里没见过的家具与多物体布置(真机 150 次尝试中成功 95 次)。三是实现细节:先验得分与起身、平滑项相乘,执行成本与逃离项用加法,因此先验得分低时逃离反馈仍然保留;关节停滞成本用来抑制机器人持续高力矩顶住障碍却几乎没有关节运动的情况。另外要注意,本次材料能比的只有“去掉几何引导”这一项(18.9% 对 88.5%),其余奖励项各自贡献多少无法从材料判断;真机的 95 次成功是次数口径,不能直接当成与仿真同口径的百分比。
展开其余 25 条历史观察
- HandMimicX:通过以物体为中心的策略从第一视角视频学习类人灵巧操作
对做机器人本体软件的工程师,这套流程把“复刻人手轨迹”换成“把物体送达目标状态”:一条第一视角视频即可产出可换位复用的策略,手部姿态又受真实演示的接触约束而不是自由漂移;预训练+按任务微调,以及 DAgger 蒸馏,给出了从仿真训练过渡到真机部分观测的常规接法。
- METATRON:面向人形机器人的可提示全身执行层
对机器人本体软件程序员,这是把"加新任务"从训练问题变成写提示与状态机代码的问题:同一份冻结权重靠改代码复用已学到的运动能力,技能规则还能交给编码智能体去分析动作数据、拟合与迭代。论文的分工也很清楚:执行层负责把粗略目标变成平衡与关节动作,"选目标、长时间规划"仍留在上层任务系统。
- MimicAll:面向跨人形机器人全身动作跟踪的结构化本体条件化
对做本体软件和全身控制策略的工程师,最值得借鉴的是把目标机体的结构、形态、动力学写成显式描述符,作为条件与观测一起送进共享策略,从而用一套参数覆盖多副身体;条件化方式可按目标取舍——论文里自注意力取得最低的全局位置误差,而简单拼接就足以改善动作完成率。工程上,参考库留在主机内存、只把活动的时间窗搬到 GPU,使显存占用不再随完整参考库增长,上千机体变体也能共用同一套训练流程。需要清醒认识的是:本文结论全部来自仿真,换到未见机器人家族会明显失效,真机与安全验证要自行补齐。
- 看好脚下:面向人形机器人行走的预判式感知
对运动控制开发者,值得借鉴的是用预测落脚点筛选策略观察,而非把预测位置作为必须跟踪的落脚目标;作者实验表明,这种输入设计可减少达到指定地形难度所需的训练迭代。
- 在关键处学习:面向局部接触密集操作的自主数据采集与离线强化学习
对操作软件开发的启示是保留抓取、搬运的规划流程,把数据采集与学习集中到精密接触段,并明确接触触发、完成判断等模块接口,而非必须端到端重训整个任务。
- AWLS:面向单步生成式机器人操作策略的优势加权潜空间引导
为已有单步操作策略提供一种保留解码器的离线适配路径;部署端无需保留价值评估器,也不引入迭代去噪或候选动作筛选。
- Humanoid SRL:通过额外肢体增强人形机器人的协同行走与操作
对本体软件开发者,这项研究提供了额外机械臂与全身平衡统一控制、上层视觉规划与底层执行分离的设计参考,而非把第三臂当作独立机械手。
- HydroShear:用于触觉仿真到现实强化学习的水弹性剪切仿真
对触觉控制开发者,这项工作提供了以接触历史和滑移建模改进仿真到真机迁移的路线;工程接入需同时考虑真实数据标定与底层接触模型。
- 价值即记忆:面向通用机器人策略的在线价值引导后训练
将价值预测从训练监督扩展为策略输入,为任务进度记忆与部署经验闭环更新提供了一条经真机消融检验的后训练路径。
- 全身灵巧性
将灵巧操作的学习对象从末端扩展到手臂—躯干之间的接触转换,为粗略遥操指令下维持物体支撑提供了一条技术路径。
- 通过广义执行器网络实现肌肉驱动机器人的仿真到现实迁移
提供了一条无需力矩传感器、将复杂执行器学习与已有刚体仿真结合的策略训练路径;场景增删物体不必重新训练执行器网络。
- 用含失败轨迹微调 Boundless 世界模型:RoboTwin「调整水瓶」的假成功从 82.5% 降到 26.3%
对机器人软件开发者来说用处很具体:世界模型(world model,即根据动作生成后续画面的模型)产出的视频一旦把失败画成成功,就不能拿来判断这一把有没有抓住;这份检查点显示,把失败轨迹喂回世界模型能明显压低这种「假成功」(留出片段上失败误读率由 0.825 降到 0.263,成功召回 0.964)。权重与基座同结构(同一 DiT 扩散变换器与动作编码器状态字典,仅推理权重),可直接替换 `step-12000.safetensors`,接入已有推理管线改动很小。接入时照卡片的推理契约即可:每窗 61 帧(1 初始帧 + 8 历史帧 + 52 未来帧),`num_inference_steps=50`、`cfg_scale=1`、`action_mode=adaln`,动作取 BWM 的 `eef_abs` 空间;卡片还提示发布管线在 50 步推理时历史噪声分支实际不起作用,需要自己加噪。把模型当 PPO 训练场的用法同样出自这份作者材料。
- 基于在线接触式几何估计的负载感知四足机器人导航
将负载几何估计与导航策略连接起来,并用循环记忆保留稀疏接触信息,为未知尺寸负载的导航适配提供了研究路径。
- Reflex:视觉驱动的反应式人形机器人控制
这项作者研究展示了通过共享动力学潜表示、冻结控制器来学习视觉接箱的路径,价值在于解耦视觉学习与全身控制,而非证明通用人形技能。
- 成功的多种路径:面向VLA泛化的多样性驱动强化学习微调
这项作者研究将成功解法的多样性纳入显式优化目标,为改善所测分布偏移下的VLA泛化提供了一种训练思路;这里呈现的是作者实验结果,而非独立研究复现。
- 人形机器人全身控制中的精确 SE(3) 末端执行器跟踪
该研究展示了将显式任务空间几何反馈与学习修正结合的人形全身控制路径,并区分了参考系引入的目标运动与实际动力学扰动。
- 学习用于稳健动态机器人行走的低频运动控制
该研究为学习式运动控制提供一种设计参照:在底层稳定跟踪的条件下,可以考察降低策略更新频率,而非默认追求高频。
- 面向安全人形机器人全身跟踪的滤波器感知微调(CoFiT)
对做机器人本体控制软件的工程师,这是一条"只改跟踪器、不改滤波器"的改造路径:现有安全滤波器继续承担训练后才出现的约束,跟踪策略通过一次带滤波器的微调学会主动少让滤波器动手,真机上把需要急停的次数从五次降为零次、违规时间降低 83%;代价是跟踪精度下降,需按场景取舍。
- CEER2:面向人形机器人移动操作的方向性、可调末端执行器与根部柔顺性
将末端各轴刚度与根部响应分开设定、同时执行,为操作接触与随人移动提供可组合的控制接口。
- 无人机足球:学习利用多旋翼下洗气流进行操控
作者论文为将多旋翼下洗气流作为非接触操控手段提供了真机可行性证据,展示了简化动力学模型配合闭环学习控制的用途。
- ContactExplorer:面向通用灵巧操作的接触覆盖引导探索
作者实验支持将状态条件化接触覆盖作为灵巧操作的探索组件;受限物体取回实验显示,它可减少对人工接触初始化的依赖。
- ZeroBot:借助生成式 Real2Sim 在数分钟内从零学习
作者实验表明,生成几何不仅能用于搭建仿真,还能直接参与接触状态选择,加速特定任务的策略学习与仿真到真机迁移。
- 生成、跟踪、改进:利用强化学习微调运动生成器实现感知式多技能人形机器人运动
作者实验表明,生成器微调可调整技能选择与地形一致性,是跟踪器微调之外的补充改进环节;不据此推断通用运动能力。
- 从预训练到熟练掌握:以最少人工干预开展面向长时程操作的真实世界子任务强化学习
提供一种保留基础策略、用局部奖励集中修补失败环节的适配路径;改进仍以完整任务执行评估,而非只看孤立子任务。
- 赢下已赢之局:面向高维黑箱系统的严格到达—避障—保持控制障碍函数
该工作把安全过滤的目标从单纯避险扩展为保留完成任务及保持成果的可能性。理论区分可行性保持与实际到达:进入终端安全集后的保持具有条件保证,但不能据此宣称任意任务策略都必然有限时间到达。
关联报告
来源与阅读
- Many Ways to Succeed(DRIVE)v1 · §5.3 / Table 2 / 附录 E · 2026-10-10 补充核查;同条件仿真 RL 到真机的成功对照,未报告总人工成本,未独立复现。
- RLinf-VLA v3 · §V · 2026-10-10 核查原文;版本、任务条件及证据类型见 T02 基线依据,未运行复现。
- RLinf-USER v4 · §V / Table II–V · 2026-10-10 核查原文;版本、任务条件及证据类型见 T02 基线依据,未运行复现。
- RECAP v2 · §IV–VII · 2026-10-10 核查原文;版本、任务条件及证据类型见 T02 基线依据,未运行复现。
- HIL-SERL v3 · §3 / §4 / §6 · 2026-10-10 核查原文;版本、任务条件及证据类型见 T02 基线依据,未运行复现。
- RAPolicy:真机在线后训练给出多任务对照 · 2609.22888v1 · 2026-10-10 报告扩编定向核查;§IV-A/C、Table II;作者证据,未独立复现。
- SONIC v4 · §3.2 / Table S3 · 2026-10-10 T05 核查运动模仿的 PPO 跟踪奖励与控制接口;作者证据,未复现。
