它是什么,解决什么问题
本主题覆盖物理/功能/交互安全、网络安全、隐私、异常退化。它属于“评测、可靠性、安全与治理”,用于理解这一组能力、方法或产业对象的边界。
范围与比较维度
- 物理/功能/交互安全
- 网络安全
- 隐私
- 异常退化
需要持续回答
- 记录能力主张的测量方法、样本、条件和失败边界,区分安全设计、标准适用与实测证据。
当前知识边界
本页为范围入口,代表路线与证据尚待补充。
历史观察
按发布时点排列,反映本站已收录范围,不代表完整研究时间线。
- ContactGuard:基于动作条件潜空间世界模型的接触前执行监控
对做本体软件的开发者,它可以当一个策略外的门禁模块:夹爪闭合前先问一次“这段动作块会不会失败”,不行就在接触前否决,底层策略不用改,单卡即可实时(RTX 5090 上完整判别约 22 毫秒)。代价是每个任务要凑一批带标注的接触前片段来训那个线性探针,并针对具体接触事件设计触发器。
- 先认证,再选择:面向冻结扩散策略的可行性感知运行时转向(CAST)
对机器人本体软件工程师来说,这套做法的吸引力在于不碰策略权重:只在决策循环里加一层“采样—认证—选择”,冻结的扩散策略遇到新约束时还能把任务做完,不必为每条约束重训。代价在算力——CAST-V 的前瞻让决策时间变成 CAST 的 10–50 倍。另外要自行训练任务评分器;当请求改变“哪种行为能成功”时,还要改用能看到请求参数的评分器。文中所有数字都来自仿真。
- PingpongDuo:带安全团队协作的敏捷人形乒乓球双打
对做机器人本体控制和策略上线的工程师,这套做法把“多台机器人共享狭窄空间”的协调问题拆成了可分层实现的结构:上层用带风险检查的联合站位选择加按角色加权的回退来管互撞;下层把移动与击球分开训练,并显式用彼此产生的身体状态做初始化,以支持技能之间的连续交接;手臂残差那条路还给出一个具体提醒——球拍跟踪误差更小未必回球更好,需要按实际回球结果来修正击球动作。
- LEASH:给智能体机器人套上安全绳——三道闸门加共享策略的模型无关安全层
对做机器人本体软件和智能体框架的工程师,这篇工作给出两件能直接用的东西:一层与模型无关、能插进几乎任何智能体框架的安全层(三道闸门加一份规划器与三闸门共用的安全策略),以及一个把语义风险落到闭环执行上的评测任务集。安全层把规划器当黑盒,不需要重训,新模型发布后即可套用;代价也很小,端到端时间只多 1.66%,闸门成本约占单次运行总成本的 0.66%。实际收效取决于两件事:规划器是否遵守那份共享策略、闸门用的决策模型判得准不准——在能力弱的规划器上改善有限,GPT-6 Luna 与 Grok 4.7 即使加上 LEASH 仍有明显残余伤害。
- 探测视觉语言模型的"碰撞接地"能力:TouchSafeBench 基准显示机器人撞场景比撞人更难被识别
对做机器人本体软件与部署的人,最可用的结论有三条。其一,VLM 的短板不在"看不清"而在"绑不准",输入侧需要补上以机器人本体为中心的几何线索,例如本体坐标系标记、标定的相机到本体变换、机器人足迹叠加。其二,"识别当前是否接触"与"预警即将接触"要用不同的输入组合:俯视轨迹图压误报但会让当前接触识别变差,最好的预警分又来自彩色化深度的单视角输入,因此评测与调参必须按任务分开做。其三,误报与漏报要分开看,一个"从不报警"的监控器在这个基准上并不更安全——带机器人预训练的模型误报更低,却并没有更高的综合 F1。以上均为作者论文的评测结论与设计建议,材料中未见第三方独立复现,也不代表真实产品中的部署效果。
- PhantomTac:利用部署后无需值守的标签劫持机器人触觉系统
对本体软件开发者,论文提示应检查触觉反馈与电机负载、运动状态是否一致,而不只依赖单一触觉阈值;这是作者提出的防御方向,并非已验证的部署效果。
- ICAT:基于事故案例的具身世界模型物理风险预测自适应测试
对将生成视频接入机器人规划或策略学习的团队,ICAT提供了分开检查“场景是否保留、动作是否完成、危险后果是否出现”的诊断思路,而非只凭视频看起来合理判断可靠性。论文未测量遗漏后果对下游决策的实际影响。
- 用于连续物理人机交互的亚毫秒级反射
为 ROS 2 控制系统提供减少模式切换中断、衔接反射响应的工程路径,而非要求采用单一统一控制策略。工程开放仅按论文声明表述,不等同于独立研究复现。
展开其余 9 条历史观察
- 从光流到安全:通过无尺度相对运动实现视觉安全认证
该工作的技术意义在于尝试直接以光流中的相对运动构造显式安全约束,并将估计不确定性纳入碰撞锥几何;材料支持的是作者在所述条件下的实现与验证,不支持跨方法性能排名或通用安全能力结论。
- 为学习而规划:在 GPU 上实现具有未来学习保证的实时鲁棒自适应控制
将未来可保证的学习收益直接纳入鲁棒规划,使控制器能够利用预期的管束收缩,并选择有助于降低参数不确定性的运动。
- 成功但不安全:揭示视觉与语言导航中碰撞的分析性基准
该工作为导航评测补充了“成功是否无碰撞”的维度,也说明报告成绩时应交代碰撞处理机制,不能只凭任务成功率判断安全性。
- 一种用于协作机器人运动生成的物理信息碰撞学习框架
为固定工作单元中的双臂规划提供可微的实体间距信号,并展示了边界监督与闭环控制结合的路径。
- RT-Safe:实时具身环境中的智能体安全基准评测
该研究提示,导航评测应同时考察任务完成、安全事件与响应延迟;完成率相近可能掩盖显著不同的安全表现。
- StressDream:引导视频世界模型,用于鲁棒策略评估与改进
该研究展示了用引导生成筛查候选轨迹失败风险、并以悲观生成辅助示范重加权的路径;证据限于作者所评估的设置,不外推为通用策略能力。
- 面向端到端驾驶安全评估的可控、照片级真实行人危险动作生成
为端到端驾驶提供兼顾行人动作控制与视觉渲染的风险场景生成路径,可用于部署前安全测试。
- 面向安全人形机器人全身跟踪的滤波器感知微调(CoFiT)
对做机器人本体控制软件的工程师,这是一条"只改跟踪器、不改滤波器"的改造路径:现有安全滤波器继续承担训练后才出现的约束,跟踪策略通过一次带滤波器的微调学会主动少让滤波器动手,真机上把需要急停的次数从五次降为零次、违规时间降低 83%;代价是跟踪精度下降,需按场景取舍。
- 赢下已赢之局:面向高维黑箱系统的严格到达—避障—保持控制障碍函数
该工作把安全过滤的目标从单纯避险扩展为保留完成任务及保持成果的可能性。理论区分可行性保持与实际到达:进入终端安全集后的保持具有条件保证,但不能据此宣称任意任务策略都必然有限时间到达。
