共计 1187 个字符,预计需要花费 3 分钟才能阅读完成。
探索 RSI, 生数新世界模型让机器人开始自我进化
📌 从“看到 A 做 B”到“预测—评估—改进”
传统机器人策略模型学的是统计关联: 看到某状态就执行某动作,却不理解动作为何能带来期望结果。环境一变, 策略就容易失效。Motus2 的核心变化, 是把三种能力放进同一个模型:
- 行动: 世界动作模型生成动作, 回答“接下来做什么”;
- 预测: 条件动作世界模型预测后果, 回答“做完会发生什么”;
- 评估: 价值模型评估结果, 回答“这个结果好不好”。
三者形成闭环: 生成动作→预测后果→评估结果→更新策略。模型自己预测和评估出的结果 , 成为改进自身策略的反馈, 这正是对递归自我改进(RSI) 的一次初步探索。
🔍 Action-first: 先做动作, 再预测后果
Motus2 采用 Action-first 信息流: 先根据当前观测生成动作,再预测动作带来的结果, 最后评估结果好坏。推理阶段用 Best-of- N 规划, 模型先想好几个候选动作, 分别脑补执行画面, 由价值模型打分, 挑最高分执行; 执行一小段后重新观察真实世界, 再开启下一轮。训练阶段, 候选动作的打分转化为策略更新信号, 分数高的方案得到更强正向引导, 分数低的逐渐被放弃。团队称之为“基于模型的强化学习”。
💡 触觉与记忆: 补上视觉缺失的信息
灵巧操作中,视觉能看到物体位置和姿态, 却很难完整判断接触状态。比如撕厨房纸, 两只手位置看起来正确, 不代表纸已被稳稳夹住。Motus2 加入轻量级触觉专家模块, 在短动作片段执行前读取最新触觉反馈, 进一步细化动作。该模块复用主模型已算出的中间结果, 兼顾反馈频率和计算开销。在抽取纸杯、撕纸两项真机任务中, 加入触觉后平均成功率从 60% 提升至 72.5%。
记忆解决的是另一类问题: 方块被藏进三个杯子中的一个,杯子重新摆放后, 只看当前帧已判断不出目标在哪, 机器人必须记得刚才发生了什么。Motus2 默认缓存近期真实观测, 在寻找隐藏方块、根据历史提示操作按钮两项测试中, 保留完整历史信息的方案平均成功率达到 57.5%, 明显高于压缩历史信息的方案。这说明对于依赖长期上下文的任务, 历史信息本身就是决策的一部分。
📊 人类 Ego 数据迁移到高自由度灵巧手
Motus2 选择把人类第一视角操作经验作为主要数据来源,再逐步迁移到机器人身上。训练分三步: 单目 Ego 视频预训练, 学习基础物体和场景变化规律; 引入双目视频和人类动作数据, 学习更细粒度的手部与物体交互; 机器人领域适配训练, 把前两步学到的经验迁移到机器人控制空间。整套 Ego 数据体系规模约 13 万小时人类第一视角数据, 配上百小时级机器人及人机对齐数据。
🚀 从“能行动”到“会反思”还有多远
围绕“探索 RSI, 生数新世界模型让机器人开始自我进化”,这一部分可从背景、现状与影响三个角度理解其关键信息。结合已公开内容来看,核心结论是趋势已较为明确,但细节仍需结合后续进展持续观察。