Skip to content

EGO 数据线 · Danfei Xu 组主线 roadmap

目标:把 Danfei Xu(徐丹飞)组主推的 EGO 线路(人体第一视角数据 → 机器人训练)全部论文按时间/主题排成 roadmap, 作为后续建立「EGO 数据线分析」的底图。全部元数据经 arXiv 逐篇核验(id/title/日期)。


一、时间线(主线脉络,精度核验过)

时间 id 论文 在 EGO 线里的角色
2021-08 2108.03298 What Matters in Learning from Offline Human Demonstrations 种子:系统研究离线人类示范学习的瓶颈
2023-02 2302.12422 MimicPlay (Long-Horizon IL by Watching Human Play) 起点:人类"玩耍"视频 → 隐式潜在计划(play latent) → 分层 IL
2023-10 2310.16917 MimicTouch (Multi-modal Human Tactile Demos) 触觉线:人手触觉示范 → 接触密集策略(补视觉-触觉孔)
2024-10 2410.24221 EgoMimic (Scaling IL via Egocentric Video) 命名锚:EGA 采集体(Project Aria)+低成本双臂+跨域对齐+人机共训
2025-09 2509.19626 EgoBridge (Domain Adaptation for Ego IL) 对齐:OT 度量对齐人/机策略潜在空间
2025-09 2509.04443 EMMA (Scaling Mobile Manip via Ego Human Data) 移动线:人全身动作+静态机器人共训,绕开移动遥操
2026-02 2602.16710 EgoScale (Dexterous with Diverse Ego Human Data) 缩放律:20,854h ego 视频 → VLA,log-linear 缩放律(20倍于前作)
2026-02 2602.22461 EgoAVFlow (Active Vision from Ego) 主动视觉:共享 3D flow 表示,换体无机器人示范
2026-04 2604.07607 EgoVerse (Egocentric Human Dataset, Around the World) 数据平台:1362h/80k 回合,社区化众包数据基建
2026-06 2606.12604 EgoEngine (Ego Videos → High-Fidelity Dexterous Robot) 翻译引擎:ego 视频→高保真机器人观测视频+任务对齐动作
2026-06 2607.00033 CHORD / ContactWrench (Contact Wrench Guidance from Human) 物理/接触线:物体中心的接触力-力矩空间做 RL 引导
2026-07 2607.08436 EgoWAM (World Action Models Beyond Pixels, In-the-Wild Ego) 前沿:用"世界目标"作监督,抽象外观/体不变物理/分离相机运动

另一条平行的人→机迁移/VLA 体涌现支线:2512.22414 Emergence of Human→Robot Transfer in VLA(scale 下自然涌现)。


二、EGO 数据线 · 分层技术栈(科学视角刻画)

 人力 EGO 视频(海量、多样、廉价)
   L0 采集/Capture ── Aria 眼镜(EgoMimic) · 全身(EMMA) · 社区平台(EgoVerse)
   L1 机器人协同设计 ── 为"接得住人数据"而造本体(EgoMimic 低成本双臂,最小化运动学gap)
   L2 表示/对齐 ── play latent(MimicPlay) · OT潜在对齐(EgoBridge) · 跨域对齐(EgoMimic)
   L3 缩放律 ── EgoScale 20k h log-linear 律(用量的经济学)
   L4 翻译/补全引擎 ── EgoEngine(视觉+动作双补全) · EgoAVFlow(主动视觉3D flow)
   L5 世界/物理 ── EgoWAM(世界表示) · CHORD(接触力-力矩)
  机器人可训练监督(可执行、物理可信、可跨本体)

L0 采集 —— “把采集成本结构打下来的基建”

  • EgoMimic:用人体工学的 Project Aria 眼镜采 ego 数据,产"人本体表征数据"(ego视频+3D手追踪)。
  • EgoVerse社区化数据平台——统一采集/处理/访问,个人/实验室/企业都能贡献;当前 1362h/80k 回合。它是"EGO 数据奥运"的基建层(对应我此前 AXIS/Open-AoE 那类平台的 EGO 变体)。
  • EMMA:不采椅子式遥操,改采人全身移动操作数据(拿到移动动作,绕开移动遥操的成本高墙)。

L1 机器人协同设计 —— “让硬件来迁就人数据,而不是反过来”

  • EgoMimic 的核心主张我最看重:不是事后 retarget,而是专门造一个与人类运动学 gap 最小的低成本双臂本体。这把"数据→策略→放下跑"的适配税从算法层挪到硬件层一次付清——是 UMI 哲学在 ego 侧的镜像(UMI 用夹爪手持顺人,EgoMimic 用眼镜+低gap双臂顺人)。

L2 表示 / 对齐 —— “EGO 线真正的立身之本”

  • MimicPlay:人类 play 数据学隐式潜在计划(play latent/VLC),把"人类怎么组织任务"传下去,再用少量机器人示范收敛低级动作。视觉-语义上行、动作-本体下行。
  • EgoBridge:用 Optimal Transport 度量拉近人/机策略潜在空间,同时保住动作相关信息——直接回应"视觉/传感/运动学三重领域差"。
  • EgoMimic:跨域对齐 + 人机共训,把 ego 数据当一等公民与机器人数据合训。

L3 缩放律 —— “EGO 数据的经济学证据(最硬)”

  • EgoScale:在 20,854 小时动作标注 ego 人视频上训 VLA(>20× 前作),挖掘出人数据量 vs 灵巧操作表现的 log-linear 缩放律。这是"数据×训练"纲领最想要的那条曲线——直接证明 EGO 数据供给是一条可预测的规模曲线,不是玄学。

L4 翻译 / 补全引擎 —— “把缺口填成可训监督”

  • EgoEngine:给定 ego RGB 视频,产 (i) 高保真机器人观测视频(换人保机、保留场景/时序对齐) + (ii) 任务对齐动作。它是"视觉 gap + 动作 gap"双缺口的一次性翻译机——和 RoboEdit 同谱,但 Danfei 是"自家 ego + 自家本体"的闭环高保真版。
  • EgoAVFlow:人 ego 的视角是先验带偏的(人类头部习惯 ≠ 机器人相机需要),于是用共享 3D flow 表示同时学操作与主动视觉,机器人端不需要示范即可迁移。

L5 世界 / 物理 —— “超越行为克隆的前沿”

  • EgoWAM:行为克隆把"可迁移内容(物体/场景/任务语义)"和"不可迁移因素(人类形态/头动/风格)"缠在一起。它主张用世界动作模型(WAM)当监督:要求策略不仅预测动作、还预测场景如何演化。核心命题:什么样的世界表示最能促成人→机迁移? → 应抽象外观、捕获体不变物理效应、把相机运动与环境变化分离。这是这组 roadmap 的思想终点。
  • CHORD:接触密集灵巧用物体中心的接触力-力矩空间表示人/机动作,用"对物体诱导的瞬时运动"度量相似性——把"物理/接触可信"变成 RL 引导的通货(呼应我证据清单里的物理/接触线)。

奠基支线 · 人→机迁移是否随规模涌现

  • 2512.22414 TransferVLA:问"VLA 是否像 LLM 一样,在 scale 下从多种监督里自然学会人→机映射"——用简单共训在规模下看涌现。这是从"手工对齐"到"规模涌现"的路线之争,是 EGO 线下一步的最大赌注。

三、科学家视角 · 核心 Insight(判断,不是复述)

I1 · EGO 数据线的瓶颈在读谱式移动:采集(L0)→对齐(L2)→缩放(L3)→世界表示(L5)。 看时间线就清楚作者们自己把难点一路往上搬:MimicPlay 还在"怎么用 play 数据"(表示),EgoMimic 在"怎么采+怎么对齐",EgoScale 在"量够不够/缩放律",EgoWAM 已到"用哪种世界表示才最可迁移"。一个组 5 年自查式推进,本身就是研究纲领最可信的证词。

I2 · 缩放律是"EGO 数据线"成立的第一性证据。 EgoScale 的 20,854h log-linear 律,是这条线上最硬的一张牌——它把"EGO 数据能否规模化"从观点变成可外推的曲线。它的隐含前提是"动作标注的 ego 视频"(要能训 VLA),这提醒:纯被动 ego 视频的"标注成本"藏在 L2/L4(对齐/扩增)里,缩放律成立与否取决于对齐/翻译引擎先到位。

I3 · “硬件迁就数据,而不是数据迁就硬件”是 Danfei 系的签名。 EgoMimic 造低-gap 双臂、UMI 造手持夹爪、KoalaGripper co-design——这条系的共同哲学是让采集体/本体去贴近人,把"适配税"一次性在硬件/采集体设计时付掉,而不是每次在算法层重付。做 EGO 数据线的采集端,复刻这条哲学比加算法更值钱。

I4 · 表示是迁移的上限决定者,且正在从"动作空间"朝向"世界表示"。 从 action space 一路到 EgoWAM 的世界表示,Danfei 系把迁移杠杆从"动作怎么表示"抬到"世界怎么表示(体不变物理/几何)"。这跟我"统一动作空间"专题的终局判断一致:最终的做法是让策略学一个 agent-invariant 的世界/物理模型,动作只当其微分(world model 做重心,动作做投影)。

I5 · 物理/接触是未闭环的硬骨头(最诚实的判断)。 EgoScale 证明"量"有效,但接触密集任务的"接触可信"仍要靠 CHORD 的力-力矩空间或 MimicTouch 的触觉补。ego 视频天生不直接携带力/接触真值(视觉重建拿不到摩擦)——这条线到今天我仍判断:"量化亲和的前沿 + 显式接触/物理监督" 必须合流,EGO 线才算完整(呼应我此前周报里"统一动作空间缺物理/接触可信")。

I6 · 平台化(EgoVerse)是把"数据线"变成"数据生态"的最后一环。 单组产能有天花板,EgoVerse 的社区化把采集从"一个组"放大到"全世界"。它和 AXIS/Open-AoE 一起指向:EGO 数据的胜负手之一是"供给的组织方式",不止是单点算法


四、给「EGO 数据线分析」的落地框架(下一步)

  1. 采集端:复刻 Danfei 系"硬件迁就人"哲学;评估 EgoVerse 平台能否作为自采+社区双轨。
  2. 表示/对齐端:把 EgoBridge(OT对齐)/EgoMimic(跨域对齐) 作为 ego→机器人 的对齐基准;与统一动作空间(JAAS/UCAG-P)做接口对照。
  3. 缩放端:用 EgoScale 的缩放律作为"EGO 数据×训练"的量化锚;设计"对齐成本 vs 训练收益"的边际曲线实验。
  4. 世界端:EgoWAM 的世界表示命题,是我"体不变世界模型"路线的最直接参照系,建议作为专题延伸。
  5. 物理端:把 CHORD(力-力矩)/MimicTouch(触觉) 接入,验证"量化亲和 + 显式接触"合流。
  6. 评测:对比"纯被动 ego"(Open-AoE/EgoVerse 未标注)vs"动作标注 ego"(EgoScale) vs"翻译引擎产物"(EgoEngine)三类监督的迁移收益——这一对照实验是该数据线分析的轴心。