Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

Pixel-UMI: Learning Environment-Aware Whole-Body Manipulation from Sensorized Human Demonstrations

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

65 RADAR
Research Robotics & Mobile Manipulation · 1 nguồn đối chiếu · 2026-11-02 18:59:32 +0000 UTC

Pixel-UMI: Learning Environment-Aware Whole-Body Manipulation from Sensorized Human Demonstrations

Nguồn: arXiv AI
↗

Pixel-UMI là quy trình học chính sách điều khiển robot di động toàn thân có nhận thức môi trường từ dữ liệu con người đeo cảm biến. Phương pháp giải quyết rào cản khác biệt hình thể (embodiment gap) thông qua: Environment-Aware Retargeting (EAR) giúp sinh tư thế và quỹ đạo tránh va chạm, gán hành động hiệu chuẩn độ trễ, và Retargeting-Error-Aware Masking (REAM) để xử lý lệch góc nhìn quan sát. Đồng thời, hệ thống tích hợp can thiệp trực tiếp từ người qua DAgger cho các tác vụ tiếp xúc lực cao, đạt 87.0% tiến độ nhiệm vụ trên 5 bài đánh giá phức tạp.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Khoảng cách hình thể và sai lệch góc nhìn giữa người và robot là thách thức cốt lõi cản trở việc nhân rộng dữ liệu trình diễn của con người cho robot di động. Pixel-UMI cung cấp giải pháp toàn diện từ tái nhắm mục tiêu nhận biết va chạm, xử lý lệch góc nhìn quan sát, đến bù đắp phản hồi tiếp xúc, giúp giảm chi phí thu thập dữ liệu và thúc đẩy tính tự chủ của robot thao tác toàn thân.

Developer 72
Business 70
Novelty 82
Actionable 70

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

Sensorized human demonstrations offer scalable data for mobile manipulation, but embodiment differences complicate policy learning. We present Pixel-UMI, a pipeline for learning environment-aware whole-body policies from human data. We first introduce Environment-Aware Retargeting (EAR), which combines reconstructed scene geometry with demonstrated head and gripper trajectories to determine robot posture and generate collision-aware joint and base targets. Delay-calibrated action assignment converts these trajectories into actions. However, kinematic differences can leave residual pose errors, creating viewpoint mismatches between human demonstrations and robot observations. We therefore introduce Retargeting-Error-Aware Masking (REAM), which uses these errors during training to reduce reliance on mismatched views at deployment. Finally, because estimated actions cannot fully capture contact-rich interactions, we collect on-policy human corrections through DAgger to improve performance. We evaluate Pixel-UMI on five challenging tasks spanning articulated-object manipulation, deformable-object handling, constrained-space reaching, whole-body collision avoidance, and contact-rich bimanual coordination, achieving 87.0% average task progress. Video results are available at https://pixel-robot.com/pixel-umi

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-11-03 14:29:09 +0000 UTC
{"tags": ["Robotics", "Whole-Body Manipulation", "Imitation Learning", "DAgger", "Embodiment Gap", "Pixel-UMI"], "risks": ["Khác biệt động học (kinematic mismatch) vẫn có thể tạo ra sai số tư thế tồn dư ngoài phạm vi bù đắp của REAM.", "Vẫn phụ thuộc vào việc con người phải can thiệp trực tiếp (DAgger) để tinh chỉnh các thao tác tiếp xúc lực phức tạp.", "Độ tin cậy phụ thuộc vào chất lượng tái dựng hình học không gian 3D môi trường thời gian thực."], "category": "Research", "entities": ["Pixel-UMI", "Environment-Aware Retargeting (EAR)", "Retargeting-Error-Aware Masking (REAM)", "DAgger"], "summary_vi": "Pixel-UMI là quy trình học chính sách điều khiển robot di động toàn thân có nhận thức môi trường từ dữ liệu con người đeo cảm biến. Phương pháp giải quyết rào cản khác biệt hình thể (embodiment gap) thông qua: Environment-Aware Retargeting (EAR) giúp sinh tư thế và quỹ đạo tránh va chạm, gán hành động hiệu chuẩn độ trễ, và Retargeting-Error-Aware Masking (REAM) để xử lý lệch góc nhìn quan sát. Đồng thời, hệ thống tích hợp can thiệp trực tiếp từ người qua DAgger cho các tác vụ tiếp xúc lực cao, đạt 87.0% tiến độ nhiệm vụ trên 5 bài đánh giá phức tạp.", "key_changes": ["Đề xuất Environment-Aware Retargeting (EAR): Kết hợp hình học cảnh 3D tái dựng với quỹ đạo đầu/tay kẹp người để tạo tư thế robot và mục tiêu đế/khớp tránh va chạm.", "Chuyển đổi quỹ đạo thành hành động điều khiển thông qua cơ chế gán hành động có hiệu chuẩn độ trễ (delay-calibrated action assignment).", "Đề xuất Retargeting-Error-Aware Masking (REAM): Tận dụng sai số tư thế do khác biệt động học để giảm phụ thuộc vào các góc nhìn bị lệch giữa camera người và quan sát của robot.", "Áp dụng DAgger thu thập can thiệp/sửa lỗi trực tiếp (on-policy human corrections) giải quyết các tương tác giàu tiếp xúc vật lý.", "Đạt 87.0% tiến độ nhiệm vụ trung bình qua 5 tác vụ phức tạp (thao tác vật thể có khớp nối, vật thể biến dạng, với tới không gian hẹp, tránh va chạm toàn thân và phối hợp hai tay)."], "sub_category": "Robotics & Mobile Manipulation", "novelty_score": 82, "business_score": 72, "research_score": 85, "why_it_matters": "Khoảng cách hình thể và sai lệch góc nhìn giữa người và robot là thách thức cốt lõi cản trở việc nhân rộng dữ liệu trình diễn của con người cho robot di động. Pixel-UMI cung cấp giải pháp toàn diện từ tái nhắm mục tiêu nhận biết va chạm, xử lý lệch góc nhìn quan sát, đến bù đắp phản hồi tiếp xúc, giúp giảm chi phí thu thập dữ liệu và thúc đẩy tính tự chủ của robot thao tác toàn thân.", "developer_score": 75, "importance_score": 78, "possible_use_cases": ["Mở rộng quy mô thu thập dữ liệu huấn luyện robot thao tác di động từ con người thay vì hệ thống teleoperation phức tạp, tốn kém.", "Ứng dụng điều khiển robot di động thao tác vật thể mềm/biến dạng và vật thể có khớp nối trong kho bãi hoặc dịch vụ gia dụng.", "Điều hướng và với tới trong không gian chật hẹp đòi hỏi tránh va chạm toàn thân (whole-body collision avoidance)."], "actionability_score": 70}
← Trang trước Trang 1