Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

CuraEval: Evaluating Demonstration Curation on Mixed-Skill Robot Data

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

58 RADAR
Research Robot Learning / Data Curation · 1 nguồn đối chiếu · 2026-10-28 03:19:23 +0000 UTC

CuraEval: Evaluating Demonstration Curation on Mixed-Skill Robot Data

Nguồn: arXiv AI
↗

Nghiên cứu giới thiệu CuraEval, một khung đánh giá chuẩn hóa nhằm kiểm định các phương pháp chọn lọc dữ liệu biểu diễn (demonstration curation) hỗn hợp kỹ năng trong học bắt chước robot sử dụng Diffusion Policy và BC-RNN trên bộ dữ liệu robomimic. Kết quả chỉ ra rằng chỉ số chấm điểm PSD thực chất tương quan gần như tuyệt đối với độ dài tập biểu diễn (ρ=0.999 trên nhiệm vụ square). Mặc dù việc lọc lấy 50% biểu diễn ngắn nhất giúp tăng tỷ lệ thành công của Diffusion Policy từ 70.7% lên 76.5%, một số phương pháp phức tạp như geometric-entropy LOO lại hoạt động kém hơn cả lấy mẫu ngẫu nhiên. Đáng chú ý, sau khi áp dụng hiệu chỉnh Holm, không có phương pháp lọc nào cho thấy sự vượt trội có ý nghĩa thống kê so với việc huấn luyện trên toàn bộ dữ liệu. Mã nguồn đã được công khai trên GitHub.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

CuraEval mang lại góc nhìn phản biện quan trọng đối với xu hướng lọc dữ liệu trong robot learning, chứng minh rằng các thuật toán phức tạp thường chỉ tái hiện các heuristic đơn giản (như chọn thao tác ngắn) và các cải thiện trước đây dễ bị ảnh hưởng bởi giao thức đánh giá thiếu chặt chẽ, giúp cộng đồng tránh lãng phí nguồn lực nghiên cứu.

Developer 66
Business 56
Novelty 70
Actionable 65

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

Robot imitation learning uses demonstrations from operators of varying skill, but selecting training data remains challenging. Existing methods score demonstrations using smoothness, diversity, or estimated influence on policy performance, but differences in selection and evaluation protocols make it difficult to determine whether they outperform simple baselines. We introduce \textbf{CuraEval}, a framework combining mathematical analysis of demonstration scores with controlled comparisons against fixed size-matched random subsets and full-data training on mixed-skill robomimic data using Diffusion Policy and BC-RNN. We show that the evaluated PSD score depends only on episode length and squared position magnitudes, and produces nearly the same ranking as episode length on \textit{square} ($ρ=0.999$). With Diffusion Policy, selecting the shortest 50\% of demonstrations improves \textit{square} success from 70.7\% under random selection to 76.5\%. Compared with random selection, our adapted geometric-entropy LOO selector reduces success at 25\% retention from 94.7\% to 74.0\% on \textit{can} and achieves 41.7\% on \textit{square}, below the mean success rates of all three independently sampled random subsets (59.8--62.5\%). On the same 3 \textit{square} Diffusion Policy training seeds, length-based selection at 75\% retention improves success over full-data training from 76.7\% to 86.7\% under the original protocol, but lowers it from 80.5\% to 79.5\% after checkpoint reporting, rollout count, and evaluation seed change jointly. No evaluated curated condition significantly outperforms full-data training after Holm correction, although confidence intervals still permit useful gains. Code is available at https://github.com/jiuyixu25/CuraEval.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-10-30 09:03:25 +0000 UTC
{"tags": ["Robot Learning", "Imitation Learning", "Data Curation", "Diffusion Policy", "Robomimic", "CuraEval", "BC-RNN"], "risks": ["Kết quả chọn lọc dữ liệu rất nhạy cảm với giao thức đánh giá (seed, rollout count, checkpoint); thay đổi giao thức có thể làm đảo chiều từ tăng hiệu năng thành giảm hiệu năng.", "Các phương pháp chọn lọc biểu diễn phức tạp có nguy cơ làm giảm hiệu suất xuống thấp hơn cả lấy mẫu ngẫu nhiên đơn giản.", "Chưa có bằng chứng thống kê vững chắc (sau hiệu chỉnh Holm) cho thấy việc lọc dữ liệu vượt trội hơn huấn luyện trên toàn bộ tập dữ liệu gốc."], "category": "Research", "entities": ["CuraEval", "Diffusion Policy", "BC-RNN", "robomimic", "GitHub"], "summary_vi": "Nghiên cứu giới thiệu CuraEval, một khung đánh giá chuẩn hóa nhằm kiểm định các phương pháp chọn lọc dữ liệu biểu diễn (demonstration curation) hỗn hợp kỹ năng trong học bắt chước robot sử dụng Diffusion Policy và BC-RNN trên bộ dữ liệu robomimic. Kết quả chỉ ra rằng chỉ số chấm điểm PSD thực chất tương quan gần như tuyệt đối với độ dài tập biểu diễn (ρ=0.999 trên nhiệm vụ square). Mặc dù việc lọc lấy 50% biểu diễn ngắn nhất giúp tăng tỷ lệ thành công của Diffusion Policy từ 70.7% lên 76.5%, một số phương pháp phức tạp như geometric-entropy LOO lại hoạt động kém hơn cả lấy mẫu ngẫu nhiên. Đáng chú ý, sau khi áp dụng hiệu chỉnh Holm, không có phương pháp lọc nào cho thấy sự vượt trội có ý nghĩa thống kê so với việc huấn luyện trên toàn bộ dữ liệu. Mã nguồn đã được công khai trên GitHub.", "key_changes": ["Đề xuất CuraEval - khung đánh giá kết hợp phân tích toán học và so sánh đối chứng chặt chẽ cho các phương pháp chọn lọc dữ liệu biểu diễn đa kỹ năng trong robot imitation learning.", "Chứng minh điểm PSD về bản chất chỉ phụ thuộc vào độ dài episode và độ lớn vị trí bình phương, đạt tương quan thứ hạng ρ=0.999 với độ dài episode trên nhiệm vụ square.", "Xác định heuristic chọn 50% biểu diễn ngắn nhất giúp tăng tỷ lệ thành công của Diffusion Policy trên nhiệm vụ square từ 70.7% (ngẫu nhiên) lên 76.5%.", "Chỉ ra bộ chọn lọc geometric-entropy LOO suy giảm hiệu năng mạnh so với lấy mẫu ngẫu nhiên (từ 94.7% xuống 74.0% trên task can).", "Khẳng định sau hiệu chỉnh thống kê Holm, không có điều kiện chọn lọc nào vượt trội có ý nghĩa thống kê so với việc huấn luyện trên toàn bộ dữ liệu.", "Công bố mã nguồn mở tại https://github.com/jiuyixu25/CuraEval."], "sub_category": "Robot Learning / Data Curation", "novelty_score": 70, "business_score": 55, "research_score": 85, "why_it_matters": "CuraEval mang lại góc nhìn phản biện quan trọng đối với xu hướng lọc dữ liệu trong robot learning, chứng minh rằng các thuật toán phức tạp thường chỉ tái hiện các heuristic đơn giản (như chọn thao tác ngắn) và các cải thiện trước đây dễ bị ảnh hưởng bởi giao thức đánh giá thiếu chặt chẽ, giúp cộng đồng tránh lãng phí nguồn lực nghiên cứu.", "developer_score": 70, "importance_score": 72, "possible_use_cases": ["Kiểm chuẩn và thẩm định các thuật toán chọn lọc dữ liệu biểu diễn của robot trước khi triển khai huấn luyện diện rộng.", "Áp dụng tiêu chí lọc theo độ dài biểu diễn ngắn để tiết kiệm chi phí tính toán thay thế cho các thuật toán scoring phức tạp.", "Thiết lập quy trình chuẩn để kiểm soát bias về seed, số lượng rollout và checkpoint trong nghiên cứu robot học bắt chước."], "actionability_score": 65}
← Trang trước Trang 1