Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

AtomicRL: Atomic Reinforcement Learning for Long-Horizon Robotic Manipulation

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

66 RADAR
Research Robotics & Embodied AI · 1 nguồn đối chiếu · 2026-10-21 17:45:24 +0000 UTC

AtomicRL: Atomic Reinforcement Learning for Long-Horizon Robotic Manipulation

Nguồn: arXiv AI
↗

AtomicRL là khung hậu đào tạo học tăng cường (RL post-training) dành cho các mô hình Thị giác - Ngôn ngữ - Hành động (VLA) trong thao tác robot dài hạn. Phương pháp khắc phục tình trạng gán tín hiệu thưởng bị sai lệch và mất cân đối trong việc thuần thục các tác vụ con bằng hai kỹ thuật: SAPO (giới hạn lan truyền TD residual giữa các ranh giới tác vụ nguyên tử) và BATE (điều phối lấy mẫu và khám phá tập trung vào các điểm nghẽn). Kết hợp với pipeline Real2Sim2Real, AtomicRL cải thiện đáng kể hiệu năng trên các tập benchmark LIBERO-LONG, CALVIN ABC-D và vượt trội 21.3% trên robot thực tế so với PPO.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Khắc phục điểm nghẽn lớn nhất của các mô hình VLA khi mở rộng sang các nhiệm vụ thao tác phức tạp dài hạn: thiếu độ tin cậy do tín hiệu thưởng thưa thớt và hiện tượng một bước lỗi làm hỏng toàn bộ quá trình cập nhật chính sách. Việc phân rã cấp nguyên tử và kết hợp thành công pipeline Real2Sim2Real mang lại tính ứng dụng thực tế cao cho robot tự hành.

Developer 72
Business 67
Novelty 80
Actionable 72

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

Vision-language-action (VLA) models have shown promise in robotic manipulation, but imitation learning (IL) alone often struggles to master complex long-horizon skills. Reinforcement learning (RL) offers an effective avenue for further improving VLA policies. However, existing VLA-RL methods typically suffer from delayed and biased credit assignment due to trajectory-level sparse rewards, while imbalanced subtask mastery creates bottlenecks that limit overall performance. To address these challenges, we propose AtomicRL, an RL post-training framework that leverages atomic task structures for reliable credit assignment and adaptive exploration. AtomicRL introduces Semantic-Aware Policy Optimization (SAPO), which uses semantic-aware gating to constrain TD residuals from failed atomic subtasks from propagating across task boundaries, mitigating credit contamination while preserving intra-subtask credit assignment and value bootstrapping. In addition, Bottleneck-Adaptive Target Exploration (BATE) dynamically coordinates task sampling and local exploration incentives based on the mastery of individual atomic subtasks, directing learning toward the remaining bottlenecks. Finally, we develop a Real2Sim2Real pipeline that bridges online RL in simulation with real-world deployment, facilitating practical transfer to physical robots. On LIBERO-LONG, AtomicRL achieves absolute performance gains of 3.6% and 4.0% over PPO across two VLA architectures. On CALVIN ABC-D, it improves full-task performance by up to 9.5% over PPO. Combined with the Real2Sim2Real pipeline, AtomicRL further improves real-world task performance by an average of 21.3%. These results demonstrate that AtomicRL effectively improves the learning efficiency and manipulation performance of VLA policies on long-horizon tasks.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-10-22 10:06:00 +0000 UTC
{"tags": ["AtomicRL", "VLA", "Reinforcement Learning", "Robotics", "Real2Sim2Real", "SAPO", "BATE", "Long-Horizon Manipulation"], "risks": ["Đòi hỏi định nghĩa và nhận biết chính xác ranh giới ngữ nghĩa của các tác vụ con nguyên tử, có thể gặp khó khăn với các tác vụ phi cấu trúc hoặc liên tục.", "Khoảng cách thực tế - mô phỏng (Sim-to-Real gap) vẫn có thể phát sinh sai số ngoài dự kiến khi môi trường vật lý thay đổi độ ma sát, ánh sáng hoặc va chạm vật lý phức tạp.", "Chi phí tính toán cho việc điều phối lấy mẫu động và huấn luyện online RL cho các mô hình VLA quy mô lớn."], "category": "Research", "entities": ["AtomicRL", "Vision-language-action (VLA)", "Semantic-Aware Policy Optimization (SAPO)", "Bottleneck-Adaptive Target Exploration (BATE)", "Real2Sim2Real", "LIBERO-LONG", "CALVIN ABC-D", "PPO"], "summary_vi": "AtomicRL là khung hậu đào tạo học tăng cường (RL post-training) dành cho các mô hình Thị giác - Ngôn ngữ - Hành động (VLA) trong thao tác robot dài hạn. Phương pháp khắc phục tình trạng gán tín hiệu thưởng bị sai lệch và mất cân đối trong việc thuần thục các tác vụ con bằng hai kỹ thuật: SAPO (giới hạn lan truyền TD residual giữa các ranh giới tác vụ nguyên tử) và BATE (điều phối lấy mẫu và khám phá tập trung vào các điểm nghẽn). Kết hợp với pipeline Real2Sim2Real, AtomicRL cải thiện đáng kể hiệu năng trên các tập benchmark LIBERO-LONG, CALVIN ABC-D và vượt trội 21.3% trên robot thực tế so với PPO.", "key_changes": ["Đề xuất khung hậu đào tạo học tăng cường AtomicRL tận dụng cấu trúc nhiệm vụ nguyên tử (atomic task structures) nhằm xử lý tín hiệu thưởng thưa và cân bằng mức độ làm chủ tác vụ con trong thao tác robot chuỗi dài.", "Giới thiệu Semantic-Aware Policy Optimization (SAPO) sử dụng cơ chế đóng mở nhận biết ngữ nghĩa để ngăn TD residual từ tác vụ con thất bại lan qua ranh giới nhiệm vụ, giảm thiểu nhiễm bẩn tín hiệu thưởng (credit contamination).", "Đưa ra Bottleneck-Adaptive Target Exploration (BATE) tự động điều phối lấy mẫu tác vụ và kích thích khám phá cục bộ dựa trên độ thuần thục của từng tác vụ con để tập trung giải quyết các điểm nghẽn hiệu năng.", "Xây dựng quy trình Real2Sim2Real kết nối huấn luyện RL trực tuyến trong môi trường mô phỏng với triển khai trên robot thực tế.", "Đạt mức tăng hiệu năng tuyệt đối từ 3.6% - 4.0% trên LIBERO-LONG, tới 9.5% trên CALVIN ABC-D so với PPO, và cải thiện trung bình 21.3% trên robot thực tế."], "sub_category": "Robotics & Embodied AI", "novelty_score": 80, "business_score": 68, "research_score": 86, "why_it_matters": "Khắc phục điểm nghẽn lớn nhất của các mô hình VLA khi mở rộng sang các nhiệm vụ thao tác phức tạp dài hạn: thiếu độ tin cậy do tín hiệu thưởng thưa thớt và hiện tượng một bước lỗi làm hỏng toàn bộ quá trình cập nhật chính sách. Việc phân rã cấp nguyên tử và kết hợp thành công pipeline Real2Sim2Real mang lại tính ứng dụng thực tế cao cho robot tự hành.", "developer_score": 75, "importance_score": 78, "possible_use_cases": ["Tối ưu hóa các chính sách VLA cho robot công nghiệp thực hiện chuỗi tác vụ lắp ráp, gắp đặt nhiều giai đoạn phức tạp.", "Ứng dụng vào robot dịch vụ và gia dụng cần tương tác với vật thể theo các chỉ lệnh ngôn ngữ dài hạn.", "Ứng dụng quy trình Real2Sim2Real để giảm thiểu chi phí và hao mòn phần cứng khi huấn luyện kỹ năng robot trong mô phỏng trước khi triển khai thực địa."], "actionability_score": 72}