Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

Pretraining Knows What, Simulation Teaches How: Compositional Generalization in a Sim-Trained Robot Agent

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

68 RADAR
Agents Embodied AI & Robotics · 1 nguồn đối chiếu · 2026-10-26 17:44:34 +0000 UTC

Pretraining Knows What, Simulation Teaches How: Compositional Generalization in a Sim-Trained Robot Agent

Nguồn: arXiv AI
↗

ZAP (Zero-real Agent Policy) là phương pháp huấn luyện chính sách robot kết hợp mô hình thị giác-ngôn ngữ (VLM) 27B có sẵn với tinh chỉnh (SFT) và GRPO hoàn toàn trong mô phỏng qua tool harness. Không cần dữ liệu robot thực tế trong quá trình huấn luyện, ZAP đạt tỷ lệ thành công 96,7% trên thực tế (ngang ngửa GPT-6 Astra nhưng nhanh hơn 3 lần và rẻ hơn 17 lần, vượt trội MolmoAct2 VLA đạt 33,3%), đồng thời khái quát hóa tốt sang các tác vụ mới và cánh tay Franka chưa từng thấy.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

ZAP phá vỡ rào cản chi phí và thời gian thu thập dữ liệu robot thực tế bằng cách chứng minh rằng VLM 27B kết hợp huấn luyện thuần mô phỏng (SFT + GRPO) có thể đạt hiệu năng tương đương hoặc vượt trội các mô hình độc quyền khổng lồ, đồng thời giảm 17 lần chi phí và có khả năng khái quát hóa vượt trội.

Developer 76
Business 79
Novelty 82
Actionable 78

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

A robot policy needs to understand what a task is asking for in a scene, and how to move the robot to accomplish that task. To achieve these two skills, we introduce Zero-real Agent Policy (ZAP), a recipe that teaches a small off-the-shelf vision-language model to control a robot via a simple tool harness. We use a pretrained 27B parameter model to bootstrap world understanding and reasoning, followed by supervised fine-tuning and GRPO on simple simulated tasks to teach it how to move the robot. Without any real-world robot data during training, ZAP reaches 96.7% success on real-world tasks, matching GPT-6 Astra in our harness and outperforming the MolmoAct2 VLA (33.3%), while running 3x faster and 17x cheaper than GPT-6 Astra. We demonstrate that ZAP also generalizes to completely new objects, goals, strategies, and language by seating a test tube in a rack (and choosing a different hole in the rack when prompted), handing a test tube between arms mid-air, drawing an X on a tic-tac-toe board, and playing chess. These goals and types of manipulation don't appear in our training data. Furthermore, ZAP also transfers to an unseen embodiment. On a single-arm Franka, ZAP reaches 55.9% on RoboLab-120, 4.9 percentage points ahead of the leading VLA/WAM baseline.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-10-27 12:43:17 +0000 UTC
{"tags": ["Robotics", "Embodied AI", "Zero-real Agent Policy", "VLM", "GRPO", "Sim-to-Real", "Reinforcement Learning"], "risks": ["Tỷ lệ thành công khi chuyển sang embodiment mới (cánh tay đơn Franka) chỉ đạt 55,9%, cần cải thiện thêm để đạt độ tin cậy công nghiệp.", "Mới kiểm nghiệm trên các tác vụ thao tác bàn (manipulation), chưa được đánh giá trên robot di động hoặc môi trường thực địa phức tạp.", "Phụ thuộc lớn vào chất lượng thiết kế của tool harness và mức độ tương thích giữa mô phỏng với thực tế."], "category": "Agents", "entities": ["Zero-real Agent Policy (ZAP)", "GPT-6 Astra", "MolmoAct2 VLA", "Franka", "RoboLab-120"], "summary_vi": "ZAP (Zero-real Agent Policy) là phương pháp huấn luyện chính sách robot kết hợp mô hình thị giác-ngôn ngữ (VLM) 27B có sẵn với tinh chỉnh (SFT) và GRPO hoàn toàn trong mô phỏng qua tool harness. Không cần dữ liệu robot thực tế trong quá trình huấn luyện, ZAP đạt tỷ lệ thành công 96,7% trên thực tế (ngang ngửa GPT-6 Astra nhưng nhanh hơn 3 lần và rẻ hơn 17 lần, vượt trội MolmoAct2 VLA đạt 33,3%), đồng thời khái quát hóa tốt sang các tác vụ mới và cánh tay Franka chưa từng thấy.", "key_changes": ["Sử dụng VLM 27B có sẵn để cung cấp khả năng hiểu thế giới và suy luận mà không cần huấn luyện lại từ đầu.", "Huấn luyện điều khiển hoàn toàn trong môi trường mô phỏng thông qua SFT và GRPO mà không dùng dữ liệu robot thực tế.", "Điều khiển robot thông qua tool harness đơn giản, đạt tỷ lệ thành công 96,7% trên các tác vụ thực tế.", "Tối ưu chi phí và tốc độ: chạy nhanh hơn 3 lần và rẻ hơn 17 lần so với GPT-6 Astra, vượt trội MolmoAct2 VLA (33,3%).", "Khái quát hóa mạnh mẽ sang các vật thể/nhiệm vụ mới (cắm ống nghiệm, chuyền trên không, vẽ tic-tac-toe, chơi cờ) và chuyển giao sang phần cứng Franka (55,9% trên RoboLab-120)."], "sub_category": "Embodied AI & Robotics", "novelty_score": 82, "business_score": 85, "research_score": 88, "why_it_matters": "ZAP phá vỡ rào cản chi phí và thời gian thu thập dữ liệu robot thực tế bằng cách chứng minh rằng VLM 27B kết hợp huấn luyện thuần mô phỏng (SFT + GRPO) có thể đạt hiệu năng tương đương hoặc vượt trội các mô hình độc quyền khổng lồ, đồng thời giảm 17 lần chi phí và có khả năng khái quát hóa vượt trội.", "developer_score": 80, "importance_score": 85, "possible_use_cases": ["Tự động hóa phòng thí nghiệm: thao tác gắp, đặt ống nghiệm vào khay hoặc chuyển giao mẫu vật giữa các cánh tay robot.", "Lắp ráp linh hoạt trong công nghiệp và logistics với các vật thể hoặc yêu cầu chưa từng xuất hiện trong tập dữ liệu huấn luyện.", "Xây dựng hệ thống điều khiển robot chi phí thấp bằng VLM mã nguồn mở kết hợp mô phỏng, thay thế các mô hình độc quyền đắt đỏ."], "actionability_score": 78}