Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

What Matters in Quality-Aware VLA Pretraining: A Benchmark and Empirical Study

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

66 RADAR
Research Robotics & VLA Pretraining · 1 nguồn đối chiếu · 2026-10-13 17:59:52 +0000 UTC

What Matters in Quality-Aware VLA Pretraining: A Benchmark and Empirical Study

Nguồn: arXiv AI
↗

Nghiên cứu và benchmark AXIS-Bench khảo sát thực nghiệm các phương pháp khai thác chất lượng dữ liệu thao tác (weighting, filtering, conditioning) khi pretrain mô hình Vision-Language-Action (VLA) từ 5.000 mẫu biểu diễn suboptimal của con người trên 24 tác vụ. Kết quả cho thấy approach-aware episode conditioning vượt trội hơn behavioral cloning tiêu chuẩn; conditioning tối ưu với nhãn cấp episode trong khi filtering tối ưu với nhãn cấp chunk; đồng thời pretraining trên mô phỏng nâng tỷ lệ thành công trên robot thật từ 9,6% lên 31,7%.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Nghiên cứu giải quyết nút thắt lớn nhất của AI cho robot: chi phí và độ khan hiếm của dữ liệu thao tác hoàn hảo từ con người. Bằng cách chứng minh dữ liệu bán tối ưu (suboptimal) vẫn có thể mang lại hiệu quả cao thông qua conditioning và constant-tag fine-tuning, cùng sự hỗ trợ của benchmark AXIS-Bench, công trình giúp hạ thấp đáng kể rào cản dữ liệu và nâng cao năng lực sim-to-real của các mô hình VLA.

Developer 73
Business 67
Novelty 78
Actionable 75

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

How should demonstration quality be used during vision-language-action (VLA) pretraining to improve performance after target-task fine-tuning? We compare weighting, filtering, and conditioning across reward definitions and label granularities using 5,000 naturally suboptimal human demonstrations and 24 target tasks. Within each VLA, we match demonstrations and training budgets. Additional comparisons examine pretraining data size and the roles of quality tags during fine-tuning and inference. Across three VLAs, we find that approach-aware episode conditioning improves mean success over plain behavioral cloning; conditioning and filtering favor episode and chunk labels, respectively, on average, with model-dependent reversals; and constant-tag fine-tuning improves mean success after conditioned pretraining with either tagged or untagged inference. We introduce AXIS-Bench to support these controlled comparisons. Built on crowdsourced simulation demonstrations, it provides recorded object and contact states for recomputing quality labels on shared trajectories. Replayable trajectories support workspace-aligned rendering and user-defined real-world target tasks. In our real-world experiment, simulation pretraining raises success from 9.6\% to 31.7\%. Project page: https://axis-bench.github.io/.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-10-14 13:09:13 +0000 UTC
{"tags": ["VLA", "Vision-Language-Action", "Robotics", "Pretraining", "AXIS-Bench", "Behavioral Cloning", "Quality Conditioning", "Sim-to-Real"], "risks": ["Hiện tượng đảo chiều phụ thuộc mô hình (model-dependent reversals) khiến quy tắc chọn nhãn không áp dụng đồng nhất cho mọi kiến trúc VLA.", "Tỷ lệ thành công thực tế sau pretrain đạt 31,7%, vẫn đòi hỏi fine-tuning bổ sung cho các tác vụ công nghiệp đòi hỏi độ tin cậy tuyệt đối.", "Khoảng cách sim-to-real và độ phức tạp khi thu thập trạng thái tiếp xúc chi tiết ngoài đời thực."], "category": "Research", "entities": ["AXIS-Bench", "VLA", "Vision-Language-Action"], "summary_vi": "Nghiên cứu và benchmark AXIS-Bench khảo sát thực nghiệm các phương pháp khai thác chất lượng dữ liệu thao tác (weighting, filtering, conditioning) khi pretrain mô hình Vision-Language-Action (VLA) từ 5.000 mẫu biểu diễn suboptimal của con người trên 24 tác vụ. Kết quả cho thấy approach-aware episode conditioning vượt trội hơn behavioral cloning tiêu chuẩn; conditioning tối ưu với nhãn cấp episode trong khi filtering tối ưu với nhãn cấp chunk; đồng thời pretraining trên mô phỏng nâng tỷ lệ thành công trên robot thật từ 9,6% lên 31,7%.", "key_changes": ["Đề xuất tiếp cận có điều kiện theo tập (approach-aware episode conditioning) giúp cải thiện tỷ lệ thành công trung bình so với behavioral cloning thuần túy.", "Xác định quy luật phân giải nhãn: Conditioning ưu tiên nhãn cấp episode, trong khi filtering ưu tiên nhãn cấp chunk (có hiện tượng đảo chiều tùy thuộc mô hình).", "Fine-tuning với nhãn cố định (constant-tag fine-tuning) sau conditioned pretraining giúp cải thiện tỷ lệ thành công trung bình ở cả suy luận có tag và không tag.", "Giới thiệu AXIS-Bench hỗ trợ so sánh kiểm soát với dữ liệu mô phỏng crowdsourced, lưu trạng thái tiếp xúc và vật thể để tính toán lại nhãn chất lượng.", "Chứng minh pretraining bằng mô phỏng nâng tỷ lệ thành công trong thử nghiệm thế giới thực từ 9,6% lên 31,7%."], "sub_category": "Robotics & VLA Pretraining", "novelty_score": 78, "business_score": 68, "research_score": 88, "why_it_matters": "Nghiên cứu giải quyết nút thắt lớn nhất của AI cho robot: chi phí và độ khan hiếm của dữ liệu thao tác hoàn hảo từ con người. Bằng cách chứng minh dữ liệu bán tối ưu (suboptimal) vẫn có thể mang lại hiệu quả cao thông qua conditioning và constant-tag fine-tuning, cùng sự hỗ trợ của benchmark AXIS-Bench, công trình giúp hạ thấp đáng kể rào cản dữ liệu và nâng cao năng lực sim-to-real của các mô hình VLA.", "developer_score": 76, "importance_score": 80, "possible_use_cases": ["Tận dụng dữ liệu thao tác crowdsourced hoặc telemetry con người không hoàn hảo để pretrain mô hình robot VLA chi phí thấp.", "Huấn luyện mô hình VLA trong môi trường mô phỏng (AXIS-Bench) trước khi chuyển giao sim-to-real lên cánh tay robot thực tế.", "Tối ưu hóa chiến lược dán nhãn chất lượng (episode vs chunk) và phương pháp khai thác (conditioning vs filtering) theo từng kiến trúc robot."], "actionability_score": 75}