Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

From Reasoning to Action: Benchmarking Frontier AI Models on LIBERO-10 Robot Manipulation Tasks

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

63 RADAR
Research Embodied AI & Robotics Benchmark · 1 nguồn đối chiếu · 2026-10-21 17:11:52 +0000 UTC

From Reasoning to Action: Benchmarking Frontier AI Models on LIBERO-10 Robot Manipulation Tasks

Nguồn: arXiv AI
↗

Nghiên cứu công bố khung đánh giá vòng lặp kín thống nhất nhằm thử nghiệm 6 mô hình AI biên (GPT-6 Astra, GPT-6.1 Sol, GPT-6 Luna, Claude Opus 5, Claude Opus 5.5, Gemini-4 Argon) trên benchmark robot LIBERO-10 thông qua quan sát thị giác, proprioception và tool call có cấu trúc mà không cần fine-tune. Qua 1.800 episode thử nghiệm, GPT-6 Astra đạt tỷ lệ thành công cao nhất (44%), theo sau là Gemini-4 Argon (43%). Dù việc tăng cường nỗ lực suy luận (reasoning effort) giúp cải thiện hiệu năng nhưng lại tốn kém chi phí suy luận, đồng thời các mô hình vẫn gặp nhiều hạn chế trước các tác vụ đòi hỏi sự chuẩn xác về không gian và chuỗi hành động phức tạp.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Nghiên cứu xác lập ranh giới thực tế giữa khả năng suy luận trừu tượng của AI biên và năng lực thực thi hành động vật lý đáng tin cậy. Dù mở ra tiềm năng điều khiển robot zero-shot thông qua suy luận và tool call, tỷ lệ thành công dưới 45% khẳng định các mô hình nền tảng vẫn cần kết hợp chặt chẽ với các bộ điều khiển chuyển động chuyên sâu thay vì dựa hoàn toàn vào suy luận độc lập.

Developer 70
Business 60
Novelty 72
Actionable 68

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

Recent advances in frontier AI models have demonstrated remarkable capabilities in visual understanding, reasoning, planning, and tool use, raising the possibility of using general-purpose AI models for robot manipulation without task-specific training. However, their manipulation capabilities have not been systematically evaluated on standardized robotics benchmarks. In this report, we present a unified closed-loop manipulation framework for evaluating frontier AI models on the LIBERO-10 benchmark. Our framework enables models to control a robot directly through visual observations, robot proprioception, and structured tool calls, primarily by specifying target end-effector poses and gripper commands, without task-specific fine-tuning or pretrained manipulation skills. We evaluate six frontier AI models, including GPT-6 Astra, GPT-6.1 Sol, GPT-6 Luna, Claude Opus 5, Claude Opus 5.5, and Gemini-4 Argon, across three reasoning effort levels, resulting in 18 configurations and 1,800 evaluation episodes. Our results show that GPT-6 Astra achieves the highest success rate of 44%, followed by Gemini-4 Argon at 43%. Increasing reasoning effort generally improves manipulation performance, but the benefits vary across models and come at additional inference cost. We also observe substantial differences across tasks, with models performing relatively well on object placement tasks but struggling with precise spatial arrangements and complex multi-step interactions. These findings demonstrate both the potential and limitations of frontier AI models for robot manipulation, highlighting the challenges of translating reasoning capabilities into reliable physical actions. We release our evaluation framework and experimental results to support reproducible benchmarking and future research on reasoning-based robot manipulation.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-10-22 10:07:58 +0000 UTC
{"tags": ["Robotics", "Embodied AI", "LIBERO-10", "Frontier Models", "Benchmarking", "Reasoning-to-Action"], "risks": ["Tỷ lệ thành công cao nhất chỉ đạt 44%, chưa đủ độ tin cậy để ứng dụng trong tự động hóa công nghiệp hay các môi trường an toàn khắt khe.", "Chi phí suy luận và độ trễ tăng cao khi nâng mức reasoning effort, cản trở việc điều khiển phản hồi theo thời gian thực.", "Dễ thất bại khi gặp các tác vụ yêu cầu độ chính xác không gian cao hoặc chuỗi hành động kéo dài nhiều bước."], "category": "Research", "entities": ["GPT-6 Astra", "GPT-6.1 Sol", "GPT-6 Luna", "Claude Opus 5", "Claude Opus 5.5", "Gemini-4 Argon", "LIBERO-10"], "summary_vi": "Nghiên cứu công bố khung đánh giá vòng lặp kín thống nhất nhằm thử nghiệm 6 mô hình AI biên (GPT-6 Astra, GPT-6.1 Sol, GPT-6 Luna, Claude Opus 5, Claude Opus 5.5, Gemini-4 Argon) trên benchmark robot LIBERO-10 thông qua quan sát thị giác, proprioception và tool call có cấu trúc mà không cần fine-tune. Qua 1.800 episode thử nghiệm, GPT-6 Astra đạt tỷ lệ thành công cao nhất (44%), theo sau là Gemini-4 Argon (43%). Dù việc tăng cường nỗ lực suy luận (reasoning effort) giúp cải thiện hiệu năng nhưng lại tốn kém chi phí suy luận, đồng thời các mô hình vẫn gặp nhiều hạn chế trước các tác vụ đòi hỏi sự chuẩn xác về không gian và chuỗi hành động phức tạp.", "key_changes": ["Xây dựng khung đánh giá vòng lặp kín (closed-loop) thống nhất cho mô hình AI biên trên benchmark robot LIBERO-10.", "Điều khiển robot trực tiếp qua quan sát thị giác, proprioception và gọi công cụ (tool call) có cấu trúc mà không cần fine-tuning hay kỹ năng tiền huấn luyện.", "Thực nghiệm trên 6 mô hình AI biên với 3 mức độ suy luận (reasoning effort), tổng cộng 18 cấu hình và 1.800 episode.", "GPT-6 Astra đạt tỷ lệ thành công cao nhất (44%), bám sát phía sau là Gemini-4 Argon (43%).", "Tăng mức độ suy luận (reasoning effort) giúp cải thiện hiệu năng nhưng làm tăng chi phí tính toán suy luận.", "Mô hình đạt kết quả tương đối tốt ở tác vụ đặt vật thể, nhưng gặp khó khăn lớn ở yêu cầu căn chỉnh không gian chính xác và tương tác nhiều bước phức tạp."], "sub_category": "Embodied AI & Robotics Benchmark", "novelty_score": 72, "business_score": 58, "research_score": 85, "why_it_matters": "Nghiên cứu xác lập ranh giới thực tế giữa khả năng suy luận trừu tượng của AI biên và năng lực thực thi hành động vật lý đáng tin cậy. Dù mở ra tiềm năng điều khiển robot zero-shot thông qua suy luận và tool call, tỷ lệ thành công dưới 45% khẳng định các mô hình nền tảng vẫn cần kết hợp chặt chẽ với các bộ điều khiển chuyển động chuyên sâu thay vì dựa hoàn toàn vào suy luận độc lập.", "developer_score": 74, "importance_score": 75, "possible_use_cases": ["Làm benchmark chuẩn mực để đánh giá năng lực chuyển đổi từ suy luận logic sang hành động vật lý của AI đa phương thức.", "Ứng dụng làm bộ điều phối cấp cao (high-level planner) cho robot trong các tác vụ gắp đặt cơ bản không đòi hỏi độ chính xác milimet.", "Thiết kế kiến trúc robot lai (hybrid), kết hợp khả năng suy luận zero-shot của mô hình biên với các bộ điều khiển chuyển động cục bộ chuyên dụng."], "actionability_score": 68}
← Trang trước Trang 1