Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

PermVLA: Factorization Order as a Regularizer for VLA Learning

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

62 RADAR
Research Vision-Language-Action (VLA) · 1 nguồn đối chiếu · 2026-10-03 17:15:26 +0000 UTC

PermVLA: Factorization Order as a Regularizer for VLA Learning

Nguồn: arXiv AI
↗

Nghiên cứu giới thiệu PermVLA cùng kỹ thuật Causally Anchored Permutation (CAP), tận dụng thứ tự phân rã hành động như một cơ chế điều chuẩn cho mô hình Vision-Language-Action (VLA). Thay vì phụ thuộc vào thứ tự trái-sang-phải (LTR) cố định, CAP lấy mẫu các thứ tự bộc lộ hành động với tiền tố thời gian tùy chỉnh, tạo ra kỹ thuật tăng cường tập có điều kiện từ cùng một chuỗi hành động chuyên gia mà không cần thêm dữ liệu. Phương pháp giúp giảm sự phụ thuộc vào teacher forcing, giữ nguyên cơ chế LTR khi triển khai và vượt trội hơn huấn luyện LTR trên các bộ dữ liệu LIBERO, LIBERO-Plus và CALVIN.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Việc thu thập dữ liệu chuyên gia trong robotics rất tốn kém và các mô hình VLA hiện tại thường bị overfitting vào thứ tự thời gian cố định. PermVLA đưa ra một giải pháp điều chuẩn hiệu quả, giúp mô hình học tốt hơn từ cùng một lượng dữ liệu có sẵn mà không làm thay đổi kiến trúc hay làm chậm tốc độ suy luận khi triển khai thực tế.

Developer 70
Business 59
Novelty 82
Actionable 74

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

Vision-language-action (VLA) policies commonly learn action chunks through a fixed left-to-right (LTR) factorization, although the same expert trajectory distribution admits many valid chain-rule factorizations. We identify factorization order as an overlooked regularization choice and introduce causally anchored permutation (CAP), which samples action reveal orders with a tunable chronological prefix. Its auxiliary objective trains one shared policy to predict actions from different known subsets of the same expert chunk, while deployment retains deterministic LTR control. We call this conditional-set augmentation: it creates multiple conditional prediction problems from one expert chunk without adding demonstrations. This discourages reliance on the single chronological prefix used by ordinary teacher forcing. Controlled experiments show that CAP consistently outperforms standard LTR training on LIBERO and LIBERO-Plus, with the same advantage appearing in cross-dataset CALVIN evaluation. A diagnostic that measures the expected squared difference between a chunk's joint log likelihood under two reveal orders verifies that CAP training internalizes agreement across reveal orders. These findings position sampled subset-conditioned auxiliary objectives as a general recipe for constructing VLA regularizers, illustrated by an extension to diffusion action generators.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-10-06 09:20:11 +0000 UTC
{"tags": ["PermVLA", "VLA", "Robot Learning", "Robotics", "Regularization", "Diffusion Policy", "Conditional-Set Augmentation"], "risks": ["Gia tăng thời gian tính toán và độ phức tạp trong quá trình huấn luyện do phải xử lý nhiều thứ tự dự đoán.", "Cần tinh chỉnh siêu tham số về độ dài tiền tố thời gian (chronological prefix) phù hợp với từng tác vụ cụ thể.", "Chưa có dữ liệu kiểm chứng trực tiếp trên robot phần cứng thực tế trong đoạn trích (mới thử nghiệm trên môi trường mô phỏng LIBERO và CALVIN)."], "category": "Research", "entities": ["PermVLA", "LIBERO", "LIBERO-Plus", "CALVIN", "CAP (Causally Anchored Permutation)"], "summary_vi": "Nghiên cứu giới thiệu PermVLA cùng kỹ thuật Causally Anchored Permutation (CAP), tận dụng thứ tự phân rã hành động như một cơ chế điều chuẩn cho mô hình Vision-Language-Action (VLA). Thay vì phụ thuộc vào thứ tự trái-sang-phải (LTR) cố định, CAP lấy mẫu các thứ tự bộc lộ hành động với tiền tố thời gian tùy chỉnh, tạo ra kỹ thuật tăng cường tập có điều kiện từ cùng một chuỗi hành động chuyên gia mà không cần thêm dữ liệu. Phương pháp giúp giảm sự phụ thuộc vào teacher forcing, giữ nguyên cơ chế LTR khi triển khai và vượt trội hơn huấn luyện LTR trên các bộ dữ liệu LIBERO, LIBERO-Plus và CALVIN.", "key_changes": ["Đề xuất phương pháp Causally Anchored Permutation (CAP) để lấy mẫu thứ tự bộc lộ hành động với tiền tố thời gian tùy chỉnh.", "Giới thiệu kỹ thuật conditional-set augmentation: tạo nhiều bài toán dự đoán có điều kiện từ một expert chunk duy nhất mà không cần thu thập thêm dữ liệu biểu diễn.", "Sử dụng mục tiêu phụ (auxiliary objective) trong quá trình huấn luyện nhưng vẫn duy trì điều khiển LTR (left-to-right) xác định khi triển khai thực tế.", "Đạt kết quả vượt trội so với huấn luyện LTR tiêu chuẩn trên benchmark LIBERO, LIBERO-Plus và đánh giá cross-dataset trên CALVIN.", "Mở rộng thành công kỹ thuật điều chuẩn này sang các bộ sinh hành động khuếch tán (diffusion action generators)."], "sub_category": "Vision-Language-Action (VLA)", "novelty_score": 82, "business_score": 58, "research_score": 88, "why_it_matters": "Việc thu thập dữ liệu chuyên gia trong robotics rất tốn kém và các mô hình VLA hiện tại thường bị overfitting vào thứ tự thời gian cố định. PermVLA đưa ra một giải pháp điều chuẩn hiệu quả, giúp mô hình học tốt hơn từ cùng một lượng dữ liệu có sẵn mà không làm thay đổi kiến trúc hay làm chậm tốc độ suy luận khi triển khai thực tế.", "developer_score": 75, "importance_score": 76, "possible_use_cases": ["Tối ưu hóa pipeline huấn luyện chính sách VLA cho cánh tay robot trong môi trường dữ liệu mẫu hạn chế.", "Làm loss phụ trợ (auxiliary loss) để tăng tính ổn định cho các mô hình Diffusion Policy trong robotics.", "Nâng cao khả năng khái quát hóa và độ bền vững của mô hình robot khi chuyển giao giữa các môi trường (cross-dataset transfer).", "Chẩn đoán mức độ phụ thuộc vào teacher forcing của các kiến trúc sinh chuỗi hành động."], "actionability_score": 74}
← Trang trước Trang 1