Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

A Scoping Review and Experimental Study on Reinforcement Learning from Human Feedback for Human-Robot Collaboration

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

64 RADAR
Research Human-Robot Collaboration & RLHF · 1 nguồn đối chiếu · 2026-10-07 11:51:54 +0000 UTC

A Scoping Review and Experimental Study on Reinforcement Learning from Human Feedback for Human-Robot Collaboration

Nguồn: arXiv AI
↗

Nghiên cứu tổng quan phạm vi (scoping review) theo chuẩn PRISMA gồm 20 bài báo (2020–2025) và thử nghiệm VR về ứng dụng RLHF trong hợp tác người - robot (HRC). Kết quả mô hình Bayesian chỉ ra rằng phản hồi do người dùng chủ động khởi tạo phản ánh mức độ an toàn cảm nhận chính xác hơn phản hồi do hệ thống yêu cầu, chứng minh thời điểm thu thập phản hồi quyết định trực tiếp đến chất lượng dữ liệu huấn luyện và mức độ an toàn của robot.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Chất lượng huấn luyện RLHF cho robot phụ thuộc cốt lõi vào thời điểm và phương thức thu nhận phản hồi từ con người. Chứng minh người dùng chủ động phản hồi hiệu quả hơn hệ thống tự kích hoạt cung cấp nền tảng then chốt để kỹ sư thiết kế quy trình huấn luyện AI an toàn, giảm rủi ro va chạm và nâng cao an toàn tâm lý trong Công nghiệp 4.0.

Developer 71
Business 68
Novelty 75
Actionable 72

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

Human-Robot Collaboration (HRC) can facilitate mass customisation in Industry 4.0, with Reinforcement Learning from Human Feedback (RLHF) representing a promising approach for developing safe AI-based robots. Practical challenges remain regarding safety during AI development, human feedback quality, and bidirectional human-robot adaptation. We conducted a scoping review of RLHF in HRC systems, mapping methods that address these challenges. Following PRISMA guidelines, we screened 199 records and included 20 peer-reviewed publications (2020-2025) spanning multiple HRC domains. To our knowledge, this is the first review focused on the bidirectional, closed-loop design of RLHF. Our review found multiple feedback modalities enabling data collection in various feedback formats. Collected data can be integrated at different stages of AI training, resulting in a multi-step development process. Pilot experiments are commonly used to evaluate HRC systems based on both human and robot metrics. To empirically test a key gap identified in the review, we conducted a between-subjects VR experiment comparing system- and user-initiated feedback on robot proxemic behaviour for safe navigation. Using Bayesian models, we analysed the relation between the collected feedback and safety metrics: psychological safety (post-experiment questionnaire) and physical safety (inverse time-to-collision). Results show that user-initiated feedback captures perceived safety better than system-initiated feedback, indicating that feedback timing directly affects feedback quality. Our review and experiment findings show that RLHF relies on appropriate feedback methods to ensure AI safety in HRC, and future RLHF research should prioritise realistic HRC experiments evaluating the effects of feedback collection methods on relevant human and robot metrics.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-10-08 08:30:48 +0000 UTC
{"tags": ["RLHF", "Human-Robot Collaboration", "Robot Safety", "Industry 4.0", "Virtual Reality", "Bayesian Modeling", "Proxemics"], "risks": ["Nguy cơ quá tải nhận thức hoặc dữ liệu không đồng đều nếu người vận hành phải liên tục chủ động gửi phản hồi.", "Khoảng cách thực tế (reality gap) giữa thử nghiệm mô phỏng VR và môi trường công nghiệp thực tế.", "Số lượng nghiên cứu thực nghiệm khép vòng về chủ đề này còn hạn chế (chỉ 20 công trình được chọn lọc)."], "category": "Research", "entities": ["PRISMA", "Industry 4.0", "Reinforcement Learning from Human Feedback (RLHF)", "Human-Robot Collaboration (HRC)", "Virtual Reality (VR)"], "summary_vi": "Nghiên cứu tổng quan phạm vi (scoping review) theo chuẩn PRISMA gồm 20 bài báo (2020–2025) và thử nghiệm VR về ứng dụng RLHF trong hợp tác người - robot (HRC). Kết quả mô hình Bayesian chỉ ra rằng phản hồi do người dùng chủ động khởi tạo phản ánh mức độ an toàn cảm nhận chính xác hơn phản hồi do hệ thống yêu cầu, chứng minh thời điểm thu thập phản hồi quyết định trực tiếp đến chất lượng dữ liệu huấn luyện và mức độ an toàn của robot.", "key_changes": ["Tổng quan hệ thống 20 nghiên cứu giai đoạn 2020–2025 theo chuẩn PRISMA về mô hình RLHF vòng lặp đóng trong HRC.", "Khảo sát các phương thức và định dạng phản hồi đa dạng được tích hợp ở các giai đoạn huấn luyện AI khác nhau.", "Thực hiện thử nghiệm thực tế ảo (VR) so sánh phản hồi do người dùng chủ động kích hoạt và hệ thống yêu cầu đối với hành vi giữ khoảng cách (proxemic) của robot.", "Sử dụng mô hình Bayesian chứng minh phản hồi do người dùng khởi tạo phản ánh nhận thức an toàn tốt hơn phản hồi do hệ thống kích hoạt."], "sub_category": "Human-Robot Collaboration & RLHF", "novelty_score": 75, "business_score": 70, "research_score": 86, "why_it_matters": "Chất lượng huấn luyện RLHF cho robot phụ thuộc cốt lõi vào thời điểm và phương thức thu nhận phản hồi từ con người. Chứng minh người dùng chủ động phản hồi hiệu quả hơn hệ thống tự kích hoạt cung cấp nền tảng then chốt để kỹ sư thiết kế quy trình huấn luyện AI an toàn, giảm rủi ro va chạm và nâng cao an toàn tâm lý trong Công nghiệp 4.0.", "developer_score": 74, "importance_score": 78, "possible_use_cases": ["Thiết kế cơ chế thu thập phản hồi an toàn cho robot cộng tác (cobot) trong dây chuyền sản xuất Công nghiệp 4.0.", "Tối ưu hóa thuật toán điều hướng an toàn và giữ khoảng cách cho robot tự hành (AMR) khi làm việc cùng con người.", "Mô phỏng và kiểm thử an toàn vật lý/tâm lý trong môi trường VR trước khi triển khai robot thực địa."], "actionability_score": 72}