Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

Cooperation Without Shared Rewards via Reciprocal Q-Augmentation

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

59 RADAR
Research Multi-Agent Reinforcement Learning · 1 nguồn đối chiếu · 2026-10-17 17:54:13 +0000 UTC

Cooperation Without Shared Rewards via Reciprocal Q-Augmentation

Nguồn: arXiv AI
↗

Nghiên cứu giới thiệu Reciprocal Q-Augmentation (RQA), phương pháp học tăng cường đa tác tử (MARL) trong các trò chơi tổng bất kỳ (general-sum games). RQA sử dụng mô hình đối thủ biến ẩn để bổ trợ hàm Q bằng ước tính tác động của hành động bản thân lên đối phương mà không cần chia sẻ phần thưởng hay trạng thái nội bộ. Cơ chế này giúp tác tử học đồng thời cả chính sách hợp tác lẫn phản bội từ hàm Q nội tại, đạt mức độ hợp tác nhanh và cao hơn các phương pháp chia sẻ phần thưởng, đồng thời có khả năng dẫn dắt các tác tử RL tiêu chuẩn chuyển sang hợp tác.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Giải quyết giả định phi thực tế về việc bắt buộc phải chia sẻ phần thưởng hoặc trạng thái nội bộ trong học tăng cường đa tác tử, mở đường cho các hệ sinh thái AI tự trị có thể duy trì hợp tác bền vững vì phúc lợi xã hội tối ưu mà không lo bị đối phương bóc lột.

Developer 54
Business 48
Novelty 80
Actionable 58

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

General-sum games are more challenging than fully cooperative or adversarial settings because agents may deceive or exploit one another. Achieving high social welfare requires sustained cooperation, while a single defection can drive agents toward a welfare suboptimal Nash equilibrium. Moreover, assuming access to other agents' rewards or internal states is often unrealistic and implicitly introduces additional cooperation into the setting. To address this issue, we introduce \textit{Reciprocal Q-Augmentation} (RQA), a method that uses a latent-variable opponent model to augment the Q-function with estimates of how one's actions affects other agents. RQA allows agents to learn both cooperative and defective policies using only their own Q-function. We show that, in social dilemmas, agents that all follow the cooperative policy of RQA learn to cooperate faster and reach higher levels of cooperation than fully cooperative algorithms. Moreover, a single RQA agent that switches appropriately between its cooperative and defecting policies can induce cooperation in agents trained with standard RL algorithms, which would otherwise end up defecting. We evaluate our approach on the Iterated Prisoner's Dilemma, Iterated Traveler's Dilemma, Iterated Stag Hunt, and \texttt{CleanUp-Lite}. Our experiments show that the algorithms implementing RQA outperforms fully cooperative methods with shared rewards and enables cooperation with algorithms that otherwise fail to reach high social welfare.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-10-20 09:52:45 +0000 UTC
{"tags": ["Multi-Agent Reinforcement Learning", "Game Theory", "Reciprocal Q-Augmentation", "General-Sum Games", "Social Dilemmas", "Cooperation"], "risks": ["Độ chính xác của mô hình đối thủ biến ẩn có thể giảm mạnh khi số lượng tác tử tăng hoặc trong môi trường có độ ngẫu nhiên cao.", "Nguy cơ bị khai thác nếu cơ chế chuyển đổi chính sách giữa hợp tác và phản bội bị đối phương dự đoán hoặc nhận diện sai ý định.", "Mới chỉ được kiểm nghiệm trên các trò chơi lý thuyết và môi trường mô phỏng nhỏ (CleanUp-Lite, Prisoner's Dilemma), cần thêm thời gian để kiểm chứng khả năng mở rộng trong thực tế."], "category": "Research", "entities": ["Reciprocal Q-Augmentation (RQA)", "Iterated Prisoner's Dilemma", "Iterated Traveler's Dilemma", "Iterated Stag Hunt", "CleanUp-Lite"], "summary_vi": "Nghiên cứu giới thiệu Reciprocal Q-Augmentation (RQA), phương pháp học tăng cường đa tác tử (MARL) trong các trò chơi tổng bất kỳ (general-sum games). RQA sử dụng mô hình đối thủ biến ẩn để bổ trợ hàm Q bằng ước tính tác động của hành động bản thân lên đối phương mà không cần chia sẻ phần thưởng hay trạng thái nội bộ. Cơ chế này giúp tác tử học đồng thời cả chính sách hợp tác lẫn phản bội từ hàm Q nội tại, đạt mức độ hợp tác nhanh và cao hơn các phương pháp chia sẻ phần thưởng, đồng thời có khả năng dẫn dắt các tác tử RL tiêu chuẩn chuyển sang hợp tác.", "key_changes": ["Đề xuất Reciprocal Q-Augmentation (RQA) sử dụng mô hình đối thủ biến ẩn (latent-variable opponent model) để bổ trợ hàm Q-function.", "Ước tính tác động của hành động bản thân lên tác tử khác mà không cần truy cập vào phần thưởng hoặc trạng thái nội bộ của đối phương.", "Cho phép tác tử tự học đồng thời cả chính sách hợp tác và phản bội chỉ bằng hàm Q nội tại của chính mình.", "Một tác tử RQA đơn lẻ có thể chuyển đổi linh hoạt giữa hai chính sách để thúc đẩy các tác tử dùng RL tiêu chuẩn chuyển từ phản bội sang hợp tác.", "Vượt trội hơn các phương pháp hợp tác toàn phần có chia sẻ phần thưởng trên các môi trường thử nghiệm Dilemma và CleanUp-Lite."], "sub_category": "Multi-Agent Reinforcement Learning", "novelty_score": 80, "business_score": 42, "research_score": 88, "why_it_matters": "Giải quyết giả định phi thực tế về việc bắt buộc phải chia sẻ phần thưởng hoặc trạng thái nội bộ trong học tăng cường đa tác tử, mở đường cho các hệ sinh thái AI tự trị có thể duy trì hợp tác bền vững vì phúc lợi xã hội tối ưu mà không lo bị đối phương bóc lột.", "developer_score": 52, "importance_score": 75, "possible_use_cases": ["Điều phối hệ thống đa tác tử phi tập trung (xe tự hành, robot kho bãi thuộc các đơn vị khác nhau) cần phối hợp mà không chia sẻ dữ liệu nội bộ.", "Cơ chế đấu thầu, giao dịch thuật toán và tối ưu hóa tài nguyên mạng lưới giữa các bên có lợi ích độc lập.", "Nghiên cứu mô phỏng hành vi xã hội - kinh tế và thiết kế môi trường MARL tổng quát (general-sum games)."], "actionability_score": 58}