Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

ReSI-Math: Exploring Recoverable Capability Frontiers for Efficient Reasoning Improvement

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

65 RADAR
Research RLVR & Mathematical Reasoning · 1 nguồn đối chiếu · 2026-11-03 12:25:56 +0000 UTC

ReSI-Math: Exploring Recoverable Capability Frontiers for Efficient Reasoning Improvement

Nguồn: arXiv AI
↗

ReSI-Math là khung nghiên cứu giúp khai phá 'ranh giới năng lực có thể phục hồi' trong mô hình ngôn ngữ lớn để tối ưu hóa hiệu quả dữ liệu cho Reinforcement Learning with Verifiable Rewards (RLVR). Thay vì xem thất bại trực tiếp là do mô hình thiếu năng lực, ReSI-Math sử dụng tìm kiếm tiến hóa kết hợp Self-Judge và cơ chế lai ghép quỹ đạo (trajectory crossover) để phục hồi lời giải đúng từ các trường hợp sai. Trên mô hình Qwen3-VL-8B, phương pháp tạo ra 43.8% lời giải đúng được kiểm chứng từ các lượt thất bại và nâng điểm trung bình MATH500 cùng WE-MATH từ 78.71 lên 80.16 qua 3 vòng RLVR, vượt trội đáng kể so với việc chọn mẫu ngẫu nhiên.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Chứng minh rằng thất bại suy luận của LLM không nhất thiết phản ánh sự thiếu hụt năng lực cốt lõi, mà có thể phục hồi được qua tìm kiếm quỹ đạo. Phương pháp này cung cấp giải pháp khai thác dữ liệu giám sát RLVR chất lượng cao ngay từ chính thất bại của mô hình, giúp tiết kiệm chi phí thu thập dữ liệu và mở ra hướng tối ưu hóa suy luận hiệu quả hơn cho các mô hình ngôn ngữ.

Developer 72
Business 65
Novelty 82
Actionable 70

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

Reinforcement learning with verifiable rewards (RLVR) has become an effective approach for improving mathematical reasoning in large language models. However, a fundamental question remains: when a model fails to solve a problem, does it truly lack the underlying capability? In this work, we reveal that direct failure does not necessarily imply inability. Some reasoning failures can be recovered by exploring the model's own trajectories, exposing a recoverable capability frontier: a policy-dependent region where solutions are not reliably generated through direct decoding but can be elicited through trajectory-level search. Based on this observation, we introduce ReSI-Math, a framework that explores recoverable capability frontiers and converts recovered capabilities into data-efficient RLVR supervision. ReSI-Math uses Self-Judge-guided evolutionary search to identify recoverable failures under a fixed policy and adaptively selects frontier problems for sequential RLVR as the policy evolves. On Qwen3-VL-8B, correct-incorrect trajectory crossover produces 272 verifier-confirmed correct offspring from 621 attempts (43.8%). After three sequential one-shot RLVR stages, the MATH500 and WE-MATH average improves from 78.71 to 80.16. Under matched single-problem RLVR, random selection reaches only 53.31 versus 54.16 for frontier-guided Q1.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-11-04 10:35:14 +0000 UTC
{"tags": ["ReSI-Math", "RLVR", "LLM Reasoning", "Trajectory Search", "Evolutionary Search", "Qwen3-VL-8B"], "risks": ["Gia tăng chi phí suy luận và tính toán trong quá trình tìm kiếm tiến hóa và lai ghép quỹ đạo.", "Phụ thuộc chặt chẽ vào độ chính xác của cơ chế Self-Judge và verifier để tránh phát sinh lời giải đúng ngụy tạo (false positives).", "Chưa được kiểm chứng trên các tác vụ suy luận tổng quát phi toán học thiếu bộ kiểm chứng tự động rõ ràng."], "category": "Research", "entities": ["ReSI-Math", "RLVR", "Qwen3-VL-8B", "MATH500", "WE-MATH"], "summary_vi": "ReSI-Math là khung nghiên cứu giúp khai phá 'ranh giới năng lực có thể phục hồi' trong mô hình ngôn ngữ lớn để tối ưu hóa hiệu quả dữ liệu cho Reinforcement Learning with Verifiable Rewards (RLVR). Thay vì xem thất bại trực tiếp là do mô hình thiếu năng lực, ReSI-Math sử dụng tìm kiếm tiến hóa kết hợp Self-Judge và cơ chế lai ghép quỹ đạo (trajectory crossover) để phục hồi lời giải đúng từ các trường hợp sai. Trên mô hình Qwen3-VL-8B, phương pháp tạo ra 43.8% lời giải đúng được kiểm chứng từ các lượt thất bại và nâng điểm trung bình MATH500 cùng WE-MATH từ 78.71 lên 80.16 qua 3 vòng RLVR, vượt trội đáng kể so với việc chọn mẫu ngẫu nhiên.", "key_changes": ["Phát hiện khái niệm 'recoverable capability frontier': vùng bài toán mô hình thất bại khi sinh trực tiếp nhưng có thể phục hồi lời giải đúng thông qua tìm kiếm mức quỹ đạo.", "Đề xuất khung ReSI-Math tích hợp tìm kiếm tiến hóa có Self-Judge hướng dẫn và cơ chế lai ghép quỹ đạo đúng - sai (trajectory crossover).", "Chuyển đổi các bài toán thuộc vùng biên phục hồi thành nguồn dữ liệu giám sát hiệu quả cao cho quy trình RLVR tuần tự.", "Đạt tỷ lệ tạo lời giải đúng có kiểm chứng 43.8% (272/621) trên Qwen3-VL-8B và cải thiện điểm trung bình MATH500 / WE-MATH từ 78.71 lên 80.16 qua 3 giai đoạn RLVR."], "sub_category": "RLVR & Mathematical Reasoning", "novelty_score": 82, "business_score": 65, "research_score": 85, "why_it_matters": "Chứng minh rằng thất bại suy luận của LLM không nhất thiết phản ánh sự thiếu hụt năng lực cốt lõi, mà có thể phục hồi được qua tìm kiếm quỹ đạo. Phương pháp này cung cấp giải pháp khai thác dữ liệu giám sát RLVR chất lượng cao ngay từ chính thất bại của mô hình, giúp tiết kiệm chi phí thu thập dữ liệu và mở ra hướng tối ưu hóa suy luận hiệu quả hơn cho các mô hình ngôn ngữ.", "developer_score": 75, "importance_score": 78, "possible_use_cases": ["Tối ưu hóa dữ liệu huấn luyện RLVR cho các mô hình suy luận toán học và logic mà không cần gán nhãn thủ công mới.", "Xây dựng giáo trình học thích ứng (curriculum learning) cho LLM bằng cách tự động lọc bài toán nằm đúng vùng biên năng lực phục hồi.", "Khai thác triệt để năng lực tiềm ẩn của các mô hình mã nguồn mở cỡ vừa (như 8B) trước khi mở rộng quy mô tham số."], "actionability_score": 70}