Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

ABACUS: Program-Guided Multistep Reasoning over Frozen Judgment Models

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

65 RADAR
Research Program-Guided Reasoning · 1 nguồn đối chiếu · 2026-10-19 07:57:48 +0000 UTC

ABACUS: Program-Guided Multistep Reasoning over Frozen Judgment Models

Nguồn: arXiv AI
↗

ABACUS là khung làm việc kết hợp chương trình tái sử dụng với mô hình phán đoán đóng băng (frozen judgment models) để giải quyết bài toán suy luận đa bước. Thay vì yêu cầu mô hình lớn sinh toàn bộ lời giải, ABACUS sử dụng mô hình teacher thiết kế quy trình offline, để mô hình phán đoán (như Kev) giải quyết các quyết định cục bộ online và ghép lại bằng chương trình. Thử nghiệm trên 3 tác vụ BIG-Bench Hard cho thấy ABACUS đạt độ chính xác 99.67%, tương đương Qwen3.5-4B nhưng tăng tốc độ xử lý trực tuyến gấp 8.43 lần (0.255s so với 2.150s).

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

ABACUS chứng minh các mô hình phán đoán nhỏ với tham số đóng băng có thể đạt năng lực suy luận ngang tầm LLM lớn khi kết hợp với chương trình tái sử dụng, đồng thời tăng tốc độ xử lý hơn 8 lần, mang lại giải pháp tối ưu cho chi phí và độ trễ AI.

Developer 71
Business 73
Novelty 82
Actionable 70

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

Judgment models answer semantic questions by scoring a finite set of candidate outcomes. Can reusable programs turn these local decisions into powerful multistep reasoning? We introduce \method, a framework that jointly constructs judgment schemas and composition programs for frozen judgment models. A generative teacher designs the procedure offline; the judgment model resolves local semantic questions online, and the saved program composes its decisions into an answer. We study three allocations of design effort between humans and the teacher, focusing on construction through a shared interface. We instantiate the framework with Kev. On three selected BIG-Bench Hard tasks, nine independently constructed programs solve all 450 executions of 150 development inputs. A separate deployment study freezes three programs after development-set reference-agreement refinement and evaluates them on 600 held-out questions. These programs achieve near-perfect 99.67\% macro accuracy, versus 64.00\% for direct Kev and 68.80\% for final-answer-only Qwen3.5-4B. They attain comparable observed accuracy to Qwen's unrestricted response policy (99.07\%) with an \textbf{8.43-fold online speedup}: 0.255 versus 2.150 seconds per question. These results show how reusable programs can substantially expand the reasoning capability of a compact judgment model while keeping its parameters fixed.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-10-20 10:51:51 +0000 UTC
{"tags": ["ABACUS", "Multistep Reasoning", "Judgment Models", "Neuro-symbolic", "Program Synthesis", "Inference Speedup", "BIG-Bench Hard"], "risks": ["Khó mở rộng cho các bài toán suy luận mở, phi cấu trúc hoặc không thể chia thành tập kết quả hữu hạn.", "Phụ thuộc vào chất lượng sinh chương trình của teacher và quá trình tinh chỉnh trên tập phát triển.", "Mới chỉ được kiểm nghiệm trên 3 tác vụ của BIG-Bench Hard với tập dữ liệu tương đối hạn chế (600 câu hỏi)."], "category": "Research", "entities": ["ABACUS", "Kev", "Qwen3.5-4B", "BIG-Bench Hard"], "summary_vi": "ABACUS là khung làm việc kết hợp chương trình tái sử dụng với mô hình phán đoán đóng băng (frozen judgment models) để giải quyết bài toán suy luận đa bước. Thay vì yêu cầu mô hình lớn sinh toàn bộ lời giải, ABACUS sử dụng mô hình teacher thiết kế quy trình offline, để mô hình phán đoán (như Kev) giải quyết các quyết định cục bộ online và ghép lại bằng chương trình. Thử nghiệm trên 3 tác vụ BIG-Bench Hard cho thấy ABACUS đạt độ chính xác 99.67%, tương đương Qwen3.5-4B nhưng tăng tốc độ xử lý trực tuyến gấp 8.43 lần (0.255s so với 2.150s).", "key_changes": ["Giới thiệu ABACUS, framework tạo schema phán đoán và chương trình hợp thành (composition programs) tái sử dụng cho các judgment model đóng băng.", "Phân tách kiến trúc: Mô hình teacher sinh quy trình ngoại tuyến (offline), judgment model giải quyết câu hỏi ngữ nghĩa cục bộ trực tuyến (online), chương trình lưu sẵn tổng hợp kết quả.", "Khảo sát ba mức phân bổ công sức thiết kế giữa con người và mô hình teacher qua một giao diện chung.", "Đạt 99.67% độ chính xác vĩ mô (macro accuracy) trên 600 câu hỏi held-out từ ba tác vụ BIG-Bench Hard khi áp dụng với Kev, vượt trội so với Kev trực tiếp (64.00%) và Qwen3.5-4B (68.80%).", "Tăng tốc độ suy luận trực tuyến 8.43 lần (0.255 giây/câu hỏi so với 2.150 giây của Qwen3.5-4B) với độ chính xác tương đương phản hồi không giới hạn của Qwen (99.07%)."], "sub_category": "Program-Guided Reasoning", "novelty_score": 82, "business_score": 78, "research_score": 85, "why_it_matters": "ABACUS chứng minh các mô hình phán đoán nhỏ với tham số đóng băng có thể đạt năng lực suy luận ngang tầm LLM lớn khi kết hợp với chương trình tái sử dụng, đồng thời tăng tốc độ xử lý hơn 8 lần, mang lại giải pháp tối ưu cho chi phí và độ trễ AI.", "developer_score": 75, "importance_score": 78, "possible_use_cases": ["Tăng tốc và giảm chi phí cho hệ thống suy luận nhiều bước lặp lại trong môi trường production.", "Tận dụng các mô hình nhỏ (compact/edge models) giữ nguyên trọng số để giải quyết các tác vụ phức tạp.", "Hệ thống kiểm duyệt, phân loại nội dung hoặc trả lời câu hỏi ngữ nghĩa có cấu trúc quy trình định sẵn."], "actionability_score": 70}