Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

HarnessMM: Recursive Self-Improvement for Harness Token Efficiency

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

63 RADAR
Agents Agent Efficiency & Optimization · 1 nguồn đối chiếu · 2026-10-23 15:47:47 +0000 UTC

HarnessMM: Recursive Self-Improvement for Harness Token Efficiency

Nguồn: arXiv AI
↗

HarnessMM là phương pháp tối ưu hóa hiệu quả sử dụng token cho agent harness bằng cách kết hợp cơ chế tái sử dụng quyết định có kiểm soát (guarded decision reuse) và tự cải thiện đệ quy (RSI). Thay vì kích hoạt lại LLM suy luận sau mỗi phản hồi từ công cụ, HarnessMM lưu trữ các quyết định trong Đồ thị Quyết định Thực thi (Executable Decision Graphs) và thay thế các callback tốn kém bằng quyết định đã có mà vẫn giữ cố định trọng số mô hình. Trên thực nghiệm, phương pháp giúp DeepSeek Harness giảm 87.93% token/task đồng thời nâng tỷ lệ thành công từ 71.43% lên 85.71%, và giúp Codex tiết kiệm 29.54% token trên HumanEval.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Các agent harness hiện nay tiêu tốn lượng lớn token và độ trễ do gọi lại mô hình suy luận cho những bước hành động đã rõ ràng sau phản hồi của tool. HarnessMM chứng minh rằng tối ưu ở tầng harness/controller có thể cắt giảm tới gần 88% token và cải thiện độ chính xác mà không cần fine-tune hay thay đổi mô hình nền tảng.

Developer 77
Business 79
Novelty 80
Actionable 75

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

Agent harnesses repeatedly invoke reasoning after tool feedback, even when an earlier call has already fixed the next action. We introduce HarnessMM (Harness Minus Minus), a method for improving harness token efficiency through guarded decision reuse and recursive self-improvement (RSI). RSI iteratively refines companion harness configurations from training feedback, with validation selecting the configuration for deployment. A controller at the model-tool boundary reuses resolved decisions to replace later reasoning callbacks while actor weights remain fixed. Executable Decision Graphs store exact actions, literal arguments, causal dependencies, and public guards. Guarded Decision Reuse activates these persistent decisions from observed receipts; Certified Callback Substitution executes them through the native interface and records removal of the registered slow callback. New semantic decisions, unsupported evidence, and selector abstention invoke the original actor again. The representation restricts what feedback may change, while complete-task measurements establish quality and cost. On HumanEval, HarnessMM preserves Codex success at 90.82\% while reducing Tokens/task (k) from 66.72 to 47.02 (29.54\% saving). For DeepSeek Harness, success rises from 71.43\% to 85.71\% while Tokens/task (k) fall from 96.28 to 11.62 (87.93\% saving). A separate MBPP ablation measures 26.91\% lower cost than single-use graphs and 19.52\% lower cost than retained callbacks. These results establish guarded decision reuse as a practical way to reduce repeated reasoning in existing harnesses.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-10-26 09:42:27 +0000 UTC
{"tags": ["HarnessMM", "AI Agents", "Token Efficiency", "Recursive Self-Improvement", "Decision Graphs", "LLM Cost Reduction"], "risks": ["Rủi ro tái sử dụng quyết định không chính xác nếu điều kiện guard không bao quát đầy đủ trạng thái động của môi trường.", "Độ phức tạp trong việc xây dựng và duy trì Executable Decision Graphs trên các harness công cụ không đồng nhất.", "Mức độ tiết kiệm token biến động mạnh tùy thuộc vào mô hình và bản chất bài toán (29.54% trên Codex vs 87.93% trên DeepSeek)."], "category": "Agents", "entities": ["HarnessMM", "Codex", "DeepSeek", "HumanEval", "MBPP"], "summary_vi": "HarnessMM là phương pháp tối ưu hóa hiệu quả sử dụng token cho agent harness bằng cách kết hợp cơ chế tái sử dụng quyết định có kiểm soát (guarded decision reuse) và tự cải thiện đệ quy (RSI). Thay vì kích hoạt lại LLM suy luận sau mỗi phản hồi từ công cụ, HarnessMM lưu trữ các quyết định trong Đồ thị Quyết định Thực thi (Executable Decision Graphs) và thay thế các callback tốn kém bằng quyết định đã có mà vẫn giữ cố định trọng số mô hình. Trên thực nghiệm, phương pháp giúp DeepSeek Harness giảm 87.93% token/task đồng thời nâng tỷ lệ thành công từ 71.43% lên 85.71%, và giúp Codex tiết kiệm 29.54% token trên HumanEval.", "key_changes": ["Giới thiệu HarnessMM giúp tối ưu hiệu quả token của agent harness thông qua tái sử dụng quyết định có kiểm soát (guarded decision reuse) và tự cải thiện đệ quy (RSI).", "Lưu trữ hành động, tham số, phụ thuộc nhân quả và điều kiện bảo vệ (guards) trong Đồ thị Quyết định Thực thi (Executable Decision Graphs).", "Thay thế các callback suy luận chậm của LLM bằng cơ chế Certified Callback Substitution mà không cần cập nhật trọng số mô hình.", "Tự động quay lại gọi mô hình gốc khi xuất hiện quyết định ngữ nghĩa mới, bằng chứng không được hỗ trợ hoặc bộ chọn từ chối (abstention).", "Cắt giảm 29.54% token trên Codex/HumanEval (giữ nguyên tỷ lệ thành công 90.82%) và giảm 87.93% token trên DeepSeek Harness (tăng độ chính xác từ 71.43% lên 85.71%)."], "sub_category": "Agent Efficiency & Optimization", "novelty_score": 80, "business_score": 88, "research_score": 78, "why_it_matters": "Các agent harness hiện nay tiêu tốn lượng lớn token và độ trễ do gọi lại mô hình suy luận cho những bước hành động đã rõ ràng sau phản hồi của tool. HarnessMM chứng minh rằng tối ưu ở tầng harness/controller có thể cắt giảm tới gần 88% token và cải thiện độ chính xác mà không cần fine-tune hay thay đổi mô hình nền tảng.", "developer_score": 85, "importance_score": 82, "possible_use_cases": ["Tối ưu hóa chi phí token và độ trễ cho các coding agent tự động (như giải quyết issue, viết test, refactor code lặp vòng).", "Làm tầng middleware kiểm soát và tái sử dụng quyết định (decision caching/reuse) cho các hệ sinh thái multi-agent doanh nghiệp.", "Tự động tinh chỉnh cấu hình harness trong môi trường CI/CD và workflow tự động hóa có các bước công cụ lặp lại."], "actionability_score": 75}