Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

Free to Look, Free to Reason: Simple LLM Harnesses Outdiagnose Hand-Crafted Root Cause Analysis Agents

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

70 RADAR
DevOps Root Cause Analysis (AIOps) · 1 nguồn đối chiếu · 2026-10-26 17:12:02 +0000 UTC

Free to Look, Free to Reason: Simple LLM Harnesses Outdiagnose Hand-Crafted Root Cause Analysis Agents

Nguồn: arXiv AI
↗

Nghiên cứu so sánh hiệu quả chẩn đoán nguyên nhân gốc rễ (RCA) cho hệ thống microservices giữa các agent LLM được thiết kế thủ công (theo quy trình SOP, phân vai cố định) và các harness đơn giản cho phép mô hình tự do điều tra (như 1 lần gọi trên gói bằng chứng, SQL agent, Codex agent). Đánh giá trên benchmark RCAtlas (90 ca bệnh từ 8 tập dữ liệu, 6 mô hình) cho thấy các harness đơn giản đạt độ chính xác PR@1 từ 65-77%, vượt trội so với agent thủ công (16-53%) và phương pháp phi LLM (6-39%). Việc ép buộc quy trình khiến agent bỏ lỡ bằng chứng then chốt. Ngoài ra, tăng nỗ lực suy luận chỉ cải thiện điểm số tối thiểu nhưng kéo dài thời gian đến 7 lần, và mọi cấu hình tối ưu Pareto về chi phí lẫn thời gian đều sử dụng harness đơn giản.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Phát hiện này làm thay đổi tư duy thiết kế hệ thống AIOps: thay vì đầu tư phức tạp hóa quy trình bằng multi-agent với các vai trò và SOP cứng nhắc (dễ gây bỏ sót bằng chứng và over-engineering), việc cung cấp gói dữ liệu và để LLM có năng lực tự do lập luận/truy vấn mang lại độ chính xác cao hơn rõ rệt cùng chi phí và thời gian tối ưu.

Developer 80
Business 76
Novelty 80
Actionable 88

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

Root cause analysis (RCA) of microservice failures has attracted many LLM agents whose investigation is hand-crafted, through standard operating procedures, fixed stages and role agents. Each is evaluated on its own data against few baselines, so it is unknown whether this design beats letting a capable model investigate on its own. We compare three simple harnesses that prescribe none of the model's calls (one call over an evidence package, a SQL agent and the Codex coding agent) with five published LLM RCA agents and with statistical and causal methods on RCAtlas, 90 validated cases from eight public datasets, across six models and three reasoning efforts. The simple harnesses are the most accurate (PR@1 65-77% on three mid-tier models), ahead of the published agents (16-53%) and the non-LLM methods (6-39%), on every model on which both families were run. The published agents fix from a tenth to all of their model calls in the program, and a case study shows how these prescriptions skip the decisive evidence. A stronger model mainly improves reliability, a multi-turn harness mainly improves aptitude, and more reasoning effort changes accuracy by a few points at most while multiplying the time by up to seven. Among runs more accurate than the best non-LLM method, every Pareto-optimal run in cost or time uses a simple harness.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-10-27 12:49:51 +0000 UTC
{"tags": ["DevOps", "Root Cause Analysis", "AIOps", "LLM Agents", "Microservices", "RCAtlas"], "risks": ["Mô hình tự do điều tra có thể tiêu tốn token bất thường nếu không có cơ chế chặn đệ quy hoặc giới hạn phạm vi truy vấn hợp lý.", "Phụ thuộc nhiều vào chất lượng dữ liệu bằng chứng đầu vào; dữ liệu nhiễu có thể khiến mô hình suy luận sai lệch.", "Kết quả dựa trên benchmark RCAtlas (90 ca kiểm chứng) có thể cần thêm đánh giá trên các hệ thống microservices thực tế quy mô siêu lớn."], "category": "DevOps", "entities": ["RCAtlas", "Codex"], "summary_vi": "Nghiên cứu so sánh hiệu quả chẩn đoán nguyên nhân gốc rễ (RCA) cho hệ thống microservices giữa các agent LLM được thiết kế thủ công (theo quy trình SOP, phân vai cố định) và các harness đơn giản cho phép mô hình tự do điều tra (như 1 lần gọi trên gói bằng chứng, SQL agent, Codex agent). Đánh giá trên benchmark RCAtlas (90 ca bệnh từ 8 tập dữ liệu, 6 mô hình) cho thấy các harness đơn giản đạt độ chính xác PR@1 từ 65-77%, vượt trội so với agent thủ công (16-53%) và phương pháp phi LLM (6-39%). Việc ép buộc quy trình khiến agent bỏ lỡ bằng chứng then chốt. Ngoài ra, tăng nỗ lực suy luận chỉ cải thiện điểm số tối thiểu nhưng kéo dài thời gian đến 7 lần, và mọi cấu hình tối ưu Pareto về chi phí lẫn thời gian đều sử dụng harness đơn giản.", "key_changes": ["Các framework đơn giản (simple harnesses) cho phép LLM tự do truy vấn đạt độ chính xác chẩn đoán nguyên nhân gốc rễ (PR@1 từ 65-77%), vượt trội so với các agent chuyên biệt thiết kế thủ công (16-53%) và phương pháp phi LLM (6-39%).", "Việc ép LLM tuân thủ quy trình vận hành tiêu chuẩn (SOP), các giai đoạn cố định và phân vai cứng nhắc khiến hệ thống bỏ sót các bằng chứng mang tính quyết định.", "Tăng mức độ suy luận (reasoning effort) chỉ cải thiện độ chính xác vài phần trăm nhưng làm tăng thời gian thực thi lên tới 7 lần.", "Mô hình mạnh hơn chủ yếu cải thiện độ tin cậy, harness đa lượt cải thiện năng lực giải quyết, và toàn bộ cấu hình tối ưu Pareto về chi phí lẫn thời gian đều thuộc về các harness đơn giản."], "sub_category": "Root Cause Analysis (AIOps)", "novelty_score": 80, "business_score": 80, "research_score": 82, "why_it_matters": "Phát hiện này làm thay đổi tư duy thiết kế hệ thống AIOps: thay vì đầu tư phức tạp hóa quy trình bằng multi-agent với các vai trò và SOP cứng nhắc (dễ gây bỏ sót bằng chứng và over-engineering), việc cung cấp gói dữ liệu và để LLM có năng lực tự do lập luận/truy vấn mang lại độ chính xác cao hơn rõ rệt cùng chi phí và thời gian tối ưu.", "developer_score": 85, "importance_score": 85, "possible_use_cases": ["Tự động hóa điều tra và chẩn đoán nguyên nhân gốc rễ (RCA) trong kiến trúc microservices mà không cần xây dựng pipeline agent phức tạp.", "Hỗ trợ kỹ sư SRE/On-call truy vấn nhanh bằng chứng sự cố thông qua SQL agent hoặc Code agent đơn giản.", "Tối ưu hóa chi phí vận hành và thời gian phản hồi (MTTR) cho các nền tảng AIOps trong doanh nghiệp."], "actionability_score": 88}