Context as Infrastructure: Knowledge Compilation for Retrieval in Agentic Systems with Harnesses

{"tags": ["Agentic RAG", "Knowledge Compilation", "RAGFlow", "Context Engineering", "Information Retrieval", "Token Optimization"], "risks": ["Cơ chế tiết kiệm token bằng việc thay thế có thể phải trả giá bằng việc tăng số vòng truy xuất, từ đó phát sinh thêm độ trễ.", "Cấu trúc tóm tắt phân cấp dạng PageIndex có thể bị suy giảm hiệu quả khi áp dụng ở quy mô dữ liệu lớn.", "Chi phí LLM và thời gian xử lý trong quá trình biên dịch tri thức ban đầu (ingestion pipeline)."], "category": "Agents", "entities": ["RAGFlow", "InfiniFlow", "MiniMax M3", "BrowseComp-Plus", "FRAMES", "BM25"], "summary_vi": "Nghiên cứu chỉ ra rằng trong Agentic RAG, độ chính xác đã được giải quyết cơ bản nhờ search harness (đạt 85-91% với BM25/grep), nhưng làm bộc lộ vấn đề bùng nổ và lãng phí context. Để khắc phục, tác giả đề xuất 'biên dịch tri thức' (knowledge compilation) như một lớp cung ứng (supply layer) nhằm cung cấp tập ngữ cảnh tối thiểu vừa đủ thay vì cải thiện bộ truy xuất. Cấu trúc cây điều hướng với các cặp luận điểm - bằng chứng (claim-evidence) giúp cắt giảm trung bình 38% token truy vấn (lên tới 91% khi đủ bằng chứng) và decision gate giảm độ trễ từ 140s xuống 30s. Giải pháp này được triển khai mã nguồn mở trong hệ thống RAGFlow dưới dạng agent-native database.", "key_changes": ["Xác định harness tìm kiếm lặp (kết hợp BM25/grep và MiniMax M3) đã giải quyết tốt bài toán độ chính xác (85% BrowseComp-Plus, 91% FRAMES) mà không cần vector index phức tạp.", "Chuyển dịch trọng tâm từ độ chính xác sang bài toán kiểm soát ngữ cảnh: vòng lặp agent thiếu kiểm soát gây lặp truy vấn và làm phình to context window với nhiều đoạn thông tin thừa.", "Định vị 'Knowledge Compilation' không phải là công cụ truy xuất (retriever) giúp tăng điểm chuẩn độ chính xác, mà là lớp cung ứng (supply layer) chắt lọc ngữ cảnh tối thiểu vừa đủ.", "Đo lường cơ chế cây điều hướng với các lá luận điểm - bằng chứng (claim-evidence), giúp giảm 91% token khi đủ bằng chứng và giảm trung bình 38% lượng token truy vấn (tỷ lệ sufficiency thực tế đạt ~43%).", "Áp dụng cổng quyết định (decision gate) giúp giảm độ trễ từ 140 giây xuống còn 30 giây.", "Giới thiệu RAGFlow như một agent-native database với quy trình 5 trạm có kỷ luật để quản trị và phân phối ngữ cảnh biên dịch thay vì trả về danh sách đoạn văn thô."], "sub_category": "Agentic RAG & Context Optimization", "novelty_score": 82, "business_score": 82, "research_score": 84, "why_it_matters": "Thay đổi tư duy thiết kế RAG cho agent: chuyển từ việc chạy đua tối ưu hóa vector retriever sang xây dựng hạ tầng ngữ cảnh (context as infrastructure). Việc biên dịch dữ liệu thành các cấu trúc tri thức kỷ luật giúp giải quyết đồng thời hai nút thắt lớn nhất khi triển khai agent vào thực tế: chi phí token bùng nổ và độ trễ phản hồi kéo dài.", "developer_score": 86, "importance_score": 85, "possible_use_cases": ["Tối ưu chi phí token và kiểm soát độ trễ cho các hệ thống Agentic RAG nhiều bước (multi-hop reasoning) trong doanh nghiệp.", "Xây dựng agent-native database phục vụ việc cung cấp tri thức có cấu trúc (claim-evidence, ontology, timeline, entity graph) cho AI agent.", "Hệ thống hóa tài liệu nội bộ hỗ trợ quản trị dữ liệu (governance), tích hợp hệ thống và onboarding nhân sự với độ chính xác cao."], "actionability_score": 88}