ActGov: Governing LLM Agent Actions via Policy-Constrained Validation

{"tags": ["ActGov", "LLM Agents", "Agent Security", "Indirect Prompt Injection", "Runtime Enforcement", "SMT Solver", "Authorization Boundary", "Tool Validation"], "risks": ["Độ trễ runtime có thể phát sinh do việc trừu tượng hóa và kiểm tra ràng buộc chính sách trước mỗi hành động công cụ.", "Chi phí tính toán và yêu cầu kỹ thuật trong việc thiết lập đặc tả công cụ và chạy bộ giải SMT để sinh chính sách.", "Nguy cơ từ chối nhầm (false positives) các hành động công cụ hợp lệ nếu chính sách chưa bao quát hết các kịch bản phân nhánh phức tạp."], "category": "Agents", "entities": ["ActGov", "ActGov-Policy", "ActGov-Runtime", "AgentDojo", "AgentDyn"], "summary_vi": "ActGov là một framework thực thi thời gian chạy (runtime enforcement) nhằm kiểm soát và xác thực từng hành động gọi công cụ do LLM đề xuất trước khi gây tác động ngoại vi. Hệ thống gồm hai phần: ActGov-Policy (xây dựng tập chính sách bảo mật lặp từ đặc tả công cụ, tác vụ lành tính và dấu vết lỗi, được kiểm chứng bằng SMT) và ActGov-Runtime (trừu tượng hóa lệnh gọi công cụ thành bản ghi chính sách và kiểm tra đối chiếu với ranh giới ủy quyền của tác vụ). Kết quả đánh giá trên AgentDojo và AgentDyn cho thấy ActGov giảm đáng kể tỷ lệ thành công của tấn công indirect prompt injection mà vẫn duy trì hiệu năng tác vụ, không phụ thuộc vào việc LLM tự phát hiện lệnh độc hại.", "key_changes": ["Cung cấp cơ chế xác thực per-action thời gian chạy (ActGov-Runtime) kiểm tra từng lệnh gọi công cụ trước khi gây tác động ngoại vi.", "Thiết lập mô hình ngữ nghĩa thống nhất kết hợp ủy quyền, ngữ cảnh chạy và ràng buộc bảo mật.", "Xây dựng và cập nhật chính sách bảo mật (ActGov-Policy) qua kiểm chứng phản ví dụ bằng bộ giải SMT (SMT-based counterexample checking).", "Duy trì ranh giới ủy quyền xuyên suốt các quy trình dài hạn có phân nhánh động mà không cần tin tưởng LLM tự phát hiện chỉ thị tấn công."], "sub_category": "Agent Security & Governance", "novelty_score": 82, "business_score": 80, "research_score": 86, "why_it_matters": "Các giải pháp bảo vệ hiện tại thường dựa vào kế hoạch tĩnh hoặc kỳ vọng LLM tự phân loại lệnh độc hại—một cách tiếp cận mong manh và kém mở rộng. ActGov chuyển việc bảo vệ sang tầng thực thi độc lập với xác thực hình thức (SMT), mở đường cho việc ứng dụng an toàn các LLM agent tự hành vào các hệ thống doanh nghiệp quan trọng.", "developer_score": 85, "importance_score": 85, "possible_use_cases": ["Kiểm soát và bảo vệ các LLM agent trong doanh nghiệp khi gọi API, truy cập database hoặc gửi email, ngăn chặn rò rỉ dữ liệu qua indirect prompt injection.", "Thiết lập cơ chế phân quyền động theo phạm vi tác vụ (task-scoped authorization) cho các agent thực hiện quy trình nghiệp vụ phức tạp.", "Lớp bảo vệ độc lập (runtime guardrail) cho các nền tảng enterprise agent gateway."], "actionability_score": 78}