PACE: Provenance-Aware Capability Enforcement for Tool-Using LLM Agents

{"tags": ["AI Agents", "Agent Security", "Tool Use", "Prompt Injection", "Access Control", "Provenance", "LLM Safety"], "risks": ["Độ phức tạp khi định nghĩa schema hiệu ứng và biên dịch chính xác phạm vi quyền hạn từ yêu cầu ngôn ngữ tự nhiên.", "Độ trễ bổ sung (latency overhead) do phải can thiệp phân tích đường dẫn và xác minh hiệu ứng trước mỗi lệnh gọi công cụ.", "Nguy cơ chặn nhầm (false positives) các lệnh gọi công cụ hợp lệ nhưng nằm ngoài schema dự tính, đòi hỏi cấu hình phục hồi chính xác."], "category": "Agents", "entities": ["PACE (Provenance-Aware Capability Enforcement)", "LLM Agents", "Path Confinement", "Effect Verification", "Agent-Security Benchmarks"], "summary_vi": "PACE (Provenance-Aware Capability Enforcement) là cơ chế bảo mật cho tác tử LLM sử dụng công cụ, can thiệp và kiểm soát mọi lệnh gọi công cụ ngay trước khi thực thi. Thay vì kiểm duyệt đầu vào (vốn không thể phân biệt triệt để giữa biến thể an toàn và rò rỉ), PACE áp dụng path confinement để cô lập các đường dẫn ảnh hưởng độc hại và đối soát hiệu ứng thực tế dựa trên quyền hạn biên dịch từ yêu cầu đã xác thực. Trên 8 benchmark bảo mật với 3 dòng mô hình, PACE đạt tỷ lệ bị tấn công thấp nhất ở 62/79 trường hợp (hòa 14), trong khi chỉ giảm tối đa 3 điểm hiệu năng tác vụ thông thường và chặn đứng 100% (0/30) tấn công thích ứng.", "key_changes": ["Chuyển trọng tâm bảo mật từ kiểm duyệt dữ liệu đầu vào (admission vetting) sang kiểm soát thời điểm thực thi công cụ (just-in-time execution mediation).", "Đề xuất cơ chế Path Confinement để phân tích và cắt bỏ các đường dẫn ảnh hưởng (influence paths) từ dữ liệu không đáng tin cậy.", "Xác thực năng lực và hiệu ứng (Capability and Effect Verification) dựa trên quyền hạn biên dịch từ yêu cầu gốc đã xác thực.", "Tách biệt hợp đồng thực thi được chứng thực (certified execution contract) và cấu hình đánh giá (evaluated configuration), hỗ trợ phục hồi lệnh gọi hợp lệ hoặc tự sửa chữa (declared repair).", "Đạt tỷ lệ thành công tấn công thấp nhất ở 62/79 cột tấn công (hòa 14) trên 8 benchmark và 3 dòng mô hình, độ suy giảm hiệu năng tác vụ không quá 3 điểm."], "sub_category": "Agent Security & Tool Governance", "novelty_score": 85, "business_score": 80, "research_score": 88, "why_it_matters": "Khi tác tử LLM được cấp quyền tác động lên môi trường thực tế (side effects), rủi ro bị thao túng qua dữ liệu độc hại (indirect prompt injection) là rào cản lớn nhất đối với việc triển khai diện rộng. PACE chứng minh giới hạn của kiểm duyệt đầu vào và đưa ra giải pháp kiểm soát quyền hạn tức thời ngay tại ranh giới thực thi công cụ, mang lại khả năng phòng thủ vượt trội mà hầu như không làm suy giảm năng lực hoạt động của tác tử.", "developer_score": 85, "importance_score": 85, "possible_use_cases": ["Bảo vệ các tác tử LLM doanh nghiệp có khả năng tạo tác động thực tế (gọi API, ghi database, thanh toán, gửi email).", "Ngăn chặn tấn công Indirect Prompt Injection từ dữ liệu duyệt web, tài liệu tải lên hoặc bộ nhớ agent bị đầu độc.", "Xây dựng lớp cổng kiểm soát chính sách (Policy Enforcement Point) cho các framework agentic phổ biến (LangChain, CrewAI, AutoGen).", "Áp dụng nguyên tắc đặc quyền tối thiểu (Least Privilege) cho tự động hóa vận hành và DevOps sử dụng AI."], "actionability_score": 75}