Constrained-Action AI Remediation for SIEM/XDR via a NeMo-Guardrails Proxy

{"tags": ["SIEM", "XDR", "NeMo-Guardrails", "LLM Security", "Prompt Injection", "SOC Automation", "Constrained-Action", "OT Security"], "risks": ["Độ trễ từ các lớp guardrails cản trở khả năng can thiệp thời gian thực (inline control).", "Chưa được đo lường và triển khai thực tế trên hệ thống công nghệ vận hành (OT).", "Tập từ vựng ý định đóng có thể hạn chế khả năng phản ứng linh hoạt trước các mối đe dọa mới ngoài dự kiến.", "Rủi ro tấn công vượt qua bộ kiểm tra tham số nếu tồn tại lỗ hổng biên trong argument validator."], "category": "Agents", "entities": ["NeMo-Guardrails", "SIEM", "XDR", "SOC"], "summary_vi": "Nghiên cứu giới thiệu kiến trúc khắc phục sự cố giới hạn hành động (constrained-action) cho hệ thống SIEM/XDR nhằm ngăn chặn rủi ro tấn công prompt injection từ cảnh báo đối kháng. Giải pháp gồm hai lớp phối hợp: NeMo-Guardrails proxy nâng tỷ lệ phát hiện injection từ 25,0% lên 94,5% (dương tính giả 0,1%), và SIEM/XDR control plane giới hạn đầu ra LLM trong tập từ vựng ý định đóng kèm bộ xác thực tham số trước khi thực thi qua endpoint agent. Do độ trễ của guardrails, hệ thống phù hợp nhất cho mô hình có con người giám sát (human-in-the-loop) hoặc xử lý có độ trễ, đặc biệt trong hạ tầng trọng yếu.", "key_changes": ["Kiến trúc phòng vệ 2 lớp: NeMo-Guardrails proxy và SIEM/XDR control plane bảo vệ ranh giới tin cậy.", "Nâng tỷ lệ phát hiện prompt injection từ 25.0% lên 94.5% với tỷ lệ dương tính giả chỉ 0.1% nhờ NeMo-Guardrails.", "Giới hạn đầu ra của LLM trong tập từ vựng ý định đóng (closed intent vocabulary) và kiểm thực tham số (argument validator).", "Phát hành tập dữ liệu đối kháng (adversarial corpus) chuyên biệt cho SOC để đánh giá độ an toàn của LLM.", "Xác định hạn chế về độ trễ của guardrails, khuyến nghị mô hình có con người giám sát (human-in-the-loop) thay vì kiểm soát trực tiếp thời gian thực."], "sub_category": "Agent Security", "novelty_score": 78, "business_score": 82, "research_score": 78, "why_it_matters": "Khi trao quyền cho LLM tự động cô lập file hoặc ngắt tiến trình trong SOC, một cảnh báo đối kháng có thể biến thành đường dẫn thực thi lệnh độc hại. Nghiên cứu này chứng minh giải pháp kết hợp guardrail proxy với giới hạn không gian hành động là hướng đi bắt buộc để đưa AI agent vào môi trường an ninh mạng và hạ tầng trọng yếu an toàn.", "developer_score": 80, "importance_score": 82, "possible_use_cases": ["Tự động hóa xử lý sự cố an ninh mạng (alert triage & remediation) trong SOC mà vẫn đảm bảo an toàn.", "Ứng dụng AI điều khiển trong môi trường OT và hạ tầng trọng yếu nhằm ngăn ngừa các thiệt hại vật lý.", "Xây dựng proxy bảo vệ an toàn (safety proxy) cho các LLM agent có quyền thực thi lệnh trên endpoint/server.", "Hỗ trợ chuyên viên SOC phê duyệt nhanh các hành động mẫu đã được xác thực an toàn."], "actionability_score": 75}