Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

MCP Tool Poisoning in Agentic AI Frameworks: A Cross-Framework Measurement Study

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

69 RADAR
Agents Agent Security · 1 nguồn đối chiếu · 2026-11-02 18:17:08 +0000 UTC

MCP Tool Poisoning in Agentic AI Frameworks: A Cross-Framework Measurement Study

Nguồn: arXiv AI
↗

Nghiên cứu thực nghiệm liên framework đầu tiên về tấn công đầu độc công cụ (tool poisoning) qua Model Context Protocol (MCP) trên 12 framework và 18 mô hình AI. Thử nghiệm trên 9.720 kịch bản bằng công cụ mcpvenom cho thấy tỷ lệ tấn công thành công tổng thể là 22,9%, với 12,1% trường hợp trích xuất bí mật thực tế thành công. Kết quả chỉ ra khả năng chống chịu phụ thuộc chủ yếu vào mô hình (Claude Opus 4.8 chỉ bị dính 8/530 ca) trong khi toàn bộ 12 framework đều không triển khai cơ chế phòng thủ chủ động và các nhà cung cấp đều từ chối báo cáo lỗ hổng.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Nghiên cứu phơi bày rủi ro an ninh nghiêm trọng của hệ sinh thái MCP khi tích hợp công cụ bên ngoài: dữ liệu chưa được kiểm chứng có thể biến thành vector tấn công trích xuất dữ liệu bí mật mà không có sự phòng thủ từ phía framework. Do các nhà cung cấp chưa tiếp nhận khắc phục, các nhóm phát triển và doanh nghiệp buộc phải tự chủ động triển khai kiểm soát chặt chẽ ở tầng gateway mạng, lọc metadata và lựa chọn mô hình có tính năng an toàn cao.

Developer 81
Business 77
Novelty 86
Actionable 75

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

The Model Context Protocol (MCP) lets agentic AI frameworks connect language models to external tool providers, but it carries attacker-controlled content (tool descriptions, schema fields, and response data) into model context without validation. Prior benchmarks measure model compliance with poisoned instructions without confirming real execution. We present the first cross-framework measurement of MCP tool poisoning with real tool execution. A 25-class root-cause taxonomy unifies prior classifications, and the open-source tool mcpvenom drives a 9,720-cell susceptibility matrix across 12 frameworks, 18 models, and 45 attack scenarios, with a dual oracle that confirms exfiltration via canary HTTP receipt. The overall attack success rate is 22.9% (2,113 vulnerable cells). Of these, 64.9% dispatch an attacker tool call, 23.0% contact the attacker endpoint, and 12.1% verifiably exfiltrate a secret. Resistance is model-level: nine core frameworks cluster within 23 to 26% (chi-squared = 3.30, p = 0.91), and no framework implements intentional defense. Incidental framework properties mitigate in specific cases, and a regex description scanner rejects 20 of 45 scenarios at a 7.2% false-positive rate, so metadata scanning alone is a partial control. Model ASR ranges from 0.4% to 49.7%. Claude Opus 4.8 is vulnerable in 8 of 530 cells while issuing 223 explicit refusals. A code-level audit finds no intentional defense across twelve frameworks, and all five coordinated disclosures across four vendors were rejected.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-11-03 14:39:52 +0000 UTC
{"tags": ["MCP", "Tool Poisoning", "Agent Security", "mcpvenom", "Data Exfiltration", "AI Safety"], "risks": ["Dữ liệu do kẻ tấn công kiểm soát trong tool description hoặc schema có thể bị đưa trực tiếp vào context mô hình mà không qua kiểm duyệt, dẫn đến nguy cơ rò rỉ secret.", "Các agent framework hiện tại thiếu hoàn toàn cơ chế phòng thủ có chủ đích, tạo cảm giác an toàn giả tạo cho lập trình viên.", "Giải pháp lọc regex cho metadata chỉ giải quyết được một phần (chặn 20/45 kịch bản) với tỷ lệ dương tính giả 7,2%.", "Sự thờ ơ của các nhà cung cấp framework khi từ chối các báo cáo lỗ hổng phối hợp làm chậm tiến trình vá lỗi toàn ngành."], "category": "Agents", "entities": ["Model Context Protocol (MCP)", "mcpvenom", "Claude Opus 4.8"], "summary_vi": "Nghiên cứu thực nghiệm liên framework đầu tiên về tấn công đầu độc công cụ (tool poisoning) qua Model Context Protocol (MCP) trên 12 framework và 18 mô hình AI. Thử nghiệm trên 9.720 kịch bản bằng công cụ mcpvenom cho thấy tỷ lệ tấn công thành công tổng thể là 22,9%, với 12,1% trường hợp trích xuất bí mật thực tế thành công. Kết quả chỉ ra khả năng chống chịu phụ thuộc chủ yếu vào mô hình (Claude Opus 4.8 chỉ bị dính 8/530 ca) trong khi toàn bộ 12 framework đều không triển khai cơ chế phòng thủ chủ động và các nhà cung cấp đều từ chối báo cáo lỗ hổng.", "key_changes": ["Công bố nghiên cứu thực nghiệm đầu tiên đo lường rủi ro MCP tool poisoning với thực thi công cụ thực tế và xác thực rò rỉ dữ liệu qua canary HTTP.", "Giới thiệu mcpvenom (mã nguồn mở) và bảng phân loại 25 nguyên nhân gốc rễ, thử nghiệm trên ma trận 9.720 ô (12 framework, 18 mô hình, 45 kịch bản tấn công).", "Tỷ lệ tấn công thành công (ASR) tổng thể đạt 22,9%; trong đó 64,9% kích hoạt tool của kẻ tấn công, 23,0% kết nối tới máy chủ đích và 12,1% trích xuất bí mật thành công.", "Xác nhận khả năng phòng thủ nằm ở cấp mô hình (ASR từ 0,4% đến 49,7%; Claude Opus 4.8 chỉ dính 8/530 trường hợp) chứ không phải framework (9 framework cốt lõi cùng mức 23-26%, p=0,91).", "Kiểm toán mã nguồn cho thấy 12/12 framework không có cơ chế phòng thủ chủ động; toàn bộ 5 báo cáo công bố lỗ hổng có điều phối tới 4 vendor đều bị từ chối."], "sub_category": "Agent Security", "novelty_score": 86, "business_score": 82, "research_score": 92, "why_it_matters": "Nghiên cứu phơi bày rủi ro an ninh nghiêm trọng của hệ sinh thái MCP khi tích hợp công cụ bên ngoài: dữ liệu chưa được kiểm chứng có thể biến thành vector tấn công trích xuất dữ liệu bí mật mà không có sự phòng thủ từ phía framework. Do các nhà cung cấp chưa tiếp nhận khắc phục, các nhóm phát triển và doanh nghiệp buộc phải tự chủ động triển khai kiểm soát chặt chẽ ở tầng gateway mạng, lọc metadata và lựa chọn mô hình có tính năng an toàn cao.", "developer_score": 88, "importance_score": 88, "possible_use_cases": ["Ứng dụng mcpvenom để pentest và đánh giá an toàn cho các MCP server và agentic framework trước khi đưa vào môi trường production.", "Thiết lập các lớp xác thực và làm sạch (sanitization/validation) cho metadata công cụ (description, schema, tool response) trong pipeline của agent.", "Lựa chọn mô hình ngôn ngữ có năng lực kháng cự và từ chối chỉ thị độc hại cao (như Claude Opus 4.8) cho các agent có quyền truy cập dữ liệu nhạy cảm."], "actionability_score": 75}
← Trang trước Trang 1