Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-11-03 11:37:38 +0000 UTC
{"tags": ["Step-Zero Attack", "AI Agents", "Coding Agents", "Agent Security", "Vulnerability", "Decompression Bomb", "Sandboxing", "Resource Exhaustion"], "risks": ["Tấn công từ chối dịch vụ (DoS) và cạn kiệt tài nguyên lưu trữ (disk exhaustion) bằng zip bomb/decompression bomb mà LLM guardrails hoàn toàn không thể phát hiện.", "Nguy cơ ghi đè file hệ thống hoặc thực thi mã ngoài ý muốn do agent tin cậy tên tệp do dữ liệu thô cung cấp.", "Lỗ hổng bảo mật bị bỏ sót do nhà phát triển chỉ tập trung chống prompt injection ở tầng context mà quên bảo vệ tầng runtime primitive."], "category": "Agents", "entities": ["Step-Zero Attack", "Coding Agents"], "summary_vi": "Nghiên cứu chỉ ra tấn công 'Step-Zero' nhắm vào coding agent trước khi dữ liệu kịp đi vào context của mô hình hoặc qua các lớp kiểm duyệt. Khi xử lý dữ liệu thô (tệp nén, mạng, hình ảnh), 32/42 cặp harness-mô hình đã bị tràn hạn ngạch 4 MiB đĩa (26/42 bị trước khi mô hình thấy nội dung) và agent thường lưu file theo tên do dữ liệu độc hại chỉ định. Nghiên cứu đề xuất cổng kiểm soát số byte ở tầng xử lý primitive, giúp ngăn chặn hoàn toàn việc tràn đĩa mà vẫn hoàn thành 25/28 tác vụ, kết hợp với huấn luyện kiểm tra an toàn đầu vào.", "key_changes": ["Khái niệm 'Step-Zero Attack': Lỗ hổng xảy ra trong giai đoạn tiền xử lý đầu vào thô (archive, network response, image), gây hại trước khi dữ liệu kịp tiến vào context hoặc qua các lớp guardrail của LLM.", "Thực nghiệm diện rộng: 32/42 cặp harness-model vượt ngưỡng hạn ngạch 4 MiB đĩa; 26/42 cặp bị quá tải trước khi model đọc bất kỳ file nào bên trong archive; 4/6 model bị khai thác trong toàn bộ các lượt thử (84/84).", "Lỗ hổng đặt tên và ghi file: Agent tự động lưu nội dung tải về theo tên tệp do dữ liệu độc hại khai báo, trao quyền kiểm soát ghi file cho kẻ tấn công.", "Giải pháp phòng vệ tầng primitive: Triển khai cổng đếm byte (byte-counting gate) ở hàm xử lý cấp thấp, giúp chặn hoàn toàn tình trạng tràn đĩa mà vẫn đảm bảo agent hoàn thành 25/28 tác vụ."], "sub_category": "Agent Security & Vulnerabilities", "novelty_score": 86, "business_score": 74, "research_score": 86, "why_it_matters": "Nghiên cứu phơi bày điểm mù chí mạng trong bảo mật agent: các cơ chế guardrail hiện hành đều hoạt động sau khi dữ liệu đã vào context, trong khi tổn hại thực tế có thể xảy ra ngay từ bước tiền xử lý thô ở tầng hệ thống (Step Zero). Do đó, việc bảo vệ agent bắt buộc phải kết hợp kiểm soát tài nguyên chặt chẽ ở tầng runtime primitive thay vì chỉ trông cậy vào LLM alignment.", "developer_score": 90, "importance_score": 85, "possible_use_cases": ["Tích hợp cơ chế giới hạn dung lượng và kiểm soát byte (byte-counting gate) vào các tool giải nén và tải dữ liệu trong agent harness.", "Chuẩn hóa và làm sạch (sanitize) đường dẫn lưu tệp, ngăn agent tự ý lấy tên file từ network response hay metadata ảnh của kẻ tấn công.", "Huấn luyện alignment an toàn để agent chủ động kiểm tra cấu trúc metadata trước khi kích hoạt lệnh đọc/giải nén tệp."], "actionability_score": 84}