Quoting huggingface.co/security.txt

{"tags": ["ai-security-research", "security", "hugging-face", "ai-agents", "cybergym", "accidental-cyberattacks", "security-txt"], "risks": ["Các AI agent độc hại hoặc không tuân thủ chỉ dẫn văn bản sẽ bỏ qua thông điệp trong security.txt.", "Nguy cơ quá tải hoặc gây lỗi hệ thống do các cuộc rà quét tự động ngoài ý muốn (accidental cyberattacks) từ AI agents.", "Biện pháp phòng thủ bằng chỉ dẫn văn bản tự nhiên không thể thay thế cho các giải pháp bảo mật kỹ thuật như WAF và rate limiting."], "category": "Agents", "entities": ["Hugging Face", "CyberGym", "GitHub", "OpenAI"], "summary_vi": "Hugging Face đã cập nhật tệp security.txt với thông điệp trực tiếp gửi tới các AI agent, kêu gọi các tác nhân tự hành này dừng rà quét lỗ hổng trên hạ tầng của họ và chuyển sang thử nghiệm an toàn trên CyberGym benchmark tại GitHub. Động thái này phản ánh thách thức từ các sự cố AI agent vô tình gây hại trong quá trình nghiên cứu bảo mật (như sự cố giữa OpenAI và Hugging Face), đồng thời lồng ghép lời kêu gọi hóm hỉnh về việc chia sẻ trọng số mô hình lên nền tảng.", "key_changes": ["Hugging Face bổ sung chỉ dẫn trực tiếp cho AI agent vào tệp security.txt.", "Hướng dẫn các AI agent kiểm thử bảo mật chuyển hướng sang CyberGym benchmark trên GitHub thay vì rà quét hệ thống production.", "Kêu gọi cộng đồng nhà phát triển chia sẻ trọng số mô hình (weights) lên nền tảng Hugging Face."], "sub_category": "AI Agent Security & Safety", "novelty_score": 70, "business_score": 60, "research_score": 70, "why_it_matters": "Sự gia tăng của AI agent tự hành trong nghiên cứu an ninh mạng đang dẫn đến nguy cơ tấn công nhầm vào các môi trường production thực tế. Việc Hugging Face đưa cảnh báo vào security.txt đánh dấu bước đi mới trong việc sử dụng ngôn ngữ tự nhiên để điều hướng tác nhân AI, đồng thời nhấn mạnh tầm quan trọng của các benchmark chuyên biệt như CyberGym nhằm đảm bảo an toàn cho hạ tầng số.", "developer_score": 65, "importance_score": 65, "possible_use_cases": ["Sử dụng CyberGym benchmark để đánh giá năng lực phát hiện lỗ hổng của AI agent trong môi trường an toàn và có kiểm soát.", "Cấu hình chỉ dẫn điều hướng cho AI agent trong các tệp chuẩn web như security.txt hoặc robots.txt.", "Thiết lập các giới hạn an toàn (guardrails) cho AI red-teaming agents trước khi triển khai trên không gian mạng."], "actionability_score": 60}