LLM Trojans that Increase Response Lengths and Cost

{"tags": ["LLM Security", "Data Poisoning", "Trojan Attack", "Token Cost", "AI Safety", "Instruction Tuning"], "risks": ["Thiệt hại tài chính nghiêm trọng khi token phản hồi đắt gấp nhiều lần (thường tới 5 lần) so với token đầu vào.", "Khó phát hiện và ngăn chặn do trigger kích hoạt dựa trên ngữ nghĩa tương đồng chứ không chỉ là chuỗi ký tự cố định.", "Nguy cơ lây nhiễm từ các tập dữ liệu cộng đồng hoặc dữ liệu bên thứ ba chưa qua kiểm duyệt kỹ lưỡng."], "category": "Research", "entities": ["LLM", "Trojan"], "summary_vi": "Nghiên cứu đề xuất giải pháp phòng thủ trước một dạng tấn công đầu độc dữ liệu (data-poisoning) mới: cài mã độc Trojan vào LLM đã qua tinh chỉnh chỉ dẫn (instruction fine-tuned) để âm thầm kéo dài câu trả lời khi gặp prompt kích hoạt hoặc chỉ dẫn có ngữ nghĩa tương đương, từ đó làm tăng vọt chi phí token của người dùng.", "key_changes": ["Phát hiện hình thức tấn công Trojan mới thông qua đầu độc dữ liệu (data-poisoning), khiến LLM sinh phản hồi dài bất thường nhằm thổi phồng chi phí token của người dùng.", "Chứng minh Trojan có thể kích hoạt tinh vi dựa trên các chỉ dẫn có ngữ nghĩa tương đồng (semantically similar instructions) trên mô hình instruction fine-tuned mà không cần từ khóa cố định.", "Đề xuất cơ chế phòng thủ chống lại loại tấn công đầu độc dữ liệu gây lãng phí chi phí này."], "sub_category": "AI Security & Safety", "novelty_score": 75, "business_score": 78, "research_score": 82, "why_it_matters": "Nghiên cứu chỉ ra một vector tấn công kinh tế mới (Denial-of-Wallet) nhắm thẳng vào mô hình định giá token của các nhà cung cấp LLM. Kẻ tấn công không cần làm sai lệch nội dung mà vẫn có thể gây thiệt hại ngân sách nặng nề cho người dùng và doanh nghiệp, nhấn mạnh tầm quan trọng của việc kiểm soát nguồn dữ liệu huấn luyện và phòng thủ chi phí.", "developer_score": 68, "importance_score": 72, "possible_use_cases": ["Kiểm toán an toàn dữ liệu và sàng lọc mã độc trước khi đưa vào pipeline instruction fine-tuning cho LLM.", "Thiết lập hệ thống giám sát bất thường về độ dài token và chi phí API theo thời gian thực (Cost Anomaly Detection).", "Triển khai các bộ lọc bảo vệ và cơ chế phòng thủ cho ứng dụng LLM thương mại nhằm ngăn chặn tấn công cạn kiệt tài chính (Denial-of-Wallet)."], "actionability_score": 60}