TRACE: Trajectory Return Attribution and Contrastive Erasure for Multi-Turn Safety

{"tags": ["AI Safety", "Multi-Turn Safety", "LLM Alignment", "Jailbreak Defense", "TRACE", "Token-Level Optimization"], "risks": ["Gây suy giảm nhẹ đến năng lực tổng quát của mô hình (tối đa 1.23 điểm trên MMLU và HellaSwag).", "Gia tăng độ phức tạp và chi phí tính toán trong quá trình huấn luyện do phải tạo bản sao mô hình triệt tiêu từ chối và tính toán phạt chuẩn gradient.", "Khả năng tổng quát hóa trên các mô hình siêu lớn (frontier models) hoặc các kỹ thuật jailbreak hoàn toàn mới ngoài 7 dạng tấn công đã thử nghiệm cần được kiểm chứng thêm."], "category": "Research", "entities": ["TRACE", "MMLU", "HellaSwag"], "summary_vi": "TRACE là phương pháp căn chỉnh an toàn cấp độ token cho LLM trong các hội thoại nhiều lượt (multi-turn). Phương pháp thiết lập điều kiện đủ để chặn rủi ro quỹ đạo nhiều lượt từ ngữ cảnh đơn lượt, sử dụng lợi thế quy kết từ chối chiết khấu để gán trọng số cho token an toàn, kết hợp xóa tương phản ở các vị trí rủi ro cao và phạt chuẩn gradient thay thế retain set. Thử nghiệm trên 5 mô hình mở và 7 kiểu tấn công cho thấy TRACE đạt ASR thấp nhất trong toàn bộ 35 cặp thử nghiệm trong khi độ suy giảm tiện ích dưới 1.23 điểm.", "key_changes": ["Chứng minh điều kiện đủ để chặn rủi ro quỹ đạo nhiều lượt từ việc ức chế rủi ro ở ngữ cảnh đơn lượt có giám sát (xét đến độ phủ, độ trễ chuyển giao và rò rỉ).", "Đề xuất cơ chế gán trọng số token an toàn dựa trên discounted return của lợi thế quy kết từ chối (so sánh mô hình tham chiếu đóng băng với bản sao bị triệt tiêu từ chối).", "Áp dụng kỹ thuật xóa tương phản (contrastive erasure) tại các vị trí chênh lệch cao trên phản hồi bị loại bỏ bằng cách kết hợp token quan sát với các phương án thay thế.", "Sử dụng gradient-norm penalty thay thế tập dữ liệu duy trì (retain set) nhằm bảo toàn năng lực mô hình.", "Đạt tỷ lệ tấn công thành công (ASR) thấp nhất trên cả 35 cặp mô hình và kiểu tấn công multi-turn, suy giảm hiệu năng MMLU và HellaSwag không quá 1.23 điểm."], "sub_category": "AI Safety & Alignment", "novelty_score": 82, "business_score": 70, "research_score": 88, "why_it_matters": "Các kỹ thuật căn chỉnh hiện nay (như RLHF hay DPO) thường chỉ đánh giá toàn bộ phản hồi đơn lẻ, khiến mô hình dễ bị tấn công khi kẻ xấu chia nhỏ ý đồ độc hại qua nhiều lượt hội thoại. TRACE cung cấp cơ sở lý thuyết chứng minh ranh giới rủi ro nhiều lượt và hiện thực hóa thành hàm mục tiêu cấp token hiệu quả, giải quyết triệt để điểm yếu phòng thủ multi-turn mà vẫn bảo toàn năng lực cốt lõi của LLM.", "developer_score": 76, "importance_score": 78, "possible_use_cases": ["Huấn luyện và căn chỉnh an toàn (post-training safety alignment) cho các mô hình hội thoại đa lượt chống tấn công bẻ khóa (jailbreak) tinh vi.", "Bảo vệ các trợ lý AI và chatbot dịch vụ khách hàng khỏi các kỹ thuật thao túng xã hội phân tán qua nhiều lượt trò chuyện.", "Tối ưu hóa quy trình fine-tuning mô hình mã nguồn mở an toàn mà không cần thu thập dữ liệu hội thoại nhiều lượt quy mô lớn hoặc duy trì retain set."], "actionability_score": 72}