Controlled Decoding Attacks on Black-Box LLMs

{"tags": ["AI Safety", "LLM Jailbreak", "Black-Box Attack", "Controlled Decoding", "Adversarial ML"], "risks": ["Nguy cơ bị khai thác để vượt qua căn chỉnh an toàn trên các mô hình thương mại với chi phí truy vấn thấp.", "Tạo ra nội dung độc hại hoặc trích xuất thông tin nhạy cảm từ các mô hình vốn đã được căn chỉnh an toàn."], "category": "Research", "entities": ["LLM", "Sample-Based Distribution Reconstruction", "Risk-Gated Residual Control", "Speculative Multi-Token Execution"], "summary_vi": "Nghiên cứu giới thiệu một framework tấn công bẻ khóa (jailbreak) trên các mô hình ngôn ngữ lớn (LLM) hộp đen chỉ qua giao diện text-only continuation có hỗ trợ lặp mẫu và assistant-prefix. Phương pháp giải quyết bài toán ước tính phân phối thưa thớt và chi phí truy vấn cao bằng ba thành phần: Tái tạo phân phối dựa trên mẫu (kết hợp prior), Kiểm soát phần dư theo rủi ro (tập trung can thiệp tại các vị trí nhạy cảm) và Thực thi suy đoán đa token (giảm số lần gọi API), đạt hiệu quả vượt trội so với các baseline trên nhiều benchmark.", "key_changes": ["Phát triển phương pháp bẻ khóa (jailbreak) LLM hộp đen thông qua giao diện sinh tiếp văn bản thuần túy (text-only continuation) hỗ trợ lặp mẫu và assistant-prefix.", "Kỹ thuật Sample-Based Distribution Reconstruction: Tái tạo phân phối xác suất từ mẫu hữu hạn kết hợp prior để tạo tín hiệu điều khiển.", "Cơ chế Risk-Gated Residual Control: Tập trung can thiệp và tái tạo phân phối tại các vị trí rủi ro then chốt dọc quỹ đạo sinh, tiết kiệm chi phí truy vấn.", "Cơ chế Speculative Multi-Token Execution: Xác minh và chấp nhận các tiền tố nháp không cần can thiệp để giảm tải số lần gọi mô hình mục tiêu."], "sub_category": "AI Safety & Adversarial Attacks", "novelty_score": 80, "business_score": 65, "research_score": 85, "why_it_matters": "Trước đây, các cuộc tấn công can thiệp phân phối giải mã (controlled decoding) yêu cầu quyền truy cập trọng số mô hình hoặc xác suất token (white-box). Nghiên cứu này chứng minh rằng giao diện hộp đen chỉ trả về text vẫn có thể bị bẻ khóa an toàn hiệu quả nếu cho phép tiếp tục tiền tố (prefix continuation), đặt ra yêu cầu cấp thiết về việc kiểm soát bề mặt API và cơ chế định giá/giới hạn truy vấn đối với các nhà cung cấp LLM.", "developer_score": 75, "importance_score": 78, "possible_use_cases": ["Kiểm thử bảo mật (red-teaming) tự động cho các API LLM hộp đen thương mại.", "Nghiên cứu cơ chế phòng thủ và giám sát truy vấn bất thường trên các endpoint hỗ trợ assistant-prefix continuation.", "Đánh giá độ bền vững của safety alignment trước các kỹ thuật tấn công giải mã có kiểm soát."], "actionability_score": 70}