Mitigating Query Shortcuts in Chain-of-Thought with Context-Aware Decoding

{"tags": ["Chain-of-Thought", "Contrastive Decoding", "Rationale Contrastive Decoding", "LLM Reasoning", "Query Shortcuts", "Faithfulness", "Inference Optimization"], "risks": ["Gia tăng độ trễ suy luận (latency) và chi phí tính toán (compute overhead) do phải tính toán phân phối logits ở hai ngữ cảnh song song.", "Đòi hỏi quyền truy cập sâu vào phân phối xác suất token (logits/distribution), không thể áp dụng cho các API thương mại chỉ trả về văn bản thô.", "Nếu chuỗi suy luận ban đầu bị sai lệch hoặc ảo giác, việc khuếch đại phụ thuộc vào rationale có thể củng cố kết luận sai."], "category": "Research", "entities": ["Chain-of-Thought (CoT)", "Context-Aware Decoding (CAD)", "Rationale Contrastive Decoding (RCD)", "Large Language Models (LLMs)"], "summary_vi": "Nghiên cứu khảo sát hiện tượng mô hình ngôn ngữ lớn (LLM) dựa dẫm vào các 'đường tắt' trong câu truy vấn (query shortcuts) thay vì bám sát chuỗi suy luận (rationale) khi sử dụng Chain-of-Thought (CoT). Để khắc phục, tác giả đề xuất Rationale Contrastive Decoding (RCD) - một biến thể của Context-Aware Decoding (CAD) giúp khuếch đại các token có xác suất tăng lên nhờ vào rationale thông qua việc so sánh phân phối token khi có và không có rationale. Phương pháp này hoàn toàn không cần huấn luyện (training-free), có nền tảng lý thuyết từ bài toán tối ưu phần thưởng điều chuẩn KL, và đã được chứng minh qua 5 benchmark suy luận là giúp tăng độ chính xác cũng như gia tăng sự phụ thuộc thực chất của câu trả lời vào chuỗi suy luận.", "key_changes": ["Đề xuất phương pháp Rationale Contrastive Decoding (RCD) áp dụng Context-Aware Decoding (CAD) vào Chain-of-Thought (CoT) nhằm triệt tiêu hiện tượng query shortcuts.", "Cơ chế RCD so sánh và tương phản phân phối token tiếp theo giữa hai điều kiện (có và không có rationale) để khuếch đại các token có xác suất tăng nhờ vào suy luận.", "Đưa ra cơ sở lý thuyết chứng minh quy tắc giải mã RCD tương đương bài toán tối ưu hóa phần thưởng có điều chuẩn KL (KL-regularized reward maximization).", "Thực nghiệm trên 5 benchmark chứng minh RCD nâng cao độ chính xác câu trả lời so với CoT tiêu chuẩn.", "Phân tích can thiệp (intervention analysis) xác nhận RCD làm tăng mức độ phụ thuộc thực tế của câu trả lời vào nội dung của chuỗi suy luận mà không cần huấn luyện lại mô hình (training-free)."], "sub_category": "LLM Reasoning & Decoding", "novelty_score": 73, "business_score": 55, "research_score": 84, "why_it_matters": "CoT là kỹ thuật cốt lõi trong suy luận của LLM, nhưng việc mô hình sinh ra lý lẽ một đằng và trả lời một nẻo (unfaithful reasoning) làm giảm nghiêm trọng độ tin cậy. RCD mang lại giải pháp cấp độ giải mã (decoding-level) gọn nhẹ, không cần dữ liệu fine-tuning đắt đỏ, giúp đảm bảo câu trả lời cuối cùng thực sự dựa trên lập luận logic đã tạo ra.", "developer_score": 70, "importance_score": 76, "possible_use_cases": ["Tích hợp vào inference engine (như vLLM, HuggingFace TGI) của các mô hình LLM mã nguồn mở để tăng độ chính xác trong các bài toán suy luận phức tạp.", "Cải thiện độ trung thực (faithfulness) và khả năng giải thích của hệ thống AI trong các tác vụ nhạy cảm như tư vấn kỹ thuật, phân tích dữ liệu và toán học.", "Kiểm định chất lượng suy luận và giảm thiểu tình trạng mô hình 'đoán mò' kết quả bất chấp các bước suy luận được sinh ra."], "actionability_score": 72}