Why Are LLMs Confidently Wrong? Correcting Overconfident Errors via Causal Head Intervention

{"tags": ["LLM Calibration", "Mechanistic Interpretability", "Causal Intervention", "Overconfidence", "CoCHI", "Model Reliability", "Expected Calibration Error"], "risks": ["Chỉ áp dụng được cho mô hình mở (white-box models) có quyền truy cập vào attention heads/internal activations, không thể áp dụng cho API mô hình đóng (black-box).", "Gia tăng độ trễ và độ phức tạp tính toán trong quá trình phục vụ mô hình (inference serving pipeline) khi thực hiện can thiệp nội bộ.", "Mới chỉ được kiểm chứng trên các bài kiểm tra trắc nghiệm nhiều lựa chọn (MCQA), chưa rõ hiệu quả trên các bài toán sinh tự do (open-ended generation) hay lý luận phức tạp."], "category": "Research", "entities": ["CoCHI", "Expected Calibration Error (ECE)", "Negative Log-Likelihood (NLL)", "Brier Score"], "summary_vi": "CoCHI (Class-oriented Causal Head Intervention) là phương pháp hiệu chỉnh mô hình ngôn ngữ lớn (LLM) bằng cách xác định và can thiệp trực tiếp vào các attention head chịu trách nhiệm về hành vi tự tin sai lệch. Khác với các kỹ thuật hậu xử lý (post-hoc) hay tái huấn luyện thông thường vốn chỉ tác động ở tầng phân phối xác suất đầu ra, CoCHI phân tích các mẫu hình độ chính xác - mức độ tự tin để can thiệp nội bộ trúng đích, giúp giảm thiểu lỗi quá tự tin mà vẫn giữ nguyên độ chính xác trên 5 benchmark trắc nghiệm. Phương pháp mang lại góc nhìn cơ chế (mechanistic perspective) liên kết độ tin cậy với các cấu trúc nhân quả cụ thể bên trong mô hình.", "key_changes": ["Xác định nguyên nhân khiến LLM tự tin sai (overconfident errors) xuất phát từ các cấu trúc attention head cụ thể bên trong mô hình thay vì chỉ là vấn đề ở tầng đầu ra.", "Đề xuất khung can thiệp CoCHI dựa trên phân tích mẫu hình độ chính xác - mức độ tự tin (correctness-confidence patterns) để can thiệp trúng đích vào cơ chế nhân quả nội bộ.", "Giảm đáng kể lỗi quá tự tin nhưng vẫn duy trì độ chính xác (accuracy) ban đầu trên 5 bộ benchmark trắc nghiệm (MCQA).", "Cải thiện nhất quán các chỉ số hiệu chỉnh gồm Expected Calibration Error (ECE), Negative Log-Likelihood (NLL) và Brier Score mà không cần tái huấn luyện (retraining) tốn kém."], "sub_category": "LLM Calibration & Mechanistic Interpretability", "novelty_score": 80, "business_score": 70, "research_score": 88, "why_it_matters": "Hiện tượng LLM đưa ra câu trả lời sai với mức độ tự tin tuyệt đối là rào cản lớn nhất đối với việc tự động hóa các quy trình doanh nghiệp có rủi ro cao. CoCHI chứng minh rằng vấn đề này có thể giải quyết tận gốc thông qua can thiệp vào các attention head nhân quả thay vì điều chỉnh bề mặt ở đầu ra hoặc tốn kém tái huấn luyện, mở ra hướng đi thực tiễn để tăng cường độ tin cậy cho các mô hình nguồn mở khi đưa vào môi trường sản xuất.", "developer_score": 72, "importance_score": 78, "possible_use_cases": ["Định tuyến truy vấn thông minh (Confidence-based routing): Chuyển tiếp chính xác các trường hợp mô hình không chắc chắn sang người thẩm định hoặc mô hình lớn hơn.", "Triển khai LLM trong lĩnh vực rủi ro cao (Y tế, Pháp lý, Tài chính): Hạn chế rủi ro ảo giác nghiêm trọng bằng cách loại bỏ các câu trả lời sai lệch nhưng có độ tự tin cao.", "Tối ưu hóa độ tin cậy cho mô hình mã nguồn mở trong production: Nâng cao chất lượng dự báo xác suất mà không phải chi trả chi phí tái huấn luyện mô hình."], "actionability_score": 65}