Does a model's stated reason for rejecting a candidate do any work?

{"tags": ["LLM Interpretability", "Faithfulness", "Model Explainability", "Counterfactual Evaluation", "Causal Inference", "2WikiMultihopQA"], "risks": ["Ảo tưởng về tính giải trình (illusion of explainability): Lý do mô hình nêu ra nghe có vẻ thuyết phục nhưng thực chất bị chi phối bởi vị trí xuất hiện của văn bản thay vì suy luận nhân quả.", "Sai lệch đánh giá do xung đột giữa xác suất token đơn và tạo sinh tự do, gây khó khăn cho việc kết luận về hành vi mô hình.", "Sai số hệ thống từ quy tắc trích xuất chuỗi (lên tới 17.1%) có thể làm sai lệch nghiêm trọng kết luận đánh giá nếu không đối soát kỹ."], "category": "Research", "entities": ["2WikiMultihopQA", "Holm correction", "Greedy decoding"], "summary_vi": "Nghiên cứu kiểm tra tính trung thực nhân quả trong lý do từ chối ứng viên của mô hình ngôn ngữ bằng phương pháp can thiệp chèn sự kiện thực tế vào hồ sơ đối thủ dưới chế độ greedy decoding. Thử nghiệm trên 6 mô hình mở với 2WikiMultihopQA cho thấy việc bổ sung sự kiện bị thiếu làm thay đổi lựa chọn nhiều hơn câu đối chứng không liên quan (OR 3.57, p=0.0210). Tuy nhiên, một câu không liên quan chèn vào đối thủ được nêu tên lại tạo ra thay đổi mạnh nhất (p=0.0008), chứng minh phản hồi bị chi phối nhiều bởi vị trí chèn hơn là nội dung ngữ nghĩa logic. Ngoài ra, đo lường xác suất token đơn mâu thuẫn với lựa chọn văn bản tự do, và quy tắc phân tích chuỗi gặp lỗi parsing tới 17.1%.", "key_changes": ["Đề xuất phương pháp can thiệp counterfactual tự động không cần judge để kiểm tra tính trung thực của lý do từ chối ứng viên mà LLM đưa ra.", "Chứng minh việc chèn sự kiện bị thiếu vào hồ sơ đối thủ làm đổi lựa chọn với tỷ lệ chênh odds ratio 3.57 (Holm p=0.0210) trên 6 mô hình mở.", "Phát hiện hiệu ứng vị trí lấn át ngữ nghĩa: chèn câu không liên quan vào đối thủ được chỉ định làm đổi lựa chọn mạnh hơn cả nội dung logic (Holm p=0.0008).", "Ghi nhận mâu thuẫn chiều hướng giữa xác suất token đơn (forced single-token probability) và lựa chọn văn bản tự do (free-text choice).", "Chỉ ra lỗi đo lường trong phân tích chuỗi: lỗi parser làm sai lệch kết quả ở 17.1% phản hồi, cảnh báo sự cần thiết của kiểm định quy tắc phân tích."], "sub_category": "LLM Interpretability & Faithfulness", "novelty_score": 82, "business_score": 60, "research_score": 90, "why_it_matters": "Nghiên cứu chứng minh rằng lý do mà LLM đưa ra để từ chối một lựa chọn không phản ánh đầy đủ cơ chế suy luận nhân quả thực sự, mà chịu ảnh hưởng mạnh bởi các yếu tố bề mặt như vị trí chèn văn bản. Điều này cảnh báo các hệ thống AI nhạy cảm (tài chính, tuyển dụng, pháp lý) không được mặc định tin tưởng vào lời tự giải thích của LLM, đồng thời yêu cầu các kỹ sư phải thẩm định chặt chẽ các bộ parser đầu ra.", "developer_score": 68, "importance_score": 78, "possible_use_cases": ["Xây dựng benchmark kiểm chuẩn độ trung thực (faithfulness) của lời giải thích do LLM tạo ra trong các tác vụ so sánh, lựa chọn.", "Đánh giá và kiểm định các hệ thống tự động sàng lọc hồ sơ hoặc chấm điểm tránh rủi ro quyết định bị chi phối bởi vị trí văn bản thay vì logic.", "Thiết lập quy trình kiểm thử và thẩm định (validation) cho các parser phân tích kết quả đầu ra của LLM trong pipeline sản phẩm."], "actionability_score": 58}