TICDA: Tabular In-Context Data Attribution

{"tags": ["TICDA", "Tabular Foundation Models", "In-Context Learning", "Data Attribution", "Active Learning", "Context Curation"], "risks": ["Ước lượng qua linear surrogate có thể bỏ sót các tương tác phi tuyến phức tạp giữa các mẫu trong ngữ cảnh.", "Phụ thuộc vào chất lượng biểu diễn không gian latent embeddings của mô hình TFM nền tảng.", "Yêu cầu quyền truy cập vào latent embeddings của mô hình, có thể bị hạn chế trên các mô hình dạng hộp đen (black-box API)."], "category": "Research", "entities": ["TICDA", "Tabular Foundation Models (TFMs)", "DemoShapley"], "summary_vi": "TICDA (Tabular In-Context Data Attribution) là phương pháp gán thuộc tính dữ liệu cho các mô hình nền tảng dạng bảng (TFMs), giúp đo lường chính xác ảnh hưởng của từng ví dụ mẫu trong ngữ cảnh tới dự đoán. Bằng cách sử dụng mô hình đại diện tuyến tính (linear surrogates) huấn luyện trên latent embeddings của TFM chỉ trong một lượt forward pass với chi phí tối thiểu, TICDA vượt qua nhược điểm tốn kém của DemoShapley và tính không khả thi của influence functions trong in-context learning. Phương pháp này thể hiện hiệu quả cao trong phát hiện nhãn sai, tối ưu hóa ngữ cảnh suy luận, chuyển giao điểm thuộc tính và hỗ trợ active learning.", "key_changes": ["Đề xuất TICDA để đo lường mức độ ảnh hưởng của từng ví dụ mẫu (demonstration) trong in-context learning của mô hình dữ liệu bảng (TFMs).", "Sử dụng linear surrogates huấn luyện trực tiếp trên latent embeddings của TFM chỉ qua một lượt forward pass duy nhất với chi phí tính toán không đáng kể.", "Khắc phục hạn chế bùng nổ tổ hợp của DemoShapley và sự không tương thích của influence functions (do ICL không cập nhật tham số mô hình).", "Chứng minh hiệu quả vượt trội qua 4 bài toán: phát hiện nhãn sai, rút gọn ngữ cảnh giảm chi phí inference, chuyển giao điểm attribution giữa các TFM, và hỗ trợ active learning."], "sub_category": "Data Attribution", "novelty_score": 82, "business_score": 72, "research_score": 86, "why_it_matters": "Trong thực tế, ngữ cảnh của mô hình TFM thường được tập hợp từ bất kỳ dữ liệu có sẵn nào, dễ chứa mẫu gán nhãn sai hoặc dư thừa làm giảm hiệu năng mô hình. TICDA giải quyết bài toán cốt lõi về việc hiểu và kiểm soát tác động của dữ liệu mẫu mà không cần cập nhật trọng số mô hình hay tốn chi phí tính toán tổ hợp, giúp doanh nghiệp và kỹ sư tối ưu chi phí suy luận và cải thiện độ tin cậy của mô hình dữ liệu bảng.", "developer_score": 76, "importance_score": 78, "possible_use_cases": ["Lọc sạch dữ liệu và phát hiện các mẫu bị gán nhãn sai trong tập dữ liệu bảng.", "Tinh chọn tập demonstration đưa vào prompt/context nhằm giảm chi phí suy luận (inference cost) mà vẫn giữ nguyên độ chính xác.", "Ứng dụng làm chiến lược chọn mẫu tối ưu cho active learning trên dữ liệu bảng.", "Chuyển giao điểm đánh giá chất lượng dữ liệu giữa nhiều kiến trúc TFM khác nhau."], "actionability_score": 75}