Label-Centric Knowledge Retrieval for Zero-Shot Text Classification

{"tags": ["Zero-Shot Classification", "RAG", "Label-Centric", "Cost Optimization", "SLKR", "LLM Inference", "Data Labeling"], "risks": ["Chất lượng suy luận phụ thuộc chặt chẽ vào độ chính xác của tri thức nhãn và quy tắc ranh giới do LLM đầu bảng sinh ở pha offline.", "Nguy cơ bùng nổ số lượng cặp nhãn gây nhầm lẫn và quy tắc ranh giới nếu không gian nhãn quá lớn hoặc có độ phân cấp sâu.", "Lỗi bỏ sót nhãn đúng ở bước truy xuất top-K ban đầu (retrieval error) sẽ khiến LLM nhỏ không thể phân loại chính xác.", "Khó thích ứng ngay lập tức khi danh mục nhãn thay đổi liên tục mà không chạy lại quy trình cập nhật tri thức offline."], "category": "Research", "entities": ["SLKR", "Semantic Label Knowledge Retrieval", "Qwen3.5-4B", "Ministral-3-3B", "LLM"], "summary_vi": "SLKR (Semantic Label Knowledge Retrieval) là khung RAG tập trung vào nhãn (label-centric) cho bài toán phân loại văn bản zero-shot, tách biệt pha xây dựng tri thức offline và suy luận nhẹ online. Ở pha offline, LLM đầu bảng tạo định nghĩa nhãn, từ khóa truy vấn và quy tắc ranh giới (boundary rules) cho các cặp nhãn dễ nhầm lẫn thành kho tri thức tái sử dụng, giúp khấu hao chi phí trên toàn bộ không gian nhãn. Ở pha online, hệ thống kết hợp truy xuất ngữ nghĩa và từ vựng để chọn top-K nhãn ứng viên cùng tối đa M quy tắc ranh giới liên quan đến đầu vào; sau đó LLM nhỏ (như Qwen3.5-4B hay Ministral-3-3B) chỉ cần một lượt gọi duy nhất với ngữ cảnh tinh gọn để phân loại chính xác mà không cần dữ liệu mẫu gán nhãn trước.", "key_changes": ["Đề xuất kiến trúc RAG tập trung vào nhãn (label-centric) thay vì ngữ liệu tài liệu (corpus-centric) cho phân loại zero-shot.", "Tách biệt hoàn toàn việc xây dựng tri thức nhãn offline bằng LLM đầu bảng với quá trình suy luận online bằng LLM nhỏ.", "Khấu hao chi phí LLM lớn bằng cách sinh định nghĩa, từ khóa và quy tắc phân định ranh giới (boundary rules) một lần duy nhất trên không gian nhãn.", "Kết hợp truy xuất lai (ngữ nghĩa + từ vựng) chọn top-K nhãn và M quy tắc ranh giới phù hợp với văn bản đầu vào để giữ ngữ cảnh đầu vào ngắn gọn cho LLM 3B-4B."], "sub_category": "Zero-Shot Text Classification & RAG", "novelty_score": 80, "business_score": 84, "research_score": 82, "why_it_matters": "SLKR giải quyết rào cản chi phí và độ trễ lớn nhất khi ứng dụng LLM vào phân loại dữ liệu quy mô lớn. Bằng cách chuyển đổi tri thức suy luận phức tạp của mô hình đầu bảng thành kho quy tắc ranh giới nhãn tái sử dụng, phương pháp này cho phép các mô hình nhỏ (3B-4B) đạt độ chính xác tương đương mô hình lớn trong điều kiện zero-shot với chi phí và độ dài ngữ cảnh tối thiểu.", "developer_score": 85, "importance_score": 78, "possible_use_cases": ["Gán nhãn tự động cho tập dữ liệu văn bản quy mô lớn mà không tốn chi phí gọi API LLM đắt đỏ cho từng mẫu.", "Phân loại tài liệu đa ngôn ngữ phức tạp (như phân loại sách, bài báo) với hệ thống nhãn có ranh giới dễ gây nhầm lẫn.", "Tối ưu hóa độ trễ và chi phí hạ tầng cho các hệ thống phân loại ticket hỗ trợ, email định tuyến hoặc kiểm duyệt nội dung thời gian thực bằng mô hình nhỏ 3B-4B.", "Xây dựng kho tri thức nhãn chuẩn hóa và quy tắc ranh giới tự động phục vụ các tác vụ phân loại zero-shot trong doanh nghiệp."], "actionability_score": 82}