Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

Evolving Semantic Indexes for Generative Retrieval

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

66 RADAR
Research Information Retrieval · 1 nguồn đối chiếu · 2026-10-20 17:27:46 +0000 UTC

Evolving Semantic Indexes for Generative Retrieval

Nguồn: arXiv AI
↗

Nghiên cứu giới thiệu khung tối ưu hóa chỉ mục ngữ nghĩa (SID) cho Generative Retrieval (GR) bằng tìm kiếm chương trình tiến hóa thông qua LLM. Thay vì thiết kế thủ công các thành phần rời rạc không thể vi phân, phương pháp sử dụng một mô hình mã nguồn mở 31B chạy cục bộ để biến đổi mã nguồn và dùng proxy decoder 1M tham số đánh giá nhanh (đạt tương quan Spearman rho = 0.90 với bộ sinh 1B mục tiêu). Phương pháp giúp tăng Recall@1 từ 55.8% lên 59.3% và Recall@100 từ 85.8% lên 90.6% trên NQ320K, đồng thời chứng minh hiệu quả trên MSMARCO300K và tập dữ liệu e-commerce đa ngôn ngữ.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Generative Retrieval giải quyết tìm kiếm và gợi ý dưới dạng sinh tự hồi quy, nhưng bị nghẽn bởi thiết kế mã định danh ngữ nghĩa (SID) rời rạc vốn phụ thuộc vào kỹ thuật thủ công. Nghiên cứu này chứng minh tính khả thi của việc dùng LLM cục bộ kết hợp mô hình proxy siêu nhẹ để tự động tiến hóa các thuật toán lập chỉ mục hiệu quả cao mà không tốn chi phí huấn luyện lại mô hình lớn liên tục.

Developer 72
Business 67
Novelty 82
Actionable 70

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

Generative retrieval (GR) casts search and recommendation as autoregressive generation of discrete semantic identifiers (SIDs). SID design largely determines GR quality, but its discrete, interdependent components (SID construction, collision handling, decoding, and training) cannot be optimized end-to-end with gradients and remain largely hand-designed. We introduce a framework that improves these components through LLM-driven evolutionary program search, to our knowledge the first application of this approach to GR. A locally served, open-weight 31B model mutates executable GR components, so no proprietary LLM API is used, and a 1M-parameter proxy decoder provides fast feedback in place of repeatedly training the 1B target generator. Across 21 SID programs on NQ320K, proxy and target Recall@100 show strong rank correlation (Spearman $ρ= 0.90$). Guided by this proxy, evolution improves the seed GR on NQ320K, MSMARCO300K, and a multilingual e-commerce dataset under a fixed training recipe. On NQ320K, jointly evolving SID construction and collision handling improves Recall@1 from 55.8% to 59.3% and Recall@100 from 85.8% to 90.6%. A component study shows that proxy reliability depends on what is evolved: improvements transfer reliably for the semantic index but not for the generator's training objective or the full pipeline. LLM-driven evolutionary search is thus a practical tool for GR design, provided proxy reliability is established for the chosen search space.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-10-21 10:03:25 +0000 UTC
{"tags": ["Generative Retrieval", "Semantic Indexing", "Evolutionary Search", "LLM Code Generation", "Information Retrieval", "Proxy Evaluation"], "risks": ["Tính tin cậy của proxy phụ thuộc chặt chẽ vào không gian tìm kiếm, không chuyển giao được khi tối ưu hàm mục tiêu huấn luyện của generator hoặc toàn bộ pipeline.", "Chi phí tài nguyên để chạy mô hình tiến hóa 31B cục bộ qua nhiều thế hệ.", "Nguy cơ sai lệch xếp hạng nếu không kiểm chứng lại tương quan Spearman trên các tập dữ liệu hoặc miền đặc thù khác."], "category": "Research", "entities": ["Generative Retrieval (GR)", "Semantic Identifiers (SIDs)", "NQ320K", "MSMARCO300K", "Proxy Decoder", "Spearman correlation"], "summary_vi": "Nghiên cứu giới thiệu khung tối ưu hóa chỉ mục ngữ nghĩa (SID) cho Generative Retrieval (GR) bằng tìm kiếm chương trình tiến hóa thông qua LLM. Thay vì thiết kế thủ công các thành phần rời rạc không thể vi phân, phương pháp sử dụng một mô hình mã nguồn mở 31B chạy cục bộ để biến đổi mã nguồn và dùng proxy decoder 1M tham số đánh giá nhanh (đạt tương quan Spearman rho = 0.90 với bộ sinh 1B mục tiêu). Phương pháp giúp tăng Recall@1 từ 55.8% lên 59.3% và Recall@100 từ 85.8% lên 90.6% trên NQ320K, đồng thời chứng minh hiệu quả trên MSMARCO300K và tập dữ liệu e-commerce đa ngôn ngữ.", "key_changes": ["Áp dụng tìm kiếm chương trình tiến hóa (evolutionary program search) dựa trên LLM vào thiết kế các thành phần rời rạc của Generative Retrieval (GR).", "Sử dụng LLM mã nguồn mở 31B chạy cục bộ để đột biến mã nguồn thực thi, không cần phụ thuộc vào API thương mại độc quyền.", "Dùng bộ giải mã ủy nhiệm (proxy decoder) 1M tham số để phản hồi nhanh thay vì huấn luyện lại mô hình 1B, đạt tương quan Spearman rank rho = 0.90 trên NQ320K.", "Tăng Recall@1 từ 55.8% lên 59.3% và Recall@100 từ 85.8% lên 90.6% trên NQ320K khi đồng tiến hóa cấu trúc SID và xử lý xung đột (collision handling).", "Chứng minh tính tin cậy của proxy có chọn lọc: chuyển giao hiệu quả đối với chỉ mục ngữ nghĩa (semantic index), nhưng không chuyển giao đối với mục tiêu huấn luyện hoặc toàn bộ pipeline."], "sub_category": "Information Retrieval", "novelty_score": 82, "business_score": 68, "research_score": 88, "why_it_matters": "Generative Retrieval giải quyết tìm kiếm và gợi ý dưới dạng sinh tự hồi quy, nhưng bị nghẽn bởi thiết kế mã định danh ngữ nghĩa (SID) rời rạc vốn phụ thuộc vào kỹ thuật thủ công. Nghiên cứu này chứng minh tính khả thi của việc dùng LLM cục bộ kết hợp mô hình proxy siêu nhẹ để tự động tiến hóa các thuật toán lập chỉ mục hiệu quả cao mà không tốn chi phí huấn luyện lại mô hình lớn liên tục.", "developer_score": 75, "importance_score": 78, "possible_use_cases": ["Tự động tối ưu hóa kiến trúc chỉ mục ngữ nghĩa cho hệ thống Generative Retrieval quy mô lớn.", "Cải thiện độ chính xác và khả năng thu hồi (recall) trong hệ thống tìm kiếm sản phẩm thương mại điện tử đa ngôn ngữ.", "Sử dụng mô hình proxy siêu nhỏ để sàng lọc nhanh các thuật toán sinh mã định danh trước khi triển khai huấn luyện mô hình sinh lớn."], "actionability_score": 70}
← Trang trước Trang 1