SAGE: Mitigating Long-Horizon Reasoning Biases via Topological Guidance

{"tags": ["LLM Reasoning", "Long-Horizon Reasoning", "SAGE", "Hyperbolic Embeddings", "Symbolic Closure Analysis", "Sparse Rewards"], "risks": ["Chi phí tính toán bổ sung khi thực hiện phép chiếu đại số và tính toán phép nhúng trong không gian hyperbolic trong quá trình tìm kiếm.", "Khó khăn khi tổng quát hóa nguyên lý đóng ký hiệu (symbolic closure) sang các tác vụ ngôn ngữ tự nhiên phi hình thức, ít tính cấu trúc toán học."], "category": "Research", "entities": ["SAGE", "Symbolic Closure Analysis", "Andrews-Curtis problem", "NeurIPS"], "summary_vi": "Nghiên cứu giới thiệu khung làm việc SAGE (Structural Admissibility-Guided Exploration) cùng nền tảng lý thuyết Phân tích Đóng Ký hiệu (Symbolic Closure Analysis - SCA) nhằm khắc phục thiên kiến khám phá và thiên kiến tích lũy sai số trong suy luận chuỗi dài của LLM dưới môi trường phần thưởng thưa. Bằng cách kết hợp làm thưa đại số (loại bỏ nhánh suy luận giả) và định hướng cấu trúc hyperbolic (cung cấp tín hiệu sâu dày đặc), SAGE cải thiện vượt trội trên 12 bộ benchmark và 7 họ mô hình, đặc biệt đạt mức cải thiện gấp 8 lần trên bài toán Andrews-Curtis.", "key_changes": ["Xác định hai thiên kiến chính gây suy giảm khả năng suy luận chuỗi dài dưới phần thưởng thưa: thiên kiến khám phá (bị thu hút bởi nhánh cục bộ nhưng bất ổn định) và thiên kiến tích lũy (sai số nhỏ cộng dồn theo chiều sâu).", "Đề xuất khung lý thuyết Symbolic Closure Analysis (SCA) để mô tả cách cấu trúc phân nhánh và phần thưởng thưa gây ra các thiên kiến suy luận.", "Xây dựng khung SAGE kết hợp kỹ thuật làm thưa đại số (algebraic sparsification) để triệt tiêu các nhánh rẽ giả mạo, giải quyết thiên kiến khám phá.", "Tích hợp dẫn hướng cấu trúc hyperbolic nhằm nhúng trạng thái suy luận vào không gian có độ cong âm, cung cấp tín hiệu chiều sâu dày đặc để xử lý thiên kiến tích lũy.", "Kiểm chứng trên 12 benchmark và 7 họ mô hình, đạt mức tăng trưởng hiệu năng tới 8 lần trên bài toán thế giới thực Andrews-Curtis; công khai mã nguồn tại GitHub."], "sub_category": "LLM Reasoning & Search Guidance", "novelty_score": 86, "business_score": 55, "research_score": 92, "why_it_matters": "Khả năng suy luận dài hạn (long-horizon reasoning) là rào cản lớn nhất ngăn LLM giải các bài toán khoa học, kỹ thuật và tự động hóa phức tạp do mô hình dễ lạc vào nhánh sai hoặc tích lũy sai số theo độ sâu. Phương pháp dẫn đường tô-pô và đại số của SAGE mở ra cơ chế kiểm soát không gian tìm kiếm có căn cứ toán học vững chắc, mở đường cho thế hệ mô hình lập luận chính xác và bền bỉ hơn.", "developer_score": 78, "importance_score": 84, "possible_use_cases": ["Tối ưu hóa các thuật toán tìm kiếm lúc suy luận (test-time search / MCTS / Tree-of-Thoughts) cho các mô hình suy luận chuỗi dài.", "Ứng dụng vào hệ thống chứng minh định lý tự động và giải toán hình thức phức tạp nơi không gian trạng thái sâu và phần thưởng rất thưa.", "Nâng cao độ chính xác trong lập kế hoạch nhiều bước (multi-step planning) cho AI agent trong môi trường kỹ thuật hoặc mã hóa phức tạp."], "actionability_score": 70}