Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

Routes of Reasoning: Reading and Reshaping Test-Time Compute in MoE Models

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

68 RADAR
Research Test-Time Compute & MoE Interpretability · 1 nguồn đối chiếu · 2026-11-04 04:13:02 +0000 UTC

Routes of Reasoning: Reading and Reshaping Test-Time Compute in MoE Models

Nguồn: arXiv AI
↗

Nghiên cứu chỉ ra rằng bộ điều hướng (routers) trong mô hình MoE đóng vai trò như một giao diện tự nhiên, không cần huấn luyện lại (training-free) để kiểm soát các hành vi suy luận tại thời điểm suy luận (test-time compute). Bằng việc phân tích router logits, phương pháp dự đoán chính xác 6 hành vi suy luận tương đương residual stream nhưng sử dụng chỉ một nửa số đặc trưng. Việc can thiệp chỉnh sửa điểm router trong lúc suy luận giúp ngăn chặn hiện tượng 'suy nghĩ quá mức' (overthinking), cắt giảm trung vị 30,4% (tối đa 63,3%) số lượng token sinh ra mà độ chính xác gần như không suy giảm (giảm dưới 0,5% hoặc thậm chí cải thiện).

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Giải quyết trực tiếp nút thắt overthinking gây lãng phí chi phí hạ tầng và gia tăng độ trễ ở các reasoning model hiện đại mà không cần huấn luyện lại, giúp các doanh nghiệp và nhà phát triển tối ưu 30-60% chi phí vận hành suy luận thực tế.

Developer 79
Business 79
Novelty 85
Actionable 80

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

Reasoning models allocate test-time compute across distinct behaviors such as planning, deriving, and verifying. However, models frequently "overthink," continuing to verify and re-derive long after finding a correct answer. This wastes expensive compute and can even degrade performance. Existing interventions, such as token budgets or steering, primarily regulate reasoning duration rather than targeting specific behaviors. In this work, we demonstrate that Mixture-of-Experts (MoE) routers provide a natural, training-free interface for behavioral control. We first split reasoning traces into sentence-level segments and label each with one of six reasoning behaviors (planning, execution, restatement, fact, reflection, and conclusion), so that every token carries the behavior of its segment. Linear probes on router logits predict this label nearly as well as probes on the residual stream, the model's full hidden state and the standard target for probing, while using about half as many features. These signals generalize: experts associated with a reasoning behavior on one dataset predict the same behavior on the others, across six datasets spanning five domains (math, code, science, knowledge, and commonsense). Building on this, we selectively edit expert router scores during inference to curb overthinking. Across four models and four benchmarks, this intervention reduces the number of generated tokens by a median of 30.4% (and up to 63.3%). Crucially, it encourages the model to stop once the problem is solved, rather than skipping essential reasoning steps. Accuracy never drops by more than 0.5 percentage points, and frequently improves. Ultimately, MoE routing offers both an interpretable lens into reasoning states and a lightweight mechanism for optimizing test-time compute.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-11-05 10:44:31 +0000 UTC
{"tags": ["MoE", "Test-Time Compute", "Overthinking", "Reasoning Models", "Inference Optimization", "Interpretability"], "risks": ["Nguy cơ can thiệp quá mức dẫn đến cắt ngắn bước suy luận cần thiết trên các bài toán đòi hỏi kiểm chứng sâu (underthinking).", "Mức độ hiệu quả phụ thuộc vào kiến trúc MoE và cần tinh chỉnh ngưỡng can thiệp cho từng dòng mô hình.", "Phát sinh phụ phí tính toán khi can thiệp router scores động trong quá trình forward pass nếu chưa tối ưu kernel chuyên dụng."], "category": "Research", "entities": ["Mixture-of-Experts (MoE)", "Linear probes", "Router logits", "Residual stream"], "summary_vi": "Nghiên cứu chỉ ra rằng bộ điều hướng (routers) trong mô hình MoE đóng vai trò như một giao diện tự nhiên, không cần huấn luyện lại (training-free) để kiểm soát các hành vi suy luận tại thời điểm suy luận (test-time compute). Bằng việc phân tích router logits, phương pháp dự đoán chính xác 6 hành vi suy luận tương đương residual stream nhưng sử dụng chỉ một nửa số đặc trưng. Việc can thiệp chỉnh sửa điểm router trong lúc suy luận giúp ngăn chặn hiện tượng 'suy nghĩ quá mức' (overthinking), cắt giảm trung vị 30,4% (tối đa 63,3%) số lượng token sinh ra mà độ chính xác gần như không suy giảm (giảm dưới 0,5% hoặc thậm chí cải thiện).", "key_changes": ["Phát hiện router logits trong mô hình MoE phản ánh chính xác 6 hành vi suy luận (planning, execution, restatement, fact, reflection, conclusion) tương đương residual stream nhưng dùng chỉ một nửa số đặc trưng.", "Chứng minh các chuyên gia liên quan đến hành vi suy luận có tính tổng quát hóa cao qua 6 tập dữ liệu thuộc 5 miền tri thức khác nhau.", "Đề xuất kỹ thuật can thiệp chỉnh sửa điểm định tuyến (router scores) khi suy luận không cần huấn luyện lại (training-free) để ngăn chặn overthinking.", "Giảm trung vị 30,4% (tối đa 63,3%) số token sinh ra trên 4 mô hình và 4 benchmark mà không làm giảm độ chính xác quá 0,5% (thậm chí tăng nhẹ)."], "sub_category": "Test-Time Compute & MoE Interpretability", "novelty_score": 85, "business_score": 85, "research_score": 88, "why_it_matters": "Giải quyết trực tiếp nút thắt overthinking gây lãng phí chi phí hạ tầng và gia tăng độ trễ ở các reasoning model hiện đại mà không cần huấn luyện lại, giúp các doanh nghiệp và nhà phát triển tối ưu 30-60% chi phí vận hành suy luận thực tế.", "developer_score": 85, "importance_score": 85, "possible_use_cases": ["Tối ưu hóa chi phí và độ trễ phục vụ suy luận (serving) cho mô hình MoE kích thước lớn trong môi trường production.", "Tích hợp vào các inference engine (vLLM, TensorRT-LLM, SGLang) để điều khiển động ngân sách token theo hành vi thực tế.", "Giám sát và diễn giải trạng thái suy luận theo thời gian thực (interpretability monitoring) thông qua router logits.", "Cơ chế dừng sớm thông minh (early stopping) khi mô hình đã giải xong bài toán, loại trừ các bước kiểm tra lại không cần thiết."], "actionability_score": 80}