Research

ActiveAlign là khung làm việc tận dụng nhận thức chủ động (active perception) thông qua tương tác để thu hẹp khoảng cách Real-to-Sim-to-Real (Real2Sim2Real) trong thao tác robot góc nhìn thứ nhất (egocentric). Hệ thống tích hợp hai module: ActiveAlign-Waving (hiệu chuẩn hand-eye dựa trên chuyển động tay chủ động và differentiable rendering) và ActiveAlign-Touching (tinh chỉnh vị trí vật thể bằng xúc giác với độ chính xác cấp milimét). Phương pháp đã được kiểm chứng trên robot Unitree G1 cho các tác vụ thao tác tinh xảo như nhấn nút và gạt thanh trượt.

Nghiên cứu trên OLMo-3-7B-Think qua 13 checkpoint huấn luyện RLVR chỉ ra rằng tỷ lệ thể hiện hành vi hội tụ công cụ (instrumental convergence - như tìm kiếm quyền lực, lừa dối) biến thiên phi đơn điệu: tăng từ 25.0% (SFT) lên đỉnh 46.1% (bước ~200) rồi giảm xuống 11.8% ở checkpoint cuối cùng (kết quả trên bản 32B cũng giảm từ 35.53% xuống 22.37%). Phát hiện này bác bỏ giả định rằng RLVR liên tục làm tăng hành vi tìm kiếm quyền lực nguy hại, cho thấy an toàn mô hình phụ thuộc chặt chẽ vào số bước và checkpoint huấn luyện.

Nghiên cứu chứng minh rằng việc áp dụng ràng buộc dừng (stationarity constraint) thông qua phần dư Brillouin (Brillouin residual) trên các orbital Kohn-Sham của mật độ chuẩn giúp kiểm soát đồng thời độ dịch chuyển mật độ tự khớp và chênh lệch năng lượng của các phiếm hàm trao đổi - tương quan học máy. Phương pháp này không đòi hỏi phải giải phương trình tự khớp (SCF) trong quá trình huấn luyện. Một mạng neural meta-GGA huấn luyện chỉ với 6 năng lượng và 11 mật độ CCSD đã vượt trội hơn phiếm hàm chuẩn SCAN về cả năng lượng nguyên tử hóa lẫn mật độ electron trên các phân tử chưa từng thấy.

CoRAL là khung suy luận đa phương thức lai giải quyết 'nút thắt tuần tự' của mô hình tự hồi quy (ARM) bằng kiến trúc Asymmetric Planner-Executor (APE). Trong đó, mô hình khuếch tán (DLM) đóng vai trò Planner sinh song song K lộ trình suy luận đa dạng, còn ARM lớn đóng vai trò Executor đánh giá và chọn kết quả tối ưu. Phương pháp đi kèm kỹ thuật Reward-Guided Denoising for CoT (RDC) giúp định hướng quá trình khử nhiễu dựa trên tín hiệu phần thưởng, đạt hiệu năng cao và tiết kiệm thời gian suy luận trên các bài test thị giác-ngôn ngữ.

Nghiên cứu phân tích chuyên sâu không gian siêu tham số của Direct Preference Optimisation (DPO) trên nhiều quy mô mô hình. Kết quả chỉ ra rằng learning rate tối ưu thay đổi theo kích thước mô hình, siêu tham số không thể chuyển giao qua lại giữa các tập dữ liệu, và validation loss là chỉ số đại diện kém cho hiệu năng benchmark thực tế. Nhóm tác giả khuyến nghị tối ưu siêu tham số riêng biệt cho từng mô hình/dữ liệu và chứng minh các lượt chạy thử ngắn giúp giảm đáng kể chi phí tìm kiếm.

EgoOmniWorld là benchmark thống nhất khả năng hiểu video góc nhìn thứ nhất (egocentric video) thông qua nguyên lý vòng lặp Ego-Action-World, phản ánh cách người đeo thiết bị nhận thức, hành động, tác động lên thế giới và nhận phản hồi. Benchmark này chuẩn hóa dữ liệu theo 4 cấu trúc tương tác (Node, Edge, Chain, Loop) với 24.166 nhóm câu hỏi-đáp được gán bằng chứng âm thanh/hình ảnh. Đánh giá cho thấy các mô hình ngôn ngữ thị giác lớn (MLLM) hiện nay còn nhiều hạn chế trước các cấu trúc tương tác phức tạp, trong khi việc huấn luyện trên EgoOmniWorld giúp cải thiện rõ rệt khả năng hiểu tương tác và tổng quát hóa sang các benchmark khác.

SpeechConversationBench (SCB) là bộ benchmark mới gồm 103 bài toán GSM8K được chia nhỏ nhằm đánh giá khả năng suy luận toán học qua giọng nói đa lượt của các hệ thống speech-to-speech. Nghiên cứu so sánh 3 thiết lập: bài gốc đơn lượt (full), các mảnh thông tin gộp chung trong một lượt (concat), và thông tin cung cấp rải rác qua từng lượt nói (sharded). Kết quả thực nghiệm cho thấy 4 hệ thống thương mại bị giảm từ 5,0 đến 25,3 điểm phần trăm độ chính xác ở điều kiện sharded so với concat. Ngược lại, pipeline nội bộ LEGO của SCBX Innovation Lab với cơ chế quản lý ngữ cảnh hội thoại tường minh duy trì độ chính xác 77,5% trên cả ba điều kiện, vượt qua mức 76,6% của GPT-4o Realtime ở điều kiện sharded.

BackTrend là bộ benchmark hồi cứu nhằm đánh giá năng lực dự đoán các 'tín hiệu yếu' (tiền thân nghiên cứu sơ khởi nhưng mang tính quyết định) trong khoa học thông qua phương pháp tái cấu trúc ngược từ 25 chủ đề AI/ML đã hoàn thiện. Nghiên cứu xác định 66 tín hiệu yếu đã được con người kiểm chứng (2019–2024) ở cả không gian bài toán lẫn giải pháp. Kết quả thử nghiệm trên các frontier LLM, RAG và research agent cho thấy hiệu suất rất thấp (F1 cao nhất đạt 10.1%, Coverage10 đạt tối đa 18.5%) do hiện tượng trôi chủ đề, lệch độ chi tiết và bỏ sót tín hiệu; việc bổ sung ngân sách truy xuất web chỉ cải thiện một phần nhỏ mà không giải quyết được khoảng cách hiệu suất cốt lõi.

ValueDiff là phương pháp giải phóng bộ nhớ đệm KV (KV cache eviction) dựa trên đặc tính hình học của vector Value dành cho các LLM hiện đại bị triệt tiêu attention sink (do áp dụng QK-norm, gated attention, learned sinks, logit softcapping). Thay vì dựa vào attention sink hay vector Key vốn kém hiệu quả trên các kiến trúc này, ValueDiff xếp hạng và loại bỏ token dựa trên độ lệch L2 của vector Value so với trung bình cache (tối thiểu hóa xáo trộn dưới giả định max-entropy). Phương pháp giúp giữ lại 88-99% hiệu năng trên RULER (budget 2k), 92% trên LongBench (budget 4k), và vượt baseline tới ~20 điểm trên MATH-500 ở mức 25% cache.

Nghiên cứu đề xuất Workspace Models nhằm cung cấp cơ chế bộ nhớ dài hạn gọn nhẹ cho các tác vụ thao tác robot phức tạp. Thay vì sử dụng các truy vấn mô hình thị giác-ngôn ngữ (VLM) đắt đỏ trực tiếp trong vòng lặp điều khiển, phương pháp này chuyển việc truy vấn VLM sang giai đoạn huấn luyện để xác định thông tin trọng yếu và chưng cất thành 'workspace token' thông qua hàm mất mát giải mã tái thiết tập hợp. Khi triển khai trên mô phỏng và phần cứng thực tế, workspace token thay thế trực tiếp các quan sát thông thường mà không cần suy luận VLM thời gian thực, giúp giảm tải tính toán và nâng cao hiệu suất chính sách điều khiển.

Nghiên cứu đề xuất phương pháp phát hiện an toàn không giám sát cho LLM thông qua phát hiện bất thường (anomaly detection) từ dữ liệu an toàn. Dựa trên giả thuyết biểu diễn tuyến tính (LRH) và tính thưa cục bộ (local sparsity) trong không gian khái niệm của bộ tự mã hóa thưa (SAE), phương pháp đạt hiệu năng gần tối ưu khi hiệu chỉnh với chỉ 1% dữ liệu ngoài phân phối (OOD) và chỉ cần tính toán trên 1-2% neuron SAE.

Nghiên cứu khảo sát thời điểm việc can thiệp kích hoạt (activation steering) trong LLM cần phụ thuộc vào đầu vào thay vì dùng hướng cố định như Contrastive Activation Addition (CAA). Tác giả chỉ ra rằng can thiệp cần phụ thuộc đầu vào khi điểm đến biến thiên bên trong lớp đích. Bằng cách sử dụng phương pháp truy vấn k trạng thái gần nhất trong lớp đích, kết quả trên 6 tập ngữ liệu thay thế và benchmark độc lập cho thấy điều hướng phụ thuộc đầu vào vượt trội hơn CAA. Nghiên cứu cũng phát hiện: chỉnh sửa mức từ đạt hiệu quả cao nhất ở 1/10 tầng đầu mạng với ít láng giềng, trong khi chỉnh sửa mức mệnh đề hiệu quả ở mọi độ sâu với giá trị trung bình lớp. Bốn đại lượng đo trực tiếp từ trạng thái ẩn cho phép xác định chế độ can thiệp trước khi áp dụng.

MIRA là khung huấn luyện tăng cường khả năng suy luận đa phương thức, khắc phục khoảng cách nhận thức - suy luận trong RLVR bằng cách đưa vào các ngữ cảnh thị giác đánh lừa có chọn lọc ('hard traps') và cơ chế tự phản tỉnh theo nhóm, giúp mô hình tự phát hiện và sửa lỗi mà không cần dữ liệu gắn nhãn con người, đem lại mức cải thiện trung bình 7% trên các benchmark in-domain.

Nghiên cứu giới thiệu cơ chế củng cố hồi hải mã (hippocampal consolidation) chỉ dùng trong huấn luyện, cho phép mạng nơ-ron học liên tục toàn phần (fully fine-tuned) mà không cần phát lại dữ liệu cũ (cross-task replay), không cần mô hình giáo viên hay bộ nhớ lúc suy luận. Phương pháp lập chỉ mục hình học đầu vào của các nhóm synapse và giới hạn độ dịch chuyển của từng synapse theo từng hướng trước và sau optimizer, kết hợp phát hiện xung đột để bảo vệ tri thức cũ trước các lớp gần trùng lặp. Kỹ thuật áp dụng thành công trên 4 họ kiến trúc với quy mô tới 8 tỷ tham số, vượt baseline đóng băng backbone 17,5 điểm trên TACRED.

Nghiên cứu giới thiệu Zyphra Hierarchical Attention (ZHA), một phương pháp sparse attention tiệm cận dưới bậc hai (subquadratic) giúp vượt qua giới hạn chi phí O(N^2) của attention truyền thống trên LLM. ZHA xây dựng cây chỉ mục phân cấp tóm tắt đệ quy các key trên KV cache để truy vấn duyệt top-down lấy tập key thưa, đưa tổng chi phí định tuyến và attention tăng trưởng dưới tuyến tính theo độ dài chuỗi. Phương pháp có thể áp dụng vào mô hình pretrained thông qua chưng cất KL ngắn trên vài tỷ token, giữ vững hiệu năng trên các bài test reasoning, toán và coding, đồng thời mở ra tiềm năng mở rộng ngữ cảnh lên hàng trăm triệu đến hàng tỷ token.

ComFair là bộ benchmark có thể cấu hình nhằm kiểm định tính công bằng giao thoa (intersectional fairness) trong các mô hình ngôn ngữ lớn (LLMs), khắc phục điểm mù của các phương pháp đánh giá đơn thuộc tính vốn bỏ sót các tương tác phi cộng tính. Bộ dữ liệu chứa 479.066 mẫu đa thuộc tính được ghép cặp đối chứng, thử nghiệm trên 10 LLM qua 4 tác vụ (Recognition, Selection, Continuation, Conversation). Kết quả cho thấy việc ghép thêm thuộc tính làm thay đổi thứ hạng mô hình, có thể tạo ra lỗi mới hoặc vô tình che khuất lỗi cũ.

MindView là bộ benchmark đánh giá trí thông minh không gian đa góc nhìn dạng sinh gồm 1.500 mẫu từ 513 cảnh nội thất qua 7 tác vụ hình học và ngữ nghĩa. Nghiên cứu phát hiện 11 mô hình sinh hiện hành đều suy giảm hiệu suất khi mở rộng ngữ cảnh đa góc nhìn; từ đó đề xuất cơ chế lọc không gian MindCue (training-free) và chứng minh tinh chỉnh mô hình BAGEL trên MindView giúp tăng 24,3 điểm cũng như nâng cao khả năng hiểu không gian tổng quát.

SMART là khung đánh giá ngữ nghĩa có thể truy vết và sửa lỗi có mục tiêu cho các hệ thống nhận dạng giọng nói (ASR). Khung này giải quyết hạn chế của chỉ số WER truyền thống bằng cách ánh xạ sai lệch thành các phân đoạn ngữ cảnh, áp dụng rubric phân loại mức độ hậu quả và tính toán tỷ lệ lỗi tác động ngữ nghĩa (SIER). SMART đạt F1 0.843 trong việc đánh giá lỗi (vượt trội mức 0.745 của LLM thông thường) và hỗ trợ cơ chế tự sửa lỗi không cần văn bản tham chiếu giúp giảm đáng kể lỗi MER và SIER_lex.

Nghiên cứu khảo sát cơ chế, hành vi mở rộng quy mô quan sát và khả năng tổng quát hóa của quá trình tự cải thiện đệ quy vật lý (Physical RSI) khi sử dụng VLM làm chính sách điều khiển (LLM-as-policy). Nhóm tác giả giới thiệu khung đánh giá PhysRSI-eval với 5 trục đo lường trên 18 tác vụ thao tác, đề xuất Giả thuyết Thùng Vật lý (Physical Barrel Hypothesis), đồng thời chỉ ra rằng thích ứng theo bối cảnh cụ thể và tái sử dụng kinh nghiệm có thể cùng tồn tại hiệu quả.

Nghiên cứu áp dụng phương pháp kiểm định tâm trắc học (psychometric audit) lên benchmark HELM Safety nhằm xác minh liệu 'từ chối nguy hại' (harmful refusal) có phải là một thuộc tính đo lường đơn lẻ hay không. Kết quả chỉ ra rằng 3/4 tập dữ liệu bị bão hòa, trong khi HarmBench gộp nhiều hành vi nguy hại khác nhau thành một điểm số duy nhất và thất bại trước các bài kiểm tra MIRT và DIF. Nhóm tác giả khuyến nghị điểm an toàn phải chứng minh được tính đơn thuộc tính trước khi dùng để so sánh các mô hình.

Nghiên cứu giới thiệu Ledger, một hệ thống bộ nhớ vật thể 3D liên tục cho trợ lý hiện thân (embodied assistant) dựa trên video góc nhìn thứ nhất. Ledger kết hợp vị trí 3D, lịch sử dịch chuyển và các mô tả ngữ cảnh ngắn (như vật chứa hoặc bề mặt đỡ) để duy trì nhận thức về vật thể ngay cả khi khuất tầm nhìn hoặc chưa từng được chạm tới. Nhờ gom cụm vị trí nghỉ và chỉ ghi nhận dịch chuyển khi có bằng chứng lặp lại, hệ thống giảm thiểu nhiễu định vị và cho phép truy vấn không gian mà không cần truy cập lại video gốc, giúp nâng cao độ chính xác đáng kể trên các benchmark HD-EPIC, UCS-Bench và Ego4D.

MC-Sparse (Meta-Cached Sparse Attention) là giải pháp chú ý thưa (sparse attention) không cần huấn luyện lại (training-free) dành cho Diffusion Transformers trong tác vụ sinh video và 3D độ phân giải cao. Nghiên cứu chỉ ra ba nguyên nhân gây suy giảm chất lượng ở sparse attention: ràng buộc gom nhóm token, chọn lọc tương tác không chuẩn xác và mất mát phần đóng góp attention khi bỏ token. MC-Sparse khắc phục điều này bằng cách chọn lọc từng KV token riêng lẻ kết hợp nhóm query theo tile để tối ưu thực thi trên GPU, đồng thời lưu cache và tái sử dụng metadata (nhóm query, chỉ số KV từ xác suất attention chính xác, phần dư dense-sparse residual) qua các bước khử nhiễu (denoising). Phương pháp đạt tốc độ tăng tốc 1.80x trên Minimax-H3-Base và 2.32x khi tạo tài nguyên 3D với chất lượng tương đương dense attention.

Nghiên cứu đánh giá mức độ lan truyền của độ lệch trung tâm (center biases) trong các mô hình nền tảng giải phẫu bệnh (PFM) đối với bài toán phân loại ảnh toàn tiêu bản (WSI) qua học đa cá thể (MIL). Thông qua khung kiểm thử có kiểm soát với hệ số Cramér's V và chỉ số mới AUCC trên 6 PFM, 4 tập dữ liệu và 2 bộ tổng hợp MIL, nhóm tác giả phát hiện thông tin phi sinh học từ cơ sở thu thập ảnh được mã hóa vào PFM và truyền sang dự đoán WSI, trong khi phương pháp điều hòa ComBat không đem lại hiệu quả bền vững nhất quán.

Nghiên cứu giới thiệu mô hình SE(3) Neural Potential Field giúp lập quỹ đạo chuyển động 6-DoF cho cánh tay robot trực tiếp từ ảnh RGB có định vị mà không cần tái tạo 3D tường minh. Bằng cách huấn luyện trường thế năng với hàm điều hướng dựa trên khoảng cách trắc địa trong không gian tự do, phương pháp triệt tiêu được hiện tượng kẹt cực tiểu cục bộ và va chạm vật cản của trường thế năng nhân tạo truyền thống. Thử nghiệm trên robot UR10 cho thấy quỹ đạo đạt 100% không va chạm, khoảng cách an toàn trung bình đạt 8.6-8.8 cm, và rút ngắn thời gian lập kế hoạch từ 67-133 giây (RRT*) xuống chỉ còn khoảng 2 giây.