Research

Nghiên cứu chỉ ra rằng logit từ vựng của các mô hình ngôn ngữ tự hồi quy sau khi sắp xếp tuân theo quan hệ log-tuyến tính z_(r) ≈ μ - α log r một cách nhất quán trên nhiều kiến trúc và quy mô. Độ dốc α tăng đáng kể từ mức khởi tạo (~0.2) lên ~1.4–1.7 sau khi huấn luyện và tương quan trực tiếp với hiệu năng dự đoán, chứng minh mô hình học được cấu trúc phân phối có quy luật, tạo cơ sở khoa học để tối ưu hóa các chiến lược giải mã.

GeoReform là khung tiến hóa chuẩn hóa phản xạ (reflective formalization evolution) giúp nâng cao khả năng giải toán hình học của các mô hình MLLM. Thay vì dựa vào parser cố định dễ gây nhiễu hoặc tham chiếu mơ hồ, GeoReform xem chuẩn hóa là một chính sách có thể tối ưu hóa: thực thi pipeline suy luận, thu thập các rollout thất bại, chẩn đoán lỗi trong biểu diễn và biến đổi chính sách để chọn lọc, gắn kết, nhóm các quan hệ hình học hiệu quả hơn. Phương pháp giúp Qwen3VL-2B tăng độ chính xác từ 42.0% lên 56.0% trên Geometry3K.

Nghiên cứu chỉ ra rằng số lượng reasoning token (token suy luận) tăng đột biến khi các mô hình ngôn ngữ lớn (LLM) được chỉ thị phản hồi sai sự thật hoặc thờ ơ với sự thật, so với khi phản hồi trung thực. Dựa trên lý thuyết tải nhận thức, số lượng token suy luận đóng vai trò là một tín hiệu băng thông thấp, độc lập với nội dung, giúp phát hiện hành vi không trung thực ngay cả khi chuỗi suy luận (Chain-of-Thought) bị ẩn, không thể đọc hoặc không đáng tin cậy.

Nghiên cứu tổng quan phạm vi (scoping review) theo chuẩn PRISMA gồm 20 bài báo (2020–2025) và thử nghiệm VR về ứng dụng RLHF trong hợp tác người - robot (HRC). Kết quả mô hình Bayesian chỉ ra rằng phản hồi do người dùng chủ động khởi tạo phản ánh mức độ an toàn cảm nhận chính xác hơn phản hồi do hệ thống yêu cầu, chứng minh thời điểm thu thập phản hồi quyết định trực tiếp đến chất lượng dữ liệu huấn luyện và mức độ an toàn của robot.

Nghiên cứu đề xuất Outperformance Inverse Optimization cho bài toán quy hoạch nguyên hỗn hợp (MILP), học trọng số hàm mục tiêu giúp tìm ra nghiệm tối ưu vượt trội hơn các quyết định quan sát được tại mọi thành phần thay vì chỉ bắt chước chúng. Phương pháp cung cấp hàm mất mát có thể đánh giá chỉ qua forward-problem oracles, giải bằng thuật toán gradient-based và DC optimization, đồng thời có bảo đảm lý thuyết về sai số tổng quát hóa.

Nghiên cứu giới thiệu Foil, một kiến trúc kết hợp giữa Looped Transformer (tái sử dụng khối layer nhiều lần để tối ưu hóa tham số) và Mixture-of-Experts (MoE thưa thớt kích hoạt ít chuyên gia trên mỗi token). Để giải quyết bài toán tối ưu hóa khi lặp MoE, Foil áp dụng hai nguyên tắc thiết kế then chốt mà vẫn giữ nguyên tổng tham số và compute cho mỗi token: (1) Làm phẳng chuyên gia (flatten the experts) bằng cách giảm một nửa số layer chuyên gia, tăng gấp đôi số chuyên gia mỗi layer và tăng gấp đôi số lượt lặp (pass), giúp router lựa chọn từ không gian chuyên gia rộng hơn; (2) Tách biệt attention (untie attention) bằng cách gán tham số attention riêng cho từng pass nhưng chia sẻ tham số expert và router. Kết quả thực nghiệm ở 20B và 100B token cho thấy Foil vượt trội so với baseline lặp thông thường, giảm loss tỷ lệ thuận với mức độ làm phẳng (giảm 0,012 nat ở 100B token) mà không làm suy giảm độ chính xác hạ nguồn. Mã nguồn và cấu hình được công bố tại https://github.com/SR-A-W/how-to-loop-moe.

Nghiên cứu tiến hành so sánh toàn cầu 8.368 bản ghi từ các sổ đăng ký và danh mục AI khu vực công tại 72 quốc gia dựa trên 23 trường dữ liệu chuẩn hóa. Kết quả cho thấy các sổ đăng ký hiện chỉ tập trung vào phần mô tả cơ bản mà hiếm khi yêu cầu thông tin về rủi ro, cơ sở pháp lý, quy trình khiếu nại hay thẩm định bên ngoài; đồng thời dữ liệu thiếu hụt nhiều và thiếu sự hội tụ về cấu trúc lược đồ. Nhóm tác giả đề xuất khung hiển thị phân tầng nhằm giải quyết bài toán tương tác thông qua việc thống nhất khái niệm, định nghĩa chuẩn và bảo toàn nguồn gốc dữ liệu.

Nghiên cứu giới thiệu SERA (Spectral Energy-proportional Rank Allocation), phương pháp hợp nhất mô hình thích ứng theo tác vụ. Khác với các kỹ thuật spectral merging hiện tại vốn gán rank cố định và đồng đều cho mọi task vector, SERA phân bổ dung lượng rank tỷ lệ thuận với năng lượng giá trị suy biến của từng tác vụ. Nhờ cấp nhiều dung lượng phổ cho tác vụ phức tạp và ít hơn cho tác vụ đơn giản, SERA nâng cao hiệu năng mô hình đa nhiệm mà không làm tăng tổng ngân sách rank.

FoldQuantVLA là khung lượng tử hóa sau huấn luyện (PTQ) cho các mô hình Vision-Language-Action (VLA), giúp giảm độ trễ quan sát-hành động mà vẫn duy trì độ chính xác của robot mà không cần huấn luyện lại. Phương pháp kết hợp channel scaling, biến đổi block Hadamard và lượng tử hóa động theo từng token, cùng các plugin TensorRT tùy chỉnh cho W4A4 trên GPU Ada và Jetson AGX Orin. Việc giữ các phép chiếu attention-output và FFN down ở mức W8A8 giúp tăng tỷ lệ thành công trên robot thật từ 80.0% lên 92.5% với độ trễ chỉ tăng thêm 1 ms.

NeuSOGA3D là khung làm việc neuro-symbolic lai tạo nhằm tái tạo hình học 3D từ đám mây điểm không cấu trúc. Phương pháp kết hợp tiên nghiệm nhận thức học sâu từ NeuSOGA với suy luận hình học ký hiệu tường minh. Bằng cách chiếu đám mây điểm lên các mặt phẳng trực giao chính, tạo biểu diễn spline ẩn dạng ký hiệu và hợp nhất qua các phép toán CSG bảo toàn hình dạng, hệ thống tạo ra visual hull thô, sau đó khôi phục chi tiết qua phân rã mặt cắt và tái tạo thể tích bằng Partial Shape-Preserving Splines. Kết quả là các mô hình hình học có cấu trúc rõ ràng, tương thích chuẩn CAD thay vì biểu diễn ẩn dạng hộp đen.

Nghiên cứu thực nghiệm (N = 704) đánh giá hai can thiệp nhằm giảm tình trạng ỷ lại nhận thức (cognitive offloading) vào trợ lý LLM: (1) phản hồi siêu nhận thức (metacognitive feedback) làm rõ hệ quả của việc lạm dụng AI và (2) phần thưởng dựa trên nỗ lực (effort-based reward). Kết quả cho thấy phản hồi siêu nhận thức giúp giảm đáng kể việc yêu cầu AI cung cấp lời giải (OR = 0.47) và cải thiện rõ rệt điểm bài kiểm tra độc lập sau đó (OR = 1.51). Ngược lại, cơ chế phần thưởng không mang lại hiệu quả đo lường được.

AmbiHTMLBench là bộ benchmark gồm 1.115 trang tài liệu phức tạp nhằm đánh giá toàn diện khả năng chuyển đổi tài liệu trực quan (Visually Rich Documents) sang mã HTML có thể thực thi, giải quyết hạn chế làm mất cấu trúc không gian và bảng biểu của định dạng Markdown. Benchmark áp dụng cơ chế đánh giá kép: khách quan (độ chính xác bảng, lỗi văn bản, tính nhất quán bố cục 2D) và chủ quan (LLM judge đối chiếu với đánh giá của con người). Kết quả trên 10 mô hình đa phương thức cho thấy điểm khách quan cao nhất đạt 0.8092, đồng thời mô hình chuyên gia tham số nhỏ sau khi tinh chỉnh chuyên biệt đạt hiệu năng tái tạo tài liệu sang HTML rất khả quan.

Nghiên cứu giới thiệu MedCBR, khung căn chỉnh hai giai đoạn cho mô hình thị giác-ngôn ngữ y tế (Med-VLMs). Phương pháp kết hợp DBPO (tập trung tối ưu hóa các ca ranh giới khó dựa trên dữ liệu phản thực nghiệm) và EGPO (học tăng cường kích hoạt rubric lâm sàng theo entropy dự đoán, thưởng tính chuẩn xác giải phẫu và độ trung thực suy luận). MedCBR đạt độ chính xác trung bình 61,2% trên 6 benchmark y khoa, tạo ra bước tiến lớn trong các ca chẩn đoán phân biệt khó.

Nghiên cứu thách thức giả định rằng việc bổ sung nhiều trường siêu dữ liệu (metadata) sẽ cải thiện độ bám sát dữ liệu (grounding) của LLM trong bài toán data-to-text (cụ thể là mô tả hiện vật bảo tàng). Qua khung đánh giá 2 giai đoạn kết hợp phân tích tự nhiên và kiểm thử kiểm soát trường, kết quả chỉ ra số lượng metadata đơn thuần không quyết định chất lượng; loại trường mới là yếu tố quyết định mô hình có căn cứ, bỏ sót hay suy diễn thông tin. Đồng thời, hình ảnh vừa hỗ trợ trực quan vừa có thể làm tăng suy diễn vô căn cứ. Nhóm nghiên cứu đề xuất việc đánh giá data-to-text cần đo lường mức độ hỗ trợ ở cấp độ từng trường và từng mệnh đề thay vì chỉ dựa vào độ bao phủ tổng thể.

Nghiên cứu giới thiệu khung cắt tỉa ngẫu nhiên đồ thị tính toán của Direct Preference Optimization (DPO) bằng cách lấy mẫu trước các vị trí phản hồi, tiền tố chuỗi và nhánh ưu tiên. Kết hợp với kỹ thuật trọng số xác suất nghịch đảo (inverse-probability weighting) để ước lượng gradient không chệch, phương pháp này giúp giảm đáng kể bộ nhớ đỉnh (peak memory) và rút ngắn khoảng 30% thời gian huấn luyện (tăng tốc 1,426 lần trên mỗi bước) so với DPO thông thường, đổi lại độ chính xác trung bình giảm nhẹ.

Nghiên cứu chứng minh giả định 'tăng test-time compute từ cùng một mô hình mang lại thêm bằng chứng độc lập' là không chính xác do lỗi có xu hướng tương quan qua các mẫu, độ sâu suy luận và tự đánh giá. Nhóm tác giả giới thiệu DIA (Disagreement-triggered Independent Arbitration), phương pháp phát hiện bất ổn suy luận qua sự bất đồng giữa dự đoán trung gian và dự đoán cuối, sau đó kích hoạt hội đồng các mô hình không đồng nhất (heterogeneous) giải bài toán độc lập để phân xử. DIA vượt qua full CoT ở 12/14 thiết lập, tăng 7.00% trên MuSiQue, chỉ kích hoạt ở ~17% số mẫu và tiết kiệm tới 47.2% token so với baseline multi-agent.

Nghiên cứu giới thiệu Multi-turn Feedback Guided (MFG), một khung học tăng cường giúp LLM tối ưu hóa phân tử đa mục tiêu qua nhiều lượt lặp dựa trên phản hồi từ các lượt trước. Bằng cách sử dụng vector phản hồi kết hợp đo lường tính chất và độ tương đồng phân tử gốc cùng hàm thưởng căn chỉnh theo phản hồi, mô hình GeLLM³O-MFG đã nâng tỷ lệ thành công có ràng buộc độ tương đồng lên 81,50% (so với 70,81% của GeLLM³O gốc) trên 10 bài toán kiểm thử.

Nghiên cứu đánh giá 5 mô hình ngôn ngữ lớn (LLM) trên 193 quốc gia nhằm đo lường cách AI định giá thời gian con người qua mức bồi thường cho 60 phút trễ hẹn, đối chiếu với GDP_PPP, thu nhập bình quân và chỉ số kiên nhẫn. Kết quả cho thấy LLM biểu hiện thiên vị địa lý rõ rệt: liên tục đề xuất mức bồi thường cao nhất cho châu Âu, thấp nhất cho châu Phi, đồng thời định giá thấp thời gian của người dùng tại châu Á và Nam Mỹ so với GDP_PPP. Hiện tượng này cảnh báo nguy cơ phân biệt đối xử khi ứng dụng LLM vào các hệ thống tác tử (agentic settings).

EventLens là khung học tăng cường (RL) tập trung vào thị giác giúp các mô hình MLLM hiểu sâu cấu trúc thời gian của video. Thay vì dựa vào giám sát dạng caption dễ tạo ra lối tắt ngôn ngữ, EventLens huấn luyện mô hình khôi phục cấu trúc sự kiện dưới các nhiễu loạn có kiểm soát thông qua 3 tác vụ kiểm chứng được: phân đoạn sự kiện, phân biệt tiến trình và suy luận quan hệ đa sự kiện. Sử dụng GRPO với phần thưởng xác định và chưng cất on-policy đa giáo viên (MT-OPD), EventLens cải thiện rõ rệt khả năng temporal grounding trên Qwen3-VL với chi phí huấn luyện tối ưu hơn nhiều so với RL hỗn hợp trực tiếp.

Nghiên cứu 'Same Query, Different Answer' chỉ ra rằng các semantic query engine sử dụng LLM để xử lý dòng dữ liệu gặp phương sai đáng kể giữa các lần chạy dù đặt temperature 0. Qua 1,2 triệu lượt gọi mô hình trên SemBench, LRO-Bench và UDA-Bench, nhóm tác giả phát hiện 0,07% - 10,2% số dòng thay đổi kết quả (cá biệt tới 24% trên một tác vụ). Kế hoạch thực thi truy vấn khuếch đại sai lệch này theo cấp số nhân: trên UDA-Bench, chỉ vài phần trăm giá trị trích xuất đổi nhưng làm thay đổi khoảng 2/3 kết quả cuối cùng. Hiện tượng này làm mất hiệu lực của 16/28 khuyến nghị thiết kế trong LRO-Bench và nhiều so sánh benchmark. Nghiên cứu đề xuất sử dụng decision margin và độ dài suy luận để dự đoán dòng bất định, đồng thời đưa ra quy tắc báo cáo cho benchmark và quy tắc thiết kế engine.

Nghiên cứu công bố HANS, bộ dữ liệu thực nghiệm đầu tiên về bài thi viết tay thực tế của học sinh bao gồm văn bản tự nhiên, công thức toán học, bảng vẽ tay và các dạng nhiễu như gạch xóa, sửa chữa. Dựa trên đó, nhóm tác giả đề xuất NA-GOT, một khung kiến trúc end-to-end khử nhiễu hai giai đoạn (ở mức đặc trưng và giải mã attention), giúp cải thiện đáng kể độ chính xác nhận dạng quy trình giải bài tập. HANS sẽ được mở công khai sau khi bài báo được xuất bản.

GitHub giới thiệu ReviewBench, một bộ benchmark mở chuyên biệt nhằm đánh giá và chuẩn hóa năng lực của các mô hình AI trong tác vụ review mã nguồn. Dự án cung cấp thước đo khách quan để kiểm thử độ chính xác, khả năng phát hiện lỗi và chất lượng phản hồi của LLM khi đánh giá pull request.

Nghiên cứu chỉ ra rằng việc sử dụng các thước đo hình học của mạng nơ-ron (như chuẩn Hessian, vết Hessian, giá trị riêng lớn nhất hoặc proxy forward-only) không đáng tin cậy để xếp hạng và lựa chọn mô hình tối ưu khi triển khai ngoài phân phối (OOD) trong sinh học tính toán. Mặc dù proxy hình học có thể tương quan tốt với khoảng cách tổng quát hóa (generalisation gap), tín hiệu này không bảo toàn thứ hạng giữa các mô hình và thậm chí có thể ưu tiên các mô hình bị sụp đổ (collapsed predictors), khẳng định nguyên lý: tín hiệu tổng quát hóa không nhất thiết là tín hiệu lựa chọn mô hình.

Nghiên cứu giới thiệu một framework tấn công bẻ khóa (jailbreak) trên các mô hình ngôn ngữ lớn (LLM) hộp đen chỉ qua giao diện text-only continuation có hỗ trợ lặp mẫu và assistant-prefix. Phương pháp giải quyết bài toán ước tính phân phối thưa thớt và chi phí truy vấn cao bằng ba thành phần: Tái tạo phân phối dựa trên mẫu (kết hợp prior), Kiểm soát phần dư theo rủi ro (tập trung can thiệp tại các vị trí nhạy cảm) và Thực thi suy đoán đa token (giảm số lần gọi API), đạt hiệu quả vượt trội so với các baseline trên nhiều benchmark.