Research

ACE-Compression là khung đánh giá tập trung vào năng lực cốt lõi (ability-centric) thay vì chỉ đo lường điểm số tác vụ bề mặt của các mô hình ngôn ngữ lớn (LLM) sau khi nén. Qua thử nghiệm hơn 35 checkpoint từ 6 LLM mã nguồn mở đối với kỹ thuật lượng tử hóa và cắt tỉa trọng số, nghiên cứu phát hiện nén mô hình làm tái phân bổ cấu trúc năng lực: các tín hiệu thô, cục bộ vẫn được duy trì, trong khi các khả năng chi tiết, phụ thuộc ngữ cảnh và trường hợp biên (long-tail) trở nên dễ tổn thương; lượng tử hóa bảo tồn năng lực tốt hơn cắt tỉa.

Nghiên cứu đánh giá khả năng của các mô hình LLM tiên tiến (Claude Opus 4.8, Codex GPT Sol 5.6) trong việc dịch ngược lược đồ Protobuf từ tệp nhị phân của Apple cho dịch vụ định vị iOS. Kết quả cho thấy việc sử dụng LLM phân tích trực tiếp là không đáng tin cậy cho điều tra số và quyền riêng tư do tạo ra nhiều lỗi sai có tính nhất quán nội tại khó phát hiện. Tuy nhiên, LLM phát huy hiệu quả cao khi đóng vai trò viết công cụ kiểm chứng được; nhóm tác giả dùng Claude xây dựng công cụ Python Extractor để khôi phục chính xác Protobuf schema và giải mã thành công lưu lượng mạng định vị trên iPhone 8 (iOS 16.7.11).

Bài báo cung cấp nghiên cứu tổng quan toàn diện đầu tiên và phân tích thực nghiệm về việc ứng dụng học tăng cường (RL) vào mô hình khuếch tán (Diffusion Models - DMs). Nghiên cứu làm rõ cách RL định hình lại quá trình khuếch tán theo hướng tạo sinh có định hướng mục tiêu và lấy kinh nghiệm làm trung tâm thông qua tối ưu hóa quỹ đạo và kỹ nghệ hàm thưởng. Các tác giả cũng phân tích 3 nút thắt kỹ thuật then chốt cản trở triển khai thực tế (tính dễ vỡ của hàm thưởng, bài toán khám phá - khai thác trong không gian đa chiều, và tính mất ổn định khi phần thưởng thưa), đồng thời đề xuất lộ trình phát triển và cung cấp kho mã nguồn mở theo dõi lĩnh vực.

Nghiên cứu phân tích nguồn gốc cải thiện hiệu năng của các hệ thống LLM Ensemble bằng cách phân rã mức tăng ứng viên (CIV) thành tương phản thêm ứng viên (DSV) và tương phản ngữ cảnh (CCV). Bằng cách so sánh 4 điều kiện (Direct, Single-slot, Duplicate, Multi-candidate) trên MultiHopRAG và FRAMES, nhóm tác giả chỉ ra rằng mức tăng đo được phụ thuộc lớn vào việc chọn baseline đối chứng nào (Duplicate hay Single-slot), đồng thời ngữ cảnh ứng viên thường mang giá trị âm. Nghiên cứu khuyến nghị mọi đánh giá ensemble phải công bố rõ baseline đối chứng.

Nghiên cứu giới thiệu VenusRX-Bench và mô hình tiền huấn luyện VenusRX nhằm mô hình hóa không gian phản ứng enzyme. VenusRX-Bench là bộ benchmark thống nhất tích hợp nhiều cơ sở dữ liệu sinh hóa với phân chia chống rò rỉ dữ liệu để đánh giá dự đoán phản ứng thuận, tổng hợp lùi và dự đoán mã số EC. Để khắc phục khoảng cách giữa miền hóa học và enzyme, mô hình T5 VenusRX được huấn luyện hai giai đoạn kết hợp điều kiện hóa EC và giải mã ràng buộc thư viện phân tử, đạt hiệu năng vượt trội và chứng minh mối quan hệ hai chiều giữa cấu trúc phản ứng và chức năng xúc tác.

Nghiên cứu đề xuất phương pháp Reinforcement Learning with Calibrated Pruning (RLCP) cho hệ thống gợi ý tuần tự, thay thế kích thước danh sách cố định bằng cơ chế tự điều chỉnh tập hành động dựa trên điểm critic và ngưỡng trực tuyến. Thuật toán có bảo đảm lý thuyết về chặn tỷ lệ bỏ lỡ proxy và phân rã tổn thất giá trị. Thử nghiệm trên KuaiRand-Pure và MovieLens 1M cho thấy RLCP cải thiện độ đa dạng danh mục từ 1.11x đến 5.21x so với baseline mạnh nhất trong khi vẫn duy trì độ sâu phiên tương đương.

Nghiên cứu giới thiệu WorldSolver, một benchmark gồm 168 tác vụ mô phỏng từ 61 bài báo đồ họa máy tính kinh điển trải rộng trên 7 lĩnh vực vật lý, nhằm kiểm tra khả năng tự sinh bộ giải (solver) động lực học của các LLM agent. Mỗi tác vụ cung cấp khung code môi trường cố định và yêu cầu agent lập trình phần solver, sau đó được chấm điểm qua 3 chiều: khả năng thực thi, độ trung thực thị giác và tính hợp lý vật lý. Kết quả cho thấy bài toán này còn rất khó đối với các frontier model hiện nay: GPT-5.6-Sol và Claude-Opus-5 đạt kết quả cao nhất nhưng chỉ đạt lần lượt 48.7% và 46.7%. Mã nguồn của WorldSolver đã được phát hành công khai trên GitHub.

Nghiên cứu phát triển và kiểm chứng lý thuyết về các đặc trưng nguyên tử (atomic features) trong biểu diễn của mô hình ngôn ngữ. Trọng tâm là "nguyên lý thu hồi" (recovery principle): các từ điển thưa (SAE) khi tăng kích thước sẽ thu hồi tiền tố ngày càng lớn của các đặc trưng phổ biến nhất từ dữ liệu huấn luyện. Trái với quan điểm phổ biến rằng đặc trưng SAE kém ổn định và bị phân tách khi tăng kích thước, các dự đoán lý thuyết được kiểm chứng thành công trên SAE từ 512 đến 131.072 đặc trưng trên hai mô hình embedding lớn, mở ra tiềm năng mở rộng quy mô SAE một cách có cơ sở khoa học.

ScholarCatalyst là benchmark mới nhằm đánh giá khả năng AI truy xuất các tài liệu khoa học truyền cảm hứng cho ý tưởng nghiên cứu mới. Dựa trên 207 bài báo khoa học máy tính được 184 tác giả chính trực tiếp gắn nhãn và cung cấp lý do, benchmark yêu cầu từ câu hỏi nghiên cứu ban đầu phải tìm lại đúng các tài liệu tiền đề có sẵn tại thời điểm dự án khởi động. Kết quả thực nghiệm cho thấy tìm kiếm dạng tác tử (agentic search) kém hiệu quả hơn truy xuất embedding đơn thuần (Recall@20 đạt 0.42 so với 0.48), và ngay cả agent dùng Claude Fable 5.1 cũng chỉ đạt 0.51 R@20, cho thấy AI hiện tại vẫn thiếu trực giác chuyên gia khi định vị tri thức khoa học.

SoftServe là họ phương pháp Quasi-Newton mới dành cho deep learning, giải quyết rào cản về tính phi lồi và kích thước mô hình khổng lồ mà không cần line search hay hiệu chỉnh độ cong tùy tiện. Bằng việc ước lượng độ cong xác định dương dựa trên mục tiêu biến phân, phát triển các biến thể đường chéo và Kronecker-factored, kết hợp phép lặp Newton-Schulz thân thiện với GPU, SoftServe đạt hiệu năng vượt trội so với Adam, Muon và SOAP trên các bài toán điều hòa xấu như PINN, RNN và mô hình diffusion.

Nghiên cứu giới thiệu T-Router (Thalamic Router), một phương pháp học tăng cường hiệu quả tham số (parameter-efficient RL) giúp nâng cao năng lực suy luận của mô hình ngôn ngữ lớn thông qua việc tái sử dụng có kiểm soát các tính toán đã thực hiện. T-Router sử dụng ngân hàng bộ nhớ nén lưu trữ biến đổi của các khối cùng bộ điều khiển hồi quy theo chiều sâu để quyết định layer tiếp theo sẽ tái sử dụng thông tin nào. Chỉ với 41,73M tham số (0,466% của mô hình nền 8,95B), T-Router đạt 83,64 MathAvg trên GSM8K RL (vượt full-parameter GRPO 73,79 và LoRA 77,28), đồng thời tăng độ chính xác AIME từ 48,33% lên 60,56%.

Purlin là một framework giao tiếp GPU scale-up dành cho suy luận phân tán, giải quyết vấn đề gắn kết chặt chẽ giữa ngữ nghĩa, điều phối và đường truyền dữ liệu trong các thuật toán collective hiện nay. Bằng cách tách biệt thành giao thức điều phối chung SNAC (Stage, Notify, And Consume) và tầng datapath Atom đặc thù phần cứng (với hai nguyên ngữ copy và reduce), Purlin cho phép tùy biến collective và nhanh chóng tương thích với phần cứng mới. Thử nghiệm trên GPU A100, H200 và B200 cho thấy Purlin tăng tốc độ trễ collective tới 5,14x và tăng băng thông tới 4,50x. Khi tích hợp vào SGLang, Purlin cải thiện thông lượng serving offline trung bình 1,13x và nâng cao tính tương tác khi suy luận online lên tới 2,85x trong tình trạng quá tải.

TopU-LBVS là bộ benchmark đa mục tiêu mới cho sàng lọc ảo dựa trên phối tử (LBVS) trong điều kiện mẫu âm tính khó (hard-negative), giúp khắc phục tình trạng thổi phồng hiệu năng do sử dụng mồi nhử ngẫu nhiên (random decoys) ở các benchmark trước đây. Được xây dựng từ dữ liệu ChEMBL 35, TopU-LBVS bao phủ 93 mục tiêu protein qua 7 họ protein với tỷ lệ active-to-decoy cố định 1:40 (quy mô từ 400 đến 10.000 hợp chất mỗi thư viện), triệt tiêu các 'đường tắt' nhận diện dựa trên thuộc tính hóa lý hay fingerprint đơn giản. Benchmark cung cấp 3 giao thức chuẩn hóa (Full, Low, Mini) và thử nghiệm trên 10 baseline (fingerprint, GNN, hybrid, mô hình phân tử hiện đại), cho thấy hiệu năng thực tế sụt giảm mạnh khi đối mặt với hard negatives. Toàn bộ mã nguồn, dữ liệu và phân chia tập dữ liệu được phát hành mở trên GitHub và Hugging Face.

Nghiên cứu thiết lập một lý thuyết phổ định lượng giải thích hiện tượng grokking (khái quát hóa muộn sau khi đã ghi nhớ dữ liệu huấn luyện) thông qua sự cạnh tranh giữa phần dư sau ghi nhớ và L2 weight decay. Trong các mạng thuần nhất dùng squared loss, phần dư kích hoạt sự phát triển của Neural Tangent Kernel (NTK) theo các hướng phổ liên quan đến tác vụ, thúc đẩy quá trình chuyển từ lazy sang rich learning. Nghiên cứu chứng minh thang thời gian grokking tỷ lệ nghịch với tích của learning rate và weight decay, đồng thời cảnh báo ngưỡng decay tới hạn có thể làm chậm hoặc ngăn chặn việc học đặc trưng. Các kết quả được kiểm chứng bằng thực nghiệm trên MLP và One-block Transformer ở bài toán modular addition.

Generative Tutorial là khung khái niệm và hệ thống nguyên mẫu thực tế tăng cường (AR) cung cấp hướng dẫn trực quan theo ngữ cảnh thực tế cho các tác vụ vật lý. Thay vì sử dụng tài liệu tạo sẵn cố định, hệ thống quan sát không gian làm việc của người dùng và chủ động tạo hình ảnh mục tiêu cùng video minh họa hành động được cá nhân hóa theo môi trường thực tế. Đánh giá qua nghiên cứu trên 24 người tham gia cho thấy chất lượng thực hiện tác vụ cao hơn, tăng mức độ tương thích không gian và rút ngắn thời gian xác nhận từng bước.

Nghiên cứu giải thích hiện tượng LSTM và Transformer thất bại trên chuỗi dài là do phụ thuộc vào 'tọa độ' (vị trí, số đếm, thời gian) vốn luôn phát sinh giá trị mới ngoài dữ liệu huấn luyện. Nhóm tác giả đề xuất cơ chế bộ nhớ không gian dạng chu kỳ (mô phỏng tế bào lưới và hồi hải mã) chỉ đọc các 'trùng hợp' (so sánh hai giá trị giống/khác nhau). Nhờ đó, mô hình chỉ học trên chuỗi tối đa 40 ký tự nhưng đạt độ chính xác ≥99% trên chuỗi dài từ 41 đến 500 ký tự ở 9/15 tác vụ benchmark (5 tác vụ Transformer và LSTM thất bại), đồng thời đảo ngược chuỗi dài tới 15.015 ký tự không lỗi.

BEAKER là bộ chuẩn đối sánh (benchmark) gồm 1.000 mẫu QA chuyên gia biên soạn thủ công trải rộng qua 11 tác vụ ảnh/video, đánh giá năng lực thực thi thể hiện (embodied execution) của MLLM trong phòng thí nghiệm hóa học tự hành (SDCL). Thử nghiệm trên 28 mô hình cho thấy MLLM hiện tại nắm được quy trình thô nhưng gặp khó khăn lớn trong định vị vùng thao tác, lập quỹ đạo khả thi và nhận diện trạng thái/an toàn chi tiết.

D3D (Decoupled Diffusion Drafting) là phương pháp drafter khuếch tán độc lập cho suy đoán bất đồng bộ trong LLM. Bằng cách kết hợp khử nhiễu theo khối với giám sát tự hồi quy phụ trợ, D3D loại bỏ hoàn toàn sự phụ thuộc vào hidden states của mô hình đích, cho phép dự đoán các khối token kế tiếp song song trong lúc mô hình đích đang xác thực. Phương pháp áp dụng kỹ thuật tỉa 5/36 tầng để giảm chi phí mà vẫn giữ hơn 99% độ dài chấp nhận, mang lại tốc độ giải mã trung bình 5,00x trên Qwen3-8B và 5,71x trên Qwen3-32B (đạt đỉnh 7,48x trên GSM8K), vượt trội so với DFlash. Mã nguồn đã được công bố mở.

Nghiên cứu từ thử thách WorkRB tại RecSys-HR 2026 chỉ ra hạn chế của phương pháp đánh giá nhị phân truyền thống khi trích xuất kỹ năng trên bộ từ điển lớn như ESCO (13.939 kỹ năng), vốn che giấu các dự đoán sai lệch ngữ nghĩa. Thử thách áp dụng thang đo mức độ liên quan (graded relevance 0-4) với metric nDCG@100, sử dụng chuỗi 4 câu hỏi nhị phân để LLM nhỏ làm giám khảo chấm điểm chuẩn xác. Kết quả cho thấy các giải pháp đa tầng retrieve-and-rerank dẫn đầu đạt điểm cao nhờ loại bỏ kết quả vô nghĩa thay vì tìm thêm nhãn đúng, tuy nhiên các hệ thống này đang dùng lượng tham số gấp 42 đến hàng trăm lần baseline, đặt ra yêu cầu cấp thiết về tối ưu hiệu quả tính toán.

TextSeal2 là phương pháp thủy vân không gây méo mó phân phối (distortion-free) cho LLM, duy trì tín hiệu nguyên vẹn ngay cả dưới kỹ thuật giải mã suy đoán (speculative decoding). Phương pháp này gộp nhiều khóa thành một khóa ảo duy nhất qua Gaussian copula của AutoMark và tận dụng tính chất không nhớ của cuộc đua hàm mũ để xác minh draft mà không làm giảm tỷ lệ chấp nhận hay tăng độ trễ suy luận. Thực nghiệm cho thấy TextSeal2 vượt trội so với TextSeal và textGrain về tỷ lệ phát hiện ở cùng mức đa dạng token.

Google giới thiệu MTG-AD và MTG-AD-Eval nhằm giải quyết bài toán mô tả âm thanh nội dòng (inline audio descriptions) cho video UGC phục vụ người khiếm thị. Bộ dữ liệu gồm 36 giờ video với hơn 8.000 mô tả chuẩn chuyên gia, đi kèm khung đánh giá end-to-end tự động kết xuất audio để đo độ khớp với khoảng lặng tự nhiên. Kết quả cho thấy frontier MLLM mô tả hình ảnh chính xác và hạn chế chèn tiếng nói tốt, dù nhịp độ dẫn chuyện vẫn cần cải thiện.

Nghiên cứu đề xuất khung học tăng cường kết hợp chưng cất tự thân trên chính sách có khả năng quy kết thị giác nhằm giải quyết hiện tượng 'nhiễm bẩn hiệu chỉnh đặc quyền' (privileged-correction contamination), nơi các cập nhật token bị lẫn lộn giữa bằng chứng thị giác với thiên kiến ngôn ngữ. Thông qua cơ chế Visual-Attribution Gating (VAG), mô hình đối chiếu giữa góc nhìn có bằng chứng và góc nhìn suy giảm bằng chứng để chỉ giữ lại các hiệu chỉnh được hỗ trợ trực tiếp từ dữ liệu ảnh, giúp vượt qua GRPO và OPSD trên 6 benchmark suy luận thị giác.

GLOBE (Geometry-Led Online Behavioral Early Exit) là thuật toán trực tuyến, không cần huấn luyện bổ sung (training-free), cho phép dừng sớm quá trình suy luận Chain-of-Thought (CoT) của mô hình ngôn ngữ lớn. Bằng cách nhúng các phân đoạn suy luận thành điểm trên hình cầu đơn vị nhằm phân tích quỹ đạo ngữ nghĩa, GLOBE kết hợp kiểm tra câu trả lời thử nghiệm (trial phase) và phát hiện quỹ đạo đảo chiều vô ích (trajectory phase) để dừng kịp thời. Phương pháp này giúp giảm 49,7% token sinh ra và 51,0% độ trễ end-to-end trên 5 benchmark (suy luận toán học, gọi công cụ, bộ nhớ agent), trong khi vẫn duy trì độ chính xác trung bình 80,58%, tương đương với Full CoT.

Nghiên cứu thực nghiệm so sánh ghép cặp giữa optimizer Muon (bản tham chiếu trên một GPU A100) và AdamW trên causal language models (17,7M và 33,6M tham số) cùng vision transformers (2,70M tham số) dưới ngân sách 23 ứng viên cấu hình. Kết quả chứng minh Muon vượt trội về hiệu quả dữ liệu: giảm diện tích validation loss từ 3,25% đến 22,44% và hạ test loss ở toàn bộ 20 cặp thử nghiệm. Tuy nhiên, bước tối ưu của Muon chiếm tới 56,1% - 69,6% tổng thời gian huấn luyện (so với 6,1% - 9,1% của AdamW). Do đó, xét theo thời gian thực (wall-clock), Muon chỉ thắng trên Vision (cải thiện 19,68% - 22,31%), trong khi AdamW lại tốt hơn trên Language (vượt 3,38% - 6,96%). Ngoài ra, Muon đòi hỏi chi phí tinh chỉnh siêu tham số cao hơn do expected regret lớn hơn khi bị hạn chế cấu hình.