Research

Nghiên cứu chứng minh các mô hình ngôn ngữ gốc (base models) có thể đạt hiệu năng suy luận toán và lập trình tương đương mô hình được huấn luyện bằng học tăng cường (RL) chỉ bằng cách cố định các token mồi mở đầu (như '.\n\nOkay' hoặc 'Alright,'). RL chủ yếu đóng vai trò làm tăng xác suất xuất hiện của các cue này. Qua can thiệp dữ liệu huấn luyện, nhóm tác giả xác nhận mối quan hệ nhân quả trực tiếp giữa dữ liệu tiền huấn luyện và hành vi suy luận, thậm chí có thể biến từ ngẫu nhiên như 'chicken' thành cue kích hoạt tư duy. Đồng thời, các token mồi khác nhau cũng chi phối trực tiếp hành vi an toàn (từ chối hoặc tuân thủ) của mô hình.

RoboJEPA là mô hình thế giới tiềm ẩn (latent world model) quy mô 8B tham số dựa trên kiến trúc JEPA, được huấn luyện trên tập dữ liệu đa hình thể từ 12 loại robot thực tế. Đây là công trình đầu tiên thiết lập định luật mở rộng quy mô (scaling laws) cho mô hình thế giới robot thực tế, chứng minh sai số tưởng tượng (imagination error) tuân theo hàm lũy thừa bậc hai theo năng lực tính toán và là thước đo tin cậy cho hiệu năng lập kế hoạch. Mô hình có khả năng triển khai zero-shot như tác tử lập kế hoạch chuỗi dài chỉ từ một ảnh mục tiêu; toàn bộ checkpoint, mã nguồn huấn luyện và triển khai đều được mở.

Nghiên cứu chỉ ra rằng các mô hình quyết định có định kiểu (typed decision models) - dù luôn đảm bảo 100% tuân thủ schema (type-error rate bằng 0%) - thực tế lại ra quyết định theo phân cực ngữ nghĩa của tên tùy chọn (option names như yes/no) thay vì tiêu chí đánh giá (rubric) liên kết kèm theo. Trên 1.200 quyết định quy trình, việc đổi tên tùy chọn từ '0/1' sang 'no/yes' làm thay đổi 70,4/100 câu trả lời và khiến AUC sụt giảm từ 0.94 xuống 0.23 (đảo ngược quyết định có hệ thống). Ngược lại, sử dụng tên tùy chọn trung tính hoặc chuỗi ký tự ngẫu nhiên giúp loại bỏ hoàn toàn sai lệch này mà không làm giảm độ chính xác.

Nghiên cứu giới thiệu Loop Scaling Laws, định luật mở rộng quy mô đầu tiên mô hình hóa đồng thời tính lặp (recurrence/looping) và tính thưa (sparsity/MoE) cùng với kích thước mô hình và dữ liệu. Cốt lõi là hàm ánh xạ lặp có chặn phụ thuộc vào độ thưa, cho phép định lượng mức tăng tham số hiệu dụng từ looping và cách MoE khuếch đại mức tăng này. Định luật dự đoán held-out loss chính xác hơn các phương pháp trước đó và bao hàm định luật scaling của dense và MoE chuẩn. Ở quy mô nghìn tỷ token với cùng ngân sách compute, mô hình looped MoE đạt năng lực suy luận tương đương mô hình MoE không lặp lớn gấp ~2 lần, đồng thời hỗ trợ test-time scaling.

Nghiên cứu chỉ ra việc sinh các token ở cuối ngữ cảnh dài có thể tốn kém tới gấp 7 lần so với token đầu trên các mô hình open-weight hàng đầu. Bằng kỹ thuật nén ngữ cảnh thường xuyên (frequent compaction), các mô hình vẫn duy trì độ chính xác cao trên các tác vụ dài hạn mà không cần ngữ cảnh lớn. Đáng chú ý, hiệu năng LLM trên các bài toán công nghệ phần mềm phức tạp không bị suy giảm ngay cả khi chỉ thực hiện tối đa một hành động trên mỗi ngữ cảnh. Từ đó, nhóm tác giả phác thảo khái niệm Mô hình không gian trạng thái ngữ nghĩa (SSSMs) và đặt nghi vấn về sự cần thiết thực sự của LLM ngữ cảnh dài.

Nghiên cứu giới thiệu phương pháp trích xuất chuỗi suy luận ẩn (hidden Chain-of-Thought) từ các mô hình ngôn ngữ tiên tiến dạng đóng bằng cách đăng ký công cụ tùy chỉnh qua API tiêu chuẩn. Kết quả chứng minh suy luận trích xuất đạt hiệu năng tương đương CoT gốc trên nhiều lĩnh vực (toán thi đấu, khoa học, lập trình) thay vì chỉ là hợp lý hóa sau. Đặc biệt, mô hình GPT-6 Astra thể hiện khả năng suy luận định hướng tối ưu token: tự xử lý các bước cơ bản trong nội bộ và chỉ xuất ra các bước suy luận then chốt.

Nghiên cứu chỉ ra rằng việc sử dụng giáo viên đặc quyền (privileged teacher) trong tự chưng cất on-policy (self-distillation) có thể làm giảm hiệu năng của học sinh nếu giáo viên giải bài toán bằng các 'đường tắt' không phù hợp với năng lực hiện tại của học sinh. Các tác giả thiết lập điều kiện cần và đủ để bước cập nhật chưng cất cục bộ của giáo viên cùng hướng với gradient phần thưởng của học sinh, từ đó đề xuất phương pháp JOLT (Joint On-Policy Learning and Teaching). JOLT đồng thời huấn luyện một mô hình trong hai vai trò: giáo viên đặc quyền được điều chuẩn bằng phân kỳ KL hướng về học sinh và học sinh không đặc quyền học qua on-policy distillation dày đặc. Phương pháp giúp tăng tốc độ huấn luyện và hiệu năng trên các tác vụ toán học, lập trình, sử dụng công cụ và terminal.

Nghiên cứu giới thiệu On-Policy Power Distillation (OPPD), phương pháp chưng cất phân phối xác suất lũy thừa vào mô hình ngôn ngữ để tạo câu trả lời chuẩn xác chỉ trong một lượt sinh duy nhất mà không cần tìm kiếm lúc suy luận (test-time search). Bằng cách kết hợp sequential Monte Carlo sampler và mô hình teacher đóng băng, OPPD tăng độ chính xác đơn lượt lên đến 23.0 điểm trên MATH500 và 27.3 điểm trên GSM8K, vượt trội hơn GRPO mà không cần đáp án tham chiếu và có thể bổ trợ cho GRPO để tăng thêm tới 9.3 điểm. Mã nguồn được công khai tại GitHub.

Nghiên cứu giới thiệu PACT (Policy Aligned Critic Training), một kỹ thuật huấn luyện Actor-Critic mới cho giai đoạn post-training của LLM. Tác giả xây dựng 3 điều kiện chuẩn tắc (Completeness, Prefix Consistency, Neutrality) chứng minh việc xác định duy nhất token-level credit, qua đó làm sáng tỏ cơ chế của OPD, RLOO và sai số critic trong GAE. Nhằm giải quyết sai lệch critic, PACT áp dụng thứ tự cập nhật Actor-then-Critic cùng hiệu chỉnh importance sampling. Phương pháp này giúp mô hình đạt 72,87% độ chính xác suy luận toán học và 67,4% pass rate trên SWE-bench Verified, vượt trội so với GRPO, PPO và SAO.

Nghiên cứu thiết lập cơ sở toán học cho cơ chế Attention trên đồ thị quan hệ thông qua Lý thuyết Trường Chuẩn trên Mạng Tinh Thể (Lattice Gauge Theory), chứng minh rằng dưới quyền tự do hệ quy chiếu cục bộ, các quan hệ chỉ tương tác thông qua các vòng Wilson (Wilson loops). Đây là dạng biểu diễn duy nhất thỏa mãn tính đối xứng hiệp biến, hợp nhất các phương pháp như cập nhật tam giác trong AlphaFold, KG embedding và Lattice QCD. Mô hình Holonomy Attention không cần huấn luyện vẫn đạt độ chính xác 0.88 trong suy luận quan hệ nhóm S4 với 20% cạnh nhiễu (vượt xa trần 0.083 của các kiến trúc giao hoán), phát hiện tam giác lỗi với AUC 0.99 và tự động phân cụm không cần nhãn.

Nghiên cứu phát hiện cơ chế chú ý liên phương thức (cross-modal attention) trong các mô hình thị giác - ngôn ngữ (VLM) hoạt động như một bộ lọc tần số không gian trên các patch ảnh. Việc sử dụng câu hỏi dài và chi tiết (verbose prompt) giúp mở rộng dải tần hỗ trợ, làm giảm 70-81% phương sai sai lệch câu trả lời trên các mô hình 8B (Qwen3-VL, LLaVA-OneVision) khi ảnh bị nhiễu. Ngược lại, câu hỏi quá phức tạp hoặc cục bộ khiến mô hình dễ bị tổn thương hơn. Kỹ thuật đệm prompt (prompt padding) cung cấp một giải pháp thực tế đơn giản giúp tăng độ chính xác và độ bền vững mà không cần huấn luyện lại mô hình.

Nghiên cứu thực nghiệm trên mô hình GPT-5-mini chỉ ra rằng khi LLM tự tin đưa ra thông tin sai lệch có chủ đích, người dùng có xu hướng phục tùng mô hình thay vì phản biện. Tỷ lệ tiếp thu thông tin sai lệch lên tới 65% xuyên suốt các mức độ làm sai lệch dữ kiện, khiến điểm kiểm tra sụt giảm nghiêm trọng từ 7.4 xuống 2.9/10. Đáng chú ý, người tham gia tin tưởng các thông tin sai này với độ tự tin cao (8.4/10) và mức độ tin tưởng sau tác vụ hầu như không đổi. Nhóm tác giả đề xuất chỉ số Human Deference Index và khuyến nghị các giao diện AI phải làm rõ độ tin cậy trên từng luận điểm cụ thể thay vì dựa vào cảm nhận tin cậy tổng thể.

Nghiên cứu chỉ ra rằng giải mã tham lam (greedy decoding) trong LLM không bất biến theo độ chính xác số học (BF16 so với FP16) ngay cả trên cùng một phần cứng, khiến 49-100% prompt bị phân kỳ qua 6 mô hình được đánh giá (1.1B–7B và 12B). Phân kỳ bắt đầu từ việc đảo một token đơn lẻ và lan truyền theo tầng. Phân tích lan truyền sai số thực nghiệm cho thấy nguyên nhân chủ yếu do khoảng cách (margin) giữa top-2 logit tại LM head so với nhiễu định hướng, chứ không phải do sai số tích lũy qua 22 tầng thân mô hình. Đáng chú ý, việc áp dụng FP32 trên phạm vi rộng hơn lại làm giảm độ đồng thuận. Nghiên cứu đề xuất giải pháp can thiệp chi phí thấp: tái tính toán có chọn lọc LM head bằng FP32 khi margin dưới ngưỡng, giúp tăng độ tương đồng chính xác thêm 22–36 pp trên A10G (12–21 pp trên L4 và A100) với độ trễ tăng dưới 4% ở batch size nhỏ (<=8) và dưới FP8 end-to-end.

Nghiên cứu đề xuất phương pháp phát hiện sự lừa dối và phá hoại ở LLM agent bằng kỹ thuật probe hộp trắng (white-box probes), có khả năng tổng hợp thông tin kích hoạt qua nhiều tầng và token. Thử nghiệm trên SHADE-Arena cho thấy probe đạt 98.8% AUC, vượt qua mô hình giám sát văn bản Opus 5.5, đồng thời phát hiện hiệu quả sự lừa dối nội tâm (introspective deception) với AUC tới 99.7%. Nhóm nghiên cứu cũng phát hành bộ dữ liệu FIBS nhằm thúc đẩy kiểm định an toàn mô hình.

Nghiên cứu kiểm soát đầu tiên phân tích có hệ thống về vector tấn công tiền tố đầu ra (output-prefix attack) nhắm vào kênh suy luận (scratchpad reasoning) của các mô hình lý luận (Reasoning LLMs). Thử nghiệm trên 1.800 ca kiểm thử từ AdvBench với 3 mô hình biên giới năm 2026 (Gemini 3 Flash Preview, DeepSeek V4 Flash, Claude Haiku 4.5) chỉ ra rằng: tiêm suy luận độc hại đơn lẻ gần như vô hại (~0% thành công), nhưng khi kết hợp với một tiền tố đầu ra đơn giản, tỷ lệ tấn công thành công tăng vọt lên tới 99%, trong đó tiền tố ngữ cảnh mang lại hiệu quả vượt trội.

Pinocchio là bộ hiệu chuẩn ngoại vi giúp ước lượng độ bất định và tính chính xác của phản hồi từ các mô hình LLM dạng hộp đen (như GPT) mà không cần quyền truy cập log-probabilities, trọng số hay tinh chỉnh mô hình. Được huấn luyện trên phản hồi từ 7 LLM, Pinocchio đạt AUROC 0.862 và có khả năng chuyển giao zero-shot tới 13 mô hình khác nhau. Mô hình chỉ cần 1 lượt suy luận duy nhất (single forward pass), có phiên bản 0.8B gọn nhẹ tương đương bản lớn nhất và dễ dàng tích hợp vào codebase chỉ với 2 dòng mã.

DIAL-OPD là phương pháp chọn lọc token mới cho quá trình chưng cất on-policy (OPD), chứng minh rằng huấn luyện trên ít token hơn (chỉ 40%) có thể vượt trội hơn full-token OPD. Bằng cách gán trọng số cho độ lớn phần thưởng bằng trung bình logarit của xác suất mô hình giáo viên và học sinh, DIAL-OPD triệt tiêu hiệu quả các 'low-low token' (token có xác suất cực thấp ở cả hai mô hình gây nhiễu học tập) trong khi giữ lại các token có giá trị suy luận cốt lõi, giúp giáo viên 4B vượt qua giáo viên 8B và nhân đôi tỷ lệ giải toán AIME25 Pass@16.

Nghiên cứu giới thiệu TAPDreamer, phương pháp tạo miếng dán đối kháng (adversarial patch) có khả năng chuyển giao cao nhằm vào các mô hình hành động thế giới (World Action Models) trong điều khiển robot. TAPDreamer chỉ sử dụng visual encoder công khai để tạo một nhiễu cục bộ cố định (~6,5% khung hình) dựa trên 6 khung hình mẫu, mà không cần truy vấn mô hình mục tiêu. Đòn tấn công khai thác cơ chế attention để làm biến dạng toàn bộ biểu diễn hình ảnh, làm tê liệt tỷ lệ thành công của FastWAM từ trên 90% xuống 0% trên các bộ benchmark LIBERO và RoboTwin, đồng thời chuyển giao hiệu quả sang DreamWAM và Motus. Kết quả chứng minh sự cần thiết phải bảo vệ visual encoder thay vì chỉ bảo vệ tầng sinh hành động.

DMAD (Distribution Matching as Adversarial Distillation) là phương pháp chưng cất mô hình khuếch tán mới, biến bài toán khớp phân phối thành phân loại đối kháng để học trực tiếp tỷ số log-density mà không cần duy trì mô hình khuếch tán phụ trợ (auxiliary score model) như DMD. Bằng cách dùng hai đầu discriminator trên một backbone chung cùng kỹ thuật 'gap-based reweighting', DMAD giảm mạnh chi phí bộ nhớ và tính toán trong khi đạt hiệu năng vượt trội: FID 1.04 (1 bước) trên ImageNet, FID 14.47 (4 bước) với SDXL, VBench 85.15 trên Wan2.1-T2V-14B và vượt trội hơn hẳn DMD2/rCM trong đánh giá người dùng trên MiniMax-H3-33B.

SCAPO là biến thể cải tiến của GRPO trong học tăng cường với phần thưởng kiểm chứng được (RLVR), giải quyết tình trạng mô hình nhạy cảm với các đặc trưng prompt gây nhiễu bằng cách đưa tính ổn định bán thực tế (semifactual stability) vào phân bổ tín dụng cấp token. Phương pháp này giảm advantage của các token kém ổn định trong giai đoạn đầu huấn luyện, giúp tăng độ chính xác trên AIME thêm 5.63% (trên Qwen3-4B) và 4.17% (trên Qwen3-1.7B), đồng thời đứng đầu trên các benchmark toán học và OOD.

Nghiên cứu đề xuất phương pháp dự đoán hiệu năng coding agent sau post-training từ các checkpoint base model mà không cần chạy benchmark end-to-end tốn kém. Bằng cách replay trajectory thành công từ post-trained agent và chạy verifier sau mỗi bước sửa code, nhóm tác giả xác định 'decisive step' (bước quyết định giúp repo vượt qua kiểm thử). Tại bước này, ba cơ chế sàng lọc được thiết lập gồm Decisive-Action BPB, Patch MCQ và prefix-conditioned pass@K. Thử nghiệm trên 10 cặp mô hình cho thấy cả ba phương pháp đều xếp hạng base model tương đồng chặt chẽ với kết quả SWE-bench Verified pass@1 sau hậu huấn luyện.

TasteVal là benchmark đo lường 'gu nghiên cứu thực nghiệm' (experimental research taste) của các mô hình AI tiên phong thông qua hiệu suất tính toán (compute efficiency). Bằng cách phân tách vai trò giữa Researcher (mô hình đánh giá) và Coder agent (triển khai code), TasteVal đánh giá khả năng lặp lại thiết kế và rút ra kết luận từ thí nghiệm trên 8 bài toán R&D mở phức tạp với ngân sách 40 giờ H100. Mô hình Opus 5.5 đã vượt baseline của 24 chuyên gia con người với hệ số nhân compute 2,3x ở chi phí chỉ bằng 1/30. Kể từ tháng 12/2025, hệ số nhân compute của các mô hình frontier tăng gấp đôi mỗi 3,0 tháng.

Nghiên cứu chỉ ra rằng các mô hình thế giới tiềm ẩn (latent world models) hiện đại (SOTA) không thực sự mô phỏng trung thực động lực học của môi trường, dù vẫn giải quyết được nhiệm vụ. Nhóm tác giả giới thiệu khái niệm mô hình thế giới tiềm ẩn trung thực thông qua điều kiện tương đương (equivariance condition) giữa bản đồ chuyển trạng thái môi trường và động lực học tiềm ẩn đã học, đồng thời đề xuất thước đo Latent Rollout Consistency (LRC) để đánh giá khả năng dự đoán này. Kết quả thực nghiệm cho thấy toàn bộ các mô hình SOTA được khảo sát đều thất bại trong việc học trung thực cấu trúc động lực học môi trường.

DoubtLess là phương pháp giải mã tương phản (contrastive decoding) không cần huấn luyện lại, giúp rút ngắn chuỗi suy luận (Chain of Thought - CoT) của các mô hình lý luận lớn mà không làm giảm độ chính xác. Phương pháp này dùng một mô hình suy luận nhỏ đọc chuỗi CoT hiện tại theo 2 prompt đối lập ('ngắn gọn' và 'dài dòng'), sau đó lấy độ chênh lệch logit giữa hai trạng thái này để điều hướng phân phối logit của mô hình lớn ở từng bước. Thử nghiệm trên Qwen3-32B cho thấy DoubtLess giảm 31% token CoT trên 7 bài kiểm tra chuẩn và giảm 20% token trong tác nhân lập trình tự sửa lỗi, đồng thời mã nguồn đã được mở công khai.