Research

Nghiên cứu đề xuất phương pháp căn chỉnh mô hình ngôn ngữ lớn (LLM) trong bài toán hình thành ý tưởng khoa học bằng cách sử dụng mức độ tác động trích dẫn chuẩn hóa theo năm làm tín hiệu phản hồi kết quả dài hạn. Tác giả xây dựng tập dữ liệu gồm hơn 100.000 bài báo khoa học máy tính gắn với mục tiêu nghiên cứu và nhãn trích dẫn, huấn luyện mô hình phần thưởng (reward model) có điều kiện mục tiêu, sau đó căn chỉnh bộ sinh ý tưởng qua SFT kết hợp RL. Kết quả thử nghiệm trên giao thức đối chiếu tập tham chiếu độc lập cho thấy mô hình RL liên tục tạo ra các ý tưởng có tác động ước tính vượt trội so với mô hình gốc và đường cơ sở SFT.

Nghiên cứu 'The Watchtower Imperative' chỉ ra lỗ hổng an toàn cốt lõi của frontier AI khi chỉ đánh giá trên mô hình người dùng người lớn mặc định, dẫn đến các rủi ro từ trẻ em đến người già. Nhóm tác giả giới thiệu Ma trận tổn thương theo vòng đời (Lifespan Vulnerability Matrix) với 5 yếu tố điều hòa qua 6 giai đoạn cuộc đời, chỉ ra rủi ro phi đơn điệu đạt đỉnh ở hai đầu lứa tuổi. Nghiên cứu đề xuất nguyên tắc thiết kế an toàn và khung đánh giá ngoài 3 tầng gồm mô phỏng tự động, red-team chuyên gia và giám sát sau triển khai.

IdeaLens là mô hình phát hiện nguồn gốc ý tưởng (idea provenance) trong các văn bản dài, giúp xác định ý tưởng xuất phát từ con người hay AI bất kể ai là người trực tiếp chắp bút. Thay vì phân tích từ ngữ bề mặt, IdeaLens trừu tượng hóa văn bản thành dàn ý gồm vai trò diễn ngôn và nội dung diễn giải lại để loại bỏ dấu vết ngôn từ. Được huấn luyện trên 1 triệu tài liệu FineWeb với nhãn silver từ Pangram, IdeaLens chứng minh khả năng phân biệt vượt trội: chỉ gắn cờ 7% khi AI viết theo dàn ý chi tiết của người (so với 92% của Pangram 4) và phát hiện 68% khi người viết theo ý tưởng của AI (so với 8% của Pangram 4), duy trì độ chính xác cao trên 19 benchmark đa ngôn ngữ.

AnchorReasoning là bộ dữ liệu suy luận gắn với định vị hình ảnh (visually grounded reasoning) cho các tình huống tự hành long-tail dựa trên WOD-E2E, gồm 416.119 khung hình và 395.379 phần tử quyết định. Nghiên cứu đề xuất chuỗi suy nghĩ trực quan VG-CoT kết hợp chiến lược tinh chỉnh Curriculum SFT và metric định vị nhận biết kích cỡ vật thể, giúp giảm sai số quỹ đạo 5 giây (ADE -7,84, FDE -11,86), tiết kiệm 18,5 token và giảm 0,32 giây độ trễ/khung hình trên 8 mô hình nền tảng.

Nghiên cứu phân tích tác động của AI đối với việc tích lũy và duy trì kỹ năng của người lao động thông qua mô hình 'chấp nhận hoặc tự giải quyết'. Việc quá phụ thuộc vào AI giúp tiết kiệm công sức trước mắt nhưng triệt tiêu cơ hội thực hành, dẫn đến nguy cơ người mới rơi vào bẫy kỹ năng thấp còn chuyên gia bị mai một năng lực giám sát AI. Nghiên cứu đề xuất cơ chế trả thưởng cho việc tự thực hiện độc lập chính xác và chứng minh rằng khi đạt ngưỡng kỹ năng nhất định, năng lực của nhân viên sẽ tự duy trì bền vững mà không cần tiếp tục trợ cấp.

Nghiên cứu chứng minh rằng phần lớn độ tương đồng giữa các item trong hệ thống gợi ý là 'tương quan ảo' (phantom correlation) do sự chênh lệch trong tần suất hoạt động của người dùng gây ra, chứ không phản ánh sở thích chung. Bằng cách sử dụng mô hình Rasch, nhóm tác giả chỉ ra ngay cả khi hành vi tiêu dùng hoàn toàn độc lập, các thước đo tương đồng phổ biến vẫn tạo ra liên kết giả phụ thuộc vào độ phổ biến của item, đặt ra yêu cầu đánh giá lại cách diễn giải tín hiệu đồng xuất hiện trong lọc cộng tác.

Nghiên cứu giới thiệu phương pháp xác minh phát biểu hình thức hóa trong Lean cho quy trình tự động hóa tác tử (autoformalization), vượt qua giới hạn của phương pháp chỉ dùng LLM làm trọng tài. Bằng cách kết hợp đánh giá ngữ nghĩa của LLM với các kiểm tra cơ học (kiểm tra số trị và tính rỗng), hệ thống cung cấp phản hồi kiểm chứng được và bắt được các lỗi LLM bỏ sót. Nhóm tác giả áp dụng quy trình Extract-Verify-Proof để xây dựng thư viện FLMF (hình thức hóa một phần NIST DLMF), đạt tỷ lệ chấp nhận phát biểu sai thấp nhất trên 3 tập dữ liệu thử nghiệm và phát hiện nhiều lỗi trong các benchmark hiện tại. Mã nguồn được công khai trên GitHub.

Nghiên cứu khảo sát hiện tượng sai lệch mục tiêu (goal misgeneralization - GMG) ở các tác nhân học tăng cường khi hoạt động ngoài phân phối. Qua 3 môi trường Procgen và 5 tác vụ robot, nhóm tác giả chỉ ra GMG gồm 3 cơ chế sai lệch mục tiêu - chính sách theo độ sâu: (1) thay thế mục tiêu chức năng, (2) đi tắt chính sách, và (3) cạnh tranh tín hiệu giữa mục tiêu thật và proxy cue. Tùy thuộc vào độ sâu mà thông tin mục tiêu bị mất, phương pháp phục hồi sẽ khác nhau: can thiệp lái kích hoạt (steering) nâng tỷ lệ đạt mục tiêu từ 16.0% lên 95.3% ở cue competition; tái đấu nối tầng dưới (downstream wiring) tăng từ 31.6% lên 84.3% ở policy shortcut; còn khi mục tiêu bị trơ, cả hai biện pháp đều vô hiệu.

Nghiên cứu giới thiệu bài toán dự đoán tổng quát hóa căn chỉnh (alignment generalization prediction) nhằm ước lượng mức độ thay đổi hành vi của LLM trên các giá trị chưa huấn luyện sau khi tinh chỉnh theo một giá trị nhất định. Thử nghiệm trên 66 giá trị căn chỉnh phổ biến cho thấy biểu diễn dựa trên kích hoạt nơ-ron (activations) của mô hình đạt hệ số tương quan 0.45 với ma trận tổng quát hóa, vượt trội so với mức 0.05 của biểu diễn mô tả bằng văn bản. Kỹ thuật này cũng được ứng dụng để đo độ tương đồng giữa các giá trị trong tập mục tiêu căn chỉnh (tương quan chặt chẽ với độ bền vững của mô hình) và mở ra bằng chứng về một không gian giá trị độc lập với mô hình.

Nghiên cứu giới thiệu Higher-order Grammar Representation (HGR), một khuôn khổ biểu diễn phân tử dựa trên tô-pô giúp nâng phân tử thành các phức hợp tổ hợp và phân tích thành chuỗi quy tắc ngữ pháp phi ngữ cảnh bậc cao. HGR giúp các mô hình chuỗi tiêu chuẩn trực tiếp học cấu trúc vòng và motif phức tạp mà không chịu chi phí tính toán cao. Nghiên cứu cũng xây dựng bộ dữ liệu RingDiv (1,18 triệu phân tử) và chỉ số RDI đo độ bao phủ hệ vòng. Trong thực nghiệm, mô hình dựa trên HGR đạt 100% tính hợp lệ phân tử khi sinh, dẫn đầu chỉ số FCD trên 5 benchmark, đồng thời mô hình HGR-FM đạt AUC cao nhất trên 7 benchmark MoleculeNet (tăng 8,3 điểm AUC ở probing so với baseline mạnh nhất).

LLM-Falsifier là phương pháp mới ứng dụng mô hình ngôn ngữ lớn (LLM) để tìm kiếm phản ví dụ vi phạm các đặc tả hình thức viết bằng Logic Thời gian Tín hiệu (STL) trong hệ thống vật lý số (CPS). Khác với các thuật toán tối ưu hóa số học hộp đen truyền thống, LLM-Falsifier cung cấp thêm ngữ nghĩa tự nhiên (tên biến I/O, quỹ đạo đầu ra, nhân chứng thời gian tới hạn) giúp tối ưu hóa độ vững chắc hiệu quả hơn. Trên bộ benchmark ARCH-COMP, phương pháp vượt qua các công cụ truyền thống (Bayesian, surrogate, search-based) trên 14/21 đặc tả về số lượng mô phỏng cần thiết.

Nghiên cứu giới thiệu A-greement, giao thức đồng thuận mới cho hệ thống máy trạng thái phân tán địa lý (geo-replicated SMR), được phát hiện nhờ khung agent AI-greement. A-greement giảm độ trễ trung bình so với baseline nhanh nhất từ 12.2% (tải ghi nhiều) đến 33.3% (tải đọc nhiều). Đóng góp quan trọng nằm ở AI-greement — khung harness tích hợp cơ sở tri thức giao thức, khung code triển khai và công cụ kiểm chứng Lean, qua đó còn phát hiện nhiều lỗ hổng chưa từng công bố trong các giao thức hiện có, đồng thời khẳng định vai trò thiết yếu của chuyên gia con người trong nghiên cứu.

Tài liệu hướng dẫn toàn diện về kiểm định mô hình (model validation) trong học máy, từ hold-out đến nested group cross-validation cho nghiên cứu y sinh và ứng dụng thực tế. Nghiên cứu phân tích 8 kịch bản đối chứng so sánh thiết kế lỗi gây rò rỉ dữ liệu và thiết kế an toàn (bao gồm rò rỉ chọn đặc trưng, rò rỉ chuẩn hóa, phụ thuộc bản ghi, trộn trung tâm). Tác giả cung cấp ma trận kích thước dữ liệu, cây quyết định lựa chọn phương pháp, checklist báo cáo cùng mã nguồn mẫu MATLAB và scikit-learn, nhấn mạnh nguyên tắc đơn vị độc lập phải tương ứng với mục tiêu triển khai thực tế.

X-Reset là một khung làm việc (framework) học tăng cường mới nhằm giải quyết bài toán khám phá trong điều khiển khéo léo (dexterous manipulation) đa hình thể. Thay vì mô phỏng hay bám đuổi quỹ đạo người, X-Reset chuyển đổi động học trạng thái tay - vật thể từ người sang trạng thái robot, lọc các trạng thái không ổn định trong mô phỏng, rồi dùng chúng làm phân phối khởi động lại (resets) trong quá trình huấn luyện RL với hàm thưởng hướng đối tượng. Phương pháp giải quyết rào cản khám phá từ đầu, mở rộng thành công trên 20 vật thể qua 3 cấu hình robot (bàn tay 22-DoF và kẹp hai ngón), tổng quát hóa với vật thể mới và chuyển giao sim-to-real zero-shot.

Nghiên cứu chỉ ra rằng các cơ chế phòng vệ chống tấn công chưng cất (distillation attacks) trên mô hình ngôn ngữ lớn nguồn đóng dễ bị vô hiệu hóa khi kẻ tấn công tiếp tục huấn luyện mô hình bằng học tăng cường (RL). Việc mở rộng mô hình đe dọa với giai đoạn RL cho thấy kẻ tấn công chỉ cần dữ liệu dễ thu thập từ API thông thường là có thể sao chép năng lực suy luận ngang ngửa các đòn tấn công phức tạp. Các biện pháp phòng vệ làm rò rỉ đủ dữ liệu để tái lập chuỗi suy luận xấp xỉ đều không còn hiệu quả, đòi hỏi chuyển sang các giải pháp phòng thủ ở cấp độ lô (batch-level).

ExplorationBench là bộ benchmark đánh giá năng lực khám phá khoa học của hệ thống AI trong các môi trường giả định kiểm chứng được ('Alien Worlds'). Bằng cách thiết lập các quy tắc có thể thực thi chính xác nhưng xung đột với hiểu biết thực tế, benchmark phân định rõ ràng giữa việc AI thực sự khám phá quy luật mới và việc chỉ ghi nhớ lại tri thức từ dữ liệu tiền huấn luyện. Khung đánh giá gồm 2 sandbox (AlienCode và AlienLogic) với các tài liệu hướng dẫn có khiếm khuyết, phản hồi môi trường và schema gọi công cụ để AI hình thành giả thuyết, thử nghiệm và giải các tác vụ chưa từng thấy. Thử nghiệm trên 10 hệ thống AI cho thấy các mô hình hàng đầu có thể nắm bắt quy tắc mới, tuy nhiên kết quả dao động mạnh giữa các lần chạy và việc tiếp tục khám phá có thể làm suy giảm hiệu năng đạt được trước đó.

Systemic Risk Index là pipeline đánh giá mã nguồn mở và dashboard tương tác nhằm minh bạch hóa bằng chứng thực nghiệm về rủi ro mô hình AI theo Bộ quy tắc thực hành (Code of Practice) cho GPAI của EU AI Act. Nghiên cứu tổ chức 19 benchmark công khai vào 4 nhóm rủi ro hệ thống (CBRN, tấn công mạng, thao túng gây hại, mất kiểm soát) và đánh giá mô hình bằng các nhiễu loạn bảo toàn tác hại cùng bối cảnh triển khai giả lập. Trên 18 mô hình, điểm số sụt giảm từ 14 đến 37 điểm dưới cơ chế tổng hợp worst-case so với điểm trung bình, giúp phát hiện các rủi ro tiềm ẩn. Đánh giá bằng LLM đạt độ tương đồng cao với con người (κ = 0.78–0.82) và 83% phép biến đổi giữ nguyên tác hại qua kiểm toán mù.

Nghiên cứu giới thiệu Lifted Bellman Linear Program (LBLP) và thuật toán ALBUM cho học tăng cường ngoại tuyến (Offline RL). Thay vì huấn luyện critic bằng hồi quy sai số bình phương với mục tiêu bootstrap cần target network và EMA, LBLP thiết lập tính tối ưu Bellman in-sample qua ràng buộc bất đẳng thức trên không gian liên hợp (Q, V). ALBUM chuyển đổi ràng buộc thành hàm phạt hinge loss và kỹ thuật stop-gradient, loại bỏ hoàn toàn nhu cầu dùng target network. Trên OGBench, ALBUM đạt hiệu năng ngang ngửa FQL và các phương pháp action-chunking, đồng thời tiêu tốn ít tham số và bộ nhớ GPU đỉnh thấp nhất.

Nghiên cứu giới thiệu leaky-integrator reconstruction, một phương pháp không cần huấn luyện lại giúp khắc phục triệt để hiện tượng tích lũy sai số gây phân kỳ trong dự báo chuỗi thời gian đệ quy sai phân. Nghiên cứu chỉ ra rằng việc cộng dồn sai phân một bước tạo ra một cực (pole) nằm trên đường tròn đơn vị, khiến mô hình phi tuyến bị phân kỳ mạnh ở các chân trời dự báo dài hạn (H=336 MAE chuẩn hóa tăng lên 1.6-3.8 so với mức ~0.8). Bằng cách chuyển cực vào bên trong đường tròn đơn vị qua hàm H(z) = 1/(1 - gamma*z^-1) với gamma < 1 (cố định gamma=0.9), phương pháp chặn được phương sai sai số tích lũy, giúp giảm trung bình 51% sai số ở H=336 trên 7 kiến trúc và 20 bộ dữ liệu chỉ với 2 dòng code lúc suy luận, đồng thời an toàn và trơ trên các mô hình đã ổn định.

Nghiên cứu phát hiện hiện tượng rò rỉ token tương lai ẩn trong các mô hình chuỗi thích ứng (adaptive sequence models), nơi mô hình đạt mức giảm loss xác thực đột biến (từ 3.5958 xuống 1.4259) trong đánh giá teacher-forced nhưng suy giảm nghiêm trọng khi sinh chuỗi tự do (free-running generation). Nguyên nhân bắt nguồn từ cơ chế phát tán tóm tắt toàn chuỗi qua đường dynamic routing-query dù causal attention mask vẫn hợp lệ. Nhóm tác giả đề xuất phương pháp chẩn đoán bằng hợp đồng bất biến tiền tố (prefix-invariance contract), thước đo LeakScore và phân tích phân tầng, đồng thời khắc phục thành công trên các bản sửa lỗi 12 layer.

PHRBench là benchmark kiểm soát hành vi lập luận sau ảo giác (Post-Hallucination Reasoning - PHR) trên 18 LLM thuộc 4 lĩnh vực với 4.820 trường hợp kiểm nghiệm. Nghiên cứu phân tích quỹ đạo suy luận độc lập với tính đúng đắn của đáp án cuối thông qua ba trạng thái: tuân theo ảo giác, né tránh ảo giác và sửa sai suy nghiệm. Kết quả cho thấy tỷ lệ mô hình tự phục hồi sau ảo giác rất hiếm, đòi hỏi cập nhật niềm tin thường xuyên hơn dọc theo chuỗi lập luận; đồng thời một bộ dự đoán nhẹ dựa trên đặc tính prompt có thể dự báo khả năng phục hồi với AUROC đạt 0.847.

Nghiên cứu chỉ ra 'lỗ hổng đa ngôn ngữ' (cross-lingual loophole) trong LLM unlearning: việc xóa tri thức ở một ngôn ngữ không đảm bảo tri thức đó biến mất ở các ngôn ngữ khác, trong khi xóa trên toàn bộ ngôn ngữ lại làm suy thoái năng lực chung của mô hình. Để giải quyết, nhóm tác giả giới thiệu bài toán unlearning đa ngôn ngữ có giới hạn ngân sách, xây dựng bộ benchmark Cross-Lingual Unlearning Tensor (174 cặp ngôn ngữ - chữ viết, 25 dạng diễn giải) và đề xuất thuật toán COVER. COVER lựa chọn tập ngôn ngữ nguồn tối ưu nhằm tối đa hóa độ bao phủ xóa tri thức mà chỉ cần dữ liệu hiệu chuẩn lành tính và mô hình đóng băng. Thực nghiệm cho thấy COVER giảm 7.8% - 27.3% lượng truy cập tri thức dư thừa so với lựa chọn đồng đều, hiệu quả trên cả dữ liệu tin tức thực tế từ ngữ liệu LORELEI.

Nghiên cứu giới thiệu BRIE, một khung tạo benchmark tự động và duy trì liên tục nhằm đánh giá khả năng truy xuất, tổng hợp thông tin từ hồ sơ bệnh án điện tử (EHR) của các trợ lý LLM. Được 19 bác sĩ lâm sàng kiểm định, BRIE khắc phục nhược điểm của các benchmark tĩnh dễ lỗi thời và rò rỉ dữ liệu. Thử nghiệm trên 9 LLM và 5 chiến lược suy luận cho thấy các mô hình tiên tiến hiện nay vẫn thường xuyên bỏ sót thông tin lâm sàng cốt lõi khi câu hỏi đòi hỏi tổng hợp từ nhiều tài liệu và lần khám khác nhau.

Nghiên cứu đề xuất tiêu chí biểu diễn 'Exactness at Inference' cho bài toán tổng quát hóa ngoài phân phối (OOD). Mô hình chỉ có thể ngoại suy chính xác khi biểu diễn tính toán tương đương cấu trúc với cơ chế sinh dữ liệu thay vì chỉ khớp xấp xỉ. Tensor Logic ở nhiệt độ T=0 đạt sự tương đương với logic rời rạc cấp Datalog trên miền đóng, sử dụng tensor Boolean và embedding trực giao chuẩn hóa. Tiêu chí này ràng buộc quá trình suy luận: differentiable ILP và Tensor Logic (T=0) đạt chuẩn, trong khi Logic Tensor Networks và mạng nơ-ron thông thường thất bại. Đối với kiến trúc lai, sai số của các bộ ước lượng thành phần sẽ lan truyền và tích lũy, lý giải sự thất bại trên ARC-AGI. Chỉ có lớp giả thuyết chính xác mới xác thực được 56,3% truy vấn xa có thể giải được mà không rơi vào bẫy tự tin sai lệch của ensemble.