Research

Nghiên cứu đề xuất khung làm việc tối ưu hóa việc phân bổ ngân sách bảo mật trong Differentially Private SGD thay vì chỉ dừng lại ở việc tính toán tích lũy chi phí (privacy accounting). Bằng cách thiết lập lịch biểu phương sai nhiễu Gaussian như một bài toán điều khiển vòng hở dưới ràng buộc zCDP, tác giả giới thiệu thuật toán Privacy-Budget Adjoint Mirror Descent (PB-AMD) và rút ra quy luật phân bổ căn bậc hai tường minh. Kết quả thực nghiệm chứng minh phương pháp này cải thiện độ chính xác dự đoán so với phân bổ đều và rút ngắn thời gian tối ưu hóa lịch biểu so với projected gradient descent.

MQAScore là phương pháp đánh giá độ khớp chi tiết giữa văn bản và âm nhạc thông qua mô hình ngôn ngữ âm thanh lớn (LALM). Khác với các phương pháp truyền thống chỉ tính độ tương đồng toàn cục giữa embedding văn bản và âm thanh làm che lấp các thuộc tính bị thiếu, MQAScore kiểm tra từng khái niệm âm nhạc nguyên tử trên 5 khía cạnh (thể loại, nhạc cụ, tâm trạng/chủ đề, giọng hát, ngữ cảnh sử dụng) dựa vào xác suất LALM trả lời khẳng định cho các câu hỏi nhị phân. Nghiên cứu cũng đề xuất chỉ số Sensitivity-Invariance Ratio để kiểm chứng độ tin cậy của bộ đánh giá trước các phép thay thế khái niệm.

Nghiên cứu đề xuất giải pháp tối ưu hóa việc tinh chỉnh mô hình ngôn ngữ lớn qua học liên kết (Federated LLM fine-tuning) trên mạng truy nhập vô tuyến (RAN). Bằng cách biến trạm gNB thành bộ định hình lưu lượng nhận thức học máy và thực hiện tổng hợp trong mạng (in-network aggregation), các cập nhật bất đồng bộ từ thiết bị người dùng được gom thành các đợt truyền tải có kích thước xác định, cho phép khai thác hiệu quả mạng chuyển mạch quang dung lượng cao được cấp phát động giữa các vòng học.

Báo cáo nghiên cứu 'Prompt like a butterfly, sting like a tracker' của tác giả Jorge Garcia Herrero chỉ ra thực trạng các công ty AI để rò rỉ dữ liệu người dùng cho các bên quảng cáo qua trình theo dõi (trackers). Mặc dù bằng chứng hiện tại chưa công bố danh sách công ty hay cơ chế kỹ thuật cụ thể, phát hiện này cảnh báo rủi ro nghiêm trọng về quyền riêng tư khi dữ liệu prompt nhạy cảm bị bên thứ ba thu thập.

Nghiên cứu giới thiệu khung mô hình đại diện thần kinh (neural-surrogate) ứng dụng AI nhằm thiết kế và đánh giá các mục tiêu điều biến thần kinh nhận thức - cảm xúc in silico từ dữ liệu fMRI mà không cần can thiệp vật lý. Bằng cách kết hợp giải mã fMRI, mô hình sinh sâu (VDVAE, Versatile Diffusion) và điều hướng không gian tiềm ẩn, nghiên cứu chứng minh can thiệp có thể làm dịch chuyển đánh giá cảm xúc (valence) của con người theo hướng dự đoán, dù khả năng thay đổi tính ghi nhớ (memorability) chưa ổn định và can thiệp mạnh gây giảm độ trung thực của kích thích.

Nghiên cứu đánh giá mô hình quyết định Jev (dạng System One) như một giải pháp trọng tài chi phí thấp nhằm kiểm tra tính chính xác thực tế giữa báo cáo X-quang do AI tạo và báo cáo tham chiếu của bác sĩ. Bằng cách phân rã câu và kiểm tra đối chiếu hai chiều, Jev phát hiện hiệu quả cả thông tin không có căn cứ lẫn điểm bỏ sót. Với cấu hình một câu hỏi duy nhất cho mỗi phát biểu, Jev đạt hệ số tương quan Kendall 0,573 trên RadEvalX và 0,398 trên RadEvalExpert (vượt mô hình NLI mở), tiết kiệm 43-45% token đầu vào với chi phí dưới 0,03 USD/100 cặp báo cáo và đạt AUROC 0,977 trong việc phát hiện lỗi phủ định sai.

Nghiên cứu thử nghiệm đối chứng ngẫu nhiên (RCT) với 50 product designer và 50 product manager nhằm đánh giá hiệu quả tiết kiệm thời gian của công cụ AI prompt-to-design (Figma Make) qua 3 tác vụ thiết kế chuẩn hóa. Kết quả cho thấy Figma Make giúp giảm khoảng 20% thời gian hoàn thành tác vụ, trong đó mức độ cải thiện ở nhóm PM cao hơn, còn đối với designer chuyên nghiệp thì hiệu quả phụ thuộc vào từng tác vụ cụ thể.

Latent Sparse Attention (LSA) là phương pháp chú ý thưa hiệu quả giúp duy trì độ chính xác ở ngữ cảnh siêu dài (>1M token) bằng cách phân cụm phân cấp các key trong không gian tiềm ẩn đã học, giúp query chấm điểm theo cụm thay vì từng key riêng lẻ. Nghiên cứu giới thiệu hai biến thể: Distilled-LSA (D-LSA) áp dụng cho mô hình pre-trained qua chưng cất và Native-LSA (N-LSA) huấn luyện trực tiếp qua next-token loss. Trên GLM-5.3-FLASH (QWEN-3.8-27B) ở 10M token, D-LSA tăng tốc một lớp attention lên 22,7x (72,4x) khi prefill và 4,6x (42,5x) khi decode so với sparse (full) attention gốc mà vẫn giữ độ chính xác; N-LSA đạt chất lượng tương đương full attention với tốc độ huấn luyện nhanh hơn 1,6x/layer ở 128k token.

Nghiên cứu giới thiệu giao thức đánh giá đối chứng cùng lớp (matched same-class controls) cho các mô hình ngôn ngữ - âm thanh (audio-language models) nhằm phân biệt giữa khả năng nhận diện phân lớp âm thanh thực sự và độ nhạy do can thiệp dạng sóng. Bằng việc áp dụng cùng thông số xử lý (khoảng thời gian, mức âm, donor fitting, crossfade), thử nghiệm trên 600 cảnh âm thanh tổng hợp và 3 mô hình cho thấy việc thay thế khác lớp làm tăng từ 49,7 đến 60,9 điểm phần trăm thay đổi câu trả lời so với thay thế cùng lớp, trong khi độ chính xác cùng lớp chỉ dao động trong vòng 5,2 điểm phần trăm so với ban đầu. Kết quả khẳng định câu trả lời của mô hình thực sự phản hồi theo phân lớp sự kiện âm thanh cục bộ.

Nghiên cứu công bố khung đánh giá vòng lặp kín thống nhất nhằm thử nghiệm 6 mô hình AI biên (GPT-6 Astra, GPT-6.1 Sol, GPT-6 Luna, Claude Opus 5, Claude Opus 5.5, Gemini-4 Argon) trên benchmark robot LIBERO-10 thông qua quan sát thị giác, proprioception và tool call có cấu trúc mà không cần fine-tune. Qua 1.800 episode thử nghiệm, GPT-6 Astra đạt tỷ lệ thành công cao nhất (44%), theo sau là Gemini-4 Argon (43%). Dù việc tăng cường nỗ lực suy luận (reasoning effort) giúp cải thiện hiệu năng nhưng lại tốn kém chi phí suy luận, đồng thời các mô hình vẫn gặp nhiều hạn chế trước các tác vụ đòi hỏi sự chuẩn xác về không gian và chuỗi hành động phức tạp.

APRIL là khung học tăng dần theo miền (domain-incremental) không cần dữ liệu mẫu cho bài toán phân loại âm thanh hô hấp. Tận dụng backbone BEATs đóng băng kết hợp các chuyên gia low-rank được cô lập và bộ định tuyến prototype đa cấp thích ứng với độ nhập nhằng, APRIL đạt kết quả hàng đầu trên ICBHI (64.4% - 65.4%) và SPRSound (82.2% - 83.1%) với tỷ lệ quên tri thức dưới 1.0%, đáp ứng tốt các quy định bảo mật y tế.

Nghiên cứu đánh giá quá trình thích ứng liên tục theo giai đoạn (staged post-training) trên mô hình nền tảng đa phương thức 8.4B đối với tài liệu tài chính tiếng Nhật qua 3 pha: căn chỉnh thị giác-ngôn ngữ, chưng cất suy luận toán và tinh chỉnh miền. Kết quả chỉ ra các giai đoạn tương tác phi cộng tính: việc chưng cất toán học ghi đè tri thức tài chính đã nạp trước đó, trong khi pha tinh chỉnh miền chủ yếu đóng vai trò phục hồi tri thức hơn là cài đặt mới. Do đó, việc lựa chọn checkpoint phụ thuộc vào tác vụ cụ thể và cần ưu tiên lập lịch, lưu giữ checkpoint thay vì tăng thêm các giai đoạn huấn luyện.

APSD (Asymmetric Policy Optimization via Self-Distillation) giải quyết hạn chế của việc khớp phân phối tự chưng cất đối xứng bằng cách xây dựng mục tiêu phụ thuộc tính đúng sai: nội suy trên rollout đúng để bảo toàn hành vi tốt và ngoại suy trên rollout sai để tăng cường sửa lỗi. Phương pháp đạt hiệu năng vượt trội và tương đương SDPO với số bước huấn luyện ít hơn trung bình 2.6 lần trên các quy mô mô hình Qwen3.

QRAKEN là pipeline neurosymbolic không cần huấn luyện (training-free) và độc lập với ontology, giúp chuyển đổi câu hỏi tự nhiên sang truy vấn SPARQL dựa trên dữ liệu thực tế thay vì cấu trúc schema lý thuyết. Hệ thống sử dụng bộ chưng cất offline để tạo TTQL (mô tả các pattern đa chặng, tần suất điều kiện và ma trận đồng xuất hiện class-property), kết hợp với cơ chế kiểm tra và tự sửa lỗi trực tuyến. Trên benchmark CK25, QRAKEN đạt F1 nghiêm ngặt 0.643 (với GPT-4.1 mini) và 0.652 (với GPT-5.4), vượt hơn 30% so với giải pháp tốt nhất trước đó và vượt 64% so với SHACL tự động sinh. Mô hình mã nguồn mở cục bộ 35B chạy 4-bit cũng đạt kết quả tương đương giải pháp dẫn đầu mà không tốn chi phí biên.

Nghiên cứu đề xuất ARBOR, một phương pháp PEFT phân bổ rank có điều kiện dựa trên taxonomy cho mô hình y tế. ARBOR chọn các thành phần rank-1 từ cơ sở low-rank dùng chung cho từng câu hỏi thông qua additive gate kết hợp biểu diễn câu hỏi, nhãn chuyên khoa và nhãn thao tác lâm sàng. Trên mô hình Qwen3-8B trên 4 tập dữ liệu chuẩn (CMB, CMExam, MedQA, MedMCQA), ARBOR đạt độ chính xác trung bình 69,69%, vượt LoRA r16 và MoELoRA tương ứng 1,26 và 1,30 điểm phần trăm, với lợi thế mở rộng đáng kể khi số lượng chuyên khoa tăng lên.

D2K-Bench là benchmark chẩn đoán gồm 26 nhiệm vụ và 85 workload đánh giá khả năng chuyển đổi thiết kế chuyên gia thành GPU kernel tối ưu của các LLM agent. Hướng dẫn thiết kế được cấu trúc theo 3 cấp độ: thuật toán cấp cao (L1), luồng dữ liệu (L2) và tối ưu cấp thấp (L3). Thử nghiệm trên GPU NVIDIA B200 với ngân sách 350 lượt cho thấy hướng dẫn giúp nâng độ chính xác từ 93,1% lên 98,5%, điểm hiệu năng tăng từ 1,46 lên 1,95 và điểm triển khai trung bình tăng từ 57 lên 70/100. Đối với ba mô hình hàng đầu (GPT-6-Astra, Claude-Opus-4.8, GPT-5.6-Sol), tốc độ tăng trung bình hình học từ 1,69x lên 2,49x, chứng minh giá trị cốt lõi của hướng dẫn thiết kế trong việc thu hẹp khoảng cách hiệu năng của GPU kernel.

Nghiên cứu giới thiệu ViGeo, một framework mở rộng học theo ngữ cảnh trực quan (visual in-context learning) sang lĩnh vực video thông qua cơ chế hoàn thiện khung hình không gian - thời gian (spatiotemporal canvas completion). Phương pháp này giúp mô hình video thích ứng với các tác vụ mới mà không cần tinh chỉnh (fine-tuning) hay chuẩn bị dữ liệu gán nhãn tốn kém, đồng thời tổng quát hóa tốt trên các thao tác video chưa từng thấy và phương thức dữ liệu zero-shot (như event camera). Ngoài ra, nghiên cứu phát hiện hiện tượng 'task internalization' khi định dạng câu hỏi ghi đè lên ví dụ mẫu, và chứng minh có thể khắc phục triệt để bằng một lượng nhỏ dữ liệu không liên quan đến tác vụ để tách biệt định dạng prompt khỏi bản chất tác vụ.

Nghiên cứu 'The Path Matters' chỉ ra rằng việc đánh giá end-to-end các mô hình ngôn ngữ nhỏ (SLM) trong hỏi đáp đồ thị tri thức (KGQA) đang làm lẫn lộn giữa truy cập đồ thị, điều hướng, suy luận và tạo câu trả lời. Để cô lập năng lực điều hướng, nhóm nghiên cứu sử dụng khung THESEUS với các SLM đóng băng sẵn có làm chính sách hành động cục bộ tại mỗi bước nhảy mà không cần tinh chỉnh hay sinh văn bản tự do. Phương pháp này đánh giá đồng thời độ chính xác câu trả lời cuối (Hits@1) và độ trung thực của lộ trình suy luận qua Path Edit Distance (PED). Kết quả trên tập Kinship và MQuAKE-ST cho thấy các mô hình cùng quy mô có sự khác biệt lớn về độ chính xác và lộ trình, hai chỉ số này đôi khi ưu tiên các mô hình trái ngược nhau, đồng thời việc thêm ví dụ mẫu qua prompting có thể cải thiện hoặc làm suy giảm hiệu năng tùy vào mô hình.

Khảo sát 35 công trình về việc ứng dụng LLM (chủ yếu là GPT và Llama) trong lĩnh vực giao thông cho thấy tình trạng thiếu hụt nghiêm trọng các biện pháp an ninh mạng, quyền riêng tư và độ tin cậy. Dù EU AI Act xếp AI trong giao thông vào nhóm rủi ro cao, chỉ 1/35 công trình có đánh giá lỗ hổng và 1/35 có quản lý rủi ro một phần, cho thấy khoảng cách lớn giữa hiệu năng mô hình và an toàn vòng đời thực tế.

Nghiên cứu từ kho mã nguồn covenant chỉ ra rằng hai mô hình AI giám khảo (AI judges) tương tự nhau có xác suất cùng thất bại cao gấp 7.7 lần so với kỳ vọng độc lập thống kê. Điều này chứng minh việc dùng nhiều AI cùng họ để kiểm tra chéo hoặc biểu quyết dễ tạo ra sự đồng thuận sai lệch do cùng chung điểm mù.

Nghiên cứu chứng minh rằng các lỗi hành vi bên ngoài có thể khiến mô hình Transformer trông như thiếu mô hình thế giới (world model) dù thực tế nó đã học được các biểu diễn môi trường chính xác. Thông qua phân tích cơ chế và can thiệp nhân quả trên mô hình TaxiGPT (huấn luyện trên các bước đi ngẫu nhiên ở Manhattan), các tác giả chứng minh mô hình thực sự biểu diễn các giao lộ, đường phố, theo dõi vị trí và dùng la bàn mục tiêu để dẫn đường. Thất bại hành vi bắt nguồn từ hiện tượng nhiễu giữa các đặc trưng chồng chập (superposition) của giao lộ, trong khi cơ chế 'affordance packing' giúp giảm thiểu tác hại. Nghiên cứu đề xuất các chỉ số cơ chế theo dõi năng lực mô hình thế giới theo từng giai đoạn huấn luyện, thúc đẩy chuyển hướng sang nghiên cứu cơ chế tương tác nội tại thay vì chỉ đánh giá nhị phân bề mặt.

Nghiên cứu chỉ ra sự thiếu đồng nhất trong phong cách viết báo cáo X-quang của các bác sĩ làm sai lệch kết quả đánh giá và thứ hạng các mô hình AI sinh báo cáo (RRG). Tác giả đề xuất hệ thống phân loại biến thể báo cáo, phương pháp viết lại tham chiếu ReRef bảo toàn chẩn đoán lâm sàng, và cung cấp bộ dữ liệu thẩm định MIMIC-CXR-Ext-ReRef gồm 120 cặp báo cáo để nâng cao độ tin cậy khi đánh giá mô hình.

CHARM+ (Cross-Hardware Attention with Re-Merge Multistream Mechanism) là cơ chế attention phân tán mới giải quyết điểm nghẽn giao tiếp và mất cân bằng băng thông của Ring-Attention trên các kiến trúc phần cứng lai (cross-hardware như NUMA hoặc multi-node). Bằng cách tổ chức lại truyền thông theo nhiều cấp độ để tối đa hóa chồng lấp tính toán - truyền thông và tách biệt giao tiếp liên phần cứng khỏi nội bộ, CHARM+ đạt tốc độ vượt trội so với Ring-Attention: tăng tốc 1.3x-1.7x trên dual-NUMA PCIe và 2.8x-2.9x trên dual-node NVLink.

Nghiên cứu giới thiệu OC-OPD (Observation-coordinated On-Policy Distillation), một phương pháp chưng cất tri thức on-policy kết hợp đồng thời ưu điểm của reverse KL và forward KL. Bằng cách thiết lập ma trận bốn quan sát giữa học sinh và giáo viên cùng cơ chế thương lượng nghiệm đóng (closed-form bargaining) để phối hợp gradient dựa trên ma trận Fisher, OC-OPD tìm được hướng tối ưu chung giúp cải thiện mạnh mẽ khả năng suy luận toán học, hỏi đáp khoa học và sinh mã nguồn trên nhiều dạng mô hình học sinh khác nhau.