Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

Mind The Gap (MTG-AD): Dataset and Fine-grained Evaluation for End-to-End Inline Audio Descriptions

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

65 RADAR
Research Multimodal Evaluation & Accessibility · 1 nguồn đối chiếu · 2026-10-29 12:51:38 +0000 UTC

Mind The Gap (MTG-AD): Dataset and Fine-grained Evaluation for End-to-End Inline Audio Descriptions

Nguồn: arXiv AI
↗

Google giới thiệu MTG-AD và MTG-AD-Eval nhằm giải quyết bài toán mô tả âm thanh nội dòng (inline audio descriptions) cho video UGC phục vụ người khiếm thị. Bộ dữ liệu gồm 36 giờ video với hơn 8.000 mô tả chuẩn chuyên gia, đi kèm khung đánh giá end-to-end tự động kết xuất audio để đo độ khớp với khoảng lặng tự nhiên. Kết quả cho thấy frontier MLLM mô tả hình ảnh chính xác và hạn chế chèn tiếng nói tốt, dù nhịp độ dẫn chuyện vẫn cần cải thiện.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Sản xuất mô tả âm thanh thủ công rất tốn kém và bất khả thi đối với quy mô video UGC khổng lồ. MTG-AD và MTG-AD-Eval cung cấp bộ benchmark và phương pháp đo lường end-to-end chuẩn hóa đầu tiên, mở đường cho việc ứng dụng MLLM tự động hóa tính năng trợ năng một cách chính xác mà không làm gián đoạn âm thanh gốc.

Developer 74
Business 70
Novelty 80
Actionable 75

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

Audio descriptions (AD) are essential for making visual media accessible to blind and low-vision (BLV) users. While Multimodal Large Language Models (MLLMs) offer a scalable solution for generating audio descriptions on-demand, their performance on ``inline'' audio descriptions -- which must fit within existing silences in a video -- remains under-explored, particularly for diverse user-generated content (UGC). We present a comprehensive investigation into MLLM-generated inline audio descriptions. First, we introduce MTG-AD, a professionally annotated dataset of 36 hours of videos, each averaging $\sim$5 mins. and 8k+ descriptions in total, co-created by paired blind and sighted AD professionals to provide a high-quality benchmark for this task. Second, we propose MTG-AD-Eval, an evaluation framework based on audio description expert guidelines that provides fine-grained, reference-free actionable metrics for model improvement. Crucially, our framework evaluates the end-to-end task: it renders the generated scripts into audio tracks to assess their fit within the original video's natural silences, minimizing disruptive overlaps. Our analysis across frontier MLLMs reveals that while models accurately describe visual events and substantially reduce speech overlaps, gaps persist in narrative pacing and flow. Finally, we empirically validate that our automated and reference-free metrics correlate significantly with human quality ratings from sighted raters and 7 BLV participants, finding that while users narrowly prefer human-authored audio descriptions, they find MLLM-generated audio descriptions highly beneficial for comprehension. We provide actionable system design guidance and release MTG-AD at https://hf.co/datasets/google/mind-the-gap-inline-ad and MTG-AD-Eval at https://github.com/google/mtg-ad.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-10-30 13:03:31 +0000 UTC
{"tags": ["MTG-AD", "Audio Description", "MLLM", "Accessibility", "Video Understanding", "Multimodal Evaluation", "Google Research"], "risks": ["Nguy cơ ảo giác (hallucination) trong mô tả chi tiết thị giác có thể gây hiểu sai ngữ cảnh cho người dùng khiếm thị.", "Nhịp điệu và cảm xúc dẫn chuyện của AI chưa đạt được độ tự nhiên như chuyên gia con người.", "Tập mẫu người dùng BLV thử nghiệm trực tiếp còn hạn chế (7 người)."], "category": "Research", "entities": ["Google", "Hugging Face", "MTG-AD", "MTG-AD-Eval"], "summary_vi": "Google giới thiệu MTG-AD và MTG-AD-Eval nhằm giải quyết bài toán mô tả âm thanh nội dòng (inline audio descriptions) cho video UGC phục vụ người khiếm thị. Bộ dữ liệu gồm 36 giờ video với hơn 8.000 mô tả chuẩn chuyên gia, đi kèm khung đánh giá end-to-end tự động kết xuất audio để đo độ khớp với khoảng lặng tự nhiên. Kết quả cho thấy frontier MLLM mô tả hình ảnh chính xác và hạn chế chèn tiếng nói tốt, dù nhịp độ dẫn chuyện vẫn cần cải thiện.", "key_changes": ["Công bố bộ dữ liệu MTG-AD gồm 36 giờ video UGC (~5 phút/video) với hơn 8.000 mô tả âm thanh do chuyên gia khiếm thị và sáng mắt đồng xây dựng.", "Phát triển khung đánh giá MTG-AD-Eval không cần bản mẫu tham chiếu (reference-free), kết xuất trực tiếp ra audio track để đo độ khớp với khoảng lặng và giảm thiểu nói đè (speech overlap).", "Phân tích các frontier MLLM cho thấy mô hình mô tả chính xác sự kiện thị giác và né trùng lặp âm thanh tốt, nhưng còn yếu về nhịp độ và dòng chảy dẫn chuyện (narrative pacing and flow).", "Kiểm chứng thực nghiệm metric tự động có độ tương quan cao với đánh giá người dùng thực tế (gồm cả người sáng mắt và 7 người khiếm thị/thị lực kém)."], "sub_category": "Multimodal Evaluation & Accessibility", "novelty_score": 80, "business_score": 72, "research_score": 85, "why_it_matters": "Sản xuất mô tả âm thanh thủ công rất tốn kém và bất khả thi đối với quy mô video UGC khổng lồ. MTG-AD và MTG-AD-Eval cung cấp bộ benchmark và phương pháp đo lường end-to-end chuẩn hóa đầu tiên, mở đường cho việc ứng dụng MLLM tự động hóa tính năng trợ năng một cách chính xác mà không làm gián đoạn âm thanh gốc.", "developer_score": 78, "importance_score": 78, "possible_use_cases": ["Tự động tạo âm thanh thuyết minh trợ năng (inline AD) cho các nền tảng video UGC như YouTube, TikTok.", "Đánh giá và tối ưu hóa các pipeline MLLM đa phương thức có ràng buộc thời gian (temporal-constrained video-to-speech).", "Kiểm thử tự động chất lượng thuyết minh âm thanh trong khâu hậu kỳ nội dung video."], "actionability_score": 75}
← Trang trước Trang 1