Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

MERP: A Latent-Bottleneck Framework for Robust Multi-Modal Multi-Label Emotion Recognition

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

64 RADAR
Research Multimodal Emotion Recognition · 1 nguồn đối chiếu · 2026-10-21 08:54:49 +0000 UTC

MERP: A Latent-Bottleneck Framework for Robust Multi-Modal Multi-Label Emotion Recognition

Nguồn: arXiv AI
↗

Nghiên cứu giới thiệu MERP (Multi-modal Emotion Recognition Perceiver), khung kiến trúc latent-bottleneck giải quyết vấn đề sụt giảm hiệu năng khi thiếu hụt các luồng dữ liệu (text, visual, audio) trong nhận diện cảm xúc đa phương thức, đa nhãn. MERP ánh xạ chuỗi dữ liệu vào một latent bank kích thước cố định, trích xuất và căn chỉnh bằng chứng theo nhãn qua tái tạo, đồng thời tích hợp class prototype và bộ lọc nhiễu tần số. Mô hình đạt micro-F1 0.563 trên CMU-MOSEI và 0.780 trên M3ED khi mất ngẫu nhiên 20% modality, đặc biệt duy trì 0.473 micro-F1 trong điều kiện chỉ có audio (vượt trội so với 0.022 của baseline LDDU).

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Thu hẹp khoảng cách train-test trong thực tế triển khai hệ thống nhận diện cảm xúc, giúp mô hình duy trì khả năng suy luận bền bỉ ngay cả khi mất luồng dữ liệu hình ảnh hoặc văn bản mà không cần phải huấn luyện trước trên dữ liệu thiếu hụt.

Developer 71
Business 66
Novelty 75
Actionable 76

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

Multimodal multi-label emotion recognition is important for affect-aware systems, but models trained with complete text, visual, and acoustic streams often degrade sharply when some streams are unavailable at deployment. We address this train-test gap by learning a compact representation that preserves emotion-specific evidence from any available subset of modalities. We propose the Multi-modal Emotion Recognition Perceiver (MERP), which maps the joint sequence into a fixed-size latent bank, thereby keeping repeated reasoning independent of raw input length; it extracts label-specific evidence before and after latent reasoning and aligns the two levels through reconstruction. MERP further uses positive and negative class prototypes, a noise-gated feature enhancer with frequency-shaped perturbations during training, and confidence-aware class-wise fusion to strengthen separability, reduce sensitivity to missing inputs, and combine complementary predictors. Under 20 percent test-time random modality drop, MERP achieves micro-F1 scores of 0.563 on CMU-MOSEI and 0.780 on M3ED, exceeding the strongest evaluated baselines by 0.004 and 0.005, respectively; in the severe CMU-MOSEI audio-only setting, it retains 0.473 micro-F1 versus 0.022 for LDDU. These results show that fixed latent reasoning provides a practical, testable route to robust multimodal emotion recognition without requiring missing-modality examples during training. Code is available at https://github.com/Creative-zcx/MERP.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-10-22 09:12:23 +0000 UTC
{"tags": ["MERP", "Emotion Recognition", "Multimodal Learning", "Latent Bottleneck", "Missing Modality", "Affective Computing"], "risks": ["Điểm micro-F1 tổng thể trên benchmark CMU-MOSEI còn ở mức vừa phải (0.563) do độ phức tạp của bài toán multi-label emotion recognition.", "Chi phí tính toán cho latent reasoning và reconstruction có thể làm tăng độ trễ khi triển khai trên thiết bị biên hoặc hệ thống thời gian thực.", "Nguy cơ sai lệch nhận định cảm xúc do khác biệt ngữ cảnh văn hóa hoặc chất lượng tín hiệu thực tế khác xa dữ liệu benchmark."], "category": "Research", "entities": ["MERP", "Perceiver", "CMU-MOSEI", "M3ED", "LDDU", "GitHub"], "summary_vi": "Nghiên cứu giới thiệu MERP (Multi-modal Emotion Recognition Perceiver), khung kiến trúc latent-bottleneck giải quyết vấn đề sụt giảm hiệu năng khi thiếu hụt các luồng dữ liệu (text, visual, audio) trong nhận diện cảm xúc đa phương thức, đa nhãn. MERP ánh xạ chuỗi dữ liệu vào một latent bank kích thước cố định, trích xuất và căn chỉnh bằng chứng theo nhãn qua tái tạo, đồng thời tích hợp class prototype và bộ lọc nhiễu tần số. Mô hình đạt micro-F1 0.563 trên CMU-MOSEI và 0.780 trên M3ED khi mất ngẫu nhiên 20% modality, đặc biệt duy trì 0.473 micro-F1 trong điều kiện chỉ có audio (vượt trội so với 0.022 của baseline LDDU).", "key_changes": ["Đề xuất khung kiến trúc MERP ánh xạ chuỗi đa phương thức vào fixed-size latent bank, giúp quá trình suy luận độc lập với độ dài đầu vào.", "Trích xuất bằng chứng theo từng nhãn cảm xúc trước và sau latent reasoning, căn chỉnh hai cấp độ thông qua cơ chế tái tạo (reconstruction).", "Sử dụng class prototypes (positive/negative) và bộ tăng cường đặc trưng gating nhiễu (noise-gated feature enhancer) với nhiễu định hình theo tần số trong quá trình train.", "Áp dụng cơ chế hợp nhất từng lớp dựa trên độ tin cậy (confidence-aware class-wise fusion) mà không yêu cầu dữ liệu khuyết thiếu modality khi huấn luyện."], "sub_category": "Multimodal Emotion Recognition", "novelty_score": 75, "business_score": 68, "research_score": 82, "why_it_matters": "Thu hẹp khoảng cách train-test trong thực tế triển khai hệ thống nhận diện cảm xúc, giúp mô hình duy trì khả năng suy luận bền bỉ ngay cả khi mất luồng dữ liệu hình ảnh hoặc văn bản mà không cần phải huấn luyện trước trên dữ liệu thiếu hụt.", "developer_score": 75, "importance_score": 74, "possible_use_cases": ["Phân tích cảm xúc người dùng trong hội thoại video call hoặc livestream khi kết nối mạng kém gây gián đoạn hoặc mất luồng video/audio.", "Hệ thống chăm sóc khách hàng và tổng đài tự động nhận diện sắc thái cảm xúc khách hàng trong tình huống chỉ có âm thanh hoặc audio kết hợp transcript.", "Khai phá và phân loại cảm xúc đa nhãn từ nội dung video ngắn hoặc bài đăng đa phương tiện trên mạng xã hội."], "actionability_score": 76}