Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

Listen Before You Speak: Response Planning from Listener Facial Reactions for Conversational Speech Generation

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

59 RADAR
Research Multimodal Text-to-Speech · 1 nguồn đối chiếu · 2026-09-18 12:18:16 +0000 UTC

Listen Before You Speak: Response Planning from Listener Facial Reactions for Conversational Speech Generation

Nguồn: arXiv AI
↗

ReACT-TTS là khuôn khổ hai giai đoạn sử dụng chuỗi biểu cảm khuôn mặt dài 1 giây của người nghe ngay trước phản hồi để lập kế hoạch cảm xúc và ngữ điệu (prosody), sau đó kết nối với backbone Grad-TTS nhằm tổng hợp giọng nói đàm thoại end-to-end. Thử nghiệm trên giao thức MELD cho thấy mô hình temporal đạt macro-F1 và độ tương đồng VAD vượt trội so với chỉ dùng văn bản (text-only), đồng thời được 76% chuyên gia ưu tiên lựa chọn trong thử nghiệm đánh giá ngữ cảnh.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Trong hội thoại thực tế, con người liên tục quan sát phản ứng tức thì của đối phương để điều chỉnh cách nói. Các mô hình đàm thoại TTS truyền thống phụ thuộc hoàn toàn vào văn bản (Text-only) nên thiếu tính thích ứng và thấu cảm. ReACT-TTS chứng minh động lực biểu cảm khuôn mặt ngay trước khi nói là nguồn bổ trợ giá trị, mở đường cho các tác tử hội thoại đa phương thức tự nhiên và sống động hơn.

Developer 65
Business 63
Novelty 78
Actionable 70

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

Conversational speech depends on dialogue context and the listener's immediately preceding behavior. We propose ReACT-TTS, a two-stage framework that uses a one-second pre-response listener facial sequence to plan the next utterance's emotion and prosody before speech realization. On a strict dyadic MELD protocol, Temporal conditioning yields higher mean macro-F1 and VAD concordance than Text-only across ten seeds, while accuracy remains essentially unchanged. Ablations show that temporal modeling performs best among the visual variants and that an explicit early-to-late difference is unnecessary; correct listener reactions also outperform cyclic mismatches on average. In a contextual-appropriateness study with 20 speech researchers, 76% of judgments prefer Temporal, 9% Text-only, and 15% report no preference. We further connect the predicted response style to a Grad-TTS backbone for end-to-end speech realization. Overall, the results support pre-response listener dynamics as complementary cues for conversational response planning. The source code is available at https://github.com/CYJ1/ReACT-TTS_public.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-09-21 08:39:28 +0000 UTC
{"tags": ["ReACT-TTS", "Text-to-Speech", "Conversational AI", "Multimodal", "Grad-TTS", "Facial Reactions", "Prosody Planning"], "risks": ["Yêu cầu xử lý luồng video khuôn mặt và lập kế hoạch ngữ điệu có thể tạo thêm độ trễ (latency) cho hệ thống đàm thoại thời gian thực.", "Nhận diện sai biểu cảm do ánh sáng yếu, che khuất hoặc góc máy có thể dẫn đến việc phản hồi bằng giọng điệu không đúng ngữ cảnh.", "Quan ngại về bảo mật và quyền riêng tư khi liên tục thu thập, phân tích hình ảnh khuôn mặt người nghe.", "Độ chính xác phân loại tổng thể (accuracy) hầu như không đổi so với baseline, chỉ cải thiện ở F1 và VAD."], "category": "Research", "entities": ["ReACT-TTS", "Grad-TTS", "MELD", "GitHub"], "summary_vi": "ReACT-TTS là khuôn khổ hai giai đoạn sử dụng chuỗi biểu cảm khuôn mặt dài 1 giây của người nghe ngay trước phản hồi để lập kế hoạch cảm xúc và ngữ điệu (prosody), sau đó kết nối với backbone Grad-TTS nhằm tổng hợp giọng nói đàm thoại end-to-end. Thử nghiệm trên giao thức MELD cho thấy mô hình temporal đạt macro-F1 và độ tương đồng VAD vượt trội so với chỉ dùng văn bản (text-only), đồng thời được 76% chuyên gia ưu tiên lựa chọn trong thử nghiệm đánh giá ngữ cảnh.", "key_changes": ["Đề xuất ReACT-TTS: khuôn khổ hai giai đoạn dùng video biểu cảm khuôn mặt 1 giây của người nghe trước phản hồi để dự đoán phong cách cảm xúc và ngữ điệu.", "Tích hợp dự đoán phong cách vào mô hình Grad-TTS để tổng hợp giọng nói hội thoại hoàn chỉnh (end-to-end).", "Thực nghiệm trên giao thức dyadic MELD nghiêm ngặt cho thấy điều hòa theo thời gian (Temporal conditioning) đạt macro-F1 và độ tương đồng VAD cao hơn Text-only qua 10 seed.", "Thử nghiệm tương thích ngữ cảnh với 20 nhà nghiên cứu tiếng nói ghi nhận 76% ý kiến ưu tiên mô hình Temporal so với 9% Text-only và 15% trung lập.", "Công bố mã nguồn mở công khai tại GitHub (CYJ1/ReACT-TTS_public)."], "sub_category": "Multimodal Text-to-Speech", "novelty_score": 78, "business_score": 65, "research_score": 82, "why_it_matters": "Trong hội thoại thực tế, con người liên tục quan sát phản ứng tức thì của đối phương để điều chỉnh cách nói. Các mô hình đàm thoại TTS truyền thống phụ thuộc hoàn toàn vào văn bản (Text-only) nên thiếu tính thích ứng và thấu cảm. ReACT-TTS chứng minh động lực biểu cảm khuôn mặt ngay trước khi nói là nguồn bổ trợ giá trị, mở đường cho các tác tử hội thoại đa phương thức tự nhiên và sống động hơn.", "developer_score": 68, "importance_score": 72, "possible_use_cases": ["Trợ lý ảo và Digital Humans/Avatar điều chỉnh giọng điệu và sắc thái theo biểu cảm khuôn mặt người dùng qua camera thời gian thực.", "Nhân vật NPC trong game phản hồi giọng nói tự nhiên dựa trên phản ứng thị giác của người chơi qua webcam.", "Hệ thống tư vấn trực tuyến, chăm sóc khách hàng và hỗ trợ tâm lý qua video call yêu cầu giọng nói có tính đồng cảm.", "Giao tiếp người - robot (HRI) với khả năng nhận diện phản ứng phi ngôn ngữ trước khi cất lời."], "actionability_score": 70}