Paradee: Distilling Kokoro-82M into an 8M-Parameter Single-Voice Text-to-Speech Model

{"tags": ["Text-to-Speech", "TTS", "Model Distillation", "Kokoro-82M", "Paradee", "Quantization", "Int8", "On-Device AI", "Speech Synthesis"], "risks": ["Chỉ hỗ trợ một giọng nói duy nhất (single-voice), không giữ được sự đa dạng 54 giọng như Kokoro-82M.", "Chất lượng âm thanh có sự suy giảm nhẹ (UTMOS giảm từ 4.52 xuống 4.41) so với mô hình gốc.", "Bộ lọc phase-locking có thể không triệt tiêu hoàn toàn tạp âm pha trong mọi điều kiện âm học phức tạp.", "Khả năng biểu cảm ngữ điệu và phát âm từ ngữ hiếm/từ ngoại lai có thể bị hạn chế do kiến trúc bị thu hẹp đáng kể."], "category": "Models", "entities": ["Paradee", "Kokoro-82M", "UTMOS", "GitHub", "Sahil Mahendrakar"], "summary_vi": "Paradee là mô hình Text-to-Speech đơn giọng nói kích thước 8,07 triệu tham số, được chưng cất từ Kokoro-82M. Nhờ kiến trúc thu hẹp và quy trình huấn luyện tách biệt hai nửa trên kho dữ liệu trích xuất từ mô hình gốc, Paradee giảm 10 lần tham số và 15 lần tính toán mà không cần alignment learning hay joint training. Sau khi lượng tử hóa int8, mô hình chỉ nặng 8,5 MB, chạy nhanh gấp 25 lần thời gian thực trên một luồng CPU laptop và đạt điểm UTMOS 4.41 (so với 4.52 của Kokoro-82M). Tiếng rè ở dải tần 2-8 kHz được xử lý triệt để bằng bộ lọc phase-locking sau tổng hợp mà không cần thêm tham số hay huấn luyện bổ sung.", "key_changes": ["Chưng cất mô hình Kokoro-82M (82M tham số, 54 giọng) thành Paradee (8.07M tham số, đơn giọng), giảm 10 lần tham số và 15 lần chi phí tính toán.", "Quy trình huấn luyện tách rời hai phần độc lập: dùng mô hình gốc tổng hợp corpus lưu duration/pitch/energy/phoneme; sau đó huấn luyện riêng text side và decoder mà không cần alignment learning hay joint training.", "Toàn bộ quá trình huấn luyện có thể thực hiện trên một laptop thông thường.", "Lượng tử hóa int8 giúp mô hình đạt kích thước 8.5 MB và tốc độ suy luận nhanh hơn 25 lần thời gian thực (25x real-time) chỉ với một luồng CPU.", "Đạt điểm chất lượng âm thanh UTMOS 4.41 so với 4.52 của mô hình gốc.", "Áp dụng bộ lọc phase-locking sau tổng hợp để triệt tiêu hiện tượng rè (buzz) ở dải tần 2-8 kHz mà không phát sinh thêm tham số hay yêu cầu huấn luyện phụ."], "sub_category": "Text-to-Speech (TTS)", "novelty_score": 75, "business_score": 80, "research_score": 74, "why_it_matters": "Paradee chứng minh khả năng đưa các mô hình Text-to-Speech chất lượng cao xuống kích thước siêu nhỏ (8.5 MB int8) có thể vận hành mượt mà trên một luồng CPU thông thường mà không phụ thuộc vào GPU. Phương pháp chưng cất hai giai đoạn đơn giản cùng bộ lọc pha hậu xử lý mở ra giải pháp tối ưu cho AI giọng nói chạy trực tiếp trên thiết bị (on-device), giúp cắt giảm đáng kể chi phí hạ tầng đám mây và giảm độ trễ cho các ứng dụng giọng nói thời gian thực.", "developer_score": 85, "importance_score": 78, "possible_use_cases": ["Tích hợp bộ đọc giọng nói ngoại tuyến (offline TTS) cho ứng dụng di động, thiết bị IoT và vi điều khiển/phần cứng nhúng bị giới hạn dung lượng RAM/ROM (<10 MB).", "Xây dựng trợ lý ảo, voicebot thời gian thực chạy trực tiếp trên CPU máy chủ giá rẻ mà không cần đầu tư GPU chuyên dụng.", "Phát giọng nói tức thì trong các thiết bị gia dụng thông minh, đồ chơi tương tác hoặc hệ thống đọc sách nói/thông báo âm thanh.", "Tối ưu hóa chi phí hạ tầng máy chủ cho các dịch vụ quy mô lớn nhờ tốc độ xử lý 25x real-time trên 1 luồng CPU."], "actionability_score": 88}