Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

CIBuzzBench: A Benchmark for Cross-Lingual Understanding of Chinese Internet Buzzwords

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

59 RADAR
Research NLP Benchmarks & Cross-Lingual AI Safety · 1 nguồn đối chiếu · 2026-09-18 12:57:10 +0000 UTC

CIBuzzBench: A Benchmark for Cross-Lingual Understanding of Chinese Internet Buzzwords

Nguồn: arXiv AI
↗

CIBuzzBench là bộ benchmark đầu tiên đánh giá năng lực hiểu xuyên ngôn ngữ Trung - Anh của các mô hình ngôn ngữ lớn (LLM) đối với từ ngữ thịnh hành trên mạng xã hội Trung Quốc (buzzwords). Bộ dữ liệu gồm 3.001 từ lóng được gán nhãn giải thích nghĩa tiếng Anh, từ tương đương tiếng Anh, danh mục chủ đề và mức độ độc hại. Đánh giá trên các LLM tiên tiến qua ba tác vụ cho thấy các mô hình vẫn gặp nhiều khó khăn trong việc hiểu nghĩa bóng, xử lý nhiễu khi ghép từ và phát hiện nội dung độc hại được ẩn giấu qua chơi chữ hay nói giảm nói tránh.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Nghiên cứu chỉ ra khoảng trống lớn trong khả năng chuyển giao tri thức văn hóa địa phương sang ngôn ngữ khác của LLM. Do từ ngữ mạng thường mang nghĩa bóng và dễ bị lợi dụng để che giấu nội dung xúc phạm thông qua từ đồng âm hay ẩn dụ, CIBuzzBench đặt ra thách thức thiết thực cho việc xây dựng các hệ thống kiểm duyệt và mô hình AI an toàn, nhạy bén với ngữ cảnh văn hóa thực tế.

Developer 63
Business 66
Novelty 78
Actionable 68

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

Chinese social media has generated a vast and continually evolving lexicon of internet buzzwords whose meanings are often non-literal and deeply rooted in local cultural and pragmatic contexts. Existing research has primarily focused on interpreting these buzzwords within Chinese, leaving largely unexplored whether LLMs can transfer such culturally grounded knowledge across languages and accurately convey the intended meanings in English. This cross-lingual capability is also critical for safety, as harmful expressions may obscure their offensive content through culture-specific homophony, euphemism, irony, or coded language. In this paper, we investigate the ability of advanced LLMs to understand Chinese internet buzzwords across languages. To this end, we introduce CIBuzzBench, the first benchmark for cross-lingual Chinese-to-English understanding of Chinese internet buzzwords. CIBuzzBench comprises 3,001 Chinese internet buzzwords annotated with English meaning explanations, English equivalents, category labels, and harmfulness labels. Based on these annotations, we design three evaluation tasks: Meaning Explanation, Cross-lingual Equivalent Matching, and Culturally Grounded Harmfulness Detection. We evaluate representative state-of-the-art proprietary and Chinese LLMs under both English- and Chinese-prompting settings. Our results show that LLMs continue to struggle with the cross-lingual understanding of Chinese internet buzzwords, particularly in fine-grained non-literal interpretation, robust equivalent matching under option perturbations, and calibrated harmfulness detection. These findings highlight the persistent challenges posed by culturally grounded language phenomena for multilingual LLMs and safety-oriented evaluation. The dataset and code are available at https://github.com/SuperYFan/CIBuzzBench.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-09-21 08:38:27 +0000 UTC
{"tags": ["CIBuzzBench", "LLM Benchmark", "Cross-Lingual Understanding", "Chinese Buzzwords", "AI Safety", "Content Moderation", "Multilingual NLP"], "risks": ["LLM bỏ sót các biểu thức độc hại, xúc phạm hoặc vi phạm an toàn khi chúng được mã hóa dưới dạng từ đồng âm, nói giảm nói tránh hoặc tiếng lóng văn hóa.", "Tốc độ thay đổi và sinh mới nhanh chóng của tiếng lóng mạng khiến các tập benchmark tĩnh có nguy cơ bị lỗi thời nếu không được cập nhật liên tục.", "Hiện tượng suy giảm độ chính xác và thiếu ổn định khi ghép từ tương đương dưới các tác động gây nhiễu lựa chọn (option perturbations)."], "category": "Research", "entities": ["CIBuzzBench", "GitHub", "LLMs"], "summary_vi": "CIBuzzBench là bộ benchmark đầu tiên đánh giá năng lực hiểu xuyên ngôn ngữ Trung - Anh của các mô hình ngôn ngữ lớn (LLM) đối với từ ngữ thịnh hành trên mạng xã hội Trung Quốc (buzzwords). Bộ dữ liệu gồm 3.001 từ lóng được gán nhãn giải thích nghĩa tiếng Anh, từ tương đương tiếng Anh, danh mục chủ đề và mức độ độc hại. Đánh giá trên các LLM tiên tiến qua ba tác vụ cho thấy các mô hình vẫn gặp nhiều khó khăn trong việc hiểu nghĩa bóng, xử lý nhiễu khi ghép từ và phát hiện nội dung độc hại được ẩn giấu qua chơi chữ hay nói giảm nói tránh.", "key_changes": ["Giới thiệu CIBuzzBench: benchmark đầu tiên đánh giá khả năng hiểu xuyên ngôn ngữ Trung - Anh đối với từ lóng mạng (buzzwords) Trung Quốc.", "Cung cấp tập dữ liệu 3.001 từ lóng mạng tiếng Trung được gán nhãn giải nghĩa tiếng Anh, từ tương đương tiếng Anh, phân loại chủ đề và mức độ độc hại.", "Xây dựng ba tác vụ đánh giá chuẩn hóa: Giải thích ý nghĩa (Meaning Explanation), Ghép từ tương đương xuyên ngôn ngữ (Cross-lingual Equivalent Matching), và Phát hiện độc hại theo ngữ cảnh văn hóa (Culturally Grounded Harmfulness Detection).", "Thực nghiệm trên các mô hình LLM hàng đầu (cả độc quyền và nguồn gốc Trung Quốc) dưới cả prompt tiếng Anh và tiếng Trung, chỉ ra hạn chế lớn trong việc hiểu nghĩa bóng và phát hiện nội dung độc hại ẩn.", "Công khai mã nguồn và tập dữ liệu tại repository GitHub SuperYFan/CIBuzzBench."], "sub_category": "NLP Benchmarks & Cross-Lingual AI Safety", "novelty_score": 78, "business_score": 70, "research_score": 85, "why_it_matters": "Nghiên cứu chỉ ra khoảng trống lớn trong khả năng chuyển giao tri thức văn hóa địa phương sang ngôn ngữ khác của LLM. Do từ ngữ mạng thường mang nghĩa bóng và dễ bị lợi dụng để che giấu nội dung xúc phạm thông qua từ đồng âm hay ẩn dụ, CIBuzzBench đặt ra thách thức thiết thực cho việc xây dựng các hệ thống kiểm duyệt và mô hình AI an toàn, nhạy bén với ngữ cảnh văn hóa thực tế.", "developer_score": 65, "importance_score": 72, "possible_use_cases": ["Tích hợp vào quy trình đánh giá an toàn (Safety Benchmarking) và căn chỉnh (Alignment) cho các mô hình LLM đa ngôn ngữ nhằm phát hiện nội dung độc hại ẩn giấu.", "Kiểm duyệt nội dung tự động trên các nền tảng mạng xã hội đa quốc gia có người dùng sử dụng tiếng lóng mạng tiếng Trung.", "Cải thiện chất lượng hệ thống dịch máy và trợ lý ảo khi xử lý các cách diễn đạt phi ngữ nghĩa đen, chơi chữ đồng âm hoặc tiếng lóng văn hóa.", "Nghiên cứu thị trường và phân tích tình cảm xã hội từ dữ liệu mạng xã hội Trung Quốc (như Weibo, Xiaohongshu, Douyin) sang tiếng Anh."], "actionability_score": 68}
← Trang trước Trang 1