From Public Posts to AI-Search Citations: Measuring the Fragility of AI Search

{"tags": ["AI Search", "Information Retrieval", "Citations", "Fragility", "RAG", "arXiv"], "risks": ["Hệ thống AI Search trích dẫn thông tin sai lệch hoặc chưa được kiểm chứng từ các bài đăng công khai ngẫu nhiên.", "Nguy cơ tấn công đầu độc dữ liệu (data poisoning) hoặc thao túng kết quả tìm kiếm thông qua các bài đăng công cộng có chủ đích.", "Thiếu dữ liệu chi tiết về phương pháp đo lường và giải pháp khắc phục do bài viết mới ở dạng tóm tắt liên kết."], "category": "Research", "entities": ["arXiv", "Hacker News"], "summary_vi": "Nghiên cứu từ arXiv (2610.11932) đo lường tính mong manh (fragility) của hệ thống AI Search trong việc chọn lọc và trích dẫn thông tin từ các bài đăng công khai trên mạng xã hội và diễn đàn, cảnh báo nguy cơ sai lệch hoặc dễ bị thao túng của kết quả tìm kiếm AI.", "key_changes": ["Công bố nghiên cứu thực nghiệm đo lường tính mong manh (fragility) của các hệ thống AI Search khi trích dẫn nguồn từ bài đăng công khai.", "Chỉ ra nguy cơ AI Search bị chi phối hoặc trích dẫn thiếu chính xác từ các nội dung mạng xã hội/diễn đàn mở.", "Đặt vấn đề về tính cấp thiết của cơ chế kiểm định nguồn và phòng chống thao túng thông tin trong RAG/AI Search."], "sub_category": "AI Search & Information Retrieval", "novelty_score": 68, "business_score": 70, "research_score": 85, "why_it_matters": "Khi người dùng và doanh nghiệp chuyển đổi từ công cụ tìm kiếm truyền thống sang AI Search, việc đảm bảo nguồn trích dẫn vững chắc và không bị thao túng là bài toán cốt lõi. Nghiên cứu cung cấp góc nhìn thực nghiệm quan trọng giúp các nhà phát triển và doanh nghiệp củng cố độ tin cậy của hệ thống tìm kiếm thông minh.", "developer_score": 68, "importance_score": 74, "possible_use_cases": ["Xây dựng bộ kiểm thử (benchmark) đánh giá độ bền vững và khả năng chống thao túng nguồn cho các hệ thống AI Search và RAG.", "Thiết lập các bộ lọc xác thực nguồn tin thứ cấp trước khi đưa vào ngữ cảnh sinh câu trả lời của mô hình ngôn ngữ.", "Đánh giá rủi ro thương hiệu và nhận diện thông tin sai lệch từ các chiến thuật SEO/GEO tiêu cực."], "actionability_score": 52}