Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

MMEnterprise-Bench: Evaluating Enterprise Agents over Evolving Multimodal Records

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

66 RADAR
Agents Enterprise Agents Evaluation · 1 nguồn đối chiếu · 2026-10-20 09:25:35 +0000 UTC

MMEnterprise-Bench: Evaluating Enterprise Agents over Evolving Multimodal Records

Nguồn: arXiv AI
↗

MMEnterprise-Bench là bộ benchmark gồm 1.613 câu hỏi nhằm đánh giá năng lực của AI agent doanh nghiệp khi xử lý dữ liệu cộng tác đa phương thức biến đổi theo thời gian. Đánh giá 10 mô hình multimodal LLM cho thấy ngay cả các mô hình mạnh nhất vẫn chật vật trước xung đột đa nguồn/thời gian và suy luận đa ảnh; đồng thời việc tăng cường retrieval chỉ cải thiện độ phủ bằng chứng chứ không nhất quán nâng cao độ chính xác câu trả lời.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Dữ liệu doanh nghiệp luôn biến động và chứa nhiều xung đột phiên bản qua chat, tài liệu và hình ảnh. Nghiên cứu chứng minh các LLM đa phương thức hiện tại vẫn chưa thể xử lý xung đột thời gian một cách đáng tin cậy, đồng thời khẳng định việc tối ưu hóa retrieval đơn thuần là chưa đủ để xây dựng các agent doanh nghiệp chính xác.

Developer 76
Business 75
Novelty 78
Actionable 75

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

Enterprise agents answer questions over workplace records that evolve through team collaboration. As information is shared, corrected, and revised across documents, chats, and figures, multiple versions of the same information accumulate in the workspace. Reliable question answering therefore requires agents to reason over sufficient evidence, resolve cross-source and temporal conflicts, and recognize when the available evidence is insufficient to establish an answer. To systematically evaluate these capabilities, we introduce MMEnterprise-Bench, a benchmark comprising 1,613 questions grounded in evolving multimodal records from simulated collaboration projects, covering three categories: Evidence Reasoning, Conflict Resolution, and Unanswerability. We evaluate 10 proprietary and open-source multimodal LLMs and find that even the strongest models struggle when evidence contains cross-source or temporal conflicts or spans multiple images. Moreover, increasing the retrieval budget or employing a larger retriever improves evidence recall but does not consistently translate into higher answer accuracy. These findings highlight the persistent challenges of reasoning over evolving workplace records and establish MMEnterprise-Bench as a testbed for developing more reliable enterprise agents. Code and data are available at https://mlvlab.github.io/MMEnterprise-Bench/.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-10-21 08:55:44 +0000 UTC
{"tags": ["MMEnterprise-Bench", "Enterprise Agents", "Multimodal LLMs", "Conflict Resolution", "RAG", "Benchmark", "Workplace Collaboration"], "risks": ["Rủi ro trả lời sai hoặc dùng dữ liệu cũ do mô hình không phân biệt được các phiên bản tài liệu đã sửa đổi hoặc xung đột thời gian trong chuỗi trao đổi.", "Đầu tư lãng phí vào mở rộng retrieval budget/retriever size mà không giải quyết được nút thắt suy luận logic và lọc bằng chứng.", "Chi phí tính toán và độ trễ cao khi mở rộng xử lý ngữ cảnh đa tài liệu và đa hình ảnh trong môi trường cộng tác."], "category": "Agents", "entities": ["MMEnterprise-Bench", "MLV Lab"], "summary_vi": "MMEnterprise-Bench là bộ benchmark gồm 1.613 câu hỏi nhằm đánh giá năng lực của AI agent doanh nghiệp khi xử lý dữ liệu cộng tác đa phương thức biến đổi theo thời gian. Đánh giá 10 mô hình multimodal LLM cho thấy ngay cả các mô hình mạnh nhất vẫn chật vật trước xung đột đa nguồn/thời gian và suy luận đa ảnh; đồng thời việc tăng cường retrieval chỉ cải thiện độ phủ bằng chứng chứ không nhất quán nâng cao độ chính xác câu trả lời.", "key_changes": ["Công bố bộ benchmark MMEnterprise-Bench gồm 1.613 câu hỏi dựa trên các dự án cộng tác mô phỏng với dữ liệu đa phương thức liên tục cập nhật và thay đổi.", "Thiết kế kiểm thử qua 3 nhóm năng lực cốt lõi: Suy luận bằng chứng (Evidence Reasoning), Giải quyết xung đột đa nguồn và thời gian (Conflict Resolution), và Nhận diện dữ liệu không đủ để trả lời (Unanswerability).", "Thử nghiệm trên 10 mô hình multimodal LLM (cả độc quyền và mã nguồn mở), phát hiện các mô hình hàng đầu vẫn gặp khó khăn lớn trước các xung đột thông tin và dữ liệu trải dài qua nhiều hình ảnh.", "Chỉ ra rằng tăng ngân sách retrieval hoặc dùng retriever lớn hơn chỉ cải thiện tỷ lệ thu hồi bằng chứng (recall) nhưng không đồng nghĩa với tăng độ chính xác câu trả lời.", "Cung cấp công khai mã nguồn và tập dữ liệu phục vụ nghiên cứu và phát triển agent doanh nghiệp."], "sub_category": "Enterprise Agents Evaluation", "novelty_score": 78, "business_score": 80, "research_score": 85, "why_it_matters": "Dữ liệu doanh nghiệp luôn biến động và chứa nhiều xung đột phiên bản qua chat, tài liệu và hình ảnh. Nghiên cứu chứng minh các LLM đa phương thức hiện tại vẫn chưa thể xử lý xung đột thời gian một cách đáng tin cậy, đồng thời khẳng định việc tối ưu hóa retrieval đơn thuần là chưa đủ để xây dựng các agent doanh nghiệp chính xác.", "developer_score": 82, "importance_score": 80, "possible_use_cases": ["Đánh giá và kiểm thử benchmark chất lượng các AI Agent / Trợ lý tri thức nội bộ doanh nghiệp trước khi triển khai thực tế.", "Thiết kế cơ chế giải quyết xung đột phiên bản thông tin (conflict resolution) cho pipeline RAG đa phương thức tích hợp Slack, Notion, Google Docs.", "Cải thiện khả năng từ chối trả lời (unanswerability detection) để ngăn ngừa hallucination khi tài liệu nội bộ thiếu bằng chứng xác thực."], "actionability_score": 75}
← Trang trước Trang 1