Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

MoI-Bench: A Benchmark for Image Generation and Editing on Mobile Devices

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

64 RADAR
Research Mobile AI Benchmarking · 1 nguồn đối chiếu · 2026-10-27 17:31:40 +0000 UTC

MoI-Bench: A Benchmark for Image Generation and Editing on Mobile Devices

Nguồn: arXiv AI
↗

MoI-Bench là bộ benchmark đánh giá khả năng tạo và chỉnh sửa ảnh trên thiết bị di động, gồm 64 tác vụ phụ và 1.150 mẫu dựa trên nhu cầu thực tế của người dùng di động. Bộ tiêu chuẩn kết hợp hai trục trực giao: 16 thao tác xử lý và 8 danh mục đối tượng thị giác, đi kèm khung đánh giá MoI-Eval và bản đồ năng lực hai chiều 'Chất lượng - Khả năng triển khai'. Kết quả chỉ ra các mô hình on-device hiện nay đạt hiệu quả triển khai tốt nhưng cần tập trung mở rộng phạm vi tác vụ và nâng cao chất lượng chỉnh sửa, nhất là khả năng giữ nguyên danh tính đối tượng và kết xuất văn bản.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Triển khai mô hình AI tạo sinh ảnh trên thiết bị di động gặp thách thức lớn về cân đối giữa tài nguyên giới hạn và chất lượng đầu ra. Các benchmark truyền thống chỉ đưa ra một điểm số tổng hợp, thiếu hướng dẫn cụ thể để cải thiện mô hình nhỏ gọn. MoI-Bench giải quyết vấn đề này bằng thiết kế phân rã Thao tác x Đối tượng và bản đồ Chất lượng - Triển khai, giúp kỹ sư phát hiện chính xác lỗ hổng năng lực (như render chữ hay giữ chân dung) để ưu tiên tối ưu hóa thay vì chỉ tập trung vào tốc độ suy luận.

Developer 73
Business 68
Novelty 75
Actionable 72

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

Developing on-device image models requires considering practical user needs, task types and device resource constraints. However, existing benchmarks provide limited guidance on identifying capability gaps between on-device models and server-side models. We introduce MoI-Bench, a benchmark grounded in mobile user needs, comprising 64 subtasks and 1150 samples. It defines 16 operations, such as removal and replacement, and eight visual target categories covering content such as portraits and text. These form two orthogonal axes whose applicable combinations define specific tasks, such as removing facial makeup. To better guide model improvement, we further propose MoI-Eval, which introduces task-specific criteria covering instruction following, visual quality and detail preservation. We further construct sample-level evaluation questions and aggregate their scores into overall quality and capability profiles along the operation, target and criteria axes. We evaluate representative on-device and server-side models and measure mobile deployment costs. Results show that this decoupled Operation x Target design provides finer-grained guidance for improving compact models. For example, it highlights the need to prioritize specific capability gaps (e.g., text-replacement) over broad application-level goals (e.g., improving text editing). Unlike conventional benchmarks that rank models using a single score, we introduce a two-dimensional Quality-Deployability capability map to assess models for practical mobile use. The map shows that current on-device models can achieve efficient generation or editing but expanding their task coverage deserves greater attention than further improving deployment efficiency. Further progress requires improving editing quality, particularly identity preservation and text rendering, while broadening task coverage.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-10-28 09:52:42 +0000 UTC
{"tags": ["MoI-Bench", "MoI-Eval", "On-Device AI", "Image Generation", "Image Editing", "Mobile Benchmark", "Computer Vision", "Model Evaluation"], "risks": ["Tập dữ liệu 1.150 mẫu có thể chưa bao phủ hết các tình huống biên phức tạp và đa dạng văn hóa của người dùng toàn cầu.", "Các câu hỏi đánh giá cấp mẫu để tổng hợp điểm chất lượng có thể tồn tại sai lệch so với đánh giá định tính thực tế của người dùng.", "Nguy cơ mô hình bị tối ưu hóa cục bộ theo tiêu chí của benchmark mà giảm độ ổn định ở các trường hợp sử dụng tự do khác."], "category": "Research", "entities": ["MoI-Bench", "MoI-Eval"], "summary_vi": "MoI-Bench là bộ benchmark đánh giá khả năng tạo và chỉnh sửa ảnh trên thiết bị di động, gồm 64 tác vụ phụ và 1.150 mẫu dựa trên nhu cầu thực tế của người dùng di động. Bộ tiêu chuẩn kết hợp hai trục trực giao: 16 thao tác xử lý và 8 danh mục đối tượng thị giác, đi kèm khung đánh giá MoI-Eval và bản đồ năng lực hai chiều 'Chất lượng - Khả năng triển khai'. Kết quả chỉ ra các mô hình on-device hiện nay đạt hiệu quả triển khai tốt nhưng cần tập trung mở rộng phạm vi tác vụ và nâng cao chất lượng chỉnh sửa, nhất là khả năng giữ nguyên danh tính đối tượng và kết xuất văn bản.", "key_changes": ["Đề xuất MoI-Bench gồm 64 tác vụ phụ và 1.150 mẫu, cấu trúc theo hai trục trực giao: 16 thao tác (Operation) và 8 danh mục đối tượng thị giác (Target).", "Giới thiệu khung đánh giá MoI-Eval với các tiêu chí chi tiết gồm tuân thủ chỉ dẫn, chất lượng hình ảnh và bảo toàn chi tiết ở cấp độ mẫu.", "Thay thế xếp hạng điểm số đơn thuần bằng bản đồ năng lực hai chiều Chất lượng - Khả năng triển khai (Quality-Deployability map).", "Chỉ ra khoảng cách năng lực cụ thể của các mô hình on-device: chi phí triển khai đã tối ưu nhưng cần ưu tiên mở rộng độ bao phủ tác vụ, đặc biệt là bảo toàn danh tính và dựng chữ (text rendering)."], "sub_category": "Mobile AI Benchmarking", "novelty_score": 75, "business_score": 70, "research_score": 79, "why_it_matters": "Triển khai mô hình AI tạo sinh ảnh trên thiết bị di động gặp thách thức lớn về cân đối giữa tài nguyên giới hạn và chất lượng đầu ra. Các benchmark truyền thống chỉ đưa ra một điểm số tổng hợp, thiếu hướng dẫn cụ thể để cải thiện mô hình nhỏ gọn. MoI-Bench giải quyết vấn đề này bằng thiết kế phân rã Thao tác x Đối tượng và bản đồ Chất lượng - Triển khai, giúp kỹ sư phát hiện chính xác lỗ hổng năng lực (như render chữ hay giữ chân dung) để ưu tiên tối ưu hóa thay vì chỉ tập trung vào tốc độ suy luận.", "developer_score": 78, "importance_score": 74, "possible_use_cases": ["Đo kiểm và tinh chỉnh các mô hình sinh hoặc chỉnh sửa ảnh cục bộ (on-device) trên smartphone trước khi phát hành.", "Xác định chính xác khiếm khuyết tính năng (như thay thế văn bản, chỉnh sửa chân dung) để tập trung nguồn lực fine-tune mô hình nhỏ thay vì tối ưu dàn trải.", "Thiết kế kiến trúc Hybrid AI: xác định tác vụ nào mô hình on-device đáp ứng tốt và tác vụ nào cần đẩy lên server xử lý.", "Đánh giá cân đối giữa chất lượng thị giác và chi phí tài nguyên phần cứng (RAM, pin, độ trễ) cho các nhà sản xuất thiết bị và ứng dụng di động."], "actionability_score": 72}
← Trang trước Trang 1