Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

IGG: A Benchmark for Interactive GUI Grounding under Visibility Constraints

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

62 RADAR
Research GUI Grounding Benchmarks · 1 nguồn đối chiếu · 2026-10-23 12:14:28 +0000 UTC

IGG: A Benchmark for Interactive GUI Grounding under Visibility Constraints

Nguồn: arXiv AI
↗

IGG là benchmark mới gồm 601 tác vụ trên 16 môi trường nhằm đánh giá khả năng tương tác của GUI agent để làm hiển thị mục tiêu bị che khuất hoặc nằm ngoài khung hình trước khi thao tác. Nghiên cứu chỉ ra nút thắt lớn nhất của các VLM mã nguồn mở hiện nay nằm ở việc thực hiện thao tác làm lộ mục tiêu (reveal interaction) thay vì khả năng nhận diện hình ảnh.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Xóa bỏ giả định phi thực tế của các benchmark GUI tĩnh trước đây, chỉ ra chính xác điểm nghẽn kỹ thuật của agent khi tương tác với giao diện động và mở đường cho việc cải thiện độ tin cậy của tự động hóa quy trình bằng AI.

Developer 74
Business 67
Novelty 82
Actionable 75

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

GUI grounding benchmarks ask whether an agent can localize a target that is already visible in a static screenshot. Real interfaces often violate this assumption: a target may be off-screen, appear only after a state change or hover, remain occluded, or become actionable after a delay. This leaves the ability to recover target visibility unevaluated. To measure this reveal step, we introduce Interactive GUI Grounding (IGG), a benchmark in which an agent must first make the target visible through interaction and then click it. IGG contains 601 tasks across 16 controllable GUI environments and seven visibility-constraint sub-types, with a compact action space of scrolling, moving, dragging, waiting, and clicking. In our human study, participants achieve 94.6% accuracy, while GPT-5.5 reaches 79.4% and the strongest evaluated open-source VLM reaches only 31.6%. To identify the source of this gap, we conduct two controlled interventions. Telling Qwen3-VL which interaction to perform raises its accuracy only from 30.8% to 33.9%, whereas performing the interaction for the model raises it to 81.9%. The bottleneck is executing the reveal interaction, not recognizing the target once it is exposed. We further show that this capability is learnable, demonstrating that visibility recovery can be strengthened consistently across model families.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-10-26 08:34:20 +0000 UTC
{"tags": ["IGG", "GUI Grounding", "VLM", "Computer Use", "Agent Benchmark", "Visibility Constraints"], "risks": ["Hiệu năng của VLM mã nguồn mở còn rất thấp (31.6%), tạo rào cản lớn về độ tin cậy nếu triển khai giải pháp tự lưu trữ (self-hosted).", "Agent có nguy cơ rơi vào vòng lặp thao tác vô tận (kéo, cuộn không kiểm soát) khi gặp giao diện phức tạp ngoài phân phối huấn luyện."], "category": "Research", "entities": ["IGG", "GPT-5.5", "Qwen3-VL"], "summary_vi": "IGG là benchmark mới gồm 601 tác vụ trên 16 môi trường nhằm đánh giá khả năng tương tác của GUI agent để làm hiển thị mục tiêu bị che khuất hoặc nằm ngoài khung hình trước khi thao tác. Nghiên cứu chỉ ra nút thắt lớn nhất của các VLM mã nguồn mở hiện nay nằm ở việc thực hiện thao tác làm lộ mục tiêu (reveal interaction) thay vì khả năng nhận diện hình ảnh.", "key_changes": ["Giới thiệu benchmark IGG (Interactive GUI Grounding) với 601 tác vụ trên 16 môi trường GUI và 7 phân loại ràng buộc hiển thị (visibility constraints).", "Không gian hành động tinh gọn bao gồm: cuộn (scrolling), di chuyển (moving), kéo (dragging), chờ (waiting) và click.", "Xác định khoảng cách năng lực lớn: con người đạt 94.6% độ chính xác, GPT-5.5 đạt 79.4%, trong khi VLM mã nguồn mở tốt nhất chỉ đạt 31.6%.", "Thực nghiệm can thiệp chỉ ra nút thắt cổ chai nằm ở thao tác tương tác để làm lộ mục tiêu (reveal step), không phải do khả năng nhận diện mục tiêu khi đã nhìn thấy.", "Chứng minh năng lực khôi phục hiển thị (visibility recovery) là có thể học được (learnable) trên nhiều họ mô hình."], "sub_category": "GUI Grounding Benchmarks", "novelty_score": 82, "business_score": 70, "research_score": 88, "why_it_matters": "Xóa bỏ giả định phi thực tế của các benchmark GUI tĩnh trước đây, chỉ ra chính xác điểm nghẽn kỹ thuật của agent khi tương tác với giao diện động và mở đường cho việc cải thiện độ tin cậy của tự động hóa quy trình bằng AI.", "developer_score": 80, "importance_score": 78, "possible_use_cases": ["Đánh giá và benchmark năng lực của các agent điều khiển máy tính (Computer-Using Agents / GUI Agents) trong môi trường thực tế.", "Huấn luyện và fine-tuning VLM phục vụ các hệ thống RPA tự động hóa thao tác phức tạp (xử lý menu ẩn, dropdown hover, cuộn trang).", "Tự động kiểm thử giao diện người dùng (automated UI testing) cho các ứng dụng web và desktop có trạng thái động."], "actionability_score": 75}
← Trang trước Trang 1