Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

RubricWorld: World Model-Guided Rubric Optimization for LLM Graders

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

62 RADAR
Research LLM-as-a-Judge & Prompt Optimization · 1 nguồn đối chiếu · 2026-11-01 15:22:37 +0000 UTC

RubricWorld: World Model-Guided Rubric Optimization for LLM Graders

Nguồn: arXiv AI
↗

RubricWorld là khung tối ưu hóa rubric (tiêu chí chấm điểm) có sự dẫn dắt của mô hình thế giới (world model) dành cho các LLM chấm điểm bị đóng băng tham số. Thay vì chỉ dựa vào hiệu năng tổng thể trên tập kiểm định khiến tốn kém chi phí tính toán và mất dấu chi tiết lỗi, RubricWorld học từ các lần chỉnh sửa trước để dự đoán tỷ lệ sửa lỗi và suy thoái tại ranh giới điểm số. Phương pháp này giúp gpt-5-mini tăng độ chính xác từ 18,20% lên 46,70% trên ASAP2.0, vượt trội 22,60% so với phương pháp cơ sở APO.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Việc tối ưu hóa prompt/rubric cho LLM-as-a-Judge thường vấp phải rào cản chi phí tính toán khổng lồ khi phải chấm lại toàn bộ dữ liệu kiểm định sau mỗi lần chỉnh sửa. RubricWorld giải quyết triệt để nút thắt này bằng cách dự đoán trước tác động chỉnh sửa, giúp tiết kiệm chi phí suy luận và cải thiện độ chính xác của mô hình chấm điểm lên mức vượt bậc.

Developer 68
Business 67
Novelty 80
Actionable 65

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

Rubric optimization improves LLM grading by revising scoring instructions while keeping the grader's parameters fixed. Existing optimizers often judge edits by aggregate validation performance, limiting the supervision they retain about which errors an edit corrects or introduces. Testing each candidate also requires rescoring validation answers, which limits how many edits can be explored within a fixed budget. We propose RubricWorld, a framework that learns from previous edit evaluations to guide further search. Its world model predicts an edit's correction and degradation rates at score boundaries, conditioned on the current rubric state. The training signal comes from paired grading results: scores for the same answers before and after an edit. Predictions select one candidate for direct evaluation, and held-out confidence bounds determine whether it corrects enough target errors while keeping new errors within prespecified limits. Measured effects update the model even when the edit is rejected. Across EIR (National), ASAP2.0, and ASAP-SAS with three frozen LLM graders, RubricWorld achieves the highest score in 20 of 27 metric comparisons. On ASAP2.0, it raises gpt-5-mini accuracy from 18.20% with the original rubric to 46.70%, exceeding the strongest baseline, APO, by 22.60 percentage points. code will be released upon acceptance.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-11-03 11:30:20 +0000 UTC
{"tags": ["LLM-as-a-Judge", "Rubric Optimization", "World Model", "Prompt Engineering", "AI Evaluation", "Automated Grading"], "risks": ["Mã nguồn chưa mở công khai (dự kiến phát hành khi bài báo được chấp nhận), gây khó khăn cho việc kiểm chứng độc lập ngay lập tức.", "Dự đoán của world model có thể gặp sai số nếu phân phối câu trả lời trong tập kiểm định thay đổi đột ngột hoặc quá phức tạp.", "Hiệu quả thực tế vẫn chịu ảnh hưởng bởi năng lực suy luận và mức độ tuân thủ chỉ dẫn của LLM chấm điểm được sử dụng."], "category": "Research", "entities": ["RubricWorld", "gpt-5-mini", "APO", "EIR (National)", "ASAP2.0", "ASAP-SAS"], "summary_vi": "RubricWorld là khung tối ưu hóa rubric (tiêu chí chấm điểm) có sự dẫn dắt của mô hình thế giới (world model) dành cho các LLM chấm điểm bị đóng băng tham số. Thay vì chỉ dựa vào hiệu năng tổng thể trên tập kiểm định khiến tốn kém chi phí tính toán và mất dấu chi tiết lỗi, RubricWorld học từ các lần chỉnh sửa trước để dự đoán tỷ lệ sửa lỗi và suy thoái tại ranh giới điểm số. Phương pháp này giúp gpt-5-mini tăng độ chính xác từ 18,20% lên 46,70% trên ASAP2.0, vượt trội 22,60% so với phương pháp cơ sở APO.", "key_changes": ["Ứng dụng mô hình thế giới (world model) để dự đoán tỷ lệ sửa lỗi (correction) và suy thoái (degradation) tại ranh giới điểm số trước khi tiến hành chấm lại thực tế.", "Sử dụng tín hiệu huấn luyện từ kết quả chấm điểm theo cặp (trước và sau chỉnh sửa), liên tục cập nhật mô hình ngay cả khi đề xuất chỉnh sửa bị từ chối.", "Thiết lập ngưỡng tin cậy (confidence bounds) nhằm bảo đảm sửa đổi khắc phục lỗi mục tiêu mà không làm phát sinh lỗi mới vượt mức giới hạn.", "Nâng cao độ chính xác của gpt-5-mini trên benchmark ASAP2.0 từ 18,20% lên 46,70%, vượt phương pháp baseline mạnh nhất (APO) tới 22,60 điểm phần trăm."], "sub_category": "LLM-as-a-Judge & Prompt Optimization", "novelty_score": 80, "business_score": 70, "research_score": 85, "why_it_matters": "Việc tối ưu hóa prompt/rubric cho LLM-as-a-Judge thường vấp phải rào cản chi phí tính toán khổng lồ khi phải chấm lại toàn bộ dữ liệu kiểm định sau mỗi lần chỉnh sửa. RubricWorld giải quyết triệt để nút thắt này bằng cách dự đoán trước tác động chỉnh sửa, giúp tiết kiệm chi phí suy luận và cải thiện độ chính xác của mô hình chấm điểm lên mức vượt bậc.", "developer_score": 72, "importance_score": 78, "possible_use_cases": ["Tối ưu hóa tự động hệ thống chấm điểm bài thi, bài luận trong giáo dục (EdTech) mà không cần can thiệp tham số mô hình.", "Cải tiến tiêu chí đánh giá cho hệ thống LLM-as-a-Judge thẩm định chất lượng và an toàn của các sản phẩm AI doanh nghiệp.", "Giảm thiểu chi phí tính toán và gọi API trong các quy trình kiểm thử, tối ưu hóa prompt đánh giá quy mô lớn."], "actionability_score": 65}
← Trang trước Trang 1