Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

MedPhysBench: A Benchmark for Evaluating Language Models on Medical Physics Calculations and Error Detection

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

67 RADAR
Research Đánh giá mô hình LLM trong Y tế · 1 nguồn đối chiếu · 2026-11-03 18:40:35 +0000 UTC

MedPhysBench: A Benchmark for Evaluating Language Models on Medical Physics Calculations and Error Detection

Nguồn: arXiv AI
↗

MedPhysBench là bộ benchmark đánh giá các mô hình ngôn ngữ lớn (LLM) trong tính toán vật lý y khoa và phát hiện sai sót lâm sàng (như hiệu chuẩn chùm tia TG-51, tính toán monitor-unit MU). Benchmark bao gồm 10 bộ tạo bài toán ngẫu nhiên trên 4 lĩnh vực và tập kiểm thử 1.200 bài để kiểm tra khả năng tự tính toán và kiểm tra chéo (error detection) bài làm của đồng nghiệp. Kết quả trên 12 mô hình cho thấy điểm tính toán dao động từ 33,3% đến 100,0%, trong đó 4 mô hình dẫn đầu đạt 99,3-100%. Tuy nhiên, nhiều mô hình gặp khó ở các tác vụ lâm sàng cấp độ 3 (ví dụ Claude Sonnet 5.5 bỏ sót hiệu chỉnh nghịch đảo bình phương khoảng cách ở 19/20 bài MU). Về phát hiện lỗi, 5 mô hình phát hiện ≥96,7% lỗi cấy với tỷ lệ báo động giả ≤4%, nhưng xuất hiện hiện tượng bất đối xứng: Claude Opus 5.5 bỏ sót 6/20 kết quả sai dù tự tính đúng 20/20 bài. Mã nguồn, kết quả từng câu và dữ liệu kiểm thử đã được công bố công khai.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Trong vật lý y khoa, một sai số nhỏ trong hiệu chuẩn liều hoặc tính toán Monitor Unit (MU) có thể ảnh hưởng tiêu cực đến tính mạng của tất cả bệnh nhân tiếp nhận phác đồ xạ trị đó. MedPhysBench chứng minh rằng độ chính xác tính toán cao của LLM không đồng nghĩa với độ tin cậy khi thực hiện kiểm tra chéo (double-check), từ đó đặt ra tiêu chuẩn khắt khe cho việc ứng dụng AI an toàn trong y tế lâm sàng.

Developer 72
Business 68
Novelty 78
Actionable 74

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

Medical physicists turn a prescription into a delivered dose and check one another's calculations, because one error in a beam calibration or a monitor-unit (MU) calculation can affect every patient treated with it. MedPhysBench has ten seeded generators of calculation items in radiation therapy, diagnostic imaging, nuclear medicine and radiation protection, up to clinical tasks such as a TG-51 calibration worksheet. Reference answers come from code implementing the governing protocols, and a grader converts units and applies tolerance bands. From the same inputs, separate checking items test error detection, showing a colleague's worksheet or only the colleague's result, half correct and half with one planted error. On a held-out test split of 1,200 items (half for two models), 12 models scored 33.3 to 100.0% on calculation. Of the nine answers graded incorrect for the four best (99.3-100.0%), five contained model errors and four followed NCRP Report 151 on points our items misstate or leave open. Below them, most models did worst on level-3 clinical tasks, and Claude Sonnet 5.5 omitted the inverse-square correction in 19 of 20 isocentric MU items. Five models detected at least 96.7% of mostly large planted errors with at most 4% false alarms; for four of the other seven, checking only the result raised false alarms significantly. In an exploratory targeted test with 20 public cases of an omitted inverse-square correction, the three best models tested caught it in every worksheet, and three weaker models accepted 16 to 18 of 20 planted worksheets, one of them while applying the correction in most of its own calculations. Claude Opus 5.5 accepted 6 of 20 wrong results, although it applied the correction in all 20 of its own. We report the effect of two problems in our shielding items, found after the runs, and release the code, per-item outcomes and targeted-test responses.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-11-04 12:39:33 +0000 UTC
{"tags": ["MedPhysBench", "Vật lý y khoa", "Xạ trị", "Đánh giá LLM", "Phát hiện sai sót", "TG-51", "An toàn lâm sàng"], "risks": ["Mô hình có hiện tượng mù lỗi (verification blind spot): chấp nhận kết quả sai của người khác dù chính mình có năng lực tính toán đúng.", "Mô hình có thể bỏ sót các hiệu chỉnh vật lý cốt lõi (như Claude Sonnet 5.5 bỏ qua hiệu chỉnh nghịch đảo bình phương ở 19/20 bài isocentric MU).", "Tỷ lệ báo động giả tăng vọt khi mô hình chỉ được tiếp cận kết quả cuối cùng mà không có toàn bộ bảng tính diễn giải.", "Lỗi tiềm ẩn trong chính câu hỏi hoặc độ không rõ ràng của quy chuẩn có thể ảnh hưởng đến tính khách quan khi chấm điểm."], "category": "Research", "entities": ["MedPhysBench", "TG-51", "NCRP Report 151", "Claude Sonnet 5.5", "Claude Opus 5.5"], "summary_vi": "MedPhysBench là bộ benchmark đánh giá các mô hình ngôn ngữ lớn (LLM) trong tính toán vật lý y khoa và phát hiện sai sót lâm sàng (như hiệu chuẩn chùm tia TG-51, tính toán monitor-unit MU). Benchmark bao gồm 10 bộ tạo bài toán ngẫu nhiên trên 4 lĩnh vực và tập kiểm thử 1.200 bài để kiểm tra khả năng tự tính toán và kiểm tra chéo (error detection) bài làm của đồng nghiệp. Kết quả trên 12 mô hình cho thấy điểm tính toán dao động từ 33,3% đến 100,0%, trong đó 4 mô hình dẫn đầu đạt 99,3-100%. Tuy nhiên, nhiều mô hình gặp khó ở các tác vụ lâm sàng cấp độ 3 (ví dụ Claude Sonnet 5.5 bỏ sót hiệu chỉnh nghịch đảo bình phương khoảng cách ở 19/20 bài MU). Về phát hiện lỗi, 5 mô hình phát hiện ≥96,7% lỗi cấy với tỷ lệ báo động giả ≤4%, nhưng xuất hiện hiện tượng bất đối xứng: Claude Opus 5.5 bỏ sót 6/20 kết quả sai dù tự tính đúng 20/20 bài. Mã nguồn, kết quả từng câu và dữ liệu kiểm thử đã được công bố công khai.", "key_changes": ["Phát triển MedPhysBench với 10 bộ tạo bài toán tự động thuộc 4 phân ngành: xạ trị, chẩn đoán hình ảnh, y học hạt nhân và an toàn bức xạ.", "Thiết kế cơ chế chấm điểm tự động hỗ trợ chuyển đổi đơn vị và dung sai cho các quy chuẩn lâm sàng như TG-51 và NCRP 151.", "Xây dựng bài kiểm tra phát hiện lỗi (error detection) để đánh giá khả năng thẩm định chéo bảng tính hoặc kết quả đơn lẻ của đồng nghiệp.", "Đánh giá 12 mô hình trên tập test 1.200 bài: top 4 mô hình đạt 99,3-100% tính toán, nhưng các mô hình yếu hơn gặp khó khăn lớn ở bài toán lâm sàng cấp độ 3.", "Phát hiện sự bất đối xứng giữa tính toán và thẩm định lỗi: Claude Opus 5.5 chấp nhận 6/20 kết quả sai dù tự tính đúng toàn bộ 20 bài có hiệu chỉnh nghịch đảo bình phương."], "sub_category": "Đánh giá mô hình LLM trong Y tế", "novelty_score": 78, "business_score": 68, "research_score": 85, "why_it_matters": "Trong vật lý y khoa, một sai số nhỏ trong hiệu chuẩn liều hoặc tính toán Monitor Unit (MU) có thể ảnh hưởng tiêu cực đến tính mạng của tất cả bệnh nhân tiếp nhận phác đồ xạ trị đó. MedPhysBench chứng minh rằng độ chính xác tính toán cao của LLM không đồng nghĩa với độ tin cậy khi thực hiện kiểm tra chéo (double-check), từ đó đặt ra tiêu chuẩn khắt khe cho việc ứng dụng AI an toàn trong y tế lâm sàng.", "developer_score": 75, "importance_score": 82, "possible_use_cases": ["Tích hợp vào quy trình CI/CD đánh giá độ tin cậy và an toàn của các mô hình LLM chuyên dụng trong y tế.", "Hỗ trợ các nhà vật lý y khoa kiểm tra chéo (second-check) độc lập các bảng tính hiệu chuẩn liều xạ và Monitor Unit (MU).", "Nghiên cứu và tinh chỉnh các mô hình thẩm định (AI critic/verifier) nhằm tránh hiện tượng đồng ý nhầm với lỗi sai lâm sàng."], "actionability_score": 74}