Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

Unlocking Criminal Court Decisions: Flexible Information Extraction for Empirical Legal Research

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

61 RADAR
Research Legal NLP & Information Extraction · 1 nguồn đối chiếu · 2026-11-02 12:46:53 +0000 UTC

Unlocking Criminal Court Decisions: Flexible Information Extraction for Empirical Legal Research

Nguồn: arXiv AI
↗

Nghiên cứu giới thiệu một quy trình dựa trên LLM để trích xuất thông tin linh hoạt từ các bản án hình sự phục vụ nghiên cứu pháp lý thực nghiệm, bao gồm khám phá thuộc tính, trích xuất đoạn văn bản và chuẩn hóa giá trị dưới sự hướng dẫn của chuyên gia. Thử nghiệm trên hai tội danh giao thông (DUI và DDB) cho thấy việc tinh chỉnh hướng dẫn giúp tăng độ chính xác từ 52% lên 70% (DUI). Đáng chú ý, kết quả cho thấy tính nhất quán giữa các lần chạy của mô hình không đồng nghĩa với tính chính xác, và sự bất đồng giữa mô hình với người chú thích giúp phát hiện các chỉ dẫn chưa rõ ràng.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Cung cấp giải pháp khả thi để khai thác kho dữ liệu bản án chưa được cấu trúc hóa phục vụ nghiên cứu pháp lý. Quan trọng hơn đối với các kỹ sư và nhà phát triển AI, nghiên cứu đưa ra bằng chứng thực nghiệm rằng tính nhất quán (consistency) của LLM không bảo đảm tính đúng đắn (correctness), đồng thời nhấn mạnh vai trò cốt lõi của việc tinh chỉnh hướng dẫn chú thích có sự tham gia của chuyên gia miền (human-in-the-loop).

Developer 65
Business 65
Novelty 65
Actionable 70

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

Criminal verdicts contain descriptions of criminal behavior that can support quantitative legal research, but structuring them requires attributes and extraction rules that cannot always be fully specified in advance. We present an LLM-based pipeline that builds a structured dataset through attribute exploration, text span extraction, and value normalization, guided by annotation instructions that legal experts can refine. We evaluate it on two traffic offenses: driving under the influence (DUI) and driving despite a ban (DDB). For DUI, revising the instructions was associated with higher extraction accuracy (from 52% to 70% of correctly extracted values) and higher agreement between human annotators. Repeated runs of the same model agreed with each other more than with the gold annotations, showing that consistent output is not necessarily correct, while disagreement between annotators and between models helped reveal unclear instructions. For DDB, where the instructions defined fixed categories and output formats, agreement was high for most attributes.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-11-03 13:38:25 +0000 UTC
{"tags": ["LegalTech", "Information Extraction", "LLM Pipeline", "Empirical Legal Research", "Prompt Refinement"], "risks": ["Sai số hệ thống do mô hình tạo ra kết quả có độ nhất quán cao nhưng vẫn sai lệch so với nhãn chuẩn (ảo tưởng về độ tin cậy).", "Hiệu quả trích xuất phụ thuộc nặng nề vào chất lượng và sự chi tiết của hướng dẫn chú thích do chuyên gia soạn thảo.", "Khó khăn khi mở rộng sang các khung pháp lý hoặc hành vi phạm tội có cấu trúc văn bản ít chuẩn mực hơn."], "category": "Research", "entities": ["LLM", "DUI (Driving Under the Influence)", "DDB (Driving Despite a Ban)"], "summary_vi": "Nghiên cứu giới thiệu một quy trình dựa trên LLM để trích xuất thông tin linh hoạt từ các bản án hình sự phục vụ nghiên cứu pháp lý thực nghiệm, bao gồm khám phá thuộc tính, trích xuất đoạn văn bản và chuẩn hóa giá trị dưới sự hướng dẫn của chuyên gia. Thử nghiệm trên hai tội danh giao thông (DUI và DDB) cho thấy việc tinh chỉnh hướng dẫn giúp tăng độ chính xác từ 52% lên 70% (DUI). Đáng chú ý, kết quả cho thấy tính nhất quán giữa các lần chạy của mô hình không đồng nghĩa với tính chính xác, và sự bất đồng giữa mô hình với người chú thích giúp phát hiện các chỉ dẫn chưa rõ ràng.", "key_changes": ["Xây dựng quy trình 3 giai đoạn dựa trên LLM để cấu trúc hóa bản án: khám phá thuộc tính, trích xuất đoạn văn bản và chuẩn hóa giá trị.", "Tinh chỉnh hướng dẫn chú thích với chuyên gia pháp lý giúp tăng độ chính xác trích xuất từ 52% lên 70% đối với tội danh DUI.", "Phát hiện mô hình nhất quán nội bộ cao hơn so với nhãn chuẩn (gold standard), khẳng định đầu ra nhất quán chưa chắc đã chính xác.", "Sử dụng sự bất đồng giữa annotator và mô hình như công cụ phát hiện các chỉ dẫn chưa rõ ràng.", "Chứng minh việc định nghĩa danh mục cố định và định dạng đầu ra chuẩn hóa (trường hợp DDB) mang lại độ đồng thuận cao."], "sub_category": "Legal NLP & Information Extraction", "novelty_score": 65, "business_score": 68, "research_score": 78, "why_it_matters": "Cung cấp giải pháp khả thi để khai thác kho dữ liệu bản án chưa được cấu trúc hóa phục vụ nghiên cứu pháp lý. Quan trọng hơn đối với các kỹ sư và nhà phát triển AI, nghiên cứu đưa ra bằng chứng thực nghiệm rằng tính nhất quán (consistency) của LLM không bảo đảm tính đúng đắn (correctness), đồng thời nhấn mạnh vai trò cốt lõi của việc tinh chỉnh hướng dẫn chú thích có sự tham gia của chuyên gia miền (human-in-the-loop).", "developer_score": 68, "importance_score": 72, "possible_use_cases": ["Số hóa và cấu trúc hóa khối lượng lớn bản án tòa án phục vụ nghiên cứu pháp lý định lượng.", "Xây dựng công cụ LegalTech trích xuất thông tin, hành vi vi phạm từ hồ sơ tố tụng và tiền án tiền sự.", "Ứng dụng quy trình human-in-the-loop để tinh chỉnh prompt/guidelines trích xuất dữ liệu hợp đồng phức tạp."], "actionability_score": 70}
← Trang trước Trang 1