Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

XLA from the Trenches: Correctness on TPU Workloads at Scale

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

64 RADAR
Tools Compiler Testing & Infrastructure · 1 nguồn đối chiếu · 2026-10-31 04:48:13 +0000 UTC

XLA from the Trenches: Correctness on TPU Workloads at Scale

Nguồn: arXiv AI
↗

Bài báo trình bày phương pháp thực chiến nhằm xác thực và xử lý lỗi độ chính xác cho trình biên dịch XLA:TPU của Google ở quy mô siêu lớn. Giải pháp kết hợp fuzzing (tổng hợp lẫn vết thực thi production), quy trình phân tích sai khác phân tầng để bóc tách đồ thị lớn tới từng phép toán lỗi trong kernel gộp, cùng bầy tác tử AI tự động tạo stress test, tái hiện lỗi và soạn bản vá. Hệ thống đã giải quyết thành công hơn 142 lỗi trình biên dịch trong môi trường production.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Các lỗi sinh mã tinh vi trong trình biên dịch ML có thể gây sai lệch số học ngầm hoặc hỏng bộ nhớ, làm tiêu tán các đợt huấn luyện trị giá hàng triệu USD mà không kích hoạt cảnh báo lỗi. Nghiên cứu của Google cung cấp bài học thực tiễn giá trị về việc ứng dụng AI agents và differential bisection để đảm bảo tính đúng đắn cho hạ tầng tăng tốc AI.

Developer 79
Business 77
Novelty 81
Actionable 76

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

Accelerating modern foundational models has pushed domain-specific compilers toward increasingly complex, multi-tiered optimization pipelines. However, this heavy optimization focus introduces delicate tradeoffs between peak execution performance and correctness. Subtle codegen defects can trigger numerical degradation and memory or buffer corruption, invalidating multi-million-dollar training runs and degrading live serving quality without raising obvious compiler errors. In this paper, we present a battle-tested methodology for verifying and triaging Google's XLA:TPU compiler at hyperscale. We leverage fuzzing techniques, combining synthetic program generation with real production traces, while orchestrating AI agent swarms to autonomously generate stress tests, reproduce failures, and draft fixes. To pinpoint root causes in full workloads, we pair this with a hierarchical differential pipeline that bisects large graphs down to individual failing operations inside fused kernels. Deployed in production, our framework has already driven the resolution of over 142 compiler bugs (with 103 additional findings under review), from which we distill pragmatic lessons learned.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-11-03 09:29:02 +0000 UTC
{"tags": ["XLA", "TPU", "Compiler Correctness", "Fuzzing", "Differential Testing", "AI Agents", "Machine Learning Systems"], "risks": ["Chi phí hạ tầng và tài nguyên tính toán cao để duy trì fuzzing và differential testing liên tục ở quy mô đồ thị lớn.", "Bản vá do tác tử AI đề xuất (draft fixes) có thể chưa tối ưu hoặc sai lệch ngữ nghĩa nếu không có cơ chế thẩm định chặt chẽ.", "Khó khăn trong việc áp dụng mô hình bisection phân tầng lên các kiến trúc trình biên dịch không hỗ trợ theo dõi đồ thị chi tiết."], "category": "Tools", "entities": ["Google", "XLA", "TPU"], "summary_vi": "Bài báo trình bày phương pháp thực chiến nhằm xác thực và xử lý lỗi độ chính xác cho trình biên dịch XLA:TPU của Google ở quy mô siêu lớn. Giải pháp kết hợp fuzzing (tổng hợp lẫn vết thực thi production), quy trình phân tích sai khác phân tầng để bóc tách đồ thị lớn tới từng phép toán lỗi trong kernel gộp, cùng bầy tác tử AI tự động tạo stress test, tái hiện lỗi và soạn bản vá. Hệ thống đã giải quyết thành công hơn 142 lỗi trình biên dịch trong môi trường production.", "key_changes": ["Kết hợp kỹ thuật fuzzing giữa sinh chương trình tổng hợp và dấu vết thực thi (production traces) thực tế.", "Ứng dụng bầy tác tử AI (AI agent swarms) tự động tạo bài kiểm thử chịu tải, tái hiện lỗi và đề xuất bản vá sơ bộ.", "Phát triển quy trình phân tích sai khác phân tầng (hierarchical differential pipeline) để phân đoạn (bisect) đồ thị lớn đến từng phép toán bên trong fused kernel.", "Đã khắc phục thành công hơn 142 lỗi trình biên dịch trong môi trường production thực tế và đang xử lý 103 phát hiện khác."], "sub_category": "Compiler Testing & Infrastructure", "novelty_score": 81, "business_score": 84, "research_score": 83, "why_it_matters": "Các lỗi sinh mã tinh vi trong trình biên dịch ML có thể gây sai lệch số học ngầm hoặc hỏng bộ nhớ, làm tiêu tán các đợt huấn luyện trị giá hàng triệu USD mà không kích hoạt cảnh báo lỗi. Nghiên cứu của Google cung cấp bài học thực tiễn giá trị về việc ứng dụng AI agents và differential bisection để đảm bảo tính đúng đắn cho hạ tầng tăng tốc AI.", "developer_score": 88, "importance_score": 86, "possible_use_cases": ["Kiểm thử độ chính xác số học và an toàn bộ nhớ cho các trình biên dịch tăng tốc mô hình nền tảng (XLA, Triton, TVM, PyTorch Inductor).", "Tự động hóa phát hiện, triage và khoanh vùng lỗi ngầm (silent errors) trong các cụm huấn luyện mô hình ngôn ngữ lớn (LLM) quy mô hàng triệu USD.", "Tự động sinh và cô lập test case tối giản (minimal reproducible example) khi biên dịch các đồ thị tính toán phức tạp."], "actionability_score": 76}
← Trang trước Trang 1