Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

What Should World Models Forget? Stratified Retention for Continual Adaptation

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

61 RADAR
Research World Models & Continual Learning · 1 nguồn đối chiếu · 2026-10-02 17:58:14 +0000 UTC

What Should World Models Forget? Stratified Retention for Continual Adaptation

Nguồn: arXiv AI
↗

Nghiên cứu chỉ ra nghịch lý trong continual learning áp dụng cho world models: việc xóa bỏ dữ liệu cũ không phải là lỗi mà là tất yếu khi môi trường thay đổi. Tác giả đề xuất khung 'stratified retention' phân tầng tri thức thành bất biến (như vật lý) và dữ kiện động, đồng thời giới thiệu thước đo 'differential retention' đánh giá song song độ bền tri thức bất biến và độ trễ cập nhật thay vì dùng các thang đo quên truyền thống vốn thiên vị mô hình đóng băng.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Khung lý thuyết này giải quyết điểm mù nghiêm trọng trong việc đánh giá và phát triển world models: chuẩn đo lường cũ trừng phạt các mô hình biết thích ứng và thưởng cho mô hình đóng băng. Giải pháp phân tầng duy trì giúp kỹ sư và nhà nghiên cứu xây dựng các mô hình nhận thức thế giới có khả năng thích ứng linh hoạt với thực tế mà không đánh mất nền tảng vật lý cơ bản.

Developer 62
Business 57
Novelty 82
Actionable 65

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

Continual learning treats degradation on previously seen data as evidence of failure, a convention inherited from settings with a stationary prediction target, where a correct label remains correct indefinitely. World models do not satisfy this condition. Their prediction target is the environment, which changes, so knowledge that was accurate when acquired may later become false, and discarding it is required behavior rather than a defect. Non-stationary ground truth is well studied in the concept drift literature and in the temporal factuality of language models, but has not been formulated for world models, which are distinctive in that they also encode knowledge that must never be revised. We argue that continual world models require retention stratified by invariance timescale, separating invariants such as physics and object permanence, which must never be revised, from instance-level facts that should be revised as soon as the environment changes. Standard forgetting metrics cannot distinguish a world model that has correctly revised outdated knowledge from one that has suffered catastrophic forgetting, and consequently rank a frozen model highest, while existing physical-reasoning benchmarks evaluate only frozen checkpoints. We propose differential retention, which reports invariant regression testing across the adaptation stream jointly with revision latency, without aggregation.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-10-05 12:02:38 +0000 UTC
{"tags": ["World Models", "Continual Learning", "Stratified Retention", "Differential Retention", "Catastrophic Forgetting", "Concept Drift"], "risks": ["Khó khăn trong việc định nghĩa và phân tách ranh giới rõ ràng giữa tri thức bất biến và dữ kiện tạm thời trong các môi trường phức tạp.", "Nguy cơ suy giảm tri thức vật lý bất biến nếu cơ chế cập nhật dữ kiện động làm rò rỉ gradient không mong muốn.", "Gia tăng chi phí tính toán khi phải duy trì kiểm thử hồi quy liên tục trên dòng dữ liệu thích ứng (adaptation stream)."], "category": "Research", "entities": ["World Models", "Differential Retention", "Stratified Retention"], "summary_vi": "Nghiên cứu chỉ ra nghịch lý trong continual learning áp dụng cho world models: việc xóa bỏ dữ liệu cũ không phải là lỗi mà là tất yếu khi môi trường thay đổi. Tác giả đề xuất khung 'stratified retention' phân tầng tri thức thành bất biến (như vật lý) và dữ kiện động, đồng thời giới thiệu thước đo 'differential retention' đánh giá song song độ bền tri thức bất biến và độ trễ cập nhật thay vì dùng các thang đo quên truyền thống vốn thiên vị mô hình đóng băng.", "key_changes": ["Tái định nghĩa việc quên trong continual learning cho world models: việc loại bỏ thông tin lỗi thời khi môi trường thay đổi là yêu cầu bắt buộc chứ không phải lỗi catastrophic forgetting.", "Đề xuất phân tầng duy trì (stratified retention) theo thang thời gian bất biến: tách biệt tri thức bất biến (quy luật vật lý, tính vĩnh cửu của vật thể) khỏi các dữ kiện động cấp thực thể cần sửa đổi liên tục.", "Chỉ ra lỗ hổng của các thước đo forgetting hiện tại: các metric chuẩn không phân biệt được việc sửa đổi dữ kiện cũ với quên thảm họa, dẫn đến việc xếp hạng cao nhất cho các mô hình đóng băng (frozen models).", "Đề xuất phương pháp đo lường differential retention: kết hợp kiểm thử hồi quy các đặc tính bất biến song song với đo lường độ trễ cập nhật (revision latency) mà không gộp chung chỉ số."], "sub_category": "World Models & Continual Learning", "novelty_score": 82, "business_score": 55, "research_score": 88, "why_it_matters": "Khung lý thuyết này giải quyết điểm mù nghiêm trọng trong việc đánh giá và phát triển world models: chuẩn đo lường cũ trừng phạt các mô hình biết thích ứng và thưởng cho mô hình đóng băng. Giải pháp phân tầng duy trì giúp kỹ sư và nhà nghiên cứu xây dựng các mô hình nhận thức thế giới có khả năng thích ứng linh hoạt với thực tế mà không đánh mất nền tảng vật lý cơ bản.", "developer_score": 62, "importance_score": 78, "possible_use_cases": ["Thiết kế và đánh giá các world models trong robot tự hành hoạt động ở môi trường thực tế biến động.", "Xây dựng hệ thống xe tự hành có khả năng thích ứng với biến đổi công trường/thời tiết nhưng vẫn bảo toàn tuyệt đối các quy tắc vật lý cốt lõi.", "Đánh giá benchmark định kỳ cho các hệ thống digital twin và mô phỏng vật lý đa tác tử."], "actionability_score": 65}