Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

Corralling AI Risks with Grassroots Contracts

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

59 RADAR
Research AI Safety & Governance · 1 nguồn đối chiếu · 2026-11-04 11:34:17 +0000 UTC

Corralling AI Risks with Grassroots Contracts

Nguồn: arXiv AI
↗

Nghiên cứu đề xuất mô hình 'grassroots contracts' (hợp đồng cơ sở) - phiên bản số hóa từ tư tưởng của Pierre-Joseph Proudhon - nhằm giải quyết ba rủi ro AI nghiêm trọng trên các nền tảng số: AI chiếm quyền kiểm soát nền tảng toàn cầu, tác tử AI ẩn danh vô trách nhiệm và deepfake không rõ nguồn gốc. Nhóm tác giả giới thiệu giải pháp đồ thị xã hội gắn trách nhiệm cho AI agent, mạng xã hội xác thực nguồn gốc nội dung số (digital provenance) và các ứng dụng smartphone hoạt động thực tế để chứng minh tính khả thi.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Đề xuất một giải pháp mang tính cấu trúc và phi tập trung để tái lập quyền kiểm soát của con người đối với các nền tảng số, buộc các tác tử AI và người tạo nội dung phải chịu trách nhiệm giải trình mà không phụ thuộc vào cơ quan kiểm duyệt tập trung.

Developer 56
Business 53
Novelty 80
Actionable 45

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

AI's inflection point is a fountain of alarming risks. Digital platforms in particular are vulnerable to three major AI risks, as those in control of global platforms cede control to AI, of the algorithms, of membership and of content: (1) AI control of global platforms, social and economic, used by the majority of humanity, resulting in the majority of humanity becoming vulnerable to AI control. (2) Unaccountable AI agents operating anonymously on social and economic digital platforms, side-by-side with humans, possibly masquerading as humans, serving unknown masters with unknown goals, operating under unknown restraints without accountability or culpability. (3) Unattributed deepfakes generated by anonymous AI, with people unable to distinguish them from genuine content and with their producers evading accountability and culpability. Here, we propose to corral these AI risks with grassroots contracts, a digital incarnation of a two-centuries old notion of Pierre-Joseph Proudhon. We present grassroots contracts for a social graph with accountable AI agents and for a social network with digital provenance, and working smartphone apps that implement the two and show how they corral these major AI risks: (1) AI control of global platforms. (2) Unaccountable AI agents. (3) Unattributed deepfakes.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-11-05 11:54:29 +0000 UTC
{"tags": ["AI Safety", "AI Governance", "Grassroots Contracts", "AI Agents", "Digital Provenance", "Deepfakes", "Social Graph"], "risks": ["Rào cản lớn khi áp dụng vào các nền tảng công nghệ lớn vốn đang duy trì mô hình kiểm soát tập trung.", "Khả năng mở rộng quy mô (scalability) và độ trễ khi xác thực hợp đồng cơ sở trên hàng tỷ thiết bị di động.", "Trải nghiệm người dùng (UX friction) có thể phức tạp khi người dùng phổ thông phải quản lý hợp đồng số và xác minh danh tính."], "category": "Research", "entities": ["Pierre-Joseph Proudhon"], "summary_vi": "Nghiên cứu đề xuất mô hình 'grassroots contracts' (hợp đồng cơ sở) - phiên bản số hóa từ tư tưởng của Pierre-Joseph Proudhon - nhằm giải quyết ba rủi ro AI nghiêm trọng trên các nền tảng số: AI chiếm quyền kiểm soát nền tảng toàn cầu, tác tử AI ẩn danh vô trách nhiệm và deepfake không rõ nguồn gốc. Nhóm tác giả giới thiệu giải pháp đồ thị xã hội gắn trách nhiệm cho AI agent, mạng xã hội xác thực nguồn gốc nội dung số (digital provenance) và các ứng dụng smartphone hoạt động thực tế để chứng minh tính khả thi.", "key_changes": ["Đề xuất cơ chế 'grassroots contracts' (hợp đồng cơ sở) dựa trên tư tưởng của Pierre-Joseph Proudhon để kiểm soát các rủi ro AI trên nền tảng số.", "Xây dựng mô hình đồ thị xã hội (social graph) tích hợp các tác tử AI có định danh và chịu trách nhiệm giải trình (accountable AI agents).", "Thiết lập mạng xã hội hỗ trợ xác thực nguồn gốc kỹ thuật số (digital provenance) nhằm phát hiện và ngăn chặn deepfake ẩn danh.", "Hiện thực hóa và kiểm chứng giải pháp thông qua các ứng dụng di động (smartphone apps) đang hoạt động."], "sub_category": "AI Safety & Governance", "novelty_score": 80, "business_score": 50, "research_score": 85, "why_it_matters": "Đề xuất một giải pháp mang tính cấu trúc và phi tập trung để tái lập quyền kiểm soát của con người đối với các nền tảng số, buộc các tác tử AI và người tạo nội dung phải chịu trách nhiệm giải trình mà không phụ thuộc vào cơ quan kiểm duyệt tập trung.", "developer_score": 55, "importance_score": 70, "possible_use_cases": ["Xác thực danh tính và ràng buộc trách nhiệm cho AI agent hoạt động trên các nền tảng mạng xã hội và giao dịch kinh tế.", "Truy xuất nguồn gốc nội dung số (digital provenance) nhằm chống tin giả và deepfake không rõ nguồn gốc.", "Phát triển kiến trúc mạng xã hội phi tập trung nhằm bảo vệ người dùng trước sự thao túng của thuật toán AI tập trung."], "actionability_score": 45}
← Trang trước Trang 1