Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

Why the Creators of AI Do Not Understand Their Own Creations

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

36 RADAR
Research AI Theory & Interpretability · 1 nguồn đối chiếu · 2026-10-17 16:54:50 +0000 UTC

Why the Creators of AI Do Not Understand Their Own Creations

Nguồn: Hacker News AI
↗

Bài viết của nhà nghiên cứu độc lập Boris Sunik đề xuất 'Thuyết Thông tin Ý nghĩa' (TMI) nhằm giải thích bản chất AI và tri thức con người, xuất phát từ thực trạng các lãnh đạo AI (Dario Amodei, Yoshua Bengio) thừa nhận chưa hiểu rõ cách AI vận hành. Tác giả cho rằng AI chỉ học từ dữ liệu thứ cấp của con người, do đó cần hiểu cách con người hình thành tri thức. Thay vì dùng các mô hình toán học vốn chưa thành công trong quá khứ, TMI mượn các khái niệm từ ngôn ngữ lập trình C++, định nghĩa thông tin là giá trị biến số trong thuật toán và xem con người là thực thể được điều khiển bởi máy tính sinh học (não bộ).

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Bài viết phản ánh mối lo ngại ngày càng tăng từ giới lãnh đạo AI về tính chất hộp đen và giới hạn lý thuyết của mạng nơ-ron sâu. Dù lý thuyết TMI của tác giả chưa qua bình duyệt khoa học và mang nặng tính suy đoán cá nhân, nó nêu bật nỗ lực tiếp cận vấn đề khả năng giải thích (interpretability) từ góc độ khoa học máy tính và thuật toán biểu diễn thay vì toán học thống kê truyền thống.

Developer 29
Business 19
Novelty 40
Actionable 15

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

Just citations. Dario Amodei (CEO of Anthropic, 2025): "People outside the field are often surprised and alarmed to learn that we do not understand how our own AI creations work. This lack of understanding is essentially unprecedented in the history of technology." MIT Technology Review: "Despite all the stunning success, nobody really knows how — or why — it works." Yoshua Bengio (Turing Award laureate, 2024): "If we continue as before, we are driving against the wall. Or at least we are driving into a fog, without knowing whether there is a wall." Mathematician Roman Vershynin (UC Irvine), in a recent interview — "We advanced to the wall and hit it." So why did AI research hit the wall? The answer is not hard to find, and most people in the field know it, even if they prefer not to say it loudly. The point is that all training data used by AI is secondary, while the primary source is the human being. Every text, every image, every pattern a neural network absorbs — all of it was created by humans. A neural network does not discover the laws of the world; it only finds regularities in what has already been created by human intelligence. So if we want to understand how AI forms knowledge, we must first understand how humans form knowledge. But this pretty obvious idea was never materialized because of the historical failure of all attempts to build a working, mathematically correct model of knowledge. The story started in the 19th century and continued until the end of the 20th. Tens of theories of information, hundreds of books, thousands of articles in dozens of journals — and nothing practically working came out of it. This however does not mean no adequate theory exists. It is there since the late 2000s, but it is still completely unknown to the scientific community. This occurs for a purely ideological reason because this theory builds its formalizations on concepts borrowed from mainstream programming languages and so completely ignores mathematics. For the major journals devoted to AI and information theory that is a taboo. I spent years trying to publish it. The answer was always the same: "Add the mathematical justification, and then we will take a look." When I contacted established researchers directly, the answer was either silence or: "Yes, you have an original idea, but we are not interested." I stopped trying fifteen years ago. My hope is that now the theory might have a chance, because it addresses exactly the problems that the current conceptual apparatus cannot solve. The Theory of Meaningful Information (TMI) expands the conceptual framework of the most expressive programming language, which is C++, by adding capabilities for creating standard narrative (non-executable) texts that constitute the primary form of any human language. In TMI, information is defined as the value of a variable used in some algorithm. This works for a bit in a computer, a state of a neuron, a pressed button, a written letter. It applies to a bacterium, a program, a neural network, and a human. The theory introduces Information Capable Entities (ICE) and traces their evolution from the simplest biological ICE — a cell — to complex technical devices and the human being, who is modeled as an object controlled by a biocomputer (the brain). It offers a complete algorithm of human knowledge formation, from the simplest perceptions to the most complex concepts. It contains the theory of intelligence, covering both natural and artificial intelligence, and the theory of a universal representation language. A short description of TMI and a link to the complete work: https://doi.org/10.5281/zenodo.23403895 Boris Sunik, independent researcher Comments URL: https://news.ycombinator.com/item?id=50132747 Points: 3 # Comments: 0

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-10-18 02:15:53 +0000 UTC
{"tags": ["AI Theory", "Interpretability", "Information Theory", "Knowledge Representation", "C++", "Epistemology", "Boris Sunik"], "risks": ["Lý thuyết chưa qua bình duyệt khoa học (peer-reviewed), bị từ chối suốt 15 năm qua do thiếu chứng minh toán học chuẩn mực.", "Hoàn toàn mang tính chất triết học và giả thuyết độc lập, chưa có thực nghiệm định lượng hay mã nguồn kiểm chứng.", "Không có khả năng ứng dụng thực tế hoặc triển khai sản phẩm trực tiếp cho doanh nghiệp và kỹ sư AI hiện tại."], "category": "Research", "entities": ["Boris Sunik", "Dario Amodei", "Anthropic", "Yoshua Bengio", "Roman Vershynin", "UC Irvine", "MIT Technology Review", "Zenodo", "Hacker News"], "summary_vi": "Bài viết của nhà nghiên cứu độc lập Boris Sunik đề xuất 'Thuyết Thông tin Ý nghĩa' (TMI) nhằm giải thích bản chất AI và tri thức con người, xuất phát từ thực trạng các lãnh đạo AI (Dario Amodei, Yoshua Bengio) thừa nhận chưa hiểu rõ cách AI vận hành. Tác giả cho rằng AI chỉ học từ dữ liệu thứ cấp của con người, do đó cần hiểu cách con người hình thành tri thức. Thay vì dùng các mô hình toán học vốn chưa thành công trong quá khứ, TMI mượn các khái niệm từ ngôn ngữ lập trình C++, định nghĩa thông tin là giá trị biến số trong thuật toán và xem con người là thực thể được điều khiển bởi máy tính sinh học (não bộ).", "key_changes": ["Chỉ ra giới hạn căn bản của AI hiện đại: chỉ khai thác mẫu hình từ dữ liệu thứ cấp do con người tạo ra mà không tự phát hiện quy luật thế giới.", "Đề xuất Thuyết Thông tin Ý nghĩa (TMI), xây dựng mô hình tri thức dựa trên ngôn ngữ lập trình (C++) thay vì mô hình toán học truyền thống.", "Định nghĩa thông tin là giá trị của biến số được sử dụng trong một thuật toán, áp dụng đồng nhất cho sinh học (tế bào, não người) và kỹ thuật tính toán.", "Giới thiệu khái niệm Thực thể có năng lực thông tin (ICE) và mô hình hóa não bộ như một máy tính sinh học xử lý thuật toán hình thành tri thức."], "sub_category": "AI Theory & Interpretability", "novelty_score": 40, "business_score": 10, "research_score": 35, "why_it_matters": "Bài viết phản ánh mối lo ngại ngày càng tăng từ giới lãnh đạo AI về tính chất hộp đen và giới hạn lý thuyết của mạng nơ-ron sâu. Dù lý thuyết TMI của tác giả chưa qua bình duyệt khoa học và mang nặng tính suy đoán cá nhân, nó nêu bật nỗ lực tiếp cận vấn đề khả năng giải thích (interpretability) từ góc độ khoa học máy tính và thuật toán biểu diễn thay vì toán học thống kê truyền thống.", "developer_score": 25, "importance_score": 25, "possible_use_cases": ["Tham khảo lý thuyết cho các nghiên cứu về biểu diễn tri thức (Knowledge Representation) và AI có thể giải thích (Explainable AI - XAI).", "Nghiên cứu mô hình nhận thức nhân tạo dựa trên các nguyên lý cấu trúc ngôn ngữ lập trình và biến thuật toán.", "Khám phá ngôn ngữ biểu diễn phổ quát phục vụ thiết kế kiến trúc tri thức tượng trưng (Symbolic AI)."], "actionability_score": 15}
← Trang trước Trang 1