Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

Evolutionary Adaptive Neighborhood Learning: A Genetic Algorithm for Instance-Dependent k Optimization in Nearest Neighbor Classification

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

56 RADAR
Research Machine Learning / Classification Algorithms · 1 nguồn đối chiếu · 2026-11-05 00:14:13 +0000 UTC

Evolutionary Adaptive Neighborhood Learning: A Genetic Algorithm for Instance-Dependent k Optimization in Nearest Neighbor Classification

Nguồn: arXiv AI
↗

Nghiên cứu đề xuất EANK (Evolutionary Adaptive Neighborhood K), phương pháp sử dụng giải thuật di truyền số thực (real-coded GA) để tối ưu chính sách chọn số láng giềng k thích ứng theo từng cá thể k(x) trong phân loại k-NN. Thay vì dùng một giá trị k toàn cục kém linh hoạt trước sự bất đồng nhất của dữ liệu (vùng dày/ít nhiễu cần k nhỏ, vùng thưa/nhiễu cần k lớn), EANK ánh xạ các bộ mô tả láng giềng cục bộ (mật độ, entropy nhãn, biên độ bỏ phiếu, độ tập trung) thành k(x). Thuật toán tối ưu độ chính xác leave-one-out kèm mức phạt độ mượt và dùng phiếu bầu tính trước để giảm chi phí đánh giá. Kết quả trên dữ liệu nhân tạo và 12 tập dữ liệu công khai cho thấy EANK vượt trội mức k=5 mặc định và đạt hiệu năng cạnh tranh với k toàn cục đã tinh chỉnh.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Nghiên cứu giải quyết bài toán cốt lõi của k-NN: sự đánh đổi thiên lệch - phương sai (bias-variance trade-off) vốn mang tính cục bộ nhưng thường bị áp đặt bằng một tham số k duy nhất trên toàn tập dữ liệu. Việc cung cấp khung lý thuyết vững chắc (tính vượt trội trên tiêu chí huấn luyện, sự hội tụ tiến hóa, bảo đảm tổng quát hóa) cùng cơ chế thích ứng theo mẫu giúp mở rộng tiềm năng của các phương pháp học dựa trên khoảng cách trong thực tế.

Developer 58
Business 45
Novelty 68
Actionable 58

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

The number of neighbours k is the central hyperparameter of the k-nearest neighbour (k-NN) classifier and is usually selected globally through cross-validation or evolutionary search. However, the bias-variance trade-off is inherently local: dense and noise-free regions may favour small neighbourhoods, whereas sparse or noisy regions may require larger ones. Since global-k optimization is one-dimensional, replacing exhaustive search with a genetic algorithm offers little computational advantage. We therefore optimize an instance-dependent neighbourhood policy instead. We propose EANK (Evolutionary Adaptive Neighborhood K), which uses a low-dimensional policy to map local neighbourhood descriptors, including density, label entropy, vote margin, and concentration, to an adaptive number of neighbours k(x). A real-coded elitist genetic algorithm optimizes this policy using leave-one-out accuracy with a neighbourhood-smoothness penalty. Precomputed neighbour votes reduce fitness evaluation costs. We investigate theoretical properties of the method, including dominance over global-k solutions on the training criterion, evolutionary convergence, policy regularity, and generalization guarantees. Experiments on synthetic data with spatially heterogeneous structure and twelve public datasets evaluate predictive performance, robustness, and computational cost. Under nested cross-validation, EANK achieves competitive performance relative to tuned global-k baselines and improves upon the default k=5. We also examine the gap between training and test performance to assess the practical value of adaptive neighbourhood selection.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-11-06 09:58:35 +0000 UTC
{"tags": ["k-NN", "genetic-algorithm", "adaptive-neighborhood", "instance-dependent", "classification", "machine-learning"], "risks": ["Chi phí tính toán tối ưu GA và trích xuất đặc trưng cục bộ tăng đáng kể trên các bộ dữ liệu quy mô rất lớn.", "Nguy cơ chênh lệch hiệu năng giữa tập huấn luyện và kiểm thử (train-test gap) nếu hàm phạt độ mượt láng giềng không được điều chỉnh phù hợp.", "Hiệu năng chỉ ở mức cạnh tranh ngang ngửa so với k-NN toàn cục đã qua tinh chỉnh kỹ (tuned global-k), có thể không tương xứng với độ phức tạp triển khai trong một số bài toán thực tế."], "category": "Research", "entities": ["EANK", "k-NN", "Real-coded Genetic Algorithm"], "summary_vi": "Nghiên cứu đề xuất EANK (Evolutionary Adaptive Neighborhood K), phương pháp sử dụng giải thuật di truyền số thực (real-coded GA) để tối ưu chính sách chọn số láng giềng k thích ứng theo từng cá thể k(x) trong phân loại k-NN. Thay vì dùng một giá trị k toàn cục kém linh hoạt trước sự bất đồng nhất của dữ liệu (vùng dày/ít nhiễu cần k nhỏ, vùng thưa/nhiễu cần k lớn), EANK ánh xạ các bộ mô tả láng giềng cục bộ (mật độ, entropy nhãn, biên độ bỏ phiếu, độ tập trung) thành k(x). Thuật toán tối ưu độ chính xác leave-one-out kèm mức phạt độ mượt và dùng phiếu bầu tính trước để giảm chi phí đánh giá. Kết quả trên dữ liệu nhân tạo và 12 tập dữ liệu công khai cho thấy EANK vượt trội mức k=5 mặc định và đạt hiệu năng cạnh tranh với k toàn cục đã tinh chỉnh.", "key_changes": ["Chuyển đổi từ tối ưu hóa tham số k toàn cục (global-k) sang chính sách chọn láng giềng thích ứng theo từng cá thể (instance-dependent k(x)).", "Xây dựng chính sách ánh xạ các đặc trưng cục bộ (mật độ, entropy nhãn, biên độ bỏ phiếu, độ tập trung) sang giá trị k(x) phù hợp.", "Áp dụng giải thuật di truyền số thực bảo tồn tinh hoa (real-coded elitist GA) với hàm mục tiêu kết hợp độ chính xác leave-one-out và hình phạt độ mượt láng giềng.", "Tận dụng kỹ thuật tính trước phiếu bầu láng giềng (precomputed neighbor votes) nhằm tối ưu chi phí đánh giá hàm thích nghi (fitness evaluation)."], "sub_category": "Machine Learning / Classification Algorithms", "novelty_score": 68, "business_score": 40, "research_score": 78, "why_it_matters": "Nghiên cứu giải quyết bài toán cốt lõi của k-NN: sự đánh đổi thiên lệch - phương sai (bias-variance trade-off) vốn mang tính cục bộ nhưng thường bị áp đặt bằng một tham số k duy nhất trên toàn tập dữ liệu. Việc cung cấp khung lý thuyết vững chắc (tính vượt trội trên tiêu chí huấn luyện, sự hội tụ tiến hóa, bảo đảm tổng quát hóa) cùng cơ chế thích ứng theo mẫu giúp mở rộng tiềm năng của các phương pháp học dựa trên khoảng cách trong thực tế.", "developer_score": 60, "importance_score": 60, "possible_use_cases": ["Phân loại dữ liệu dạng bảng (tabular data) có mật độ và độ nhiễu phân bố không đồng nhất giữa các vùng không gian.", "Cải thiện các bài toán phân loại dựa trên khoảng cách (distance-based classification) trong y sinh hoặc chẩn đoán lỗi hệ thống.", "Tối ưu hóa số lượng kết quả láng giềng động trong các bài toán tìm kiếm tương đồng (similarity search)."], "actionability_score": 58}