FairMean: Promoting Fairness in Distributed Learning under Label Poisoning Attacks

{"tags": ["Distributed Learning", "Federated Learning", "Label Poisoning", "Fairness", "Robustness", "Adversarial Robustness"], "risks": ["Cần tinh chỉnh ngưỡng chặn trên (upper bound) phù hợp để không làm triệt tiêu tính công bằng hoặc làm lọt gradient độc hại.", "Chưa chứng minh hiệu quả đối với các dạng tấn công khác ngoài đầu độc nhãn (như backdoor attack hoặc trực tiếp đầu độc tham số mô hình).", "Hiệu quả thực tế có thể thay đổi tùy thuộc vào mức độ dị thể dữ liệu (non-IID) giữa các client."], "category": "Research", "entities": ["FairMean"], "summary_vi": "FairMean là giải pháp cho học phân tán nhằm dung hòa xung đột giữa tính công bằng và khả năng chống chịu tấn công đầu độc nhãn (label poisoning). Thuật toán điều chỉnh trọng số gradient của các client dựa trên hàm mất mát cục bộ có tính chất không giảm nhưng bị chặn trên: tính tăng giúp ưu tiên các client có loss cao nhằm cải thiện công bằng, trong khi chặn trên ngăn chặn sự khuếch đại gradient từ các client độc hại. Nghiên cứu cung cấp chứng minh lý thuyết về cận dừng trung bình và thực nghiệm cho thấy FairMean giảm chênh lệch hiệu năng đồng thời nâng cao độ chính xác của client kém nhất.", "key_changes": ["Đề xuất thuật toán FairMean gán trọng số gradient client bằng hàm không giảm và bị chặn trên dựa theo hàm mất mát (local loss).", "Giải quyết xung đột cốt lõi giữa tính công bằng (ưu tiên client có loss cao) và tính bền vững (ngăn chặn client bị đầu độc lợi dụng loss cao để thao túng mô hình).", "Xác lập cận dừng trung bình (average-stationarity bound) với thành phần phụ thuộc tấn công tỷ lệ với bình phương tỷ lệ client bị đầu độc.", "Thực nghiệm xác nhận giảm phương sai độ chính xác giữa các client và cải thiện độ chính xác cho nhóm client kém nhất (worst-client accuracy)."], "sub_category": "Distributed Learning", "novelty_score": 75, "business_score": 60, "research_score": 82, "why_it_matters": "Trong học phân tán, các kỹ thuật tối ưu tính công bằng thường ưu tiên client có loss cao, vô tình tạo ra lỗ hổng bảo mật nghiêm trọng khi đối mặt với tấn công đầu độc nhãn (vốn cố ý tạo loss lớn để thao túng mô hình). FairMean giải quyết trực diện mâu thuẫn này bằng cơ chế chặn trên toán học đơn giản nhưng hiệu quả, tạo tiền đề xây dựng các hệ thống federated learning an toàn và đáng tin cậy trong môi trường thực tế.", "developer_score": 68, "importance_score": 72, "possible_use_cases": ["Học liên kết (Federated Learning) trong y tế và tài chính với nhiều đối tác tham gia, ngăn ngừa gian lận hoặc sai lệch nhãn dữ liệu.", "Mạng học máy phân tán trên thiết bị biên (Edge/Mobile FL) nhằm bảo đảm chất lượng dịch vụ đồng đều cho người dùng dù có thiết bị gửi dữ liệu lỗi/độc hại.", "Hệ thống huấn luyện cộng tác đa bên (Cross-silo FL) cần cân bằng chất lượng dự đoán mà không bị chi phối bởi các node có nhãn nhiễu hoặc bị tấn công."], "actionability_score": 65}