A Bag of Tricks for Defending Deep Learning-based Face Recognition Pipelines against Backdoor Attacks

{"tags": ["Face Recognition", "Backdoor Defense", "Data Poisoning", "AI Security", "Deep Learning", "Inference Defense"], "risks": ["Độ trễ tính toán (computational overhead) phát sinh tại thời điểm suy luận có thể ảnh hưởng đến trải nghiệm thời gian thực", "Khả năng xuất hiện tỷ lệ nhận diện nhầm hoặc lọc nhầm (false positives) đối với khuôn mặt người dùng hợp lệ", "Kẻ tấn công có thể nghiên cứu cơ chế phòng thủ để phát triển các kỹ thuật tấn công thích ứng (adaptive backdoor attacks) mới"], "category": "Models", "entities": ["Face Recognition Systems", "Deep Learning"], "summary_vi": "Báo cáo kỹ thuật giới thiệu bộ giải pháp ('bag of tricks') gồm 3 kỹ thuật thực dụng để phòng thủ chống tấn công backdoor/đầu độc dữ liệu trên hệ thống nhận diện khuôn mặt học sâu. Nghiên cứu tập trung vào kịch bản doanh nghiệp tự huấn luyện mô hình nhưng dùng dữ liệu từ bên thứ ba, cung cấp 1 cơ chế phát hiện định danh bị đầu độc lúc huấn luyện và 2 cơ chế lọc đầu vào khả nghi lúc suy luận kèm phân tích chi phí tính toán.", "key_changes": ["Xác định mô hình đe dọa thực tế trong doanh nghiệp: Huấn luyện nội bộ (in-house) nhưng sử dụng dữ liệu từ bên thứ ba có nguy cơ bị xâm phạm", "Đề xuất 1 kỹ thuật phòng thủ ở giai đoạn huấn luyện (training-time) để phát hiện định danh bị đầu độc trước khi triển khai pipeline", "Đề xuất 2 kỹ thuật phòng thủ tại thời điểm suy luận (inference-time) nhằm lọc các đầu vào đáng ngờ trước khi phản hồi kết quả", "Phân tích thuật toán, động lực thiết kế và đánh giá tác động chi phí tính toán trên khối lượng công việc nhận diện khuôn mặt thực tế"], "sub_category": "Model Security", "novelty_score": 70, "business_score": 78, "research_score": 74, "why_it_matters": "Tấn công backdoor qua chuỗi cung ứng dữ liệu là rủi ro an ninh nghiêm trọng đối với các hệ thống sinh trắc học thương mại; nghiên cứu mang lại các kỹ thuật gia cố an ninh cụ thể, có thể triển khai ngay vào pipeline thực tế mà không cần thay đổi toàn bộ kiến trúc mô hình.", "developer_score": 82, "importance_score": 76, "possible_use_cases": ["Sàng lọc và kiểm định dữ liệu huấn luyện sinh trắc học mua từ đối tác hoặc thu thập từ web trước khi đưa vào pipeline training", "Thiết lập cơ chế lọc và phát hiện mẫu tấn công thời gian thực tại gateway/API nhận diện khuôn mặt (eKYC, chấm công, kiểm soát ra vào)", "Gia cố an ninh cho các hệ thống xác thực sinh trắc học nhạy cảm trong tài chính, ngân hàng và an ninh doanh nghiệp"], "actionability_score": 85}