BiasFlow: Geometric Monitoring and Backbone Regularization for Spurious Feature Reliance

{"tags": ["Spurious Correlations", "Representation Learning", "Model Robustness", "Worst-Group Accuracy", "Bias Mitigation", "Computer Vision", "Backbone Regularization"], "risks": ["Thông tin thuộc tính nhạy cảm/giả vẫn có thể bị probe khôi phục từ biểu diễn (Male probe accuracy chỉ giảm về 72.2% chứ không biến mất hoàn toàn).", "Kết quả tổng quát hóa giữa các tác vụ (cross-task) còn lẫn lộn (mixed results).", "IBMI bị ảnh hưởng bởi tương quan lớp-thuộc tính (không đo lường quan hệ nhân quả); W-IBMI phụ thuộc quy mô (scale dependent) và không tự khẳng định việc loại bỏ thuộc tính.", "BFR đòi hỏi nhãn thuộc tính có giám sát (supervised) trong quá trình huấn luyện."], "category": "Research", "entities": ["BiasFlow", "BiasFlow Regularization (BFR)", "Worst-group accuracy (WGA)", "IBMI", "W-IBMI", "GroupDRO", "CelebA-Std", "UrbanCars", "ImageNet"], "summary_vi": "BiasFlow là bộ công cụ hook-based dùng để giám sát hình học biểu diễn đặc trưng (gồm căn chỉnh trọng tâm lớp-thuộc tính IBMI, tách biệt trọng tâm trong cùng lớp W-IBMI và độ nhạy chiếu đặc trưng) nhằm chẩn đoán sự phụ thuộc vào thuộc tính giả. Nghiên cứu giới thiệu thêm BiasFlow Regularization (BFR) - một hàm phạt căn chỉnh trọng tâm có điều kiện theo lớp giúp cải thiện hoặc duy trì worst-group accuracy (WGA), đạt mức tăng tới +26.0 pp trên UrbanCars và tăng WGA từ 40.7% lên 64.1% khi kết hợp GroupDRO trên CelebA-Std trong bài kiểm tra đóng băng backbone rồi huấn luyện head mới trên dữ liệu thiên lệch.", "key_changes": ["Giới thiệu BiasFlow: bộ công cụ hook-based để giám sát hình học biểu diễn (IBMI, W-IBMI, feature-projection sensitivity) nhằm phát hiện sự phụ thuộc vào đặc trưng giả (spurious features).", "Đề xuất BiasFlow Regularization (BFR): hàm phạt căn chỉnh trọng tâm có điều kiện theo lớp (class-conditional centroid-alignment penalty), có khả năng kết hợp linh hoạt với các thuật toán khác.", "Thiết lập bài kiểm tra đóng băng backbone và huấn luyện head mới trên dữ liệu thiên lệch để đánh giá độ bền vững thực sự của biểu diễn đặc trưng.", "Ghi nhận mức tăng WGA ấn tượng trên nhiều benchmark: +26.0 pp trên UrbanCars, BFR+GroupDRO tăng WGA từ 40.7% lên 64.1% trên CelebA-Std, và +23.0 pp trên ImageNet synthetic-watermark."], "sub_category": "AI Robustness & Representation Learning", "novelty_score": 75, "business_score": 58, "research_score": 82, "why_it_matters": "Độ chính xác worst-group thông thường chỉ phản ánh hiệu năng của bộ dự đoán tĩnh mà không thể hiện hành vi của backbone đóng băng khi được tái huấn luyện head trên dữ liệu mới. BiasFlow kết hợp công cụ giám sát hình học và hàm phạt BFR giúp các kỹ sư ML xây dựng biểu diễn bền vững hơn trước dữ liệu thiên lệch, hỗ trợ tái sử dụng pre-trained embeddings an toàn trong thực tế.", "developer_score": 72, "importance_score": 74, "possible_use_cases": ["Kiểm tra và giám sát hiện tượng phụ thuộc thuộc tính giả trong embedding/backbone của mô hình thị giác máy tính trước khi chuyển giao downstream.", "Kết hợp BFR vào quy trình huấn luyện GroupDRO hoặc ERM để cải thiện worst-group accuracy mà không làm suy giảm hiệu năng trung bình.", "Tái huấn luyện classification head trên tập dữ liệu bị mất cân bằng hoặc thiên lệch mà vẫn giữ được độ chính xác ở các nhóm yếu thế.", "Đánh giá và giảm thiểu rủi ro shortcut learning (như watermark shifts) trong các bài toán phân loại ảnh."], "actionability_score": 70}