Weight Saliency

SalUn: Gradient 기반 Weight Saliency를 활용한 이미지 분류 및 생성 머신 언러닝

기존의 Machine Unlearning (MU) 방법들은 정확도, 안정성, 그리고 교차 도메인 적용성에서 한계를 보입니다. 이러한 문제를 해결하기 위해 본 논문은 모델 설명 분야의 input saliency 개념에서 착안한 weight saliency라는 새로운 개념을 제안합니다. SalUn (Saliency Unlearning)이라 불리는 이 방법은 언러닝 대상을 전체 모델이 아닌 특정 가중치에 집중시켜 효율성과 효과를 높입니다. SalUn은 이미지 분류와 생성 두 가지 태스크 모두에서 잊고자 하는 데이터, 클래스, 또는 개념의 영향을 효과적으로 제거할 수 있는 최초의 원칙적 MU 접근법입니다. 특히, 조건부 diffusion model이 유해한 이미지를 생성하는 것을 방지하는 데 거의 100%의 언러닝 정확도를 달성하여 기존 SOTA 모델들을 능가하는 성능을 보입니다. 논문 제목: Salun: Empowering Machine Unlearning via Gradient-based Weight Saliency in Both Image Classification and Generation