다단계 오류 최소화

다단계 오류 최소화(MEM)는 2024년 중국과학원 정보공학연구소, 난양기술대학, 싱가포르국립대학, 중산대학이 공동으로 발표한 논문 “다중 모드 학습 불가능 사례: 다중 모드 대조 학습으로부터 데이터 보호"는 학습 불가능한 다중 모드 예제를 생성하기 위한 새로운 최적화 절차를 제안했습니다. 이는 이미지 노이즈와 추가 텍스트 트리거를 최적화하기 위해 오류 최소화(EM) 프레임워크를 확장하여 최적화 공간을 확대하고, 모델이 노이즈 특징과 텍스트 트리거 사이의 지름길을 학습하도록 유도합니다.

연구팀은 노이즈 최소화 문제를 해결하기 위해 투영 경사 하강법을 채택하고 HotFlip을 사용하여 경사도를 근사화하고 단어를 대체하여 최상의 텍스트 트리거를 찾았습니다. 광범위한 실험을 통해 MEM의 효과성이 입증되었으며, 보호 후 검색 결과는 무작위 추측의 거의 절반 수준이며, 다양한 모델 간에 높은 이식성을 보입니다.