HyperAI초신경

접목

그래프팅은 2025년 스탠포드 대학의 한 팀이 제안한 사전 훈련된 확산 변압기(DiT)를 편집하는 간단한 방법으로, 적은 컴퓨팅 예산만 필요합니다.접목을 통한 확산 변압기 설계 탐색"

접목의 구체적인 과정은 다음과 같습니다.

활성화 증류: 원래 연산자의 기능을 새로운 연산자로 옮기고 회귀 목표를 통해 활성화 값을 증류합니다.
가벼운 미세 조정: 제한된 데이터로 종단 간 미세 조정을 수행하여 여러 새로운 연산자를 통합함으로써 발생하는 오류 확산을 완화합니다.