HyperAI초신경

스쿼싱 기능

스퀴즈 기능다양한 입력 범위를 좁은 범위로 압축해 주는 기능입니다. 일반적으로 활성화 함수로 사용됩니다. 주로 두 가지 유형이 있습니다: 시그모이드 함수와 TANH 하이퍼볼릭 탄젠트 함수입니다.

시그모이드 함수는 (0,1) 구간에 광범위한 입력을 압축할 수 있는 일반적인 압축 함수입니다. 그 기능 표현과 형태는 다음과 같습니다.

TAHN 쌍곡탄젠트 함수는 시그모이드 함수의 변형입니다. 값의 범위는 [-1, 1]이고 정의역은 R입니다. 또한 일종의 압축 함수입니다.