Fonction de compressionIl s’agit d’une fonction qui compresse une large gamme d’entrées dans une plage plus petite. Il est généralement utilisé comme fonction d'activation. Il existe principalement deux types : la fonction sigmoïde et la fonction tangente hyperbolique TANH.

La fonction sigmoïde est une fonction de compression courante qui peut compresser une large gamme d'entrées dans l'intervalle (0,1). Son expression fonctionnelle et sa forme sont les suivantes :

La fonction tangente hyperbolique TAHN est une variante de la fonction sigmoïde. Sa plage de valeurs est [-1, 1] et son domaine est R. C'est aussi une sorte de fonction de compression.