HyperAIHyperAI
il y a 17 jours

Transitions de phase 0-1 dans l'estimation de matrices éparse à pic

Jean Barbier, Nicolas Macris
Transitions de phase 0-1 dans l'estimation de matrices éparse à pic
Résumé

Nous considérons des modèles statistiques d'estimation d'une matrice de rang un (le « spike ») perturbée par une matrice de bruit gaussien additif dans la limite creuse. Dans cette limite, le vecteur caché sous-jacent (qui construit la matrice de rang un) possède un nombre de composantes non nulles qui croît de manière sous-linéaire par rapport à la dimension totale du vecteur, tandis que la force du signal tend vers l'infini à une vitesse appropriée. Nous établissons des formules variationnelles explicites à faible dimension pour l'information mutuelle asymptotique entre le spike et la matrice bruitée observée, dans des limites creuses adaptées. Pour des vecteurs distribués selon des lois de Bernoulli ou de Bernoulli-Rademacher, et lorsque la densité creuse et la force du signal satisfont une relation d'échelle appropriée, ces formules impliquent des transitions de phase aiguës 0-1 pour l'erreur quadratique moyenne asymptotique. Une transition de phase similaire a été récemment analysée dans le cadre de la régression linéaire haute dimensionnelle creuse (détection compressée).

Transitions de phase 0-1 dans l'estimation de matrices éparse à pic | Articles de recherche récents | HyperAI