Les grands modèles de langage (Large Language Models) peinent à faire face aux exigences de mémoire croissantes liées au cache clé-valeur (KV) lorsque la longueur du contexte s'accroît. Les méthodes de compression existantes homogénéisent les dimensions des têtes ou s'appuient sur l'élagage guidé par l'attention, souvent au détriment de la précision ou en introduisant un surcoût computationnel. Nous proposons FourierAttention, un cadre sans apprentissage qui exploite les rôles hétérogènes des dimensions des têtes des transformateurs : les dimensions inférieures privilégient le contexte local, tandis que les dimensions supérieures capturent les dépendances à longue portée. En projetant les dimensions insensibles au contexte long sur des bases de Fourier orthogonales, FourierAttention approxime leur évolution temporelle avec des coefficients spectraux de longueur fixe. Les évaluations sur les modèles LLaMA montrent que FourierAttention atteint la meilleure précision pour le contexte long sur LongBench et Needle-In-A-Haystack (NIAH). De plus, un noyau Triton personnalisé, FlashFourierAttention, a été conçu pour optimiser la mémoire grâce à des opérations de lecture-écriture simplifiées, permettant une mise en œuvre efficace sans compromettre les performances.