Exploitation suffisante de données limitées : une approche inspirée de BERT pour les séries temporelles CSI dans la communication et la détection sans fil

Les informations sur l'état du canal (CSI) constituent la pierre angulaire des systèmes de communication sans fil et de détection. Dans les systèmes de communication sans fil, la CSI fournit des insights essentiels sur les conditions du canal, permettant des optimisations du système telles que la compensation du canal et l'allocation dynamique des ressources. Cependant, la haute complexité algorithmique de l'estimation de la CSI nécessite le développement de méthodes d'apprentissage profond rapides pour prédire la CSI. Dans les systèmes de détection sans fil, la CSI peut être exploitée pour inférer les changements environnementaux, facilitant diverses fonctions, notamment la reconnaissance de gestes et l'identification des personnes. Les méthodes d'apprentissage profond ont montré des avantages significatifs par rapport aux approches basées sur des modèles dans ces tâches de classification fines de la CSI, en particulier lorsque les classes varient selon différents scénarios. Cependant, un défi majeur dans l'entraînement des réseaux d'apprentissage profond pour les systèmes sans fil est la disponibilité limitée des données, compliquée davantage par les formats diversifiés de nombreux jeux de données publics qui entravent leur intégration. De plus, la collecte de données CSI peut être très coûteuse en termes de ressources, nécessitant beaucoup de temps et d'effectifs. Pour relever ces défis, nous proposons CSI-BERT2 pour les tâches de prédiction et de classification de la CSI, utilisant efficacement des données limitées grâce à une approche d'entraînement préalable et d'affinage. En nous appuyant sur CSI-BERT1, nous améliorons l'architecture du modèle en introduisant une couche d'adaptation pondérée (Adaptive Re-Weighting Layer - ARL) et un perceptron multicouche (Multi-Layer Perceptron - MLP) afin de mieux capturer les informations relatives aux sous-porteurs et aux horodatages, résolvant ainsi efficacement le problème d'invariance par permutation. De plus, nous proposons une méthode d'affinage basée sur un modèle de prédiction masquée (Mask Prediction Model - MPM) pour améliorer l'adaptabilité du modèle aux tâches de prédiction de la CSI. Les résultats expérimentaux montrent que CSI-BERT2 atteint des performances à l'état de l'art dans toutes les tâches.