限られたデータを十分に活用する：無線通信およびセンシングにおけるCSI時間系列アプリケーションのBERTインスパイアード手法

チャネル状態情報（CSI）は、無線通信システムとセンシングシステムの両方において基盤的な役割を果たしています。無線通信システムでは、CSIがチャネル状態に関する重要な洞察を提供し、チャネル補償や動的リソース割り当てなどのシステム最適化を可能にします。しかし、CSI推定アルゴリズムの高い計算複雑さは、高速な深層学習手法の開発を必要としています。無線センシングシステムでは、CSIを利用して環境変化を推測することができ、ジェスチャー認識や人物識別など様々な機能を実現できます。これらの細かいCSI分類タスクにおいて、深層学習手法はモデルベースアプローチに対して著しい優位性を示しています。特に異なるシナリオ間でクラスが変動する場合にその効果が顕著です。しかし、無線システム用の深層学習ネットワークの訓練における大きな課題はデータの限られた可用性であり、多くの公開データセットが多様な形式を持つことで統合が困難になっています。さらに、CSIデータの収集には多くの時間と人的資源が必要となるため、リソース負荷が高いという問題もあります。これらの課題に対処するために、我々はCSI-BERT2を提案します。この手法は事前学習と微調整アプローチを通じて限られたデータを効果的に利用します。CSI-BERT1に基づいてモデルアーキテクチャを強化し、サブキャリアとタイムスタンプ情報をよりよく捉えるために適応再重み付け層（Adaptive Re-Weighting Layer: ARL）とマルチレイヤーパーセプトロン（Multi-Layer Perceptron: MLP）を導入しました。これにより順列不変性問題（permutation-invariance problem）を効果的に解決しています。また、我々はマスク予測モデル（Mask Prediction Model: MPM）による微調整手法も提案しており、これによりCSI予測タスクに対するモデルの適応性が向上します。実験結果は、CSI-BERT2がすべてのタスクにおいて最先端の性能を達成していることを示しています。