充分挖掘有限数据：一种受BERT启发的CSI时间序列在无线通信和感知中的应用方法

信道状态信息（CSI）是无线通信和感知系统中的基石。在无线通信系统中，CSI 提供了关于信道条件的重要见解，使得系统可以进行诸如信道补偿和动态资源分配等优化。然而，CSI 估计算法的高计算复杂度需要开发快速的深度学习方法来进行 CSI 预测。在无线感知系统中，CSI 可以用于推断环境变化，从而实现多种功能，包括手势识别和人员识别。深度学习方法在这些细粒度的 CSI 分类任务中表现出显著优势，尤其是在不同场景下类别有所变化时。然而，训练用于无线系统的深度学习网络面临的主要挑战之一是数据的有限可用性，这一问题因许多公开数据集格式多样而进一步复杂化，阻碍了数据的整合。此外，收集 CSI 数据可能非常耗费资源，需要大量时间和人力。为了解决这些挑战，我们提出了 CSI-BERT2 模型，通过预训练和微调的方法有效利用有限的数据。基于 CSI-BERT1 的基础上，我们通过引入自适应重加权层（Adaptive Re-Weighting Layer, ARL）和多层感知器（Multi-Layer Perceptron, MLP），增强了模型架构，更好地捕捉子载波和时间戳信息，有效解决了排列不变性问题。此外，我们提出了一种掩码预测模型（Mask Prediction Model, MPM）微调方法来提高模型在 CSI 预测任务中的适应性。实验结果表明，CSI-BERT2 在所有任务中均达到了最先进的性能。