제한된 데이터를 충분히 활용하는 방법: 무선 통신 및 센싱에서 CSI 시계열 응용을 위한 BERT에서 영감을 받은 접근법

채널 상태 정보(CSI)는 무선 통신 시스템과 센싱 시스템 모두에서 핵심적인 역할을 합니다. 무선 통신 시스템에서는 CSI가 채널 조건에 대한 필수적인 인사이트를 제공하여 채널 보상 및 동적 자원 할당 등의 시스템 최적화를 가능하게 합니다. 그러나 CSI 추정 알고리즘의 높은 계산 복잡도는 CSI 예측을 위한 빠른 딥러닝 방법의 개발을 요구합니다. 무선 센싱 시스템에서는 CSI가 환경 변화를 추론하는 데 활용될 수 있어 제스처 인식 및 사람 식별 등 다양한 기능을 지원합니다. 딥러닝 방법은 이러한 세부적인 CSI 분류 작업에서 모델 기반 접근 방식보다 상당한 이점을 보여주었으며, 특히 클래스가 다양한 시나리오에 따라 달라지는 경우에 더욱 그렇습니다. 그러나 무선 시스템용 딥러닝 네트워크를 훈련시키는 주요 과제 중 하나는 데이터의 한정된 가용성입니다. 이 문제는 많은 공개 데이터셋이 다양한 형식을 가지고 있어 통합을 어렵게 만드는 점으로 더욱 복잡해집니다. 또한, CSI 데이터 수집은 시간과 인력을 많이 필요로 하므로 자원 집약적이기도 합니다. 이러한 도전 과제들을 해결하기 위해, 우리는 CSI 예측 및 분류 작업에서 한정된 데이터를 효과적으로 활용할 수 있는 사전 학습 및 미세 조정 접근 방식을 통해 CSI-BERT2를 제안합니다. CSI-BERT1을 기반으로 하여, 서브캐리어와 타임스탬프 정보를 더 잘 포착하고 순서 불변성 문제(permutation-invariance problem)를 효과적으로 해결하기 위해 적응형 재가중층(Adaptive Re-Weighting Layer, ARL)과 다중층 퍼셉트론(Multi-Layer Perceptron, MLP)을 도입하여 모델 구조를 개선했습니다. 또한, 우리는 마스크 예측 모델(Mask Prediction Model, MPM) 미세 조정 방법을 제안하여 CSI 예측 작업에 대한 모델의 적응성을 개선하였습니다. 실험 결과는 CSI-BERT2가 모든 작업에서 최고 수준의 성능을 달성함을 입증하고 있습니다.