用于多标签临床文档分类的有效卷积注意力网络

多标签文档分类（Multi-label Document Classification, MLDC）问题具有挑战性，尤其在处理长文档、标签集合庞大且标签分布呈现长尾特征的情况下更为显著。本文提出了一种高效的卷积注意力网络，用于解决医学编码预测这一典型的MLDC问题。我们的创新主要体现在三个方面：（1）采用基于深度卷积的编码器结构，融合挤压-激励网络（Squeeze-and-Excitation Networks）与残差网络（Residual Networks），以实现对文档中跨区域文本信息的有效聚合，学习具有语义意义的文档表示；（2）引入多层与求和池化（sum-pooling）相结合的注意力机制，从多尺度表示中提取最具信息量的特征；（3）结合二元交叉熵损失（Binary Cross-Entropy Loss）与焦点损失（Focal Loss），显著提升对罕见标签的建模性能。我们在医学领域广泛应用的MIMIC-III数据集上开展评估，实验结果表明，所提模型在医学编码任务上优于现有方法，并在多个评价指标上达到新的最先进水平。此外，我们通过将其应用于两个非英文数据集，验证了该方法的语义独立性。实验结果表明，该模型在性能上显著优于先前最优模型以及多语言Transformer模型。