句子状态LSTM用于文本表示

双向LSTM（Bi-directional LSTM）是文本表示的强大工具。然而，由于其顺序性质，它们在实践中表现出各种局限性。本文研究了一种替代的LSTM结构，用于编码文本，该结构为每个单词设置了一个并行状态。通过递归步骤同时进行单词之间的局部和全局信息交换，而不是逐步读取单词序列。在多个分类和序列标注基准测试中的结果表明，所提出的模型具有强大的表示能力，在参数数量相似的情况下，其性能与堆叠的双向LSTM模型相比具有高度竞争力。