近年来，长短时记忆网络（Long Short-Term Memory, LSTM）已成功应用于建模长度可变的序列数据。然而，LSTM在捕捉长距离依赖关系方面仍存在困难。在本研究中，我们通过引入动态跳过连接来缓解这一问题，该连接可以学习直接连接两个相关词汇。由于训练数据中没有依赖关系信息，我们提出了一种基于强化学习的新方法来建模依赖关系并连接相关词汇。所提出的模型根据跳过连接计算递归转换函数，这为总是按顺序处理整个句子的循环神经网络（Recurrent Neural Networks, RNNs）提供了动态跳过的优点。我们在三个自然语言处理任务上的实验结果表明，所提出的方法比现有方法具有更好的性能。在数字预测实验中，所提出的模型在准确性上比LSTM提高了近20%。