最近の人工ニューラルネットワーク（ANNs）を基にしたアプローチは、短文分類において有望な結果を示しています。しかし、多くの短文は系列として現れます（例えば、文書内の文章や対話内の発話など）が、既存の大多数のANNを基にしたシステムでは、次の短文を分類する際に先行する短文を利用していないのが現状です。本研究では、リカレントニューラルネットワークと畳み込みニューラルネットワークを組み合わせたモデルを提案し、このモデルでは先行する短文も考慮に入れる仕組みとなっています。我々のモデルは、対話行為予測に関する3つの異なるデータセットで最先端の結果を達成しました。