HyperAIHyperAI

Command Palette

Search for a command to run...

スライスト再帰型ニューラルネットワーク

Zeping Yu; Gongshen Liu

概要

再帰型ニューラルネットワーク(RNN)は、多くの自然言語処理タスクにおいて大きな成功を収めています。しかし、再帰構造のため並列化が困難であり、RNNの学習には多くの時間がかかっています。本論文では、シーケンスを多数の部分シーケンスに分割することで並列化可能なスライスト再帰型ニューラルネットワーク(SRNN)を紹介します。SRNNは、わずかな追加パラメータで複数の層を通じて高次情報を取り扱う能力を持っています。線形活性化関数を使用する場合、標準的なRNNはSRNNの特殊なケースであることを証明しています。再帰ユニットを変更せずに、SRNNは標準的なRNNよりも136倍速く動作し、より長いシーケンスを学習する際にはさらに高速になる可能性があります。6つの大規模な感情分析データセットでの実験結果から、SRNNが標準的なRNNよりも優れた性能を達成することが示されています。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています