Matter Mind Meaning

思ったことを忘れてしまわないように書き留める

2015-04-16から1日間の記事一覧

ニューラル言語モデルを高速化する2つの方法

ニューラル言語モデル(ニューラルネットワークによりn-gram確率を予測するモデル)は、2つの工夫をすることで、テスト時(学習が終わって、モデルを実際に使う段階)に高速化が可能である。 (1)出力層の正規化 ニューラル言語モデルは出力層にsoftmax関…