Pytorch：CNNで文字表現の抽出

NLPにCNNを利用したモデルはすっかり当たり前になりました。少し前に「CNNでテキスト分類」という記事を書きましたが、その時はPytorchでCNNを扱うための基本的なコードだけに留まっていました。 kento1109.hatenablog.com今回はNERなどで用いられる文字情…

2018-05-27

Pytorch：CNNでテキスト分類

CNN PyTorch

はじめにかなり前にTheanoでの実装例を解説した。TheanoでSentiment analysis (CNN)① - 機械学習・自然言語処理の勉強メモ今回は、Pytorchでの実装例を解説する。下記のコードを実装例としてみていく。 github.com前処理や学習のところは今回の本質ではない…

2017-11-14

TheanoでSentiment analysis (CNN)②

CNN Theano 論文

前回でマックスプーリングまでの層の定義をまとめた。 kento1109.hatenablog.com 今回は、MLP層についてまとめる。 MLPDropput ここに書いたこととほとんど同じ。 kento1109.hatenablog.com 呼び出し側 classifier = MLPDropout(rng, input=layer1_input, la…

2017-11-14

TheanoのLeNetConvPoolLayerについて

Theano CNN DeepLearning 0.1

Theano(LeNetConvPoolLayer) LeNetConvPoolLayerクラスのチュートリアルはここ。 Convolutional Neural Networks (LeNet) — DeepLearning 0.1 documentation 論文の実装をするときは、このクラスを元に実装するのが正攻法だと思う。なんで、LeNetConvPoolLa…

2017-11-14

TheanoでSentiment analysis (CNN)①

Theano CNN 論文

Sentiment analysis TheanoでCNNによるSentiment analysisのコードを読む。コードは github.com process_data.py ここは前処理。Theanoでの処理もない。この前処理でどういうデータセットが出来るかを押さえる。cPickleで保存する変数は、revs, W, W2, wor…