機械学習・自然言語処理の勉強メモ

学んだことのメモやまとめ

2017-12-13から1日間の記事一覧

最大エントロピーモデル(対数線形モデル)について

最大エントロピー原理 概要は 確率変数 X について、 X が条件 I を満たす事だけが分かっており、それ以外に X に関して何1つ知らなかったとする。 X について条件 I 以外には何も知らないのだから、条件 I の下で X の「不確かさ」が最大(エントロピーが最…