ホーム » 「KL」タグがついた投稿

タグアーカイブ: KL

なぜKLを最小化するのか?

こんにちは。 本日は機械学習をやっていると必ず出てくるカルバックライブラーダイバージェンスについてです。分布間の似通いを測るこの指標を最小化したい!ということがよくあります。しかし、それはクロスエントロピー最小化と同値関 […]

Continue Reading →

KLとNLLの関係とか

こんにちは。 本日はカルバックライブラーを噛み砕いてみて行こうと思います。前回エントロピーについての記事を書いたのでそっちを一読してからまたはこっちを読んでからあっちを読めば理解が深まるかと思います。ひとまず、定義を、Q […]

Continue Reading →