ホーム » 「勾配法」タグがついた投稿

タグアーカイブ: 勾配法

Pythonでやる多次元ニュートン法

こんにちは。以前、ニュートン法について述べましたが１次元でした。やっぱり多次元じゃないとあんまりスキルアップにならないですよね。ということでやります。ちなみに差分法を使います。しかし、この記事で初めてニュートン法を知る […]

こんにちは。久しぶりの投稿になりました。本日の内容はタイトル通りです。線形回帰とかの目的関数って最適解を持ちましたね。しかし、ニューラルネットワークはそうはいかないと言いました。つまり、目的関数が凸関数ではない可 […]

こんちには。良いバックパックがほしい、そんな日々が続きます。僕は機械学習を勉強してきていろんなアルゴリズムを使ってきました。その都度いろいろなデータ触れてきました。そもそもデータをそのままアルゴリズムに突っ込むのは正 […]

こんにちは。本日は勾配法の実装です。まずは軽く復習しましょう。まず勾配とは関数の変化量が最も大きい方法でしたね。そして勾配法とは勾配を用いて目的関数の極値を探る方法でした。最終的に得られるのは学習させたいパラメータで […]

こんにちは。今回のテーマは「勾配法（Gradient Method）」です。これは関数の極値を求める手法です。いきなりですがその多種多様な具体的手法をみてみましょう。 Gradient descent (ascent) […]