ホーム » junko.hosoda の投稿 (ページ 7)

作者アーカイブ: junko.hosoda

Lassoの最適化アルゴリズムの考察

こんにちは。前回の最後に、 – Coordinate descent（座標降下法） – ISTA (メジャライザー最小化) – FISTA (高速化) の3つの最適化方法を紹介しまし […]

こんにちは。 Lassoでスパース、スパースと言ってましたが実際はスパース推定という言葉がよく使われます。これについての説明を軽くしてからGroup lassoの紹介をします。スパース推定とはスパースは” […]

こんにちは。その１でラッソの概要と大きな特徴であるスパース性を確認しました。今回からはラッソ実装に向けて数学を頑張りましょう。 Notationのについて Obj (objective function) OLS ( […]

こんにちは。素人にfish_shellは無理でした。kzです。リッジが終わりましたね。ついに来ましたラッソ最近色々ラッソについて調べていたんですが、微分不可能な関数の最適化ってやっぱ難しいですね。機械学習において […]

こんにちは。本日はRidge回帰の実装とパラメータの交差検証を行いましょう。色々やっていると少し長くなりましたがお許しください。 View the code on Gist. 最後の２セルはinteractを使ったん […]

こんにちは。料理にはまっているkzです。本日はリッジ回帰行きましょう。次回実装します。? Ridge Regression 過学習を防ごうということで導入された正則化回帰の一例。 – 正則化項を使用した回 […]

こんにちは。前回、交差検証というワードに触れ、その図を確認して終わりました。今回はその交差検証をしっかりと理解しましょう。 What is Cross-Validation? モデルの誤差値を検証することこの精度であ […]

こんにちは。正則化パート２ですね。前回の最後に Ridge Regression (Tikhonov regularization) Lasso Regression を例に出しました。今回はこれらを用いて正則化につい […]