2019.03.18

CNNの目的関数の考察と歴史

[latexpage] こんにちは。 久しぶりの投稿になりました。本日の内容はタイトル通りです。 線形回帰とかの目的関数って最適解を持ちましたね。 しかし、ニューラルネットワークはそうはいかない……

2019.02.25

Lassoの最適化アルゴリズムの考察

[latexpage] こんにちは。 前回の最後に、 - Coordinate descent（座標降下法） - ISTA (メジャライザー最小化) - FISTA (高速化) の3つの最適化方法を……

2019.02.21

Lassoの進化、Group Lassoとは

[latexpage] こんにちは。 Lassoでスパース、スパースと言ってましたが実際はスパース推定という言葉がよく使われます。これについての説明を軽くしてからGroup lassoの紹介をしま……

2019.02.19

Lassoを数式から実装まで(理論編)

[latexpage] こんにちは。 その１でラッソの概要と大きな特徴であるスパース性を確認しました。 今回からはラッソ実装に向けて数学を頑張りましょう。 Notationのについて Obj ……

2019.02.15

Lassoはなんでスパース？

[latexpage] こんにちは。 素人にfish_shellは無理でした。kzです。 リッジが終わりましたね。ついに来ました ラッソ 最近色々ラッソについて調べていたんですが、微分不可能な……

2019.02.12

PythonでRidgeを数式から実装する

[latexpage] こんにちは。 本日はRidge回帰の実装とパラメータの交差検証を行いましょう。 色々やっていると少し長くなりましたがお許しください。 https://gist.github……

2019.02.10

Ridgeを数式から実装まで(理論)

[latexpage] こんにちは。 料理にはまっているkzです。 本日はリッジ回帰行きましょう。次回実装します。🐷 Ridge Regression 過学習を防ごうということで導入された正則……

2019.02.06

交差検証(Cross-Validation)をPythonでやる

[latexpage] こんにちは。 前回、交差検証というワードに触れ、その図を確認して終わりました。今回はその交差検証をしっかりと理解しましょう。 What is Cross-Validati……