ホーム » その他 » ねぇPython、差分法って何？（理論編）

ねぇPython、差分法って何？（理論編）

投稿者: junko.hosoda in その他投稿日: 2018-10-24

こんにちは。

今回のテーマは「微分」です。高校生に戻りましょう。微分の定義を覚えていますか？ $x^2$ の微分は $2x$ ですよね。これを定義により確認しましょう。微分したい関数を $f(x)$ とするとその微分は次のような定義でした。

$f'(x) = \lim_{\delta h \rightarrow 0} \frac{f(x+\delta h) - f(x)}{\delta h}$

そうです。これを使って微分を計算するのが差分法です。僕はこれを先生に教えてもらったのですが調べてみると微分方程式を解くための方法なんですね。どちらが正しいかわかりませんがとりあえず微分の定義により微分を計算することを差分法というのでしょう。

では次の微分を考えてみましょう。

$\begin{align*} \sigma(x) = \frac{1}{1+e^{-x}} \end{align*}$

では微分していきましょう。

$\begin{align*} \frac{d}{dx} \sigma (x) &= - (1+e^{-x})^{-2} (-e^{-x}) \\ &= \left( \frac{1}{1+e^{-x}} \right) \left( \frac{e^{-x}}{1+e^{-x}} \right) \\ &= \frac{1}{1+e^{-x}} \left( 1 - \frac{1}{1+e^{-x}} \right) = \sigma(x)(1- \sigma(x)) \end{align*}$