差分

| [[機械学習]] | [[数学]] | [[統計]] | [[ベイズ統計]] | [[データ解析]] | [[R]] | [[Anaconda]] | [[Python NumPy]] | [[TeX]] |

*配降下法では、ネットワーク内の全ての重みについて∂E∂Wを計算配降下法では、ネットワーク内の全ての重みについて<math>\frac{{\partial}E}{{\partial}W}</math>を計算しなければいけない*一度に計算するのではなく、出力層のニューロンから目的のニューロンまでの経路で得られる様々な偏微分の値を用いて計算を可能にする*具体的には「[https://manabitimes.jp/math/1303 連鎖律の原理]」という非常に強力な微分の法則を用いる*[https://manabitimes.jp/math/936 合成関数の微分]*具体例 <math>y(w_1,w_2) = ({w_1}{x_1} + {w_2}{x_2})^2</math> *<math>w_1,w_2</math>の関数を考えたとき<math>y(w_1,w_2)</math>を2つの関数の合計とみなす <math>y = s^2</math> <math>s = {w_1}{x_1} + {w_2}{x_2}</math> ===データの標準化===*勾配法によるパラーメータの更新は状況によってはなかなか収束しないことがある。*パラメータの収束を早める措置として標準化を行う。*標準化を行い、平均=0、標準偏差=1のデータに変換することで、データスケールを小さくする効果がある====[https://cognicull.com/ja/62vb4xyx 分散]====*[https://cognicull.com/ja/62vb4xyx 分散]*偏差平方和をデータの個数で割ったもの====[https://cognicull.com/ja/et7cim2q 標準偏差]====*[https://cognicull.com/ja/et7cim2q 標準偏差]*分散の平方根*データのばらつき具合を表しています。平均から大きく離れているデータが多ければ多いほど、標準偏差は大きくなります====標準化====*個々のデータの偏差が、標準偏差いくつ分かを求める*標準正規分布 <math>標準化 = \frac{データ - 平均}{標準偏差}</math>