ここでは で偏微分した場合を書いているが , などの座標変数で偏微分しても同じことが言える. 図3-22 原点に電荷qを置いた場合の等電位面（点線）と電場ベクトル（青矢印）。 ベクトル場の場合 ベクトル場の場合は変数が増えて となるだけだから ,計算内容は少しも変わらず ,全く同じことが成り立っている. 15 合成関数 スカラーの合成関数と似ているが、イメージと積の順番が逆で、この順番は変えられない。 図3-22でも示したように、原点に電位を置くと、図3-22中の点線で示したように、 等電位面が形成される。
15ベクトル解析において，３つの微分作用素• ここまで、導出できたところで、この勾配と言う概念の物理的意味意味を考えていく。
以下の5つの公式のうち2つ目と3つ目の式は、この定義に基づいた場合に導き出されるものです。
16 これは以下のように確認できる。
では、この勾配は物理的にはどう意味があるのか考えていく。
関連：、. ２行目から３行目で、第１項の微分記号を展開• 12 ベクトルをベクトルで微分 この場合、微分する変数側を行ベクトルとするか、微分される関数側を行ベクトルとするか2通りの表現があるが、ここでは変数側を行ベクトルとする。
ここまで順に読んできた読者はすでに偏微分の意味もナブラの定義も計算法も分かっているので ,不安に思ったら自力で確認することもできるだろう. ナブラ演算子はベクトルの「勾配・gradient」、「発散・divergence」、「回転・rotation」を記述するために用いられる。 計算のルールも記号の定義も勉強の仕方も全く分からないまま ,長い時間をかけて何となく経験的にやり方を覚えて行くという効率の悪いことをしていたので ,このように順番に説明を聞いた後で全く初めて公式の一覧を見た時に読者がどう感じるかというのが分からないのである. 偏微分でさえも分かった気がしないという感覚のままでナブラと向き合って見よう見まねで計算を進めているときの不安感というのは ,今思えば本当に馬鹿らしいものだった. ３行目から４行目で、第１項の微分係数をまとめた後、第１項と第２項を入れ替え 教科書（p. 発端は、書籍の、リカレントニューラルネットワークの誤差逆伝播に関する式なのですが、最終結果も途中計算もおかしいと思い、計算し直したことです。
そもそもこういうのは探究心が旺盛な人ならばここまでの知識を使って自力で発見して行けるものであろうし ,その結果は大切に自分のノートにまとめておくことだろう. が、これ以上は立ち入りません。
第2の定義で計算する もう1つの定義を使っても、当然結果は同じになります。
14 公式 一般形 単位行列 ベクトルを同じベクトルで微分すると、単位ベクトルではなく単位行列になる。
「この形には確か公式があったな」と思い出して ,その時に公式集を調べるくらいでもいいのだ. ベクトル に関数 が掛かっているものを微分するときには次のようになる. 11 なる数学的関係が得られます．最後の置き換えは積分の定義そのものです．これを ガウスの定理といい，体積積分を面積分に次元を落とす定理です．ここに， ｎは面Ｓに垂直な外向き法線（単位）ベクトルです． この定理に従えば， eq. しかし一目で明らかだと思えるものも多く混じっているし ,それほど負担にはならないのではないか ？それとも ,それが明らかだと思えるのは私が経験を通して徐々に得てきた感覚であって ,いきなり見せられた初学者にとってはやはり面食らうようなものであろうか ？ 私にとって公式集は長い間 ,目を逸らしたくなるようなものだったが ,それはその意味すら分からなかったせいである. y，z成分も同様です。
２つ目の等式はスカラーの等式• もっと、わかりやすく例えると、山に等高線を引いて、そこに水滴を垂らすと、水滴は等高線に沿って、垂直に流れていくというイメージである。
はじめに ディープラーニング関連の書籍に出てくるベクトルや行列を含む微分の計算について思うところを書いてみました。
ベクトル・行列のメモ 確率・統計・グラフィカル・あたりに出てきそうなベクトル・行列ののメモ 随時追加予定 参考：• 17 となります．右辺は面Ｓを通過しているｉなる量の全量であり，左辺は閉じた曲線Ｃに沿って回転する Ｈの全線積分を表わしています． 「 回転」という用語の意味はこの意味に他なりません． 電気学のヘッドラインページへ. コメントを少しずつ入れておいてやれば ,意味も分からないままに我武者羅に丸暗記するなどという苦行をしないで済むのではなかろうか. ベクトルはのは、積のと同じような形になります。
テンソル表記と言っても良いです。
行列Aを とすれば、 となりますから、 です。 計算をやっているうちに思った以下のようなことをまとめました。 など）になっているとき、ベクトルや行列の種々の微分公式が威力を発揮するのも確かです。
そのしわ寄せが 接続 に押し込まれている、と考えたらそりゃそうか。 ベクトルをベクトルで微分したものを行列として定義するときの方法が一意でない• 13 これは便宜的に以下のように考えるとよい。
ベクトル関数の2回以上の微分についても同様に各成分関数を微分するだけでよい。
この手の計算に慣れている立場からすると、普通、こういう場合は、ベクトルや行列を添字を使った成分表記して計算を進めます。
そして、元のベクトルの成分を行ラベルにして、双対な成分を列ラベルにする、というような約束をします。
ベクトルは原則として列ベクトル表示を標準とする。 積の微分公式• など）になっているとき、ベクトルや行列の種々の微分公式が威力を発揮するのも確かです。 ただし、途中経過が違います。
14これと直交するベクトルを求めるのが目標。 例えば粒子の現在位置や ,速度 ,加速度などを表すときには , のような ,変数が時間のみになっているようなベクトルを使う. ベクトルの微分は各成分ごとに微分すればOKです。
11 これは便宜的に以下のように考えるとよい。
もともと テンソルではなかったベクトル場の微分 を 共変微分を使って（むりやり）テンソルにした。
ニューラルネットの合成関数微分に関しては、合っていないと感じるということです。
14 図5 周回積分 ところで，上の図のように閉じた曲線Ｃを考え，この曲線を境界として囲まれた面積をＳとして，このＣ上及びＳ内で微分可能かつ連続なベクトル関数 Ｈを考えたとき， のような線積分を考えてみます．そこでいまＣの囲む面積Ｓの内部を図のように無数の長方形に分割します．その微小な長方形の一つを持ってきてｘｙ平面に射影したのが下の図です． 図 6 単位セルの周回積分 この図の微小長方形に沿って線積分を実行してみましょう． ところで，これは周回路のｘｙ平面への射影だけを取り上げましたが，一般的には全ての平面に射影されますので，それらをまとめますと一般に， のようになります． この結果を前の一般的な閉曲線Ｃに適用しますが，微小長方形の隣同志の線積分は相互に反対方向を向いていますから，打ち消し合ってしまいます．そして最終的に打ち消し合いが起こらないのは曲線Ｃに沿う部分だけです．ゆえに， （eq. テンソル表記で微分を計算すると、合成関数微分の公式通りの計算をすれば良いだけであり、混乱は生じません。 右辺の各項はベクトルまたは行列であり、積は交換できません。
19。
ただし常微分ではなく偏微分で表される必要があるからわざわざ書いておこう. 今回の式 2 、 8 は最小二乗法の解の導出に使用します。
例えば，法線ベクトルが分かれば接線の方程式が分かります。
注意 : ただし、微分対象となる関数が行列やベクトルを使った典型的な形（1次形式、2次形式、内積. しかし自分はそういうことはやらなかったし ,自力で出来るとも思えなかったし ,このようにして導いた結果が今後必要になるという見通しもなかったのである. 15） のような関係が得られます．最後の置き換えは積分の定義そのものです．これを ストークスの定理といい，面積分を線積分に次元を落とす定理です． いま， （eq. 和記号と添字の多さについては、ダミー添字と縮約の概念を知っておくと惑わされなくなります。
ここでk番目の成分 での微分を考えると、積の微分公式より となります。 ・ ベクトル関数 の微分は成分となる各関数を微分してあげればいい。 3行目から4行目はクロネッカーのデルタと縮約和が組み合わさったときの変形です。
14ただし、途中経過が違います。
また，法線ベクトルの他の応用としては平面の方程式が挙げられます。
9 これは便宜的に以下のように考えるとよい。
テンソル計算していて気持ち良い瞬間です。
ニューラルネットの合成関数微分に関しては、合っていないと感じるということです。 2次形式の微分 次に2次形式 の微分を考えます。 テンソル表記で微分を計算すると、合成関数微分の公式通りの計算をすれば良いだけであり、混乱は生じません。
はスカラになりますから、微分は式 1 の定義に従えばよいです。 １行目に、上で計算しておいた要素を代入• １行目から２行目では、積の微分をしている• 問題設定 冒頭に挙げた本の題材は、リカレントニューラルネットワークの Backpropagation through time BPTT の計算です。
17 積の微分 行列の積のスカラーによる微分 18 これは素直に次のように確認できる。
16） のような式を例としてこの式を式 13 に代入しますと， eq. 原点に電荷-qが置かれたこの系で勾配を計算すると、青の矢印で示した電場ベクトルが形成される。
4 のように表わすこともできます． ところで，旧い座標系 x,y,z で表わされるベクトル Ａを新しい座標系 x',y',z' 上で Ａ'として表現するとしますと， eq. テンソル表記と言っても良いです。
しかし公式をただ列挙されただけだと ,意味も検討しないで読み飛ばしたり ,パニックに陥って続きを読むのを諦めてしまったり ,「自分はこの辺りを理解できていない気がする」という不安をいつまでも背負い続けたりする人も出るに違いない. 注意してみると、この電場ベクトルは等電位面に垂直になることがわかる。 ．近似法 ［１］ 物理学で頻繁に出てくる位置ベクトルの関係した近似法についてまとめておきます。 和の微分公式• f r ＝ f x,y,z ＝ 1 ＝ 1 x 2＋y 2＋z 2 r とします。
2右辺の各項はベクトルまたは行列であり、積は交換できません。
ベクトルをベクトルで微分 １と２を組合せてみましょう。
7 8 スカラーをベクトルで微分 スカラーを のベクトルで微分すると、同じ次数のベクトルになる。
次回は を解説します。