勾配ベクトルとヘッセ行列

勾配ベクトル

定義（勾配ベクトル）

関数 \(f(\boldsymbol{x})=f(x_1,\cdots,x_n)\) が \(f\) の定義域上の点 \(\boldsymbol{a}\) で偏微分可能であるとき

\[ \nabla f(\boldsymbol{a}):=\begin{bmatrix} f_{x_1}(\boldsymbol{a}) \\ \vdots \\ f_{x_n}(\boldsymbol{a}) \end{bmatrix} \]

を \(f\) の点 \(\boldsymbol{a}\) における勾配ベクトルという。

記号 \(\nabla\) はナブラと読みます。また、\(\nabla f(\boldsymbol{a})\) は \(\operatorname{grad}f(\boldsymbol{a})\) とも書かれます。

ヘッセ行列

関数 \(f\) のある点での2階偏微分係数を並べた行列をヘッセ行列といい、次のように定義されます。

定義（ヘッセ行列）

関数 \(f(\boldsymbol{x})=f(x_1,\cdots,x_n)\) が \(f\) の定義域上の点 \(\boldsymbol{a}\) で2階偏微分可能であるとき

\[ \nabla^2 f(\boldsymbol{a}):= \begin{bmatrix} f_{x_1x_1}(\boldsymbol{a}) & \cdots & f_{x_1x_n}(\boldsymbol{a}) \\ \vdots & \ddots & \vdots \\ f_{x_nx_1}(\boldsymbol{a}) & \cdots & f_{x_nx_n}(\boldsymbol{a}) \end{bmatrix} \]

を \(f\) の点 \(\boldsymbol{a}\) におけるヘッセ行列という。

\(\nabla^2 f(\boldsymbol{a})\) は \(H_f(\boldsymbol{a})\) とも書かれます。