Warum zeigt der Gradient in Richtung des stärksten Anstiegs?
-
Hallo,
warum zeigt der Gradient immer in die Richtung des stärksten Anstiegs?
-
Angenommen du stehst am Punkt x und suchst eine Richtung v, so dass die Richtungsableitung $$\nabla f(x)^T v$$ maximal wird. Nach der Ungleichung von Cauchy-Schwarz ist $$\nabla f(x)^T v \leq ||\nabla f(x)|| \cdot ||v||$$ mit Gleichheit und damit Maximalität, wenn v und der Gradient linear abhängig sind, d.h. $$v = \lambda \nabla f(x)$$, also $$\lambda = \frac{||v||}{||\nabla f(x)||} > 0$$. Normierst du v noch auf Länge 1 bekommst du $$v = \frac{\nabla f(x)}{||\nabla f(x)||}$$.