Interested Article - Метод простой итерации

Метод простой итерации — один из простейших численных методов решения уравнений . Метод основан на принципе сжимающего отображения , который применительно к численным методам в общем виде также может называться методом простой итерации или методом последовательных приближений . В частности, для систем линейных алгебраических уравнений существует аналогичный метод итерации .

Идея метода

Идея метода простой итерации состоит в том, чтобы уравнение f ( x ) = 0 {\displaystyle f(x)=0} привести к эквивалентному уравнению

x = φ ( x ) {\displaystyle x=\varphi (x)} ,

так, чтобы отображение φ ( x ) {\displaystyle \varphi (x)} было сжимающим. Если это удаётся, то последовательность итераций x i + 1 = φ ( x i ) {\displaystyle x_{i+1}=\varphi (x_{i})} сходится. Такое преобразование можно делать разными способами. В частности, сохраняет корни уравнение вида

φ ( x ) = x λ ( x ) f ( x ) , {\displaystyle \varphi (x)=x-{\lambda }(x)f(x)\!,}

если λ ( x ) 0 {\displaystyle {\lambda }(x)\neq 0} на исследуемом отрезке. Оптимальным выбором является λ ( x ) = 1 f ( x ) {\displaystyle \lambda (x)={\frac {1}{f'(x)}}} , что приводит к методу Ньютона , который является быстрым, но требует вычисления производной. Если в качестве λ ( x ) {\displaystyle \lambda (x)} выбрать константу того же знака, что и производная в окрестности корня, то мы получаем простейший метод итерации.

Описание

В качестве функции λ ( x ) {\displaystyle {\lambda }(x)} берут некоторую постоянную λ 0 {\displaystyle {\lambda }_{0}} , знак которой совпадает со знаком производной f ( x ) {\displaystyle f'(x)} в некоторой окрестности корня (и, в частности, на отрезке, соединяющем x 0 {\displaystyle x_{0}} и x {\displaystyle x^{*}} ). Постоянная λ 0 {\displaystyle {\lambda }_{0}} обычно не зависит и от номера шага. Иногда берут λ 0 = 1 f ( x 0 ) {\displaystyle {\lambda }_{0}={\frac {1}{f'(x_{0})}}} и называют этот метод методом одной касательной . Формула итераций оказывается предельно простой:

x i + 1 = x i λ 0 f ( x i ) , {\displaystyle \displaystyle x_{i+1}=x_{i}-{\lambda }_{0}f(x_{i})\!,}

и на каждой итерации нужно один раз вычислить значение функции f ( x ) {\displaystyle f(x)} .

Эта формула, а также требование совпадения знаков f {\displaystyle f'} и λ 0 {\displaystyle {\lambda }_{0}} легко выводятся из геометрических соображений. Рассмотрим прямую, проходящую через точку ( x i ; f ( x i ) ) {\displaystyle (x_{i};f(x_{i}))} на графике y = f ( x ) {\displaystyle y=f(x)} с угловым коэффициентом tan α = 1 λ 0 {\displaystyle \tan \nolimits \alpha ={\frac {1}{\lambda }}_{0}} . Тогда уравнением этой прямой будет

y = f ( x i ) + 1 λ 0 ( x x i ) . {\displaystyle \displaystyle y=f(x_{i})+{\frac {1}{{\lambda }_{0}}}(x-x_{i}).}
Иллюстрация последовательных приближений метода простой итерации.

Найдём точку пересечения этой прямой с осью O X {\displaystyle OX} из уравнения

f ( x i ) + 1 λ 0 ( x x i ) = 0 , {\displaystyle \displaystyle f(x_{i})+{\dfrac {1}{{\lambda }_{0}}}(x-x_{i})=0,}

откуда x = x i λ 0 f ( x i ) = x i + 1 {\displaystyle x=x_{i}-{\lambda }_{0}f(x_{i})=x_{i+1}} . Следовательно, эта прямая пересекает ось O X {\displaystyle OX} как раз в точке следующего приближения. Тем самым получаем следующую геометрическую интерпретацию последовательных приближений. Начиная с точки x 0 {\displaystyle x_{0}} , через соответствующие точки графика y = f ( x ) {\displaystyle y=f(x)} проводятся прямые с угловым коэффициентом k = 1 λ 0 {\displaystyle k={\dfrac {1}{{\lambda }_{0}}}} того же знака, что производная f ( x 0 ) {\displaystyle f'(x_{0})} . (Заметим, что, во-первых, значение производной вычислять не обязательно, достаточно лишь знать, убывает функция f ( x ) {\displaystyle f(x)} или возрастает; во-вторых, что прямые, проводимые при разных x i {\displaystyle x_{i}} , имеют один и тот же угловой коэффициент k {\displaystyle k} и, следовательно, параллельны друг другу.) В качестве следующего приближения к корню берётся точка пересечения построенной прямой с осью O X {\displaystyle OX} .

На чертеже справа изображены итерации при f ( x ) > 0 {\displaystyle f'(x)>0} в случае k = 1 λ 0 < f ( x 0 ) {\displaystyle k={\dfrac {1}{{\lambda }_{0}}}<f'(x_{0})} и в случае k = 1 λ 0 > f ( x 0 ) {\displaystyle k={\dfrac {1}{{\lambda }_{0}}}>f'(x_{0})} . Мы видим, что в первом случае меняющаяся точка x i {\displaystyle x_{i}} уже на первом шаге «перепрыгивает» по другую сторону от корня x {\displaystyle x^{*}} , и итерации начинают приближаться к корню с другой стороны. Во втором случае последовательные точки x i {\displaystyle x_{i}} приближаются к корню, оставаясь всё время с одной стороны от него.

Условие сходимости

Достаточное условие сходимости таково:

| φ ( x ) | = | 1 λ 0 f ( x ) | γ < 1. {\displaystyle \displaystyle \vert {\varphi }'(x)\vert =\vert 1-{\lambda }_{0}f'(x)\vert \leqslant {\gamma }<1.}

Это неравенство может быть переписано в виде

γ + 1 λ 0 f ( x ) γ + 1 , {\displaystyle \displaystyle -{\gamma }+1\leqslant {\lambda }_{0}f'(x)\leqslant {\gamma }+1,}

откуда получаем, что сходимость гарантируется, когда, во-первых,

λ 0 f ( x ) > 0 , {\displaystyle \displaystyle {\lambda }_{0}f'(x)>0,}

так как γ + 1 > 0 {\displaystyle -{\gamma }+1>0} (тем самым проясняется смысл выбора знака числа λ 0 {\displaystyle {\lambda }_{0}} ), а во-вторых, когда λ 0 f ( x ) < 2 {\displaystyle {\lambda }_{0}f'(x)<2} при всех x {\displaystyle x} на всём рассматриваемом отрезке, окружающем корень. Это второе неравенство заведомо выполнено, если

| k | = 1 | λ 0 | > M 1 2 , {\displaystyle \displaystyle \vert k\vert ={\dfrac {1}{\vert {\lambda }_{0}\vert }}>{\dfrac {M_{1}}{2}},}

где M 1 = max x | f ( x ) | {\displaystyle M_{1}=\max \limits _{x}\vert f'(x)\vert } . Таким образом, угловой коэффициент k {\displaystyle k} не должен быть слишком мал по абсолютной величине: при малом угловом коэффициенте уже на первом шаге точка x 1 {\displaystyle x_{1}} может выскочить из рассматриваемой окрестности корня x {\displaystyle x^{*}} , и сходимости к корню может не быть.

Примечания

  1. . — М. : «Сов. энциклопедия » , 1988. — С. .

См. также

Same as Метод простой итерации