Система нелинейных уравнений имеет вид:

Здесь - неизвестные переменные, а система (7) называется нормальной системой порядка, если хотя бы одна из функций нелинейна.

Решение систем нелинейных уравнений - одна из трудных задач вычислительной математики. Трудность состоит в том, чтобы определить: имеет ли система решение, и, если - да, то сколько. Уточнение решений в заданной области - более простая задача.

Пусть функции определены в областях. Тогда область и будет той областью, где можно найти решение. Наиболее распространенными методами уточнения решения являются метод простых итераций и метод Ньютона.

Метод простых итераций для решения систем нелинейных уравнений

Из исходной системы (7) путем эквивалентных преобразований переходим к системе вида:

Итерационный процесс, определяемый формулами

можно начать, задав начальное приближение. Достаточным условием сходимости итерационного процесса является одно из двух условий:

Распишем первое условие:

Распишем второе условие:

Рассмотрим один из способов приведения системы (7) к виду (8), допускающему сходящиеся итерации.

Пусть задана система второго порядка вида:

Требуется привести ее к виду:

Умножим первое уравнение системы на неизвестную постоянную, второе - на, затем сложим их и добавим в обе части уравнения. Получим первое уравнение преобразованной системы

Неизвестные постоянные определим из достаточных условий сходимости

Запишем эти условия более подробно:

Полагая равными нулю выражения под знаком модуля, получим систему из четырех уравнений с четырьмя неизвестными для определения постоянных:

При таком выборе параметров условия сходимости будут соблюдены, если частные производные функций и будут изменяться не очень быстро в окрестности точки.

Чтобы решить систему, нужно задать начальное приближение и вычислить значения производных и, в этой точке. Вычисление осуществляется на каждом шаге итераций, при этом,.

Метод простых итераций является самоисправляющимся, универсальным и простым для реализации на ЭВМ. Если система имеет большой порядок, то применение данного метода, имеющего медленную скорость сходимости, не рекомендуется. В этом случае, используют метод Ньютона, который имеет более быструю сходимость.

Метод Ньютона для решения систем нелинейных уравнений

Пусть требуется решить систему нелинейных уравнений вида (7). Предположим, что решение существует в некоторой области, в которой все функции непрерывны и имеют, по крайней мере, первую производную. Метод Ньютона представляет собой итерационный процесс, который осуществляется по определенной формуле следующего вида:

Трудности при использовании метода Ньютона:

существует ли обратная матрица?

не выходит ли за пределы области?

Модифицированный метод Ньютона облегчает первую задачу. Модификация состоит в том, что матрица вычисляется не в каждой точке, а лишь в начальной. Таким образом, модифицированный метод Ньютона имеет следующую формулу:

Но ответа на второй вопрос, модифицированный метод Ньютона не дает.

Итерационный процесс по формулам (8) или (10) заканчивается, если выполняется следующее условие

Достоинством метода Ньютона является его быстрая сходимость по сравнению с методом простых итераций.

Решение нелинейных уравнений

Пусть требуется решить уравнение

Где
– нелинейная непрерывная функция.

Методы решения уравнений делятся на прямые и итерационные. Прямые методы – это методы, позволяющие вычислить решение по формуле (например, нахождение корней квадратного уравнения). Итерационные методы – это методы, в которых задается некоторое начальное приближение и строится сходящаяся последовательность приближений к точному решению, причем каждое последующее приближение вычисляется с использованием предыдущих

Полное решение поставленной задачи можно разделить на 3 этапа:

Установить количество, характер и расположение корней уравнения (1).

Найти приближенные значения корней, т.е. указать промежутки, в которых наудится корни (отделить корни).

Найти значение корней с требуемой точностью (уточнить корни).

Существуют различные графические и аналитические методы решения первых двух задач.

Наиболее наглядный метод отделения корней уравнения (1) состоит в определении координат точек пересечения графика функции
с осью абсцисс. Абсциссы точек пересечения графика
с осью
являются корнями уравнения (1)

Промежутки изоляции корней уравнения (1) можно получить аналитически, опираясь на теоремы о свойствах функций, непрерывных на отрезке.

Если, например, функция
непрерывна на отрезке
и
, то согласно теореме Больцано – Коши, на отрезке
существует хотя бы один корень уравнения (1)(нечетное количество корней).

Если функция
удовлетворяет условиям теоремы Больцано-Коши и монотонна на этом отрезке, то на
существует только один корень уравнения (1).Таким образом, уравнение (1) имеет на
единственный корень, если выполняются условия:

Если функция на заданном интервале непрерывно дифференцируема, то можно воспользоваться следствием из теоремы Ролля, по которому между парой корней всегда находится по крайней мере одна стационарная точка. Алгоритм решения задачи в данном случае будет следующий:

Полезным средством для отделения корней является также использование теоремы Штурма.

Решение третьей задачи осуществляется различными итерационными (численными) методами: методом дихотомии, методом простой итерации, методом Ньютона, методом хорд и т.д.

Пример Решим уравнение
методом простой итерации . Зададим
. Построим график функции.

На графике видно, что корень нашего уравнения принадлежит отрезку
, т.е.
– отрезок изоляции корня нашего уравнения. Проверим это аналитически, т.е. выполнение условий (2):

Напомним, что исходное уравнение (1) в методе простой итерации преобразуется к виду
и итерации осуществляются по формуле:

(3)

Выполнение расчетов по формуле (3) называется одной итерацией. Итерации прекращаются, когда выполняется условие
, где - абсолютная погрешность нахождения корня, или
, где -относительная погрешность.

Метод простой итерации сходится, если выполняется условие
для
. Выбором функции
в формуле (3) для итераций можно влиять на сходимость метода. В простейшем случае
со знаком плюс или минус.

На практике часто выражают
непосредственно из уравнения (1). Если не выполняется условие сходимости, преобразуют его к виду (3) и подбирают. Представим наше уравнение в виде
(выразим x из уравнения). Проверим условие сходимости метода:

для
. Обратите внимание, что условие сходимости выполняется не
, поэтому мы и берем отрезок изоляции корня
. Попутно заметим, что при представлении нашего уравнения в виде
, не выполняется условие сходимости метода:
на отрезке
. На графике видно, что
возрастает быстрее, чем функция
­­ (|tg| угла наклона касательной к
на отрезке
)

Выберем
. Организуем итерации по формуле:

Программно организуем процесс итераций с заданной точностью:

> fv:=proc(f1,x0,eps)

> k:=0:

x:=x1+1:

while abs(x1-x)> eps do

x1:=f1(x):

print(evalf(x1,8)):

print(abs(x1-x)):

:printf("Кол. итер.=%d ",k):

end :

На 19 итерации мы получили корень нашего уравнения

c абсолютной погрешностью

Решим наше уравнение методом Ньютона . Итерации в методе Ньютона осуществляются по формуле:

Метод Ньютона можно рассматривать как метод простой итерации с функцией, тогда условие сходимости метода Ньютона запишется в виде:

.

В нашем обозначении
и условие сходимости выполняется на отрезке
, что видно на графике:

Напомним, что метод Ньютона сходится с квадратичной скоростью и начальное приближение должно быть выбрано достаточно близко к корню. Произведем вычисления:
, начальное приближение, . Организуем итерации по формуле:

Программно организуем процесс итераций с заданной точностью. На 4 итерации получим корень уравнения

с
Мы рассмотрели методы решения нелинейных уравнений на примере кубических уравнений, естественно, этими методами решаются различные виды нелинейных уравнений. Например, решая уравнение

методом Ньютона с
, находим корень уравнения на [-1,5;-1]:

Задание : Решить нелинейные уравнения с точностью

0.

деления отрезка пополам (дихотомии)

простой итерации.

Ньютона (касательных)

секущих – хорд.

Варианты заданий рассчитываются следующим образом: номер по списку делится на 5 (
), целая часть соответствует номеру уравнения, остаток – номеру метода.

МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ УКРАИНЫ

СУМСКИЙ ГОСУДАСТВЕННЫЙ УНИВЕРСИТЕТ

кафедра информатики

КУРСОВАЯ РАБОТА

ПО КУРСУ:

Численные методы

«Итерационные методы решения систем нелинейных уравнений»

1. Методы решения систем нелинейных уравнений. Общая информация

2.1 Метод простых итераций

2.2 Преобразование Эйткена

2.3 Метод Ньютона

2.3.1 Модификации метода Ньютона

2.3.2 Квазиньютоновские методы

2.4 Другие итерационные методы решения систем нелинейных уравнений

2.4.1 Метод Пикара

2.4.2 Метод градиентного спуска

2.4.3 Метод релаксаций

3. Реализация итерационных методов программно и с помощью математического пакета Maple

3.1 Метод простых итераций

3.2 Метод градиентного спуска

3.3 Метод Ньютона

3.4 Модифицированный метод Ньютона

Список использованной литературы

1. Методы решения нелинейных уравнений. Общая информация.

Пусть нам дана система уравнений, где

Она может быть также представлена в матричном виде:

Её решением называется такое значение

Очень распространенной является вычислительная задача нахождения некоторых или всех решений системы (1.1) из n нелинейных алгебраических или трансцендентных уравнений с n неизвестными.

Обозначим через Х вектор-столбец (х 1 , х 2 ,..., х n ) T и запишем систему уравнений в виде формулы (1.2): F (Х ) = 0, где F = (f 1 , f 2 ,..., f n ) T .

Подобные системы уравнений могут возникать непосредственно, например, при конструировании физических систем, или опосредованно. Так, к примеру, при решении задачи минимизации некоторой функции G (х )часто необходимо определить те точки, в которых градиент этой функции равен нулю. Полагая F = grad G, получаем нелинейную систему.

В отличие от систем линейных алгебраических уравнений, для решения которых могут применяться как прямые (или точные ), так и итерационные (или приближенные ) методы, решение систем нелинейных уравнений можно получить только приближенными, итерационными методами. Они позволяют получать последовательность приближений

Для полноты представления о методах нахождения решения системы необходимо разъяснить такое понятие, как "скорость сходимости". Если для последовательности x n , сходящейся к пределу х * , верна формула

(k - положительное действительное число), то k называется скоростью сходимости данной последовательности.

2. Итерационные методы решения систем нелинейных уравнений

2.1 Метод простых итераций

Метод простых итераций (последовательных приближений) является одним из основных в вычислительной математике и применяется для решения широкого класса уравнений. Приведём описание и обоснование этого метода для систем нелинейных уравнений вида

f i (x 1 ,x 2 ,...x n) = 0, i =1,2,..n ;

Приведём систему уравнений к специальному виду:

Или в векторном виде

Причем переход к этой системе должен быть только при условии, что

Используя некоторое начальное приближение X (0) = (x 1 (0) ,x 2 (0) ,...x n (0))

построим итерационный процесс X (k+1) =  (X (k)). Расчёты продолжаются до выполнения условия

Проведём обоснование метода в некоторой норме

Приведём теорему о сходимости, выполнение условий которой приводит к нахождению решения системы.

Теорема (о сходимости). Пусть

1). Вектор-функция Ф(х) определена в области

3). Справедливо неравенство

Тогда в итерационном процессе:

Замечание. Неравенство условия 2) есть условие Липшица для вектор -функции Ф(х) в области S с константой

Доказательство . Поскольку

Будем рассуждать по индукции. При

По индуктивному предположению

Расчетная формула метода Ньютона имеет вид:

где n=0,1,2,..

Геометрически метод Ньютона означает, что следующее приближение к корню есть точка пересечения с осью ОХ. касательной, проведенной к графику функцииy=f(x) в точке .

Теорема о сходимости метода Ньютона.

Пусть - простой корень уравнения, в некоторой окрестности которого функция дважды непрерывно дифференцируема.

Тогда найдется такая малая - окрестность корня, что при произвольном выборе начального приближенияиз этой окрестности итерационная последовательность метода Ньютона не выходит за пределы окрестности и справедлива оценка

Метода Ньютона (1) чувствителен к выбору начального приближения x 0 .

На практике для монотонной сходимости метода необходимо :

1-ая производная f(x)

2-ая производная f(x) должна быть знакопостоянна на интервале локализации [ a , b ] изолированного корня;

за начальное приближение x 0 выбирается та граница интервала локализации, на которой произведение функции на ее 2-ю производную больше нуля (f(c)f ’’ (c) > 0 , где с – одна из границ интервала) .

. При заданной точности >

Как указано в теореме, метод Ньютона обладает локальной сходимостью, то есть областью его сходимости является малая окрестность корня .

Неудачный выбор может дать расходящуюся итерационную последовательность.

Метод простой итерации (метод последовательных повторений).

Для применения метода простой итерации следует исходное уравнение преобразовать к виду, удобному для итерации .

Это преобразование можно выполнить различными способами.

Функция называется итерационной функцией.

Расчетная формула метода простой итерации имеет вид:

где n=0,1,2,..

Теорема о сходимости метода простой итерации.

Пусть в некоторой - окрестности корняфункциянепрерывно дифференцируема и удовлетворяет неравенству

где 0 < q < 1 - постоянная.

Тогда независимо от выбора начального приближения из указанной - окрестности итерационная последовательность не выходит из этой окрестности, метод сходится

со скоростью геометрической последовательности и справедлива оценка погрешности:

Критерий окончания итерационного процесса .

При заданной точности >0 вычисления следует вести до тех пор пока не окажется выполненным неравенство

Если величина , то можно использовать более простой критерий окончания итераций:

Если в неравенстве (5) q > 1 , то итерационный метод (4) расходится.

Если в неравенстве (5) q = 1 , то итерационный метод (4) может как сходится так и расходится.

В том случае, если q > = 1 , то итерационный метод (4) расходится и

применяется метод простой итерации с итерационным параметром .

Ключевой момент в применении состоит в эквивалентном преобразовании уравнения :

αf(x) = 0

x = x +αf(x) , (9)

где α – итерационный параметр (вещественная константа).

Расчетная формула метода простой итерации с итерационным параметром имеет вид:

x (n+1) = x (n) + αf(x (n) ) , (10)

где n=0,1,2,..

Итерационный процесс, построенный по форме (10) сходится , если:

1-ая производная функции f(x) знакопостоянна и ограничена на интервале локализации изолированного корня ;

знак итерационного параметра α противоположен знаку 1-ой производной функции f(x) на интервале локализации изолированного корня ;

модуль значения итерационного параметра α оценивается из неравенства

| α | < 2/M , (11)

где М – максимум модуля 1-ой производной функции f(x)

Тогда при таком выборе итерационного параметра  метод (10) сходится при любом значении начального приближения, принадлежащем интервалу , со скоростью геометрической прогрессии со знаменателем q равным

где m – минимум модуля 1-ой производной функции f(x) на интервале локализации изолированного корня .

Решение оформляется в формате Word .

Правила ввода функции

Одним из наиболее эффективных способов численного решения уравнений является метод итерации . Сущность этого метода заключается в следующем. Пусть дано уравнение f(x)=0 .
Заменим его равносильным уравнением
Выберем начальное приближение корня x 0 и подставим его в правую часть уравнения (1). Тогда получим некоторое число

x 1 =φ(x 0). (2)

x n =φ(x n-1) (n=1,2..). (3)

Или ξ=φ(ξ).
Таким образом, предел ξ является корнем уравнения (1) и может быть вычислен по формуле (3) с любой степенью точности.

Рис. 1а Рис. 1б

Рис. 2.

|φ′(x)|>1 - расходящийся процесс

На рис.1а, 1б в окрестности корня |φ′(x)|<1 и процесс итерации сходится. Однако, если рассмотреть случай |φ′(x)|>1, то процесс итерации может быть расходящимся (см. рис.2).

Достаточные условия сходимости метода итерации

φ′(x n)(x n -x n-1)

Где x n ∈
Тогда получим

|x n+1 -x n |≤φ′(x n)|x n -x n-1 |≤q|x n -x n-1 |

|x 2 -x 1 |≤q|x 1 -x 0 |
|x 3 -x 2 |≤q|x 2 -x 1 |≤q²|x 1 -x 0 |
|x n+1 -x n ≤q n |x 1 -x 0 | (4)

ξ-x n = φ′(c 1)(ξ-x n-1)+φ′(c)(x n -x n-1)
или
|ξ-x n |≤q|ξ-x n |+q|x n -x n-1 |

, (5)

. (6)

|x n -x n -1 |<ε

Сходимость метода итерации линейная с коэффициентом сходимости α=q. Действительно, имеем
ξ-x n =φ(ξ)-φ n-1 = φ′(c)·(ξ-x n-1), отсюда |ξ-x n |≤q·|ξ-x n-1 |.

Замечание. Пусть в некоторой окрестности корня ξ∈(a,b) уравнения x= φ(x) производная φ’(x) сохраняет постоянный знак и выполнено неравенство |φ’(x)|≤q<1. Тогда, если φ’(x) положительна, то последовательные приближения x n = φ(x n -1) сходятся к корню монотонно.
Если же φ’(x) отрицательна, то последовательные приближения колеблются около корня.
Рассмотрим способ представления уравнения f(x)=0 в форме x= φ(x).
Функцию φ(x) необходимо задать такую, чтобы |φ’(x)| была малой величиной в окрестности корня.
Пусть известно m 1 и M 1 - наименьшее и наибольшее значения производной f’(x)
0Заменим уравнение f(x)=0 эквивалентным ему уравнением
x = x - λf(x).
Положим φ(x) = x- λf(x). Подберем параметр λ таким образом, чтобы в окрестности корня ξ выполнялось неравенство

0≤|φ′(x)|=|1-λ·f′(x)|≤q≤1

0≤|1-λM 1 |≤|1-λm 1 |≤q

x n = x n -1 – f(x n)/f’(x).

Метод итераций в Excel

Процесс нахождения нулей функции методом итераций состоит из следующих этапов:

1. Получить шаблон с омощью этого сервиса.
2. Уточнить интервалы в ячейках B2 , B3 .
3. Копировать строки итераций до требуемой точности (столбец D).

Пример . Найти корень уравнения e -x -x=0, x=∈, ε=0.001 (8)
Решение .
Представим уравнение (8) в форме x=x-λ(e -x -x)
Найдем максимальное значение производной от функции f(x)= e - x -x.
max f′(x)=max(-(e -x +1)) ≈ -1.37. Значение . Таким образом, решаем следующее уравнение
x=x+0,73(e - x -x)
Значения последовательных приближений даны в таблице.