MT09-Analyse numérique élémentaire

Chapitre 4 : Méthodes itératives pour la résolution des systèmes linéaires et

non-linéaires

Équipe de Mathématiques Appliquées

UTC

Octobre 2018
5
 suivant Ï

Chapitre 4
Méthodes itératives

4.1 Méthodes itératives de résolution des systèmes linéaires . . . . . . 3

4.2 Résolution d’une équation non-linéaire à une inconnue . . . . . . . 14
4.3 Résolution d’un système d’équations non-linéaires . . . . . . . . . . 30
Sommaire
Concepts

Exemples
Exercices
Documents

2
 chapitre N section suivante Ï

4.1 Méthodes itératives de résolution des systèmes linéaires

4.1.1 Principes généraux . . . . . . . . . . . . . . . . . . . . . . . . . . . 4

4.1.2 La méthode de Jacobi . . . . . . . . . . . . . . . . . . . . . . . . . 6
4.1.3 La méthode de Gauss-Seidel . . . . . . . . . . . . . . . . . . . . . 9
4.1.4 Étude de la convergence des méthodes itératives . . . . . . . . 11

Sommaire
Concepts

Exemples
Exercices
Documents

3
 section N suivant Ï

4.1.1 Principes généraux

Les méthodes itératives sont utilisées soit pour la résolution de systèmes linéaires
de très grande taille, soit lorsque l’on dispose d’une estimation de la solution que l’on
veut améliorer.
Une méthode itérative consiste à construire une suite de vecteurs x (0) , x (1) , · · · , x (k) , . . .
qui, on l’espère, ou mieux on le démontre, convergera vers la solution du système li-
néaire à résoudre.
Soit A ∈ M nn (IR) une matrice régulière et b ∈ IRn donnés. On se propose de résoudre
le problème
f (x) = Ax − b = 0
par une méthode itérative de la forme suivante :
x (0) donné
½

M x (k+1) = N x (k) + b

où les matrices M , N ∈ Mnn (IR), M inversible, sont convenablement choisies.

Sommaire
Si cette méthode itérative converge, c’est-à-dire si la suite x (k) converge vers x̄ alors Concepts
on a, à la limite,
(M − N )x̄ = b,
Exemples
ce qui correspondra à la résolution de Ax = b si Exercices
Documents
A = M − N.

4 ÏÏ
 section N suivant Ï

Il y a une infinité de choix possibles pour M et N vérifiant A = M − N , nous allons en Principes

donner deux à titre d’exemples. L’idée est bien sûr de choisir une matrice M particu- généraux
lièrement facile à inverser, par exemple diagonale, ou bien triangulaire inférieure. Ces
deux choix correspondent respectivement à la méthode de Jacobi et à la méthode de
Gauss-Seidel.

Sommaire
Concepts

Exemples
Exercices
Documents

ÎÎ 5
 Î précédent section N suivant Ï

4.1.2 La méthode de Jacobi

Exercices :
Exercice B.1.1
Exercice B.1.2

Le système linéaire Ax = b s’écrit

 n
X
a1 j x j = b1 ,




j =1




...



n


 X
a i j x j = b i , pour 2 ≤ i ≤ n − 1,


 j =1
...






 Xn



 an j x j = bn .
j =1
Sommaire
La méthode de Jacobi consiste, à chaque itération k , à résoudre chaque équation par Concepts
rapport à l’une des variables, les autres étant fixées à leurs valeurs obtenues à l’itéra-
tion précédente. Soit donc le vecteur x (k) donné, alors on détermine successivement les
Exemples
Exercices
Documents

6 ÏÏ
 Î précédent section N suivant Ï

composantes de x (k+1) par les formules : La méthode

 n de Jacobi
(k+1)
a 1 j x (k)
X
a x = b − ,

11 1


 1 j
j =2






 ...
n


(k+1)
a i j x (k)
 X
ai i xi = bi − j
, pour 2 ≤ i ≤ n − 1,

 j =1, j 6=i

...





 n−1
(k+1)
a n j x (k)
 X
 a nn x n = bn − .


 j
j =1

Les formules précédentes ne définissent effectivement x (k+1) que si les coefficients dia-
gonaux de A sont tous non nuls. Ceci n’est pas une restriction, car on peut démontrer
que si une matrice est inversible, il existe une permutation de ses lignes telle que tous
les éléments de la diagonale de la matrice ainsi obtenue soient non nuls (voir exercice).
On peut écrire les relations précédentes sous forme matricielle. Pour cela introdui-
sons la décomposition suivante de A :

A = D − E − F,
Sommaire
Concepts
avec
— D matrice diagonale contenant la diagonale de A ,
— E matrice triangulaire inférieure (triangle inférieur de −A ), Exemples
— F matrice triangulaire supérieure (triangle supérieur de −A ), Exercices
Documents

ÎÎ 7 ÏÏ
 Î précédent section N suivant Ï

Avec ces notations on peut écrire le système Ax = b sous la forme La méthode

de Jacobi
D x = (E + F )x + b,

La méthode de Jacobi s’écrit

x (0) donné,
½

D x (k+1) = (E + F )x (k) + b.

Sommaire
Concepts

Exemples
Exercices
Documents

ÎÎ 8
 Î précédent section N suivant Ï

4.1.3 La méthode de Gauss-Seidel

Exercices : Cours :
Exercice B.1.3 Jacobi

Il s’agit d’une modification de la méthode de Jacobi qui consiste à utiliser pour

chaque équation les composantes de x (k+1) déjà calculées, ceci conduit aux formules
 n
(k+1)
a 1 j x (k)
X
a x = b − ,

11 1


 1 j
j =2




 ..
.






 iX−1 n
a i i x i(k+1) = b i − a i j x (k+1) a i j x (k)
X
j
− j
, pour 2 ≤ i ≤ n − 1,

 j =1 j =i +1
..



.




n−1


(k+1)
a n j x (k+1)
 X
 a nn x n = bn − .


j

j =1 Sommaire
Concepts
Sous forme matricielle cela revient à écrire le système Ax = b sous la forme

(D − E )x = F x + b,
Exemples
où les matrices D , E et F ont été données dans le paragraphe référencé sur la méthode Exercices
Documents
de Jacobi.

9 ÏÏ
 Î précédent section N suivant Ï

La méthode de Gauss-Seidel s’écrit donc La méthode

½
x (0) donné, de
(D − E )x (k+1) = (F x (k) + b), Gauss-Seidel

A chaque itération la matrice du système à résoudre est triangulaire inférieure.

On observe que les méthodes de Jacobi et Gauss-Seidel que nous venons de voir
peuvent se mettre sous la forme M x (k+1) = N x (k) + b :
— M = D, N = E + F , pour la méthode de Jacobi,
— M = D − E , N = F , pour la méthode de Gauss-Seidel.

Sommaire
Concepts

Exemples
Exercices
Documents

ÎÎ 10
 Î précédent section N

4.1.4 Étude de la convergence des méthodes itératives

Exercices :
Exercice B.1.4

Commençons par étudier la convergence de la méthode itérative

x (0) donné,
½
(4.1.1)
x (k+1) = C x (k) + d .

Proposition 4.1.1. S’il existe une norme matricielle subordonnée telle que

k|C k| < 1

la méthode (4.1.1) est convergente quel que soit le choix de x (0) et elle converge vers la
solution de
(I −C )x̄ = d .
Sommaire
Démonstration - Tout d’abord la solution x̄ du système d’équations (I −C )x̄ = d existe Concepts
et elle est unique, car la matrice I −C est inversible. En effet
Exemples
x ∈ ker(I −C ) ⇔ x = C x ⇒ kxk = kC xk ≤ k|C k| kxk, Exercices
Documents

11 ÏÏ
 Î précédent section N

si kxk 6= 0, on aurait, après simplification 1 ≤ k|C k|, ce qui est contraire à l’hypothèse,
Étude de la
donc kxk = 0, donc x = 0. On vient de montrer que ker(I − C ) = {0}, ce qui est équivalent à
convergence
I −C inversible, car la matrice I −C est carrée.
des méthodes
Montrons maintenant que x (k) converge vers x̄ solution de (I −C )x̄ = d . On a itératives

x (k) − x̄ = C (x (k−1) − x̄) = C 2 (x (k−2) − x̄) = . . . = C k (x (0) − x̄),

d’où
kx (k) − x̄k ≤ k|C k k| kx (0) − x̄k ≤ k|C k|k kx (0) − x̄k.
Passons à la limite quand k tend vers l’infini. Puisque k|C k| < 1, k|C k|k tend vers 0 et donc
x (k) tend vers x̄ .

Définition 4.1.1. On dit que la matrice A est à diagonale strictement dominante si

X
|a i i | > |a i j |, ∀ i , 1 ≤ i ≤ n. (4.1.2)
j 6=i

Proposition 4.1.2. Si la matrice A est à diagonale strictement dominante alors les

méthodes de Jacobi et Gauss-Seidel sont convergentes.
Sommaire
Démonstration - Démontrons cette proposition pour la méthode de Jacobi. La dé- Concepts
monstration sera faite en travaux dirigés pour la méthode de Gauss-Seidel.
La méthode de Jacobi s’écrit
Exemples
(k+1) −1 (k) Exercices
x =D [b + (E + F )x ], Documents

ÎÎ 12 ÏÏ
 Î précédent section N

et donc la matrice d’itération est

Étude de la
C =D −1
(E + F ). convergence
des méthodes
Puisque A est à diagonale dominante, on a itératives
à !
−1 1 X
k|D (E + F )k|∞ = max |a i j | < 1
1≤i ≤n |a i i | j 6=i

et donc la méthode est convergente.

Un autre résultat intéressant pour les applications est le suivant (nous l’admettrons
sans démonstration) :
Proposition 4.1.3. Si la matrice A est symétrique définie positive, alors la méthode de
Gauss-Seidel est convergente.

Un résultat intéressant et admis sur la convergence des méthodes itératives donne

une caractérisation à partir du rayon spectral de la matrice C .

Théorème 4.1.2. Une condition nécessaire et suffisante pour que la méthode itéra-
tive (4.1.1) soit convergente est que Sommaire
Concepts
ρ(C ) < 1.

Exemples
Exercices
Documents

ÎÎ 13
 Î section précédente chapitre N section suivante Ï

4.2 Résolution d’une équation non-linéaire à une inconnue

4.2.1 Méthode de la dichotomie . . . . . . . . . . . . . . . . . . . . . . . 15

4.2.2 Le principe des méthodes de point fixe . . . . . . . . . . . . . . 17
4.2.3 Convergence des méthodes de point fixe . . . . . . . . . . . . . . 19
4.2.4 La méthode de Newton pour résoudre une équation . . . . . . 23
4.2.5 Convergence de la méthode de Newton pour résoudre une équa-
tion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
4.2.6 La méthode de la sécante . . . . . . . . . . . . . . . . . . . . . . . 27

Sommaire
Concepts

Exemples
Exercices
Documents

14
 section N suivant Ï

4.2.1 Méthode de la dichotomie

Exercices :
Exercice B.1.5

On veut résoudre f (x) = 0, où f est une fonction de IR dans IR non linéaire (sinon c’est
évident !). On recherche donc un nombre réel x ∗ tel que f (x ∗ ) = 0. Comme pour toute
méthode itérative, on va donc construire une suite de nombres réels x (0) , x (1) , . . . , x (k) , . . .
qui converge vers x ∗ . Puisqu’ici les termes de la suite sont des nombres réels, on les
notera plus simplement x 0 , x 1 , . . . , x k , . . ..
Le principe de la dichotomie est très simple. On suppose que f : [a, b] → IR est conti-
nue et que f (a) f (b) < 0, c’est-à-dire qu’il y a au moins une racine réelle de f dans [a, b].
a +b
On prend alors le milieu de l’intervalle c = . Si f (c) = 0 (ou numériquement très
2
proche de 0) on considère que l’on a résolu le problème. Autrement deux cas peuvent se
présenter. Si f (a) f (c) < 0, alors f a une racine réelle dans [a, c] (au moins une, en tous
cas, un nombre impair de racines), autrement f (a) f (c) > 0 et donc f (a) f (b) f (a) f (c) < 0, Sommaire
ce qui donne f (b) f (c) < 0 et f a une racine réelle dans [c, b]. On itère alors le processus Concepts
avec l’intervalle qui contient au moins une racine.
La méthode de dichotomie s’écrit : Exemples
Exercices
a0 + b0
a 0 = a, b 0 = b, x 0 = , Documents
2

15 ÏÏ
 section N suivant Ï

si f (x k ) f (ak ) < 0 alors ak+1 = ak et bk+1 = x k sinon ak+1 = x k et bk+1 = bk . Méthode de la

a k+1 + b k+1 dichotomie
x k+1 = ,
2
Il est clair qu’à chaque itération la longueur l k de l’intervalle de localisation de la racine
x ∗ est divisée par 2. On sait de plus que |x k − x ∗ | ≤ l k , d’où le résultat de convergence de
la suite (x k ) vers x ∗ si on montre que l k tend vers 0
Proposition 4.2.1. La suite de segments ([ak , bk ])k≥0 est telle que
b−a
l k = bk − ak = , k ≥ 1.
2k

Cette proposition est utile sur le plan numérique ; en effet elle renseigne sur le
nombre minimal d’itérations nécessaires pour calculer la racine à ² près, ² > 0 étant
une précision fixée à l’avance par l’utilisateur (test d’arrêt). En effet, on peut montrer
(en exercice) que ce nombre n doit vérifier
b−a
µ ¶
n ≥ log2 .
²

Sommaire
Concepts

Exemples
Exercices
Documents

ÎÎ 16
 Î précédent section N suivant Ï

4.2.2 Le principe des méthodes de point fixe

Exercices :
Exercice B.1.6

Pour résoudre f (x) = 0, on peut se ramener à un problème équivalent de la forme

g (x) = x (par exemple en posant g (x) = f (x) + x ). Mais il y a beaucoup de choix possibles
pour définir g ! La résolution de g (x) = x s’appelle recherche des points fixes de g .

Par exemple, pour calculer la racine carrée d’un nombre réel a > 0, on résout x 2 = a .
Il existe alors différentes manières de se ramener à un problème de point fixe :
—
a a
x = , et g 1 (x) = ,
x x
—
a a a
2x = x + soit x = 2x − et g 2 (x) = 2x − ,
x x x
— Sommaire
x a x a Concepts
x= + , et g 3 (x) = + .
2 2x 2 2x

Exemples
Exercices
Documents

17 ÏÏ
 Î précédent section N suivant Ï

Pour résoudre g (x) = x , problème équivalent à f (x) = 0, les méthodes dites de point Le principe
fixe, consistent à construire la suite x 0 , x 1 , . . . , x k , . . . de la façon suivante : des méthodes
de point fixe
x 0 donné,
½

x k+1 = g (x k ), k > 0

Si la suite (x k ) converge, la continuité de g implique qu’elle converge vers un point

fixe x ∗ de g . En effet
x ∗ = lim x k+1 = g ( lim x k ) = g (x ∗ ).
k→∞ k→∞

Vous verrez en exercice comment se comportent graphiquement les différentes suites

dans le cas des exemples cités plus haut. Vous vous apercevrez qu’elles ne convergent
pas toujours et qu’il faut donc choisir soigneusement la fonction g . Le paragraphe sui-
vant donne quelques conditions sur la fonction g pour que la suite converge.

Sommaire
Concepts

Exemples
Exercices
Documents

ÎÎ 18
 Î précédent section N suivant Ï

4.2.3 Convergence des méthodes de point fixe

Exercices : Cours :
Exercice B.1.7 Point fixe/ Principe
Exercice B.1.8
Exercice B.1.9
Exercice B.1.10

Proposition 4.2.2. Soit une fonction g : [a, b] → [a, b] continûment dérivable sur [a, b] et
supposons que
|g 0 (x)| ≤ k < 1, ∀x ∈ [a, b].
Alors g possède un point fixe unique x ∗ ∈ [a, b] et la suite

x 0 donné dans [a, b],

½

x n+1 = g (x n ), n > 0

converge vers x ∗ . Sommaire

Concepts
Démonstration - La première partie est une conséquence immédiate du théorème
des valeurs intermédiaires. En effet, si l’on n’est pas dans les cas évidents g (a) = a ou
Exemples
g (b) = b , la fonction H (x) = g (x) − x est telle que H (a)(= g (a) − a) > 0 (car g (a) ∈ [a, b]) et
Exercices
H (b)(= g (b) − b) < 0 (car g (b) ∈ [a, b]). Il existe donc un point x ∗ de ]a, b[ tel que H (x ∗ ) = 0, Documents

19 ÏÏ
 Î précédent section N suivant Ï

c’est-à- dire un point fixe de g . On montre aisément en exercice que ce point fixe est Convergence
unique. des méthodes
Pour montrer la convergence de la suite vers x ∗ , on calcule de point fixe

|x n − x ∗ | = |g (x n−1 ) − g (x ∗ )| ≤ k|x n−1 − x ∗ |.

En itérant le processus, on trouve

|x n − x ∗ | ≤ k n |x 0 − x ∗ |.

Puisque k < 1, la suite k n tend vers 0 quand n → ∞, ce qui démontre la convergence de

la suite.

Remarquons que si l’on a une application g : [a, b] → IR telle que |g 0 (x)| ≥ k ≥ 1, ∀x ∈

[a, b] et qui possède un point fixe dans [a, b], alors la suite (x n ) précédemment définie est
divergente au sens suivant. Soit x n sort du domaine de définition de g , soit

|x n − x ∗ | ≥ k n |x 0 − x ∗ |

et donc la suite (x n ) s’éloigne de x ∗ (au mieux elle reste à une distance constante si Sommaire
k = 1). Concepts
On dit que les méthodes de point fixe ont une convergence linéaire car
Exemples
|x n+1 − x ∗ | = |g (x n ) − g (x ∗ )| ≤ k|x n − x ∗ |.
Exercices
Documents

ÎÎ 20 ÏÏ
 Î précédent section N suivant Ï

De même que pour la dichotomie, on peut estimer le nombre d’itérations nécessaires Convergence
pour obtenir une précision donnée. En effet, vous pourrez montrer en exercice, que des méthodes
kn de point fixe
|x n − x ∗ | ≤ |x 1 − x 0 |.
1−k
Donc, pour une précision ² donnée, le nombre d’itérations n est donné par
(1−k)²
kn ln |x 1 −x 0 |
|x 1 − x 0 | ≤ ² ⇒ n ≤ .
1−k ln k
Dans la proposition précédente, on a supposé que la valeur absolue de la dérivée était
majorée par 1 sur l’intervalle [a, b] tout entier. Si l’on considère l’exemple de la racine
carrée d’un nombre réel a traité dans le paragraphe référencé, on a décrit trois fonctions
g pour lesquelles le point fixe x ∗ correspond à cette racine carrée. Calculons les dérivées
correspondantes
a a
— g 1 (x) = , g 10 (x) = − 2 , g 10 (x ∗ ) = −1,
x x
a 0 a
— g 2 (x) = 2x − , g 2 (x) = 2 + 2 , g 20 (x ∗ ) = 3,
x x
x a 1 a
— g 3 (x) = + , g 30 (x) = − 2 , g 30 (x ∗ ) = 0.
2 2x 2 2x
Proposition 4.2.3. Soit x ∗ un point fixe de g , fonction continûment dérivable, tel que
|g 0 (x ∗ )| < 1, alors la suite (x n ) définie par x n+1 = g (x n ) converge vers x ∗ si x 0 est suffisam- Sommaire
Concepts
ment proche de x ∗ .

Démonstration - Puisque g 0 est continue, il existe un intervalle contenant x ∗ tel que Exemples
|g (x)| < 1. Plus précisément, il existe α > 0 tel que
0
Exercices
Documents
|g 0 (x)| < 1, ∀x ∈ [x ∗ − α, x ∗ + α].

ÎÎ 21 ÏÏ
 Î précédent section N suivant Ï

Il est alors facile de montrer que g est une application de I = [x ∗ − α, x ∗ + α] dans lui- Convergence
même. En effet si x ∈ I , des méthodes
de point fixe
|g (x) − x ∗ | = |g (x) − g (x ∗ )| ≤ max |g 0 (x)||x − x ∗ | ≤ α.
x∈I

D’autre part, puisque la fonction |g 0 | est continue, elle atteint son maximum sur l’inter-
valle I et donc |g 0 (x)| ≤ k < 1, pour tout x de I . Ceci permet d’appliquer la proposition du
paragraphe référencé et de montrer ainsi que la suite x n+1 = g (x n ) converge vers x ∗ si x 0
est dans I , c’est-à-dire suffisamment proche de x ∗ .

Remarquons que si |g 0 (x ∗ )| > 1, il existe un intervalle [x ∗ −α, x ∗ +α] sur lequel |g 0 (x)| ≥
k > 1. La suite (x n ) définie précédemment a peu de chance de converger vers x ∗ . En effet
si on part proche de x ∗ , on a

|x 1 − x ∗ | ≥ k|x 0 − x ∗ | > |x 0 − x ∗ |

et x 1 s’éloigne de x ∗ . Il en sera ainsi jusqu’à ce que l’on sorte de l’intervalle [x ∗ −α, x ∗ +α].
Alors, comme on ne connaît pas le comportement de g , il se peut qu’un itéré postérieur
“ré-rentre” dans l’intervalle. La seule chance que l’on a de converger, c’est alors de “tom-
ber” sur x ∗ . Cette méthode n’est donc pas à utiliser dans ce cas. Sommaire
Concepts

Exemples
Exercices
Documents

ÎÎ 22
 Î précédent section N suivant Ï

4.2.4 La méthode de Newton pour résoudre une équation

Exercices :
Exercice B.1.11

La méthode de Newton s’utilise pour calculer une racine de f (x) = 0, où f est une
fonction deux fois continûment dérivable de [a, b] dans IR. En voici le principe : soit x 0
donné, on écrit le développement de Taylor en x 0 :
f (x) = f (x 0 ) + (x − x 0 ) f 0 (x 0 ) + (x − x 0 )²(x − x 0 ).
La méthode de Newton consiste à négliger les termes d’ordre supérieur à 1 (ce qui
revient à assimiler localement la courbe à sa tangente) et à considérer alors que x 1 est
le point qui annule l’approximation de f ainsi obtenue, c’est-à-dire
0 = f (x 0 ) + (x 1 − x 0 ) f 0 (x 0 ),
ce qui donne
f (x 0 )
x1 = x0 − . Sommaire
f 0 (x 0 )
Concepts
L’étape ainsi décrite qui permet de passer de x 0 à x 1 permet aussi de passer de x n à x n+1 .
L’algorithme de Newton pour résoudre une équation f (x) = 0 est le suivant
( Exemples
x 0 donné, Exercices
f (x n ) Documents
x n+1 = x n − f 0 (x n ) , n≥0

23 ÏÏ
 Î précédent section N suivant Ï

Il s’agit donc d’une méthode de point fixe x n+1 = g (x n ) pour laquelle g est définie par La méthode
f (x) de Newton
g (x) = x − . pour
f 0 (x)
résoudre une
La méthode de Newton est une méthode de point fixe telle que g 0 (x ∗ ) = 0 c’est-à-dire que équation
la dérivée s’annule au point fixe de la fonction g .
Une autre manière de présenter la méthode de Newton, plus graphique, est d’obtenir
x n+1 comme l’intersection de la tangente à la courbe y = f (x) au point x n avec l’axe 0x
(voir l’exercice).
Si la méthode de point fixe converge vers x ∗ , alors on a en passant à la limite quand
n tend vers +∞ : ∗
f (x )
x∗ = x∗ − .
f 0 (x ∗ )
On voit alors que l’on obtient bien f (x ∗ ) = 0 si f 0 (x ∗ ) 6= 0. On suppose dorénavant que
cette condition est remplie c’est-à-dire que la courbe y = f (x) n’est pas tangente à l’axe
Ox lorsqu’elle coupe cet axe.

Sommaire
Concepts

Exemples
Exercices
Documents

ÎÎ 24
 Î précédent section N suivant Ï

4.2.5 Convergence de la méthode de Newton pour résoudre une équa-

tion

Exercices :
Exercice B.1.12

Proposition 4.2.4. Soit f une fonction deux fois continûment dérivable sur [a, b] et
x ∗ ∈ [a, b] tel que f (x ∗ ) = 0 et f 0 (x ∗ ) 6= 0. Alors il existe α > 0 tel que la suite générée par la
méthode de Newton
f (x n )
x n+1 = x n −
f 0 (x n )
converge vers x ∗ pour tout x 0 ∈ [x ∗ − α, x ∗ + α].

Démonstration - Comme il s’agit d’une méthode de point fixe de la fonction g (x) =

f (x)
x − f 0 (x) , on calcule la dérivée de cette fonction au point fixe

( f 0 (x))2 − f 00 (x) f (x) f 00 (x) f (x) Sommaire

g 0 (x) = 1 − =
f 0 (x)2 ( f 0 (x))2 Concepts

et puisque f (x ∗ ) = 0 on a g 0 (x ∗ ) = 0. On peut donc appliquer la proposition 4.2.3 qui

montre l’existence de α tel que la suite x n+1 = g (x n ) converge vers le point fixe si x 0 ∈ Exemples
[x ∗ − α, x ∗ + α]. Exercices
Documents

25 ÏÏ
 Î précédent section N suivant Ï

Cette proposition donne une condition suffisante de convergence mais heureusement Convergence
la méthode de Newton converge souvent même si l’on part loin de la solution. Montrons de la méthode
maintenant que la vitesse de convergence est quadratique, ce qui est mieux que linéaire. de Newton
Proposition 4.2.5. Soit g une fonction deux fois continûment dérivable de [a, b] dans pour
[a, b], soit x ∗ ∈ [a, b] tel que g (x ∗ ) = x ∗ et g 0 (x ∗ ) = 0, soit x 0 ∈ [a, b], on définit x n+1 = g (x n ), résoudre une
alors : équation
M
|x n+1 − x ∗ | ≤ |x n − x ∗ |2
2
où M = max |g 00 (x)|.
x∈[a,b]

Démonstration - Le développement de Taylor au point x ∗ est donné par

(x n − x ∗ )2 00
g (x n ) = g (x ∗ ) + (x n − x ∗ )g 0 (x ∗ ) + g (ξ)
2

où ξ est strictement compris entre x n et x ∗ . Étant données les hypothèses sur g , on

obtient
(x n − x ∗ )2 00 M
|x n+1 − x ∗ | = |g (ξ)| ≤ |x n − x ∗ |2 .
2 2
On dit alors que la vitesse de convergence est quadratique. Sommaire
Concepts

Exemples
Exercices
Documents

ÎÎ 26
 Î précédent section N

4.2.6 La méthode de la sécante

Exercices : Cours :
Exercice B.1.13 Newton/ Convergence
Exercice B.1.14

Cette méthode peut être vue comme une approximation de la méthode de Newton,
présentée dans le paragraphe référencé. En effet la méthode de Newton nécessite le cal-
cul de la dérivée de la fonction en un point à chaque itération. Si le calcul de la dérivée
est coûteux en temps ou peu précis (par exemple c’est le résultat d’une approximation
numérique), on peut approcher la dérivée de la manière suivante
f (x n ) − f (x n−1 )
f 0 (x n ) = .
x n − x n−1

On obtient ainsi la méthode de la sécante :


 x 0 , x 1 donnés tels que f (x 0 ) f (x 1 ) < 0,
Sommaire
f (x n )(x n − x n−1 )
 x n+1 = x n − . Concepts
f (x n ) − f (x n−1 )

Ceci signifie, graphiquement, que l’on remplace la tangente par la “corde”. Il s’agit en Exemples
effet de l’intersection de la droite passant par les points (x n , f (x n )) et (x n−1 , f (x n−1 )) avec Exercices
l’axe Ox (exercice). Documents

27 ÏÏ
 Î précédent section N

Cette méthode n’est pas une méthode de point fixe puisque chaque point de la suite La méthode
est construit à partir des deux précédents. La convergence de la suite ne peut être de la sécante
assurée que pour certaines valeurs de x 0 et x 1 suffisamment proches de x ∗ , solution de
f (x ∗ ) = 0. L’étude de l’erreur est compliquée mais elle montre que
p
1+ 5
|x n+1 − x ∗ | ≤ K |x n − x ∗ | 2 ,

où K est une constante qui dépend de la fonction f et de la racine x ∗ . La vitesse de

convergence, égale au nombre d’or, est plus grande que pour une convergence linéaire
mais moins importante que pour une convergence quadratique puisque
p
1+ 5
1< < 2.
2
Cette méthode devrait donc converger moins vite que la méthode de Newton. Mais une
itération de la sécante ne demande qu’une évaluation de f au point x n (sauf pour la
première itération) tandis que la méthode de Newton demande l’évaluation de f et f 0 .
Donc, même si on suppose que l’évaluation de f et de f 0 a le même coût, une itération de
Newton représente deux itérations de la sécante. Doncppour la comparaison des vitesses
p
de convergence c’est 2 = 1, 414 qu’il faut comparer à 1+2 5 = 1, 618 et ainsi la comparaison
tourne à l’avantage de la sécante. Sommaire
Concepts
Toutefois un inconvénient de la méthode de la sécante, telle qu’on l’a décrite, est que
si deux points successifs sont sur une droite “presque parallèle” à l’axe Ox , l’intersec-
tion avec l’axe Ox part à l’“infini”. Une variante de la méthode consiste à s’assurer que Exemples
deux points successifs encadrent toujours la racine de f . On part donc de x 0 et x 1 qui Exercices
Documents
encadrent x ∗ et pour calculer x n+1 on n’utilise x n et x n−1 que s’ils entourent x ∗ . Sinon,

ÎÎ 28 ÏÏ
 Î précédent section N

on utilise x n et x n−2 . On peut montrer alors que pour une fonction f dont la concavité a La méthode
un signe constant autour de x ∗ , un des points servant à calculer x n+1 se fige (exercice) de la sécante
de sorte que, la méthode se comporte comme
f (x n )(x n − x 0 )
x n+1 = x n − .
f (x n ) − f (x 0 )

On retombe alors sur une méthode de point fixe qui a une vitesse de convergence li-
néaire. On obtient ainsi une convergence globale au détriment de la vitesse de conver-
gence.

Sommaire
Concepts

Exemples
Exercices
Documents

ÎÎ 29
 Î section précédente chapitre N

4.3 Résolution d’un système d’équations non-linéaires

4.3.1 La méthode de Newton pour deux équations non-linéaires . . 31

4.3.2 Les méthodes de point fixe . . . . . . . . . . . . . . . . . . . . . . 34
4.3.3 La méthode de Newton pour un système d’équations non-linéaires 37

Sommaire
Concepts

Exemples
Exercices
Documents

30
 section N suivant Ï

4.3.1 La méthode de Newton pour deux équations non-linéaires

Exercices : Cours :
Exercice B.1.15 Newton/ Convergence

On veut maintenant résoudre deux équations à deux inconnues :

f 1 (x 1 , x 2 ) = 0, f 2 (x 1 , x 2 ) = 0.

On manipule maintenant des vecteurs de IR2 que l’on peut noter

µ ¶ µ ¶ µ ¶
x1 f 1 (x) f 1 (x 1 , x 2 )
x= , f (x) = =
x2 f 2 (x) f 2 (x 1 , x 2 )
Comme pour toutes les méthodes itératives que l’on a vues dans ce chapitre, on
va construire une suite de vecteurs censée converger vers une solution de f (x) = 0, on
notera les vecteurs de la suite x (0) , x (1) , . . . , x (k) , . . ..
L’approximation par un développement de Taylor au premier ordre que nous avons Sommaire
utilisée pour introduire la méthode de Newton pour une équation peut être étendue à Concepts
deux équations voire à n équations. Explicitons-la pour 2 équations :
Exemples
Exercices
Documents

31 ÏÏ
 section N suivant Ï

Soit x (0) un couple donné. Écrivons le développement de Taylor en ce point La méthode


¢ ∂ f 1 ¡ (0) ¢ ³ ´ ∂f
1
³ ´ de Newton
 f 1 (x) = f 1 x (0) + x 1 − x 1(0) + (x (0) ) x 2 − x 2(0) + reste,
¡
x


∂x 1 ∂x pour deux
¡ (0) ¢ ∂ f 2 ¡ (0) ¢ ³ ´ ∂f2 ³ ´ équations
(0) 2
 f 2 (x) = f 2 x + x x1 − x1 + (x (0) ) x 2 − x 2(0) + reste.


∂x 1 ∂x 2 non-linéaires

Si l’on note D f x (0) la matrice jacobienne de f au point x (0) définie par :

¡ ¢

∂ f1 ∂ f1 ¢¢T !
à ¢ ! à ¡
x (0) x (0)
¡ ¢ ¡
∇ f 1 x (0)
¡
(0) ∂x 1 ∂x 2
¡ ¢
Df x = ∂ f2 ∂ f2 = ¡ ¢¢T ,
x (0) x (0) ∇ f 2 x (0)
¡ ¢ ¡ ¢ ¡
∂x 1 ∂x 2

avec
∂ f1 ∂ f2
à ¢ ! à ¢ !
x (0) x (0)
¡ ¡
(0) ∂x 1 (0) ∂x 1
¡ ¢ ¡ ¢
∇ f1 x = ∂ f1 et ∇ f 2 x = ∂ f2 ,
x (0) x (0)
¡ ¢ ¡ ¢
∂x 2 ∂x 2

les relations précédentes peuvent s’écrire :

f (x) = f x (0) + D f x (0) x − x (0) + Reste ,

¡ ¢ ¡ ¢¡ ¢

soit encore : Ã ¡ ¢¢T ¡ ¢ ! Sommaire

∇ f 1 x (0) x − x (0)
¡
¡ (0)
¢ Concepts
f (x) = f x + ¡ ¢¢T ¡ ¢ + Reste .
∇ f 2 x (0) x − x (0)
¡

f (x), f x (0) , x − x (0) , “Reste”, ∇ f 1 x (0) , ∇ f 2 x (0) sont des vecteurs colonnes.
¡ ¢ ¡ ¢ ¡ ¢
Attention : Exemples
D f x (0) est une matrice. D f x (0) x − x (0) est un vecteur colonne. Tous les produits et Exercices
¡ ¢ ¡ ¢¡ ¢
Documents
sommes sont donc bien cohérents.

ÎÎ 32 ÏÏ
 section N suivant Ï

On néglige le reste, on calcule l’itéré suivant x (1) en annulant l’approximation de f La méthode

ainsi obtenue. ¡ (0) ¢ ¡ (0) ¢ ¡ (1) de Newton
(0)
¢
0= f x +D f x x −x pour deux
équations
Le vecteur x (1) − x (0) se calcule en résolvant un système linéaire : non-linéaires

D f x (0) x (1) − x (0) = − f x (0)

¡ ¢¡ ¢ ¡ ¢

Quand on a obtenu le vecteur h = x (1) − x (0) , on calcule x (1) = h + x (0) .

On recommence les mêmes étapes pour obtenir le vecteur x (2) à partir du vecteur
(1)
x . On s’arrête lorsque la différence de deux itérés successifs, c’est-à-dire le vecteur h
est inférieur en norme à un epsilon fixé à l’avance.

La méthode de Newton pour résoudre le système de deux équations non-linéaires

f (x) = 0 est donnée par :

On se donne x (0) dans IR2 , puis pour k ≥ 0

1. On résout le système linéaire D f (x (k) )h = − f (x (k) ).
2. On pose x (k+1) = x (k) + h . Sommaire
Concepts
Lorsqu’il s’agit de deux équations non-linéaires, il est facile d’inverser la matrice
pour résoudre le système. Par contre lorsque l’on a n équations non-linéaires à résoudre,
on utilise une méthode de Gauss pour résoudre le système linéaire qui permet de cal- Exemples
culer la différence entre deux itérés successifs. Exercices
Documents

ÎÎ 33
 Î précédent section N suivant Ï

4.3.2 Les méthodes de point fixe

Cours : Documents :
Point fixe/ Principe Document A.1.1
Point fixe/ Convergence

Les résultats présentés dans ce paragraphe sont une généralisation des résultats en
dimension un présentés dans les paragraphes référencés. g est une fonction de IRn dans
IRn , x et g (x) sont des vecteurs. Comme précédemment on construit une suite définie
par : ½ (0)
x donné,
x (k+1) = g (x (k) ).
Quand “tout se passe bien”, cette suite converge vers x̂ vérifiant x̂ = g (x̂).
Nous allons donner deux théorèmes principaux dont vous trouverez les démonstra-
tions en document.
Sommaire
Théorème 4.3.1. Soit g une application de IRn dans IRn , et un réel λ, 0 ≤ λ < 1, tels que Concepts
pour tout z et tout y dans IRn on ait

kg (z) − g (y)k ≤ λkz − yk. (4.3.1) Exemples

Exercices
Documents

34 ÏÏ
 Î précédent section N suivant Ï

Alors il existe un x̂ unique appartenant à IRn tel que x̂ = g (x̂) et la suite {x k }k≥0 définie par Les méthodes
de point fixe
x (0) donné,
½
,
x (k+1) = g (x (k) )

converge vers x̂ .

Définition 4.3.2. Soit g une fonction de IRn dans IRn . On appelle matrice jacobienne de
g la matrice D g (x) ∈ Mnn (IR) définie par
 ∂g 1 ∂g 1 
∂x 1 (x) ... ∂x n (x)

D g (x) = 
.. .. .. 
,
 . . . 
∂g n ∂g n
∂x 1 (x) ... ∂x n (x)

où g 1 , . . . , g n désignent les composantes de g .

Définition 4.3.3. La fonction g est différentiable en x si g admet des dérivées partielles

en x et si la matrice jacobienne D g (x) vérifie

g (y) = g (x) + D g (x)(y − x) + ky − xkε(y − x)

Sommaire
où ε(y − x) est un vecteur de IRn qui tend vers 0 quand y tend vers x . Concepts

Le théorème suivant dont la démonstration est délicate relie la convergence de la

Exemples
méthode de point fixe au rayon spectral de la matrice jacobienne :
Exercices
Documents

ÎÎ 35 ÏÏ
 Î précédent section N suivant Ï

Théorème 4.3.4. Soit g une application de IRn dans IRn qui admet un point fixe x̂ , on Les méthodes
suppose que g est différentiable en x̂ et que ρ[D g (x̂)], le rayon spectral de la matrice de point fixe
jacobienne de g , vérifie ρ[D g (x̂)] < 1. Alors il existe η tel que si x 0 vérifie kx (0) − x̂k < η, la
suite définie par
x (k+1) = g (x (k) )
converge vers x̂ .

On pourrait montrer que la convergence obtenue est linéaire, c’est-à-dire qu’il existe
C > 0 tel que
kx (k+1) − x̂k ≤ C kx (k) − x̂k.
On parle de convergence d’ordre n quand on a la majoration

kx (k+1) − x̂k ≤ C kx (k) − x̂kn .

Sommaire
Concepts

Exemples
Exercices
Documents

ÎÎ 36
 Î précédent section N

4.3.3 La méthode de Newton pour un système d’équations non-linéaires

Cours :
Newton/ Convergence
Newton/ Système 2 équations
non-linéaires

On cherche à résoudre le système d’équations non-linéaires f (x) = 0. Comme pour le

cas n = 1, l’idée de la méthode de Newton consiste à considérer l’approximation affine
de f en x (k) , soit
f (x (k) + h) = f (x (k) ) + D f (x (k) )h + khkε(h),
si f est différentiable, où on a noté D f (x) la matrice jacobienne de f . On détermine alors
h tel que f (x (k) ) + D f (x (k) )h = 0, puis x (k+1) = x (k) + h .

La méthode de Newton pour résoudre le système d’équations non-linéaires f (x) = 0

est donnée par :
Sommaire
On se donne x (0) dans IRn , puis pour k ≥ 0 Concepts
1. On résout le système linéaire D f (x (k) )h = − f (x (k) ).
2. On pose x (k+1) = x (k) + h . Exemples
C’est ce que l’on a vu dans le paragraphe référencé qui traite du cas particulier de deux Exercices
Documents
équations non-linéaires.

37 ÏÏ
 Î précédent section N

Théorème 4.3.5. Soit f une application de IRn dans IRn . on cherche à résoudre f (x) = 0 La méthode
par la méthode de Newton. S’il existe x̂ tel que de Newton
— f (x̂) est nul, pour un
— f est différentiable dans un voisinage de x̂ et k|D f (x) − D f (x̂)k| ≤ αkx − x̂k, système
— D f (x̂) est inversible, d’équations
alors il existe un réel strictement positif η tel que si x (0) vérifie kx (0) − x̂k < η la suite non-linéaires
construite par la méthode de Newton converge vers x̂ . De plus la convergence obtenue est
d’ordre 2, ou quadratique, c’est-à-dire qu’il existe une constante C > 0 telle que

kx (k+1) − x̂k ≤ C kx (k) − x̂k2 .

Nous ne démontrerons pas ce résultat, qui est la “traduction” des hypothèses cor-
respondantes dans le cas n = 1. On notera aussi que la convergence est très rapide
(quadratique).

Sommaire
Concepts

Exemples
Exercices
Documents

ÎÎ 38
Î précédent suivant Ï

Annexe A
Documents

A.1 Documents du chapitre 4 . . . . . . . . . . . . . . . . . . . . . . . . . . 40

Sommaire
Concepts

Exemples
Exercices
Documents

39
 chapitre N

A.1 Documents du chapitre 4

A.1.1 Les théorèmes de point fixe pour les systèmes non-linéaires . 41

Sommaire
Concepts

Exemples
Exercices
Documents

40
 section N

Document A.1.1 Les théorèmes de point fixe pour les systèmes non-linéaires

On sait définir la convergence d’une suite à l’aide de sa limite. Si l’on ne connaît pas
cette limite, on peut montrer qu’une suite est convergente si et seulement si c’est une
suite de Cauchy, dont la définition suit.

Définition A.1.1. On dit que la suite {x (k) } est une suite de Cauchy si

∀ε > 0, ∃N (ε) ∈ IN tel que ∀k ≥ N (ε), ∀p ≥ 0, kx (k+p) − x (k) k ≤ ε,

Ceci nous permet d’énoncer quelques résultats sur les méthodes de point fixe.

Théorème A.1.2. Soit g une application de IRn dans IRn , et un réel λ, 0 ≤ λ < 1, tels que
pour tout x et tout y dans IRn on ait

kg (x) − g (y)k ≤ λkx − yk. (A.1.1)

Alors il existe un x̂ unique appartenant à IRn tel que x̂ = g (x̂) et la suite {x (k) }k≥0 définie
par
x (0) donné
½

x (k+1) = g (x (k) ) Sommaire

Concepts
converge vers x̂ .

Démonstration - On a Exemples
Exercices
kx (k+1) − x (k) k ≤ λkx (k) − x (k−1) k ≤ · · · ≤ λk kx (1) − x (0) k. Documents

41 ÏÏ
 section N

On a d’autre part Document

A.1.1
x (k+p) − x (k) = x (k+p) − x (k+p−1) + x (k+p−1) − x (k+p−2) + · · · + x (k+2) − x (k+1) + x (k+1) − x (k) .
Les théorèmes
On peut donc écrire que de point fixe
pour les
kx (k+p) − x (k) k ≤ kx (k+p) − x (k+p−1) k + · · · + kx (k+2) − x (k+1) k + kx (k+1) − x (k) k, systèmes
≤ (λk+p−1 + · · · + λk+1 + λk )kx (1) − x (0) k, non-linéaires
1 − λp (1)
≤ λk (1 + λ + · · · + λp−1 )kx (1) − x (0) k = λk kx − x (0) k,
1−λ
λk
≤ kx (1) − x (0) k.
1−λ

La quantité kx (k+p) −x (k) k tend donc vers zéro quand k tend vers l’infini ; ainsi la suite
est une suite de Cauchy, de sorte qu’elle est convergente. On note x̂ la limite de cette
suite. On a
kg (x (k) ) − g (x̂)k ≤ kx (k) − x̂k,
donc la limite de g (x (k) ) est g (x̂). On a bien g (x̂) = x̂ car

x̂ = lim x (k+1) = lim g (x (k) ) = g (x̂).

k→∞ k→∞ Sommaire
Concepts
La suite ainsi construite converge donc vers une solution de g (x) = x . Montrons que
cette équation admet une solution unique : on suppose qu’il existe 2 solutions u et v , on
a donc u = g (u), v = g (v), donc g (u) − g (v) = u − v . Or kg (u) − g (v)k ≤ λku − vk, on a donc Exemples
Exercices
Documents
ku − vk ≤ λku − vk, soit ku − vk(1 − λ) ≤ 0

ÎÎ 42 ÏÏ
 section N

avec λ < 1. Ceci n’est possible que si ku −vk = 0 donc u = v . Ceci termine la démonstration Document
du théorème . A.1.1
Le théorème suivant dont la démonstration est délicate relie la convergence de la Les théorèmes
méthode de point fixe au rayon spectral de la matrice jacobienne : de point fixe
pour les
Théorème A.1.3. Soit g une application de IRn dans IRn qui admet un point fixe x̂ , on
systèmes
suppose que g est différentiable en x̂ et que ρ[D g (x̂)], le rayon spectral de la matrice
non-linéaires
jacobienne de g , vérifie ρ[D g (x̂)] < 1. Alors il existe η tel que si x 0 vérifie kx (0) − x̂k < η, la
suite définie par
x (k+1) = g (x (k) )
converge vers x̂ .

Démonstration - Grâce à des résultats sur les normes matricielles, on peut montrer
que, si l’on note
1 − ρ[D g (x̂)]
ε
b= > 0,
3
il est possible de trouver une norme matricielle subordonnée telle que

0 ≤ k|D g (x̂)k| ≤ ρ[D g (x̂)] + ε

b,
Sommaire
on utilisera donc dans la suite cette norme matricielle et la norme vectorielle corres- Concepts
pondante.
En utilisant la définition de la différentiabilité, on obtient donc :
Exemples
kg (x) − g (x̂)k = kD g (x̂)(x − x̂) + kx − x̂k kε(x − x̂)k ≤ kD g (x̂)(x − x̂)k + kx − x̂k kε(x − x̂)k Exercices
Documents
≤ k|D g (x̂)k| kx − x̂k + kx − x̂k kε(x − x̂)k = kx − x̂k (k|D g (x̂)k| + kε(x − x̂)k).

ÎÎ 43 ÏÏ
 section N

Or kε(x − x̂)k tend vers 0 quand x tend vers x̂ , il existe donc η tel que Document
A.1.1
kx − x̂k < η =⇒ kε(x − x̂)k ≤ ε
b.
Les théorèmes
On obtient alors : de point fixe
(k|D g (x̂)k| + kε(x − x̂)k) ≤ ρ[D g (x̂)] + ε
b+ ε
b = λ. pour les
systèmes
Or λ = ρ[D g (x̂)] + 2εb = 1 − εb < 1, on a donc démontré que : non-linéaires
kx − x̂k < η =⇒ kg (x) − g (x̂)k ≤ λkx − x̂k,

avec λ < 1. La suite de la démonstration est analogue à ce qui se passe pour n = 1.

retour au cours

Sommaire
Concepts

Exemples
Exercices
Documents

ÎÎ 44
Î précédent

Annexe B
Exercices

B.1 Exercices du chapitre 4 . . . . . . . . . . . . . . . . . . . . . . . . . . . 46

B.2 Exercices de TD du chapitre 4 . . . . . . . . . . . . . . . . . . . . . . . 62

Sommaire
Concepts

Exemples
Exercices
Documents

45
 chapitre N section suivante Ï

B.1 Exercices du chapitre 4

B.1.1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47
B.1.2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48
B.1.3 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49
B.1.4 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50
B.1.5 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51
B.1.6 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 52
B.1.7 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 53
B.1.8 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54
B.1.9 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55
B.1.10 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
B.1.11 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57
B.1.12 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58
B.1.13 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59 Sommaire
B.1.14 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60 Concepts
B.1.15 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61
Exemples
Exercices
Documents

46
 section N suivant Ï

Exercice B.1.1

On rappelle que la définition du déterminant à partir des permutations est la sui-

vante X
det A = a σ(1)1 a σ(2)2 . . . a σ(n)n
σ

où la somme est faite sur toutes les permutations de l’ensemble {1, 2, . . . , n}. En utilisant
cette définition, montrer que si une matrice est inversible, il existe une permutation de
ses lignes telle que tous les éléments de la diagonale de la matrice ainsi obtenue soient
non nuls.

retour au cours

Solution

Sommaire
Concepts

Exemples
Exercices
Documents

47
 Î précédent section N suivant Ï

Exercice B.1.2

Donner les matrices D , E et F correspondant à la décomposition A = D − E − F de la

méthode de Jacobi dans le cas
1 3 0
 

A = 6 7 −1  .

3 4 9

retour au cours

Solution

Sommaire
Concepts

Exemples
Exercices
Documents

48
 Î précédent section N suivant Ï

Exercice B.1.3

Quelle est, pour la méthode de Gauss-Seidel, la forme de la matrice du système

permettant de calculer x (k+1) à partir de x (k) . Que pensez-vous de la résolution de ce
système ?

retour au cours

Solution

Sommaire
Concepts

Exemples
Exercices
Documents

49
 Î précédent section N suivant Ï

Exercice B.1.4

Soit la décomposition A = M − N avec M inversible et la méthode itérative

x (0) donné,
½

M x (k+1) = N x (k) + b.

Donner une condition suffisante sur les matrices M et N pour que la suite x (k) converge
vers la solution de Ax = b .

retour au cours

Solution

Sommaire
Concepts

Exemples
Exercices
Documents

50
 Î précédent section N suivant Ï

Exercice B.1.5

Montrer que pour la dichotomie, le nombre d’itérations nécessaires pour obtenir une
précision inférieure à ² est supérieur ou égal à log2 b−a
² .

retour au cours

Solution

Sommaire
Concepts

Exemples
Exercices
Documents

51
 Î précédent section N suivant Ï

Exercice B.1.6

Pour calculer la racine carrée d’un nombre réel a > 0, on résout x 2 = a . Il existe alors
différentes manières de se ramener à une méthode de point fixe :
—
a a
x = donc g 1 (x) = ,
x x
—
a a a
2x = x + , soit x = 2x − donc g 2 (x) = 2x − ,
x x x
—
x a x a
x= + donc g 3 (x) = + .
2 2x 2 2x
Tracer les fonctions g i (x) et la bissectrice pour x > 0. Prendre x 0 quelconque et construire
graphiquement la suite x k+1 = g i (x k ) pour k > 0. Conclusion ?

retour au cours

Solution
Sommaire
Concepts

Exemples
Exercices
Documents

52
 Î précédent section N suivant Ï

Exercice B.1.7

Soit g : [a, b] → [a, b], continument dérivable, telle que |g 0 (x)| ≤ k < 1, ∀x ∈ [a, b]. On
suppose que g admet deux points fixes dans [a, b]. Montrer, en utilisant le théorème des
accroissements finis, que l’on arrive à une contradiction.

retour au cours

Solution

Sommaire
Concepts

Exemples
Exercices
Documents

53
 Î précédent section N suivant Ï

Exercice B.1.8
2
Pour calculer la racine x ∗ de x 2 − 3x − 1 = 0 sur [−1, +1], on pose g (x) = x 3−1 pour
appliquer une méthode de point fixe x = g (x). Montrer que la suite x n+1 = g (x n ), avec
x 0 ∈ [−1, +1], converge vers un unique point fixe x ∗ ∈ [−1, 1].

retour au cours

Solution

Sommaire
Concepts

Exemples
Exercices
Documents

54
 Î précédent section N suivant Ï

Exercice B.1.9

Soit une suite (x n ) convergeant vers x ∗ . On suppose que

∃k < 1, |x i +1 − x i | ≤ k|x i − x i −1 | ∀i ∈ IN

1. Montrer que
|x n+1 − x n | ≤ k n |x 1 − x 0 |.

2. En déduire que, pour p > n ,

|x p − x n | ≤ (k p−1 + . . . + k n )|x 1 − x 0 |.

3. Après avoir calculé la somme du membre de droite, faites tendre p vers l’infini
pour obtenir
kn
|x ∗ − x n | ≤ |x 1 − x 0 |.
1−k

retour au cours Sommaire

Concepts
Solution

Exemples
Exercices
Documents

55
 Î précédent section N suivant Ï

Exercice B.1.10
2
On reprend la fonction g (x) = x 3−1 dont l’unique point fixe x ∗ de [−1, 1] est racine
du trinôme x 2 − 3x − 1 = 0. Soit x 0 = 0, calculer le nombre d’itérations de point fixe n
nécessaires pour obtenir une précision inférieure à ² = 10−3 pour le calcul de x ∗ . Vérifier
votre résultat en calculant les n premiers itérés de la méthode de point fixe.

retour au cours

Solution

Sommaire
Concepts

Exemples
Exercices
Documents

56
 Î précédent section N suivant Ï

Exercice B.1.11

Soit la courbe y = f (x). Écrire l’équation de la tangente à cette courbe au point d’abs-
cisse x = x n . Donner alors l’abscisse du point d’intersection de cette tangente avec l’axe
Ox . Montrer que l’on retrouve ainsi l’itéré de la méthode de Newton. Pour illustrer gra-
phiquement et numériquement cette méthode, tracer et calculer deux itérations avec
f (x) = x 2 − 4 et x 0 = 4.

retour au cours

Solution

Sommaire
Concepts

Exemples
Exercices
Documents

57
 Î précédent section N suivant Ï

Exercice B.1.12

Soit la fonction f (x) = cos x −x . Montrer qu’elle admet une racine sur [0, π/2]. Calculer
trois itérations de la méthode de Newton en partant de x 0 = π/4 puis avec x 0 = 0.

retour au cours

Solution

Sommaire
Concepts

Exemples
Exercices
Documents

58
 Î précédent section N suivant Ï

Exercice B.1.13

Écrire l’équation de la droite passant par les points (x n , f (x n )) et (x n−1 , f (x n−1 )). Don-
ner l’abscisse x n+1 de l’intersection de cette droite avec l’axe Ox . Montrer que l’on re-
trouve l’équation de la sécante.

retour au cours

Solution

Sommaire
Concepts

Exemples
Exercices
Documents

59
 Î précédent section N suivant Ï

Exercice B.1.14

Tracer une courbe convexe qui coupe l’axe Ox en un point x ∗ . Considérer deux points
x 0 et x 1 qui entourent ce point. Effectuer alors graphiquement quelques itérations de la
méthode de la sécante (modifiée) de telle sorte que la sécante passe toujours par deux
points qui entourent x ∗ . Remarquez alors que soit x 0 , soit x 1 est pris en compte dans
toutes les itérations.

retour au cours

Solution

Sommaire
Concepts

Exemples
Exercices
Documents

60
 Î précédent section N

Exercice B.1.15

On considère les deux équations non-linéaires

x 12 + (x 2 − 1)2 = 4, x 12 − x 2 + 1 = 0.

Écrire une étape de la méthode de Newton. Prenez un vecteur x (0) et calculez le vecteur
x (1) .

retour au cours

Solution

Sommaire
Concepts

Exemples
Exercices
Documents

61
 Î section précédente chapitre N

B.2 Exercices de TD du chapitre 4

B.2.1 TD4-Exercice1 : méthode de la relaxation . . . . . . . . . . . . . 63

B.2.2 TD4-Exercice2 : convergence de Jacobi et GS . . . . . . . . . . 64
B.2.3 TD4-Exercice3 : GS et matrice à diag. strict. dominante . . . 65
B.2.4 TD4-Exercice4 : méthode de Richardson et complément de Schur 66
B.2.5 TD4-Exercice5 : Point fixe . . . . . . . . . . . . . . . . . . . . . . 67
B.2.6 TD4-Exercice6 : Newton pour racines p èmes . . . . . . . . . . . 68
B.2.7 TD4-Exercice7 : Newton pour racines cubiques de l’unité . . . 69
B.2.8 TD4-Exercice8 : Newton pour intersection de courbes . . . . . 70
B.2.9 TD4-Exercice9 : Newton pour Laplacien non-linéaire . . . . . 71
B.2.10 TD4-Exercice10 : Algorithme de Bairstow . . . . . . . . . . . . 73
Sommaire
Concepts

Exemples
Exercices
Documents

62
 section N suivant Ï

Exercice B.2.1 TD4-Exercice1 : méthode de la relaxation

On veut résoudre Ax = b .
Les méthodes de Jacobi et Gauss-Seidel peuvent être généralisées en introduisant
un paramètre réel strictement positif ω. Connaissant le vecteur x (k) , on détermine les
composantes du vecteur x (k+1) , de la façon suivante, pour chaque i :
— on calcule xbi(k+1) à partir de l’une des deux méthodes, Jacobi ou Gauss-Seidel,
— on définit
x i(k+1) = ωxbi(k+1) + (1 − ω)x i(k) .
On applique la méthode de relaxation à la méthode de Gauss Seidel.
1. Donner la relation matricielle liant x (k+1) et x (k) . À chaque itération, quel est le
système à résoudre ? Si on utilise les notations du cours que vaut M ? Que vaut
N?
2. Écrire l’algorithme de la méthode de relaxation appliquée à la méthode de Gauss-
Seidel.

Sommaire
Question 1 Aide 1
Concepts
Question 2 Aide 1

Exemples
Exercices
Documents

63
 Î précédent section N suivant Ï

Exercice B.2.2 TD4-Exercice2 : convergence de Jacobi et GS

Le but de cet exercice est de montrer (sur des exemples) qu’on ne peut rien conclure
de façon générale sur la comparaison des deux méthodes itératives de Jacobi et Gauss-
Seidel. On veut résoudre Ax = b . La méthode de Jacobi peut s’écrire x (k+1) = J x (k) + d , la
méthode de Gauss-Seidel peut s’écrire x (k+1) = R x (k) + e
1 −2 2
 

1. Soit A =  −1 1 −1 , montrer que ρ(J ) < 1 < ρ(R).

−2 −2 1
Indication : p J (λ) = λ3 , p R (λ) = λ3 + 4λ2 − 4λ.
1 −1 −2
 

2. Soit A =  −2 1 3 , montrer que ρ(R) < 1 < ρ(J ).

0 2 1
Indication : p J (λ) = λ3 − 8λ + 8, p R (λ) = λ3 .

Question 1 Aide 1
Question 2 Aide 1 Sommaire
Concepts

Exemples
Exercices
Documents

64
 Î précédent section N suivant Ï

Exercice B.2.3 TD4-Exercice3 : GS et matrice à diag. strict. dominante

1. Soit A une matrice carrée, montrer que quel que soit la norme matricielle subor-
donnée on a toujours ρ(A) ≤ k|Ak|.
2. On pose A = D −E −F (voir les notations du cours), on suppose que D est inversible.
Montrer que
F
µ ¶
−1 −1
λ 6= 0 est valeur propre de (D − E ) F ⇔ 1 est valeur propre de D +E .
λ

3. Utiliser les deux questions précédentes pour montrer que :

à à !!
1 iX −1 Xn |a |
ij
1 ≤ max |a i j | + .
i |a i i | j =1 j =i +1 |λ|

4. Montrer que si A est à diagonale strictement dominante la méthode de Gauss

Seidel converge.

Sommaire
Concepts
Question 1 Aide 1 Aide 2 Aide 3
Question 2 Aide 1
Question 3 Aide 1 Exemples
Question 4 Aide 1 Aide 2 Aide 3 Exercices
Documents

65
 Î précédent section N suivant Ï

Exercice B.2.4 TD4-Exercice4 : méthode de Richardson et complément de Schur

Soit A ∈ Mn,n (IR) une matrice symétrique définie positive. On désire résoudre itérati-
vement le système AX = F , avec X et F ∈ IRn .
1. Soit P ∈ Mn,n (IR) une matrice inversible. On considère la méthode itérative sui-
vante :
X donné dans IRn ,
½ 0
k+1 k k (B.2.1)
P (X − X ) = F − AX , ∀k = 0, 1, . . .
(a) Vérifier que si la méthode itérative (B.2.1) converge vers un X ? ∈ IRn , alors ce
X ? est solution du système AX = F .
(b) Mettre (B.2.1) sous la forme X k+1 = C X k +G . Que valent C et G ?
2. Soit A i ∈ Mni ,ni (IR), avec n i ≥ 1, pour i = 1, 2, et n 1 + n 2 = n . On suppose que A
· ¸ · ¸
A1 B X1
prend la forme par blocs A = . On écrit X et F par blocs : X = et
BT A2 X2
· ¸
F1
F= , avec X i et Fi dans IRni pour i = 1, 2.
F2
· ¸
I n1 0
On prend P = L = (voir l’exercice 14 du TD 2).
B T A −1
1 I n2
Sommaire
(a) Calculer l’inverse de L , puis déterminer C et G . Concepts
(b) On pose (X k )T = [(X 1k )T (X 2k )T ]. Écrire les équations vérifiées par X ik+1 en fonc-
tion de X ik , pour i = 1, 2.
Exemples
(c) En déduire que le calcul de X 2k ne fait pas intervenir X 1k . Exercices
(d) Si on a obtenu X 2? , comment obtenir sans calcul itératif X 1? ? Documents

66
 Î précédent section N suivant Ï

Exercice B.2.5 TD4-Exercice5 : Point fixe

On veut résoudre x 2 − 3x − 1 = 0 sur [−1, 1].

On utilise la méthode de point fixe

x n2 − 1
x 0 ∈ [−1, 1], x n+1 = .
3
1. Montrer ∀n ∈ IN, x n ∈ [−1, 1].
2. Montrer que la suite x n converge.
3. Faire une interprétation géométrique.

Sommaire
Concepts

Exemples
Exercices
Documents

67
 Î précédent section N suivant Ï

Exercice B.2.6 TD4-Exercice6 : Newton pour racines p èmes

Étant donné a > 0 et p ∈ IN, p > 1, on cherche à déterminer x ∗ ∈ IR solution de :

x p = a. (B.2.2)

1. On prend dans un premier temps p = 2. Détailler l’application de la méthode de

Newton à la résolution de (B.2.2) et montrer graphiquement que cette méthode
converge.
2. On prend p quelconque et on se propose d’utiliser une méthode de point fixe
en écrivant (B.2.2) sous la forme x = g (x), avec g (x) = a x 1−p . Montrer que l’algo-
rithme x (k+1) = g (x (k) ) peut ne pas converger dès que p ≥ 2.
3. On utilise la méthode de Newton pour résoudre (B.2.2). Montrer que cette mé-
thode peut s’écrire x n+1 = h(x n ). Que vaut h 0 (x ∗ ) ? Utiliser
p
quelques itérations de
cette méthode pour calculer une valeur approchée de 3 (on prendra x (0) = 1, 5).

Question 1 Aide 1
Sommaire
Question 2 Aide 1
Concepts
Question 3 Aide 1

Exemples
Exercices
Documents

68
 Î précédent section N suivant Ï

Exercice B.2.7 TD4-Exercice7 : Newton pour racines cubiques de l’unité

On désire approcher dans C les racines cubiques de l’unité, c’est-à-dire trouver z =

x 1 + i x 2 tel que
z 3 = 1.
1. Mettre l’équation sous la forme f (x) = 0, où x ∈ IR2 et f : IR2 −→ IR2 .
µ ¶
(1) (0) 1
2. On résout par l’algorithme de Newton, calculer x pour x = , puis x (0) =
1
µ ¶ µ ¶
0 0
, puis x (0) = .
1 −1
Solution

Sommaire
Concepts

Exemples
Exercices
Documents

69
 Î précédent section N suivant Ï

Exercice B.2.8 TD4-Exercice8 : Newton pour intersection de courbes

On désire déterminer toutes les solutions du système

x 12 − x 2
½
= 0
(x 1 − 1)2 + (x 2 − 6)2 = 25

1. Déterminer graphiquement une approximation des solutions de ce système.

2. Améliorer ces approximations à l’aide d’une itération de la méthode de Newton.

Sommaire
Concepts

Exemples
Exercices
Documents

70
 Î précédent section N suivant Ï

Exercice B.2.9 TD4-Exercice9 : Newton pour Laplacien non-linéaire

1. Soit u est une fonction 3 fois continûment dérivable, utiliser la formule de Taylor
pour montrer que :
u(x + h) − 2u(x) + u(x − h)
u 00 (x) = + h²(h), avec lim ²(h) = 0. (B.2.3)
h2 h→0

2. On considère le problème aux limites suivant

00
 −u (x) + g (u(x)) = f (x), pour x ∈]0, 1[


u(0) = α (B.2.4)
u(1) = β


où α et β sont des constantes données et g et f sont des fonctions connues.

On effectue un maillage de [0, 1], en définissant les points x k = k/n pour k = 0 . . . n
et on note v k une approximation de u(x k ). Pour approcher u 00 (x k ) on utilise la
formule (B.2.3) avec h = n1 .
(a) En écrivant (B.2.4) en chaque point x k et en utilisant (B.2.3) pour approcher
u 00 (x), montrer que ce problème peut se mettre sous la forme F (v) = 0 où v =
(v 1 , . . . , v n−1 ). Sommaire
(b) Décrire l’algorithme de Newton pour résoudre ce problème. Quelle est la ma- Concepts
trice du système à résoudre à chaque itération ?
(c) On doit résoudre ces équations, par exemple, dans le cas d’une réaction en- Exemples
zymatique avec diffusion, u représente la concentration du substrat, on a Exercices
σu Documents
g (u) = (avec σ > 0).
1+u

71 ÏÏ
 Î précédent section N suivant Ï

Montrer que la matrice du système à résoudre à chaque itération est à diago- Exercice B.2.9
nale strictement dominante. Quelles méthodes proposez-vous pour résoudre TD4-
le système linéaire ? Exercice10 :
Newton pour
Laplacien
non-linéaire

Sommaire
Concepts

Exemples
Exercices
Documents

ÎÎ 72
 Î précédent section N

Exercice B.2.10 TD4-Exercice10 : Algorithme de Bairstow

Soit un polynôme P (x) = a0 x n + a1 x n−1 + . . . + an , les coefficients réels a0 , a1 , . . . , an sont

connus, on cherche à déterminer des racines de P . Pour cela étant donnés p et q on
calcule r et s coefficients du reste de la division de P par le polynôme (x 2 + px + q), c’est
à dire on écrit
P (x) = (x 2 + px + q)(b 0 x n−2 + . . . + b n−2 ) + r x + s
et on cherche à déterminer p et q pour que r et s soient nuls. Il suffira alors de calculer
les deux racines de (x 2 + px + q) pour obtenir deux racine de P .
1. On pose :
b n−1 = r, b n = s − pb n−1 ,
montrer que

 b0 = a0 ,
b = a 1 − pb 0
 1
bi = a i − pb i −1 − qb i −2 , i = 2, . . . , n

2. On pose : Sommaire
∂b i +1 ∂b n Concepts
ci = − , i = 0, . . . , n − 2, c n−1 = − − b n−1
∂p ∂p
montrer que
Exemples
Exercices
Documents

73 ÏÏ
 Î précédent section N

 Exercice
 c0 = b0 ,


 c B.2.10
1 = b 1 − pc 0
TD4-
 ci = b i − pc i −1 − qc i −2 , i = 2, . . . , n − 2


 c Exercice10 :
n−1 = −pc n−2 − qc n−3 .
Algorithme de
3. On pose : Bairstow
∂b i +1
d i −1 = − , i = 1, . . . , n − 1,
∂q
montrer que

 d0 = b0 ,
d = b 1 − pd 0
 1
di = b i − pd i −1 − qd i −2 , i = 2, . . . , n − 2.

En déduire que
d i = c i , i = 0, . . . , n − 2
et que :
∂r ∂r

= −c n−2 , = −c n−3 ,


∂p ∂q

∂s ∂s Sommaire
= −c n−1 − pc n−2 , = −c n−2 − pc n−3 .

Concepts

∂p ∂q


4. On utilise la méthode de Newton pour calculer p et q tels que :

Exemples
Exercices
½
r (p, q) = 0,
Documents
s(p, q) = 0.

ÎÎ 74 ÏÏ
 Î précédent section N

Rassemblez les résultats des questions précédentes pour construire un algo- Exercice
rithme de recherche des racines du polynôme P . B.2.10
TD4-
Exercice10 :
Algorithme de
Bairstow

Sommaire
Concepts

Exemples
Exercices
Documents

ÎÎ 75
 Index des concepts

Le gras indique un grain où le concept est N

défini ; l’italique indique un renvoi à un exer- Newton
cice ou un exemple, le gras italique à un docu- Convergence . . . . . . . . . . . . 25, 27, 31, 37
ment, et le romain à un grain où le concept est Equation non-linéaire . . . . . . . . . . . . . . 23
mentionné. Système 2 équations non-linéaires 31,
37
C Newton
Convergence des méthodes itératives . . 11
Système non linéaire . . . . . . . . . . . . . . . 37

D
Dichotomie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15 P
Point fixe Sommaire
Convergence . . . . . . . . . . . . . . . . . . . . 19, 34 Concepts
G Principe . . . . . . . . . . . . . . . . . . . . . 17, 19, 34
Gauss-Seidel . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
Point fixe
Exemples
Système non linéaire . . . . . . . . . . . . . . 34
J Exercices
Documents
Jacobi. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .6, 9

76 ÏÏ
S
Sécante . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27

Sommaire
Concepts

Exemples
Exercices
Documents

ÎÎ 77
 Solution de l’exercice B.1.1

La définition du déterminant à partir des permutations donne

X
det A = a σ(1)1 a σ(2)2 . . . a σ(n)n
σ

où la somme porte sur toutes les permutations de l’ensemble {1, 2, . . . , n}. Or si la matrice est inversible, son
déterminant est non nul et il existe donc au moins un élément de cette somme qui est non nul, cet élément
correspond à une permutation σ̂. On a donc

a σ̂(1)1 a σ̂(2)2 . . . a σ̂(n)n 6= 0,

A σ̂(1)
 

donc ∀i = 1, . . . , n aσ̂(i )i 6 0. Si on permute les lignes de A et que l’on note Ab la matrice définie par Ab =  A σ̂(2) ,
=
 
..
. A σ̂(n)
les termes diagonaux de Ab qui sont aσ̂(1)1 , aσ̂(2)2 , . . . , aσ̂(n)n sont tous non nuls.
Il suffit alors de permuter les lignes de la matrice A suivant la permutation σ̂ pour obtenir le résultat
attendu.

Retour à l’exercice N
Solution de l’exercice B.1.2

1 0 0
 

D =  0 7 0 .
0 0 9

0 0 0
 

E =  −6 0 0  .
−3 −4 0

0 −3 0
 

F =  0 0 1 .
0 0 0

Retour à l’exercice N
 Solution de l’exercice B.1.3

La matrice D −E est triangulaire inférieure. Le nombre de multiplications/divisions est de l’ordre de n 2 pour

la résolution d’un système triangulaire, ce qui est beaucoup moins important que les n 3 de la méthode LU.
Par contre, la diagonale de A ne doit pas comporter d’éléments nuls.

Retour à l’exercice N
 Solution de l’exercice B.1.4

On a donc x (k+1) = M −1 N x (k) + M −1 b , donc en reprenant les notations du paragraphe Convergence des mé-
thodes itératives, on a C = M −1 N et d = M −1 b . On utilise la proposition 4.1.1. Si k|M −1 N k| < 1, alors la suite
x (k) converge vers la solution unique de

(I − M −1 N )x = d ⇔ x − M −1 N x = M −1 b ⇔ (M − N )x = b ⇔ Ax = b.

On remarque au passage que si M inversible, si k|M −1 N k| < 1, alors la matrice A = M − N est inversible, en
effet il sufffit de reprendre la proposition 4.1.1, A = M (I − M −1 N ) est un produit de matrices inversibles.

Retour à l’exercice N
 Solution de l’exercice B.1.5

La méthode de la dichotomie est basée sur le fait que la solution x ∗ de f (x) = 0 recherchée appartient à une
suite de segments emboités [ak , bk ] pour k ∈ IN. Or la longueur de ces segments est donnée par
b−a
lk = .
2k
Ceci implique que
x ∗ − ak ≤ l k .
Pour que an soit une approximation de x ∗ avec un précision inférieure à ε, il suffit que

ln ≤ ε

soit
b−a b−a
≤ ε ⇒ n ≤ log2
2 n ε

Retour à l’exercice N
 Solution de l’exercice B.1.6

Vous pouvez vous aider de SCILAB pour tracer graphiquement la courbe g (x), la bissectrice y = x et les
points (x k , g (x k )).
Pour les figures, on prend a = 4.
— Voir sur la Figure B.2.1 un exemple de ce qui vous pourriez obtenir pour g 1 .

F IGURE B.2.1 – Point fixe pour g 1 (x) = ax , x 0 = 5, a = 4.

 Il est facile de calculer dans le cas de g 1 la suite des itérés. En effet
a
x 0 donné , x 1 = , x 2n = x 0 x 2n+1 = x 1 , n = 1, 2, . . .
x0
p
La suite prend successivement les valeurs x 0 et x 1 et ne converge donc pas (sauf si par hasard x 0 = a !
).
— Voir sur la Figure B.2.2 un exemple de ce qui vous pourriez obtenir pour g 2 .

F IGURE B.2.2 – Point fixe pour g 2 (x) = 2x − ax , x 0 = 2.3, a = 4. L’asymptote y = 2x est également tracée.

Le tracé que vous avez effectué pour g 2 vous montre que la suite (x k )k∈IN diverge.
— Voir sur la Figure B.2.3 un exemple de ce qui vous pourriez obtenir pour g 3 .

F IGURE B.2.3 – Point fixe pour g 3 (x) = x2 − 2x

a
, x 0 = 9, a = 4. L’asymptote y = x2 est également tracée.

Le tracé que vous avez effectué pour g 3 vous montre que la suite (x k )k∈IN se rapproche de la solution.
Après avoir étudié les théorèmes sur la convergence d’une telle suite, vous pourrez démontrer qu’elle
converge.

Retour à l’exercice N
 Solution de l’exercice B.1.7

Le raisonnement se fait par l’absurde en supposant qu’il existe deux points fixes distincts x ∗ et x̂ distincts
dans [a, b]. Alors, le théorème des accroissements finis donne

g (x ∗ ) − g (x̂) = (x ∗ − x̂)g 0 (ξ),

où ξ est compris entre x ∗ et x̂ et donc appartient à [a, b]. Alors

|x ∗ − x̂| = |g (x ∗ ) − g (x̂)| = |x ∗ − x̂| |g 0 (ξ)| ≤ k|x ∗ − x̂| < |x ∗ − x̂|

ce qui est absurde !

Retour à l’exercice N
 Solution de l’exercice B.1.8

Pour appliquer la proposition , il suffit de démontrer que l’application g va de [−1, 1] dans lui-même et que
sa dérivée est bornée par une constante strictement inférieure à 1 sur cet intervalle. Faites un tableau
de variation de la fonction g sur [−1, 1] et vous démontrerez la première partie sans problème. Quant à la
dérivée g 0 (x) = 32 x . . .

Retour à l’exercice N
 Solution de l’exercice B.1.9

1. L’inégalité de démontre facilement en utilisant l’inégalité de l’hypothèse pour i = n, n − 1, . . . , 0.

2. On écrit
x p − x n = x p − x p−1 + x p−1 − . . . − x n+1 + x n+1 − x n
on prend les valeurs absolues, on utilise l’inégalité triangulaire, puis la majoration précédente.
3. On a
1 − k p−n
k p−1 + . . . + k n+1 + k n = k n (k p−1−n + . . . + k + 1) = k n
1−k
ce qui donne
1 − k p−n
|x p − x n | ≤ k n |x 1 − x 0 | .
1−k
On passe alors à la limite quand p tend vers +∞ sur les deux membres de l’inégalité (le passage à la
limite conserve l’inégalité). Alors, puisque k < 1

lim k p−n = 0
p→+∞

et, par hypothèse, limp→+∞ x p = x ∗ , ce qui donne le résultat.

Retour à l’exercice N
 Solution de l’exercice B.1.10

On utilise les résultats des exercices B.1.8 et B.1.9, ce qui donne

1 2
|x ∗ − x n | ≤ k n |x 1 − x 0 |, avec k = .
1−k 3
On obtient donc µ ¶n µ ¶n
1 n 1 2 ∗ 2
x1 = − , k |x 1 − x 0 | = , |x − x n | ≤ .
3 1−k 3 3
Il suffit donc d’avoir µ ¶n µ ¶
2 2
≤ ² ⇔ n ln ≤ ln ² ⇔ n ≥ 18.
3 3

Retour à l’exercice N
 Solution de l’exercice B.1.11

L’équation de la droite tangente est évidemment

y = f 0 (x n )(x − x n ) + f (x n ).

L’abscisse x n+1 de l’intersection de la droite tangente avec l’axe Ox est donné par

0 = f 0 (x n )(x n+1 − x n ) + f (x n ),

ce qui permet de retrouver la formule de Newton :

f (x n )
x n+1 = x n − .
f 0 (x n )

En partant de x 0 = 4, le calcul de x 1 et x 2 donne

9
12 5 5 4 41
x1 = 4 − = = 2.5 , x2 = − = = 2.05.
8 2 2 5 20

En poursuivant, on trouve que x 4 −2 ≈ 10−7 et |x 5 −2| ≈ 10−15 , soit quasiment la précision machine. Voir sur la
Figure B.2.4 les itérés de Newton en partant de x 0 = 9.5.

Retour à l’exercice N
F IGURE B.2.4 – Itérés de Newton pour f (x) = x 2 − a , x 0 = 9.5, a = 4.
 Solution de l’exercice B.1.12

Puisque f (0) f ( π2 ) < 0 la fonction f admet au moins une racine sur [0, π2 ]. En calculant on obtient

x 0 = 0, x 1 = 1, x 2 = 0.7504, x 3 = 0.7391

puis
π
x0 = , x 1 = 0.7395, x 2 = 0.7391, x 3 = 0.7391
4

Retour à l’exercice N
 Solution de l’exercice B.1.13

L’équation de la droite (pour ceux qui auraient un trou de mémoire) est donnée par
y − f (x n ) f (x n ) − f (x n−1 ) f (x n ) − f (x n−1 )
= ⇔ y = f (x n ) + (x − x n ) .
x − xn x n − x n−1 x n − x n−1

x n+1 est l’abscisse de l’intersection de cette droite avec l’axe Ox , on a donc

x n − x n−1
y = 0 ⇔ x n+1 = x n − f (x n )
f (x n ) − f (x n−1 )

On retrouve la formule de la sécante.

Retour à l’exercice N
 Solution de l’exercice B.1.14

y=f(x)
y

x1 x2 x3 x
x0

F IGURE B.2.5 – Méthode de la sécante modifiée

Comme on le voit sur la Figure B.2.5, la suite construite par la méthode de la sécante modifiée est obtenue
successivement avec les couples x 0 , x 1 puis x 2 , x 0 puis x 3 , x 0 , chacun des couples encadre la racine.
Par la méthode de la sécante simple, à partir de x 0 , x 1 on aurait construit x 2 , ( le même ! ) puis à partir
de x 1 , x 2 on aurait construit un x 30 qui n’est pas x 3 .

Retour à l’exercice N
 Solution de l’exercice B.1.15

Donnons d’abord la fonction f et sa matrice jacobienne

x 12 + (x 22 − 1)2 − 4
µ ¶ µ ¶
2x 1 2(x 2 − 1)
f (x) = D f (x) =
x 12 − x 22 + 1 2x 1 2x 2

Alors on peut calculer x (1) en fonction de x (0) de la manière suivante :

D f x (0) h = − f x (0) , x (1) = x (0) + h

¡ ¡ ¢¢ ¡ ¢

Par exemple, si on choisit

µ ¶ µ ¶ µ ¶
1 2 0 −3
x (0) = , on calcule D f x (0) = , f x (0) =
¡ ¢ ¡ ¢
1 2 −1 1

puis après résolution

µ ¶ µ ¶ µ ¶ µ ¶
1.5 (1) 2.5 ¡ (1)
¢ 5 8 ¡ (1)
¢ 18.25
h= ,x = , Df x = , f x =
4 5 5 −1 2.25
µ ¶
1.25
Après quelques itérations on obtient la solution x = .
2.56

Retour à l’exercice N
 Aide 1, Question 1, Exercice B.2.1

On doit résoudre
M x (k+1) = N x (k) + b
avec µ ¶
1 1
M = D −E, N = − 1 D + F,
ω ω
on vérifie bien que M − N = D − E − F = A .

Retour à l’exercice N
 Aide 1, Question 2, Exercice B.2.1

A, b , x 0 , N, ² donnés
1. n = nombre de lignes de la matrice A
2. pour i = 1 jusqu’à n faire
3. si |ai i | < ² alors
4. arrêter l’algorithme et écrire un message d’erreur
5. fin si
6. fin pour
7. pour k = 1 jusqu’à N faire
8. pour i = 1 jusqu’à n faire
1 iX−1 Xn
9. x 1 (i ) ←− (b i − ai j x1 ( j ) − a i j x 0 ( j ));
ai i j =1 j =i +1
10. x1 (i) ←− ω x1 (i) + (1 − ω) x0 (i); −→ variante sur la méthode de relaxation
11. fin pour
||x 1 − x 0 ||
12. si ≤²
||x 1 ||
13. arrêter et écrire que x 1 est la solution et retourner
14. sinon
15. x0 = x1 ;
16. fin si
17. fin pour
18. arrêt avec un message indiquant la non-convergence
 Remarque :
Au niveau pratique, on ne stocke que 2 vecteurs (x 0 et x 1 ) c’est-à-dire x (k) et x (k+1) , nécessaires pour
calculer l’erreur relative.
On écrase l’ancien vecteur par le nouveau petit à petit.

Retour à l’exercice N
 Aide 1, Question 1, Exercice B.2.2

ρ(J ) = 0, donc la méthode de Jacobi converge pour cette matrice.

R admet 0, λ1 et λ2 comme valeurs propres.
Les coefficients du polynôme caractéristique permettent de voir que λ1 λ2 = −4, donc forcément une des
deux valeurs propres est plus grande que 1 en module (sinon le produit serait inférieur à 1 en module).
Donc ρ(R) > 1, donc la méthode de Gauss-Seidel diverge pour cette matrice.

Retour à l’exercice N
 Aide 1, Question 2, Exercice B.2.2

ρ(R) = 0, donc la méthode de Gauss-Seidel converge pour cette matrice.

Les coefficients du polynôme caractéristique permettent de voir que le produit des trois valeurs propres
de J vaut −8, donc forcément une des trois valeurs propres est plus grande que 1 en module (sinon le produit
serait inférieur à 1 en module).
Donc ρ(J ) > 1, donc la méthode de Jacobi diverge pour cette matrice.

Retour à l’exercice N
 Aide 1, Question 1, Exercice B.2.3

Revoyez la définition d’une norme subordonnée.

Retour à l’exercice N
 Aide 2, Question 1, Exercice B.2.3

D’après la définition, on a donc pour tous les x non nuls appartenant à Cn

kAxk
k|Ak| ≥ .
kxk

Faites le bon choix pour x .

Retour à l’exercice N
 Aide 3, Question 1, Exercice B.2.3

Si l’on note λ∗ la plus grande valeur propre en module de A , si on note x ∗ un vecteur propre associé, on a
donc
Ax ∗ = λ∗ x ∗ ⇒ kAx ∗ k = |λ∗ |kx ∗ k = ρ(A)kx ∗ k.
donc
kAx ∗ k
k|Ak| ≥ = ρ(A).
kx ∗ k

Retour à l’exercice N
 Aide 1, Question 2, Exercice B.2.3

On suppose que λ 6= 0, on a alors :

λ valeur propre de (D − E )−1 F ⇔ ∃y 6= 0, (D − E )−1 F y = λy

⇔ ∃y 6= 0, F y = λ(D − E )y
⇔ ∃y 6= 0, (F + λE )y = λD y
1
⇔ ∃y 6= 0, (F + λE )y = D y
λ µ ¶
−1 1
⇔ ∃y 6= 0, D F +E y = y
λ
µ ¶
−1 1
⇔ 1 valeur propre de D F +E
λ

Retour à l’exercice N
 Aide 1, Question 3, Exercice B.2.3

¡1
Puisque 1 est valeur propre de D −1
¢
λF + E , on a donc
µ µ ¶¶
1
ρ D −1 F + E ≥ 1,
λ

donc µ ¶
−1 1
k|D F + E k|∞ ≥ 1,
λ
or µ
1
¶ iX−1 n |a |
−1
X ij
k|D F + E k|∞ = |a i j | + .
λ j =1 j =i +1 |λ|

Retour à l’exercice N
 Aide 1, Question 4, Exercice B.2.3

On va montrer que si la méthode de Gauss-Seidel diverge, alors la matrice A n’est pas à diagonale stricte-
ment dominante.

Retour à l’exercice N
 Aide 2, Question 4, Exercice B.2.3

Si la méthode de Gauss-Seidel diverge que peut-on dire du rayon spectral de (D − E )−1 F ?

Retour à l’exercice N
 Aide 3, Question 4, Exercice B.2.3

Si la méthode de Gauss-Seidel diverge, le rayon spectral de (D − E )−1 F est supérieur ou égal à 1, donc il
existe une valeur propre λ de (D − E )−1 F supérieure ou égale à 1, pour cette valeur propre, en appliquant la
question précédente, on a
à à !! à à !!
1 iX −1 Xn |a |
ij 1 iX −1 Xn
1 ≤ max |a i j | + ≤ max |a i j | + |a i j | .
i |a i i | j =1 j =i +1 |λ| i |a i i | j =1 j =i +1

Ce qui prouve que la matrice A n’est pas à diagonale strictement dominante.

Donc par contraposée : si la matrice A est à diagonale strictement dominante, la méthode de Gauss-
Seidel converge.

Retour à l’exercice N
 Aide 1, Question 1, Exercice B.2.6

Tracer la courbe x 2 = a , tracez les tangentes et constatez graphiquement que la méthode de Newton converge.

Retour à l’exercice N
 Aide 1, Question 2, Exercice B.2.6

On calcule
(1 − p)a
g 0 (x ∗ ) = = 1 − p,
(x ∗ )p
or la proposition 4.2.3 permet de conclure quant à la convergence pour g 0 (x ∗ ) < 1, bien sûr cette proposition
donne seulement une condition suffisante de convergence, mais pour p ≥ 2, cette condition suffisante n’est
pas vérifiée, donc la méthode de point fixe peut ne pas converger.

Retour à l’exercice N
 Aide 1, Question 3, Exercice B.2.6

On a
xp − a 1 a
h(x) = x − p−1
= x(1 − ) + .
px p px p−1
On obtient, comme pour toute méthode de Newton, h 0 (x ∗ ) = 0.

Retour à l’exercice N
 Solution de l’exercice B.2.7

µ ¶ µ 2 ¶ µ ¶
(0) 1 (1) 3 1
Pour x = , on obtient x = 1 , après 7 itérations on obtiendrait
1 −2.5610−8
µ ¶ µ 2−1 ¶ µ ¶
(0) 0 (1) 3 −0.5
Pour x = , on obtient x = 2 , après 5 itérations on obtiendrait
1 0.8660254
µ ¶ µ 3 −1 ¶ µ ¶
(0) 0 (1) 3 −0.5
Pour x = , on obtient x = −2 , après 5 itérations on obtiendrait
−1 3 −0.8660254
2
On rappelle que les racines de l’unité sont 1, j , j , ce sont les valeurs obtenues numériquement.

Retour à l’exercice N