Méthode de surrelaxation successive

En analyse numérique, la méthode de surrelaxation successive est une variante de la méthode de Gauss-Seidel pour résoudre un système d'équations linéaires. La convergence de cet algorithme est généralement plus rapide. Une approche similaire peut être appliquée à bon nombre de méthodes itératives.

Cette méthode a été découverte simultanément par David M. Young, Jr. (en) et Stan Frankel (en) en 1950 dans le but de résoudre automatiquement des systèmes linéaires avec des ordinateurs. Les méthodes de surrelaxations ont été utilisées auparavant. On citera la méthode de Lewis Fry Richardson et la méthode de R. V. Southwell. Ces méthodes étaient conçues pour des êtres humains et elles requéraient une expertise certaine afin d'assurer la convergence. Ces méthodes ne pouvaient être retranscrites sur ordinateur. Ces limitations ont été discutées dans la thèse de David Young^[1]

Formulation

On considère un système linéaire de n équations avec n inconnues notées x (qui est un vecteur) :

$A\mathbf x = \mathbf b$

où :

$A=\begin{bmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\a_{n1} & a_{n2} & \cdots & a_{nn} \end{bmatrix}, \qquad \mathbf{x} = \begin{bmatrix} x_{1} \\ x_2 \\ \vdots \\ x_n \end{bmatrix} , \qquad \mathbf{b} = \begin{bmatrix} b_{1} \\ b_2 \\ \vdots \\ b_n \end{bmatrix}.$

A étant la somme d'une matrice diagonale notée D et de deux matrices triangulaires (respectivement inférieure et supérieure) notées L et U :

$A=D+L+U \qquad \text{avec} \quad D = \begin{bmatrix} a_{11} & 0 & \cdots & 0 \\ 0 & a_{22} & \cdots & 0 \\ \vdots & \vdots & \ddots & \vdots \\0 & 0 & \cdots & a_{nn} \end{bmatrix}, \quad L = \begin{bmatrix} 0 & 0 & \cdots & 0 \\ a_{21} & 0 & \cdots & 0 \\ \vdots & \vdots & \ddots & \vdots \\a_{n1} & a_{n2} & \cdots & 0 \end{bmatrix}, \quad U = \begin{bmatrix} 0 & a_{12} & \cdots & a_{1n} \\ 0 & 0 & \cdots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\0 & 0 & \cdots & 0 \end{bmatrix} ,$

le système d'équations linéaires peut être reformulé par :

$(D+\omega L) \mathbf{x} = \omega \mathbf{b} - [\omega U + (\omega-1) D ] \mathbf{x}$

pour tout ω > 0.

La méthode de surrelaxation successive est une méthode itérative initialisée par le choix d'un x₀ arbitraire, et où chaque itération consiste à déterminer x_{n + 1} à l'aide de x_n selon la formule suivante :

$(D+\omega L) \mathbf{x_{n+1}} = \omega \mathbf{b} - [\omega U + (\omega-1) D ] \mathbf{x_n}$

La matrice de gauche (D+ωL) étant triangulaire, il est aisé de calculer x_{n + 1} par :

$x^{(n+1)}_i = (1-\omega)x^{(n)}_i + \frac{\omega}{a_{ii}} \left(b_i - \sum_{j>i} a_{ij}x^{(n)}_j - \sum_{j<i} a_{ij}x^{(n+1)}_j \right),\quad i=1,2,\ldots,n.$

Le choix du facteur de relaxation n'est pas trivial et dépend des coefficients de la matrice. Pour une matrice définie positive, on peut démontrer que l'algorithme est convergent pour tout $\omega \in ]0,2[$. Toutefois, on veut une convergence aussi rapide que possible.

Algorithme

Entrée: A , b, ω
Sortie: ϕ

On choisit une solution initiale arbitraire ϕ⁽⁰⁾. Répéter jusqu'à convergence

Boucler i de 1 à n

$\sigma \leftarrow 0$

Boucler j de 1 à i − 1

$\sigma \leftarrow \sigma + a_{ij} \phi_j^{(k+1)}$

Fin (boucle j)

Boucler j de i + 1 à n

$\sigma \leftarrow \sigma + a_{ij} \phi_j^{(k)}$

Fin (boucle j)

$\phi_i^{(k+1)} \leftarrow (1-\omega)\phi_i^{(k)} + \frac{\omega}{a_{ii}} (b_i - \sigma)$

Fin (boucle i)

Vérifier la convergence.

Fin (boucle répétition)

Note:
$(1-\omega)\phi_i^{(k)} + \frac{\omega}{a_{ii}} (b_i - \sigma)$ peut aussi être écrit $\phi_i^{(k)} + \omega \left( \frac{b_i - \sigma}{a_{ii}} - \phi_i^{(k)}\right)$. Ceci économise une multiplication à chaque itération.

Autre applications de la méthode

Article principal : extrapolation de Richardson.

Une technique similaire peut être utilisée pour toute méthode itérative. On suppose que l'itération peut être écrite sous la forme:

x_{n + 1} = f(x_n)

alors la méthode modifiée devient:

$x^\mathrm{SOR}_{n+1}=(1-\omega)x^{\mathrm{SOR}}_n+\omega f(x^\mathrm{SOR}_n)$

ou de manière équivalente:

x_n = ωx_{n − 1} + (1 − ω)x_{n − 2} ω < 1 En pratique, le choix ω > 1 est utilisé pour accélérer la convergence tandis que le choix ω < 1 est souvent utilisé pour faire converger un processus divergent.

Il existe de nombreuses méthodes pour décider de la valeur à donner au paramètre ω, basées sur le comportement de l'algorithme. En principe ces méthodes permettent d'avoir une convergence superlinéaire dans beaucoup de cas, mais elles peuvent échouer dans certains cas.

Voir aussi

• Méthode de Jacobi
• Méthode de Gauss-Seidel

Notes

1. ↑ David M. Young, Iterative methods for solving partial difference equations of elliptical type, vol. PhD thesis, Harvard University, 1^er mai 1950 [lire en ligne] 

Références

• (en) Cet article est partiellement ou en totalité issu de l’article de Wikipédia en anglais intitulé « Successive over-relaxation » (voir la liste des auteurs)
• Superrelaxation successive - SOR sur cfd-online
• (en) Black, Noel and Moore, Shirley, « Successive Overrelaxation Method », MathWorld
• (en) Yousef Saad (en), Iterative Methods for Sparse Linear Systems, 1st edition, PWS, 1996
• (en) Templates for the Solution of Linear Systems par Jack Dongarra (en) sur netlib

Lien externe

(en) Module for the SOR Method