Statistique d'ordre

Distribution pour la statistique d'ordre 5 d'une distribution exponentielle avec θ = 3.

En statistiques, la statistique d'ordre de rang k d'un échantillon statistique est égal à la k-ieme plus petite valeur. Associée aux statistiques de rang, la statistique d'ordre fait partie des outils fondamentaux de la statistique non paramétrique et de l'inférence statistique.

Deux cas importants de la statistique d'ordre sont les statistiques du minimum et du maximum, et dans une moindre mesure la médiane de l'échantillon ainsi que les différents quantiles.

Quand on emploie la probabilité pour analyser les statistiques d'ordre d'un échantillon aléatoire issu d'une distribution continue, la fonction de distribution cumulative est employée pour ramener l'analyse au cas de la statistique d'ordre sur une distribution uniforme

Notation et exemples

Soit une expérience conduisant à l'observation d'un échantillon de 4 nombres, prenant les valeurs suivantes :

6, 9, 3, 8,

que l'on note selon la convention :

$x_1=6;\ \ x_2=9;\ \ x_3=3;\ \ x_4=8\,$

où le i en indice sert à identifier l'observation (par son ordre temporel, le numéro du dispositif correspondant, etc.), et n'est pas a priori corrélée avec la valeur de l'observation.

On note la statistique d'ordre :

$x_{(1)}=3;\ \ x_{(2)}=6;\ \ x_{(3)}=8;\ \ x_{(4)}=9\,$

où l'indice (i) dénote la i-ième statistique d'ordre de l'échantillon suivant la relation d'ordre habituelle sur les entiers naturels.

Par convention, la première statistique d'ordre, notée X₍₁₎, est toujours le minimum de l'échantillon, c'est-à-dire :

$X_{(1)}=\min\{\,X_1,\ldots,X_n\,\}$

Suivant la convention habituelle, les lettres capitales renvoient à des variables aléatoires, et les lettres en bas de casse aux valeurs observées (réalisations) de ces variables.

De même, pour un échantillon de taille n, la statistique d'ordre n (autrement dit, le maximum) est

$X_{(n)}=\max\{\,X_1,\ldots,X_n\,\}.$

Les statistiques d'ordre sont les lieux des discontinuités de la fonction de répartition empirique de l'échantillon.

Analyse probabiliste

Densité d'une statistique d'ordre

Étant donné une échantillon $X=(X_{1}, X_{2}, \ldots, X_{n})$, les statistiques d'ordres, notées $X_{(1)}, X_{(2)}, \ldots, X_{(n)}$, sont donc obtenues par tri croissant.

Théorème — Si on suppose l'échantillon X indépendant et identiquement distribué selon une loi de densité f et de fonction de répartition F, alors la densité de la k-ème statistique d'ordre est

$f_{X_{(k)}}(x) = {n! \over (k-1)!(n-k)!} F(x)^{k-1} (1-F(x))^{n-k} f(x).$

Démonstration

Calcul via la fonction de répartition

La fonction de répartition de la k-ème statistique d'ordre est

$\begin{align} \mathbb{P}\left(X_{(k)}\leq x\right) & {} = F_{X_{(k)}}(x)\quad =\quad \mathbb{P}(\mathrm{au}\ \mathrm{moins}\ k\ \mathrm{des}\ n\ X\ \mathrm{sont}\ \leq x) \\ &=\sum_{j=k}^n{n \choose j}\mathbb{P}(X_1\leq x)^j(1-\mathbb{P}(X_1\leq x))^{n-j} \\ &=\sum_{j=k}^n{n \choose j} F(x)^j (1-F(x))^{n-j}. \end{align}$

Autrement dit, le nombre d'éléments de l'échantillon inférieurs à x suit une loi binomiale de paramètres n et F(x), puisqu'il s'agit là de n expériences indépendantes, possédant deux issues : « être inférieur à x » et « être supérieur à x », la première des deux issues ayant pour probabilité F(x), et la deuxième issue ayant pour probabilité 1-F(x). En dérivant, on trouve une somme télescopique qui donne la densité :

$\begin{align} f_{X_{(k)}}(x) & {} ={d \over dx} F_{X_{(k)}}(x)\\ & {} =\sum_{j=k}^n{n \choose j}\left(jF(x)^{j-1}f(x)(1-F(x))^{n-j} +F(x)^j (n-j)(1-F(x))^{n-j-1}(-f(x))\right) \\ & {} ={n \choose k}\,kF(x)^{k-1}f(x)(1-F(x))^{n-k}\ +\ \sum_{j=k+1}^n{n \choose j}jF(x)^{j-1}f(x)(1-F(x))^{n-j}\ -\ \sum_{j=k}^{n-1}(n-j){n \choose j} \ F(x)^{j}f(x)(1-F(x))^{n-j-1} \\ & {} ={n \choose k}\,kF(x)^{k-1}f(x)(1-F(x))^{n-k}\ +\ \sum_{j=k+1}^n{n \choose j}jF(x)^{j-1}f(x)(1-F(x))^{n-j}\ -\ \sum_{j=k+1}^{n}(n-j+1){n \choose j-1} \ F(x)^{j-1}f(x)(1-F(x))^{n-j} \\ & {} ={n \choose k}\,kF(x)^{k-1}f(x)(1-F(x))^{n-k}\ +\ \sum_{j=k+1}^n\left({n \choose j}j-(n-j+1){n \choose j-1}\right) \ F(x)^{j-1}f(x)(1-F(x))^{n-j} \\ & {} ={n \choose k}\,kF(x)^{k-1}f(x)(1-F(x))^{n-k}, \end{align}$

car

${n \choose j}j\ =\ \frac{n!\,j}{j!\,n-j!}\ =\ \frac{n!\,(n-j+1)}{j-1!\,n-j+1!}\ =\ (n-j+1){n \choose j-1}.$

Finalement :

$f_{X_{(k)}}(x) = {n! \over (k-1)!(n-k)!} F(x)^{k-1} (1-F(x))^{n-k} f(x).$

Calcul direct

Lors d'une série de n expériences aléatoires indépendantes et identiques ayant chacune trois issues possibles, disons a, b, et c, de probabilités respectives p_a, p_b, p_c, la loi jointe des nombres d'issues N_a (resp. N_b, N_c ) de type a (resp. b, c) est une loi multinomiale de paramètres n et p=(p_a, p_b, p_c ), décrite par :

$\begin{align} \mathbb{P}\left((N_a,N_b,N_c)=(k_a,k_b,k_c)\right)&= {n\choose k_a,k_b,k_c}\ p_a^{k_a}\,p_b^{k_b}\,p_c^{k_c}\ 1\!\!1_{k_a+k_b+k_c=n}\\ &= \frac{n!}{k_a!\,k_b!\,k_c!}\ p_a^{k_a}\,p_b^{k_b}\,p_c^{k_c}\ 1\!\!1_{k_a+k_b+k_c=n}. \end{align}$

Ainsi, la densité de X_(k) est obtenue en reconnaissant une série de n expériences aléatoires indépendantes et identiques ayant chacune trois issues possibles, X_i ≤ x, x<X_i ≤ x+dx, et X_i > x+dx'', de probabilités respectives F(x), f(x) dx, et 1-F(x)-f(x)dx. Ainsi,

$\begin{align} f_{X_{(k)}}(x)\ dx& {} = \mathbb{P}\left(X_{(k)}\in [x,\, x+dx]\right) \\& {}\mathbb{P}\left(\text{ parmi les }n\ X_i,\text{exactement}\ k-1\ \text{sont}\ \leq x,\text{exactement un des }X_i\in[x,\, x+dx],\text{et les autres sont}\ \ge x+dx\right) \\ &= \frac{n!}{k-1!\,1!\,n-k!}\ F(x)^{k-1}\,f(x)\, dx\,(1-F(x)-f(x)dx)^{n-k} \\ &=\frac{n!}{k-1!\,n-k!}\ F(x)^{k-1}\,(1-F(x))^{n-k}\,f(x)\, dx. \end{align}$

En particulier

$f_{X_{(n)}}(x) = n F(x)^{n-1}\ f(x),$

formule qu'on peut trouver directement, en dérivant le résultat du calcul ci-dessous :

$\begin{align} P\left(X_{(n)}\leq x\right) & {} = F_{X_{(n)}}(x) \\ &=P\left( \max(X_1,...,X_n) \leq x \right) \\ &=P\left(\text{chacun des}\ n\ X\ \mathrm{est}\ \leq x \right) \\ &=P\left( X_1 \leq x\right)...P\left( X_n \leq x \right) \\ &=F\left( x\right)...F\left( x\right) \\ &=F\left( x\right)^{n} \end{align}$

Pour la loi uniforme continue, la densité de la k-ème statistique d'ordre est celle d'une Loi bêta, de paramètres k et n+1-k.

Densité jointe de toutes les statistiques d'ordre

Théorème — Si on suppose l'échantillon X indépendant et identiquement distribué selon une loi de densité f, alors la densité jointe des n statistiques d'ordre est

$f(x_{(1)},\dots,x_{(n)})\ =\ n!\ \left(\prod_{i=1}^{n} f(x_{(i)})\right)\quad 1\!\!1_{x_{(1)}\le x_{(2)}\le\dots\le x_{(n-1)}\le x_{(n)}}.$

Références

• David, H. A., Nagaraja, H. N. (2003), Order Statistics (troisième édition). Wiley, New Jersey, p. 458. ISBN 0-471-38926-9
• Herbert Aron David, Order Statistics [détail des éditions]