Matrice de covariance : lire le tableau case par case

Tu dois répartir une somme fixe entre deux placements, X et Y, en limitant le risque total. Pour trouver la bonne répartition, il te faut seulement trois nombres : la variabilité de X, celle de Y, et la façon dont les deux bougent ensemble. Rangés dans un petit tableau carré, ces trois nombres forment une matrice de covariance. À la fin, tu sauras la construire, lire chacune de ses cases et deviner où elle travaille en coulisses.

Sommaire

L’essentiel en 30 secondes

  • Une matrice de covariance est un tableau carré de covariances : une ligne et une colonne par variable.
  • Sa diagonale contient les variances ; chaque autre case compare deux variables différentes.
  • Elle est toujours symétrique : la case (h, k) et la case (k, h) sont identiques.
  • Elle donne la variance de tout mélange pondéré des variables.
  • Dans une loi normale, elle fixe la forme du nuage de points, et c’est elle qui distingue LDA de QDA.
  • Elle se déforme facilement : dupliquer une ligne de données la modifie.

Trois nombres pour deux placements

Reprenons nos deux placements, de rendements X et Y. Tu en mets une fraction α dans X et le reste dans Y, et tu cherches la fraction qui rend le risque \text{Var}(\alpha X + (1-\alpha) Y) le plus petit possible. La réponse s’écrit :

    \[ \alpha = \frac{\sigma_Y^2 - \sigma_{XY}}{\sigma_X^2 + \sigma_Y^2 - 2\sigma_{XY}}.\]

Trois quantités seulement y figurent : \sigma_X^2 et \sigma_Y^2 sont les variances de X et de Y, et \sigma_{XY} leur covariance. Prends des valeurs : \sigma_X^2 = 1, \sigma_Y^2 = 1{,}25 et \sigma_{XY} = 0{,}5. Le calcul donne (1{,}25 - 0{,}5)/(1 + 1{,}25 - 1) = 0{,}6 : 60 % dans X, 40 % dans Y.

Une covariance entre deux variables x_h et x_k, mesurées sur n observations, est la moyenne (corrigée par n-1) des produits de leurs écarts à la moyenne :

    \[ cov(x_h,x_k) = \frac{\sum_{i=1}^n (x_{i,h}-\bar{x}_h)(x_{i,k}-\bar{x}_k)}{n-1}.\]

Son signe indique si les deux variables évoluent de concert ou à contresens. Il reste à ranger nos trois nombres. On les dispose dans un tableau carré, ligne et colonne étiquetées X puis Y :

    \[ \Sigma = \begin{pmatrix} 1 & 0{,}5 \\ 0{,}5 & 1{,}25 \end{pmatrix}.\]

C’est la matrice de covariance de nos deux placements : on y rassemble toutes les covariances, y compris celle de chaque variable avec elle-même.

Lire la matrice case par case

Chaque case répond à une question précise. Garde notre \Sigma sous les yeux.

  • Case (X, X) = 1 : la covariance de X avec lui-même, qui n’est autre que sa variance.
  • Case (Y, Y) = 1,25 : la variance de Y, donc la dispersion de ses valeurs autour de sa moyenne.
  • Cases (X, Y) et (Y, X) = 0,5 : la covariance des deux placements. Positive, elle indique des rendements qui montent et descendent plutôt ensemble.

Les deux cases hors diagonale sont égales. Ce n’est pas un hasard : une matrice égale à sa propre transposée est dite symétrique, et toute matrice de covariance l’est. Avec d variables, le tableau compte d lignes et d colonnes.

Une covariance de 0,5 est-elle forte ou faible ? Le nombre seul ne le dit pas. Pour le savoir, on divise par les écarts-types, ce qui donne le coefficient de corrélation de Pearson, coincé entre −1 et 1 quelles que soient les variables.

    \[ r = \frac{cov(x_h,x_k)}{\sqrt{var(x_h)\,var(x_k)}}.\]

Ici, r = 0{,}5 / \sqrt{1 \times 1{,}25} \approx 0{,}45 : un lien positif et modéré.

💡 Intuition Lis la diagonale comme « chacun pour soi » et le reste comme « chacun avec chacun ». Une matrice ne contient donc rien d’autre que les variances et les covariances de toutes les paires, rangées une fois pour toutes.

La même matrice en quelques lignes de Python

Imagine que tu disposes d’un tableau Portfolio de 100 paires de rendements, colonnes X et Y, et que tu veux en tirer la fraction α sans recopier de formule à la main. Le bloc suivant est une session interactive : chaque ligne In [n]: est une commande saisie, le nombre n compte les saisies de la session.

In [15]: Portfolio = load_data('Portfolio')

In [16]: def alpha_func(D, idx):
             cov_ = np.cov(D[['X','Y']].loc[idx], rowvar=False)
             return ((cov_[1,1] - cov_[0,1]) /
                      (cov_[0,0]+cov_[1,1]-2*cov_[0,1]))

np.cov reçoit les deux colonnes X et Y et renvoie la matrice, que le code lit par positions. cov_[0,0] et cov_[1,1] sont les cases de la diagonale, donc les variances de X et de Y ; cov_[0,1] est la covariance. Remplace-les dans la formule de α de la section précédente : c’est exactement le même calcul. L’argument idx désigne les lignes à garder : on peut ainsi recalculer α sur un sous-ensemble tiré au hasard.

Sur 100 paires, la matrice estimée n’est pas exacte. Avec des paramètres connus (\sigma_X^2 = 1, \sigma_Y^2 = 1{,}25, \sigma_{XY} = 0{,}5), 1 000 échantillons simulés donnent un α moyen de 0,5996 et un écart-type d’environ 0,083 : d’un échantillon à l’autre, la fraction trouvée bouge de quelques centièmes.

Ce que la matrice calcule : la variance d’un mélange

Voici son vrai talent. Soit X un tableau de données à n lignes et d colonnes, et u une liste de d poids. Le mélange pondéré des colonnes, noté Xu, a pour variance :

    \[ \text{var}(Xu) = u^T \Sigma u.\]

Applique-le à nos placements, avec u = (\alpha, 1-\alpha). Pour \alpha = 0{,}6, on trouve 0{,}36 \times 1 + 2 \times 0{,}6 \times 0{,}4 \times 0{,}5 + 0{,}16 \times 1{,}25 = 0{,}8. Une répartition moitié-moitié donne 0,8125, tout dans X donne 1, tout dans Y donne 1,25. 0,6 reste la fraction optimale, et la matrice a suffi pour le vérifier.

Cette même quantité sert aussi en ACP : on cherche la direction u de norme 1 qui la rend maximale. Cette direction est un vecteur propre de \Sigma, et la variance obtenue vaut la valeur propre correspondante.

La forme du nuage de points

Une loi normale à une variable se décrit par une moyenne et une variance. Avec plusieurs variables, la variance devient une matrice de covariance \Sigma complète, qui capture la dispersion de chaque variable et leurs corrélations mutuelles. Une propriété rend ce cadre précieux : toute combinaison linéaire de ses variables suit encore une loi normale.

Nuage de points orange et lignes de niveau elliptiques bleues, inclinées vers le haut, d'une loi normale à deux variables corrélées positivement
Regarde l’inclinaison des ellipses : elles s’allongent le long de la diagonale ascendante, la direction dans laquelle X1 et X2 montent ensemble. Une covariance positive tire le nuage dans ce sens, et le nuage orange épouse cette forme.

Une matrice par classe, ou une seule pour toutes

La matrice de covariance joue aussi un rôle de juge en classification. L’analyse discriminante linéaire (LDA) modélise chaque classe par une loi normale à moyenne propre, mais impose une matrice de covariance commune à toutes les classes. L’analyse discriminante quadratique (QDA) assouplit cette règle : chaque classe a sa propre matrice.

Deux nuages de points orange et bleu marine ; à gauche une frontière rectiligne en pointillés (LDA), à droite une frontière courbe (QDA)
Compare les deux panneaux, qui montrent les mêmes points : la matrice commune de LDA ne permet qu’une droite pour séparer les classes, alors que les matrices distinctes de QDA autorisent une courbe.

Le choix se joue sur un compromis. QDA est plus flexible mais doit estimer davantage de paramètres : elle se justifie si les classes n’ont vraisemblablement pas la même covariance, ou si l’échantillon est assez grand pour estimer ces paramètres en plus. Avec peu de données, LDA reste préférable.

Ce que les bibliothèques font de la matrice

Dans la pratique, on forme rarement la matrice pour la décomposer ensuite. Les composantes d’une ACP sont ses vecteurs propres, mais les bibliothèques préfèrent souvent passer par la décomposition en valeurs singulières des données centrées, pour des raisons de stabilité numérique.

Les deux chemins mènent au même résultat, car les valeurs singulières s_i se relient directement aux valeurs propres de la matrice :

    \[ \lambda_i = \frac{s_i^2}{n-1},\]

où n est le nombre d’observations. La symétrie de la matrice garantit en outre que ses vecteurs propres sont orthogonaux entre eux.

Trois façons de mal la lire

Une ligne dupliquée la change. Répéter artificiellement un même point dans les données modifie la matrice de covariance. Une comparaison entre un jeu et sa version où un point est dupliqué trois fois le montre : les valeurs et vecteurs propres restent proches, mais ne coïncident plus exactement.

Elle ne voit que le linéaire. La covariance mesure la dépendance linéaire entre deux variables. Une covariance nulle n’implique donc pas l’indépendance.

Les unités pèsent. Une variable exprimée dans une unité qui donne de grands nombres domine le calcul des variances. Pour l’éviter, on normalise chaque variable à variance 1, quitte à obtenir des directions principales sensiblement différentes.

📌 À retenir Devant une matrice \Sigma, pose-toi trois questions : que contient la diagonale (les variances), pourquoi le tableau est-il symétrique (la covariance de h avec k vaut celle de k avec h), et que vaut u^T \Sigma u pour le mélange qui t’intéresse (sa variance).