{"id":413,"date":"2026-10-07T09:45:47","date_gmt":"2026-10-07T07:45:47","guid":{"rendered":"https:\/\/www.ranksignal.fr\/blog\/?p=413"},"modified":"2026-10-14T17:19:45","modified_gmt":"2026-10-14T15:19:45","slug":"le-rss-residual-sum-of-squares","status":"publish","type":"post","link":"https:\/\/www.ranksignal.fr\/blog\/maths\/le-rss-residual-sum-of-squares\/","title":{"rendered":"RSS : ce que la somme des carr\u00e9s des r\u00e9sidus mesure"},"content":{"rendered":"<p><\/p>\n<p>Un chercheur en pharmacie conna\u00eet le poids mol\u00e9culaire de trois compos\u00e9s et la capacit\u00e9 de chacun \u00e0 faire passer un m\u00e9dicament \u00e0 travers la peau. Il veut pr\u00e9dire celle d&rsquo;un quatri\u00e8me compos\u00e9 dont il ne conna\u00eet que le poids, et trace pour cela une droite au plus pr\u00e8s de ses trois points. Une seule question d\u00e9cide alors de tout : de combien cette droite se trompe-t-elle ? Le RSS y r\u00e9pond par un seul nombre. Tu vas voir comment il se fabrique, \u00e0 quoi il sert en coulisses et pourquoi un RSS minuscule ne prouve presque rien.<\/p>\n<p><strong>Sommaire<\/strong><\/p>\n<ul>\n<li><a href=\"#l-essentiel-en-30-secondes\">L&rsquo;essentiel en 30 secondes<\/a><\/li>\n<li><a href=\"#un-residu-un-carre-une-somme-la-fabrique-du-rss\">Un r\u00e9sidu, un carr\u00e9, une somme : la fabrique du RSS<\/a><\/li>\n<li><a href=\"#du-total-a-la-moyenne-le-meme-score-a-une-autre-echelle\">Du total \u00e0 la moyenne : le m\u00eame score \u00e0 une autre \u00e9chelle<\/a><\/li>\n<li><a href=\"#ce-que-le-rss-fait-en-coulisses-de-la-regression\">Ce que le RSS fait en coulisses de la r\u00e9gression<\/a><\/li>\n<li><a href=\"#pourquoi-un-rss-minuscule-ne-prouve-presque-rien\">Pourquoi un RSS minuscule ne prouve presque rien<\/a><\/li>\n<\/ul>\n<h2 id=\"l-essentiel-en-30-secondes\">L&rsquo;essentiel en 30 secondes<\/h2>\n<ul>\n<li>Le RSS (residual sum of squares) est la <strong>somme des carr\u00e9s des r\u00e9sidus<\/strong> : l&rsquo;erreur totale d&rsquo;un mod\u00e8le sur ses donn\u00e9es.<\/li>\n<li>Un r\u00e9sidu est l&rsquo;\u00e9cart entre la valeur observ\u00e9e et la valeur pr\u00e9dite ; les moindres carr\u00e9s <strong>choisissent la droite qui minimise le RSS<\/strong>.<\/li>\n<li>Divis\u00e9 par le nombre d&rsquo;observations, le RSS devient <strong>l&rsquo;erreur quadratique moyenne<\/strong>, la mesure d&rsquo;ajustement la plus r\u00e9pandue en r\u00e9gression.<\/li>\n<li>Sous un bruit gaussien, <strong>minimiser le RSS \u00e9quivaut au maximum de vraisemblance<\/strong>, et le RSS fournit l&rsquo;estimation de la variance du bruit.<\/li>\n<li>Calcul\u00e9 sur les donn\u00e9es d&rsquo;entra\u00eenement, <strong>il ne peut que baisser<\/strong> quand le mod\u00e8le s&rsquo;enrichit : un petit RSS ne garantit donc aucun bon mod\u00e8le.<\/li>\n<\/ul>\n<h2 id=\"un-residu-un-carre-une-somme-la-fabrique-du-rss\">Un r\u00e9sidu, un carr\u00e9, une somme : la fabrique du RSS<\/h2>\n<p>Reprends la droite du chercheur. Pour chaque compos\u00e9, elle annonce une valeur ; l&rsquo;\u00e9cart entre la valeur mesur\u00e9e et celle que la droite pr\u00e9dit s&rsquo;appelle le <strong>r\u00e9sidu<\/strong> du point, not\u00e9 <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-9dd673dc590eac368467412e05353b98_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#101;&#95;&#105;&#32;&#61;&#32;&#121;&#95;&#105;&#32;&#45;&#32;&#92;&#104;&#97;&#116;&#32;&#121;&#95;&#105;\" title=\"Rendered by QuickLaTeX.com\" height=\"16\" width=\"87\" style=\"vertical-align: -4px;\"\/>, o\u00f9 <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-bb3c186e5c65fcd066bb23dec8f4e48a_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#121;&#95;&#105;\" title=\"Rendered by QuickLaTeX.com\" height=\"12\" width=\"14\" style=\"vertical-align: -4px;\"\/> est la valeur observ\u00e9e et <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-61a63596efcfaeb47e5be36a7f808905_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#92;&#104;&#97;&#116;&#32;&#121;&#95;&#105;\" title=\"Rendered by QuickLaTeX.com\" height=\"16\" width=\"14\" style=\"vertical-align: -4px;\"\/> la valeur pr\u00e9dite par le mod\u00e8le.<\/p>\n<p>Reste \u00e0 condenser ces \u00e9carts en un unique nombre. Les additionner tels quels laisserait les \u00e9carts positifs compenser les n\u00e9gatifs, et prendre leur valeur absolue donne une fonction non d\u00e9rivable, incommode pour la suite du calcul. La solution retenue, de loin la plus r\u00e9pandue, consiste \u00e0 sommer leurs carr\u00e9s.<\/p>\n<p><p class=\"ql-center-displayed-equation\" style=\"line-height: 49px;\"><span class=\"ql-right-eqno\"> &nbsp; <\/span><span class=\"ql-left-eqno\"> &nbsp; <\/span><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-4939677788830110d9b133b57f22459e_l3.png\" height=\"49\" width=\"229\" class=\"ql-img-displayed-equation quicklatex-auto-format\" alt=\"&#92;&#91; &#92;&#109;&#97;&#116;&#104;&#114;&#109;&#123;&#82;&#83;&#83;&#125;&#32;&#61;&#32;&#92;&#115;&#117;&#109;&#95;&#123;&#105;&#61;&#49;&#125;&#94;&#110;&#32;&#92;&#108;&#101;&#102;&#116;&#40;&#121;&#95;&#105;&#32;&#45;&#32;&#92;&#104;&#97;&#116;&#92;&#98;&#101;&#116;&#97;&#95;&#48;&#32;&#45;&#32;&#92;&#104;&#97;&#116;&#92;&#98;&#101;&#116;&#97;&#95;&#49;&#32;&#120;&#95;&#105;&#92;&#114;&#105;&#103;&#104;&#116;&#41;&#94;&#50;&#46;&#92;&#93;\" title=\"Rendered by QuickLaTeX.com\"\/><\/p><\/p>\n<p>Cette somme porte sur les <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-b170995d512c659d8668b4e42e1fef6b_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#110;\" title=\"Rendered by QuickLaTeX.com\" height=\"8\" width=\"11\" style=\"vertical-align: 0px;\"\/> observations ; <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-5b0aaaf50941d0c0de5bfefe1bbd54b3_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#92;&#104;&#97;&#116;&#92;&#98;&#101;&#116;&#97;&#95;&#48;\" title=\"Rendered by QuickLaTeX.com\" height=\"21\" width=\"17\" style=\"vertical-align: -4px;\"\/> et <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-a0f13c67eb468cb4a1e37f91ff997836_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#92;&#104;&#97;&#116;&#92;&#98;&#101;&#116;&#97;&#95;&#49;\" title=\"Rendered by QuickLaTeX.com\" height=\"21\" width=\"16\" style=\"vertical-align: -4px;\"\/> sont l&rsquo;ordonn\u00e9e \u00e0 l&rsquo;origine et la pente estim\u00e9es de la droite, de sorte que chaque parenth\u00e8se n&rsquo;est autre que le r\u00e9sidu <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-d33c164f455b97af0a78c1c0eaac4383_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#101;&#95;&#105;\" title=\"Rendered by QuickLaTeX.com\" height=\"11\" width=\"13\" style=\"vertical-align: -3px;\"\/>. Les trois lettres viennent de <strong>residual sum of squares<\/strong>, litt\u00e9ralement la somme des carr\u00e9s des r\u00e9sidus.<\/p>\n\n\n<figure data-wp-context=\"{&quot;imageId&quot;:&quot;6adef4691ddb3&quot;}\" data-wp-interactive=\"core\/image\" data-wp-key=\"6adef4691ddb3\" class=\"wp-block-image size-large wp-lightbox-container\"><img loading=\"lazy\" decoding=\"async\" width=\"2100\" height=\"1500\" data-wp-class--hide=\"state.isContentHidden\" data-wp-class--show=\"state.isContentVisible\" data-wp-init=\"callbacks.setButtonStyles\" data-wp-on--click=\"actions.showLightbox\" data-wp-on--load=\"callbacks.setButtonStyles\" data-wp-on--pointerdown=\"actions.preloadImage\" data-wp-on--pointerenter=\"actions.preloadImageWithDelay\" data-wp-on--pointerleave=\"actions.cancelPreload\" data-wp-on-window--resize=\"callbacks.setButtonStyles\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch02_droite_regression_moindres_carres.png\" alt=\"Nuage de points, droite des moindres carr\u00e9s en orange et segments verticaux gris reliant chaque observation \u00e0 la droite\" class=\"wp-image-409\" srcset=\"https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch02_droite_regression_moindres_carres.png 2100w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch02_droite_regression_moindres_carres-300x214.png 300w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch02_droite_regression_moindres_carres-1024x731.png 1024w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch02_droite_regression_moindres_carres-768x549.png 768w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch02_droite_regression_moindres_carres-1536x1097.png 1536w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch02_droite_regression_moindres_carres-2048x1463.png 2048w\" sizes=\"auto, (max-width: 2100px) 100vw, 2100px\" \/><button\n\t\t\tclass=\"lightbox-trigger\"\n\t\t\ttype=\"button\"\n\t\t\taria-haspopup=\"dialog\"\n\t\t\tdata-wp-bind--aria-label=\"state.thisImage.triggerButtonAriaLabel\"\n\t\t\tdata-wp-init=\"callbacks.initTriggerButton\"\n\t\t\tdata-wp-on--click=\"actions.showLightbox\"\n\t\t\tdata-wp-style--right=\"state.thisImage.buttonRight\"\n\t\t\tdata-wp-style--top=\"state.thisImage.buttonTop\"\n\t\t>\n\t\t\t<svg xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"12\" height=\"12\" fill=\"none\" viewBox=\"0 0 12 12\">\n\t\t\t\t<path fill=\"#fff\" d=\"M2 0a2 2 0 0 0-2 2v2h1.5V2a.5.5 0 0 1 .5-.5h2V0H2Zm2 10.5H2a.5.5 0 0 1-.5-.5V8H0v2a2 2 0 0 0 2 2h2v-1.5ZM8 12v-1.5h2a.5.5 0 0 0 .5-.5V8H12v2a2 2 0 0 1-2 2H8Zm2-12a2 2 0 0 1 2 2v2h-1.5V2a.5.5 0 0 0-.5-.5H8V0h2Z\" \/>\n\t\t\t<\/svg>\n\t\t<\/button><figcaption class=\"wp-element-caption\">Chaque segment gris est un r\u00e9sidu : le RSS prend la longueur de chacun, l&rsquo;\u00e9l\u00e8ve au carr\u00e9, puis additionne le tout. La droite retenue est celle qui rend cette somme <strong>la plus petite possible<\/strong>, ce que la m\u00e9thode des moindres carr\u00e9s ordinaires organise.<\/figcaption><\/figure>\n\n\n<blockquote>\n<p><strong>\ud83d\udca1 Intuition<\/strong> Le RSS est un score de ratage : il vaut z\u00e9ro quand le mod\u00e8le colle exactement aux points, et il grandit \u00e0 mesure que les pr\u00e9dictions s&rsquo;en \u00e9loignent.<\/p>\n<\/blockquote>\n<h2 id=\"du-total-a-la-moyenne-le-meme-score-a-une-autre-echelle\">Du total \u00e0 la moyenne : le m\u00eame score \u00e0 une autre \u00e9chelle<\/h2>\n<p>Le RSS additionne les carr\u00e9s des \u00e9carts sans les moyenner. Divise-le par le nombre d&rsquo;observations et tu obtiens l&rsquo;<strong>erreur quadratique moyenne<\/strong> (MSE, pour mean squared error), la mesure de qualit\u00e9 d&rsquo;ajustement la plus utilis\u00e9e en r\u00e9gression.<\/p>\n<p><p class=\"ql-center-displayed-equation\" style=\"line-height: 49px;\"><span class=\"ql-right-eqno\"> &nbsp; <\/span><span class=\"ql-left-eqno\"> &nbsp; <\/span><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-d06595b8f429705627aa119beb7a286e_l3.png\" height=\"49\" width=\"219\" class=\"ql-img-displayed-equation quicklatex-auto-format\" alt=\"&#92;&#91; &#92;&#109;&#97;&#116;&#104;&#114;&#109;&#123;&#77;&#83;&#69;&#125;&#32;&#61;&#32;&#92;&#102;&#114;&#97;&#99;&#123;&#49;&#125;&#123;&#110;&#125;&#32;&#92;&#115;&#117;&#109;&#95;&#123;&#105;&#61;&#49;&#125;&#94;&#110;&#32;&#92;&#108;&#101;&#102;&#116;&#40;&#121;&#95;&#105;&#32;&#45;&#32;&#92;&#104;&#97;&#116;&#32;&#102;&#40;&#120;&#95;&#105;&#41;&#92;&#114;&#105;&#103;&#104;&#116;&#41;&#94;&#50;&#46;&#92;&#93;\" title=\"Rendered by QuickLaTeX.com\"\/><\/p><\/p>\n<p>Ici <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-8995490a4355d7edc34c1f8d0f9fdaa3_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#92;&#104;&#97;&#116;&#32;&#102;&#40;&#120;&#95;&#105;&#41;\" title=\"Rendered by QuickLaTeX.com\" height=\"22\" width=\"39\" style=\"vertical-align: -5px;\"\/> d\u00e9signe la pr\u00e9diction du mod\u00e8le pour le point <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-695d9d59bd04859c6c99e7feb11daab6_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#105;\" title=\"Rendered by QuickLaTeX.com\" height=\"12\" width=\"6\" style=\"vertical-align: 0px;\"\/>, ce que tu as not\u00e9 <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-61a63596efcfaeb47e5be36a7f808905_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#92;&#104;&#97;&#116;&#32;&#121;&#95;&#105;\" title=\"Rendered by QuickLaTeX.com\" height=\"16\" width=\"14\" style=\"vertical-align: -4px;\"\/> plus haut : on retrouve la m\u00eame somme de carr\u00e9s d&rsquo;\u00e9carts, ramen\u00e9e \u00e0 une moyenne. Sa racine carr\u00e9e est exprim\u00e9e <strong>dans l&rsquo;unit\u00e9 de la cible<\/strong>, ce qui la fait souvent pr\u00e9f\u00e9rer en pratique.<\/p>\n<p>Reste \u00e0 savoir sur quels points la calculer. Calcul\u00e9e sur les points qui ont servi \u00e0 construire le mod\u00e8le, elle s&rsquo;appelle MSE d&rsquo;entra\u00eenement ; mais cette valeur n&rsquo;int\u00e9resse presque jamais, puisqu&rsquo;on conna\u00eet d\u00e9j\u00e0 ces r\u00e9ponses. Ce qu&rsquo;on veut, c&rsquo;est pr\u00e9dire des observations nouvelles : la <strong>MSE de test<\/strong> est celle qu&rsquo;on cherche r\u00e9ellement \u00e0 minimiser.<\/p>\n<h2 id=\"ce-que-le-rss-fait-en-coulisses-de-la-regression\">Ce que le RSS fait en coulisses de la r\u00e9gression<\/h2>\n<p>Le RSS ne sert pas qu&rsquo;\u00e0 classer des droites. Deux r\u00f4les discrets en d\u00e9coulent, puis un troisi\u00e8me d\u00e8s qu&rsquo;on veut contr\u00f4ler la souplesse d&rsquo;un mod\u00e8le.<\/p>\n<h3>Il justifie le choix du carr\u00e9<\/h3>\n<p>La m\u00e9thode des moindres carr\u00e9s s&rsquo;est d&rsquo;abord appuy\u00e9e sur une intuition purement g\u00e9om\u00e9trique. Elle trouve une justification plus profonde : le maximum de vraisemblance choisit les param\u00e8tres qui rendent les donn\u00e9es observ\u00e9es les plus probables, et, sous l&rsquo;hypoth\u00e8se d&rsquo;un <strong>bruit gaussien<\/strong>, il redonne exactement la solution des moindres carr\u00e9s. Cette \u00e9quivalence ouvre la porte aux intervalles de confiance autour des coefficients eux-m\u00eames.<\/p>\n<h3>Il donne la taille du bruit<\/h3>\n<p>Une fois la droite ajust\u00e9e, une question demeure : de combien les observations s&rsquo;\u00e9cartent-elles de la vraie relation ? L&rsquo;estimateur de la variance du bruit tient en une fraction :<\/p>\n<p><p class=\"ql-center-displayed-equation\" style=\"line-height: 46px;\"><span class=\"ql-right-eqno\"> &nbsp; <\/span><span class=\"ql-left-eqno\"> &nbsp; <\/span><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-9219eb452fcc810bdff5e65d2898c6e4_l3.png\" height=\"46\" width=\"205\" class=\"ql-img-displayed-equation quicklatex-auto-format\" alt=\"&#92;&#91; &#92;&#116;&#105;&#108;&#100;&#101;&#92;&#115;&#105;&#103;&#109;&#97;&#94;&#50;&#32;&#61;&#32;&#92;&#102;&#114;&#97;&#99;&#123;&#40;&#121;&#32;&#45;&#32;&#88;&#92;&#116;&#105;&#108;&#100;&#101;&#92;&#98;&#101;&#116;&#97;&#41;&#94;&#84;&#32;&#40;&#121;&#32;&#45;&#32;&#88;&#92;&#116;&#105;&#108;&#100;&#101;&#92;&#98;&#101;&#116;&#97;&#41;&#125;&#123;&#78;&#32;&#45;&#32;&#40;&#100;&#43;&#49;&#41;&#125;&#46;&#92;&#93;\" title=\"Rendered by QuickLaTeX.com\"\/><\/p><\/p>\n<p>Le num\u00e9rateur est le RSS \u00e9crit avec des vecteurs : <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-0af556714940c351c933bba8cf840796_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#121;\" title=\"Rendered by QuickLaTeX.com\" height=\"12\" width=\"9\" style=\"vertical-align: -4px;\"\/> regroupe les <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-5793832f979c2268e3694c246d53b1bb_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#78;\" title=\"Rendered by QuickLaTeX.com\" height=\"12\" width=\"16\" style=\"vertical-align: 0px;\"\/> r\u00e9ponses observ\u00e9es, <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-fbc91f24101fa301a38c04c4c6dd7bdc_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#88;&#92;&#116;&#105;&#108;&#100;&#101;&#92;&#98;&#101;&#116;&#97;\" title=\"Rendered by QuickLaTeX.com\" height=\"21\" width=\"27\" style=\"vertical-align: -4px;\"\/> les pr\u00e9dictions, et le produit du vecteur d&rsquo;\u00e9carts par lui-m\u00eame additionne ses carr\u00e9s. Le d\u00e9nominateur compte <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-5793832f979c2268e3694c246d53b1bb_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#78;\" title=\"Rendered by QuickLaTeX.com\" height=\"12\" width=\"16\" style=\"vertical-align: 0px;\"\/> observations moins les <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-2290c3e23d297bd0d52a1ad6369e185c_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#100;&#43;&#49;\" title=\"Rendered by QuickLaTeX.com\" height=\"14\" width=\"39\" style=\"vertical-align: -2px;\"\/> param\u00e8tres du mod\u00e8le, soit les <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-4e8716946f6a868f015e0d62f28bc540_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#100;\" title=\"Rendered by QuickLaTeX.com\" height=\"12\" width=\"10\" style=\"vertical-align: 0px;\"\/> pentes et l&rsquo;ordonn\u00e9e (on trouve aussi les coefficients not\u00e9s <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-5c53d6ebabdbcfa4e107550ea60b1b19_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#97;\" title=\"Rendered by QuickLaTeX.com\" height=\"8\" width=\"9\" style=\"vertical-align: 0px;\"\/>).<\/p>\n<p>Cette variance r\u00e9siduelle se retrouve dans l&rsquo;intervalle de confiance de chaque coefficient :<\/p>\n<p><p class=\"ql-center-displayed-equation\" style=\"line-height: 22px;\"><span class=\"ql-right-eqno\"> &nbsp; <\/span><span class=\"ql-left-eqno\"> &nbsp; <\/span><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-bbd4d507540a698b0086adc6773e25c7_l3.png\" height=\"22\" width=\"117\" class=\"ql-img-displayed-equation quicklatex-auto-format\" alt=\"&#92;&#91; &#92;&#116;&#105;&#108;&#100;&#101;&#92;&#98;&#101;&#116;&#97;&#95;&#105;&#32;&#92;&#112;&#109;&#32;&#116;&#95;&#99;&#92;&#115;&#113;&#114;&#116;&#123;&#92;&#116;&#105;&#108;&#100;&#101;&#92;&#115;&#105;&#103;&#109;&#97;&#94;&#50;&#32;&#109;&#95;&#123;&#105;&#105;&#125;&#125;&#44;&#92;&#93;\" title=\"Rendered by QuickLaTeX.com\"\/><\/p><\/p>\n<p>o\u00f9 <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-eef9ec9fe136b30deb1a9bdb85c835ac_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#116;&#95;&#99;\" title=\"Rendered by QuickLaTeX.com\" height=\"15\" width=\"12\" style=\"vertical-align: -3px;\"\/> est la valeur critique de la loi de Student et <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-82e470e0a4e7b4e35de132513aac48d7_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#109;&#95;&#123;&#105;&#105;&#125;\" title=\"Rendered by QuickLaTeX.com\" height=\"11\" width=\"26\" style=\"vertical-align: -3px;\"\/> le <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-695d9d59bd04859c6c99e7feb11daab6_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#105;\" title=\"Rendered by QuickLaTeX.com\" height=\"12\" width=\"6\" style=\"vertical-align: 0px;\"\/>-i\u00e8me \u00e9l\u00e9ment diagonal de <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-5d49763067d4d281ca8f7a5d7be5810b_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#40;&#88;&#94;&#84;&#88;&#41;&#94;&#123;&#45;&#49;&#125;\" title=\"Rendered by QuickLaTeX.com\" height=\"20\" width=\"73\" style=\"vertical-align: -5px;\"\/>. \u00c0 nombre d&rsquo;observations \u00e9gal, quand le RSS grandit, <strong>l&rsquo;intervalle s&rsquo;\u00e9largit<\/strong>.<\/p>\n<h3>Il se glisse dans les crit\u00e8res p\u00e9nalis\u00e9s<\/h3>\n<p>Pour contr\u00f4ler la souplesse d&rsquo;une courbe, on ne cherche plus le seul RSS minimal : on lui ajoute une p\u00e9nalit\u00e9. La <a href=\"\/blog\/maths\/qu-est-ce-qu-une-spline\/\" title=\"spline\">spline<\/a> de lissage minimise<\/p>\n<p><p class=\"ql-center-displayed-equation\" style=\"line-height: 49px;\"><span class=\"ql-right-eqno\"> &nbsp; <\/span><span class=\"ql-left-eqno\"> &nbsp; <\/span><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-7f42e955a143e3a80e97eb40009c17bc_l3.png\" height=\"49\" width=\"244\" class=\"ql-img-displayed-equation quicklatex-auto-format\" alt=\"&#92;&#91; &#92;&#115;&#117;&#109;&#95;&#123;&#105;&#61;&#49;&#125;&#94;&#110;&#32;&#40;&#121;&#95;&#105;&#32;&#45;&#32;&#103;&#40;&#120;&#95;&#105;&#41;&#41;&#94;&#50;&#32;&#43;&#32;&#92;&#108;&#97;&#109;&#98;&#100;&#97;&#32;&#92;&#105;&#110;&#116;&#32;&#103;&#39;&#39;&#40;&#116;&#41;&#94;&#50;&#32;&#92;&#44;&#32;&#100;&#116;&#44;&#92;&#93;\" title=\"Rendered by QuickLaTeX.com\"\/><\/p><\/p>\n<p>o\u00f9 le premier terme est le RSS de la courbe <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-d208fd391fa57c168dc0f151de829fee_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#103;\" title=\"Rendered by QuickLaTeX.com\" height=\"12\" width=\"9\" style=\"vertical-align: -4px;\"\/> et le second p\u00e9nalise sa courbure totale, <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-21d0afe89f5d1545ccda3d2bd0d8660a_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#92;&#108;&#97;&#109;&#98;&#100;&#97;&#32;&#92;&#103;&#101;&#113;&#32;&#48;\" title=\"Rendered by QuickLaTeX.com\" height=\"15\" width=\"43\" style=\"vertical-align: -3px;\"\/> r\u00e9glant l&rsquo;\u00e9quilibre entre les deux. Quand <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-dda098fd48544344686cb6968a131c1d_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#92;&#108;&#97;&#109;&#98;&#100;&#97;&#32;&#61;&#32;&#48;\" title=\"Rendered by QuickLaTeX.com\" height=\"12\" width=\"43\" style=\"vertical-align: 0px;\"\/>, rien n&#8217;emp\u00eache <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-d208fd391fa57c168dc0f151de829fee_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#103;\" title=\"Rendered by QuickLaTeX.com\" height=\"12\" width=\"9\" style=\"vertical-align: -4px;\"\/> de passer par chaque observation : <strong>un RSS nul, mais une courbe absurdement irr\u00e9guli\u00e8re<\/strong>. Quand <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-4547f6e16280f439afd31661da523192_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#92;&#108;&#97;&#109;&#98;&#100;&#97;&#32;&#92;&#116;&#111;&#32;&#92;&#105;&#110;&#102;&#116;&#121;\" title=\"Rendered by QuickLaTeX.com\" height=\"13\" width=\"55\" style=\"vertical-align: -1px;\"\/>, toute courbure est interdite et <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-d208fd391fa57c168dc0f151de829fee_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#103;\" title=\"Rendered by QuickLaTeX.com\" height=\"12\" width=\"9\" style=\"vertical-align: -4px;\"\/> redevient la droite des moindres carr\u00e9s. La <a href=\"\/blog\/maths\/la-methode-ridge\/\" title=\"r\u00e9gression ridge\">r\u00e9gression ridge<\/a> et le <a href=\"\/blog\/maths\/la-methode-lasso\/\" title=\"lasso\">lasso<\/a> proc\u00e8dent de m\u00eame, en ajoutant au RSS une p\u00e9nalit\u00e9 sur la taille des coefficients.<\/p>\n<h2 id=\"pourquoi-un-rss-minuscule-ne-prouve-presque-rien\">Pourquoi un RSS minuscule ne prouve presque rien<\/h2>\n<p>Le r\u00e9flexe est de croire que le meilleur mod\u00e8le affiche le plus petit RSS. C&rsquo;est une tentation dangereuse : ajouter un pr\u00e9dicteur ne peut jamais faire remonter le RSS d&rsquo;entra\u00eenement, m\u00eame si la variable n&rsquo;a aucun lien avec la r\u00e9ponse, si bien que le mod\u00e8le le plus riche gagne toujours ce concours.<\/p>\n<p>Rends un mod\u00e8le plus flexible et son erreur sur les points d&rsquo;entra\u00eenement diminue sans rel\u00e2che. L&rsquo;erreur sur des points neufs dessine, elle, <strong>une courbe en U<\/strong> : elle baisse, puis remonte quand le mod\u00e8le se met \u00e0 \u00e9pouser le bruit propre \u00e0 l&rsquo;\u00e9chantillon d&rsquo;entra\u00eenement. Ce basculement s&rsquo;appelle le surajustement : une m\u00e9thode plus rigide aurait fait mieux sur les points neufs.<\/p>\n\n\n<figure data-wp-context=\"{&quot;imageId&quot;:&quot;6adef4691e3d1&quot;}\" data-wp-interactive=\"core\/image\" data-wp-key=\"6adef4691e3d1\" class=\"wp-block-image size-large wp-lightbox-container\"><img loading=\"lazy\" decoding=\"async\" width=\"2100\" height=\"1500\" data-wp-class--hide=\"state.isContentHidden\" data-wp-class--show=\"state.isContentVisible\" data-wp-init=\"callbacks.setButtonStyles\" data-wp-on--click=\"actions.showLightbox\" data-wp-on--load=\"callbacks.setButtonStyles\" data-wp-on--pointerdown=\"actions.preloadImage\" data-wp-on--pointerenter=\"actions.preloadImageWithDelay\" data-wp-on--pointerleave=\"actions.cancelPreload\" data-wp-on-window--resize=\"callbacks.setButtonStyles\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch01_courbes_erreur_train_test.png\" alt=\"Deux courbes d'erreur quadratique moyenne selon la flexibilit\u00e9 de la m\u00e9thode : celle d'entra\u00eenement descend sans cesse, celle de test descend puis remonte apr\u00e8s un point marqu\u00e9 optimum\" class=\"wp-image-410\" srcset=\"https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch01_courbes_erreur_train_test.png 2100w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch01_courbes_erreur_train_test-300x214.png 300w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch01_courbes_erreur_train_test-1024x731.png 1024w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch01_courbes_erreur_train_test-768x549.png 768w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch01_courbes_erreur_train_test-1536x1097.png 1536w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch01_courbes_erreur_train_test-2048x1463.png 2048w\" sizes=\"auto, (max-width: 2100px) 100vw, 2100px\" \/><button\n\t\t\tclass=\"lightbox-trigger\"\n\t\t\ttype=\"button\"\n\t\t\taria-haspopup=\"dialog\"\n\t\t\tdata-wp-bind--aria-label=\"state.thisImage.triggerButtonAriaLabel\"\n\t\t\tdata-wp-init=\"callbacks.initTriggerButton\"\n\t\t\tdata-wp-on--click=\"actions.showLightbox\"\n\t\t\tdata-wp-style--right=\"state.thisImage.buttonRight\"\n\t\t\tdata-wp-style--top=\"state.thisImage.buttonTop\"\n\t\t>\n\t\t\t<svg xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"12\" height=\"12\" fill=\"none\" viewBox=\"0 0 12 12\">\n\t\t\t\t<path fill=\"#fff\" d=\"M2 0a2 2 0 0 0-2 2v2h1.5V2a.5.5 0 0 1 .5-.5h2V0H2Zm2 10.5H2a.5.5 0 0 1-.5-.5V8H0v2a2 2 0 0 0 2 2h2v-1.5ZM8 12v-1.5h2a.5.5 0 0 0 .5-.5V8H12v2a2 2 0 0 1-2 2H8Zm2-12a2 2 0 0 1 2 2v2h-1.5V2a.5.5 0 0 0-.5-.5H8V0h2Z\" \/>\n\t\t\t<\/svg>\n\t\t<\/button><figcaption class=\"wp-element-caption\">La courbe bleue, celle de l&rsquo;entra\u00eenement, ne s&rsquo;arr\u00eate jamais de descendre : un score lu sur elle te promettrait toujours mieux. La courbe orange, elle, touche son minimum \u00e0 l&rsquo;optimum puis remonte, et c&rsquo;est elle qui compte.<\/figcaption><\/figure>\n\n\n\n<figure data-wp-context=\"{&quot;imageId&quot;:&quot;6adef4691e932&quot;}\" data-wp-interactive=\"core\/image\" data-wp-key=\"6adef4691e932\" class=\"wp-block-image size-large wp-lightbox-container\"><img loading=\"lazy\" decoding=\"async\" width=\"2560\" height=\"811\" data-wp-class--hide=\"state.isContentHidden\" data-wp-class--show=\"state.isContentVisible\" data-wp-init=\"callbacks.setButtonStyles\" data-wp-on--click=\"actions.showLightbox\" data-wp-on--load=\"callbacks.setButtonStyles\" data-wp-on--pointerdown=\"actions.preloadImage\" data-wp-on--pointerenter=\"actions.preloadImageWithDelay\" data-wp-on--pointerleave=\"actions.cancelPreload\" data-wp-on-window--resize=\"callbacks.setButtonStyles\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b2_ch14_sous_sur_apprentissage-scaled.png\" alt=\"Trois graphiques sur les m\u00eames points bruit\u00e9s : une droite trop simple, une courbe mod\u00e9r\u00e9e qui suit la tendance, et une courbe tr\u00e8s irr\u00e9guli\u00e8re qui passe au plus pr\u00e8s de chaque point\" class=\"wp-image-411\" srcset=\"https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b2_ch14_sous_sur_apprentissage-scaled.png 2560w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b2_ch14_sous_sur_apprentissage-300x95.png 300w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b2_ch14_sous_sur_apprentissage-1024x324.png 1024w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b2_ch14_sous_sur_apprentissage-768x243.png 768w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b2_ch14_sous_sur_apprentissage-1536x486.png 1536w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b2_ch14_sous_sur_apprentissage-2048x649.png 2048w\" sizes=\"auto, (max-width: 2560px) 100vw, 2560px\" \/><button\n\t\t\tclass=\"lightbox-trigger\"\n\t\t\ttype=\"button\"\n\t\t\taria-haspopup=\"dialog\"\n\t\t\tdata-wp-bind--aria-label=\"state.thisImage.triggerButtonAriaLabel\"\n\t\t\tdata-wp-init=\"callbacks.initTriggerButton\"\n\t\t\tdata-wp-on--click=\"actions.showLightbox\"\n\t\t\tdata-wp-style--right=\"state.thisImage.buttonRight\"\n\t\t\tdata-wp-style--top=\"state.thisImage.buttonTop\"\n\t\t>\n\t\t\t<svg xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"12\" height=\"12\" fill=\"none\" viewBox=\"0 0 12 12\">\n\t\t\t\t<path fill=\"#fff\" d=\"M2 0a2 2 0 0 0-2 2v2h1.5V2a.5.5 0 0 1 .5-.5h2V0H2Zm2 10.5H2a.5.5 0 0 1-.5-.5V8H0v2a2 2 0 0 0 2 2h2v-1.5ZM8 12v-1.5h2a.5.5 0 0 0 .5-.5V8H12v2a2 2 0 0 1-2 2H8Zm2-12a2 2 0 0 1 2 2v2h-1.5V2a.5.5 0 0 0-.5-.5H8V0h2Z\" \/>\n\t\t\t<\/svg>\n\t\t<\/button><figcaption class=\"wp-element-caption\">Compare le premier et le dernier panneau. La droite ignore la structure sinuso\u00efdale des donn\u00e9es, alors que la courbe de droite colle au moindre bruit : c&rsquo;est elle qui \u00e9pouse le mieux les points d&rsquo;entra\u00eenement, et c&rsquo;est aussi celle qui perd toute capacit\u00e9 de g\u00e9n\u00e9ralisation d\u00e8s qu&rsquo;on l&rsquo;\u00e9value sur de nouvelles donn\u00e9es.<\/figcaption><\/figure>\n\n\n<p>Le cas extr\u00eame existe. Quand le nombre de param\u00e8tres atteint le nombre d&rsquo;observations, au <strong>seuil d&rsquo;interpolation<\/strong>, le mod\u00e8le peut ajuster les donn\u00e9es d&rsquo;entra\u00eenement de fa\u00e7on exacte, sans aucune erreur r\u00e9siduelle. Sur certains r\u00e9seaux de neurones tr\u00e8s sur-param\u00e9tr\u00e9s, l&rsquo;erreur de test se remet m\u00eame \u00e0 diminuer apr\u00e8s le pic : c&rsquo;est la double descente, qui bouscule l&rsquo;intuition classique.<\/p>\n<blockquote>\n<p><strong>\u26a0\ufe0f Pi\u00e8ge<\/strong> Un RSS nul ne dit ni \u00ab mod\u00e8le parfait \u00bb ni \u00ab mod\u00e8le inutile \u00bb : il dit seulement que le mod\u00e8le colle aux points qu&rsquo;il a d\u00e9j\u00e0 vus. Pour juger un mod\u00e8le, calcule l&rsquo;erreur sur des donn\u00e9es qu&rsquo;il n&rsquo;a pas vues.<\/p>\n<\/blockquote>\n<blockquote>\n<p><strong>\ud83d\udccc \u00c0 retenir<\/strong> Le RSS additionne les carr\u00e9s des \u00e9carts entre la r\u00e9alit\u00e9 et les pr\u00e9dictions : il fonde les moindres carr\u00e9s, fournit l&rsquo;estimation du bruit et se retrouve dans les crit\u00e8res p\u00e9nalis\u00e9s. Lu sur les points d&rsquo;entra\u00eenement, il ne peut que baisser : un mod\u00e8le se juge sur des donn\u00e9es neuves.<\/p>\n<\/blockquote>","protected":false},"excerpt":{"rendered":"<p>Le RSS (residual sum of squares) additionne les carr\u00e9s des \u00e9carts entre r\u00e9alit\u00e9 et pr\u00e9dictions. D\u00e9finition, r\u00f4les en coulisses et pi\u00e8ges d&rsquo;un RSS trop petit.<\/p>\n","protected":false},"author":1,"featured_media":412,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-413","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-maths"],"_links":{"self":[{"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/posts\/413","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/comments?post=413"}],"version-history":[{"count":3,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/posts\/413\/revisions"}],"predecessor-version":[{"id":786,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/posts\/413\/revisions\/786"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/media\/412"}],"wp:attachment":[{"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/media?parent=413"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/categories?post=413"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/tags?post=413"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}