\n\ud83d\udca1 Intuition<\/strong> Pour la meilleure droite, les \u00e9carts positifs et n\u00e9gatifs se compensent exactement : la somme des r\u00e9sidus est toujours nulle<\/strong>. C’est un contr\u00f4le pratique, car si ta somme n’est pas nulle, le calcul ne s’est pas termin\u00e9 correctement.<\/p>\n<\/blockquote>\nChercher le fond du bol avec une pente<\/h2>\n Le RSS d\u00e9pend des deux boutons,
Pense \u00e0 une voiture. Sa vitesse moyenne s’obtient en divisant la distance par le temps \u00e9coul\u00e9 ; sa vitesse \u00e0 un instant pr\u00e9cis s’obtient en r\u00e9tr\u00e9cissant l’intervalle de temps jusqu’\u00e0 presque z\u00e9ro. Cette vitesse instantan\u00e9e, c’est la d\u00e9riv\u00e9e<\/strong>, le taux de variation \u00e0 cet instant. Sur une courbe, elle correspond \u00e0 la pente de la tangente, la droite qui effleure la courbe en un point.<\/p>\n\n\n\n\t\t\t\n\t\t\t\tLa tangente pointill\u00e9e indique dans quel sens la courbe monte ou descend, et \u00e0 quelle vitesse, juste l\u00e0 o\u00f9 tu poses le doigt. C’est pr\u00e9cis\u00e9ment ce dont tu as besoin pour savoir de quel c\u00f4t\u00e9 descendre.<\/figcaption><\/figure>\n\n\nLe signe de la d\u00e9riv\u00e9e raconte le reste. Quand elle est positive, la courbe monte ; quand elle est n\u00e9gative, elle descend. Au fond du bol, la tangente est horizontale<\/strong>, donc la d\u00e9riv\u00e9e vaut z\u00e9ro, et elle change de signe : n\u00e9gative avant, positive apr\u00e8s. La d\u00e9riv\u00e9e seconde confirme que c’est un bol et pas un sommet : positive, la courbe se redresse comme un bol.<\/p>\n\n\n\n\t\t\t\n\t\t\t\tLis les deux panneaux de haut en bas. L\u00e0 o\u00f9 la courbe du haut atteint son point le plus bas, celle du bas traverse l’axe horizontal en changeant de signe, de n\u00e9gative \u00e0 positive.<\/figcaption><\/figure>\n\n\nIci, il y a deux boutons et non un seul. On utilise alors une d\u00e9riv\u00e9e partielle : on traite toutes les variables sauf une comme des constantes, et on ne regarde la pente que dans cette direction.Minimiser le RSS revient \u00e0 annuler ces pentes pour chaque bouton<\/strong>. On obtient deux \u00e9quations de degr\u00e9 un, qu’on sait r\u00e9soudre exactement.<\/p>\n\n\ud83d\udccc \u00c0 retenir<\/strong> Trouver la meilleure droite n’a rien de myst\u00e9rieux : on cherche l’endroit o\u00f9 l’erreur cesse de descendre, c’est-\u00e0-dire o\u00f9 ses deux pentes valent z\u00e9ro.<\/p>\n<\/blockquote>\nLa r\u00e9solution de ces deux \u00e9quations donne des formules toutes faites :<\/p>\n
<\/span> <\/span>Les barres d\u00e9signent des moyennes :
Le haut additionne, pour chaque point, le produit de deux \u00e9carts \u00e0 la moyenne : celui de covariance<\/strong>, qui indique si deux variables varient dans le m\u00eame sens ou en sens oppos\u00e9. Si Le bas additionne les carr\u00e9s des \u00e9carts de variance<\/strong> de Autrement dit, la pente mesure combien les deux nuages bougent ensemble, rapport\u00e9 \u00e0 la fa\u00e7on dont
L’ordonn\u00e9e, elle, se d\u00e9duit des moyennes :
Il existe une version de la covariance ramen\u00e9e \u00e0 une \u00e9chelle fixe, le coefficient de corr\u00e9lation de Pearson, qui reste toujours entre \u22121 et 1.<\/p>\n
\n\u26a0\ufe0f Pi\u00e8ge<\/strong> Une covariance nulle ne prouve pas l’absence de lien. Prends aucune pente<\/strong>, alors que le lien existe : il est courbe.<\/p>\n<\/blockquote>\nQuand les boutons se multiplient : le tableau et le produit ligne-colonne<\/h2>\n Avec plusieurs variables, la droite devient une formule \u00e0 plusieurs pentes :
Pour ranger tout cela, les math\u00e9maticiens utilisent un tableau de nombres, une matrice<\/strong>. Les notes de cinq \u00e9tudiants dans deux mati\u00e8res en font une : chaque ligne est un \u00e9tudiant, chaque colonne une mati\u00e8re. De la m\u00eame fa\u00e7on, on range les Le calcul cl\u00e9 est le produit de deux listes de nombres : on multiplie les \u00e9l\u00e9ments deux \u00e0 deux et on additionne. C’est ce qu’on appelle un produit scalaire, et c’est exactement ce que fait un neurone artificiel quand il pond\u00e8re ses entr\u00e9es. Pour une matrice, chaque case du r\u00e9sultat est le produit scalaire d’une ligne de la premi\u00e8re matrice et d’une colonne de la seconde.<\/p>\n\n\n\n\t\t\t\n\t\t\t\tSuis la fl\u00e8che : la case du r\u00e9sultat est calcul\u00e9e avec la ligne et la colonne en orange, et seulement elles. Appliqu\u00e9e au tableau X, cette r\u00e8gle fait pr\u00e9dire en une seule op\u00e9ration la valeur de chaque ligne.<\/figcaption><\/figure>\n\n\nL’erreur \u00e0 minimiser se r\u00e9\u00e9crit alors de fa\u00e7on compacte, l’\u00e9quation normale<\/strong> :<\/p>\n
<\/span> <\/span>Cette formule g\u00e9n\u00e9ralise \u00e0 \n\t\t\t\n\t\t\t\tAvec deux variables, la droite devient un plan qui traverse le nuage de points, toujours choisi pour minimiser la somme des \u00e9carts verticaux au carr\u00e9.<\/figcaption><\/figure>\n\n\nInverser
Pour savoir o\u00f9 aller, il utilise le gradient<\/strong> : un vecteur qui rassemble toutes les d\u00e9riv\u00e9es partielles et pointe vers la direction o\u00f9 la fonction cro\u00eet le plus vite. Il est toujours perpendiculaire aux lignes de niveau, ces courbes le long desquelles la fonction garde la m\u00eame valeur.<\/p>\n\n\n\n\t\t\t\n\t\t\t\tChaque fl\u00e8che indique la direction de la mont\u00e9e la plus raide. Pour descendre vers le centre, il faut donc partir exactement du c\u00f4t\u00e9 oppos\u00e9.<\/figcaption><\/figure>\n\n\nLa r\u00e8gle de mise \u00e0 jour tient en une ligne :<\/p>\n
<\/span> <\/span>Elle se lit ainsi : la nouvelle valeur est l’ancienne, moins un petit coup donn\u00e9 dans le sens de la pente. Le nombre la m\u00eame solution que la formule exacte<\/strong>.<\/p>\nLa recette retrouv\u00e9e, et ce que la droite ne voit pas<\/h2>\n Revenons \u00e0 notre devinette. Apr\u00e8s avoir \u00e9cart\u00e9 un point aberrant introduit volontairement, la m\u00e9thode est lanc\u00e9e sur les points restants. Voici les lignes qui l’ex\u00e9cutent :<\/p>\n
# Load cleaned dataset\ncleaned_data = pd.read_csv('cleaned_data.csv')\n\nX_clean = cleaned_data[['X']].values\ny_clean = cleaned_data['Y'].values\n\n# Split data (70% train, 30% test)\nX_train, X_test, y_train, y_test = train_test_split(\nX_clean, y_clean, test_size=0.3, random_state=42)\n\n# Train model\nmodel = LinearRegression()\nmodel.fit(X_train, y_train)\n...\nprint("\\nModel Report:")\nprint(f"Coefficient (slope): {model.coef_[0]:.4f}")\nprint(f"Intercept: {model.intercept_:.4f}")\n<\/code><\/pre>\nOn lit directement les deux boutons : coef_<\/code> est la pente, intercept_<\/code> l’ordonn\u00e9e. Le r\u00e9sultat est une pente proche de 4,88 et une ordonn\u00e9e proche de 4,02, coh\u00e9rentes avec la recette 5X + 3,8 aux fluctuations du bruit pr\u00e8s.<\/p>\n\n\n\n\t\t\t\n\t\t\t\tLa croix orange tout en bas est le point aberrant \u00e9cart\u00e9 avant l’ajustement. La droite suit le nuage de la gauche vers la droite, sans passer par chaque point : l’\u00e9cart entre 4,88 et 5, c’est le bruit qui s’est gliss\u00e9 dans les points.<\/figcaption><\/figure>\n\n\nRetiens deux cons\u00e9quences pratiques de tout ce qui pr\u00e9c\u00e8de. Une droite ne pr\u00e9dit que ce qui est lin\u00e9aire<\/strong> : le lien courbe d’un instant plus t\u00f4t lui \u00e9chappe. Enfin, un jeu tr\u00e8s petit, de deux ou trois points, laisse des intervalles de confiance tr\u00e8s larges, ce qui n’a rien d’anormal : il y a simplement peu de donn\u00e9es pour estimer.<\/p>\n\n\ud83d\udccc \u00c0 retenir<\/strong> Une r\u00e9gression lin\u00e9aire<\/a>, c’est : deux boutons (pente, ordonn\u00e9e), un score (la somme des carr\u00e9s des \u00e9carts), un fond de bol (d\u00e9riv\u00e9es nulles), et un raccourci par pas si le calcul direct co\u00fbte trop.<\/p>\n<\/blockquote>","protected":false},"excerpt":{"rendered":"Pente, \u00e9cart, d\u00e9riv\u00e9e, covariance, matrice, descente pas \u00e0 pas : les id\u00e9es math\u00e9matiques de la r\u00e9gression lin\u00e9aire racont\u00e9es avec des mots simples.<\/p>\n","protected":false},"author":1,"featured_media":352,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-353","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-maths"],"_links":{"self":[{"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/posts\/353","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/comments?post=353"}],"version-history":[{"count":4,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/posts\/353\/revisions"}],"predecessor-version":[{"id":831,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/posts\/353\/revisions\/831"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/media\/352"}],"wp:attachment":[{"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/media?parent=353"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/categories?post=353"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/tags?post=353"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
![\"X\"](\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-d4ee28752517d6062a3ca0314890342d_l3.png\" "\\"Rendered")
par 5, ajoute 3,8 \u00bb, puis tu saupoudres un peu de hasard sur chaque r\u00e9sultat. Tu donnes ensuite les points obtenus \u00e0 une m\u00e9thode qui ignore tout de la recette. Elle te rend une pente d’environ 4,88 et une ordonn\u00e9e d’environ 4,02 : presque les bons nombres. Cette devinette tient en cinq id\u00e9es de math\u00e9matiques, toutes d’un niveau de lyc\u00e9e, et tu vas pouvoir les raconter une par une \u00e0 la fin.<\/p>\n![\"Y \approx \beta_0 + \beta_1 X\"](\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-7b352144fd0f561958627dd89c74ba2b_l3.png\" "\\"Rendered")
. Le nombre ![\"\beta_0\"](\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-e8e6326368351396d0034aff61919281_l3.png\" "\\"Rendered")
est l’ordonn\u00e9e \u00e0 l’origine, la hauteur de d\u00e9part ; ![\"\beta_1\"](\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-002f618dd2d52e6ce129e66c06d48c36_l3.png\" "\\"Rendered")
est la pente, ce que ![\"Y\"](\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-82606c3098bb09002088b0f6f9ffbb2a_l3.png\" "\\"Rendered")
gagne quand ![\"\hat y = \hat\beta_0 + \hat\beta_1 x\"](\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-762833a3e2f6cbe3d2908e81e13ea8c4_l3.png\" "\\"Rendered")
. Le chapeau rappelle que ces nombres sortent des donn\u00e9es et ne sont pas les vrais.<\/p>\n![\"e_i = y_i - \hat y_i\"](\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-9dd673dc590eac368467412e05353b98_l3.png\" "\\"Rendered")
. On l’appelle le r\u00e9sidu du point ![\"i\"](\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-695d9d59bd04859c6c99e7feb11daab6_l3.png\" "\\"Rendered")
. Sur le sch\u00e9ma ci-dessous, les points sont presque align\u00e9s, et chaque petit trait pointill\u00e9 gris qui relie un point \u00e0 la droite est un r\u00e9sidu.<\/p>\n\n\n![\"Cinq](\"https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch08_regression_moindres_carres.png\")