<\/span>Teste-la avec trois scores. Pour
Cette fonction est born\u00e9e entre 0 et 1 et toujours croissante : plus le score monte, plus la probabilit\u00e9 monte, sans jamais d\u00e9border.<\/p>\n\n\n\n\t\t\t\n\t\t\t\tRegarde la courbe du milieu : elle monte nettement autour de z\u00e9ro, puis s’aplatit aux deux bouts, vers 0 \u00e0 gauche et vers 1 \u00e0 droite.<\/figcaption><\/figure>\n\n\n\n\u26a0\ufe0f Pi\u00e8ge<\/strong> Une courbe plate ne bouge presque plus : sa pente y est quasi nulle. Dans les r\u00e9seaux profonds, cette pente quasi nulle finit par \u00e9teindre le signal d’erreur, d’o\u00f9 le recours \u00e0 d’autres fonctions que la sigmo\u00efde.<\/p>\n<\/blockquote>\nLe logarithme : un pont entre multiplications et additions<\/h2>\n Le logarithme est la fonction r\u00e9ciproque de l’exponentielle : il d\u00e9fait ce qu’elle a fait. Quand la base est il change les produits en sommes<\/strong>.<\/p>\nPour lui donner du travail, il faut une grandeur \u00e0 comparer. La cote (odds<\/em>) est le rapport entre la probabilit\u00e9 d’un \u00e9v\u00e9nement et celle de son contraire, soit un malade pour six sains<\/strong>, l\u00e0 o\u00f9 la probabilit\u00e9, elle, est de 14 %.<\/p>\nLe mod\u00e8le pose alors son score sur le logarithme de cette cote :<\/p>\n
<\/span> <\/span>\u00c0 gauche, la probabilit\u00e9
Pourquoi on additionne des logarithmes au lieu de multiplier des probabilit\u00e9s<\/h2>\n Pour juger un jeu de coefficients, on regarde la probabilit\u00e9 qu’il attribue \u00e0 ce qui s’est r\u00e9ellement pass\u00e9, et on combine toutes les observations : c’est la vraisemblance, un produit de probabilit\u00e9s, une par observation. On cherche le jeu de coefficients qui rend ce produit le plus grand possible.<\/p>\n
Les math\u00e9maticiens ne maximisent pas ce produit, mais son logarithme, par commodit\u00e9 de calcul. Les produits deviennent alors des sommes, bien plus faciles \u00e0 manipuler. Reste une inqui\u00e9tude : prendre le logarithme ne risque-t-il pas de changer le gagnant ?<\/p>\n
\n\u26a0\ufe0f Pi\u00e8ge<\/strong> Non, et la raison est simple : le logarithme est strictement croissant, donc si un jeu de coefficients bat un autre avant, il le bat encore apr\u00e8s. Le logarithme ne change pas le classement<\/strong>, seulement la difficult\u00e9 du calcul.<\/p>\n<\/blockquote>\nCorriger les coefficients : la pente dit dans quel sens tourner<\/h2>\n Il reste \u00e0 trouver les bons coefficients. Pour la r\u00e9gression logistique, il n’existe pas de formule qui les donne d’un coup : on avance donc par petites corrections. Le guide de ces corrections est la pente.<\/p>\n
La d\u00e9riv\u00e9e mesure la pente de la courbe en un point. C’est la vitesse instantan\u00e9e d’un objet qui avance : la limite de sa vitesse moyenne sur un intervalle de temps qui r\u00e9tr\u00e9cit jusqu’\u00e0 z\u00e9ro.<\/p>\n\n\n\n\t\t\t\n\t\t\t\tSuis la droite pointill\u00e9e : elle touche la courbe en un seul point, et sa pente est la d\u00e9riv\u00e9e en ce point.<\/figcaption><\/figure>\n\n\nLe signe de cette pente est une boussole. L\u00e0 o\u00f9 elle est positive, la courbe monte ; l\u00e0 o\u00f9 elle est n\u00e9gative, elle descend ; l\u00e0 o\u00f9 elle s’annule, la tangente est horizontale, et un minimum peut se cacher.<\/p>\n\n\n\n\t\t\t\n\t\t\t\tSur le panneau du bas, la pente est n\u00e9gative avant le creux et positive apr\u00e8s : ce changement de signe trahit le minimum.<\/figcaption><\/figure>\n\n\nQuand plusieurs coefficients sont \u00e0 r\u00e9gler, on rassemble toutes les pentes dans un vecteur, le gradient, qui pointe vers la plus forte mont\u00e9e. Pour descendre, on fait donc le contraire. \u00c0 chaque \u00e9tape, on d\u00e9place chaque coefficient en sens oppos\u00e9 \u00e0 sa pente, d’un pas
<\/span> <\/span>Ici trop grand, il d\u00e9passe le creux<\/strong> \u00e0 chaque \u00e9tape ; trop petit, il rend la descente tr\u00e8s lente.<\/p>\n\n\ud83d\udca1 Intuition<\/strong> Imagine une douche \u00e0 deux robinets, chacun \u00e0 r\u00e9gler un peu \u00e0 chaque essai dans le sens qui rend l’eau moins d\u00e9sagr\u00e9able. Un robinet tourn\u00e9 trop fort fait passer de l’eau glac\u00e9e \u00e0 l’eau br\u00fblante ; tourn\u00e9 trop doucement, il faut des heures. La descente de gradient n’est rien d’autre que cette habitude.<\/p>\n<\/blockquote>\n\n\n\n\t\t\t\n\t\t\t\tSuis la trajectoire orange : chaque marche est un pas, et les marches rapprochent peu \u00e0 peu du centre des ellipses.<\/figcaption><\/figure>\n\n\nLa m\u00eame brique dans un neurone et dans un classifieur de mots<\/h2>\n Ces id\u00e9es ne servent pas qu’\u00e0 classer des clients. Un neurone artificiel pond\u00e8re ses entr\u00e9es, les additionne (le produit scalaire de plus haut), puis transforme la somme avec une fonction d’activation. La sigmo\u00efde \u00e9tait longtemps le choix par d\u00e9faut ; sans non-lin\u00e9arit\u00e9<\/strong>, un r\u00e9seau, aussi profond soit-il, se r\u00e9duirait \u00e0 un simple mod\u00e8le lin\u00e9aire.<\/p>\nUn exemple sur du texte. Pour apprendre \u00e0 repr\u00e9senter des mots par des vecteurs, on pose une question oui ou non : tel mot est-il attendu autour de tel autre ? On fait glisser une fen\u00eatre sur la phrase : les mots voisins sont des exemples positifs, des mots tir\u00e9s au hasard sont des exemples n\u00e9gatifs. Le classifieur utilis\u00e9 est une r\u00e9gression logistique.<\/p>\n\n\n\n\t\t\t\n\t\t\t\tCompare les mots bleus, voisins du mot cible, aux mots blancs pioch\u00e9s au hasard : l’oui-ou-non \u00e0 apprendre est de distinguer les uns des autres.<\/figcaption><\/figure>\n\n\nOn retrouve ici chacune de nos briques. Le score est un produit scalaire entre deux vecteurs, la probabilit\u00e9 vient de la sigmo\u00efde :<\/p>\n
<\/span> <\/span>Ici
<\/span> <\/span>Le premier terme porte sur la vraie paire, la somme sur les minimiser cette quantit\u00e9<\/strong> pousse le mod\u00e8le \u00e0 donner une grande probabilit\u00e9 aux vrais contextes et une petite aux faux.<\/p>\n\n\ud83d\udccc \u00c0 retenir<\/strong> Une probabilit\u00e9 se compte, un score se fabrique en additionnant des poids, l’exponentielle et la fraction le convertissent en probabilit\u00e9, le logarithme transforme les produits en sommes, et la pente dit dans quel sens corriger. Ces cinq id\u00e9es suffisent \u00e0 raconter la m\u00e9thode.<\/p>\n<\/blockquote>","protected":false},"excerpt":{"rendered":"Probabilit\u00e9, exponentielle, logarithme, pente : les id\u00e9es de maths derri\u00e8re la r\u00e9gression logistique, expliqu\u00e9es pas \u00e0 pas avec des mots simples.<\/p>\n","protected":false},"author":1,"featured_media":363,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-364","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-maths"],"_links":{"self":[{"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/posts\/364","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/comments?post=364"}],"version-history":[{"count":3,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/posts\/364\/revisions"}],"predecessor-version":[{"id":832,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/posts\/364\/revisions\/832"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/media\/363"}],"wp:attachment":[{"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/media?parent=364"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/categories?post=364"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/tags?post=364"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
![\"1/(1+e^{-z})\"](\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-a1ce9001ed5f3cc7a1a9661ac7732bdc_l3.png\" "\\"Rendered")
donne une probabilit\u00e9 entre 0 et 1<\/strong>.<\/li>\n![\"Grille](\"https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b4_ch07_grille_deux_des.png\")