c’est une pi\u00e8ce r\u00e9utilisable<\/strong>.<\/li>\n<\/ul>\nUne courbe en S qui range tout nombre entre 0 et 1<\/h2>\n Commence par une notion de base. Une fonction est born\u00e9e<\/strong> quand une constante La sigmo\u00efde est born\u00e9e, et avec pr\u00e9cision : elle ne quitte jamais l’intervalle de 0 \u00e0 1. Elle est aussi monotone croissante<\/strong> : si
<\/span> <\/span>Ici
Tu la croiseras aussi sous le nom de fonction logistique<\/strong>, \u00e9crite \n\t\t\t\n\t\t\t\tSuis la courbe orange de gauche \u00e0 droite : elle se couche sur 0 puis sur 1, tandis que la droite bleue franchit ces deux limites sans s’arr\u00eater. Cette retenue fait de la sigmo\u00efde un convertisseur fiable pour toute grandeur qui doit rester une proportion.<\/figcaption><\/figure>\n\n\n\n\ud83d\udca1 Intuition<\/strong> Pense au curseur d’un variateur de lumi\u00e8re : tu peux le pousser aussi loin que tu veux, la lampe ne d\u00e9passera jamais 100 % ni ne descendra sous 0 %. La sigmo\u00efde est cette but\u00e9e douce, appliqu\u00e9e \u00e0 n’importe quel nombre qu’on lui pr\u00e9sente.<\/p>\n<\/blockquote>\nSa pente dit o\u00f9 elle r\u00e9agit et o\u00f9 elle s’endort<\/h2>\n O\u00f9 la courbe est-elle sensible \u00e0 ce que tu lui donnes ? Sa d\u00e9riv\u00e9e, qui chiffre l’inclinaison en chaque point, a une propri\u00e9t\u00e9 rare : elle s’exprime avec la sigmo\u00efde elle-m\u00eame.<\/p>\n
<\/span> <\/span>Lis ce produit comme deux nombres qui se partagent une unit\u00e9 : la pente s’effondre<\/strong>.<\/p>\nUne pente quasi nulle signifie qu’un changement de satur\u00e9e<\/strong>. La sensibilit\u00e9 se concentre au centre, et c’est la signature du S.<\/p>\nUn cas chiffr\u00e9 montre cette zone sensible. Un mod\u00e8le estime la probabilit\u00e9 de d\u00e9faut d’un client \u00e0 partir du solde de sa carte. Quand le solde passe de 1 000 $ \u00e0 2 000 $, la probabilit\u00e9 pr\u00e9dite passe de 0,6 % \u00e0 58,6 %<\/strong> : l’essentiel de la variation se concentre sur une plage de soldes relativement \u00e9troite.<\/p>\nCe que sa pente change quand un neurone apprend<\/h2>\n Un neurone calcule une somme pond\u00e9r\u00e9e \n\t\t\t\n\t\t\t\tSuis une fl\u00e8che de la colonne \u00ab entr\u00e9es \u00bb vers la colonne \u00ab sorties \u00bb : chacune porte un poids Pour savoir de combien corriger, on mesure l’erreur sur un exemple, avec
<\/span> <\/span>Avec une activation lin\u00e9aire,
<\/span> <\/span>C’est la formule du cas lin\u00e9aire, \u00e0 un facteur pr\u00e8s : la pente<\/strong> \n\u26a0\ufe0f Pi\u00e8ge<\/strong> Un neurone sigmo\u00efde tr\u00e8s s\u00fbr de lui et pourtant faux est celui qui apprend le plus lentement. Son erreur Quatre m\u00e9tiers, une seule courbe<\/h2>\n La sigmo\u00efde intervient chaque fois qu’un nombre sans limites doit devenir une proportion. Le tableau range quatre cas que le m\u00eame calcul remplit.<\/p>\n
\n\n\nO\u00f9 tu la croises<\/th>\n Ce qui entre<\/th>\n Ce que la sortie repr\u00e9sente<\/th>\n<\/tr>\n<\/thead>\n \n\nClassification entre deux cat\u00e9gories<\/td>\n une combinaison lin\u00e9aire des caract\u00e9ristiques<\/td>\n la probabilit\u00e9 d’appartenir \u00e0 la cat\u00e9gorie<\/td>\n<\/tr>\n \nNeurone cach\u00e9 d’un r\u00e9seau<\/td>\n une somme pond\u00e9r\u00e9e des entr\u00e9es<\/td>\n l’activit\u00e9 de ce neurone<\/td>\n<\/tr>\n \nPorte d’un LSTM ou d’un GRU<\/td>\n l’entr\u00e9e courante et l’\u00e9tat cach\u00e9 pr\u00e9c\u00e9dent<\/td>\n la part d’information qui traverse<\/td>\n<\/tr>\n \nEmbeddings de mots<\/td>\n le produit scalaire de deux vecteurs<\/td>\n la probabilit\u00e9 qu’une paire de mots soit valide<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\nDans les quatre cas, la m\u00eame transformation fait le travail : un score sans bornes entre, une proportion ressort. Elle ne tranche pas, elle gradue<\/strong>.<\/p>\nTrois id\u00e9es re\u00e7ues \u00e0 l\u00e2cher<\/h2>\n\u00ab La sigmo\u00efde, c’est la r\u00e9gression logistique \u00bb<\/h3>\n La r\u00e9gression logistique<\/a> s’en sert pour convertir une combinaison lin\u00e9aire en probabilit\u00e9, mais la courbe existe sans elle : le tableau plus haut la montre dans des neurones, des portes et des embeddings de mots<\/a>. La sigmo\u00efde est une pi\u00e8ce, pas un mod\u00e8le<\/strong>.<\/p>\n\u00ab C’est la fonction d’activation par d\u00e9faut \u00bb<\/h3>\n Elle l’a \u00e9t\u00e9 : on la privil\u00e9giait autrefois dans les couches cach\u00e9es. Le choix moderne le plus courant est la ReLU, qui vaut \n\t\t\t\n\t\t\t\tCompare la courbe du milieu, qui se pose \u00e0 l’horizontale des deux c\u00f4t\u00e9s, avec la ReLU de droite, qui continue de grimper c\u00f4t\u00e9 positif. La premi\u00e8re borne tout, la seconde laisse monter : leurs pentes n’ont pas le m\u00eame destin quand on les empile.<\/figcaption><\/figure>\n\n\n\u00ab Sa saturation la condamne \u00bb<\/h3>\n Pour un neurone isol\u00e9, la saturation n’est qu’un ralentissement, comme tu viens de le voir. Elle devient grave quand on empile de nombreuses couches sigmo\u00efdes : \u00e0 chaque couche travers\u00e9e, le signal d’erreur est multipli\u00e9 par un facteur de pente d’au plus 1\/4, et il n’en reste presque rien \u00e0 l’entr\u00e9e. C’est le gradient qui s’\u00e9vanouit<\/strong>.<\/p>\n\n\ud83d\udccc \u00c0 retenir<\/strong> La sigmo\u00efde transforme un nombre quelconque en proportion entre 0 et 1. Sa pente, maximale au centre et presque nulle sur les bords, d\u00e9cide de la part de l’erreur qui revient \u00e0 un neurone : tout l’int\u00e9r\u00eat, et toute la limite, de la courbe en S tiennent dans ce facteur.<\/p>\n<\/blockquote>","protected":false},"excerpt":{"rendered":"La sigmo\u00efde range n’importe quel nombre entre 0 et 1. Formule, pente, effet sur l’apprentissage d’un neurone et id\u00e9es re\u00e7ues \u00e0 l\u00e2cher.<\/p>\n","protected":false},"author":1,"featured_media":692,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-693","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-maths"],"_links":{"self":[{"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/posts\/693","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/comments?post=693"}],"version-history":[{"count":5,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/posts\/693\/revisions"}],"predecessor-version":[{"id":812,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/posts\/693\/revisions\/812"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/media\/692"}],"wp:attachment":[{"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/media?parent=693"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/categories?post=693"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/tags?post=693"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
![\"\sigma(x) = 1/(1+e^{-x})\"](\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-e8c1dba04459c2098a5154c241a41d3f_l3.png\" "\\"Rendered")
.<\/li>\n![\"M\"](\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-10ebb71bad275c1815a8f2a8c5dea0be_l3.png\" "\\"Rendered")
l’emp\u00eache de sortir d’un couloir : ![\"|f(x)| \le M\"](\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-e20d06db6f2e1d2d31756b897854d907_l3.png\" "\\"Rendered")
pour tout ![\"x\"](\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-ede05c264bba0eda080918aaa09c4658_l3.png\" "\\"Rendered")
. Le cosinus l’est, puisqu’il ne d\u00e9passe jamais 1 ; la fonction ![\"1/x\"](\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-31a432e42d04b0839e39cb77a7c014d7_l3.png\" "\\"Rendered")
ne l’est pas pr\u00e8s de z\u00e9ro, o\u00f9 elle d\u00e9passe n’importe quelle borne fix\u00e9e \u00e0 l’avance.<\/p>\n![\"x_1 < x_2\"](\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-277db6f687868d83a0809b385d56c3d9_l3.png\" "\\"Rendered")
, alors ![\"\sigma(x_1) \le \sigma(x_2)\"](\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-ba77126080c14c25e9f57e42e4e38ec1_l3.png\" "\\"Rendered")
, donc elle ne redescend jamais.<\/p>\n![\"\[](\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-1221bb586d7565ea7103da02b4b64a21_l3.png\" "\\"Rendered")
<\/p><\/p>\n![\"e \approx 2{,}71828\"](\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-3162fca20685350dfefdcf283464136e_l3.png\" "\\"Rendered")
la base de l’exponentielle. Au centre, pour ![\"x = 0\"](\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-69deb06de751e80bf5f09f379ee2bc53_l3.png\" "\\"Rendered")
, la courbe vaut exactement 1\/2 ; elle monte ensuite d’un seul geste vers 1 \u00e0 droite et descend vers 0 \u00e0 gauche, sans jamais s’en d\u00e9tacher.<\/p>\n![\"e^{z}/(1+e^{z})\"](\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-cb26eadd32590b3b8ce7298c8d8e82d1_l3.png\" "\\"Rendered")
: c’est la m\u00eame courbe en S, avec ![\"z\"](\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-4586e340cb83d5b642972e97a288fec2_l3.png\" "\\"Rendered")
\u00e0 la place de ![\"La](\"https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/09\/b2_ch03_fonction_logistique_sigmoide.png\")