{"id":256,"date":"2026-10-04T12:15:40","date_gmt":"2026-10-04T10:15:40","guid":{"rendered":"https:\/\/www.ranksignal.fr\/blog\/?p=256"},"modified":"2026-10-14T17:46:09","modified_gmt":"2026-10-14T15:46:09","slug":"quand-utiliser-une-regression-logistique","status":"publish","type":"post","link":"https:\/\/www.ranksignal.fr\/blog\/machine-learning\/quand-utiliser-une-regression-logistique\/","title":{"rendered":"R\u00e9gression logistique : les questions \u00e0 te poser avant de choisir"},"content":{"rendered":"<p><\/p>\n<p>Tu as une colonne \u00e0 pr\u00e9dire, un tableau de variables, et l&rsquo;envie de lancer le premier mod\u00e8le venu. Mauvaise id\u00e9e : une <a href=\"\/blog\/machine-learning\/qu-est-ce-qu-une-regression-logistique\/\" title=\"r\u00e9gression logistique\">r\u00e9gression logistique<\/a> est redoutable dans certaines situations et simplement hors sujet dans d&rsquo;autres, et rien dans le tableau ne te le dit tout seul. \u00c0 la fin de cet article, tu sauras la confronter \u00e0 ton probl\u00e8me en quelques questions, et tu sauras vers quoi te tourner quand la r\u00e9ponse est non.<\/p>\n<p><strong>Sommaire<\/strong><\/p>\n<ul>\n<li><a href=\"#l-essentiel-en-30-secondes\">L&rsquo;essentiel en 30 secondes<\/a><\/li>\n<li><a href=\"#premiere-question-predis-tu-une-categorie-a-deux-issues\">Premi\u00e8re question : pr\u00e9dis-tu une cat\u00e9gorie \u00e0 deux issues ?<\/a><\/li>\n<li><a href=\"#deuxieme-question-ta-frontiere-ressemble-t-elle-a-une-droite\">Deuxi\u00e8me question : ta fronti\u00e8re ressemble-t-elle \u00e0 une droite ?<\/a><\/li>\n<li><a href=\"#troisieme-question-as-tu-assez-de-donnees-pour-une-methode-souple\">Troisi\u00e8me question : as-tu assez de donn\u00e9es pour une m\u00e9thode souple ?<\/a><\/li>\n<li><a href=\"#quatrieme-question-combien-de-classes-veux-tu-departager\">Quatri\u00e8me question : combien de classes veux-tu d\u00e9partager ?<\/a><\/li>\n<li><a href=\"#comment-departager-deux-candidates-sans-te-fier-a-ton-impression\">Comment d\u00e9partager deux candidates sans te fier \u00e0 ton impression<\/a><\/li>\n<li><a href=\"#ce-que-ca-te-coute-de-rester-lineaire-et-ce-que-ca-te-rapporte\">Ce que \u00e7a te co\u00fbte de rester lin\u00e9aire, et ce que \u00e7a te rapporte<\/a><\/li>\n<\/ul>\n<h2 id=\"l-essentiel-en-30-secondes\">L&rsquo;essentiel en 30 secondes<\/h2>\n<ul>\n<li>Elle sert quand tu pr\u00e9dis <strong>une cat\u00e9gorie \u00e0 deux issues<\/strong>, comme une hausse ou une baisse.<\/li>\n<li>Elle trace <strong>une fronti\u00e8re en ligne droite<\/strong> : si la vraie fronti\u00e8re est tr\u00e8s courbe, d&rsquo;autres m\u00e9thodes reprennent l&rsquo;avantage.<\/li>\n<li>Avec <strong>peu de donn\u00e9es, reste prudent<\/strong> : une m\u00e9thode plus souple n&rsquo;est pas toujours la meilleure, m\u00eame pour pr\u00e9dire.<\/li>\n<li>Au-del\u00e0 de deux classes, il faut <strong>changer de strat\u00e9gie<\/strong> (un contre un, un contre tous, ou une m\u00e9thode g\u00e9n\u00e9rative).<\/li>\n<li>Pour trancher entre deux candidates, utilise <strong>la validation crois\u00e9e \u00e0 5 ou 10 blocs<\/strong>.<\/li>\n<\/ul>\n<h2 id=\"premiere-question-predis-tu-une-categorie-a-deux-issues\">Premi\u00e8re question : pr\u00e9dis-tu une cat\u00e9gorie \u00e0 deux issues ?<\/h2>\n<p>Prends un probl\u00e8me qui para\u00eet d\u00e9sesp\u00e9r\u00e9 : deviner si le S&amp;P 500 montera ou descendra demain, \u00e0 partir des variations des cinq derniers jours. \u00c0 l&rsquo;\u0153il, les rendements pass\u00e9s se ressemblent que le march\u00e9 monte ou baisse le lendemain. Et pourtant, avec les bons outils statistiques, on retrouve la bonne direction <strong>environ 60 % du temps<\/strong> sur cinq ans de donn\u00e9es : un r\u00e9sultat modeste, mais loin d&rsquo;\u00eatre n\u00e9gligeable en finance.<\/p>\n<p>Ce profil, deux issues possibles et des variables num\u00e9riques en entr\u00e9e, est celui o\u00f9 la r\u00e9gression logistique est \u00e0 sa place : malgr\u00e9 son nom, c&rsquo;est une m\u00e9thode de classification, utilis\u00e9e pour une r\u00e9ponse binaire. Si ta cible a plus de deux issues, ou si tu h\u00e9sites encore sur son type, les sections suivantes te disent quoi faire.<\/p>\n<h2 id=\"deuxieme-question-ta-frontiere-ressemble-t-elle-a-une-droite\">Deuxi\u00e8me question : ta fronti\u00e8re ressemble-t-elle \u00e0 une droite ?<\/h2>\n<p>La r\u00e9gression logistique s\u00e9pare les classes par une fronti\u00e8re lin\u00e9aire, comme l&rsquo;<a href=\"\/blog\/machine-learning\/la-methode-d-analyse-discriminante-lda\/\" title=\"analyse discriminante lin\u00e9aire (LDA)\">analyse discriminante lin\u00e9aire (LDA)<\/a>. Toutes les m\u00e9thodes de classification ne dessinent pas des fronti\u00e8res aussi sages : on peut les ranger selon la souplesse de la fronti\u00e8re qu&rsquo;elles savent produire.<\/p>\n\n\n<figure data-wp-context=\"{&quot;imageId&quot;:&quot;6adef46cb809d&quot;}\" data-wp-interactive=\"core\/image\" data-wp-key=\"6adef46cb809d\" class=\"wp-block-image size-large wp-lightbox-container\"><img loading=\"lazy\" decoding=\"async\" width=\"2100\" height=\"1500\" data-wp-class--hide=\"state.isContentHidden\" data-wp-class--show=\"state.isContentVisible\" data-wp-init=\"callbacks.setButtonStyles\" data-wp-on--click=\"actions.showLightbox\" data-wp-on--load=\"callbacks.setButtonStyles\" data-wp-on--pointerdown=\"actions.preloadImage\" data-wp-on--pointerenter=\"actions.preloadImageWithDelay\" data-wp-on--pointerleave=\"actions.cancelPreload\" data-wp-on-window--resize=\"callbacks.setButtonStyles\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch03_comparaison_flexibilite_methodes_classification.png\" alt=\"Barres horizontales classant des m\u00e9thodes de classification par souplesse de fronti\u00e8re : LDA et r\u00e9gression logistique (barre la plus courte), KNN avec K grand, QDA, puis KNN avec K petit (barre la plus longue)\" class=\"wp-image-250\" srcset=\"https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch03_comparaison_flexibilite_methodes_classification.png 2100w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch03_comparaison_flexibilite_methodes_classification-300x214.png 300w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch03_comparaison_flexibilite_methodes_classification-1024x731.png 1024w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch03_comparaison_flexibilite_methodes_classification-768x549.png 768w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch03_comparaison_flexibilite_methodes_classification-1536x1097.png 1536w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch03_comparaison_flexibilite_methodes_classification-2048x1463.png 2048w\" sizes=\"auto, (max-width: 2100px) 100vw, 2100px\" \/><button\n\t\t\tclass=\"lightbox-trigger\"\n\t\t\ttype=\"button\"\n\t\t\taria-haspopup=\"dialog\"\n\t\t\tdata-wp-bind--aria-label=\"state.thisImage.triggerButtonAriaLabel\"\n\t\t\tdata-wp-init=\"callbacks.initTriggerButton\"\n\t\t\tdata-wp-on--click=\"actions.showLightbox\"\n\t\t\tdata-wp-style--right=\"state.thisImage.buttonRight\"\n\t\t\tdata-wp-style--top=\"state.thisImage.buttonTop\"\n\t\t>\n\t\t\t<svg xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"12\" height=\"12\" fill=\"none\" viewBox=\"0 0 12 12\">\n\t\t\t\t<path fill=\"#fff\" d=\"M2 0a2 2 0 0 0-2 2v2h1.5V2a.5.5 0 0 1 .5-.5h2V0H2Zm2 10.5H2a.5.5 0 0 1-.5-.5V8H0v2a2 2 0 0 0 2 2h2v-1.5ZM8 12v-1.5h2a.5.5 0 0 0 .5-.5V8H12v2a2 2 0 0 1-2 2H8Zm2-12a2 2 0 0 1 2 2v2h-1.5V2a.5.5 0 0 0-.5-.5H8V0h2Z\" \/>\n\t\t\t<\/svg>\n\t\t<\/button><figcaption class=\"wp-element-caption\">Regarde la barre du haut : c&rsquo;est ta position de d\u00e9part. Plus tu descends dans l&rsquo;\u00e9chelle, plus la m\u00e9thode \u00e9pouse des formes compliqu\u00e9es, mais plus elle r\u00e9clame de donn\u00e9es et plus elle devient difficile \u00e0 lire.<\/figcaption><\/figure>\n\n\n<p>Pour monter d&rsquo;un cran, il y a d&rsquo;abord <strong>l&rsquo;analyse discriminante quadratique<\/strong> (QDA). Elle laisse chaque classe avoir sa propre matrice de covariance, d&rsquo;o\u00f9 une fronti\u00e8re en courbe quadratique au lieu d&rsquo;une droite, au prix de davantage de param\u00e8tres \u00e0 estimer.<\/p>\n\n\n<figure data-wp-context=\"{&quot;imageId&quot;:&quot;6adef46cb8607&quot;}\" data-wp-interactive=\"core\/image\" data-wp-key=\"6adef46cb8607\" class=\"wp-block-image size-large wp-lightbox-container\"><img loading=\"lazy\" decoding=\"async\" width=\"2560\" height=\"1280\" data-wp-class--hide=\"state.isContentHidden\" data-wp-class--show=\"state.isContentVisible\" data-wp-init=\"callbacks.setButtonStyles\" data-wp-on--click=\"actions.showLightbox\" data-wp-on--load=\"callbacks.setButtonStyles\" data-wp-on--pointerdown=\"actions.preloadImage\" data-wp-on--pointerenter=\"actions.preloadImageWithDelay\" data-wp-on--pointerleave=\"actions.cancelPreload\" data-wp-on-window--resize=\"callbacks.setButtonStyles\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch03_frontieres_decision_lda_qda-scaled.png\" alt=\"Deux nuages de points bicolores : \u00e0 gauche une fronti\u00e8re de d\u00e9cision en ligne droite (LDA), \u00e0 droite une fronti\u00e8re courbe quadratique (QDA)\" class=\"wp-image-251\" srcset=\"https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch03_frontieres_decision_lda_qda-scaled.png 2560w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch03_frontieres_decision_lda_qda-300x150.png 300w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch03_frontieres_decision_lda_qda-1024x512.png 1024w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch03_frontieres_decision_lda_qda-768x384.png 768w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch03_frontieres_decision_lda_qda-1536x768.png 1536w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch03_frontieres_decision_lda_qda-2048x1024.png 2048w\" sizes=\"auto, (max-width: 2560px) 100vw, 2560px\" \/><button\n\t\t\tclass=\"lightbox-trigger\"\n\t\t\ttype=\"button\"\n\t\t\taria-haspopup=\"dialog\"\n\t\t\tdata-wp-bind--aria-label=\"state.thisImage.triggerButtonAriaLabel\"\n\t\t\tdata-wp-init=\"callbacks.initTriggerButton\"\n\t\t\tdata-wp-on--click=\"actions.showLightbox\"\n\t\t\tdata-wp-style--right=\"state.thisImage.buttonRight\"\n\t\t\tdata-wp-style--top=\"state.thisImage.buttonTop\"\n\t\t>\n\t\t\t<svg xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"12\" height=\"12\" fill=\"none\" viewBox=\"0 0 12 12\">\n\t\t\t\t<path fill=\"#fff\" d=\"M2 0a2 2 0 0 0-2 2v2h1.5V2a.5.5 0 0 1 .5-.5h2V0H2Zm2 10.5H2a.5.5 0 0 1-.5-.5V8H0v2a2 2 0 0 0 2 2h2v-1.5ZM8 12v-1.5h2a.5.5 0 0 0 .5-.5V8H12v2a2 2 0 0 1-2 2H8Zm2-12a2 2 0 0 1 2 2v2h-1.5V2a.5.5 0 0 0-.5-.5H8V0h2Z\" \/>\n\t\t\t<\/svg>\n\t\t<\/button><figcaption class=\"wp-element-caption\">Les deux panneaux montrent les m\u00eames points : \u00e0 gauche une droite, \u00e0 droite une courbe qui contourne un paquet de points que la droite aurait mal class\u00e9s.<\/figcaption><\/figure>\n\n\n<p>Pour aller bien plus loin, le classifieur \u00e0 vecteurs de support reste lin\u00e9aire par construction, mais les <a href=\"\/blog\/machine-learning\/la-methode-des-machines-a-vecteurs-de-support-svm\/\" title=\"machines \u00e0 vecteurs de support (SVM)\">machines \u00e0 vecteurs de support (SVM)<\/a> agrandissent implicitement l&rsquo;espace des pr\u00e9dicteurs avec des transformations non lin\u00e9aires, puis y cherchent un hyperplan s\u00e9parateur. Revenu dans l&rsquo;espace d&rsquo;origine, il devient une fronti\u00e8re non lin\u00e9aire.<\/p>\n\n\n<figure data-wp-context=\"{&quot;imageId&quot;:&quot;6adef46cb8ace&quot;}\" data-wp-interactive=\"core\/image\" data-wp-key=\"6adef46cb8ace\" class=\"wp-block-image size-large wp-lightbox-container\"><img loading=\"lazy\" decoding=\"async\" width=\"2560\" height=\"1280\" data-wp-class--hide=\"state.isContentHidden\" data-wp-class--show=\"state.isContentVisible\" data-wp-init=\"callbacks.setButtonStyles\" data-wp-on--click=\"actions.showLightbox\" data-wp-on--load=\"callbacks.setButtonStyles\" data-wp-on--pointerdown=\"actions.preloadImage\" data-wp-on--pointerenter=\"actions.preloadImageWithDelay\" data-wp-on--pointerleave=\"actions.cancelPreload\" data-wp-on-window--resize=\"callbacks.setButtonStyles\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch08_noyau_svm_frontiere_non_lineaire-scaled.png\" alt=\"Deux classes en anneau : \u00e0 gauche, non s\u00e9parables par une droite dans l'espace d'origine ; \u00e0 droite, apr\u00e8s transformation par un noyau, s\u00e9par\u00e9es par une fronti\u00e8re verticale\" class=\"wp-image-253\" srcset=\"https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch08_noyau_svm_frontiere_non_lineaire-scaled.png 2560w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch08_noyau_svm_frontiere_non_lineaire-300x150.png 300w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch08_noyau_svm_frontiere_non_lineaire-1024x512.png 1024w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch08_noyau_svm_frontiere_non_lineaire-768x384.png 768w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch08_noyau_svm_frontiere_non_lineaire-1536x768.png 1536w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch08_noyau_svm_frontiere_non_lineaire-2048x1024.png 2048w\" sizes=\"auto, (max-width: 2560px) 100vw, 2560px\" \/><button\n\t\t\tclass=\"lightbox-trigger\"\n\t\t\ttype=\"button\"\n\t\t\taria-haspopup=\"dialog\"\n\t\t\tdata-wp-bind--aria-label=\"state.thisImage.triggerButtonAriaLabel\"\n\t\t\tdata-wp-init=\"callbacks.initTriggerButton\"\n\t\t\tdata-wp-on--click=\"actions.showLightbox\"\n\t\t\tdata-wp-style--right=\"state.thisImage.buttonRight\"\n\t\t\tdata-wp-style--top=\"state.thisImage.buttonTop\"\n\t\t>\n\t\t\t<svg xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"12\" height=\"12\" fill=\"none\" viewBox=\"0 0 12 12\">\n\t\t\t\t<path fill=\"#fff\" d=\"M2 0a2 2 0 0 0-2 2v2h1.5V2a.5.5 0 0 1 .5-.5h2V0H2Zm2 10.5H2a.5.5 0 0 1-.5-.5V8H0v2a2 2 0 0 0 2 2h2v-1.5ZM8 12v-1.5h2a.5.5 0 0 0 .5-.5V8H12v2a2 2 0 0 1-2 2H8Zm2-12a2 2 0 0 1 2 2v2h-1.5V2a.5.5 0 0 0-.5-.5H8V0h2Z\" \/>\n\t\t\t<\/svg>\n\t\t<\/button><figcaption class=\"wp-element-caption\">\u00c0 gauche, aucune droite ne s\u00e9pare le c\u0153ur bleu de sa couronne orange ; \u00e0 droite, apr\u00e8s transformation, une simple verticale suffit.<\/figcaption><\/figure>\n\n\n<h2 id=\"troisieme-question-as-tu-assez-de-donnees-pour-une-methode-souple\">Troisi\u00e8me question : as-tu assez de donn\u00e9es pour une m\u00e9thode souple ?<\/h2>\n<p>Une fronti\u00e8re plus souple n&rsquo;est pas un cadeau : elle se paie en donn\u00e9es. QDA convient quand les classes ont probablement des covariances diff\u00e9rentes ou que l&rsquo;\u00e9chantillon est assez grand pour estimer les param\u00e8tres suppl\u00e9mentaires sans trop de variance ; la <strong>LDA reste pr\u00e9f\u00e9rable avec peu de donn\u00e9es<\/strong>, ou quand une fronti\u00e8re lin\u00e9aire est une approximation raisonnable.<\/p>\n<p>Les <a href=\"\/blog\/maths\/la-methode-des-k-plus-proches-voisins\/\" title=\"K plus proches voisins (KNN)\">K plus proches voisins (KNN)<\/a> illustrent le m\u00eame arbitrage avec un seul bouton. Pour classer un point, on regarde les K observations d&rsquo;entra\u00eenement les plus proches et on prend la classe majoritaire.<\/p>\n\n\n<figure data-wp-context=\"{&quot;imageId&quot;:&quot;6adef46cb8f60&quot;}\" data-wp-interactive=\"core\/image\" data-wp-key=\"6adef46cb8f60\" class=\"wp-block-image size-large wp-lightbox-container\"><img loading=\"lazy\" decoding=\"async\" width=\"2100\" height=\"1650\" data-wp-class--hide=\"state.isContentHidden\" data-wp-class--show=\"state.isContentVisible\" data-wp-init=\"callbacks.setButtonStyles\" data-wp-on--click=\"actions.showLightbox\" data-wp-on--load=\"callbacks.setButtonStyles\" data-wp-on--pointerdown=\"actions.preloadImage\" data-wp-on--pointerenter=\"actions.preloadImageWithDelay\" data-wp-on--pointerleave=\"actions.cancelPreload\" data-wp-on-window--resize=\"callbacks.setButtonStyles\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch01_mecanisme_knn.png\" alt=\"Un point \u00e0 classer (croix noire) entour\u00e9 d'un cercle en pointill\u00e9s contenant ses trois plus proches voisins, bleus et orange m\u00eal\u00e9s ; la classe majoritaire du cercle d\u00e9cide\" class=\"wp-image-254\" srcset=\"https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch01_mecanisme_knn.png 2100w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch01_mecanisme_knn-300x236.png 300w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch01_mecanisme_knn-1024x805.png 1024w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch01_mecanisme_knn-768x603.png 768w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch01_mecanisme_knn-1536x1207.png 1536w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch01_mecanisme_knn-2048x1609.png 2048w\" sizes=\"auto, (max-width: 2100px) 100vw, 2100px\" \/><button\n\t\t\tclass=\"lightbox-trigger\"\n\t\t\ttype=\"button\"\n\t\t\taria-haspopup=\"dialog\"\n\t\t\tdata-wp-bind--aria-label=\"state.thisImage.triggerButtonAriaLabel\"\n\t\t\tdata-wp-init=\"callbacks.initTriggerButton\"\n\t\t\tdata-wp-on--click=\"actions.showLightbox\"\n\t\t\tdata-wp-style--right=\"state.thisImage.buttonRight\"\n\t\t\tdata-wp-style--top=\"state.thisImage.buttonTop\"\n\t\t>\n\t\t\t<svg xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"12\" height=\"12\" fill=\"none\" viewBox=\"0 0 12 12\">\n\t\t\t\t<path fill=\"#fff\" d=\"M2 0a2 2 0 0 0-2 2v2h1.5V2a.5.5 0 0 1 .5-.5h2V0H2Zm2 10.5H2a.5.5 0 0 1-.5-.5V8H0v2a2 2 0 0 0 2 2h2v-1.5ZM8 12v-1.5h2a.5.5 0 0 0 .5-.5V8H12v2a2 2 0 0 1-2 2H8Zm2-12a2 2 0 0 1 2 2v2h-1.5V2a.5.5 0 0 0-.5-.5H8V0h2Z\" \/>\n\t\t\t<\/svg>\n\t\t<\/button><figcaption class=\"wp-element-caption\">Avec K = 3, regarde le cercle : deux voisins d&rsquo;une couleur contre un de l&rsquo;autre suffisent \u00e0 trancher.<\/figcaption><\/figure>\n\n\n<p>Avec <strong>K = 1<\/strong>, la fronti\u00e8re devient extr\u00eamement irr\u00e9guli\u00e8re, \u00e9pousant chaque particularit\u00e9 des donn\u00e9es : faible biais mais tr\u00e8s forte variance. \u00c0 l&rsquo;inverse, un grand K rigidifie la m\u00e9thode, jusqu&rsquo;\u00e0 une fronti\u00e8re presque lin\u00e9aire, avec une faible variance et un fort biais. Le taux d&rsquo;erreur de test dessine alors une courbe en U : ni l&rsquo;extr\u00eame souple ni l&rsquo;extr\u00eame rigide ne sont satisfaisants.<\/p>\n<blockquote>\n<p><strong>\ud83d\udca1 Intuition<\/strong> Viser la m\u00e9thode la plus souple \u00ab pour \u00eatre s\u00fbr \u00bb est un r\u00e9flexe trompeur : \u00e0 cause du surajustement, une m\u00e9thode tr\u00e8s flexible fait parfois de moins bonnes pr\u00e9dictions sur des donn\u00e9es nouvelles qu&rsquo;une m\u00e9thode plus simple.<\/p>\n<\/blockquote>\n<h2 id=\"quatrieme-question-combien-de-classes-veux-tu-departager\">Quatri\u00e8me question : combien de classes veux-tu d\u00e9partager ?<\/h2>\n<p>Imagine un service d&rsquo;urgences o\u00f9 le diagnostic est \u00e0 choisir parmi plusieurs pathologies : plus aucune fronti\u00e8re unique ne suffit. Deux familles de r\u00e9ponses s&rsquo;offrent \u00e0 toi.<\/p>\n<p>La premi\u00e8re, ce sont les <a href=\"\/blog\/deep-learning\/que-sont-les-methodes-generatives\/\" title=\"m\u00e9thodes g\u00e9n\u00e9ratives\">m\u00e9thodes g\u00e9n\u00e9ratives<\/a> (LDA, QDA, <a href=\"\/blog\/deep-learning\/le-classificateur-naive-bayes\/\" title=\"na\u00efve Bayes\">na\u00efve Bayes<\/a>), dont un avantage cit\u00e9 est de se g\u00e9n\u00e9raliser naturellement \u00e0 plus de deux classes. La seconde consiste \u00e0 ramener le probl\u00e8me \u00e0 une s\u00e9rie de choix binaires avec des SVM. Pour <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-e7bfa26238ce2949ecc69d6b79758137_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#75;&#32;&#62;&#32;&#50;\" title=\"Rendered by QuickLaTeX.com\" height=\"14\" width=\"48\" style=\"vertical-align: -2px;\"\/> classes, il existe deux strat\u00e9gies : la classification un contre un, qui ajuste un SVM par paire de classes, soit <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-0db55bb1298834da6593ad949ceee944_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#92;&#98;&#105;&#110;&#111;&#109;&#123;&#75;&#125;&#123;&#50;&#125;\" title=\"Rendered by QuickLaTeX.com\" height=\"24\" width=\"25\" style=\"vertical-align: -7px;\"\/> classifieurs, puis vote \u00e0 la majorit\u00e9 ; et la classification un contre tous, qui ajuste <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/ql-cache\/quicklatex.com-ea9c87a513e4a72624155d392fae86e2_l3.png\" class=\"ql-img-inline-formula quicklatex-auto-format\" alt=\"&#75;\" title=\"Rendered by QuickLaTeX.com\" height=\"12\" width=\"16\" style=\"vertical-align: 0px;\"\/> SVM opposant chacun une classe \u00e0 toutes les autres r\u00e9unies, et retient la classe dont le classifieur est le plus confiant.<\/p>\n<h2 id=\"comment-departager-deux-candidates-sans-te-fier-a-ton-impression\">Comment d\u00e9partager deux candidates sans te fier \u00e0 ton impression<\/h2>\n<p>Reste un pi\u00e8ge : choisir la m\u00e9thode qui a le plus petit taux d&rsquo;erreur\u2026 sur les donn\u00e9es qui ont servi \u00e0 l&rsquo;entra\u00eener. Minimiser l&rsquo;erreur d&rsquo;entra\u00eenement ne garantit jamais de minimiser l&rsquo;erreur de test ; c&rsquo;est cette derni\u00e8re, estim\u00e9e sur des donn\u00e9es non vues, qui doit guider ton choix.<\/p>\n<p>Pour l&rsquo;estimer sans mettre de c\u00f4t\u00e9 une grosse part de tes donn\u00e9es, la <strong>validation crois\u00e9e \u00e0 k blocs<\/strong> (k = 5 ou 10 en pratique) offre le meilleur compromis entre biais et variance, avec un co\u00fbt de calcul ma\u00eetris\u00e9. Elle s&rsquo;applique de la m\u00eame fa\u00e7on en classification, avec le taux d&rsquo;erreur comme mesure. La variante leave-one-out r\u00e9duit le biais au minimum, mais co\u00fbte cher en calcul et affiche une variance plus forte.<\/p>\n<h2 id=\"ce-que-ca-te-coute-de-rester-lineaire-et-ce-que-ca-te-rapporte\">Ce que \u00e7a te co\u00fbte de rester lin\u00e9aire, et ce que \u00e7a te rapporte<\/h2>\n<p>Rester sur une fronti\u00e8re droite n&rsquo;est pas une paresse. Quand ton but est de comprendre comment la r\u00e9ponse d\u00e9pend des variables, les <strong>mod\u00e8les restrictifs sont nettement plus interpr\u00e9tables<\/strong> : il est bien plus facile d&rsquo;expliquer une droite qu&rsquo;un r\u00e9seau de neurones profond.<\/p>\n\n\n<figure data-wp-context=\"{&quot;imageId&quot;:&quot;6adef46cb93c4&quot;}\" data-wp-interactive=\"core\/image\" data-wp-key=\"6adef46cb93c4\" class=\"wp-block-image size-large wp-lightbox-container\"><img loading=\"lazy\" decoding=\"async\" width=\"2100\" height=\"1650\" data-wp-class--hide=\"state.isContentHidden\" data-wp-class--show=\"state.isContentVisible\" data-wp-init=\"callbacks.setButtonStyles\" data-wp-on--click=\"actions.showLightbox\" data-wp-on--load=\"callbacks.setButtonStyles\" data-wp-on--pointerdown=\"actions.preloadImage\" data-wp-on--pointerenter=\"actions.preloadImageWithDelay\" data-wp-on--pointerleave=\"actions.cancelPreload\" data-wp-on-window--resize=\"callbacks.setButtonStyles\" src=\"https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch01_tradeoff_flexibilite_interpretabilite.png\" alt=\"Nuage de m\u00e9thodes sur deux axes, flexibilit\u00e9 et interpr\u00e9tabilit\u00e9 : s\u00e9lection de sous-ensembles, lasso et moindres carr\u00e9s en haut \u00e0 gauche, SVM et apprentissage profond en bas \u00e0 droite, arbres, bagging, boosting et mod\u00e8les additifs au milieu\" class=\"wp-image-255\" srcset=\"https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch01_tradeoff_flexibilite_interpretabilite.png 2100w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch01_tradeoff_flexibilite_interpretabilite-300x236.png 300w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch01_tradeoff_flexibilite_interpretabilite-1024x805.png 1024w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch01_tradeoff_flexibilite_interpretabilite-768x603.png 768w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch01_tradeoff_flexibilite_interpretabilite-1536x1207.png 1536w, https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch01_tradeoff_flexibilite_interpretabilite-2048x1609.png 2048w\" sizes=\"auto, (max-width: 2100px) 100vw, 2100px\" \/><button\n\t\t\tclass=\"lightbox-trigger\"\n\t\t\ttype=\"button\"\n\t\t\taria-haspopup=\"dialog\"\n\t\t\tdata-wp-bind--aria-label=\"state.thisImage.triggerButtonAriaLabel\"\n\t\t\tdata-wp-init=\"callbacks.initTriggerButton\"\n\t\t\tdata-wp-on--click=\"actions.showLightbox\"\n\t\t\tdata-wp-style--right=\"state.thisImage.buttonRight\"\n\t\t\tdata-wp-style--top=\"state.thisImage.buttonTop\"\n\t\t>\n\t\t\t<svg xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"12\" height=\"12\" fill=\"none\" viewBox=\"0 0 12 12\">\n\t\t\t\t<path fill=\"#fff\" d=\"M2 0a2 2 0 0 0-2 2v2h1.5V2a.5.5 0 0 1 .5-.5h2V0H2Zm2 10.5H2a.5.5 0 0 1-.5-.5V8H0v2a2 2 0 0 0 2 2h2v-1.5ZM8 12v-1.5h2a.5.5 0 0 0 .5-.5V8H12v2a2 2 0 0 1-2 2H8Zm2-12a2 2 0 0 1 2 2v2h-1.5V2a.5.5 0 0 0-.5-.5H8V0h2Z\" \/>\n\t\t\t<\/svg>\n\t\t<\/button><figcaption class=\"wp-element-caption\">La diagonale du graphique raconte le compromis : en descendant vers la droite, tu gagnes en souplesse et tu perds en lisibilit\u00e9. Sur l&rsquo;\u00e9chelle de souplesse vue plus haut, la r\u00e9gression logistique se trouve du c\u00f4t\u00e9 restrictif.<\/figcaption><\/figure>\n\n\n<p>Il y a aussi un h\u00e9ritage : la r\u00e9gression logistique date des ann\u00e9es 1940, et jusqu&rsquo;\u00e0 la fin des ann\u00e9es 1970 les m\u00e9thodes restaient presque exclusivement lin\u00e9aires, la mod\u00e9lisation non lin\u00e9aire \u00e9tant trop co\u00fbteuse en calcul. Les arbres et les mod\u00e8les additifs n&rsquo;ont pu se d\u00e9velopper qu&rsquo;avec les progr\u00e8s des ordinateurs dans les ann\u00e9es 1980, les SVM dans les ann\u00e9es 1990.<\/p>\n<blockquote>\n<p><strong>\ud83d\udccc \u00c0 retenir<\/strong> Une cat\u00e9gorie \u00e0 deux issues, une fronti\u00e8re qui ressemble \u00e0 une droite, un volume de donn\u00e9es modeste, un besoin de comprendre : voil\u00e0 les conditions o\u00f9 la r\u00e9gression logistique est un bon premier choix. D\u00e8s qu&rsquo;un de ces points vacille, la validation crois\u00e9e te dit si une m\u00e9thode plus souple vaut son prix.<\/p>\n<\/blockquote>","protected":false},"excerpt":{"rendered":"<p>Cible \u00e0 deux issues, fronti\u00e8re en ligne droite, volume de donn\u00e9es, nombre de classes : les crit\u00e8res qui disent si la r\u00e9gression logistique est faite pour toi.<\/p>\n","protected":false},"author":1,"featured_media":276,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[7],"tags":[],"class_list":["post-256","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-machine-learning"],"_links":{"self":[{"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/posts\/256","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/comments?post=256"}],"version-history":[{"count":3,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/posts\/256\/revisions"}],"predecessor-version":[{"id":820,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/posts\/256\/revisions\/820"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/media\/276"}],"wp:attachment":[{"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/media?parent=256"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/categories?post=256"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/tags?post=256"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}