r\u00e9duire les hallucinations<\/a> et de citer des sources, donc la r\u00e9cup\u00e9ration est meilleure. G\u00e9n\u00e9rer du code appelle les deux : une base de code dynamique et un mod\u00e8le adapt\u00e9 \u00e0 la t\u00e2che.<\/p>\nLe finetuning ne concerne pas que le mod\u00e8le de langage. On peut aussi ajuster le mod\u00e8le d’embedding sur un jeu de donn\u00e9es pr\u00e9cis : il saisit mieux les nuances du domaine, d’o\u00f9 une meilleure r\u00e9cup\u00e9ration. \u00c7a co\u00fbte bien moins que de l’entra\u00eener de z\u00e9ro, et des biblioth\u00e8ques comme Sentence Transformers facilitent le processus, avec des exemples positifs et n\u00e9gatifs.<\/p>\n
Reste une confusion fr\u00e9quente avec la distillation. Dans celle-ci, un grand mod\u00e8le \u00ab enseignant \u00bb entra\u00eene un petit mod\u00e8le \u00ab \u00e9l\u00e8ve \u00bb \u00e0 l’imiter, en lui montrant ses distributions de probabilit\u00e9s, pas seulement ses r\u00e9ponses.<\/p>\n\n\n\n\t\t\t\n\t\t\t\tCompare les sorties des deux rang\u00e9es : le finetuning rend un mod\u00e8le de m\u00eame architecture aux poids modifi\u00e9s, alors que la distillation fabrique un mod\u00e8le plus petit. La premi\u00e8re apprend \u00e0 mieux faire dans un domaine<\/strong>, la seconde \u00e0 \u00e9muler le comportement d’un mod\u00e8le plus grand, bon ou mauvais.<\/figcaption><\/figure>\n\n\nId\u00e9es re\u00e7ues et limites<\/h2>\n\u00ab Finetuner, c’est entra\u00eener un mod\u00e8le \u00bb<\/h3>\n Pas au sens du pr\u00e9entra\u00eenement. Souvent, les mod\u00e8les libres de qualit\u00e9 comprennent d\u00e9j\u00e0 un post-entra\u00eenement ou un r\u00e9glage d’instructions proche de la t\u00e2che. Cela supprime le besoin d’ajustement suppl\u00e9mentaire, ou le r\u00e9duit \u00e0 des mises \u00e0 jour cibl\u00e9es minimales.<\/p>\n
\u00ab C’est une potion magique \u00bb<\/h3>\n L’ajustement exploite les connaissances pr\u00e9existantes mais recentre le mod\u00e8le sur un domaine, ce qui peut d\u00e9grader la performance<\/strong> et provoquer des hallucinations. Un jeu d’exemples trop \u00e9troit ou p\u00e9rim\u00e9 expose aussi au surajustement aux donn\u00e9es historiques, et \u00e0 l’oubli des tendances \u00e9mergentes. C’est pour cela qu’on d\u00e9contamine le jeu de test, comme vu plus haut.<\/p>\n\u00ab On finetune une fois, et c’est r\u00e9gl\u00e9 \u00bb<\/h3>\n Un mod\u00e8le ajust\u00e9 exige une gestion de versions, un calendrier de r\u00e9entra\u00eenement et des contr\u00f4les de compatibilit\u00e9. Pire, les fournisseurs sortent r\u00e9guli\u00e8rement de meilleurs mod\u00e8les de base : une nouvelle version peut surpasser ton mod\u00e8le ajust\u00e9 et an\u00e9antir des mois de r\u00e9entra\u00eenement<\/strong>.<\/p>\nEt le mod\u00e8le ne peut pas apprendre en continu sans accroc : permettre \u00e0 un mod\u00e8le de s’adapter \u00e0 de nouvelles t\u00e2ches sans oublier ce qu’il a appris, c’est le probl\u00e8me de l’oubli catastrophique, qui reste ouvert aujourd’hui.<\/p>\n
\n\ud83d\udccc \u00c0 retenir<\/strong> Avant d’investir, on regarde si un mod\u00e8le pr\u00e9entra\u00een\u00e9 ou r\u00e9gl\u00e9 pour les instructions r\u00e9pond au besoin avec de l’ing\u00e9nierie d’invite, un apprentissage non param\u00e9trique ou une adaptation l\u00e9g\u00e8re. Dans le doute, ne finetune pas : d’autres actions co\u00fbtent moins cher et p\u00e8sent souvent davantage.<\/p>\n<\/blockquote>","protected":false},"excerpt":{"rendered":"Le finetuning reprend un mod\u00e8le d\u00e9j\u00e0 entra\u00een\u00e9 et d\u00e9place ses poids vers ton usage. Ce qui change, comment \u00e7a se passe, et ce que \u00e7a ne fait pas.<\/p>\n","protected":false},"author":1,"featured_media":535,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[17],"tags":[],"class_list":["post-536","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-inference"],"_links":{"self":[{"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/posts\/536","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/comments?post=536"}],"version-history":[{"count":3,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/posts\/536\/revisions"}],"predecessor-version":[{"id":781,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/posts\/536\/revisions\/781"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/media\/535"}],"wp:attachment":[{"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/media?parent=536"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/categories?post=536"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.ranksignal.fr\/blog\/wp-json\/wp\/v2\/tags?post=536"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
![\"Quatre](\"https:\/\/www.ranksignal.fr\/wp-content\/uploads\/2026\/10\/b1_ch04_finetuning_supervise-scaled.png\")