Qu’est-ce qu’un GRU ? Deux portes pour une mémoire légère
Un GRU (Gated Recurrent Unit) est un LSTM allégé : un seul état, deux portes. Découvre ce que font z et r, comment l’état se met à jour et ses limites.
Cours & Tutoriels d'Intelligence Artificielle
Naive Bayes : classer en multipliant des indices indépendants
Le classificateur Naive Bayes applique le théorème de Bayes en supposant les prédicteurs indépendants dans chaque classe. Principe, calcul chiffré et limites.
Sigmoïde : la courbe en S qui dose entre 0 et 1
La sigmoïde range n’importe quel nombre entre 0 et 1. Formule, pente, effet sur l’apprentissage d’un neurone et idées reçues à lâcher.
LoRA : le pari du faible rang pour adapter un gros modèle
LoRA n’entraîne qu’une petite correction, produit de deux matrices de faible rang. Rang, SVD, compression d’image, configuration en code : tout pour comprendre.
Convolutions 1D : un filtre qui glisse sur une séquence
Noyau, poids, canaux : comprends ce qu’est une convolution à une dimension, comment elle lit une phrase par fenêtres et ce qu’elle ne sait pas faire.
Réseau profond : l’anatomie d’une pile de couches
Entrée, bloc répété des dizaines de fois, sortie : découvre ce que contient un réseau profond, pourquoi on empile les couches et ce qui tient la pile.
Méthodes génératives : un mot, deux familles, une idée
Classer en décrivant chaque groupe, écrire un jeton après l’autre, créer une image depuis du bruit : ce que recouvre « génératif » et ce qui relie ces méthodes.
BERTviz : voir ce que regarde un modèle BERT
BERTviz affiche les poids d’attention de BERT, tête par tête ou d’un seul coup d’œil. Ce que fait la bibliothèque, comment l’appeler, comment lire ses couleurs.
Le modèle BERT : un lecteur qui regarde des deux côtés
BERT lit chaque mot avec ce qui le précède et ce qui le suit. Son nom décodé, son entraînement à trous, ses usages en recherche de documents et ses limites.
Les couches d’auto-attention : ce qu’elles font vraiment
Une couche d’auto-attention reçoit un tableau de vecteurs et en rend un de même taille, enrichi de contexte. Ce qu’elle apprend, et ce que « auto » change.