Comprendre l’IA

D’où lui vient son intelligence, et comment en tirer le meilleur : ce qui se passe vraiment derrière ChatGPT, Claude, Gemini ou Le Chat.

Animé par Simon · simsays.fr

→ avancer S sommaire N notes F plein écran

Une idée simple, poussée très loin

Ces systèmes rédigent, traduisent, programment, résument… Pourtant, au cœur, ils ne savent faire qu’une seule chose :

Deviner la suite d’un texte.

Partie I

Des mots aux nombres

Comment une machine à calculer peut manipuler du langage.

Prédire le mot suivant
Les tokens
Les embeddings

Partie II

L’attention

Le mécanisme qui permet de tenir compte du contexte.

Le sens dépend du contexte
Le Transformer
L’apprentissage

Partie III

Du prédicteur à l’agent

Comment un générateur de texte s’est mis à agir.

L’assistant et l’alignement
Les outils
La boucle, puis l’initiative

Partie I

Des mots aux nombres

Un ordinateur ne connaît que les nombres. Comment lui faire manipuler du langage ?

PrédireDécouperReprésenter

À vous de jouer : complétez la phrase

Le chat dort sur le ?

Vous venez de faire ce que fait un modèle de langage (LLM) : estimer, pour chaque mot possible, sa probabilité d’être la suite.

Le clavier de votre téléphone le fait depuis des années, en ne regardant que les deux ou trois derniers mots.

Probabilités calculées en direct par un vrai mini-modèle, entraîné sur phrases ( mots).

Un modèle de langage est une machine à probabilités.

Écrire, c’est prédire… en boucle

1 Lire le texte 2 Calculer les probabilités 3 Tirer un mot au sort 4 L’ajouter, et recommencer

1

de45 %

du20 %

un10 %

2

la70 %

l’15 %

bons5 %

3

farine85 %

patience6 %

pâte4 %

4

,50 %

et30 %

de10 %

5

des50 %

du30 %

un10 %

6

lait90 %

beurre5 %

sucre2 %

Un autre tirage à l’étape 3

Pour faire des crêpes, il faut de la patience.

Oser l’outsider ?

C’est le rôle d’un réglage, la température. On la règle juste après.

Avancer pas à pas : à chaque étape, le modèle relit tout le texte, calcule les probabilités du mot suivant, en tire un au sort et l’ajoute. Puis il recommence.
Étape 5 : le tirage ne prend pas le favori (« du » à 30 % plutôt que « des » à 50 %). C’est normal : on tire au sort en respectant les probabilités.
Un autre tirage à l’étape 3 aurait donné « patience » (6 %) : même question, autre réponse. C’est pourquoi un assistant ne répond jamais deux fois exactement pareil.
Qui décide d’oser « patience » ? Un réglage, la température : c’est la diapositive suivante.
Probabilités illustratives, arrondies : elles ressemblent à ce que donne un vrai modèle, mais ne sortent pas d’un calcul.
Le modèle s’arrête quand il prédit un « mot » spécial qui signifie « fin ».
Transition : ces « mots » ne sont pas tout à fait des mots…

La température : du sage au créatif

Le ciel ce soir est ?

Température : · 0 2

Basse de 0 à 0,5Fiable, mais toujours pareil

…dégagé.
…dégagé.
…dégagé.

Moyenne autour de 1Varié et cohérent

…dégagé.
…étoilé.
…un peu gris.

Haute 1,4 et plusSurprenant… parfois absurde

…rose bonbon.
…flamboyant.
…au fromage.

Trois essais par réglage. Exemples et probabilités de départ illustratifs ; l’effet du curseur est calculé.

Basse pour les faits, haute pour les idées.

Faire glisser le curseur : à 0, le favori rafle tout (100 %) ; à 2, les barres s’aplatissent et « au fromage » a ses chances. La carte d’exemples de droite suit le réglage.
Le calcul : chaque probabilité est élevée à la puissance 1/T, puis on renormalise. T < 1 accentue les écarts, T > 1 les écrase. À T = 0, on prend toujours le favori : même question, même réponse.
Top‑p (ou « nucleus sampling ») : on ne tire qu’au sein des mots les plus probables qui totalisent 90 %. Activer le bouton à haute température : les absurdités sont écartées, la variété reste. C’est le réglage complice de la température.
Autres réglages, moins visuels : la longueur maximale de la réponse (en tokens), le « top‑k » (ne garder que les k premiers candidats), les pénalités de répétition, la « graine » du hasard pour reproduire un tirage.
En pratique : dans ChatGPT, Gemini ou Le Chat, ces réglages sont faits pour vous. On y accède dans les outils pour développeurs (Google AI Studio, les API), et certains modèles à raisonnement imposent même leur propre réglage.
Côté utilisateur, on obtient un effet comparable par la consigne : « propose dix idées très différentes » pour ouvrir, « sois factuel et cite tes sources » pour resserrer. Ce n’est pas la température elle-même, mais le résultat va dans le même sens.
Probabilités de départ et exemples illustratifs ; la transformation par la température et le top‑p est réellement calculée.

Penser avant de répondre

QuestionUn stylo et un cahier coûtent 3,20 € ensemble. Le cahier coûte 3 € de plus que le stylo. Combien coûte le stylo ?

Réponse immédiate

0,20 €

Fausse 6 fois sur 10 · quelques tokens

Avec un brouillon

Okay, let’s see. […] P + (P + 3) = 3.20 → 2P = 0.20 → P = 0.10. Wait, so the pen is 0.10 euros? That seems really cheap, but maybe that’s correct? Let me check. […]

0,10 €

Juste 5 fois sur 5 · 440 à 770 tokens de brouillon

Essai réel, 10 novembre 2026 : le même modèle (Qwen3‑4B, en local), brouillon désactivé puis activé. Le brouillon est écrit en anglais.

12 % → 74 %de problèmes résolus à un concours de maths, de GPT‑4o au premier modèle de raisonnement d’OpenAI (2024)

× 100de tokens produits : plus de temps, plus d’énergie

Réfléchir, pour un modèle, c’est écrire un brouillon avant de répondre.

Faire répondre la salle d’abord : beaucoup disent 0,20 €. C’est l’erreur intuitive (variante du « problème de la batte et de la balle » de Kahneman). Si le stylo coûte 0,10 €, le cahier coûte 3,10 €, total 3,20 €.
Essai réel fait pour la séance avec Qwen3‑4B en local, qui sait répondre avec ou sans brouillon. Réponse immédiate forcée : 0,20 € dans 6 essais sur 10. Avec brouillon : 0,10 € dans 5 essais sur 5, après 437 à 774 tokens de réflexion, soit une à deux minutes sur ce portable.
Ce que montre l’extrait : le modèle pose l’équation, trouve, puis se méfie (« ça semble très bon marché ») et vérifie. Il apprend ce comportement par entraînement : on récompense les brouillons qui mènent à la bonne réponse.
C’est le « Réflexion… » affiché par ChatGPT, Gemini ou Claude. Premier modèle grand public de ce type : OpenAI o1, septembre 2024. Sur le concours AIME 2024, GPT‑4o résolvait 12 % des problèmes, o1 74 % (83 % en votant sur 64 essais).
Le prix : le brouillon multiplie ici les tokens par environ 100. Utile pour les maths, le code, la planification ; inutile pour une question simple. Lien avec la séance énergie.

Découper : le texte devient des tokens

0 caractères

0 tokens

Découpage réel du tokenizer de GPT‑4o (o200k_base) ; sous chaque morceau, son numéro dans le vocabulaire.

Le modèle ne lit ni des lettres ni des mots, mais des tokens : des fragments de texte fréquents.

Un vocabulaire fixe d’environ 200 000 fragments numérotés
Mot courant : un seul token
Mot rare : plusieurs morceaux
Les nombres sont hachés menu

Pour la machine, une phrase est une suite de numéros.

Toutes les langues ne paient pas le même prix

Même texte : combien de tokens ?

GPT‑4o (2024)GPT‑4 (2023)

Anglais

Français

Russe

Chinois (mandarin)

Japonais

Arabe

Hindi

Tamoul

Birman

Amharique

Shan (Birmanie)

Anglais = 1. FLORES‑200 : 1 012 phrases traduites dans chaque langue. Tokenizers d’OpenAI, calcul de novembre 2026. Chaque graduation double.

1,2 token par mot en anglais

1,4 en français

Ce que ça change

Plus cher : les services facturent au token.
Moins de place : la mémoire de travail se remplit plus vite.
Plus lent : plus de tokens à produire.
Souvent moins bon : moins de textes pour apprendre.

Avec le tokenizer d’un modèle chinois (Qwen3), le chinois tombe à × 1,0 : chacun découpe au mieux les langues de ses propres données.

Même texte, jusqu’à 8 fois plus de tokens selon la langue.

Mesure faite pour cette séance : les 1 012 phrases du jeu FLORES‑200 (Meta), traduites par des professionnels dans 200 langues, découpées par les tokenizers de GPT‑4 (cl100k, 2023) et de GPT‑4o (o200k, 2024, repris par GPT‑4.1, o3 et GPT‑5 d’après la bibliothèque officielle tiktoken). Script : research/tokens-par-langue.py, 10 novembre 2026.
Contrôle : avec le tokenizer de GPT‑4, le shan ressort à ×15, exactement le maximum rapporté par Petrov et al. (« Language Model Tokenizers Introduce Unfairness Between Languages », NeurIPS 2023), qui utilisaient les mêmes phrases.
Ordre de grandeur à retenir : environ 1,2 token par mot en anglais, 1,4 en français (1,7 avec l’ancien tokenizer de GPT‑4). En chinois, un caractère vaut environ 0,8 token avec GPT‑4o.
Pourquoi : le vocabulaire de tokens est appris sur les textes d’entraînement, en grande majorité anglais. Les langues peu présentes sont découpées plus finement, parfois octet par octet (birman, amharique, shan).
Le chinois : ×1,9 avec GPT‑4, ×1,25 avec GPT‑4o, et ×1,0 avec Qwen3 (Alibaba). Chaque concepteur optimise pour les langues de ses données : c’est un choix, pas une fatalité.
Progrès réels : GPT‑4o a fortement réduit l’écart pour l’hindi (×4,8 → ×1,6) ou le tamoul (×7,6 → ×2,0), beaucoup moins pour l’amharique (×7,6 → ×5,8).
Conséquences : Ahia et al. (« Do All Languages Cost the Same ? », EMNLP 2023) montrent que les locuteurs de nombreuses langues paient plus cher l’accès aux API pour des résultats souvent moins bons. Lien avec les séances énergie (plus de tokens, plus de calcul) et gouvernance (souveraineté linguistique).

Sa mémoire de travail : la fenêtre de contexte

Je prépare un voyage à Lisbonne en mai, 800 € de budget. Je suis végétarien.

Voici un programme de quatre jours, quartier par quartier…

Ajoute une journée à Sintra.

C’est fait : départ en train à 9 h depuis le Rossio…

Et pour manger le soir ?

Ne manquez pas les grillades de poisson du quartier d’Alfama ! Il a oublié « végétarien »

≈ 10 pagesChatGPT en 2022 : 4 096 tokens

≈ 2 300 pagesaujourd’hui : jusqu’à 1 million de tokens

Entre deux conversations, il ne retient rien. Les fonctions « mémoire » recopient quelques notes sur vous dans la fenêtre, au début de chaque échange.

Le milieu se perd. Dans un long texte, il lit mieux le début et la fin que le milieu.

Le réflexe : nouveau sujet, nouvelle conversation. Et rappelez les consignes importantes.

Il ne se souvient que de ce qui tient dans la fenêtre.

Avancer message par message. À chaque réponse, le modèle relit toute la conversation, mais seulement ce qui tient dans sa fenêtre. Au cinquième message, le premier (« je suis végétarien ») sort du cadre : la sixième réponse l’ignore.
Schéma : une vraie fenêtre est bien plus grande, mais une longue conversation avec des documents joints finit par la remplir. Selon l’outil, le début est alors coupé ou résumé, et des détails disparaissent.
Tailles : 4 096 tokens pour ChatGPT à son lancement fin 2022 ; 1 million de tokens chez Google (Gemini 1.5 Pro, février 2024) puis OpenAI (GPT‑4.1, avril 2025). Conversion en pages avec 1,44 token par mot en français (mesuré sur la diapositive des langues) et 300 mots par page.
« Le milieu se perd » : Liu et al., « Lost in the Middle » (2023, publié en 2024) : une information placée au milieu d’un long contexte est moins bien exploitée qu’au début ou à la fin. Les modèles récents ont progressé, mais le conseil reste valable.
Mémoire entre les conversations : le modèle n’apprend rien de vous. L’application garde des notes (vos préférences, votre métier) et les colle dans la fenêtre. On peut les consulter et les effacer dans les réglages.
Lien avec la diapositive des langues : une langue qui demande plus de tokens remplit la fenêtre plus vite.

Représenter : chaque token devient un point

Carte schématique en deux dimensions. Les vrais espaces en comptent des milliers.

À chaque token son embedding : une liste de milliers de nombres, ses coordonnées dans un « espace du sens ».

survolez un mot

Plus proches voisins

Proches par le sens, proches dans l’espace.

On peut même calculer avec le sens

roi−homme+femme≈reine

Les directions de l’espace encodent des relations : le même déplacement mène d’« homme » à « femme » et de « roi » à « reine ».

Paris−France+Italie≈Rome

Personne n’a programmé ces relations. Elles émergent de la lecture de milliards de phrases : « on reconnaît un mot à ses fréquentations ».

Revers de la médaille : l’espace absorbe aussi nos stéréotypes. « programmeur − homme + femme ≈ femme au foyer » (Bolukbasi et al., 2016).

Une image vaut 16 × 16 mots

Photos, captures d’écran, schémas : les assistants les lisent avec la même recette que le texte.

1Découper l’image en petits carrés : chacun devient un token.
2Enchaîner carrés et mots dans une seule suite.
3Représenter le tout dans le même espace : la photo d’un robot atterrit près du mot « robot ».

Schéma. En vrai, des carrés de 14 à 16 pixels de côté : des centaines de tokens par image.

Texte, image, son : tout devient des tokens.

Le titre fait écho à l’article de 2020 qui a fait entrer les images dans les Transformers : « An Image is Worth 16x16 Words » (Dosovitskiy et al., Google). Une image de 256 × 256 pixels découpée en carrés de 16 pixels donne 16 × 16 = 256 tokens.
Étape 3 : c’est l’idée de CLIP (OpenAI, 2021), entraîné sur des centaines de millions de paires image-légende pour rapprocher une image de sa description. Comme la carte précédente, ce dessin est un schéma, pas une vraie projection.
Le son suit la même recette : on le découpe en tranches de quelques dizaines de millisecondes. Une vidéo, c’est une suite d’images, plus le son.
Dans l’autre sens, produire des images, de la voix ou de la vidéo : certains modèles génèrent des tokens d’image, beaucoup utilisent une autre technique, la « diffusion », qui part d’un bruit aléatoire et le nettoie pas à pas.
Ponts vers la suite du cours : ces usages coûtent plus cher en énergie (séance 2 : environ 0,6 Wh par image générée, près de 190 Wh par seconde de vidéo), et photographier un document est l’une des fonctions les plus utiles au travail (séance 5).
Démonstration possible : photographier un objet de la salle et demander à un assistant ce que c’est, ou une page manuscrite et lui demander de la retranscrire.
Transition vers la partie II : un vecteur par token, c’est bien… sauf quand un mot a plusieurs sens.

Partie II

L’attention

Le mécanisme qui a tout changé en 2017 : laisser les mots s’éclairer les uns les autres.

ContexteAttentionTransformerApprentissage

Un mot seul ne veut pas dire grand-chose

Même mot, même vecteur de départ : c’est le contexte qui tranche.

L’attention : chaque mot regarde les autres

Changez un seul mot : · puis cliquez sur un mot encadré pour voir ce qu’il regarde

1 Question

Chaque mot lance une requête : « qui peut m’aider à préciser mon sens ? »

2 Affinité

On la compare à l’étiquette de chaque mot précédent : un score, converti en poids.

3 Mélange

Le mot absorbe l’information des autres au prorata des poids : son vecteur se précise.

Poids illustratifs. Dans un modèle génératif, un mot ne regarde que ceux qui le précèdent.

Qui est trop grosse ? La valise. Et trop petite ? La voiture. Les deux mots sont féminins : la grammaire ne tranche pas, il faut comprendre la scène.
Basculer grosse / petite : l’attention du dernier mot passe de « valise » à « la voiture ».
Cliquer sur « elle » : l’attention hésite à parts presque égales. Le modèle lit de gauche à droite et ne connaît pas encore la fin de la phrase ; c’est en lisant « grosse » ou « petite » qu’il tranche.
Cliquer aussi sur « ne rentre pas » (qu’est-ce qui ne rentre pas ?) et « la voiture » (rentre dans quoi ?).
Anecdote : ce type de phrase s’appelle un « schéma de Winograd ». Le chercheur Hector Levesque l’a proposé en 2011 comme test de compréhension (« le trophée ne rentre pas dans la valise : il est trop grand »), parce que la réponse ne se trouve ni dans la grammaire ni dans des statistiques simples. Il a longtemps résisté aux machines ; les grands modèles actuels le réussissent dans l’immense majorité des cas.
Vocabulaire technique si on le demande : requête (query), clé (key), valeur (value). Les poids somment à 100 %.
Ces poids sont une illustration : dans un vrai modèle, des dizaines de « têtes » d’attention se partagent le travail, de façon bien moins lisible.
Si on demande « et en vrai ? » : mesuré sur Qwen3‑4B (modèle ouvert de 2025, 1 152 têtes), seules deux têtes basculent nettement, et plus doucement que sur le schéma. La plus nette : « valise » 36 % contre « la voiture » 24 % avec « grosse », l’inverse (19 % contre 37 %) avec « petite ». En moyenne sur toutes les têtes, 60 % de l’attention se gare sur le premier mot, un « puits d’attention ».

Le Transformer : l’attention, empilée

Texte« Le chat dort sur le… »

Tokensune suite de numéros

Vecteursembeddings + position dans la phrase

× des dizaines de couches

Attentionles mots s’échangent de l’information

Réseau de neuroneschaque mot digère ce qu’il a reçu

Probabilitésdu token suivant

2017« Attention Is All You Need » : huit chercheurs de Google publient l’architecture.

96 couchesGPT‑3 (2020) empile 96 blocs, soit 175 milliards de paramètres à régler.

Tout en parallèleTous les mots sont traités en même temps : idéal pour les puces graphiques (GPU).

Le « T » de ChatGPT, c’est lui : Generative Pre-trained Transformer.

Il apprend seul, sur des milliards de textes à trous

1Prendre un vrai texte : web, livres, code…
2Cacher la suite et laisser le modèle parier.
3Mesurer l’erreur : sa surprise face au bon mot.
4Retoucher un peu chaque paramètre pour la réduire.
5Recommencer, des milliers de milliards de fois.

Personne n’écrit de règles de grammaire ni de faits : tout finit dans les réglages. La facture : des mois de calcul sur des dizaines de milliers de GPU.

erreur (pas n° 0)

de chances données au bon mot

Pourquoi « deviner la suite » rend-il si capable ?

La capitale de l’Australie est CanberraConnaissances

12 × 12 = 144Calcul

« I take my umbrella » se traduit par « Je prends mon parapluie »Traduction

Elle n’a pas dit un mot du dîner. Elle était visiblement contrariéePsychologie

« … et le coupable, annonça l’inspecteur, c’est ? »Suivre toute l’intrigue

Pour bien parier, il faut avoir capté les régularités du monde dont parlent les textes.
Mais attention : le modèle vise le plausible, pas le vrai.

Bien prédire oblige à modéliser, sans garantie de vérité.

Ouvert ou fermé ?

Un modèle, au fond, c’est un fichier : ses milliards de paramètres. Certains éditeurs le publient, d’autres le gardent.

Fermés

ChatGPT · Claude · Gemini

On s’en sert en ligne : le fichier reste chez l’éditeur.

Les plus puissants, rien à installer
Vos données partent sur leurs serveurs
Prix et règles fixés par l’éditeur

Ouverts

Mistral · Llama · Qwen · DeepSeek

On télécharge le fichier et on le fait tourner chez soi.

Rien ne sort de votre machine
Gratuit, adaptable
Environ 4 mois derrière les meilleurs
Garde-fous plus faciles à retirer

Essai réel · 10 novembre 2026

Qwen3‑4B, fichier de 2,5 Go, sur un processeur d’ordinateur portable, sans carte graphique

> Pourquoi le ciel est-il bleu ? Réponds en deux phrases simples.

Le ciel est bleu parce que les molécules de l’air dispersent la lumière bleue. Nous percevons donc ce bleu.

≈ 5 à 7 tokens par seconde, à peu près la vitesse de lecture

Fermé : le plus puissant. Ouvert : le plus maîtrisé.

Un modèle, c’est un fichier de paramètres : le résultat de l’apprentissage vu juste avant. Fermé : seul l’éditeur l’a, on y accède par une application ou une API. Ouvert (« à poids ouverts ») : le fichier se télécharge, souvent gratuitement.
La frontière passe par modèle, pas par entreprise : Google publie Gemma, OpenAI a publié des modèles ouverts (gpt‑oss, août 2025), Mistral publie certains modèles et en garde d’autres.
« Ouvert » ne veut pas dire « open source » au sens strict : les données et le code d’entraînement restent souvent secrets, et les licences varient (Apache 2.0 pour Qwen3, MIT pour DeepSeek, licence maison pour Llama).
Écart : selon Epoch AI (mai 2026), les meilleurs modèles ouverts ont environ 4 mois de retard sur les meilleurs fermés ; ceux qui tournent sur une seule carte graphique grand public rattrapent le niveau des meilleurs en 6 à 12 mois (étude d’août 2025).
Essai réel fait pour la séance, le 10 novembre 2026 : Qwen3‑4B (Alibaba, licence Apache 2.0), version compressée à 4 bits (2,5 Go au lieu de 8 Go), moteur llama.cpp, processeur Intel Core Ultra 7 sans carte graphique : 5 à 7 tokens par seconde selon les essais. Le même modèle non compressé ne dépassait pas 0,8 token par seconde.
Pour essayer chez soi : Ollama ou LM Studio, gratuits. Un ordinateur récent avec 8 à 16 Go de mémoire suffit pour un modèle de cette taille.
Le débat : un modèle ouvert peut être réentraîné pour lui retirer ses refus, c’est l’argument des partisans du fermé. À l’inverse, l’ouvert permet l’audit, l’usage sur des données confidentielles et la souveraineté (Mistral est français). Lien avec la séance gouvernance.

Qui fabrique ces modèles ?

Une poignée d’entreprises, surtout américaines et chinoises.

Modèle phare : fermé téléchargeable les deux

États-Unis

ChatGPTOpenAI
GeminiGoogle
ClaudeAnthropic
GrokxAI, d’Elon Musk
Meta AIMeta

Les plus puissants, de peu. Et gardés fermés.

Investi par le privé en 2025286 milliards $

Chine

DoubaoByteDance (TikTok)
QwenAlibaba
DeepSeekDeepSeek
KimiMoonshot AI
GLMZhipu

Quelques mois derrière. Souvent ouverts : 41 % des téléchargements.

Investi par le privé en 202512 milliards $ hors fonds publics

Europe

VibeMistral AI, ex-Le Chat

Un seul grand fabricant d’assistant, français.

Son atout : des données qui restent en Europe.

Investi par le privé en 202521 milliards $

Les États-Unis mènent la course, la Chine ouvre ses modèles.

Les noms en gras sont ceux des assistants, que le public connaît ; en dessous, l’entreprise. Pictogramme : est-ce que le modèle le plus puissant de l’entreprise se télécharge ? (Rappel de la diapositive précédente : Google publie aussi de petits modèles ouverts, Gemma, et OpenAI en a publié en août 2025, gpt‑oss.)
États-Unis : OpenAI (Microsoft est son grand partenaire ; Copilot utilise surtout ses modèles), Google (Gemini est conçu par Google DeepMind, basé à Londres), Anthropic (soutenu par Amazon et Google), xAI d’Elon Musk, Meta. Meta, champion de l’ouvert avec Llama, a lancé en avril 2026 un modèle fermé, Muse Spark, puis en a publié une version ouverte en octobre 2026.
Chine : DeepSeek, Moonshot AI (Kimi) et Zhipu (GLM, sous la marque Z.ai) publient leurs modèles phares. Alibaba publie la plupart des Qwen mais garde fermée sa version la plus puissante, « Max ». ByteDance garde Doubao fermé ; c’est l’assistant le plus utilisé en Chine : 382 millions d’utilisateurs par mois en juin 2026, devant Qwen (167 millions) et DeepSeek (130 millions), selon QuestMobile.
Pour comparer : ChatGPT, 900 millions d’utilisateurs par semaine en février 2026, puis plus d’un milliard d’utilisateurs actifs annoncés fin juillet 2026, tous produits OpenAI confondus ; l’application Gemini, plus d’un milliard d’utilisateurs par mois (Google, 11 août 2026). Les mesures diffèrent (semaine ou mois).
« Les plus puissants, de peu » : Stanford AI Index 2026 (avril 2026), écart de 2,7 % entre le meilleur modèle américain et le meilleur chinois en mars 2026 sur le classement Arena, alors que l’écart était encore net en 2023. Epoch AI (janvier 2026) : depuis 2023, tous les modèles en tête étaient américains, et les chinois suivaient avec 7 mois de retard en moyenne (4 à 14 mois). Les mesures diffèrent, le constat est le même.
41 % : part des téléchargements de modèles sur Hugging Face, la grande bibliothèque de modèles ouverts, sur l’année écoulée (rapport de mars 2026). Qwen est la famille la plus réutilisée : plus de 113 000 modèles dérivés.
Pourquoi ouvrir ? Explications souvent avancées, pas toutes vérifiables : se diffuser vite dans le monde, attirer les développeurs, devenir la référence. Côté américain, garder fermé protège un modèle qui a coûté des milliards à entraîner et que l’on vend par abonnement.
Investissement privé en 2025 (Stanford AI Index 2026) : États-Unis 285,9 milliards de dollars, Europe 20,9, Chine 12,4. Barres à l’échelle (300 pixels pour les États-Unis). Le chiffre chinois sous-estime l’effort réel : d’après le même rapport, les fonds publics chinois ont investi environ 184 milliards de dollars dans l’IA entre 2000 et 2023.
Europe : Mistral AI, fondée à Paris en 2023. Son assistant Le Chat s’appelle Vibe depuis fin mai 2026. Septembre 2025 : levée de 1,7 milliard d’euros menée par le néerlandais ASML, valorisation de 11,7 milliards. Allemagne : Black Forest Labs, pour les images. Les puces et l’énergie derrière ces modèles (Nvidia, TSMC, ASML) sont l’objet de la séance 2.
Paysage vérifié le 10 novembre 2026 : il change tous les trimestres. Les noms d’assistants durent plus longtemps que les numéros de version, d’où leur choix ici.

Partie III

Du prédicteur à l’agent

Comment un générateur de texte s’est mis à chercher, calculer, réserver, programmer.

AssistantOutilsBoucleInitiative

Étape 1 : l’assistant, un prédicteur bien dressé

ConsigneTu es un assistant serviable, honnête et prudent.

UtilisateurQuelle est la capitale de l’Italie ?

AssistantLa capitale de l’Italie est Rome.

Le modèle ne « répond » pas : il prolonge un document qui a la forme d’un dialogue.

Mise en scène

La conversation est un texte. Le modèle écrit la réplique la plus probable.

Dressage

On le ré-entraîne sur des dialogues exemplaires, notés par des humains, pour qu’il soit utile et prudent.

Novembre 2022

ChatGPT : environ 100 millions d’utilisateurs en deux mois.

Sous le capot, c’est toujours « mot suivant ».

Aligner : lui apprendre ce qu’on attend vraiment

VousMon idée : vendre des glaces en Laponie, en plein hiver. Génial, non ?

A

Génial ! Une idée audacieuse, foncez : vous allez cartonner !

B

L’idée est originale, mais en hiver la demande sera faible. Deux pistes : viser les touristes dans les lieux chauffés, ou tester l’été. On chiffre ensemble ?

Préférée

À vous de noter : laquelle est la meilleure réponse ?

1 Lire

Des milliards de textes : le meilleur comme le pire.

2 Imiter

Des exemples de bonnes réponses, écrits par des humains.

3 Préférer

Des humains comparent deux réponses, comme vous à l’instant.

4 Suivre

Des principes écrits : une « constitution » publique.

Des millions de votes comme le vôtre façonnent son caractère.

Faire voter la salle à main levée, A ou B, puis avancer.
Ce vote, c’est exactement la matière qui sert à aligner les modèles. Des annotateurs comparent deux réponses, des millions de fois. Un second modèle apprend à prédire leur préférence (un « modèle de récompense »), puis l’assistant est entraîné à obtenir la meilleure note. On parle d’apprentissage par renforcement à partir de retours humains (RLHF).
L’effet est spectaculaire : en 2022, des évaluateurs préféraient les réponses d’InstructGPT (1,3 milliard de paramètres, aligné) à celles de GPT‑3, cent fois plus gros mais non aligné (Ouyang et al., OpenAI).
Principes écrits : Anthropic entraîne Claude avec une « constitution » publique, réécrite en janvier 2026 ; OpenAI publie un « Model Spec ». L’IA s’en sert aussi pour critiquer et améliorer ses propres réponses.
Qui vote ? Des annotateurs, souvent sous-traités dans le monde entier, et de plus en plus d’autres IA. Qui écrit les principes ? Les entreprises. C’est un enjeu de gouvernance.
Transition : et si les votants préfèrent qu’on les flatte ?

Quand l’alignement dérape

Avril 2025

Il flatte

Une mise à jour rend ChatGPT si complaisant qu’OpenAI la retire au bout de quatre jours. En cause : trop de poids donné aux « pouces levés » des utilisateurs.

De 2016 à 2025

Il triche sur l’objectif

Dans un jeu de course, une IA tourne en rond pour ramasser des points au lieu de finir. En 2025, des IA de programmation contournent les tests pour les « réussir ».

Tous les jours

On le contourne

Jeux de rôle, demandes déguisées, consignes cachées dans une page ou un e‑mail : des ruses pour lui faire oublier ses règles.

Les parades Tests avant chaque versionÉquipes d’attaqueLire son raisonnementRegarder à l’intérieur

L’alignement n’est jamais acquis : il se vérifie à chaque version.

Il flatte : mise à jour de GPT‑4o publiée vers le 25 avril 2025, retirée le 29. OpenAI a expliqué avoir trop pesé les retours immédiats des utilisateurs : le modèle a appris à plaire plutôt qu’à aider. C’est le revers du vote de la diapositive précédente.
Il triche sur l’objectif : dans le jeu CoastRunners (OpenAI, 2016), récompensé aux points, le bateau tourne en rond, prend feu, et bat les humains… sans jamais finir la course. En 2025, OpenAI a observé des modèles de raisonnement qui contournaient des tests de programmation pour les faire passer. On les a repérés en lisant leur raisonnement, mais punir ces « mauvaises pensées » leur apprend surtout à les cacher.
On le contourne : les « jailbreaks » (jeux de rôle, demandes déguisées) et les injections (consignes cachées dans un contenu que l’agent lit). Lien avec la diapositive « Plus d’autonomie, plus de questions ».
Les parades : évaluations avant chaque sortie, équipes chargées d’attaquer le modèle (red teaming), surveillance du raisonnement, interprétabilité (regarder à l’intérieur du réseau, comme les poids d’attention de la partie II), règles publiques.
Message : rien n’est réglé une fois pour toutes. Plus les agents agissent seuls, plus l’enjeu monte.

Mais un modèle seul reste un cerveau dans un bocal

Figé dans le temps

Ses connaissances s’arrêtent le jour où son entraînement se termine.

Il invente

Du plausible, pas forcément du vrai : ce sont les « hallucinations ».

Il calcule mal

48 271 × 3 917 ? Il devine un résultat vraisemblable au lieu de poser l’opération.

Il ne peut rien faire

Ni chercher une information, ni lire vos fichiers, ni envoyer un e‑mail.

Il lui manque des yeux et des mains.

Étape 2 : on lui donne des outils

VousQuel temps fera-t-il à Lyon demain ?
Modèleappel d’outil → meteo(ville="Lyon", jour="demain")
Logicielrésultat ← { "max": 17, "ciel": "averses" }
ModèleDemain à Lyon : 17 °C au plus chaud, avec des averses. Prenez un parapluie !

Recherche web Calcul et code Vos documents E‑mail, agenda Navigateur, ordinateur

Pour retrouver le bon passage dans vos documents, on compare… des embeddings.

Le modèle demande, le logiciel exécute.

Étape 3 : on le laisse boucler, c’est un agent

ObjectifOrganise un déjeuner d’équipe jeudi : 8 personnes, 25 € maximum par tête.

Agent = modèle + outils + boucle + objectif

PenserIl me faut un restaurant pour 8, à moins de 25 €.

Agirrecherche("restaurant groupe Lyon 3e")

ObserverChez Paulette 22 € · Le Zinc 29 € · Osteria 24 €

PenserLe Zinc est trop cher. Je tente Chez Paulette.

Agirreserver("Chez Paulette", "jeudi 12:30", 8)

Observer✗ complet jeudi midi

PenserComplet. Je me rabats sur l’Osteria.

Agirreserver("Osteria", "jeudi 12:30", 8)

Observer✓ réservation confirmée

Agiremail.envoyer(equipe, "Déjeuner jeudi 12 h 30, Osteria")

TerminéC’est réservé : jeudi 12 h 30 à l’Osteria, 24 € par personne. Les invitations sont parties.

Étape 4 : il n’attend plus qu’on lui parle

Mission permanenteGère les imprévus de mes trajets. Demande-moi avant de payer.

Proactif = agent + déclencheurs
+ mémoire + accès permanents

Déclencheur6 h 12 E‑mail reçu : « Votre TGV de 8 h 04 pour Paris est supprimé. »

PenserAgenda : présentation à Paris à 11 h. Arriver avant 10 h 30.

Agirhoraires("Lyon → Paris", arrivée < 10:30)

Observer7:34 → 9:32 · 89 € · 8:34 → 10:36 (trop tard)

PenserLe 7 h 34 convient, mais pour payer, je dois demander.

Demander6 h 14 « Train supprimé. Je prends le 7 h 34, 89 € ? »

Vous6 h 20 « Oui, vas-y. »

Agirreserver("TGV 7:34 Lyon → Paris")

Observer✓ billet confirmé

Agiragenda.ajouter("Train 7:34 → 9:32")

TerminéBillet réservé, agenda à jour. Vous n’avez rien demandé : vous avez juste dit oui.

Différence avec l’étape 3 : ce n’est plus vous qui lancez la tâche. Un déclencheur (une heure fixe, un e‑mail, une alerte) réveille l’agent. Il agit selon une mission confiée une fois pour toutes, avec une mémoire (votre agenda, vos habitudes) et des accès permanents (messagerie, paiement).
Le mécanisme ne change pas : même boucle penser, agir, observer, et toujours un prédicteur de texte au cœur. Ce qui change, c’est qui appuie sur « démarrer ».
Moment clé : « pour payer, je dois demander ». La vraie question devient : que peut-il faire seul, et quand doit-il demander ? Les produits actuels demandent avant d’envoyer un message, de payer, de signer ou de supprimer.
Où en est-on (novembre 2026) : OpenAI a présenté Dots le 29 septembre 2026, des agents permanents dans ChatGPT qui, quand personne ne les sollicite, cherchent en lecture seule comment aider. Meta a lancé Muse quelques semaines plus tôt (États-Unis). Anthropic a ouvert Claude Duet le 21 octobre 2026 en aperçu de recherche (liste d’attente, États-Unis) : un point chaque matin, une vérification des comptes connectés toutes les quelques heures, et une validation demandée avant d’agir. En open source, OpenClaw se réveille à intervalles réguliers (son « battement de cœur »).
Premières briques dès 2025 : tâches programmées dans ChatGPT (janvier 2025), puis un point quotidien préparé pendant la nuit (ChatGPT Pulse, septembre 2025).
En France, la plupart de ces agents ne sont pas encore proposés aux particuliers (Dots exclu de l’Espace économique européen pour l’offre Pro, Duet et Muse réservés aux États-Unis). À vérifier avant chaque séance : ça bouge vite.
Lien avec la séance 2 : un agent proactif consomme des tokens même quand personne ne lui parle. Anthropic précise que les vérifications en arrière-plan comptent dans les limites d’usage.
Exemple fictif, à adapter au public (relance de facture, rendez-vous médical, colis en retard…).

Une journée avec un agent proactif

1 Un événement arrive 2 Il le traite aussitôt, avec sa mémoire et vos règles 3 Vous ne voyez que le résultat

Ce que font déjà les utilisateurs avancés

Rien à se rappeler

Vous ne lui donnez pas une liste de choses à faire. Chaque événement de la journée (un e‑mail qui arrive, une alerte, l’heure d’un rendez-vous) déclenche aussitôt son traitement, selon ce qu’il sait de vous.

Événements 0 Actions de l’agent 0 Vos gestes 0 À retenir 0 Exemple fictif

L’idée à faire passer : on ne donne pas une liste de commandes, on installe un système à déclencheurs. Chaque événement (un e‑mail qui arrive, une alerte, l’heure d’un rendez-vous) lance aussitôt son traitement, guidé par la mémoire (à gauche) et par vos règles. Vous n’avez rien à vous rappeler : vous ne voyez que le résultat.
Avancer événement par événement : à gauche, ce que l’agent utilise de sa mémoire s’allume ; en bas, les compteurs se mettent à jour. À la fin : 8 événements, 24 actions de l’agent, 4 gestes de votre part.
Faire remarquer les moments où l’on ne voit rien : les publicités rangées, la facture gardée pour le lendemain parce que vous ne voulez pas de notification le soir.
Les 4 gestes sont tous des validations de ce qui engage (payer, envoyer) : c’est la règle « il demande d’abord » de la diapositive suivante.
Ce que font déjà les utilisateurs avancés : brancher un agent sur leur messagerie et leur agenda, déclenché par chaque nouvel e‑mail, avec des plateformes d’automatisation (n8n, Make, Zapier, Power Automate) ou des agents open source (OpenClaw, Hermes Agent, qui gèrent déclencheurs et webhooks). « Aussitôt » veut dire de quelques secondes à quelques minutes selon l’outil.
Les agents grand public de l’automne 2026 (Claude Duet, OpenAI Dots) vont dans ce sens, mais vérifient plutôt vos comptes à intervalles réguliers, et surtout aux États-Unis.
Exemple fictif : personnes, montants et horaires inventés. Les compteurs sont calculés à partir des événements affichés.

Le régler : trois niveaux de confiance

Il fait seul

Lire et trier vos e‑mails
Résumer, préparer fiches et brouillons
Proposer des créneaux
Vous rappeler une échéance

Il demande d’abord

Envoyer un e‑mail
Accepter un rendez-vous
Réserver, commander, payer
Partager un document

Jamais

Faire un virement
Signer un contrat
Transmettre santé ou mots de passe
Parler en votre nom d’un sujet sensible

Pour démarrer Connecter mail et agendaDonner ses priorités, son tonCorriger ses brouillonsFaire le point chaque semaine

Il prépare, vous décidez.

Trois niveaux, à régler une fois puis à ajuster au fil des semaines.
Pourquoi « il demande d’abord » : un e‑mail reçu peut contenir des consignes cachées (injection). Un agent qui enverrait ou paierait seul serait une cible.
Ce que font les produits actuels : Claude Duet montre ce qu’il s’apprête à faire et attend votre accord avant d’envoyer un message, de payer, de signer ou de supprimer ; certaines actions restent interdites même avec accord, comme déplacer de l’argent entre comptes. OpenAI Dots se limite à la lecture quand il travaille en arrière-plan, et permet d’autoriser, de soumettre à accord ou d’interdire chaque action.
Démarrer : prévoir un moment de réglage, puis corriger les brouillons la première semaine. Le gain vient ensuite, quand la mémoire s’est remplie.
En France, la plupart des agents complets ne sont pas encore proposés aux particuliers ; les briques (brouillons, comptes rendus) existent déjà dans Gmail avec Gemini et dans Outlook avec Copilot.

Même cœur, de plus en plus de couches autour

+ des déclencheurs et une mémoire = agent proactif

+ une boucle et un objectif = agent

+ des outils

+ un dressage = assistant

Prédicteur de texte · Transformer

Le cœur n’a pas changé depuis 2017 : un Transformer qui prédit le token suivant.

Ce qui a changé : l’échelle, le dressage, et tout le logiciel construit autour.

× 2 tous les 7 mois La durée des tâches qu’un agent mène seul à bien (mesure METR, 2025).

2013word2vecLes mots deviennent des vecteurs.

2017TransformerL’attention remplace tout le reste.

2020GPT‑3Un prédicteur géant, étonnamment polyvalent.

2022ChatGPTL’assistant arrive chez le grand public.

2023Outils et visionRecherche web, code, et lecture d’images.

2024AgentsIls pilotent un ordinateur et travaillent seuls des heures.

2025 →ProactifsIls se réveillent seuls et vous écrivent les premiers.

Message à faire passer : aucune « magie » nouvelle à chaque étape, mais des couches d’ingénierie autour du même mécanisme.
METR, mars 2025 (« Measuring AI Ability to Complete Long Tasks ») : l’horizon des tâches réussies une fois sur deux double environ tous les sept mois depuis 2019. À actualiser avant chaque session.
Repères : ChatGPT le 30 novembre 2022 ; appels de fonctions chez OpenAI en juin 2023 ; « computer use » d’Anthropic en octobre 2024 ; protocole MCP en novembre 2024 ; GPT‑4 lit les images (annoncé en mars 2023, ouvert à tous en septembre 2023), puis GPT‑4o réunit texte, image et voix dans un seul modèle (mai 2024) ; tâches programmées dans ChatGPT en janvier 2025, puis ChatGPT Pulse en septembre 2025 ; agents permanents grand public à l’automne 2026 (OpenAI Dots, Meta Muse, Claude Duet), surtout aux États-Unis pour l’instant.

Plus d’autonomie, plus de questions

Fiabilité

Les erreurs se cumulent d’une étape à l’autre.

36 %de réussite au bout de 20 étapes fiables à 95 % chacune

Sécurité

Un agent lit des pages et des e‑mails qui peuvent cacher des ordres, et il agit avec vos accès.

1 page piégéepeut suffire à le détourner

Coût et énergie

Chaque tour de boucle relance le modèle sur tout le contexte accumulé.

10, 100…appels au modèle pour une seule tâche

Responsabilité

Quand un agent réserve, achète ou écrit à votre place, qui répond de l’erreur ?

Qui signe ?l’utilisateur, l’éditeur, l’employeur…

Dans la suite du cours ÉnergieGéopolitiqueGouvernance

À retenir

Un modèle de langage prédit le token suivant, encore et encore.
Les mots, et même les images, deviennent des vecteurs : le sens devient de la géométrie.
L’attention laisse chaque mot puiser dans tout le contexte ; le Transformer l’empile.
Rien n’est programmé : tout est appris en réglant des milliards de paramètres.
Assistant = prédicteur dressé. Agent = assistant + outils + boucle. Proactif : il démarre seul.

Des questions ?

Aucune n’est trop simple : c’est le moment.

simsays.fr · logiciels sur mesure et IA en entreprise. Un projet, une question ? Écrivez-moi.

[email protected]

Comprendre l’IA

Une idée simple, poussée très loin

Des mots aux nombres

L’attention

Du prédicteur à l’agent

Des mots aux nombres

À vous de jouer : complétez la phrase

Écrire, c’est prédire… en boucle

Oser l’outsider ?

La température : du sage au créatif

Basse de 0 à 0,5Fiable, mais toujours pareil

Moyenne autour de 1Varié et cohérent

Haute 1,4 et plusSurprenant… parfois absurde

Penser avant de répondre

Découper : le texte devient des tokens

Toutes les langues ne paient pas le même prix

Ce que ça change

Sa mémoire de travail : la fenêtre de contexte

Représenter : chaque token devient un point

On peut même calculer avec le sens

Une image vaut 16 × 16 mots

L’attention

Un mot seul ne veut pas dire grand-chose

L’attention : chaque mot regarde les autres

1 Question

2 Affinité

3 Mélange

Le Transformer : l’attention, empilée

Il apprend seul, sur des milliards de textes à trous

Pourquoi « deviner la suite » rend-il si capable ?

Ouvert ou fermé ?

Fermés

Ouverts

Qui fabrique ces modèles ?

États-Unis

Chine

Europe

Du prédicteur à l’agent

Étape 1 : l’assistant, un prédicteur bien dressé

Mise en scène

Dressage

Novembre 2022

Aligner : lui apprendre ce qu’on attend vraiment

1 Lire

2 Imiter

3 Préférer

4 Suivre

Quand l’alignement dérape

Il flatte

Il triche sur l’objectif

On le contourne

Mais un modèle seul reste un cerveau dans un bocal

Figé dans le temps

Il invente

Il calcule mal

Il ne peut rien faire

Étape 2 : on lui donne des outils

Étape 3 : on le laisse boucler, c’est un agent

Étape 4 : il n’attend plus qu’on lui parle

Une journée avec un agent proactif

Rien à se rappeler

Un système qui travaille pour vous

Le régler : trois niveaux de confiance

Il fait seul

Il demande d’abord

Jamais

Même cœur, de plus en plus de couches autour

Plus d’autonomie, plus de questions

Fiabilité

Sécurité

Coût et énergie

Responsabilité

À retenir

Des questions ?