C'est quoi un LLM ? L'IA générative expliquée simplement

Derrière ChatGPT, Claude ou Gemini, il y a à chaque fois la même mécanique : un LLM, pour large language model, ou grand modèle de langage en français. Trois lettres qu'on croise partout sans qu'on vous explique jamais ce qu'elles recouvrent. Voilà l'essentiel, sans jargon.

Un LLM, c'est quoi au juste ?

Un LLM est un programme entraîné sur d'immenses quantités de texte pour faire une seule chose : prédire la suite la plus probable d'un texte donné. Vous lui écrivez une question, il génère la réponse mot après mot, en choisissant à chaque étape le mot le plus plausible compte tenu de tout ce qui précède. C'est cette capacité de prédiction, répétée des milliers de fois par réponse, qui produit l'illusion d'une conversation.

Le terme « grand » n'est pas décoratif : ces modèles comptent des centaines de milliards de paramètres, les réglages internes ajustés pendant l'entraînement. Et l'entraînement lui-même consiste à leur faire lire une part énorme du web, des livres et du code disponible, pour qu'ils absorbent les régularités du langage.

Comment un LLM devine-t-il le mot suivant ?

Le texte que vous tapez est d'abord découpé en tokens, des fragments de mots (le mot « incroyable » peut devenir « in », « croy », « able »). Le modèle transforme ces tokens en nombres, les fait passer dans un réseau de neurones, et ressort une liste de candidats pour le token suivant, chacun avec une probabilité. Il en choisit un, l'ajoute au texte, et recommence.

L'architecture qui rend ça possible s'appelle le transformer, décrite par des chercheurs de Google en 2017. Sa force : évaluer d'un coup les relations entre tous les mots d'un texte, même éloignés, là où les approches précédentes lisaient mot à mot. C'est elle qui permet à un LLM de comprendre que dans « la clé est sur la porte, prends-la », le « la » final désigne la clé.

Pourquoi un LLM se trompe-t-il parfois ?

Parce qu'il ne vérifie rien : il prédit. Quand la bonne réponse est fréquente dans ses données d'entraînement, la prédiction tombe juste. Quand elle est rare, ambiguë ou absente, le modèle produit quand même une suite plausible, avec le même aplomb. C'est ce qu'on appelle une hallucination : une réponse bien formulée, cohérente en apparence, et fausse.

D'où deux réflexes simples : demandez les sources quand l'enjeu compte, et croisez avec une recherche classique pour les faits précis (dates, chiffres, références légales). Les éditeurs branchent d'ailleurs de plus en plus leurs modèles sur la recherche web pour limiter le problème.

ChatGPT, Claude, Gemini : tous des LLM ?

Oui. ChatGPT repose sur les modèles GPT d'OpenAI, Claude sur les modèles d'Anthropic, Gemini sur ceux de Google : trois familles de LLM avec chacune ses réglages, ses données et ses points forts. C'est pour ça que la même question posée aux trois donne des réponses différentes, et que des chercheurs s'amusent à mesurer l'intelligence émotionnelle des LLM pour les départager autrement que sur les maths.

Et si vous vous demandez lequel mérite votre abonnement, on a comparé les trois en détail dans notre comparatif ChatGPT, Claude ou Gemini.

FAQ

LLM et IA générative, c'est la même chose ?

Pas tout à fait : l'IA générative désigne toute IA qui crée du contenu (texte, images, musique). Le LLM est la variante spécialisée dans le langage ; les générateurs d'images comme Midjourney reposent sur d'autres architectures.

Un LLM comprend-il vraiment ce qu'il dit ?

Il n'a ni conscience ni intention : il manipule des probabilités. Mais ces probabilités capturent tellement de structure du langage que le résultat est souvent indistinguable d'une réponse réfléchie.

Peut-on faire tourner un LLM sur son propre ordinateur ?

Oui, des modèles ouverts et allégés tournent sur un PC récent avec une bonne carte graphique. Les gros modèles commerciaux, eux, exigent des serveurs spécialisés.

Sources

• IBM : qu'est-ce qu'un LLM ? : définition de référence et principes d'entraînement.
• Cloudflare : what is a large language model? : explication accessible du fonctionnement et des limites.