C’est quoi, un LLM ?

Léa et le clavier qui devine la suite

C’est quoi, un LLM ? Prenez Léa. Elle tape un texto : « Je suis en… ». Son clavier propose : retard, route, réunion. Il a deviné la suite. Vous utilisez déjà un petit modèle de langage. Un LLM, c’est la même idée, en géant :

Un LLM : prédire le mot suivant, en géant

on lui donne un début de texte, il calcule le mot le plus probable. Puis le suivant, et le suivant, jusqu’à la réponse entière.

L comme Large : une montagne de textes

L, comme Large : il a lu une quantité de textes gigantesque. Livres, articles, pages web, conversations : plus qu’un humain en mille vies.

L comme Langage : vocabulaire, grammaire, style

L, comme Langage : il y a repéré des régularités — vocabulaire, grammaire, style. Après « le chat dort sur le », un nom, pas un verbe.

M comme Modèle : des milliards de réglages

M, comme Modèle : tout cela tient dans une machine à prédire, réglée par des milliards de petites molettes. À l’entraînement, chaque erreur les ajuste, un tout petit peu.

Il ne sait pas, il prédit : l’hallucination

Résultat : il répond, résume, traduit, rédige. Mais il ne sait pas : il prédit. Le mot le plus probable n’est pas toujours le mot vrai. Se tromper avec assurance : c’est l’hallucination.

À retenir

Retenez : un LLM prédit du langage à partir du contexte. À vous de lui donner le bon contexte, et de vérifier.