Lexique de l’IA · Les fondamentaux
C’est quoi, une fenêtre de contexte ?
En bref : La fenêtre de contexte est la quantité d’informations qu’un modèle peut traiter pour répondre, mesurée en tokens. Elle contient vos messages, ses anciennes réponses, les documents et les images, et quand la limite est atteinte, des échanges sont écartés ou résumés, ou la demande est refusée. Une fenêtre plus grande ne garantit pas que chaque détail soit bien exploité.
La réponse en dessin, en 1 min 33
Dans cet épisode
Élise prépare son séminaire avec une IA. Budget annoncé : 3 000 €. Dix brochures et beaucoup d’échanges plus tard, l’IA lui propose un château à 5 000 € ! Que s’est-il passé ? Le budget est sorti de la fenêtre de contexte.
La fenêtre de contexte, c’est la quantité d’informations que le modèle peut traiter pour répondre. Dans cet épisode : les tokens, l’unité qui la mesure (messages, anciennes réponses, documents, images) ; ce qui se passe quand la limite est atteinte (échanges écartés, résumés, ou demande refusée) ; pourquoi une fenêtre plus grande — certaines dépassent le million de tokens — ne garantit pas de mieux exploiter chaque détail ; et le bon réflexe qui permet à Élise de respecter, cette fois, son budget de 3 000 €.
Les chapitres
Lire la transcription
Élise prépare son séminaire avec une IA
C’est quoi, une fenêtre de contexte ? Élise prépare son séminaire avec une IA. Budget annoncé : 3 000 euros. Dix brochures et beaucoup d’échanges plus tard, l’IA propose un château à 5 000 euros ! Que s’est-il passé ?
Définition : la fenêtre de contexte
Ici, le budget est sorti de la fenêtre de contexte : la quantité d’informations que le modèle peut traiter pour répondre. Elle se mesure en tokens, petits morceaux de texte.
Les tokens, unité de mesure
Messages, anciennes réponses, documents et images occupent de la place. La nouvelle réponse aussi.
Limite atteinte : écarté, résumé ou refusé
Quand la limite est atteinte, selon l’outil, les anciens échanges peuvent être écartés ou résumés. Parfois, la demande est simplement refusée.
Une taille qui varie selon les modèles
La taille de cette fenêtre varie selon les modèles : certains dépassent 1 million de tokens. Mais une grande fenêtre ne garantit pas de bien exploiter chaque détail. Le bon réflexe :
Le bon réflexe, et Élise respecte son budget
rappeler les consignes essentielles. Et pour une longue tâche, repartir avec un résumé à jour. Élise répète : 3 000 euros maximum. Cette fois, l’IA respecte le budget. Retenez :
Ce qu’il faut retenir
la fenêtre de contexte, c’est ce que le modèle peut traiter pour répondre, à cet instant. Elle n’est ni toute la conversation, ni une mémoire infinie.
Voir aussi
D’autres mots en vidéo : Les fondamentaux
-
-
C’est quoi, le machine learning ?
1 min 36
-
C’est quoi, l’IA générative ?
1 min 42
-
C’est quoi, un LLM ?
1 min 39
-
C’est quoi, un token ?
1 min 34
-
C’est quoi, un embedding ?
1 min 38
Un mot vous manque ?
Les prochaines vidéos partent des questions qu’on me pose. Dites-moi lequel vous bloque, je l’ajoute.