Lexique de l’IA · Les outils et les technologies

C’est quoi, un GPU ?

En bref : Un GPU, ou processeur graphique, est une puce spécialisée dans les calculs en parallèle, née pour calculer les images des jeux vidéo. Là où le CPU est un chef polyvalent, le GPU est une brigade de commis, idéale pour les réseaux de neurones qui multiplient et additionnent énormément de nombres. Sa mémoire vidéo limite la taille des modèles ; pour une IA en ligne, les calculs se font à distance.

La réponse en dessin, en 1 min 38

Dans cet épisode

Théo joue à un jeu vidéo : sa carte graphique calcule les images, soixante fois par seconde. De nombreuses IA utilisent des puces de la même famille.

GPU signifie Graphics Processing Unit, ou processeur graphique. Sa spécialité : effectuer des calculs en parallèle. Dans cet épisode : la cuisine du CPU et du GPU — le CPU, un chef polyvalent, quelques cœurs puissants adaptés aux tâches variées ; le GPU, une brigade de commis, un grand nombre d’unités de calcul travaillant en parallèle. Puis pourquoi l’IA en a besoin : les réseaux de neurones multiplient et additionnent énormément de nombres, et l’entraînement des plus grandes IA mobilise des milliers de GPU. Ensuite la mémoire vidéo, la limite matérielle : un petit modèle peut tenir sur une carte de jeu, un très grand doit parfois être réparti sur plusieurs GPU. Enfin le revers : certains GPU coûtent cher et consomment plusieurs centaines de watts — mais pour utiliser une IA en ligne, les calculs se font à distance.

Trois mots à retenir : parallélisme, la force du GPU ; calculs, le besoin de l’IA ; mémoire, la limite matérielle.

Les chapitres

  1. 0:00 Théo joue : sa carte graphique calcule les images
  2. 0:18 GPU, le processeur graphique des calculs en parallèle
  3. 0:29 Le chef et la brigade : CPU et GPU
  4. 0:45 Pourquoi l’IA a besoin de GPU
  5. 0:59 La mémoire, la limite matérielle
  6. 1:09 Le revers : coût et énergie
  7. 1:20 Une petite IA sur la carte de Théo ? Ce qu’il faut retenir
Lire la transcription

Théo joue : sa carte graphique calcule les images

C’est quoi, un GPU ? Théo joue à un jeu vidéo. Sa carte graphique calcule les images, soixante fois par seconde. De nombreuses IA utilisent des puces de la même famille.

GPU, le processeur graphique des calculs en parallèle

GPU signifie Graphics Processing Unit, ou processeur graphique. Sa spécialité : effectuer des calculs en parallèle.

Le chef et la brigade : CPU et GPU

Imaginez une cuisine. Le CPU, processeur central, est un chef polyvalent. Le GPU, une brigade de commis. Pour une recette compliquée, le chef ; pour éplucher mille pommes de terre, la brigade.

Pourquoi l’IA a besoin de GPU

Les réseaux de neurones multiplient et additionnent énormément de nombres. Le GPU effectue beaucoup de ces calculs simultanément. Pour entraîner les plus grandes IA, on mobilise des milliers de GPU.

La mémoire, la limite matérielle

La mémoire compte aussi : un petit modèle peut tenir sur la carte de Théo. Un très grand doit parfois être réparti sur plusieurs GPU.

Le revers : coût et énergie

Le revers : certains GPU coûtent cher et consomment plusieurs centaines de watts. Mais pour utiliser une IA en ligne, les calculs se font à distance.

Une petite IA sur la carte de Théo ? Ce qu’il faut retenir

Ma carte pourrait donc faire tourner une petite IA ? Oui, si elle a assez de mémoire ! Retenez : le GPU, c’est la brigade des calculs parallèles.

Voir aussi

D’autres mots en vidéo : Les outils et les technologies

Tout le lexique de l’IA

Un mot vous manque ?

Les prochaines vidéos partent des questions qu’on me pose. Dites-moi lequel vous bloque, je l’ajoute.