Glossaire encyclopédique · France
GPU
Processeur graphique massivement parallèle largement utilisé pour entraîner et exécuter des modèles d’intelligence artificielle.
Définition
Processeur graphique massivement parallèle largement utilisé pour entraîner et exécuter des modèles d’intelligence artificielle.
Le coût d’un projet d’IA comprend donc aussi calcul, énergie, stockage, réseau, exploitation et sécurité, pas seulement une licence logicielle.
Pourquoi cette notion compte
Les GPU sont des processeurs adaptés aux calculs massivement parallèles et largement utilisés pour l’entraînement et l’inférence des modèles d’IA. Leur coût influence fortement l’économie d’une plateforme publique d’IA.
Exemple concret
Une plateforme d’inférence doit dimensionner ses GPU selon le nombre de requêtes, la taille des modèles et les délais de réponse plutôt qu’en fonction du seul nombre d’utilisateurs inscrits.
Confusion fréquente
Croire qu’un GPU plus puissant réduit toujours le coût total. L’énergie, l’utilisation réelle et le taux d’occupation comptent autant que la puissance nominale.