Glossaire encyclopédique · France
red team
Équipe ou exercice chargé de se comporter comme un adversaire afin de tester concrètement la résistance d’un système, d’une organisation ou d’un modèle face à des attaques réalistes.
Définition
Dans la cybersécurité, une red team tente de contourner les défenses selon un scénario autorisé. Pour l’IA, le principe peut être adapté à la recherche de contournements, fuites d’informations, réponses dangereuses ou manipulations. L’exercice doit être cadré pour ne pas créer lui-même un risque de production.
Pourquoi cette notion compte
Pour une IA publique, le red teaming complète les tests fonctionnels ordinaires en cherchant volontairement ce qui casse ou ce qui peut être détourné.
Exemple concret
Un système qui répond correctement à 1 000 demandes normales peut échouer face à une instruction conçue pour contourner ses garde-fous ; la red team recherche précisément ces cas.
Confusion fréquente
Une red team n’est pas un audit de conformité complet : elle teste une capacité de résistance dans un périmètre et un temps déterminés.