Glossaire encyclopédique · France
data poisoning
Attaque ou altération visant les données utilisées pour entraîner, ajuster ou alimenter un système afin d’en dégrader le comportement ou d’y introduire un biais volontaire.
Définition
L’empoisonnement peut viser un modèle appris sur un jeu de données, mais aussi certains systèmes qui réutilisent des documents externes sans contrôle suffisant. Les défenses passent par la provenance des données, les contrôles d’intégrité, la séparation des sources et les tests de comportement.
Pourquoi cette notion compte
Pour une IA publique, ce risque rappelle qu’une donnée apparemment documentaire peut devenir une surface d’attaque si elle influence directement les réponses du système.
Exemple concret
Ajouter discrètement des exemples malveillants dans un jeu d’entraînement peut pousser un modèle à favoriser une sortie particulière dans des situations ciblées.
Confusion fréquente
Data poisoning ne désigne pas une simple donnée de mauvaise qualité : il implique généralement une logique d’altération ou de contamination susceptible de modifier le comportement du système.