Glossaire encyclopédique · France
traçabilité algorithmique
Capacité à reconstituer les principales étapes d’un traitement algorithmique : version du système, données d’entrée pertinentes, paramètres, sortie produite, intervention humaine et événements de contrôle.
Définition
La traçabilité sert à auditer un incident, expliquer une décision assistée et comparer les performances dans le temps. Elle doit être conçue sans enregistrer inutilement des données sensibles et avec des durées de conservation proportionnées. Pour une IA générative, cela peut inclure modèle, prompt, sources récupérées, réponse et validation humaine.
Pourquoi cette notion compte
Dans les décisions publiques défavorables, elle facilite le contrôle sans faire croire qu’un journal technique suffit à rendre une décision juridiquement explicable.
Exemple concret
Si un agent modifie une recommandation d’IA, le système peut conserver la version du modèle et l’état de validation afin d’identifier ultérieurement l’origine d’une erreur.
Confusion fréquente
Traçabilité et explicabilité ne sont pas synonymes : retracer ce qui s’est passé ne garantit pas à lui seul que la logique du modèle soit intelligible.