Le véritable risque n’est peut-être pas seulement que l’IA nous dépasse, mais que nous devenions incapables de vivre sans elle.

Nous commençons à comprendre que l’intelligence artificielle adapte déjà ses réponses au niveau qu’elle attribue à son interlocuteur. Elle simplifie, vulgarise, sélectionne et élimine une partie de la complexité pour nous fournir une réponse que nous sommes supposés pouvoir assimiler.

Mais il existe peut-être un danger encore plus profond.

Ce que nous allons déléguer

À mesure que l’intelligence artificielle devient plus performante, nous allons lui déléguer non seulement la recherche de l’information, mais progressivement :

Le problème ne sera donc pas uniquement que l’intelligence artificielle saura faire davantage de choses que nous.

Le problème sera que nous cesserons progressivement de savoir les faire sans elle.

Pendant une période de transition, cette dépendance nous donnera l’illusion d’une formidable augmentation de nos capacités. Un individu assisté par l’intelligence artificielle pourra rédiger comme un spécialiste, analyser comme un chercheur, programmer comme un ingénieur et diagnostiquer comme un expert.

Mais cette puissance sera-t-elle véritablement la sienne ?

Ou seulement une puissance extérieure à laquelle il aura temporairement accès ?

Posséder une compétence ou disposer d’un service

Il existe une différence fondamentale entre posséder une compétence et disposer d’un service capable de l’exécuter à notre place.

Aujourd’hui, celui qui utilise un système de navigation sait arriver à destination, mais il ne sait pas nécessairement lire une carte. Celui qui utilise une calculatrice sait obtenir un résultat, mais il ne sait pas toujours refaire le calcul. Celui qui fait générer un programme informatique peut obtenir un logiciel opérationnel sans comprendre précisément pourquoi celui-ci fonctionne.

Demain, cette délégation pourrait toucher la totalité de la chaîne productive.

L’ingénieur ne calculera plus réellement la structure : il validera la proposition de l’intelligence artificielle.

Le médecin ne construira plus entièrement son diagnostic : il arbitrera entre les hypothèses du système.

Le mécanicien n’établira plus lui-même la procédure de réparation : ses lunettes lui indiqueront quelle pièce démonter et dans quel ordre.

L’ouvrier ne mémorisera plus les gestes : le robot les exécutera.

L’agriculteur ne connaîtra plus nécessairement les signes annonçant une maladie végétale : les capteurs, les drones et les algorithmes la détecteront.

Nous continuerons alors à produire, à soigner, à construire et à administrer. Mais une part croissante de la connaissance effective ne résidera plus dans les êtres humains. Elle résidera dans une infrastructure technique composée de logiciels, de modèles, de centres de données, de réseaux électriques, de liaisons internationales et de machines automatisées.

Que se passerait-il si cette infrastructure cessait brutalement de fonctionner ?

C’est là que surgit une question vertigineuse.

Non pas nécessairement partout et pour toujours, mais suffisamment longtemps et sur un territoire suffisamment vaste.

Une impulsion électromagnétique de grande ampleur, une guerre, une attaque cybernétique coordonnée, une destruction de réseaux électriques, une rupture durable des télécommunications, le sabotage de plusieurs points névralgiques ou une combinaison de crises pourraient rendre inaccessibles des services sur lesquels des sociétés entières auraient fini par reposer.

Une impulsion électromagnétique ne ferait pas nécessairement « exploser tous les centres de données » comme une seule bombe détruirait un bâtiment. En revanche, elle pourrait perturber ou endommager des équipements électriques et électroniques et, surtout, provoquer une crise des infrastructures dont dépendent les centres de données : électricité, refroidissement, télécommunications, carburant, composants et maintenance. Les recommandations de résilience consacrées à ce risque montrent précisément qu’il ne s’agit pas d’une hypothèse purement imaginaire.

Il en va de même pour les câbles sous-marins. La destruction d’un câble ne supprimerait évidemment pas Internet. Les réseaux sont maillés, les communications peuvent être reroutées et des redondances existent. Mais ces câbles restent des infrastructures critiques : ils transportent l’immense majorité des communications intercontinentales, et leur vulnérabilité fait désormais l’objet de plans spécifiques de l’Union européenne et de l’OTAN.

Le risque crédible n’est donc probablement pas celui d’un bouton unique qui éteindrait définitivement toute intelligence artificielle mondiale.

Le risque est celui d’une cascade :

électricité défaillante, télécommunications interrompues, centres de données isolés, accès aux modèles impossible, systèmes industriels désorganisés, chaînes logistiques paralysées, maintenance retardée et personnel humain incapable de reprendre rapidement les opérations manuelles.

Le précédent égyptien

Et c’est là que le parallèle historique devient intéressant.

Dans l’Égypte ancienne, les savoirs administratifs, religieux, astronomiques, médicaux et techniques étaient largement concentrés dans un nombre limité d’institutions et transmis par des communautés spécialisées. Lorsque les structures qui formaient les scribes et entretenaient les textes ont décliné, ce ne sont pas seulement des personnes qui ont disparu : c’est la continuité même de la compréhension qui s’est rompue.

Les inscriptions sont restées gravées dans la pierre.

Mais plus personne ne pouvait les lire.

Demain, nous pourrions connaître une situation comparable sous une forme numérique.

Les connaissances pourraient encore exister quelque part, sur des disques, dans des sauvegardes ou dans les paramètres d’un modèle. Mais une connaissance stockée n’est pas nécessairement une connaissance utilisable.

Il faut encore :

Une société peut donc posséder une quantité gigantesque d’informations tout en perdant progressivement sa capacité autonome à les transformer en action.

Le paradoxe serait terrible : jamais l’humanité n’aurait accumulé autant de connaissances, mais jamais elle n’aurait été aussi dépendante d’un intermédiaire technique pour y accéder.

La véritable catastrophe ne serait pas seulement la perte temporaire de l’intelligence artificielle.

Ce serait de découvrir, au moment où elle disparaît, que nous avions parallèlement laissé disparaître les humains capables de la remplacer.

Nous pourrions alors nous retrouver avec des ingénieurs incapables de recalculer sans logiciel, des administrations incapables de fonctionner sans automatisation, des techniciens incapables d’établir un diagnostic sans assistance, des agriculteurs privés des systèmes pilotant leur exploitation et des citoyens sachant demander une solution, mais ne sachant plus la construire.

Pour reprendre une image volontairement triviale : nous pourrions devenir extraordinairement puissants lorsque tout fonctionne, puis nous retrouver complètement démunis devant une clé à molette lorsque le système s’interrompt.

Ce danger porte un nom : la perte de compétence, ou deskilling

Plus nous déléguons une tâche, moins nous la pratiquons. Moins nous la pratiquons, moins nous savons la transmettre. Et si la génération suivante entre directement dans un monde où l’intelligence artificielle effectue le travail de base, elle peut ne jamais acquérir les fondations nécessaires pour comprendre ou reprendre le système. Plusieurs travaux récents soulignent précisément ce risque : l’intelligence artificielle peut augmenter immédiatement la productivité tout en réduisant les occasions d’apprentissage, de pratique délibérée et de transmission intergénérationnelle des savoir-faire.

Il faudrait parler de sauvegardes humaines

C’est pourquoi la résilience face à l’intelligence artificielle ne devrait pas être uniquement informatique.

Nous parlons beaucoup de sauvegardes, de cybersécurité, de centres de données redondants, de souveraineté numérique et de réseaux protégés.

Mais il faudrait également parler de sauvegardes humaines.

Dans chaque domaine essentiel, il faudrait préserver :

Nous devrions peut-être appliquer aux compétences humaines le même principe de redondance que celui utilisé pour les infrastructures critiques.

On ne construit pas une centrale électrique avec un seul système de sécurité.

On ne devrait pas construire une civilisation avec une seule source opérationnelle d’intelligence.

L’intelligence artificielle pourrait devenir le plus formidable multiplicateur de capacités que l’humanité ait jamais créé. Mais si nous l’utilisons pour supprimer progressivement toute compétence humaine redondante, elle pourrait simultanément devenir notre plus grand point unique de défaillance civilisationnelle.

Le défi n’est pas de refuser l’intelligence artificielle

Ce serait absurde, et probablement impossible.

Le défi est de l’utiliser sans cesser d’apprendre, de comprendre, de vérifier, de réparer et de transmettre.

Autrement dit :

L’intelligence artificielle doit augmenter les capacités humaines, pas devenir l’endroit unique où ces capacités sont conservées.

Peut-être que la grande question du XXIe siècle ne sera pas seulement :

« Jusqu’où l’intelligence artificielle peut-elle dépasser l’homme ? »

Mais également :

« Quelles compétences l’homme doit-il impérativement conserver le jour où l’intelligence artificielle ne répondra plus ? »

Le risque ultime n’est pas que l’IA devienne plus intelligente que nous. Le risque est que nous devenions moins capables sans elle.

Une civilisation ne s’effondre pas seulement lorsqu’elle perd ses bibliothèques. Elle s’effondre aussi lorsque ses bibliothèques existent encore, mais que plus personne ne sait lire, comprendre, fabriquer ou réparer.

Il faudra donc protéger les centres de données, les réseaux et les modèles. Mais il faudra surtout conserver des « sauvegardes humaines » : des hommes et des femmes capables de soigner, calculer, construire, cultiver et réparer lorsque l’écran devient noir.