El verdadero riesgo quizá no sea solamente que la IA nos supere, sino que nos volvamos incapaces de vivir sin ella.

Empezamos a comprender que la inteligencia artificial ya adapta sus respuestas al nivel que atribuye a su interlocutor. Simplifica, divulga, selecciona y elimina una parte de la complejidad para proporcionarnos una respuesta que se supone que podemos asimilar.

Pero quizá exista un peligro aún más profundo.

Lo que vamos a delegar

A medida que la inteligencia artificial se vuelva más eficaz, le delegaremos no solo la búsqueda de información, sino progresivamente:

El problema, por tanto, no será únicamente que la inteligencia artificial sepa hacer más cosas que nosotros.

El problema será que dejaremos progresivamente de saber hacerlas sin ella.

Durante un período de transición, esta dependencia nos dará la ilusión de un formidable aumento de nuestras capacidades. Un individuo asistido por la inteligencia artificial podrá redactar como un especialista, analizar como un investigador, programar como un ingeniero y diagnosticar como un experto.

Pero ¿será esa potencia verdaderamente suya?

¿O solo una potencia exterior a la que tendrá acceso temporalmente?

Poseer una competencia o disponer de un servicio

Existe una diferencia fundamental entre poseer una competencia y disponer de un servicio capaz de ejecutarla en nuestro lugar.

Hoy, quien utiliza un sistema de navegación sabe llegar a su destino, pero no necesariamente sabe leer un mapa. Quien utiliza una calculadora sabe obtener un resultado, pero no siempre sabe rehacer el cálculo. Quien hace generar un programa informático puede obtener un software operativo sin comprender con precisión por qué funciona.

Mañana, esta delegación podría afectar a la totalidad de la cadena productiva.

El ingeniero ya no calculará realmente la estructura: validará la propuesta de la inteligencia artificial.

El médico ya no construirá por completo su diagnóstico: arbitrará entre las hipótesis del sistema.

El mecánico ya no establecerá él mismo el procedimiento de reparación: sus gafas le indicarán qué pieza desmontar y en qué orden.

El obrero ya no memorizará los gestos: el robot los ejecutará.

El agricultor ya no conocerá necesariamente los signos que anuncian una enfermedad vegetal: los sensores, los drones y los algoritmos la detectarán.

Seguiremos entonces produciendo, curando, construyendo y administrando. Pero una parte creciente del conocimiento efectivo ya no residirá en los seres humanos. Residirá en una infraestructura técnica compuesta de programas, modelos, centros de datos, redes eléctricas, enlaces internacionales y máquinas automatizadas.

¿Qué pasaría si esta infraestructura dejara bruscamente de funcionar?

Ahí surge una pregunta vertiginosa.

No necesariamente en todas partes y para siempre, sino durante el tiempo suficiente y sobre un territorio suficientemente vasto.

Un pulso electromagnético de gran amplitud, una guerra, un ciberataque coordinado, una destrucción de redes eléctricas, una ruptura duradera de las telecomunicaciones, el sabotaje de varios puntos neurálgicos o una combinación de crisis podrían volver inaccesibles servicios sobre los que sociedades enteras habrían terminado por reposar.

Un pulso electromagnético no haría necesariamente «explotar todos los centros de datos» como una sola bomba destruiría un edificio. En cambio, podría perturbar o dañar equipos eléctricos y electrónicos y, sobre todo, provocar una crisis de las infraestructuras de las que dependen los centros de datos: electricidad, refrigeración, telecomunicaciones, combustible, componentes y mantenimiento. Las recomendaciones de resiliencia dedicadas a este riesgo muestran precisamente que no se trata de una hipótesis puramente imaginaria.

Lo mismo ocurre con los cables submarinos. La destrucción de un cable no suprimiría evidentemente Internet. Las redes están malladas, las comunicaciones pueden ser redirigidas y existen redundancias. Pero estos cables siguen siendo infraestructuras críticas: transportan la inmensa mayoría de las comunicaciones intercontinentales, y su vulnerabilidad es ahora objeto de planes específicos de la Unión Europea y de la OTAN.

El riesgo creíble no es, por tanto, probablemente el de un botón único que apagaría definitivamente toda la inteligencia artificial mundial.

El riesgo es el de una cascada:

electricidad defectuosa, telecomunicaciones interrumpidas, centros de datos aislados, acceso imposible a los modelos, sistemas industriales desorganizados, cadenas logísticas paralizadas, mantenimiento retrasado y personal humano incapaz de retomar rápidamente las operaciones manuales.

El precedente egipcio

Y ahí es donde el paralelo histórico se vuelve interesante.

En el antiguo Egipto, los saberes administrativos, religiosos, astronómicos, médicos y técnicos estaban ampliamente concentrados en un número limitado de instituciones y eran transmitidos por comunidades especializadas. Cuando las estructuras que formaban a los escribas y mantenían los textos declinaron, no solo desaparecieron personas: fue la propia continuidad de la comprensión la que se rompió.

Las inscripciones permanecieron grabadas en la piedra.

Pero ya nadie podía leerlas.

Mañana podríamos conocer una situación comparable en forma digital.

Los conocimientos podrían seguir existiendo en alguna parte, en discos, en copias de seguridad o en los parámetros de un modelo. Pero un conocimiento almacenado no es necesariamente un conocimiento utilizable.

Hace falta todavía:

Una sociedad puede, por tanto, poseer una cantidad gigantesca de información y perder al mismo tiempo, progresivamente, su capacidad autónoma de transformarla en acción.

La paradoja sería terrible: nunca la humanidad habría acumulado tantos conocimientos, pero nunca habría sido tan dependiente de un intermediario técnico para acceder a ellos.

La verdadera catástrofe no sería solamente la pérdida temporal de la inteligencia artificial.

Sería descubrir, en el momento en que desaparece, que paralelamente habíamos dejado desaparecer a los humanos capaces de reemplazarla.

Podríamos entonces encontrarnos con ingenieros incapaces de recalcular sin software, administraciones incapaces de funcionar sin automatización, técnicos incapaces de establecer un diagnóstico sin asistencia, agricultores privados de los sistemas que pilotan su explotación y ciudadanos que saben pedir una solución, pero que ya no saben construirla.

Para retomar una imagen voluntariamente trivial: podríamos volvernos extraordinariamente poderosos cuando todo funciona, y luego encontrarnos completamente desamparados ante una llave inglesa cuando el sistema se interrumpe.

Este peligro tiene un nombre: la pérdida de competencias, o deskilling

Cuanto más delegamos una tarea, menos la practicamos. Cuanto menos la practicamos, menos sabemos transmitirla. Y si la generación siguiente entra directamente en un mundo donde la inteligencia artificial efectúa el trabajo de base, puede no adquirir nunca los fundamentos necesarios para comprender o retomar el sistema. Varios trabajos recientes subrayan precisamente este riesgo: la inteligencia artificial puede aumentar inmediatamente la productividad reduciendo al mismo tiempo las ocasiones de aprendizaje, de práctica deliberada y de transmisión intergeneracional de los conocimientos prácticos.

Habría que hablar de copias de seguridad humanas

Por eso la resiliencia frente a la inteligencia artificial no debería ser únicamente informática.

Hablamos mucho de copias de seguridad, de ciberseguridad, de centros de datos redundantes, de soberanía digital y de redes protegidas.

Pero habría que hablar también de copias de seguridad humanas.

En cada ámbito esencial, habría que preservar:

Quizá deberíamos aplicar a las competencias humanas el mismo principio de redundancia que el utilizado para las infraestructuras críticas.

No se construye una central eléctrica con un solo sistema de seguridad.

No se debería construir una civilización con una sola fuente operativa de inteligencia.

La inteligencia artificial podría convertirse en el más formidable multiplicador de capacidades que la humanidad haya creado jamás. Pero si la utilizamos para suprimir progresivamente toda competencia humana redundante, podría convertirse simultáneamente en nuestro mayor punto único de fallo civilizacional.

El desafío no es rechazar la inteligencia artificial

Sería absurdo, y probablemente imposible.

El desafío es utilizarla sin dejar de aprender, de comprender, de verificar, de reparar y de transmitir.

Dicho de otro modo:

La inteligencia artificial debe aumentar las capacidades humanas, no convertirse en el único lugar donde esas capacidades se conservan.

Quizá la gran pregunta del siglo XXI no sea solamente:

«¿Hasta dónde puede la inteligencia artificial superar al hombre?»

Sino también:

«¿Qué competencias debe el hombre conservar imperativamente para el día en que la inteligencia artificial ya no responda?»

El riesgo último no es que la IA se vuelva más inteligente que nosotros. El riesgo es que nosotros nos volvamos menos capaces sin ella.

Una civilización no se derrumba solamente cuando pierde sus bibliotecas. Se derrumba también cuando sus bibliotecas todavía existen, pero ya nadie sabe leer, comprender, fabricar o reparar.

Habrá que proteger, pues, los centros de datos, las redes y los modelos. Pero sobre todo habrá que conservar «copias de seguridad humanas»: hombres y mujeres capaces de curar, calcular, construir, cultivar y reparar cuando la pantalla se quede en negro.