Los retos de la Magnifica Humanitas

I La Iglesia ante el desafío de la inteligencia artificial

La encíclica de León XIV aparece en un momento especialmente crítico de la historia tecnológica contemporánea. Setenta años después de la aparición de la expresión «inteligencia artificial» en la conferencia de Dartmouth de 1956, tras varios «inviernos de la IA» marcados por las decepciones y las desilusiones, los recientes avances en los sistemas generativos han provocado un cambio espectacular. La potencia de cálculo de los ordenadores actuales, unida al descubrimiento de las arquitecturas denominadas «transformers» en 2017, ha hecho posible la aparición de los Large Language Models (LLM), capaces de procesar el lenguaje natural con una eficacia sin precedentes. Muchos ya ven en ello una revolución comparable a la invención de la escritura, la imprenta o la máquina industrial.

El desafío fundamental está, por tanto, muy lejos de ser una simple innovación técnica. Nos viene a la mente el mito de Ícaro, que ya narraba la ambición humana fascinada por su propio poder: gracias a la técnica inventada por Dédalo, el hombre cree poder liberarse de su condición. Pero Ícaro, embriagado por la nueva posibilidad de volar, olvida la mesura, se acerca al sol y precipita su propia caída. El transhumanismo contemporáneo suele reinterpretar este mito al revés: donde la cultura antigua veía una advertencia contra la desmesura, nuestra época celebra con gusto al «Ícaro que triunfó», convencida de que ningún límite debe seguir siendo infranqueable.

Al igual que León XIII tuvo que afrontar las consecuencias sociales de la revolución industrial en Rerum novarum, León XIV está llamado a arrojar luz sobre una nueva revolución a la vez industrial, cognitiva y cultural. Las gigantescas inversiones realizadas por Estados Unidos, China y las grandes empresas tecnológicas demuestran que la IA se ha convertido en un tema de poder mundial. Aunque algunos aún dudan de la viabilidad económica de esta nueva economía digital y temen una gigantesca burbuja especulativa, todo indica que la IA transformará profundamente el trabajo, la educación, la investigación, la economía e incluso la forma en que el hombre se comprende a sí mismo.

II Los retos de la transformación del mundo laboral:
una revolución comparable a la revolución industrial

El primer reto es el del trabajo humano. Desde Rerum novarum, la doctrina social de la Iglesia considera el trabajo no solo como un medio de subsistencia, sino como una dimensión esencial de la dignidad de la persona. Sin embargo, la inteligencia artificial está alterando esta relación con el trabajo.

Por primera vez en la historia, una tecnología ya no se limita a sustituir la fuerza física del hombre, sino que afecta directamente a ciertas funciones intelectuales: redacción, traducción, diagnóstico, programación, investigación documental, análisis jurídico, creación gráfica o musical. La automatización ya no afecta únicamente a las tareas repetitivas de los obreros; ahora alcanza a las profesiones cualificadas y a los oficios del conocimiento.

Las consecuencias sociales podrían ser considerables. Muchos temen el surgimiento de una sociedad en la que unos pocos propietarios de las infraestructuras tecnológicas concentrarían la riqueza, mientras que una gran parte de los trabajadores quedaría marginada económicamente. Tensiones comparables a las surgidas de la revolución industrial del siglo XIX podrían entonces reaparecer bajo nuevas formas.

Varios observadores ya aluden al riesgo de una «desposesión cognitiva» del trabajador: el hombre ya no sería protagonista de su actividad, sino un simple auxiliar de sistemas algorítmicos que ya no controla. La cuestión no es, por tanto, solo económica. Si el trabajo humano pierde su dimensión creativa, relacional y personal, entonces es una parte de la propia humanidad la que corre el riesgo de verse afectada.

Se comprende por qué la Iglesia insiste ahora en la necesidad de mantener la primacía de la persona sobre las lógicas tecnicistas y productivistas. La técnica no puede convertirse en la medida del hombre. El hombre vale más que su utilidad económica.

III Retos financieros y políticos:
la concentración del poder tecnológico

La IA representa también un reto financiero y geopolítico colosal. Las sumas invertidas en este ámbito alcanzan niveles sin precedentes. Las grandes potencias mundiales consideran ahora la inteligencia artificial como un instrumento estratégico de primer orden.

Pero esta concentración de poder plantea cuestiones sin precedentes. Algunas empresas privadas disponen hoy en día de una capacidad de influencia cultural, económica y política que a veces los propios Estados tienen dificultades para controlar. Los datos personales, las infraestructuras digitales y las capacidades de cálculo se están convirtiendo en los nuevos instrumentos del poder.

Ya en 1990, Michel Schooyans había intuido esta evolución en su artículo publicado en la NRT : «Nuevos poderes del hombre e institución política1». Ya entonces demostraba que las ciencias nunca son neutras: pueden convertirse en instrumentos de dominación cuando se integran en sistemas económicos y políticos que buscan organizar la sociedad a partir del dominio técnico de lo vivo. El reto de la época —el padre Schooyans se refería entonces a la bioética— se presentaba como un reto de gobierno de los hombres.

Hoy en día, estas inquietudes adquieren una nueva dimensión. La IA podría convertirse en una herramienta de vigilancia masiva, de manipulación de opiniones, de control de comportamientos o de automatización de decisiones políticas y militares. Los debates en torno a las armas autónomas, los sistemas predictivos o la desinformación generada por la IA muestran que la cuestión ya no es teórica.

Léon XIV recuerda entonces que la tecnología no puede dejarse únicamente en manos de ingenieros, financieros o intereses geopolíticos. Las decisiones tecnológicas implican una determinada visión del ser humano y de la sociedad. Por lo tanto, requieren discernimiento moral y político.

IV Retos cognitivos:
la tentación de reducir el pensamiento al cálculo

La IA plantea, además, retos cognitivos de considerable alcance. Los sistemas generativos producen textos, imágenes, razonamientos y análisis que a veces dan la impresión de una verdadera inteligencia. Muchos llegan entonces a identificar el pensamiento humano con un simple procesamiento algorítmico de la información. Pero reducir el pensamiento al procesamiento de la información corre el riesgo de modificar progresivamente nuestra propia comprensión de la inteligencia humana.

El peligro es, pues, doble. Por un lado, sobreestimar las capacidades reales de las máquinas; por otro, y de forma aún más profunda, subestimar la propia inteligencia humana. Una cultura dominada por lógicas algorítmicas podría acostumbrar al ser humano a un pensamiento fragmentado, rápido, automatizado y dependiente de los sistemas digitales.

Antiqua et nova ya recordaba que la inteligencia humana no puede equipararse a una potencia computacional. El hombre no es un simple procesador de información: su inteligencia es encarnada, relacional, abierta a la verdad, al bien, a la belleza y a Dios.

Las generaciones jóvenes, por otra parte, comienzan a expresar una forma de inquietud o de hastío ante estas tecnologías omnipresentes. En varias universidades estadounidenses han surgido reacciones hostiles cuando se presenta la IA como el futuro inevitable de la educación. Muchos intuyen vagamente que el uso masivo de estas herramientas transformará no solo los contenidos del saber, sino también las propias estructuras de la atención, la memoria y el razonamiento.

V Los retos propiamente humanos:
el ser humano reducido al rendimiento

Detrás de estas evoluciones se esconde una cuestión aún más profunda: ¿qué es el ser humano? La inteligencia artificial no solo transforma las herramientas; modifica la forma en que el hombre se comprende a sí mismo. El sueño transhumanista de un hombre mejorado, liberado de sus límites biológicos, tiende progresivamente a considerar la vulnerabilidad, la dependencia, el envejecimiento o incluso la mortalidad como simples defectos técnicos que hay que corregir.

En «La teología del don a prueba de la perfectibilidad transhumanista del hombre2», Odilon-Gbènoukpo Singbo muestra que esta lógica transforma profundamente la relación del hombre consigo mismo: la vida ya no se recibe como un don, sino que se considera un material programable y perfectible.

Sin embargo, la tradición cristiana afirma, por el contrario, que la vulnerabilidad forma parte de la verdad del hombre. El ser humano no se define ni por el rendimiento ni por la eficacia. Es un ser relacional, llamado a la comunión, a la filiación y a la entrega de sí mismo.

Por eso, el discernimiento cristiano sobre la IA no consiste en oponer al hombre a la máquina, sino en defender la integralidad del ser humano. La grandeza del hombre reside menos en su poder que en su capacidad de conocer, amar, contemplar y entrar en relación.

VI Los retos espirituales:
la «Pascua de la técnica»

Estas cuestiones conducen, en última instancia, a un desafío espiritual decisivo. Una sociedad fascinada por el rendimiento de las máquinas corre el riesgo de olvidar progresivamente las dimensiones contemplativas, morales y espirituales de la existencia humana.

Antiqua et nova ya advertía contra una civilización en la que la máquina se convirtiera en el modelo implícito del hombre. Una cultura dominada por la eficacia algorítmica podría perder el sentido de la gratuidad, del silencio, de la contemplación e incluso de la verdad.

Esta inquietud se une a una intuición muy antigua de la tradición cristiana, especialmente en san Agustín. Para él, el encuentro entre la fe cristiana y la cultura antigua no consiste ni en rechazar la cultura ni en absolutizarla. Habla de una verdadera «Pascua de la cultura».

En el De doctrina christiana, Agustín retoma la imagen bíblica de los «botines de los egipcios ». Al igual que los hebreos se llevaron consigo las riquezas de Egipto durante el Éxodo, los cristianos pueden tomar las riquezas intelectuales, filosóficas y artísticas de las culturas humanas para ponerlas al servicio de la verdad. Las ciencias, las artes y las técnicas no están, por tanto, condenadas en sí mismas. Pero deben ser purificadas y reorientadas.

Esta reorientación supone precisamente un paso pascual. La cultura debe atravesar el Mar Rojo. No puede salvarse a sí misma. Debe aceptar ser juzgada, purificada y superada por una verdad que no proviene de ella misma.

León XIV retoma directamente esta perspectiva agustiniana cuando opone Babel a Jerusalén: «la primera elección no se sitúa entre un “sí” o un “no” a la tecnología, sino entre construir Babel o reconstruir Jerusalén» (n. 9). El Papa invita a evitar «el síndrome de Babel» (n. 10).

En La Ciudad de Dios, Agustín ya muestra que una civilización puede ser extremadamente refinada y, sin embargo, estar espiritualmente enferma. Roma representa un inmenso poder político, jurídico y técnico; pero esta grandeza sigue siendo ambigua cuando se cierra a la verdad de Dios. El progreso técnico nunca garantiza el progreso moral.

La cultura ya no es literaria ni artística, sino tecnológica y «artificial». La IA representa sin duda una notable creación de la inteligencia humana. Pero la cuestión sigue siendo agustiniana: ¿conduce este poder al hombre hacia más verdad, comunión y sabiduría, o corre el riesgo, por el contrario, de alimentar la ilusión de una humanidad que se ha vuelto autosuficiente?

La «Pascua de la cultura» es hoy «Pascua de la técnica»: esta debe pasar por una conversión. Debe reconocer que no es su propio fin. La cultura humana no encuentra su plenitud ni en el poder ni en el dominio total, sino en lo que la trasciende y, sin embargo, la atrae.

Para Agustín, ese centro es Cristo. No como un límite externo impuesto a la cultura, sino como una verdad interior que la orienta y la realiza. Cristo no anula la inteligencia humana; le da su justa medida y su verdadera finalidad.

VII Una nueva etapa de la doctrina social de la Iglesia:
en respuesta al cambio de época

Magnifica Humanitas se presenta así como la culminación de un trabajo doctrinal emprendido desde hace varios años por los dicasterios romanos. La encíclica no condena la inteligencia artificial como tal. Más bien busca iluminar las opciones contemporáneas a partir de una antropología cristiana integral.

La Iglesia no puede limitarse a una mirada externa o puramente moral sobre estas tecnologías. Debe, ante todo, comprender el fenómeno en toda su amplitud: sus promesas, sus peligros, su carácter probablemente irreversible y las transformaciones antropológicas que conlleva.

Lo que está en juego es inmenso: la transformación del trabajo, la concentración financiera y geopolítica del poder, la mutación de las formas de pensamiento, la redefinición de lo humano, la crisis espiritual de la cultura contemporánea.

Bruegel, en La caída de Ícaro, pinta el momento en que el sueño prometeico se desvanece ante la indiferencia del mundo. Ícaro apenas ocupa espacio en el cuadro: solo sus piernas sobresalen aún del mar, mientras el labrador continúa con su trabajo, el pescador sigue con su tarea y el barco avanza hacia el horizonte. La fascinación por el poder técnico puede hacernos olvidar lo esencial: la verdad concreta de la condición humana, el trabajo, las relaciones, la fragilidad, la atención a lo real. Al mismo tiempo, mientras el hombre contempla su propio poder tecnológico, puede volverse ciego ante la silenciosa caída de su humanidad. ¡La encíclica de León XIV es realmente bienvenida!

Alban Massie s.j., Emmanuel Tourpe