MAGNIFICA HUMANITAS
La encíclica del Papa acerca del impacto de la IA, es un poderoso alegato humanista frente el determinismo tecnológico
No he leído en toda su profundidad la larga encíclica del Papa León XIV, pero sí he podido leer algunas de sus partes, además de una síntesis de su contenido, y no puedo dejar de estar de acuerdo con sus argumentos en una enorme medida. León XIV no solo se basa en la Biblia o la doctrina social de la Iglesia, sino que todo el testo respira no sólo humanismo cristiano, sino la dignidad humana de Kant. El texto enuncia a Hannah Arendt, a varios filósofos de la tecnología y al mismísimo JRR Tolkien.
“Magnifica Humanitas” comienza recordándonos que la tecnología nunca es moralmente neutral: De hecho, los algoritmos y los modelos de datos reflejan inevitablemente las prioridades, los sesgos y las visiones ideológicas de quienes los diseñan, financian y regulan. Y el texto sigue afirmando la dignidad humana sobre la eficiencia pura: El actual “paradigma tecnocrático” nos tienta a valorar a las personas basándose únicamente en su productividad y a tratarlas como meros engranajes en un sistema. Debemos diseñar una IA que empodere a los trabajadores humanos, en lugar de descalificarlos, someterlos a una vigilancia automatizada o sacrificar empleos simplemente para maximizar las ganancias a corto plazo.
La encíclica habla de la necesidad de transparencia y rendición de cuentas: Los sistemas de AI que influyen en las oportunidades vitales críticas, como la contratación o el acceso al crédito, no pueden funcionar como cajas negras opacas. Necesitamos una rendición de cuentas clara, auditorías independientes y algoritmos explicables para garantizar que estos sistemas no reproduzcan silenciosamente la discriminación o excluyan a los vulnerables. La innovación es un logro humano notable, pero los desarrolladores, los inversores y los responsables políticos tienen una profunda responsabilidad ética (y yo añadiría que la obligación de rendirlas cuentas que no dará una IA).
La encíclica hace un llamamiento a “desarmar” la IA, sacándola de la carrera armamentista económica y cognitiva. También a que sus beneficios sean socialmente compartidos y no se queden en unas pocas manos. La infraestructura digital y los datos deben gestionarse para el bien común mundial, evitando nuevos monopolios peligrosos y el “colonialismo digital” que extraen datos de poblaciones vulnerables sin darles voz.
Magnifica Humanitas es un llamado a la acción contra el determinismo tecnológico, activo o pasivo, del que habla Antonio Diéguez, una apuesta por el humanismo tecnológico orteguiano.
El texto dedica una parte importante a la cultura humana, a la única que considera auténtica y el repositorio de la memoria humana frente al olvido y frente a la “normalización del mal”. Y cita tres hermosos ejemplos: La Novena Sinfonía de Beethoven, símbolo del deseo humano “de unidad”; el Guernica de Picasso, como una poderosa “denuncia de la deshumanización”; La lista de Schindler, de Spielberg, como “una invitación a no entregar el pasado al olvido”.
Finalmente, esa referencia a Tolkien, en lo que constituye un canto hermoso a la humildad humana y a la, sin embargo, en boca del mismísimo Gandalf: “No nos atañe a nosotros dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir”. Por grandes que sean los retos, la respuesta no es bajar los brazos o desentenderse, sino aportar aquello, mucho o poco, que está en nuestra mano hacer. Qué mejor síntesis contra el derrotismo frente al gran poder de la tecnología.
Y es por eso por lo que debemos proteger nuestra cultura frente a exacciones, porque en ella reside nuestra propia humanidad, el terreno en el que nunca seremos sustituidos. Como dice Simon Schama: “Nada puede superar a nuestras obras maestras de la literatura, como antídoto frente a la prosa insulsa de las noticias, la palabrería barata de los poderosos, o la arrogante seguridad de los multimillonarios. Son nuestro sustento, nuestro hilo de humanidad en un mundo mecánico. La IA jamás producirá a un Melville, porque no existe ningún conjunto de datos que pudiera haberlo predicho”.
Es llamativo que sea una voz que fundamenta su legitimidad en lo sobrenatural, la que más clara y firmemente afirma la necesidad de seguir creyendo en los seres humanos.
Ojalá alguien esté escuchando.
