Desarmar la IA: una lectura de Magnifica Humanitas

En estos primeros días de la publicación de la encíclica Magnifica Humanitas del papa León XIV, he leído y escuchado opiniones de todo tipo. Lo más sorprendente ha sido constatar el aplauso agradecido de sectores que, tras proclamar su ateísmo militante, reconocían sin tapujos el valor del documento, en cuanto el papa ha logrado desenmascarar el falso mito de la neutralidad tecnológica.

Estas voces sitúan el núcleo de la encíclica en la petición para desarmar la IA. Quizá muchos han olvidado que León XIV comenzó su pontificado exigiendo al mundo una paz desarmada y desarmante. Por eso, al mirar el mapa de la inteligencia artificial, el papa insiste en que la tecnología debe ser una herramienta de humanización y no de mera tecnificación; de construcción y no de exclusión; de paz y no de trinchera y división.

Pero desarmar la IA no es un camino fácil. La encíclica aporta pistas interesantes, enraizadas en la rica y larga tradición de la Doctrina social de la Iglesia, presentándolas como esas nuevas cosas sobre las que debemos sostener una voz clara y un testimonio valiente. Destaco cinco propuestas que nos obligan a cambiar radicalmente de perspectiva.

1. La trampa de la falsa neutralidad. La encíclica lanza una doble denuncia: ni la tecnología es neutral, ni su valor ético depende únicamente del uso que le demos. Los algoritmos, los códigos fuente y las grandes infraestructuras de datos conforman nuestra vida social, y pertenecen a la humanidad entera, no a un puñado de corporaciones opacas cuyos intereses reales se nos escapan. Se nos ha hecho creer que la responsabilidad recae solo en el usuario, como si detrás del diseño de estos modelos hubiera una inocencia ética. Desarmar la IA exige mirar el origen del sistema: cómo está programado y qué idea de persona y de sociedad oculta detrás de sus datos.

2. El arte de saber prescindir. Una de las propuestas más revolucionarias del documento es la necesidad de educar en el límite; es decir, enseñar a prescindir de la IA. Supone un aprendizaje contracorriente para decidir cuándo y para qué no utilizarla, evitando caer en la trampa de la respuesta rápida y fácil que anestesia el tiempo de las preguntas y ahoga la creatividad. La escuela, como espacio de búsqueda y amor por la verdad, tiene aquí un papel esencial que no puede delegar en ninguna tecnología.

3. El peso físico de lo digital. El texto nos obliga a levantar la mirada y medir el impacto ambiental y humano de la IA. Su uso ético no se agota en la herramienta: las inmensas granjas de datos —estratégicamente ubicadas en países en vías de desarrollo— consumen recursos naturales hídricos y energéticos irremplazables; la extracción de tierras raras deja un rastro de destrucción local para beneficio de despachos a miles de kilómetros; y el uso de mano de obra barata para entrenar algoritmos genera una nueva categoría de trabajadores descartados. Exigir sostenibilidad también es cuidar la Casa común.

4. La vulnerabilidad no es un fallo de fábrica. En una cultura impregnada por el transhumanismo y obsesionada con la eficiencia, la fragilidad humana se comercializa como si fuera un defecto de software. Cuando la tecnología se transforma en tecnocracia, nos encerramos en un narcisismo que olvida que nuestra dignidad radica en la comunión y en la sabia aceptación de nuestros propios límites. La persona no vale por su utilidad o rendimiento, bajo la promesa del progreso y una salvación meramente técnica. Urge educar en la compasión, la generosidad y la sabiduría que emana, precisamente, de nuestra vulnerabilidad.

5. El corazón no se replica. La IA debe estar siempre al servicio del pensamiento propio y la creatividad. Custodiar lo humano es recordar que la historia está tejida de violencia, pero también de gestos creativos que han superado las mayores tragedias. La encíclica evoca la Novena sinfonía de Beethoven, el Guernica de Picasso o La lista de Schindler, así como el nacimiento de la Cruz Roja o la ONU. Junto al testimonio de vida de muchas personas de todos los credos y culturas, sin ejemplos de que es posible hacer crecer la técnica sin que se repliegue el corazón.

Quienes se han quedado en un elogio superficial de la encíclica, partiendo de una lectura diagonal del texto, corren el riesgo de pasar por alto otros desarmes igual de incómodos que se proponen: la defensa de la vida en todos sus estadios —especialmente en el principio y en su final—; la urgencia de un trabajo con condiciones dignas; la necesidad de escuchar el clamor de las víctimas dándoles espacio real; y la apuesta por una educación plural y transformadora, que garantice la libertad de enseñanza y se aleje del cinismo político. El discurso del papa ante las cámaras legislativas españolas, el 8 de junio, no deja lugar a dudas sobre que estos son los verdaderos temas de fondo.

Magnifica Humanitas es una encíclica social para el mundo real. No se hace ajena a nada de lo humano, ni se esconde en optimismos baratos, ni se desentiende de los barros de la historia. Aporta esperanza porque se asoma a la intemperie digital con la mirada del Evangelio. La bellísima cita de J.R.R. Tolkien en El Señor de los anillos que recoge el texto resume a la perfección el espíritu de este desarme:

«No nos atañe a nosotros dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir, extirpando el mal en los campos que conocemos, y dejando a los que vendrán después una tierra limpia para la labranza» (HM 213).

¿Quién soy cuando todo cambia?

Decía David Hume que pocas palabras hay más complicadas en filosofía que la palabra identidad. No le faltaba razón: ¿qué significa ser alguien en un mundo que cambia más rápido que nuestras certezas? ¿Cómo sostener una definición de nosotros mismos sin convertirla en dogma o en máscara? La identidad, lejos de ser una pieza fija, es una pregunta que nunca termina de responderse.

Toda reflexión sobre quiénes somos debería comenzar por una interrogación aún más radical: ¿cómo miramos el mundo? Porque la identidad no se levanta en el vacío, sino en la manera en que comprendemos y miramos el presente, y en nuestra disposición a acoger la creatividad como una constante existencial. Si la identidad se reduce a reproducir lo que “siempre se ha hecho así”, se vuelve un museo silencioso, incapaz de abrir ventanas hacia esa vida compartida en la que aprendemos y crecemos junto a las definiciones que otros también ensayan de sí mismos. La identidad, entonces, no es una fórmula que memorizar y defender, sino una aventura en permanente construcción.

Por eso, la identidad no puede funcionar como refugio. Pierde todo sentido si la encerramos en la comodidad del hogar, protegida de amenazas y miedos, sostenida por el respirador artificial de una tranquilidad que solo pretende perpetuar relaciones e ideas que ya no responden a ninguna pregunta actual. Vivir a la intemperie implica asumir que la identidad se juega en el riesgo, en la vulnerabilidad, en la apertura. Una identidad blindada es una identidad muerta; solo la que se expone a las afueras puede aprender a respirar por sí misma.

Sin embargo, esta apertura no equivale a desarraigo. La identidad necesita una conexión permanente con la tradición y la historia; de lo contrario, cae en el proselitismo o en la neutralidad vacía. Las raíces no son cadenas, son nutrientes. Sin ellas, la identidad se vuelve un proyecto hueco, incapaz de sostener la alteridad. El individuo hipermoderno, obsesionado con controlar la narración de su biografía, extirpa las raíces y convierte los idearios en piezas desligadas, casi estériles. Así mantiene un falso control sobre quién es, alejándose de toda tentación creativa que pueda devolver su identidad al diálogo vivo entre pasado y presente. Como advierte Fusaro: “La verdadera apertura a la alteridad no puede darse en el vacío, sino solo entre interlocutores que tengan perspectivas, culturas, raíces, identidades y, no menos importante, algo que decir”.

Necesitamos recuperar la identidad como propuesta dinámica y fecunda. Solo podemos hablar de identidad cuando nuestras acciones generan nuevas relaciones, cuando embellecen el mundo y nos mantienen abiertos al cambio. Lévinas lo expresa así: “El yo no es un ser que siempre permanece el mismo, sino el ser cuyo existir consiste en identificarse, en reencontrar su identidad a través de todo lo que le pasa”. La identidad, así entendida, no es una roca protectora, sino una obra original que se rehace en cada encuentro. Cada experiencia, cada vínculo, cada crisis nos obliga a recomponer el mapa de lo que somos, y también de lo que son los otros.

Esta perspectiva tiene consecuencias espirituales. La espiritualidad que nuestro tiempo necesita no brota de la uniformidad, sino de la complementariedad; reconoce que la pluralidad de identidades no amenaza la propia, sino que la profundiza. La fe, si quiere ser fecunda, debe aprender a dialogar con la diferencia, no a temerla. En este sentido, el amor es quizá el mejor maestro de filosofía: nos invita a descubrir cómo piensa el otro, a ver el mundo desde su diferencia y no desde la confrontación de identidades. Amar es aceptar que el otro no es mi espejo, sino mi horizonte.

Los grandes retos que se nos presentan son: hacer fuerte la libertad, avivar la identidad personal, sostener un pensamiento propio capaz de construir comunión. Porque una comunidad sin individuos libres es apenas una masa; y una identidad sin apertura termina siendo una caricatura de sí misma.

Tal vez ahí se esconda la clave: la identidad no es un puerto seguro, sino una travesía. No consiste en levantar muros, sino en trazar puentes para el encuentro de los caminos. No se trata de conservar intacto lo que somos, sino de atrevernos a ser más. Solo quien se expone a la intemperie sin miedo, quien deja que la vida desordene sus seguridades, puede encontrarse de verdad. Porque la identidad, como la libertad, solo florece cuando perdemos el miedo a perdernos.

La intemperie es maestra

Se nos invita constantemente a salir de nuestra zona de confort. Desde hace años, este consejo se repite como mantra: abandonar lo conocido para afrontar nuevos retos, como si la comodidad fuera sinónimo de estancamiento. La llamada “zona de confort” se presenta como una opción conservadora, limitada, que frena la creatividad. Sin embargo, no siempre fue así. Durante mucho tiempo se nos animó a buscar nuestra propia zona de confort, reconocerla y aprender a amarla. Porque ese espacio seguro se consideraba fértil para la creatividad: si te sientes acogido y reconocido, si te rodeas de afectos y certezas, si aprendes a habitar este suelo que pisas, entonces podrás crecer y acompañar a otros sin miedo a la intemperie.

La zona de confort, bien entendida, es un tiempo y un espacio de oportunidades. No es mero interiorismo, sino posibilidad de intimidad. Claro que tiene límites, pero no son muros paralizantes, sino recordatorios de que no lo sabemos todo, ni necesitamos saberlo todo para encontrar sentido. Habitarla es aprender a entrar en nosotros mismos, en lugar de vivir en una permanente vigilia de salida, muchas veces disfrazada de huida.

El problema no es tener una zona de confort, sino convertirla en búnker: un refugio que nos protege y nos aísla, donde los aprendizajes se vuelven trincheras y lo nuevo, enemigo. Esto ocurre cuando tememos la incertidumbre, cuando contemplamos la intemperie como abismo y todo lo que es “otro” como herida y amenaza.

Ahí está la señal: cuando la comodidad se vuelve prisión, es tiempo de dar un paso hacia la zona de incertidumbre. Ese territorio abierto, imprevisible, es donde ocurre el aprendizaje genuino. Aprender implica riesgo, porque implica cambio. Como escribió Søren Kierkegaard: “La ansiedad es el vértigo de la libertad”. La incertidumbre nos incomoda porque nos recuerda que somos libres, que podemos elegir, que no todo está escrito.

Esa incomodidad no es un accidente del vivir, sino su condición misma. Zygmunt Bauman lo expresó de un modo desarmante: “La incertidumbre es el hábitat natural de la vida humana”. No hay vida sin exposición, sin el roce del viento sobre nuestras certezas. Pretender eliminar la incertidumbre es pretender abolir la libertad: cada intento de blindarnos contra lo imprevisible nos convierte en prisioneros de nuestra propia seguridad. Por eso la intemperie no debe ser temida, sino comprendida: es el espacio donde la vida respira.

Salir de nuestra zona de confort no significa despreciarla, sino reconocer que la vida es movimiento: cada intemperie terminará siendo hogar, cada incertidumbre se convertirá en nueva comodidad. Así funciona nuestra condición humana: buscamos seguridad, pero solo la encontraremos después de atravesar el riesgo.

La creatividad necesita ambos espacios: la intimidad que cura y la intemperie que desafía. Porque solo quien se atreve a soltar los flotadores que una vez sustituyeron a los abrazos; solo quien desafía la vida mirando todo con ojos nuevos —esta piel que nos cubre, estas manos capaces de acariciar y escribir, esta capacidad redentora para amar y perdonar—; solo quien levanta hogares sin olvidar abrir ventanas al mañana; descubre que la incertidumbre no es enemiga, sino maestra.