El 11 de marzo pasado, Sam Altman, director ejecutivo de OpenAI, declaró que ve “un futuro en el que la inteligencia es un servicio público como la electricidad o el agua, y la gente nos la comprará por metro”. Parece no conocer el significado de las palabras que usa o no darse cuenta de que está profundamente equivocado. La inteligencia no es un bien que no deba venderse por metro, sino que es una cualidad que no puede venderse por metro. Intentar hacerlo es una estafa o una culpable equivocación.

La ficción de la que Altman vive es la glorificación de la cantidad, el summum del número. Del logos griego al fetiche capitalista, la “inteligencia” pasó de glorificar la existencia humana, por la posibilidad que da a quien la ejerce de penetrar el sentido de lo real, a ser un objeto de tlapalería. El fetiche le ha ganado la batalla a la vida, la cantidad a la calidad, el algoritmo a la palabra. Léon Bloy se había dado cuenta ya en 1910 de lo que esto suponía: vender el talento, tasar el arte, contar la belleza, medir la virtud, hacer de la inteligencia una cosa que puede darse a cambio de dinero, son prolongaciones de la prostitución, pero en otros medios.

El papa León XIV tuvo, así,  un gran acierto con su primera encíclica. Magnifica Humanitas (MH) afirma la carne, en sus vulnerabilidades y heridas, frente a la máquina que, despojada en su apariencia de los armatostes de fierro para presentarse bajo la forma sexy de las pantallas táctiles, tiende a depredar al ser humano de su humanidad.

La crítica que el papa ha hecho a la inteligencia artificial y a los nuevos asuntos que la tecnología del siglo XXI presenta al ser humano había sido ya pensada desde hace muchos años –sin tener enfrente a Chat GPT, pero sí los avances de la era industrial y su consecuente desencarnación– por filósofos como Jacques Ellul, Iván Illich, E.F. Schumacher o Günther Anders. La diferencia es que a esos filósofos nadie los lee, escribieron hace muchos años, y no son –ninguno de ellos– la autoridad moral que ya bien entrado este siglo representa el jefe de la Iglesia católica para el mundo. Es cierto, el papado ya no es lo que era y los años de la tiara y la espada han pasado. Tal vez por eso, la voz que clama en la colina Vaticana puede ser oída con mayor claridad.

En un mundo en el que Trump ha roto todo pacto político y ha transformado el poder nuclear en un instrumento de negociación, en el que el genocidio es normalizado, en el que el cuerpo humano se ha convertido en territorio de disputas ideológicas y en el que la tecnología digital transforma nuestra manera de entablar relaciones, de vender y de comprar, de trabajar, de dialogar, de pensar, de amarnos, parece que necesitamos un cierto norte moral. Si Silicon Valley está transformando la faz de la Tierra de acuerdo con su propia faz, más vale ofrecer ese norte.

León XIV nos invita a juzgar la inteligencia artificial desde cinco grandes interrogantes, relacionadas con cinco elementos de la Doctrina Social de la Iglesia. ¿Dignifica la inteligencia artificial a la persona? ¿Existe para todos y puede ser gestionada por todos? ¿Fortalece la autonomía de las bases sociales o fortalece el poder de los potentados? ¿Crea condiciones para hacer comunidad, o bien nos aísla? ¿Facilita el cuidado del planeta, de la naturaleza y de las especies vivas no humanas, o devora los recursos y mata la vida?

Sentadas estas bases, las tres ideas más relevantes que conducen y dan cuerpo a la encíclica son las siguientes.

La tecnología no es neutral

Ya desde sus primeras páginas, León XIV asienta una aseveración antropológica importante: la tecnología “no es neutral, porque toma el rostro de quien la concibe, la financia, la regula, la utiliza. Por eso, la primera elección no es entre un ‘sí’ o un ‘no’ a la tecnología, sino entre construir Babel o reconstruir Jerusalén” (MH, 9).

Los poderes tecnofílicos difunden la idea de que la tecnología en sí misma no es un bien ni es un mal, sino que su carácter moral depende exclusivamente de su uso. Pero eso es falso. En primer lugar, todo avance tecnológico supone una idea de ser humano, y afirma en su diseño aquello de lo humano que debe ser promovido y aquello que debe ser anulado: la fuerza física, las capacidades intelectuales, una idea de economía, una idea de política, etcétera. Todo avance tecnológico está precedido por una idea determinada del bien. En segundo lugar, toda tecnología depende de una cierta forma de energía y de una cierta forma de control. Privilegia una forma de relacionarse con la naturaleza y una forma de organizar las relaciones sociales. Que los centros de datos de OpenAI o de Meta requieran de varios gigavatios para operar, clama al cielo. Esa energía es suficiente para alimentar a bastantes miles de hogares. León XIV nos recuerda (MH, 173)que la gestión de estos centros de datos y de las redes informáticas sobre las que se sostiene internet –igual que una buena parte de la industria global contemporánea– supone muchas formas de esclavitud que no podemos seguir tolerando. La tecnología, pues, no es neutral éticamente. Más allá del uso que le den los individuos, su diseño mismo realiza una idea particular de humanidad, y fuerza a quien la usa a realizar y a participar de esa idea (MH, 104).

Lo propio de lo humano es su existencia encarnada

Los grandes relatos fundacionales que ha contado la humanidad sobre su poder de transformar la naturaleza coinciden en la misma tesis sobre la tecnología: que esta se vuelve en contra de sus fines cuando excede un límite de proporción, no solamente en su escala sino en sus intenciones. Prometeo (en griego, “el que se anticipa”) entregó a los seres humanos el fuego –propio de los dioses– y sufrió tormentos sin fin. Adán y Eva comieron del árbol de la ciencia del bien y del mal y fueron expulsados del paraíso. Fausto pactó con el diablo y sabemos cómo le fue, y algo similar le pasó al Dr. Frankenstein.

Solo cuando el ser humano acepta su fragilidad, su vulnerabilidad y su mortalidad, puede recibir y gozar de los dones que se le tienen preparados. La existencia humana está llamada a permanecer dentro de una cierta escala, pues hay enigmas y misterios a los que está sujeto, que no puede ni debe controlar:

Aun cuando el límite se manifiesta como dolor interior, la sensatez humana enseña a no negarlo ni eliminarlo, sino a integrarlo. Para eliminar totalmente el dolor sería necesario, a fin de cuentas, apagar también el amor y el deseo. Quien ama y desea, en efecto, no puede evitar atravesar la prueba y el sufrimiento, y por eso, a lo largo de los años conservamos en nosotros enseñanzas que quedan marcadas como cicatrices, memoria del camino realizado entre libertad y caídas, sueños y decepciones. Sólo gracias al entramado de estos elementos, se realizan en el corazón esas maravillas interiores que nos hacen saborear el gusto más dulce de nuestro ser humanos. Renunciar a esta aventura, al mismo tiempo dramática y espléndida, en nombre de una presunta superación de todo límite podría ser cualquier cosa, pero no significaría ser humanos. (MH, 120)

Creo que, en este sentido, una de las grandes novedades del Evangelio va a contrapelo de lo que busca la inteligencia artificial y ciertas formas de tecnología que pretenden negar nuestra humanidad: el amor de Dios –la felicidad humana– nos entra por la herida, por el hueco que rompe el élitro de nuestra soberbia y que nos ablanda para recibir el amor y el perdón de la caridad. Pero parece que aún no estamos preparados para esto pues, como lo dice el ya citado Bloy, “en el estado de caída, la belleza es un monstruo”, y construir una sociedad de cara al pobre sería muy costoso para los poderosos de Silicon Valley y de Wal Street.

Una nueva noción de progreso

La tercera y última idea que quiero rescatar de Magnifica Humanitas tiene que ver con la inversión que opera de la noción de progreso y desarrollo civilizatorio.

León XIV considera que debe haber una “primacía del trabajo humano sobre cualquier lógica puramente productiva o financiera” (MH, 30). Es decir, progresar no puede significar delegar el trabajo a las máquinas, sino crear más trabajo digno. Aunado a ello, suelta una de las más grandes bombas del documento, a saber, que entre los bienes primarios que por derecho eterno corresponden a todos los seres humanos para que puedan gozar de la vida, ahora se encuentran también “las nuevas formas de propiedad: patentes, algoritmos, plataformas digitales, infraestructuras tecnológicas, datos” (MH, 67). En el contexto actual, la riqueza depende de tecnologías concentradas en unos pocos, lo que crea una injusticia inmensa, un desequilibrio intolerable: habrá quienes participan en el cambio y quienes queden excluidos de él.

O el progreso es para todos, o no será. O el progreso hace avanzar al ser humano en todas sus dimensiones, o creará problemas sociales, políticos y económicos. Y si ese mentado progreso degrada ecosistemas o descarga costos sobre los más vulnerables, en realidad se llama barbarie (MH, 84). Cambiar esto supone, tanto en términos individuales como sociales, renunciar al ideal de que el progreso equivale al control, y de ahí la relevancia de la cita que hace el papa de las palabras de Gandalf en El Señor de los anillos (además de asestar una fina puya contra Peter Thiel): “No nos atañe a nosotros dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir, extirpando el mal en los campos que conocemos, y dejando a los que vendrán después una tierra limpia para la labranza” (MH, 213). Hacer el bien  comienza por reconocer que no podemos hacerlo todo. El bien no supone control sino libertad, supone el reconocimiento de los límites para dar cabida a la libertad del otro. Tolkien lo tenía muy claro: la perversidad de Sauron no consistía en su voluntad de destrucción sino en su voluntad de un orden absoluto y centralizado.

El progreso humano no supone ni un control central ni una solución técnica al trabajo, a la enfermedad o a la muerte, sino el establecimiento de comunidades a escala, que permitan el encuentro encarnado entre personas. Se trata de “construir lazos de fraternidad, hechos de escucha, de miradas sinceras, de tiempo dedicado, incluso de tiempo perdido juntos. Porque, si experimentamos el encuentro auténtico con el otro, el diferente, el extranjero, el migrante, se vuelve incluso mucho más difícil siquiera imaginar la guerra” (MH, 220).

Magnifica Humanitas merecerá sin duda ser examinada y comentada durante mucho tiempo, pues tiene alcances tan relevantes como los de la Rerum novarum de León XIII. Las tecnologías digitales no son un instrumento más ni un mero medio de comunicación, sino que constituyen una extensión del mundo en donde podemos trabajar, crear, aprender y hasta vivir ciertas formas del amor. Pero la realidad encarnada del ser humano está en riesgo. Lo más probable es que los poderosos del mundo de la tecnología, que tienen en sus manos el destino de la humanidad entera, se enterarán de ella de oídas, y querrán desoír lo que llegue a sus mentes. Pero ése siempre ha sido el destino de los profetas, que no solamente hablan a los poderosos para mostrarles sus depravaciones, sino también a los pobres y a los humildes, que necesitan palabras que les recuerden que hacen bien viviendo una vida sencilla, aunque de vez en cuando estén llamados a levantar la voz, la cara, y ofrecer resistencia al mal. ~