Sobre el papa y la Inteligencia artificial. La humanidad se encuentra en peligro de “perder su rostro”
Por Grínor Rojo
Escribí en otra parte que había tres factores que constituían las principales amenazas a la perduración de la especie humana sobre la tierra. Ellos eran la crisis ambiental, incluida la crisis climática, la guerra nuclear, cuyo estallido cuelga de un hilo, y el desarrollo de las tecnologías digitales, muy especialmente el desarrollo de la inteligencia artificial (IA).
En cuanto a lo primero, existen hoy en el mundo más de un millón de especies, animales y vegetales que están próximas a extinguirse, “en cuestión de décadas, más que nunca antes en la historia de la humanidad”, lo que acarrea la erosión de “los cimientos mismos de nuestras economías, medios de subsistencia, seguridad alimentaria, salud y calidad de vida”, según el informe de la Plataforma Intergubernamental Científico-Normativa sobre Diversidad Biológica y Servicios de los Ecosistemas de las Naciones Unidas; un poco más adelante, el mismo informe anota que, desde 1980 a la fecha, “las emisiones de gases de efecto invernadero se han duplicado, elevando la temperatura media global en al menos 0,7 grados Celsius”.
El segundo factor que me preocupa es la catástrofe nuclear, enteramente posible, como ya dije. Sobre esto, añado que en la actualidad hay más de doce mil ojivas nucleares desparramadas entre nueve países, ninguno de los cuales está gobernado por gente cuya sensatez me inspire demasiada confianza.
Y, en tercer lugar, está el asunto de la inteligencia artificial. El último modelo de la empresa Anthropic, que es la plataforma Claude Mythos, debutó el 7 de abril de 2026 con poderes “nunca antes vistos”, en ciberseguridad y en piratería informática, afectando directamente a la llamada “vulnerabilidad” de los humanos y sus datos. Esta es quizás la más avanzada de las plataformas existentes para persuadir y vigilar, para convencer acerca de la verdad de tales o cuales ideas y vigilar que sean esas ideas las que determinan el comportamiento de los ciudadanos y las que establecen los castigos que se les aplican cuando ellos no las obedecen. Proveedores favoritos de las fuerzas armadas estadounidenses, los dueños de Anthropic se han visto envueltos en una disputa legal con la Casa Blanca por el control del prodigio, aunque los de la empresa han dicho que la máquina ha demostrado que está alcanzando las capacidades necesarias para hacer los estropicios por sí sola. Recientemente, en un comunicado público, los de Anthropic advirtieron que Claude podía incurrir ya en el “automejoramiento recursivo”, la palabrería elegante para decir que la máquina está lista para autoengendrarse, y que, dadas tales circunstancias, a ellos les había entrado el miedo y recomendaban una pausa en los desarrollos de la IA.
Veo, ahora, que el papa León XIV, la cabeza de la Iglesia Católica, ha emitido una encíclica, Magnifica Humanitas, en la que se refiere específicamente a la “custodia de la persona humana en el tiempo de la inteligencia artificial”. No me sorprende en absoluto, y lo celebro. Creo que Juan XXIII, Francisco y este papa son los más respetables que la Iglesia Católica ha tenido en los últimos cien años y de los pocos, muy pocos, conductores mundiales que merecen aprecio. Mi intención en esta nota es revisar algunos de sus argumentos.
El papa piensa que la humanidad se encuentra, en este siglo XXI, en peligro de “perder su rostro”. Por obra de las nuevas tecnologías y de la IA en particular, las personas están hoy expuestas a sufrir cambios que van a ser radicales y en todos los ámbitos: en el trabajo, en la vida cotidiada, en los negocios, en la guerra, en las relaciones amorosas incluso. Pero lo peor se guarda en la metáfora que eligió León XIV para darle un forma visible a la amenaza, me refiero al peligro de que el ser humano pierda su “rostro”, o sea que los seres humanos humanos dejemos de ser los que hemos sido, o lo que en su opinión y en la de la Iglesia debiéramos ser, porque las tecnologías emergentes se nos metieron en el cuerpo, invadiendo nuestra conciencia y nuestra imaginación, moldeandonos a su amaño, decidiendo por nosotros.
Está hablando el papa acerca de un doble curso histórico. Primero, acerca de la historia del ser humano según lo construyó la cultura de Occidente partiendo con las tradiciones griega y judeocristiana. Y, luego, a renglón seguido, acerca de la historia del ser humano en general, sobre la especie humana en la completa duración de su estancia en la tierra. Ello quiere decir que el desafío a corto plazo se refiere al peligro de que los nuevos dispositivos informáticos acaben con el modelo de humanidad que se empezó a configurar en Grecia hace veintitantos siglos y cuyo predominio se ha prolongado hasta hoy (para la Iglesia Católica, es el ser humano dotado de libre albedrío y, por lo tanto, temeroso, pero también responsable por sus actos ante Dios), en tanto que el desafío de mediano o largo plazo consiste en que esa misma ameneza se hipertrofie y termine incluyendo un salto cualitativo en la trayectoria de la evolución, esto es, que las máquinas de la IA, que se hallan a punto de autoperfeccionarse y autoreproducirse, terminen reemplazándonos.
Y no le falta razón a León XIV. Si la IA es capaz de instalar un sistema de persuasión y vigilancia incontrarrestable, si es capaz de saber quiénes somos, dónde estamos y qué hacemos, y además convencernos sobre la verdad de tal o cual tema, si es capaz de decirnos cómo tenemos que conducirnos al respecto y castigarnos cuando no le hacemos caso, de ello se infiere que quienes quiera que sean los que se hallan por detrás de sus plataformas son poseedores de un poder omnímodo, que ellos van a ser, en el más estricto de los sentidos, los próximos dueños de la soberanía.
Pero, ¿cuál es el modelo de humanidad occidental al que se refiere el papa León XIV? Desde el punto de vista de la Iglesia Católica, es el modelo de un humano libre, como dije arriba, pero cuyo ser libre es siempre en compañía de Dios, un humano que es creación de Dios y cuya existencia adquiere su significado pleno solo cuando habita con Él, pobladores ambos de una “ciudad” en permanente reconstrucción, la Nueva Jerusalén de Nehemías, en la que las reglas, al contrario de lo que ocurre en la infame Babel, no pueden sino incluirlo a Él (a Él o a Jesús, que es su “Verbo encarnado”). Esta imagen, la del ser humano atravesado por un soplo divino, aparece en el principio y al final de la encíclica. La eucaristía y la comunión en y con Dios constituyen un bajo continuo.
Pero el mismo argumento nos dice que, no obstante nuestro ser con Dios, los humanos estamos en condiciones de elegir entre “hacer el bien” y salvarnos o “hacer el mal” y condenarnos. Podemos hacer uso de nuestro libre albedrío y elegir si somos o no los hijos sumisos de Dios. El problema de este argumento es que, si las nuevas tecnologías nos capturan, no es eso lo que haremos sino lo que las máquinas nos hayan ordenado. A fortiori, si la IA logra llegar al estadio del autoperfeccionamiento y la autorreproducción, serán las máquinas las que sigan en la carrera y no nosotros.
Respecto de la solución a esta doble amenaza, me detendré ahora brevemente en la biblioteca del papa, porque en ella se refleja una genealogía. Me refiero a la denominada “doctrina social de la Iglesia”, misma que por lo menos desde la encíclica Rerum Novarum, la del papa León XIII (el nombre que escogió León XIV no es una casualidad), de 1891, ha procurado contener los desmadres del capitalismo, aunque sin exigir su abolición: sí a la dignidad del trabajo y el trabajador, sí a la necesidad de salarios justos, sí a la sindicalización, sí a la extensión global de estas demandas, sí incluso al mayor valor de las personas por sobre el menor valor del capital. No, sin embago, a la pretención maximalista de darle al capital con la puerta en las narices. En la encíclica Centesimus Annus, Juan Pablo II lo planteó claramente: “reconoce el potencial positivo del mercado y de la iniciativa privada”, pero “sólo si se mantienen subordinados a la ley moral y guiados por el principio de solidaridad, sin sacrificar a los más débiles en aras de la lógica del lucro”. No es de extrañar, entonces, que haya sido ese mismo papa el que persiguió (en realidad, exterminó) a los curas de la teología de la liberación a fines del siglo pasado.
A la cola de sus predecesores es, entonces, donde León XIV para su silla con santa humildad. En un sentido inespecífico, se esta encomendando a la tradición de la doctrina social de la Iglesia. Específicamente, recurre a dos tesis generales y a cinco “principios”. Las dos tesis generales reafirman: una, la “dignidad de la vida humana”, de ahí su apasionada defensa de los “derechos humanos”, aparejada a su condena del aborto y la eutanasia, y la segunda, la extensión social de esa misma dignidad.
En cuanto a los cinco principios, ellos son: el “bien común” (“la forma social de la dignidad que se reconoce a cada uno”), el “destino universal de los bienes” (“los bienes de la tierra --el suelo, el agua, el aire y los recursos naturales-- han sido dados por Dios a toda la familia humana para sostener la vida de todos”), el de “subsidiaridad” (“aquello que pueden hacer las personas, las familias, las comunidades locales y los cuerpos intermedios no debe ser absorbido por instancias superiores”), el de “solidaridad” (“todo ser humano es creado a imagen de Dios e incorporado a una red de relaciones que lo vinculan a los demás, a los pueblos y a la creación”) y el de “justicia social” (“Un orden social justo en la era digital es aquel que garantiza a todos un acceso igualitario a las oportunidades”). Se añade a esto un anexo sobre el “desarrollo integral” (“el modo concreto en el cual los grandes principios --dignidad, bien común, destino universal de los bienes, subsidiariedad, solidaridad y justicia social-- se aplican en la historia”).
El capítulo IV de la Magnifica Humanitas trata el problema de la tecnología en profundidad. Escribe el papa ahí: “Confiar, en la práctica, a un algoritmo el poder de seleccionar quién es digno y quién no, sin que nadie asuma el peso de la decisión, significa encomendarle la tarea de redefinir los límites de las posibilidades humanas. Lo que disminuye, en este proceso, no es sólo la empatía hacia el excluido, que puede ser imitada artificialmente, sino la responsabilidad política, porque el descarte de los débiles queda revestido de una neutralidad y una objetividad ante las cuales es imposible protestar”. Es el summun de la tecnocracia, la máquina “experta”, evidentemente neutral puesto que es una máquina, selecciona imparcialmente. ¿Quién va a tener la osadía de discutirlo? Con todo, León XIV piensa que el algoritmo carece de personalidad, que no actúa por cuenta propia, que cumple órdenes: “en muchos casos, en el contexto digital, el control de las plataformas, las infraestructuras, los datos y la capacidad de cálculo no es prerrogativa de los estados, sino de grandes actores económicos y tecnológicos que, de hecho, determinan las condiciones de acceso, las reglas de visibilidad y las mismas posibilidades de participación”.
El golpe del papa es claro y preciso: como las máquinas a vapor de la revolución industrial, los aparatos de esta nueva revolución tecnológica tienen sus propietarios y ellos no son ni los trabajadores que los manipulan ni los usuarios que los emplean (o sobre los cuales recaen sus efectos), sino un puñado de tecnomagnates ultrarricos, que sienten que su poder está por encima de los poderes tanto del Estado como de la sociedad civil. Lo que las palabras del papa no anticipan expresamente, aunque algo de ello asoma aquí y allá en su exposición, es que el algoritmo se les acabe yendo también a estos señores de las manos, que concluya en efecto mandándose solo.
Por otro lado, si bien es cierto que el papa no cree que la IA sea capaz de superar la “grandeza de la persona humana”, reconoce que hay en el mundo quienes sí lo creen y a los que identifica como los promotores del “posthumanismo” y el “transhumanismo”, esos que especulan sobre “una forma de hibridación entre el ser humano, la máquina y el ambiente, hasta imaginar que atravesará el umbral en el que la humanidad se superará a sí misma, entrando en una nueva etapa evolutiva”. No lo dice, pero es obvio que para León XIV estas tendencias “post” constituyen un desatino irresponsable, que son lo contrario del llegar a ser alguna vez el “más que humano” que al creyente le promete su fe.
Un desatino aún más grave es para este papa la prevalencia actual de una “cultura del poder y la guerra”, opuesta a una “cultura de la caridad [la caritas, el cuidado del otro] y el amor”. La IA ha transformado el carácter de la guerra o, mejor dicho, la posesión de las máquinas inteligentes ha hecho que “la decisión sobre la vida y la muerte” sea “más rápida e impersonal”. Hay en realidad una diferencia entre matar cara a cara al enemigo, en el campo de batalla, y que lo mate un dron operado desde un computador. De nuevo, por detrás de la nueva cultura del poder y la guerra el papa percibe el brillo del beneficio económico: “Un elemento decisivo del panorama actual es el crecimiento de la industria bélica, que se ha convertido en un sector clave de la economía de algunos países. La estrecha conexión entre los intereses económicos, los aparatos militares y las decisiones políticas genera una ‘nación armada’, en la que la guerra parece casi una prolongación natural de la política y el mercado de las armas se convierte en un motor autónomo de las decisiones bélicas”. Uno no puede menos que recordar, después de leer estas frases, que la industria armamentistica es una de las pocas que sustentan a la alidecaída economía de Estados Unidos.
El peligro y sus responsables han quedado identificados, por lo tanto. ¿Qué hacer, entonces? Para responder a esta pregunta, León XIV nos ofrece las tesis y los principios de la doctrina social de la Iglesia. Es decir que mete a la Iglesia en un cuadrilátero en el que las nuevas tecnologías, y en particular la IA, están en el centro del ring y en los otros tres costados la sociedad civil, el Estado y los tecnomagnates. El buen papa León estima factible que la Iglesia se constituya en facilitadora de una conversación entre los otros tres actores, una conversación que aproveche el natural deseo humano de hacer el bien. Propone para eso las orientaciones eclesiales que ya señalé, abogando por el primado de la justicia, el diálogo, la protección de las víctimas, el multilateralismo y la diplomacia, y recomendando por fin la oración y la esperanza.
Ha caracterizado el papa a esas alturas algunos de los focos sobre los cuales impacta la IA: sobre la información, sobre la democracia, sobre la educación, sobre el trabajo, sobre el empleo, sobre las familias, sobre el neocolonialismo y sobre las nuevas formas de esclavitud. Sabe que la IA, como todas las máquinas, no se manda sola (al menos hasta ahora). Sabe que los negocios de los tecnomagnates están por detrás. Sabe que cualquier solución implica desactivar a los tecnomagnates. Y sabe que desactivarlos implica recortar los fueros de la libre empresa, introducir el bisturí en las entrañas del capitalismo contemporáneo. Cierto que también reconoce que no basta con invocar genéricamente la religión y la ética: “se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea”. Todo lo cual es indispensable, ni qué decirse tiene, pero, ¿es suficiente? ¿Van a ser el Estado, la sociedad civil y la Iglesia capaces de convencer a Elon Musk y a sus compadres para que se conviertan en unos hinchas fervorosos del bien y la bondad? Yo admiro a este papa, pero tengo mis dudas.