“He venido para que tengan vida, y para que la tengan en abundancia”, dijo Jesús. Pero ¿qué pasa cuando las luces de la vida amenazan a la vida misma y a nuestro bienestar? Concretamente, no es la pregunta que responde el Papa León XIV en su primera encíclica, pero mucho hay de ello y este es nuestro tema de hoy.
“La paz no solo es ausencia de guerra, es justicia en acción. Pero cuando la tecnología disminuye nuestro sentido crítico, la paz corre peligro”, dijo su Santidad el pasado lunes al presentar su encíclica titulada Magnifica Humanitas. Sobre la custodia de la persona humana en el tiempo de la Inteligencia Artificial.
“Como advertía el Papa Francisco, debemos preguntarnos con realismo quién detenta hoy ese poder y hacia qué fines lo orienta: «No podemos ignorar que la energía nuclear, la biotecnología, la informática, el conocimiento de nuestro propio ADN y otras capacidades que hemos adquirido […] dan a quienes tienen el conocimiento, y sobre todo el poder económico para explotarlo, un dominio impresionante sobre el conjunto de la humanidad y del mundo entero»”.
De manera vertiginosamente apretada, la cita anterior podría condensar la reflexión sobre la cual llama nuestra atención el Vaticano. Es usual, al menos en estas horas recientes del mundo, que los pontífices expresen su corpus académico en el pulso social. León XIV cita al Papa Francisco —su antecesor inmediato— en más de veinte ocasiones.
Antes del Papa Francisco, junto con Karl Popper, el Fondo de Cultura Económica (FCE) publicó en 2006 un librito con un texto del Papa Juan Pablo II: La televisión es mala maestra. A veces parece que la fe es inamovible como una montaña, pero no es así; muchas veces resulta más dinámica que el viento.
Esta encíclica de León XIV fue presentada el lunes 25 de mayo en la Sala Nueva del Sínodo, en el Vaticano, y no fue un monólogo. En esta primera de dos partes expondremos algo de lo que ahí mencionó Christopher Olah, canadiense, cofundador de Anthropic, empresa desarrolladora del chatbot “Claude” e investigador en el campo de la Inteligencia Artificial (IA).
“Los laboratorios de IA se encuentran en un conflicto con hacer lo correcto, junto con la presión por mantenerse comercialmente viables y permanecer en la vanguardia de la investigación, aunado a la presión geopolítica y las presiones más antiguas y simples del orgullo, la ambición”, así inició Olah, al ser invitado a comentar la encíclica de León XIV.
Además de Olah, hubo distintos actores sociales invitados a expresar su voz, pero también cardenales. La Iglesia no es un punto fijo: hay posturas, corrientes, versiones. Había que escuchar a todas las voces.
La mejoría ilimitada
En la presentación del lunes pasado, el cardenal Pietro Parolin decía que la confianza en la tecnología está tomando el lugar de la fe. La promesa de mejora ilimitada se está convirtiendo en la promesa de un nuevo paraíso. Y es que sí, desde hace veinte, treinta años al menos, tenemos como humanidad la fantasía de que todo va en ascenso y no vemos el hoyo en el que estamos. Es como la anécdota de Tales de Mileto, que un día se cayó en una zanja por andar contemplando las estrellas.
“Los sistemas de Inteligencia Artificial no se diseñan de la manera en que se diseña un puente o un avión. Los modelos de inteligencia artificial no son así: se cultivan sobre una estructura modelada a partir del cerebro, alimentados por una enorme herencia de pensamiento y lenguaje humano”, apuntó Olah.
Tasar al humano de acuerdo con su productividad es un error y, ahora, es un señalamiento agustino gracias a la reflexión encíclica de León XIV. ¿Para qué se creó la Inteligencia Artificial? León XIII hizo su encíclica sobre la Revolución Industrial el 15 de mayo de 1891. Sin denostar a los desarrolladores, es la misma cosa: mayor eficiencia, mayor productividad, mayores utilidades.
Veamos. Olah, a mi parecer, fue sincero: desde los laboratorios de IA no podemos ver todo, hay muchos puntos ciegos. Debemos tener una “responsabilidad moral compartida”. Debemos tener una responsabilidad cognitiva. No podemos arrendar nuestra capacidad de pensar. Con un chatbot eso es demasiado fácil. Si lo consultamos a los veinte, treinta, cuarenta años, tenemos la posibilidad de hacernos hacia varios lados. Quizá tengamos la posibilidad de discernir. Si dominamos alguna materia, incluso podamos corregir al bot.
Un niño o una niña que nace y crece en tiempos de la inteligencia artificial, ¿cómo descubrirá el mundo? ¿Lo hará a través de la IA, aun cuando esta herramienta pueda estar guiada más por intereses que por la verdad, o incluso por maliciosos sesgos?
“La idolatría del lucro que sacrifica a los débiles, la uniformidad que aplana las diferencias, la pretensión de un lenguaje único —incluso digital— capaz de traducirlo todo, incluso el misterio de la persona, en datos y rendimientos”, es el diagnóstico de Magnifica Humanitas sobre nuestros tiempos.
El espacio se nos acaba. “Edificar en el bien significa aceptar los límites y la fragilidad de la humanidad sin considerarlos un error que haya que corregir. Hoy en día, el deseo de plenitud del ser humano corre el riesgo de desviarse hacia metas engañosas: la ilusión de una tecnología que promete liberarnos de toda fragilidad o modelos de bienestar que ‘dejan atrás’ a pueblos enteros”.
El sistema gerencial de “mejora continua” parece haber absorbido el ideal social; es lo que nos sugiere Magnifica Humanitas. “Edificar un mundo en el que todos puedan ‘florecer’ exige una corresponsabilidad valiente… Ninguna mano, por sí sola, basta para sostener el peso de los desafíos que atraviesa el mundo; y ninguna es tan débil como para no poder ofrecer su contribución”.
Evitar la polarización
Abundaremos el tema en una próxima entrega. Por ahora, ayudaría mucho evitar los polos. Magnifica Humanitas no sataniza la tecnología, pero sí advierte claramente de sus riesgos e intereses. Durante su presentación, el cardenal Víctor Manuel Fernández planteó una dicotomía: “Todas estas consideraciones nos dejan un mensaje muy poderoso y decisivo, o más bien nos plantean una pregunta fundamental para nuestra conciencia, para la mía y la suya. Quiero pertenecer a esa humanidad cerrada sobre sí misma, decadente, vacía, insensible, orgullosa de sus recursos tecnológicos, hasta el punto de adorarse a sí misma en lugar de adorar a Dios. O deseo pertenecer a esa magnífica humanidad con la que Dios soñó: esa capacidad de amar, de dar la vida por los demás, de sufrir con ellos, de permitirse llevar y ser llevada más allá de sí misma para ser plenamente ella misma en la amistad con Dios”.
No se trata de bandos ni de buenos contra malos, sino de comprensión colectiva: entendimiento conjunto, desarrollo compartido: “justicia en acción”. La humanidad, ciertamente, cuando se lo propone llega a ser magnífica; y para ello no necesita ningún chatbot. Ahora que tenemos esta herramienta, ¿podremos alcanzar una magnificencia mayor? ¿Es deseable, y más aún, sostenible? Lo estamos por descubrir. Se hace de noche, las luces se empiezan a encender.
