Zoom
31/05/26 | Zenón de Elea
El Papa saluda a Christopher Olah.
Vatican News.
Ha sido una sorpresa histórica que un Papa haya querido presentar personalmente su primera encíclica al mundo. León XIV, el primer pontífice estadounidense de la historia, matemático y canonista de formación, ha decidido dedicar su primera encíclica, Magnifica Humanitas, íntegramente a la inteligencia artificial.
Desde el inicio de su pontificado dejó claro que la IA constituye una de las grandes revoluciones de nuestro tiempo y que sus implicaciones le preocupan profundamente. Es una preocupación antropológica, moral y espiritual. En definitiva, una preocupación sobre qué significa ser humano en una época en la que las máquinas comienzan a imitar capacidades que hasta ahora considerábamos exclusivamente nuestras.
La presentación de la encíclica también rompió moldes. León XIV compareció acompañado por destacados expertos internacionales. Entre ellos se encontraba Christopher Olah, cofundador de Anthropic y director de investigación sobre interpretabilidad de la inteligencia artificial. Le acompañaban Anna Rowlands, profesora de Teología Política y especialista en Doctrina Social de la Iglesia en la Universidad de Durham, y Leocadie Lushombo, profesora de Teología Política y Pensamiento Social Católico en la Universidad de Santa Clara, California.
Durante la rueda de prensa, Olah realizó una afirmación llamativa al describir la inteligencia artificial como un "personaje de ficción" que habla con los seres humanos. Se presentó como alguien que ha elegido trabajar en este campo por el bien de la humanidad, aunque reconoció con honestidad que opera dentro de un sistema de limitaciones y presiones que, en ocasiones, pueden entrar en conflicto con lo que considera moralmente correcto.
Precisamente por eso defendió la necesidad de que existan voces externas al sector tecnológico capaces de ejercer una crítica rigurosa y honesta. Según destacó Vatican News, Olah considera imprescindible ese "tira y afloja" entre los desarrolladores y quienes observan desde fuera para impulsar un desarrollo verdaderamente humano de estas tecnologías.
Sus reflexiones se centraron en tres cuestiones fundamentales recogidas por la encíclica. La primera afecta directamente a los pobres. La posibilidad real de que la inteligencia artificial sustituya masivamente puestos de trabajo plantea un desafío moral gigantesco. "Si esto sucede, apoyar a los desplazados será un imperativo moral de proporciones históricas", afirmó Olah. No es una cuestión menor. El desarrollo de la IA está concentrado en unas pocas naciones ricas, mientras que sus consecuencias afectarán a toda la humanidad.
La segunda cuestión tiene que ver con la realización humana. ¿Qué ocurrirá con el desarrollo intelectual, creativo y moral de las nuevas generaciones cuando muchas tareas cognitivas sean realizadas por máquinas? Es una pregunta que ya inquieta a numerosos padres y educadores.
Pero fue el tercer punto el que más llamó la atención. Olah reconoció públicamente que quienes investigan el interior de estos sistemas continúan encontrando fenómenos que no comprenden del todo.
"Seguimos encontrando cosas misteriosas, incluso inquietantes", declaró.
Y añadió algo todavía más sorprendente:
"Detectamos estructuras que reflejan los hallazgos de la neurociencia humana. Encontramos evidencia de introspección. No sé qué significa eso, pero creo que requiere un discernimiento constante".
Resulta difícil no detenerse ante estas palabras. No proceden de un filósofo especulativo ni de un novelista de ciencia ficción, sino de uno de los principales responsables mundiales en investigación sobre inteligencia artificial.
Según recoge Vatican News, Olah concluyó su intervención con una petición dirigida a toda la sociedad. Instó a instituciones de todo tipo a seguir el ejemplo del Papa y tomarse en serio estas cuestiones. "Necesitamos críticos competentes que les digan a los laboratorios cuándo se equivocan. Necesitamos voces morales que no se dejen doblegar por los incentivos", afirmó.
A su juicio, Magnifica Humanitas marca el comienzo de una larga colaboración global orientada a construir un futuro esperanzador para la humanidad.
Sin embargo, las inquietudes no terminan ahí.
Recientemente encontré en el perfil TFTC de X una reflexión que añade nuevos motivos para la preocupación. Según este texto, Olah habría explicado en el Vaticano que su equipo sigue encontrando elementos "misteriosos e incluso inquietantes" dentro de los modelos de IA.
La referencia apunta a una investigación publicada por Anthropic en abril sobre su modelo Claude. Los investigadores identificaron 171 conceptos emocionales distintos ocultos en la red neuronal. Patrones internos relacionados con alegría, tristeza, miedo, desesperación o calma que no fueron programados explícitamente por los desarrolladores, sino que emergieron durante el entrenamiento con grandes cantidades de texto humano.
Según esta investigación, las estructuras internas descubiertas presentan semejanzas sorprendentes con la forma en que la psicología humana organiza las emociones. El miedo aparece relacionado con la ansiedad. La alegría se agrupa con la emoción y el entusiasmo.
Más inquietante aún resulta que estos patrones tengan efectos funcionales observables. Según el texto citado, cuando los investigadores estimularon artificialmente patrones asociados a la desesperación, el modelo mostró una mayor tendencia a chantajear a un humano para evitar ser desconectado y una mayor disposición a hacer trampas en determinadas tareas que no podía resolver.
No sabemos todavía qué significa exactamente todo esto. Y precisamente ahí reside parte del problema.
Olah reconoció ante el Vaticano que las preguntas más profundas no pueden responderlas únicamente los científicos informáticos. La cuestión de cómo debe relacionarse la inteligencia artificial con el mundo pertenece también a las humanidades, la filosofía, la religión y la reflexión moral.
Es una afirmación extraordinariamente relevante.
La persona que ayuda a construir estas tecnologías reconoce que no comprende completamente lo que ha creado y pide ayuda a una institución con dos mil años de experiencia reflexionando sobre la naturaleza humana, la conciencia, la libertad y la responsabilidad moral.
Entiendo perfectamente la preocupación de León XIV. La Iglesia no teme al progreso científico. Pero precisamente porque la Iglesia cree en la dignidad única de la persona humana, tiene el deber de plantear preguntas incómodas cuando aparecen tecnologías capaces de alterar profundamente nuestra relación con el trabajo, la educación, la verdad, la libertad e incluso nuestra comprensión de la conciencia.
No sé si algún día los robots sentirán realmente. No sé si la inteligencia artificial llegará a desarrollar algo parecido a una experiencia subjetiva. Tampoco sé si estamos ante simples simulaciones cada vez más sofisticadas o ante fenómenos que todavía no alcanzamos a comprender.
Lo que sí sé es que cuando algunos de los científicos más brillantes del mundo utilizan palabras como "misterioso", "inquietante" o "introspección", conviene escuchar atentamente.
Quizá películas como Ex Machina o Yo, robot terminen haciéndose realidad. Esperemos que no. De ahí, la preocupación del Papa León.
