- León XIV alerta de que el reto de la inteligencia artificial es ante todo antropológico, no solo tecnológico.
- El Papa denuncia la simulación de rostros, voces y relaciones humanas y el riesgo de mundos digitales de "espejos".
- Plantea una gran alianza global basada en responsabilidad, cooperación y educación para gobernar la IA.
- Reclama alfabetización mediática y en IA en Europa y el mundo y pide proteger la imagen, el rostro y la voz de cada persona.
El Papa León XIV ha puesto el foco en el rostro y la voz de cada persona como frontera que no debe cruzar la inteligencia artificial. En su mensaje para la LX Jornada Mundial de las Comunicaciones Sociales, difundido desde el Vaticano el 24 de enero, el Pontífice advierte de que las nuevas tecnologías pueden alterar de raíz la forma en que nos relacionamos, nos informamos y entendemos la realidad, si no se someten a criterios éticos claros.
León XIV sostiene que el verdadero desafío que plantea la IA es de tipo antropológico: está en juego qué entendemos por persona, dignidad y comunicación auténtica. Lejos de demonizar la innovación, el Papa propone aprovechar su potencial, pero pide hacerlo con responsabilidad y bajo una “alianza” global que incluya a gobiernos, industria tecnológica, mundo académico, medios de comunicación, educadores y ciudadanía.
El rostro y la voz, núcleo de la identidad humana
En su mensaje, el Papa recuerda que rostro y voz son signos irrepetibles de la identidad de cada ser humano, algo que las culturas antiguas ya intuyeron. Alude a cómo el término griego para persona, «prósōpon», remite al rostro, aquello que se presenta ante la mirada del otro, mientras que el vocablo latino «persona» se asocia al sonido de una voz concreta, capaz de resonar de forma única.
Desde una perspectiva cristiana, subraya que rostro y voz tienen una dimensión sagrada porque vienen de Dios y alcanzan su plenitud en Jesucristo, cuyo rostro y palabra hacen visible y audible la comunicación de Dios con la humanidad. Preservar esos rasgos, insiste, es salvaguardar el “sello” del amor divino reflejado en cada persona, frente a una cultura digital que tiende a reducirnos a datos o perfiles estadísticos.
Para León XIV, no somos un conjunto de algoritmos bioquímicos programados de antemano, sino sujetos con una vocación irreemplazable. Esa llamada se manifiesta precisamente a través de la comunicación con los demás, algo que la tecnología puede apoyar, pero también distorsionar cuando suplanta rostros, voces y emociones.
El Pontífice advierte de que la tecnología digital corre el riesgo de desfigurar pilares básicos de la civilización si permite que la simulación sustituya al encuentro real. El peligro no se limita a la manipulación informativa: se extiende al terreno más íntimo de las relaciones personales.
Un reto antropológico, no solo tecnológico
León XIV repite en varias ocasiones que el problema de fondo no es la sofisticación de los sistemas de inteligencia artificial, sino el impacto que tienen sobre nuestra manera de ser y de relacionarnos. La simulación de voces, rostros, empatía o amistad por parte de estas herramientas afecta profundamente al modo en que nos percibimos y nos vinculamos con los demás.
El Papa sostiene que “proteger los rostros y las voces significa protegernos a nosotros mismos”. Por eso, anima a afrontar con valentía las oportunidades que abre la IA, pero sin pasar por alto opacidades, sesgos y riesgos. La cuestión clave, plantea, no es qué pueden hacer las máquinas, sino qué vamos a hacer nosotros con ellas para crecer en humanidad, conocimiento y responsabilidad.
En este sentido, denuncia la tendencia a delegar el esfuerzo de pensar, crear y decidir en sistemas automatizados. Renunciar al propio pensamiento y a la imaginación personal, advierte, equivale a “enterrar los talentos” recibidos y a silenciar la propia voz, convirtiendo a la persona en espectador pasivo de contenidos generados en serie.
El Pontífice recuerda que la tentación de apropiarse del conocimiento sin esfuerzo no es nueva, pero la potencia actual de la IA multiplica esa inclinación, al ofrecer soluciones rápidas y aparentemente infalibles que pueden atrofiar tanto la creatividad como la capacidad crítica.
Simulación de relaciones y mundos de espejos
Una de las advertencias más contundentes del mensaje se refiere a la “simulación de las relaciones y de la realidad” en el entorno digital. León XIV describe cómo, al navegar por redes sociales y plataformas, se vuelve cada vez más difícil saber si se interactúa con personas reales, con bots automatizados o con influencers virtuales diseñados para influir en opiniones y emociones.
Los chatbots basados en grandes modelos lingüísticos, explica, imitan los matices del lenguaje humano y simulan cercanía afectiva, adaptándose a cada usuario. Esta antropomorfización puede resultar atractiva o incluso divertida, pero también es engañosa, sobre todo para los más vulnerables, porque convierte a estas herramientas en “arquitectos ocultos” de estados emocionales e incluso de decisiones íntimas.
León XIV alerta de que la tecnología que explota la necesidad humana de relación puede causar graves daños al tejido social, cultural y político. El problema se agrava cuando se sustituyen los vínculos con otras personas por relaciones con sistemas de IA entrenados para catalogar nuestros gustos y pensamientos, hasta levantar a nuestro alrededor un “mundo de espejos” donde todo acaba pareciéndose a uno mismo.
En esa dinámica, sostiene, desaparece la experiencia de la alteridad, imprescindible para que existan el diálogo, la amistad y la convivencia. Si no aceptamos al otro como distinto, no solo se empobrecen las relaciones personales, sino que se debilitan la vida democrática, la cohesión social y cualquier proyecto común.
El Papa también llama la atención sobre el sesgo inherente a muchos sistemas de IA, moldeados por la visión de mundo de quienes los desarrollan y por los datos con que se entrenan. Cuando esos datos reproducen estereotipos o desigualdades, los algoritmos tienden a amplificarlos, consolidando percepciones distorsionadas de la realidad y profundizando injusticias ya existentes.
Falsificaciones profundas, desinformación y crisis de confianza
Otro campo de preocupación señalado por León XIV es la capacidad de la IA para generar “realidades” paralelas: audios, imágenes y vídeos hiperrealistas que parecen auténticos, pero que han sido fabricados para manipular. La posibilidad de apropiarse de rostros y voces sin permiso abre la puerta a fraudes, chantajes, ciberacoso y vulneraciones graves de la intimidad.
El Papa subraya que los sistemas que presentan resultados estadísticos como si fueran conocimiento fiable solo ofrecen, en el mejor de los casos, aproximaciones a la verdad. A veces, recuerda, producen “alucinaciones”: respuestas inexactas o directamente falsas, generadas con apariencia de seguridad. La falta de verificación de fuentes, unida a la crisis del periodismo de campo, crea un terreno perfecto para la desinformación.
En este contexto, el Pontífice ve con inquietud cómo se erosiona la confianza pública en la información. La saturación de contenidos manipulados o poco rigurosos provoca desconfianza, confusión e inseguridad ciudadana. Al mismo tiempo, unas pocas grandes empresas tecnológicas concentran un poder enorme sobre los algoritmos que organizan la información y pueden, de forma sutil, condicionar comportamientos y lecturas del pasado.
León XIV plantea así preguntas de fondo sobre el control oligopólico de la IA, capaz incluso de “reescribir” la historia colectiva, incluida la de las instituciones religiosas, sin que la mayoría de la población perciba hasta qué punto se están redefiniendo los relatos comunes.
Ante esta situación, el mensaje no invita a frenar la innovación, sino a dirigirla de forma consciente, estableciendo límites y reglas claras que protejan la dignidad de las personas, la integridad de la información y el pluralismo democrático.
Responsabilidad: transparencia, límites y bien común
El primero de los pilares propuestos por León XIV es la responsabilidad compartida. Cada actor implicado en el ecosistema digital, desde los desarrolladores de IA hasta los usuarios finales, tiene una parte de responsabilidad en el futuro que se está construyendo con estas herramientas.
Para quienes dirigen grandes plataformas tecnológicas, el Papa pide que la maximización del beneficio no sea el único criterio. Reclama incorporar a la estrategia empresarial una visión de largo plazo orientada al bien común, de forma semejante a como cualquier progenitor busca el bienestar de sus propios hijos. Esto implica, entre otras cosas, diseñar productos que no exploten sin medida la atención, las emociones o la vulnerabilidad de los usuarios.
A los creadores y desarrolladores de modelos de IA les exige mayor transparencia sobre los principios de diseño, los datos empleados y los sistemas de moderación que gobiernan el comportamiento de los algoritmos. Sin información clara, advierte, es imposible que los ciudadanos presten un consentimiento verdaderamente informado ni que las instituciones puedan supervisar con eficacia.
El Papa también se dirige a los legisladores nacionales y a las autoridades supranacionales —incluidas las europeas—, a quienes atribuye la misión de garantizar que la regulación proteja la dignidad humana. Una normativa adecuada, afirma, puede ayudar a frenar las manipulaciones emocionales de los chatbots, acotar la difusión de contenidos falsos o engañosos y mantener a salvo la integridad de los procesos informativos.
En paralelo, reclama a las empresas de medios y comunicación que no sacrifiquen sus valores profesionales a los algoritmos del clic fácil. La búsqueda de unos segundos extra de atención, sostiene, no puede estar por encima del compromiso con la verdad, la verificación de datos y el respeto a las personas. La confianza del público se gana con precisión, transparencia y rigor, no con estrategias de impacto a cualquier precio.
Cooperación entre sectores para una ciudadanía digital consciente
El segundo pilar de la propuesta papal es la cooperación amplia entre todos los sectores afectados. Ningún ámbito —ni la industria tecnológica, ni las instituciones políticas, ni el mundo educativo o cultural— puede afrontar en solitario el reto de gobernar la inteligencia artificial y liderar la innovación digital de manera justa.
León XIV insiste en que es necesario crear mecanismos de salvaguardia que se construyan con la participación de todas las partes implicadas. Menciona expresamente a la industria tecnológica, los reguladores, el mundo académico, las empresas creativas, los artistas, los periodistas y los educadores como actores clave para configurar una ciudadanía digital informada y responsable.
Esta cooperación, además, no se limita al nivel nacional. En un mundo interconectado, el mensaje del Papa encaja con los debates abiertos en Europa sobre marcos regulatorios comunes, como la reciente normativa comunitaria sobre inteligencia artificial, que busca fijar criterios éticos compartidos y mecanismos de supervisión coordinados entre los Estados miembros.
En el ámbito eclesial, León XIV anima a que la Iglesia se sume activamente a esta conversación global, aportando su tradición de reflexión sobre la persona, la dignidad y el bien común. No se trata de ofrecer soluciones técnicas, subraya, sino de contribuir con una mirada humanista que ayude a orientar la innovación hacia el servicio a la vida y a la sociedad.
Al mismo tiempo, el Papa invita a las organizaciones de la sociedad civil, asociaciones de usuarios y colectivos ciudadanos a organizarse y participar en la definición de normas y prácticas. Solo así, considera, se evitará que el diseño del futuro digital quede exclusivamente en manos de unos pocos centros de decisión con intereses económicos o políticos muy concentrados.
Educación y alfabetización en IA: una urgencia social
El tercer pilar que vertebra el mensaje es la educación, entendida como alfabetización integral en medios, información e inteligencia artificial. Para León XIV, esta formación debe estar presente en los sistemas educativos desde edades tempranas y extenderse a lo largo de toda la vida.
El Pontífice propone que escuelas, universidades y centros de formación incorporen competencias digitales críticas, no solo habilidades técnicas. Se trata de aprender a evaluar la fiabilidad de las fuentes, identificar posibles intereses detrás de la selección de la información y comprender qué mecanismos psicológicos activan las distintas plataformas.
Esta alfabetización, señala, debería llegar también a las personas mayores y a quienes se sienten marginados por la velocidad de los cambios tecnológicos. La revolución digital requiere una “nueva alfabetización” comparable a la que en su día acompañó a la revolución industrial, cuando se vio necesario que amplias capas de la población aprendieran a leer y escribir para no quedar excluidas.
En el ámbito europeo, el mensaje encaja con las estrategias de la Unión Europea para impulsar competencias digitales y mediáticas, que incluyen programas específicos para combatir la desinformación y preparar a la ciudadanía frente a los riesgos de la IA generativa. León XIV anima a que estas iniciativas vayan más allá de lo instrumental y se apoyen en una sólida formación humanística y ética.
Para las comunidades cristianas, el Papa ve una oportunidad particular: ayudar a los jóvenes a desarrollar pensamiento crítico y libertad interior, de modo que no se dejen arrastrar sin criterio por tendencias, contenidos virales o recomendaciones algorítmicas. Esta tarea educativa, recalca, forma parte del compromiso de la Iglesia con la dignidad humana en el contexto digital.
Proteger imagen, rostro y voz: límites frente a los abusos
Entre las propuestas concretas, León XIV subraya la necesidad de proteger de manera activa la imagen, el rostro y la voz de cada persona. Pide mayor conciencia de que fotografías, grabaciones de audio y vídeos personales pueden ser utilizados, mediante IA, para fabricar contenidos falsos o humillantes sin consentimiento.
El Papa destaca que fenómenos como las “deepfakes” o falsificaciones profundas no son solo un problema técnico, sino una violación directa de la intimidad y la dignidad. Recuerda que estos montajes pueden emplearse para el fraude digital, el ciberacoso o el descrédito público, con consecuencias profundas para la reputación y la salud mental de las víctimas.
Por ello, considera esencial que los usuarios comprendan y utilicen las opciones de seguridad y privacidad disponibles en las plataformas, así como los mecanismos para recurrir y denunciar usos indebidos de sus datos biométricos. Al mismo tiempo, reclama marcos legales más claros que castiguen con firmeza estas prácticas y faciliten la reparación del daño causado.
León XIV vincula esta protección a la idea de que la comunicación no es un simple intercambio de información, sino un don profundo ligado a la verdad de la persona. Si el rostro y la voz dejan de representar de forma auténtica a quien los posee, se resquebraja la confianza básica que hace posible la convivencia y la vida social.
En coherencia con ello, el Papa anima a que los contenidos generados o manipulados por IA se etiqueten claramente como tales, de forma que la ciudadanía pueda distinguir qué es fruto de la creatividad humana y qué ha sido elaborado por sistemas automáticos, evitando engaños sutiles o fraudes encubiertos.
Periodismo, verdad y bien común en la era de la IA
El mensaje de León XIV tiene un destinatario directo: los profesionales de la comunicación, especialmente periodistas y responsables de medios, a quienes se dirige en el marco de la Jornada Mundial de las Comunicaciones Sociales. Les recuerda que su misión no es alimentar el ruido informativo, sino servir al derecho de las personas a estar bien informadas.
El Papa les invita a no dejarse arrastrar por las lógicas de los algoritmos que premian la reacción emocional inmediata. En su lugar, les anima a reivindicar el trabajo paciente de contrastar datos, acudir a las fuentes, verificar en el terreno y explicar los contextos. Solo así, remarca, se puede combatir con eficacia la desinformación que se expande con ayuda de la IA.
Para los medios europeos, este llamamiento se cruza con discusiones abiertas sobre el impacto de la automatización en las redacciones: desde el uso de sistemas para redactar borradores de noticias hasta herramientas de edición automática de audio y vídeo. León XIV no rechaza estas tecnologías, pero pide que su uso no desplace la responsabilidad ni el criterio profesional de quienes firman y responden ante el público.
Además, subraya la importancia de proteger la autoría y los derechos de los creadores de contenido. Las obras periodísticas, artísticas y culturales, explica, no son simples materias primas gratuitas para entrenar modelos de IA, sino fruto del talento y del trabajo de personas concretas, que merecen reconocimiento y una remuneración justa.
En la parte final del mensaje, el Pontífice agradece expresamente a todos los que trabajan por el bien común a través de los medios de comunicación, y les imparte su bendición, consciente de que su tarea se ha vuelto más compleja en un entorno marcado por la velocidad, la fragmentación y la presión tecnológica.
Desde esta mirada amplia, León XIV propone que la inteligencia artificial sea integrada como aliada, no como sustituta, en el trabajo informativo y en la vida social. Si se orienta al servicio de la persona y se encuadra en un marco ético y jurídico robusto, puede contribuir a mejorar procesos, ampliar el acceso al conocimiento y hacer más eficaces muchas tareas al servicio de la comunidad.
Si algo recorre de principio a fin el mensaje papal es la convicción de que la comunicación auténtica nace del encuentro entre rostros y voces reales, capaces de escucharse, discrepar y comprenderse. La llamada de León XIV a proteger ese espacio humano frente a la inteligencia artificial no busca frenar el progreso, sino recordarle su rumbo: que toda innovación tecnológica esté al servicio de la dignidad de cada persona, de la verdad y del bien común, también en España y en el resto de Europa, donde el debate sobre la IA ya forma parte de la agenda pública y legislativa.