El Papa León XIV advierte sobre los riesgos de la IA en democracia, empleo y conflictos

El papa León XIV publicó un documento de 83 páginas titulado "Magnifica Humanitas" en el que advierte sobre los efectos transformadores de la inteligencia artificial en áreas críticas de la sociedad moderna. El manifiesto, presentado el lunes desde el Vaticano, analiza cómo la tecnología impacta en la democracia, el empleo, las guerras, las redes sociales y la protección de menores.

En materia de desinformación, León afirmó que la IA encontró un "poderoso amplificador" para manipular contenidos, imágenes y videos, exponiendo a las personas a perspectivas sesgadas o engañosas. El pontífice sostuvo que la democracia se debilita cuando el pragmatismo —lo que parece útil y efectivo— sustituye a la verdad. "La indiferencia hacia la verdad conduce, lenta pero inexorablemente, a un descenso hacia el totalitarismo", escribió León en el documento.

El papa enfatizó que quienes controlan las plataformas digitales y redes sociales poseen un poder que debe estar constantemente guiado por la búsqueda de la verdad y el respeto por la dignidad humana. Internet debería ser un ámbito donde maduran la libertad interior y el pensamiento crítico, no un instrumento de distracción excesiva, homogeneización o dominación. Señaló que la comunicación no solo transmite información: crea cultura.

Respecto al mercado laboral, León pidió "la protección de las oportunidades de empleo y el papel irremplazable del individuo". Advirtió que la búsqueda de mayores ganancias no puede justificar decisiones que sacrifiquen sistemáticamente puestos de trabajo, porque la persona humana es un fin y no un medio. El pontífice instó a los gobiernos a fomentar condiciones que favorezcan el empleo, considerado un bien primario para las familias y las sociedades.

En cuestiones de conflictividad, León afirmó que la IA "solo puede acelerar los conflictos y volverlos más impersonales". Pidió criterios concretos al tomar decisiones de ataque, incluyendo una cadena identificable de responsabilidades para "quienes diseñan, entrenan, autorizan y emplean tecnología". También exigió que la selección de objetivos diferencie entre combatientes y no combatientes, y midiera el impacto sobre poblaciones indefensas. El papa reclamó garantías de rendición de cuentas y prohibió la automatización de decisiones que impliquen uso de fuerza letal.

León observó que la riqueza mundial "está cada vez más concentrada en menos manos, ampliando las desigualdades". En la era de la IA y la robótica, no es posible depender únicamente de la "mano invisible" del mercado. Instó a los políticos a orientar las políticas hacia el bien común, promoviendo "trabajo digno, inclusión social y una distribución equitativa de los beneficios de la innovación".

El pontífice subrayó el papel de las redes digitales en la trata de personas, describiéndola como "una forma contemporánea de esclavitud". Advirtió que no responder o tolerar estas prácticas implica complicidad con "los pecados de hoy, semejantes a los del pasado cuando la esclavitud era ocultada y justificada".

León también abordó los costos ambientales de los centros de datos que generan modelos de IA, los cuales consumen enormes cantidades de energía y agua. A medida que aumentan las demandas, especialmente por grandes modelos de lenguaje, pidió desarrollar soluciones tecnológicas más sostenibles.

Sobre la protección de menores, el papa alertó contra la "cultura de la inmediatez y la sobreestimulación" creada por los medios digitales. Advirtió sobre fenómenos como grooming, chantaje y explotación sexual de jóvenes, amplificados por perfiles falsos, algoritmos que facilitan contactos peligrosos y herramientas de IA capaces de manipular imágenes y videos. Pidió una alianza entre responsables políticos, instituciones educativas y familias para enfrentar estos riesgos, y alertó contra el uso de dispositivos móviles personales a edades demasiado tempranas.