Algoritmos de Guerra. El lado oscuro de la Inteligencia Artificial y la respuesta ética del Papa en su encíclica
Por Luis David Campos, Abogado.
Resumen
La encíclica Magnifica Humanitas de León XIV aborda los desafíos antropológicos, sociales y éticos derivados del desarrollo de la inteligencia artificial. En su Capítulo V, el Pontífice centró su reflexión en la relación entre tecnología, guerra y paz, proponiendo una crítica a la creciente normalización de los conflictos armados y a la utilización de sistemas inteligentes en contextos bélicos. Entre los principales argumentos del documento se desarrollan la «cultura del poder» y la automatización de la violencia. La encíclica viene a ofrecer una contribución significativa al debate contemporáneo sobre la gobernanza ética de la inteligencia artificial y sobre la necesidad de reafirmar la centralidad de la dignidad humana frente a los riesgos de deshumanización inherentes a las nuevas tecnologías militares.
Palabras clave: guerra justa, inteligencia artificial, guerra, paz, ética tecnológica, doctrina social de la Iglesia, dignidad humana, León XIV.
Introduccion
Allá por diciembre del 2021 publique un trabajo titulado “Justificar la Guerra. De San Agustín a la actualidad”[1] donde, además de definir qué debemos entender por guerra, expuse como a través de los años se han realizado numerosos esfuerzos intelectuales para justificar la guerra.
En este sentido, efectué un pormenorizado análisis sobre el esquicio que hace San Agustín sobre la “guerra justa”; cómo, más de 800 años después, continúa el desarrollo de este concepto Santo Tomás de Aquino en su obra “Summa Theologiæ”. Además, expuse la tesis del islam que ve a la guerra como inevitable y establece la ética de la misma en el Corán y en la Sunna; también abordé el tema de la legislación actual y cómo lo ven los organismos internacionales.
Finalmente, tras recordar que mientras en la primera guerra mundial la matanza de civiles no llegaba al 10% en las guerras modernas este guarismo supera el 80%, termino por dejar planteada la pregunta respecto a cómo se justificará la guerra atómica o la actual “cacería de hombres” que se hace mediante el empleo de drones que localizan y abaten blancos con pilotos que los comandan desde miles de kilómetros de distancia; causando muchas veces cuantiosas bajas en la población civil, como se suele decir “daños colaterales”. Hay que considerar que para cuando escribí ese artículo la inteligencia artificial era algo inalcanzable para muchos de nosotros.
Dudo mucho que S.S. el Papa León XIV hubiera tenido algún contacto con mi opúsculo, pero, indudablemente, con la acelerada expansión de las tecnologías digitales y de la inteligencia artificial cuyas aplicaciones abarcan ámbitos tan diversos como la educación, la economía, la salud, la seguridad y la defensa necesariamente se plantean interrogantes éticos de enorme complejidad, particularmente cuando son incorporadas a sistemas militares, o empleadas en escenarios de conflicto armado, o como herramienta para hacer inteligencia, etc.
En este contexto, la encíclica Magnifica Humanitas de León XIV representa una intervención significativa del Magisterio de la Iglesia Católica en el debate contemporáneo sobre la tecnología. Si bien el documento examina múltiples dimensiones de la inteligencia artificial, el Capítulo V desarrolla una reflexión específica sobre la guerra y la paz, proponiendo criterios morales para orientar el uso de las nuevas tecnologías y alertando sobre los peligros derivados de una cultura política fundada en el poder y la dominación.
La transformación de la guerra en la era digital
Uno de los puntos de partida de León XIV consiste en reconocer que la revolución tecnológica está modificando profundamente la naturaleza de los conflictos contemporáneos. La guerra ya no se limita al enfrentamiento convencional entre fuerzas armadas, sino que incorpora dimensiones cibernéticas, informacionales y algorítmicas; en este sentido vemos cómo se han incrementado los ataques cibernéticos, la manipulación informativa y se han automatizado las decisiones militares y los sistemas de selección de objetivos.
Los sistemas de inteligencia artificial permiten procesar grandes cantidades de información, identificar patrones de comportamiento y participar en procesos de toma de decisiones estratégicas. Paralelamente, los ataques informáticos, las operaciones de desinformación y las plataformas automatizadas han ampliado el alcance de las acciones hostiles más allá de los campos de batalla tradicionales.
Según la encíclica, estas transformaciones generan una creciente distancia entre quienes toman decisiones y quienes padecen sus consecuencias. La mediación tecnológica corre el riesgo de reducir la percepción del otro como persona, favoreciendo procesos de deshumanización que disminuyen la sensibilidad moral frente al sufrimiento humano.
Desde esta perspectiva, la cuestión central no reside únicamente en la eficacia de las nuevas herramientas, sino en el impacto que producen sobre la responsabilidad ética de quienes las utilizan.
La cultura del poder y la normalización de la guerra
El Papa León XIV utiliza el concepto de «cultura del poder» para designar una visión de las relaciones humanas e internacionales basada en la lógica de la fuerza, la competencia permanente y la búsqueda de dominio, donde la guerra deja de ser percibida como un fracaso de la política y comienza a presentarse como una herramienta legítima para la resolución de conflictos. No nos olvidemos que, ya a principios del 1800, el famoso militar prusiano Carl Philipp Gottlieb von Clausewitz, en su tratado “De la Guerra”, define a ésta como “la continuación de la política por otros medios”.
El Sumo Pontífice advierte que esta tendencia se manifiesta en la creciente aceptación social y política de la violencia como instrumento ordinario de acción internacional. La guerra deja de percibirse como una tragedia y comienza a ser considerada una herramienta política normal. Sostiene que debe superarse la invocación frecuente de la teoría de la “guerra justa”, usada muchas veces para legitimar conflictos armados.
La encíclica sostiene que, tras las experiencias traumáticas del siglo XX, la comunidad internacional había desarrollado un consenso amplio respecto de la necesidad de evitar la guerra y fortalecer los mecanismos diplomáticos. Sin embargo, dicho consenso se encuentra actualmente debilitado por el resurgimiento de rivalidades geopolíticas, nacionalismos excluyentes y dinámicas de confrontación. La normalización de la guerra implica, por tanto, una transformación cultural profunda: aquello que antes generaba rechazo moral comienza a ser considerado inevitable o incluso deseable.
Inteligencia artificial y responsabilidad moral
La cuestión más innovadora del Capítulo V se refiere al empleo de inteligencia artificial en sistemas militares, rechazando explícitamente la posibilidad de delegar decisiones letales a mecanismos autónomos; alegando que, aunque los algoritmos poseen capacidades avanzadas de cálculo y procesamiento de información, carecen de conciencia moral y, por consiguiente, no pueden asumir responsabilidades éticas.
Esta afirmación se apoya en una distinción fundamental entre inteligencia operativa y juicio moral. Mientras los sistemas tecnológicos pueden optimizar procesos y evaluar alternativas, la valoración ética de una acción continúa siendo una tarea exclusivamente humana.
En consecuencia, sostiene que la responsabilidad por las decisiones relacionadas con la vida y la muerte debe permanecer siempre bajo control humano efectivo. La automatización no puede convertirse en una excusa para diluir responsabilidades ni para justificar acciones moralmente cuestionables. Esta posición no es ajena a límites éticos que se promueven internacionalmente para el desarrollo de sistemas de armas autónomos, pugnando por mecanismos de supervisión adecuados para garantizar los derechos humanos.
La dimensión económica de los conflictos armados
Sobre este particular nos dice que la producción y comercialización de armamentos constituyen actividades de mucha relevancia económica para numerosos actores estatales y privados, lo que indudablemente genera incentivos estructurales muy importantes que pueden favorecer la continuidad de la dinámica de la confrontación, contribuyendo a la persistencia de los conflictos.
Si bien no sería materia de este pequeño ensayo, resulta conveniente resaltar que, conforme se indica en la encíclica, desde la perspectiva de la doctrina social de la Iglesia, la subordinación de la política a intereses económicos vinculados a la industria militar resulta incompatible con la promoción del bien común. La guerra no puede convertirse en un mecanismo de crecimiento económico ni en una fuente ordinaria de beneficios financieros. Es así que León XIV invita a considerar la paz no sólo como una cuestión política o moral, sino también como un desafío relacionado con la organización de las estructuras económicas internacionales.
Crisis del multilateralismo y desafíos para la paz
La encíclica no puede dejar pasar por alto una realidad más que evidente desde hace ya muchos años, esto es la creciente crisis de las instituciones multilaterales creadas para garantizar la cooperación entre los Estados.
Sobre este particular resalta que la disminución de la confianza recíproca entre las naciones, la fragmentación del sistema internacional y la competencia entre grandes potencias han debilitado los mecanismos tradicionales de resolución pacífica de controversias. Como consecuencia, resurgen formas de unilateralismo que privilegian la capacidad de imposición sobre el diálogo, tales como los nacionalismos agresivos y la tendencia a imponer la lógica del más fuerte. A esto hay que agregarle la debilitación del derecho internacional, por lo menos en lo relativo a estos temas.
Sin instituciones capaces de promover el diálogo, arbitrar conflictos y proteger a los más vulnerables se dificulta la construcción de acuerdos globales destinados a regular el uso de tecnologías emergentes y vuelve a imponerse la lógica del “más fuerte”..
Conclusiones
Para el Papa no todo estaría perdido, y propone la construcción de una «civilización del amor», lo que implica una transformación de las relaciones sociales, políticas y económicas a partir de principios como la dignidad humana, la solidaridad, la justicia y la fraternidad. Definiendo a la paz, no solo como ausencia de guerra, sino como el resultado de relaciones justas entre personas y pueblos. Pero el análisis de esta propuesta quedará para otro trabajo.
Lo importante aquí es que el Capítulo V de Magnifica Humanitas constituye una contribución relevante al debate contemporáneo sobre la ética de la inteligencia artificial y sobre los desafíos de la paz en el siglo XXI.
León XIV advierte que el desarrollo tecnológico no puede evaluarse exclusivamente en función de criterios de eficiencia o innovación y que la cuestión decisiva consiste en determinar si dichas tecnologías contribuyen efectivamente al servicio de la persona humana y del bien común.
En su encíclica, si bien mantiene la premisa del derecho a la legítima defensa, rechaza toda forma de automatización que pretenda sustituir la responsabilidad moral humana en decisiones relacionadas con la vida y la muerte; es decir, no es moralmente aceptable delegar decisiones letales a sistemas autnomáticos. Asimismo, denuncia la normalización de la guerra, cuestiona las estructuras económicas que la sostienen y reclama un fortalecimiento de los mecanismos internacionales de cooperación.
Quizás lo más relevante es que el documento sostiene que la humanidad se encuentra ante una elección histórica. Las tecnologías emergentes pueden emplearse para profundizar las dinámicas de control, dominación y violencia, o bien para promover formas más justas y solidarias de convivencia.
Evidentemente en esta carta circular no está completamente definida la respuesta de aquella pregunta que quedara pendiente en aquel trabajo del año 2021, pero es un puntapié importante que puede ser utilizado por los decisores para moldear un futuro mejor.
[1] https://elanalista.com.ar/justificar-la-guerra-de-san-agustin-a-la-actualidad/
Bibliografía
CLAWSEWITZ, C. De la Guerra – Edición Abreviada. Traducción de Celer Pawlowsky. Editorial Tecnos (Grupo Anaya SA). Madrid.
Francisco. Fratelli Tutti. Ciudad del Vaticano: Libreria Editrice Vaticana, 2020.
Juan Pablo II. Centesimus Annus. Ciudad del Vaticano: Libreria Editrice Vaticana, 1991.
León XIII. Rerum Novarum. Ciudad del Vaticano: Libreria Editrice Vaticana, 1891.
León XIV. Magnifica Humanitas. Ciudad del Vaticano: Libreria Editrice Vaticana, 2026.
Pablo VI. Populorum Progressio. Ciudad del Vaticano: Libreria Editrice Vaticana, 1967.
Pablo VI. Discurso ante la Asamblea General de las Naciones Unidas, 4 de octubre de 1965.
Pontificio Consejo Justicia y Paz. Compendio de la Doctrina Social de la Iglesia. Ciudad del Vaticano: Libreria Editrice Vaticana, 2004.
Santo Tomás de Aquino. Suma Teológica. Madrid: Biblioteca de Autores Cristianos, diversas ediciones.
Paul VI. (1967). Populorum progressio. Libreria Editrice Vaticana.
Aviso Legal: El contenido del presente articulo no fue redactado por #ElAnalista, siendo el mismo exclusiva autoría y propiedad intelectual de su creador. El articulo podría no reflejar las opiniones de #ElAnalista como organismo.