La Dra. Roser Martínez analiza el desplazamientode la decisión humana en la guerra tecnológica

Seguridad y Defensa en la era de la Inteligencia Artificial: la Dra. Roser Martínez analiza los riesgos éticos, jurídicos y estratégicos de las armas autónomas, la pérdida de control humano en la toma de decisiones militares y el desafío de la soberanía tecnológica europea.

En el marco del Seminario Internacional de Seguridad y Defensa “Aliados y amenazas”, celebrado recientemente en Toledo, la Dra. Roser Martínéz Quirante abordó el impacto estructural de la Inteligencia Artificial y de los sistemas autónomos en los conflictos contemporáneos, advirtiendo de los riesgos éticos, jurídicos y estratégicos derivados de la delegación de decisiones críticas en tecnologías automatizadas.

La guerra ya no se decide solo en territorios ni en frentes visibles. Cada vez más, se configura en arquitecturas invisibles de datos, algoritmos y sistemas mecanizados. Bajo esta premisa se celebró en Toledo el Seminario Internacional de Seguridad y Defensa, organizado por la Asociación de Periodistas Europeos (APE), que reunió a militares, expertos en seguridad, representantes de la industria, académicos, diplomáticos y periodistas para analizar la transformación de la seguridad global.

Lejos de ser un debate puramente técnico, las sesiones pusieron de relieve una mutación de mayor calado: la reconfiguración del propio proceso de decisión en los escenarios de conflicto contemporáneo. En este marco, la Dra. Roser Martínez Quirante, directora de la Cátedra de Seguridad Humana y Derecho Global (UAB), situó el eje del debate en un desplazamiento que ya no puede entenderse solo en términos tecnológicos, sino estructurales: la progresiva pérdida de centralidad del factor humano en la toma de decisiones críticas en la guerra.

Roser Martínez advirtió, igualmente, de que el problema no reside únicamente en la creciente sofisticación de la Inteligencia Artificial, sino en la normalización de su uso en procesos donde se decide sobre la vida y la muerte sin una atribución clara de responsabilidad. La automatización de decisiones letales, señaló, no solo acelera los tiempos de reacción, sino que introduce, además, un umbral inédito de incertidumbre ética, jurídica y política.

“Durante siglos hemos pensado la guerra con conceptos como territorio, soberanía, soldados y armas. Hoy debemos empezar a comprenderla en términos de datos, algoritmos y sistemas autónomos”, afirmó, subrayando que el centro de gravedad de los conflictos contemporáneos ya no es primordialmente físico, sino informacional.

En esta lógica, añadió, el dato se ha convertido en el recurso estratégico determinante de la arquitectura actual de la seguridad. De él dependen tanto la velocidad de reacción como la propia estructura de decisión. El control de la información y de los sistemas que la procesan resulta así tan decisivo como la capacidad militar convencional.

El seminario funcionó, de este modo, como un espacio de convergencia entre actores militares, institucionales y académicos en torno a una constatación compartida: la seguridad del siglo XXI ya no depende solo de la fuerza, sino del control de los sistemas que deciden.

En coherencia con estas reflexiones, y más allá del marco estrictamente académico, la Dra. Roser Martínez fue entrevistada por RTVE. Entrevista con la que trasladó este diagnóstico al debate público y profundizó en las implicaciones éticas, jurídicas y estratégicas del rápido desarrollo de los sistemas de armamento basados en Inteligencia Artificial. Durante la conversación, alertó sobre los riesgos asociados a las armas autónomas letales, especialmente por la posibilidad de que adopten decisiones sin control humano efectivo, y subrayó la urgencia de establecer una regulación internacional vinculante que fije límites claros, dado que la legislación actual avanza muy por detrás del ritmo de innovación tecnológica.

Asimismo, advirtió de que delegar decisiones de vida o muerte en algoritmos puede derivar en ejecuciones extrajudiciales, vacíos de responsabilidad legal y la reproducción de sesgos discriminatorios en el campo de batalla. A ello se suma, comentó, el riesgo creciente de proliferación de estas armas, tanto en manos de Estados como de actores no estatales o incluso civiles.

Por último, Roser Martínez insistió en que el control humano debe ser un requisito imprescindible en cualquier sistema armamentístico basado en Inteligencia Artificial y defendió la necesidad de que Europa refuerce su soberanía tecnológica para evitar una fuerte dependencia estratégica de otras potencias. En un escenario en el que la innovación tecnológica avanza a un ritmo muy superior al de los marcos jurídicos y políticos, el verdadero desafío ya no consiste únicamente en incorporar Inteligencia Artificial a los sistemas de defensa, sino en preservar la capacidad humana de decidir sobre el uso de la fuerza.

Quizá el debate decisivo ya no sea tecnológico ni militar, sino que sea, ante todo, político. Porque cuando una sociedad acepta que una máquina pueda decidir sobre la vida y la muerte, la pregunta deja de ser qué puede hacer la tecnología y pasa a ser qué estamos dispuestos a delegar como seres humanos.

La guerra siempre ha sido una decisión humana. La incógnita del siglo XXI es si seguirá siéndolo cuando la decisión pueda ejecutarse antes incluso de que exista tiempo para deliberar.

Enlace a la entrevista en RTVE: https://www.rtve.es/noticias/20260629/roser-martinez-dato-nuevo-petroleo-guerra-drones-algoritmos-inteligencia-artificial/17134836.shtml