La Dra. Roser Martínez analitza el desplaçament de la decisió humana en la guerra tecnològica

Seguretat i Defensa en l'era de la Intel·ligència Artificial: la Dra. Roser Martínez analitza els riscos ètics, jurídics i estratègics de les armes autònomes, la pèrdua de control humà en la presa de decisions militars i el desafiament de la sobirania tecnològica europea.

En el marc del Seminari Internacional de Seguretat i Defensa “Aliats i amenaces”, celebrat recentment a Toledo, la Dra. Roser Martínez Quirante va abordar l'impacte estructural de la Intel·ligència Artificial i dels sistemes autònoms en els conflictes contemporanis, advertint dels riscos ètics, jurídics i estratègics derivats de la delegació de decisions crítiques en tecnologies automatitzades.

La guerra ja no es decideix només en territoris ni en fronts visibles. Cada vegada més, es configura en arquitectures invisibles de dades, algorismes i sistemes mecanitzats. Sota aquesta premisa es va celebrar a Toledo el Seminari Internacional de Seguretat i Defensa, organitzat per l'Associació de Periodistes Europeus (APE), que va reunir militars, experts en seguretat, representants de la indústria, acadèmics, diplomàtics i periodistes per analitzar la transformació de la seguretat global.

Luny de ser un debat purament tècnic, les sessions van posar de relleu una mutació de major abast: la reconfiguració del propi procés de decisió en els escenaris de conflicte contemporani. En aquest marc, la Dra. Roser Martínez Quirante, directora de la Càtedra de Seguretat Humana i Dret Global (UAB), va situar l'eix del debat en un desplaçament que ja no pot entendre's només en termes tecnològics, sinó estructurals: la progressiva pèrdua de centralitat del factor humà en la presa de decisions crítiques en la guerra.

Roser Martínez va advertir, igualment, que el problema no rau únicament en la creixent sofisticació de la Intel·ligència Artificial, sinó en la normalització del seu ús en processos on es decideix sobre la vida i la mort sense una atribució clara de responsabilitat. L'automatització de decisions letals, va assenyalar, no només accelera els temps de reacció, sinó que introdueix, a més, un umbral inèdit d'incertesa ètica, jurídica i política.

“Durant segles hem pensat la guerra amb conceptes com territori, sobirania, soldats i armes. Avui hem de començar a comprendre-la en termes de dades, algorismes i sistemes autònoms”, va afirmar, subratllant que el centre de gravetat dels conflictes contemporanis ja no és primordialment físic, sinó informacional.

En aquesta lògica, va afegir, la dada s'ha convertit en el recurs estratègic determinant de l'arquitectura actual de la seguretat. De la dada en depenen tant la velocitat de reacció com la mateixa estructura de decisió. El control de la informació i dels sistemes que la processen resulta així tan decisiu com la capacitat militar convencional.

El seminari va funcionar, d'aquesta manera, com un espai de convergència entre actors militars, institucionals i acadèmics al voltant d'una constatació compartida: la seguretat del segle XXI ja no depèn només de la força, sinó del control dels sistemes que decideixen.

En coherència amb aquestes reflexions, i més enllà del marc estrictament acadèmic, la Dra. Roser Martínez va ser entrevistada per RTVE. Una entrevista amb la qual va traslladar aquest diagnòstic al debat públic i va aprofundir en les implicacions ètiques, jurídiques i estratègiques del ràpid desenvolupament dels sistemes d'armament basats en Intel·ligència Artificial. Durant la conversa, va alertar sobre els riscos associats a les armes autònomes letals, especialment per la possibilitat que adoptin decisions sense un control humà efectiu, i va subratllar la urgència d'establir una regulació internacional vinculant que fixi límits clars, atès que la legislació actual avança molt per darrere del ritme d'innovació tecnològica.

Així mateix, va advertir que delegar decisions de vida o mort en algorismes pot derivar en execucions extrajudicials, buits de responsabilitat legal i la reproducció de biaixos discriminatoris en el camp de batalla. A això s'hi suma, va comentar, el risc creixent de proliferació d'aquestes armes, tant en mans d'Estats com d'actors no estatals o fins i tot civils.

Per acabar, Roser Martínez va insistir que el control humà ha de ser un requisit imprescindible en qualsevol sistema d'armament basat en Intel·ligència Artificial i va defensar la necessitat que Europa reforci la seva sobirania tecnològica per evitar una forta dependència estratègica d'altres potències. En un escenari en què la innovació tecnològica avança a un ritme molt superior al dels marcs jurídics i polítics, el veritable desafiament ja no consisteix únicament a incorporar Intel·ligència Artificial als sistemes de defensa, sinó a preservar la capacitat humana de decidir sobre l'ús de la força.

Potser el debat decisiu ja no sigui tecnològic ni militar, sinó que sigui, abans de res, polític. Perquè quan una societat accepta que una màquina pugui decidir sobre la vida i la mort, la pregunta deixa de ser què pot fer la tecnologia i passa a ser què estem disposats a delegar com a éssers humans.

La guerra sempre ha sigut una decisió humana. La incògnita del segle XXI és si ho continuarà sent quan la decisió es pugui executar abans i tot que hi hagi temps per deliberar.

Enllaç a l'entrevista a RTVE: https://www.rtve.es/noticias/20260629/roser-martinez-dato-nuevo-petroleo-guerra-drones-algoritmos-inteligencia-artificial/17134836.shtml