Roser Martínez alerta dels riscos de delegar decisions letals a la intel·ligència artificial

La directora de la Càtedra Manuel Ballbé de Seguretat Humana i Dret Global de la Universitat Autònoma de Barcelona, Roser Martínez Quirante, ha participat en el programa El Vespre de RTVE Catalunya, on ha reflexionat sobre els riscos que planteja l’ús de la intel·ligència artificial en l’àmbit militar i en els conflictes armats.

Durant l’entrevista, Martínez ha advertit que actualment ja s’estan utilitzant sistemes d’intel·ligència artificial en contextos bèl·lics sense una regulació internacional clara, fet que pot comportar greus conseqüències des del punt de vista ètic, jurídic i humanitari. En aquest sentit, ha afirmat que “estem delegant decisions de vida o mort a màquines que no tenen ètica”.

La directora de la càtedra també ha subratllat que aquests sistemes poden prendre decisions letals sense supervisió humana directa, i que sovint reprodueixen els biaixos dels seus programadors o de les dades amb què han estat entrenats. Això obre interrogants importants sobre qui hauria d’assumir la responsabilitat en cas d’errors o possibles vulneracions del dret internacional humanitari.

En aquest context, Martínez defensa la necessitat d’avançar cap a una regulació internacional que limiti o prohibeixi les armes autònomes i garanteixi sempre el control humà en les decisions que afecten la vida de les persones.

La seva intervenció posa de manifest els nous reptes que planteja la combinació entre tecnologia, seguretat i drets humans, i la importància d’abordar-los des d’una perspectiva jurídica i ètica.

🔗 Podeu veure l’entrevista completa aquí:https://www.rtve.es/play/videos/el-vespre/roser-martinez-quirante-deleguem-decisions-vida-mort-maquines-no-tenen-etica/16978237/