ONU y Cruz Roja advierten sobre el peligro inminente de sistemas de armas autónomos sin control humano
El Secretario General de las Naciones Unidas, António Guterres, y la presidenta del Comité Internacional de la Cruz Roja (CICR), Mirjana Spoljaric, lanzaron un llamamiento urgente a los Estados para que adopten normas internacionales claras y jurídicamente vinculantes sobre sistemas de armas autónomos, alertando que el desarrollo tecnológico militar está superando peligrosamente los marcos regulatorios existentes.
En una declaración conjunta, ambos líderes advirtieron que la comunidad internacional se encuentra peligrosamente cerca de cruzar una línea roja moral: permitir que máquinas ataquen autónomamente a seres humanos sin intervención humana directa en esa decisión. La preocupación central radica en la creciente pérdida de control humano sobre las decisiones relacionadas con el uso de la fuerza en conflictos armados.
Qué son los sistemas de armas autónomos
Los sistemas de armas autónomos son aquellos que, una vez activados por una persona, pueden seleccionar y atacar objetivos sin intervención humana adicional, utilizando sensores y software para interpretar su entorno. Esto los diferencia sustancialmente de un dron armado operado a distancia, donde una persona decide cuándo y dónde usar el arma. En un sistema autónomo, funciones críticas como la selección y el ataque de objetivos quedan delegadas al propio sistema, y esta autonomía no necesariamente requiere inteligencia artificial, pudiendo presentarse en tecnologías de distinta complejidad.
Reportes de conflictos en Ucrania, Israel y Palestina, y Libia sugieren que sistemas con capacidades autónomos, incluyendo plataformas como Saker Scout, Gospel y Kargu-II, pueden ya estar siendo empleados en escenarios reales de combate, lo que demuestra que estas tecnologías han pasado del ámbito teórico a la aplicación práctica.
Riesgos jurídicos, humanitarios y éticos
La preocupación fundamental es que decisiones capaces de determinar quién vive y quién muere pasen de personas a sensores y programas informáticos. El derecho internacional humanitario exige distinguir entre objetivos militares y civiles, así como evitar ataques desproporcionados, principios cuya aplicación resulta más incierta cuando una máquina selecciona y ataca un objetivo sin intervención humana en ese momento crítico.
A esto se suma la incertidumbre sobre la previsibilidad de estos sistemas, que pueden enfrentarse a situaciones no contempladas en su diseño, y el complejo desafío de la rendición de cuentas: si un sistema autónomo comete un error y causa la muerte de civiles, resulta extremadamente difícil determinar quién tomó la decisión y cómo investigar una eventual violación del derecho internacional humanitario.
Para el CICR, organización que históricamente ha desempeñado un papel significativo en el desarrollo de normas del derecho internacional humanitario que limitan o prohíben armas preocupantes como las nucleares, químicas, biológicas, láser cegadoras, minas antipersonal y municiones en racimo, mantener el control y el juicio humanos sobre el uso de la fuerza es una cuestión central tanto humanitaria como jurídica y ética.
Amplio consenso internacional, pero obstáculos políticos
En diciembre de 2024, la Asamblea General de las Naciones Unidas adoptó una resolución sobre sistemas de armas autónomos letales con un apoyo abrumador: 166 votos a favor, 3 en contra (Bielorrusia, República Popular Democrática de Corea y Federación Rusa) y 15 abstenciones. Este resultado demuestra que existe un amplio consenso internacional sobre la necesidad de regular estos sistemas.
Sin embargo, Estados Unidos y Rusia han sido consistentemente los opositores más firmes a medidas vinculantes, argumentando que el derecho internacional humanitario existente es suficiente. Australia, India, Israel, Japón, Corea del Sur y el Reino Unido también se han opuesto a regulaciones jurídicamente vinculantes. El modelo de toma de decisiones por consenso de la Convención sobre Ciertas Armas Convencionales permite a Estados individuales bloquear el progreso, lo que ha dificultado avances concretos.
Paralelamente, múltiples países incluyendo China, Israel, Rusia, Corea del Sur, Turquía, Reino Unido y Estados Unidos están invirtiendo activamente en la construcción de sistemas de armas autónomos, lo que profundiza la brecha entre las capacidades tecnológicas disponibles y las normas destinadas a proteger a las personas en conflictos armados.
Un proceso de negociación de largo plazo
Los Estados han avanzado en el debate a través de la Asamblea General de la ONU y del Grupo de Expertos Gubernamentales sobre sistemas de armas autónomos letales, que ha estado reuniéndose durante nueve años bajo la Convención sobre Ciertas Armas Convencionales, adoptada en 1980 y que cuenta actualmente con 128 Estados partes. En 2026, el Grupo se reunió durante 10 días en dos sesiones en Ginebra: del 2 al 6 de marzo y del 31 de agosto al 4 de septiembre, desarrollando áreas de convergencia significativa sobre los elementos de un instrumento para abordar los desafíos únicos planteados por estos sistemas.
El CICR ha recomendado prohibir los sistemas autónomos cuyos efectos no puedan ser suficientemente comprendidos, previstos y explicados, así como aquellos diseñados para aplicar la fuerza directamente contra personas. Para los sistemas no prohibidos, plantea límites sobre los objetivos, el tiempo, el espacio y las circunstancias de uso, además de garantizar supervisión humana efectiva y la posibilidad de desactivarlos.
Una ventana de oportunidad que se cierra
La Séptima Conferencia de Revisión de la Convención sobre Ciertas Armas Convencionales, programada para celebrarse del 16 al 20 de noviembre de 2026 en Ginebra, se perfila como una oportunidad concreta para avanzar hacia negociaciones formales de un instrumento jurídicamente vinculante.
Guterres y Spoljaric enfatizaron que este año debe marcar un punto de inflexión, subrayando que la innovación tecnológica debe estar al servicio de la humanidad y no ponerla en peligro. Para ambas instituciones, la cuestión central no es detener la innovación tecnológica, sino asegurar que las decisiones sobre el uso de la fuerza permanezcan bajo un control humano efectivo y dentro de los límites establecidos por el derecho internacional.
