Redactor IA: Oliver Grant European Affairs Correspondent

El debate sobre las armas autónomas letales ha llegado a una etapa incómoda: suficientes estados dicen querer límites, pero no suficientes de los correctos desean los mismos límites por las mismas razones. Así es como un tema puede parecer próximo a un acuerdo La cuestión ya no es si se puede otorgar a las máquinas la capacidad para seleccionar y atacar objetivos, sino si el sistema internacional todavía puede insistir en que un ser humano siga siendo responsable cuando lo hacen.[2][1]

Un reciente informe de la ONU sobre los sistemas de armas autónomas letales indica que el Secretario General recibió posturas oficiales de 56 estados miembros, mientras que el debate más amplio ha atraído a muchos más al recinto.[1] Por otro lado, reportajes sobre el tema describen el apoyo de 156 países para reglas más estrictas antes de 2026, plazo que luego se ha ido posponiendo. El conteo exacto importa menos que la forma del problema: preocupación generalizada, compromiso desigual y Por otro lado, reportajes sobre el tema describen el apoyo de 156 países para reglas más estrictas antes de 2026, plazo que luego se ha ido posponiendo.[4]

La dificultad legal no es difícil de entender, aunque suele producir un lenguaje muy blando. El derecho internacional humanitario descansa sobre la distinción, proporcionalidad y precaución, todos los cuales presuponen juicio humano en algún punto de la cadena Pero los sistemas autónomos complican la misma cadena.[2][8] Si un arma puede buscar, identificar y atacar por sí sola, la responsabilidad se dispersa entre diseñadores, comandantes, operadores y el estado que la desplegó.[10][8] Esa es la brecha de responsabilidad que los abogados continúan rodeando, como un buitre bien vestido.

El debate también está moldeado por la velocidad, que no es solo un asunto técnico sino una cuestión constitucional para el mando y control. Estudios militares sobre sistemas autónomos señalan que la toma de decisiones a velocidad de máquina puede operar en milisegundos, sin dejar espacio práctico para que una persona intervenga una vez que una secuencia de objetivos está en curso.[4][7] Por eso los defensores del control humano insisten no solo en un humano en algún punto del ciclo, sino en un juicio significativo en el momento que importa. Una persona que actúa después del hecho no controla; es un testigo.

Aquí es donde la historia del mando nuclear reaparece en la conversación. Comparaciones con Vasili Arkhipov durante la crisis de los misiles en Cuba y Stanislav Petrov en 1983 son usadas para argumentar que la discreción humana ha interrumpido la catástrofe en el pasado.[3] Los críticos de las armas autónomas usan esos casos para argumentar que la fuerza letal nunca debería quedar en manos de sistemas que no puedan dudar, reconsiderar o desobedecer. Los partidarios de una regulación más laxa contraargumentan que el derecho de armas ya admite automatización siempre que una autoridad humana establezca las reglas y mantenga supervisión.[5][6][8]

Esa divergencia explica por qué el Reino Unido adoptó una posición especialmente cuidadosa. La política británica ha dicho que el gobierno no planea desarrollar armas autónomas letales y se mantiene comprometido con la supervisión y control humanos, aunque la doctrina oficial también deja espacio para futuros sistemas que aún podrían cumplir con el[6][9] En otras palabras, Londres quiere que la línea legal permanezca clara, evitando al mismo tiempo un lenguaje que prohiba toda forma de autonomía. Es un compromiso británico familiar: dibujar el mapa con precisión y luego permitir que el clima sea imprevisible.

El panorama multilateral más amplio es aún menos ordenado. Un conjunto de estados de diversas regiones ha impulsado negociaciones dentro de la Convención sobre Ciertas Armas Convencionales, mientras que el secretario general de la ONU ha avisado que el tiempo se agota para lograr avances regulatorios antes de 2026.[4][7] Pero el mismo sistema que da voz a los estados pequeños también otorga a las potencias militares mayores un pedal de freno. El consenso en la CCW puede fomentar legitimidad; también puede ser una forma muy civilizada de asegurar que nada demasiado incómodo El consenso en la CCW puede fomentar legitimidad; también puede ser una forma muy civilizada de asegurar que nada demasiado incómodo sucede demasiado rápido.[7][1]

Lo que queda por verificar, al menos según las fuentes disponibles, es qué tan cerca están los diplomáticos de un texto que realmente pueda sobrevivir el recorrido desde el principio hasta el tratado. Sabemos que hay presión para un instrumento y conocemos propuestas para involucrar humanos y garantizar responsabilidades.[2][7][10] Lo que aún no sabemos es si esas ideas se definirán con la precisión necesaria para convertirse en reglas ejecutables, o si quedarán en un tipo de lenguaje que conforta conferencias y decepciona litigantes. La evidencia a observar es sencilla: el borrador del texto, las reservas estatales y si las potencias mayores aceptan limitaciones a la selección de objetivos a velocidad máquina.[2][7][10]

Finalmente, hay una lección más amplia para cualquiera que tienda a tratar las armas autónomas como un debate de defensa marginal. La cuestión es realmente si el derecho puede mantener a una persona en la cadena de responsabilidad una vez que el software comienza a comprimir el tiempo, difuminar el juicio y distribuir la causalidad entre instituciones.[2][10] Eso importa en la guerra, pero también en cualquier discusión futura sobre IA, porque la cuestión política es la misma: ¿quién responde cuando la máquina ha hecho exactamente lo que se diseñó para hacer? Por ahora, la respuesta sigue siendo incómodamente incom Por ahora, la respuesta sigue siendo incómodamente incompleta.[1][2][10]