Español (pdf)
Articulo en XML
Referencias del artículo
Traducción automática
Enviar articulo por email
Citado por SciELO 
Citado por Google 
Similares en
SciELO 
Similares en Google 
Permalink
Introducción. Un laberinto llamado inteligencia artificial (IA)
Tradicionalmente, siempre que se aborda algo desconocido, el paso inicial y más crucial es intentar definir y representar ese objeto. Casi todos los desarrollos e innovaciones, accidentales o calculados, han seguido ese procedimiento para que el ser humano pueda mantenerlos bajo control. Frente a esto, la inteligencia artificial (IA) surge como un objeto caracterizado más por la incertidumbre y la controversia que por la certidumbre y el acuerdo sobre su uso (Ahanger et al., 2022).
El núcleo del debate relacionado con la IA contiene dos conceptos: inteligencia y autonomía. Por un lado, considerando que la inteligencia alude a la capacidad de determinar el mejor curso de acción para lograr un objetivo (Instituto de las Naciones Unidas de Investigación sobre el Desarme [Unidir], 2018): ¿es inteligente una máquina si refleja la habilidad humana o si trasciende los límites humanos? Si se tienen en cuenta los tecnicismos necesarios para abordar esta cuestión, es crucial incorporar nociones como el aprendizaje automático, el aprendizaje profundo, recursos informáticos, algoritmos evolutivos o genéticos, el razonamiento inductivo, la teoría de juegos computacional, la estadística bayesiana, la lógica difusa, el conocimiento experto codificado a mano y el razonamiento analógico. Sin dejar de reconocer la importancia de este debate, tal nivel de análisis especializado queda fuera del alcance de este documento. En su lugar, este artículo trata de abordar la siguiente cuestión: si la autonomía -en un sentido estricto ligado a las máquinas- puede definirse como la libertad o capacidad de un sistema para cumplir un objetivo sin intervención humana: ¿deben las máquinas seguir vinculadas a la supervisión humana? Para responder, hay que tomar una decisión: pasar de una IA estrecha a una IA general, es decir, convertir sistemas limitados a una sola tarea o dominio de conocimiento en sistemas de aprendizaje y conocimiento de propósito general en múltiples dominios (Unidir, 2018).
La IA ha aportado ventajas prácticas a la humanidad, como el análisis de datos (diagnósticos médicos), el control de sistemas autónomos (coches autoconducidos), la predicción de tendencias o comportamientos a partir de datos, la clasificación y el reconocimiento de objetos, la detección de actividades anómalas (transacciones financieras), la optimización de sistemas para alcanzar un objetivo y la realización de tareas automatizadas sencillas (secuencias de código o programación para cumplir un propósito específico) a gran escala (Unidir, 2018). No obstante, aún queda margen de mejora: por ejemplo, los coches autoconducidos siguen experimentando fallos que pueden provocar tragedias, y la predicción por IA de tendencias o comportamientos en casos penales reproduce sesgos racistas y copia errores del pasado (Karlan, 2023).
Paralelamente a las ventajas prácticas y sus retos, otras formas de IA, como la superinteligencia, la IA general e incluso la IA estrecha no supervisada, representan un claro riesgo para la humanidad. Algunos de estos peligros aún no se han materializado, salvo en aproximaciones hipotéticas ofrecidas por la ciencia ficción (p. ej., en películas como Matrix); otros, en cambio, se desarrollan y utilizan actualmente en escenarios reales que evocan películas como Terminator, transformando temores ficticios en ansiedades tangibles.
Es el caso de los Sistemas de Armas Autónomas Letales (Lethal Autonomous Weapons Systems, LAWS). Esta tecnología retrata un peligro existente y en desarrollo de la IA, y encarna un debate caracterizado por un diálogo y negociación constantes entre actores estatales y no estatales. En este asunto, Unidir ha destacado alarmas inminentes sobre estas máquinas y su compatibilidad o no con los derechos humanos y la ética, la legalidad, la ansiedad tecnológica, la proliferación de armas y el armamentismo, la estabilidad estratégica, la naturaleza de doble uso de las tecnologías, las preocupaciones operativas, los riesgos involuntarios y las cuestiones de seguridad (Szabadföldi, 2021), así como la autonomía en reposo o en movimiento y la inmediatez de la preocupación (Unidir, 2017a).
De acuerdo con lo anterior, este artículo parte de la hipótesis de que la fragmentación conceptual y política entre los actores implicados (estatales, regionales y transnacionales) obstaculiza la consolidación de un marco normativo efectivo para regular las LAWS, y que este problema se agrava con la proliferación y consolidación de la IA. No obstante, se argumenta que existen precedentes institucionales y jurídicos que podrían orientar alternativas viables de gobernanza, incluso en ausencia de un consenso multilateral vinculante.
Asimismo, desde una perspectiva multidimensional, se analizan las tensiones centrales en torno a 1) la ausencia de definiciones operativas compartidas y la interpretación divergente de los principios acordados por el Grupo de Expertos Gubernamentales de la ONU; 2) la disputa entre enfoques de soft law y hard law; y 3) las posiciones contrastantes entre potencias militares y bloques regionales como la Unión Europea. Finalmente, se examina el papel de actores no estatales como el Comité Internacional de la Cruz Roja (CICR), la iniciativa iPRAW y la Campaña para Detener a los Robots Asesinos (CSKR).
Aproximación metodológica
Esta investigación adopta un enfoque cualitativo de análisis documental, orientado a identificar las tensiones conceptuales, normativas y políticas en torno a la regulación de los LAWS. Aunque se abordan elementos asociados a su desarrollo, el foco principal del artículo se inclina hacia el análisis de los desafíos regulatorios desde una perspectiva comparada y multinivel. En particular, la estrategia metodológica se fundamenta en las orientaciones de George y Bennett (2005) sobre estudios de caso comparados, así como en los aportes de Bowen (2009) respecto del análisis documental como método cualitativo robusto para el estudio de fuentes institucionales, normativas y discursivas. A ello se suma una aproximación al análisis del discurso institucional y normativo basada en Schmidt (2008), Van Dijk (2008) y Fairclough (1995), que permite captar no solo el contenido normativo, sino también las relaciones de poder, legitimación y disputa que estructuran el lenguaje de los actores. Asimismo, en consonancia con Dunn (2015) y Fischer et al. (2007), se consideró la importancia de articular un análisis de políticas en contextos complejos y multinivel, como es el caso de la regulación de armamento autónomo.
La selección de fuentes primarias y secundarias respondió a tres criterios fundamentales: 1) la relevancia institucional, lo que implica incluir organismos multilaterales como las Naciones Unidas, el Comité Internacional de la Cruz Roja (CICR) y la Unión Europea; 2) el nivel de desarrollo tecnológico y rol protagónico en los debates regulatorios internacionales sobre LAWS, lo cual justifica la inclusión de Estados como Estados Unidos, China, Rusia e Israel, así como del bloque regional de la Unión Europea; y 3) el peso normativo en el debate internacional, considerando la capacidad de incidir en la formulación de principios y marcos jurídicos emergentes (actores transnacionales).
En el caso particular de la Unión Europea, su inclusión responde no solo a su relevancia institucional, sino también a su papel activo en la configuración de estándares internacionales sobre los LAWS, tanto en el plano normativo como en escenarios multilaterales, lo que la convierte en un actor clave para el análisis de las dinámicas regulatorias contemporáneas.
De igual modo, se incorporaron actores transnacionales no estatales, como el CICR, iPRAW y la CSKR, por su reconocida legitimidad ética y técnica en el debate global sobre los LAWS, así como por su capacidad de incidir en los marcos normativos emergentes mediante la producción de conocimiento, el activismo político y la presión internacional. Su presencia en el estudio busca visibilizar la dimensión normativa no estatal en la gobernanza emergente de la IA armada, así como los modos en que estos actores inciden en los marcos interpretativos utilizados por Estados y organismos multilaterales.
En general, el análisis se llevó a cabo mediante técnicas de análisis de contenido normativo y discursivo, orientadas a identificar patrones conceptuales, argumentativos y regulatorios. Se utilizaron estrategias de codificación temática inspiradas en Saldaña (2016), que permitieron organizar el material en categorías analíticas vinculadas a ejes como: definiciones operativas, niveles de autonomía, principios de control humano, enfoques de soft law y hard law, y marcos jurídicos relevantes. Esta aproximación se complementó con un análisis comparativo entre actores, que permitió identificar consensos emergentes, tensiones estructurales y fracturas persistentes en torno a la regulación de los LAWS.
De esta manera, el estudio propone una lectura multinivel (supranacional, regional, nacional y transnacional) del debate, prestando atención tanto a las dinámicas institucionales como a los condicionamientos geopolíticos que configuran el panorama actual de (des) gobernanza de los LAWS.
Retos desde la IA: ¿pistas para resolver un rompecabezas?
Discutir la relación entre IA y LAWS supone profundizar en numerosos debates a la vez y en direcciones distintas, incluso a veces contrarias (Longpre et al., 2022). Ya sea definiendo el objeto, ponderando entre regulación o prohibición, o identificando a los actores cruciales, los LAWS simbolizan una paradoja caracterizada tanto por la prudencia como por la urgencia de la acción. Para ilustrarlo, basta subrayar el documento presentado por el Grupo de Expertos Gubernamentales en LAWS de 2023, en el marco de la Convención sobre Ciertas Armas Convencionales (CCW), en el cual se evidencian alrededor de 25 definiciones o caracterizaciones (CCW, 2023).
Este documento ilustra la evolución, desde 2017, de los intentos por definir o caracterizar los LAWS, resaltando los siguientes aportes en dicha evolución: 1) "sistemas de armas capaces de llevar a cabo tareas regidas por el derecho internacional humanitario (DIH) en sustitución parcial o total de un ser humano en el uso de la fuerza, especialmente en el ciclo de selección de objetivos" (Suiza); 2) "Sistema de armas autónomo: una pieza no tripulada de equipo técnico que no es una munición y está diseñada para realizar tareas militares y de apoyo bajo el control remoto de un operador, de forma autónoma o utilizando la combinación de estos métodos" (Rusia); 3) "Un sistema de armas inteligente con modo de funcionamiento autónomo (es decir, sin intervención humana tras su activación) capaz de reconocer patrones en entornos de combate, y de aprender a operar y tomar decisiones en relación con las funciones críticas de identificación de objetivos, seguimiento, fijación y ataque basándose en bases de datos cargadas, experiencias adquiridas y sus propios cálculos y conclusiones" (Brasil); 4) "Sistemas de armas que incorporan autonomía en sus funciones críticas de seleccionar, apuntar y comprometerse a aplicar fuerza sin intervención humana" (Argentina, Ecuador, Costa Rica, El Salvador, Guatemala, Kazajstán, Nigeria, Panamá, Filipinas, Sierra Leona y Uruguay); y 5) "Sistemas que, tras la activación por parte de un usuario humano, utilicen el procesamiento de datos del sensor para seleccionar y atacar un objetivo con fuerza sin intervención humana" (Palestina) (CCW, 2023).
A continuación, se ofrece una aproximación de carácter multinivel (supranacional, regional y nacional) que refleja el debate y los alcances del estado de uso de armas autónomas en distintos contextos.
La ONU y la esfera global: de acuerdo en no estar de acuerdo
Este debate surgió en el ámbito de las Naciones Unidas (ONU) en 2013 (Heyns, 2023). En este marco, puede afirmarse que los actores estatales y no estatales comparten ciertos grados de entendimiento respecto de la necesidad de examinar 1) el vínculo entre la autonomía y los sistemas de armamento y cómo los Gobiernos podrían desarrollar una política responsable; 2) qué significa un control humano significativo, qué parámetros lo configuran sobre los sistemas de armamento y los ataques, y cómo un control humano significativo u otros enfoques pueden dinamizar el debate sobre el aumento de la autonomía; 3) cómo los valores éticos y sociales están en el centro del debate, al igual que los aspectos legales y tecnológicos; 4) el uso de tecnologías autónomas en entornos marítimos y los desafíos que genera; y 5) cuáles son los riesgos "no intencionados" que conllevan estas máquinas (Unidir, 2014; 2015a; 2015b; 2016).
Sin embargo, los retos se desvelan en los ámbitos de las definiciones, las interpretaciones y las características. Por un lado, la controversia se dispara en cuanto a la definición operativa de los LAWS y los consiguientes principios rectores definidos en la CCW. Puede afirmarse que varios actores han propuesto su propia definición de lo que son estas máquinas y de cómo deben interpretarse los once principios rectores acordados sobre su uso (Unidir, 2017b)1. Del mismo modo, con respecto a la interpretación de dichos principios, se perciben diversos análisis en relación con el papel de la CCW, la incorporación del derecho internacional público (DIP) y el DIH, nociones como la responsabilidad humana, la interacción hombre-máquina, la rendición de cuentas, la evaluación y mitigación de riesgos y la posibilidad de adquisición por parte de grupos terroristas, que se mantienen en el centro del debate. El problema se agrava cuando, desde la perspectiva de Almache y Albert (2024), se plantea cómo la irrupción de la IA refuerza la imprevisibilidad normativa, pues, más allá de la intención de regular, no se comprende o dimensiona lo que se está regulando, más aún cuando cada disposición puede quedar pronto obsoleta ante el avance acelerado de estas tecnologías.
Por ejemplo, en el marco de las reuniones de desarrollo y seguimiento de la CCW, la delegación estadounidense ha rechazado el supuesto marco compartido de control humano -entendido como la interacción entre equipos humano-robot que colaboran para lograr un objetivo común (Music & Hirche, 2017)- para explicar la interacción hombre-máquina, por considerarlo "demasiado simplista" y, por tanto, incapaz de captar "diversos puntos de contacto humano que pueden ayudar a garantizar el cumplimiento del DIH" (Unoda, 2020c). Por el contrario, el Reino Unido ha subrayado su compromiso de no "desarrollar sistemas que puedan funcionar sin ningún control humano", con el cual "garantiza que sus armas permanezcan bajo control humano [para] que el DIH y el marco normativo existente [...] sigan siendo más que suficientes para regular las nuevas capacidades" (Unoda, 2020b). Por último, Suecia ha reiterado que "la responsabilidad por el uso de la fuerza no puede transferirse a las máquinas", de modo que "debe mantenerse la responsabilidad humana en las decisiones sobre el uso de los sistemas de armas" (Unoda, 2020a).
En consecuencia, la diversidad de definiciones e interpretaciones supone un callejón sin salida. Aunque las propuestas pueden agruparse en tres: centradas en la tecnología (descripción físico-técnica del objeto), centradas en el ser humano (descripción en relación con un usuario humano) o centradas en la función (descripción de la tarea que hace autónomo al objeto), prevalece la competencia entre enfoques más que su combinación (Unidir, 2017b).
Por otro lado, el enfoque que aparentemente eligen actores estatales y no estatales para describir los LAWS es el de sus particularidades acordadas. Sin embargo, el significado de estas características no es idéntico y está en proceso de definición por parte de Estados y actores no estatales.
Algunos diálogos apuntan a elementos precisos, como 1) la correlación entre capacidades de aprendizaje, desarrollo de adaptación y ajuste; qué comportamientos optimizan los LAWS; 2) cómo escrutan estos sistemas sus decisiones y cómo obtener explicaciones sobre decisiones concretas; 3) los sistemas de sistemas; 4) los problemas actuales de comunicaciones y conectividad; y los retos vigentes relativos a 5) la movilidad y 6) la velocidad (Unidir, 2017b).
Otros debates hacen hincapié en preocupaciones de fondo: 1) la distinción entre automatización y autonomía -en definitiva, qué hace que un sistema sea autónomo y no automatizado (p. ej., minas terrestres)- en cuanto a aspectos, características o aplicaciones específicas; 2) la cuestión de la letalidad y la evolución de armas autónomas menos letales, antipersona y antimaterial; 3) la previsibilidad o imprevisibilidad de estos sistemas según su capacidad de cambiar el curso de la acción o tomar decisiones distintas a las iniciadas por un operador humano; 4) la interacción entre precisión y exactitud cuando estas máquinas deciden sobre tiempo, espacio y ubicación al atacar un objetivo; 5) la rendición de cuentas y su imposibilidad de facto y potencial de iure en relación con los LAWS; y 6) la decisión humana al evaluar si el entorno es adecuado para utilizar esta tecnología.
El debate regional en el marco de la Unión Europea: ¿unidad exterior, tensión interna?
El enfoque en la Unión Europea (UE) responde a su papel destacado como uno de los actores regionales más activos en la configuración de estándares internacionales sobre los LAWS, tanto en el plano normativo como en los debates multilaterales, lo que justifica su inclusión como caso de referencia en este análisis. Debido a la naturaleza excepcional de la UE, en primer lugar debe distinguirse si los LAWS son competencia exclusiva, compartida, de coordinación o complementaria. A efectos de este artículo, los LAWS se consideran competencia compartida de la UE.
La UE ha contribuido de varias formas al debate global a partir de su enfoque regional. En su conjunto, y especialmente impulsada por Francia, reubicó el debate sobre los LAWS en la CCW para que los distintos actores puedan deliberar eficazmente sobre la dirección del cambio deseable y la disyuntiva entre modificar o mantener el statu quo (Barbé & Badell, 2020). Asimismo, la UE y sus Estados miembros han articulado esfuerzos para promover el control humano como nuevo principio organizativo de la norma emergente, facilitando al mismo tiempo comunicaciones y entendimientos compartidos sobre las normas fundamentales y los principios organizativos tradicionales en materia de LAWS.
Lo anterior se pone de manifiesto al revisar las declaraciones en nombre de la UE en el marco del Grupo de Expertos Gubernamentales (GEG) de la CCW en relación con los LAWS. De 2018 a 2022, la UE ha avanzado en los siguientes aspectos: 1) ha reconocido el trabajo del GEG; 2) ha destacado la centralidad del control humano, específicamente respecto de la fuerza letal y el cumplimiento del DIP, el DIH y los derechos humanos; 3) ha subrayado la importancia de la arquitectura internacional en materia de responsabilidad y rendición de cuentas de los Estados que desarrollan, producen y despliegan estas máquinas; 4) ha invitado a otros actores, como el CICR, la industria y la sociedad civil; 5) se ha comprometido a ampliar el enfoque con experiencia diplomática, jurídica y militar; 6) ha abogado por definiciones y características de común acuerdo; 7) ha compartido información y buenas prácticas; y 8) ha considerado la igualdad de género y la capacitación de las mujeres a través de la IA (European External Action Service, 2018).
El medio preferido por la UE para cristalizar su labor ha sido promover instrumentos de derecho indicativo, en lugar de presionar para que se prohíban o de oponerse a cualquier revisión; por ejemplo, sus declaraciones políticas demuestran cómo se pueden sincronizar distintas posturas e intereses, independientemente de que se consideren pasos finales o iniciales del debate (Barbé & Badell, 2020). Esto refleja la tradicional capacidad de la UE para llegar a un consenso respecto de una cuestión compleja mientras, por un lado, construye una nueva posición basada en un terreno común en cuanto a lo que es viable y lo que es improbable y, por otro, promueve valores fundamentales de su acción exterior, como el multilateralismo (Rodríguez & Guerrero-Sierra, 2009).
Sin embargo, internamente, el Parlamento Europeo ha estado presionando la política exterior y de seguridad de la organización, alentando una nueva norma que prohíba los LAWS, y ha fomentado diálogos dentro de la arquitectura de la Política Exterior y de Seguridad Común para trabajar en una posición común con la ONU, operando además como inhibidor de las opiniones de los Estados miembros y de la delegación de la UE en Ginebra (Barbé & Badell, 2020). Este rol inhibidor se manifiesta no solo en la presión política para endurecer las posiciones normativas, sino también en la capacidad del Parlamento para condicionar aspectos clave del presupuesto de defensa y en su influencia sobre la narrativa política dominante en el ámbito europeo respecto al uso ético y legal de tecnologías autónomas en armamento.
Uno de los mayores logros en el marco de la UE fue el primer acuerdo de la historia entre la Comisión Europea, el Consejo y el Parlamento Europeo, en el que se prohibía la financiación de los LAWS (European Parliament, 2018). En consecuencia, este logro puede sugerir que se está produciendo un cambio en relación con los LAWS y que el siguiente paso puede ser la búsqueda de un acuerdo jurídicamente vinculante en el seno de la CCW, demostrando una vez más la capacidad de la UE como actor global emisor de normas. El estado de la discusión sigue vigente con el reciente informe sobre avances actuales en ciencia y tecnología y su posible impacto en la seguridad internacional y los esfuerzos de desarme. En dicho informe, el secretario general de Naciones Unidas "presentó recomendaciones sobre la gobernanza de la IA y los sistemas de armas autónomas, incluido el llamado a un tratado jurídicamente vinculante para prohibir los LAWS que funcionan sin control o supervisión humana, que se concluiría para 2026" (Centro de Información Regional para la Europa Occidental, 2025).
La arena nacional
Estados Unidos
Para entender los LAWS en el contexto estadounidense es necesario mencionar una de las más recientes entregas de la díada tecnología-guerra, en particular en la dimensión aérea, denominada "loyal wingman". Este avance surge debido a los altos costos que suponen las aeronaves de combate de quinta y sexta generación, lo cual hace que, alrededor del mundo, las flotas de las fuerzas aéreas sean cada vez más reducidas. En consecuencia, el concepto de loyal wingman constituye no solo una alternativa en términos económicos, sino una apuesta por multiplicar las fuerzas en los combates aéreos y reducir las potenciales pérdidas de vidas humanas en aeronaves tripuladas (Martin, 2023).
El loyal wingman representa una aeronave de combate no tripulada destinada a realizar misiones operativas que suponen un alto grado de dificultad y/o peligro para sus contrapartes tripuladas por humanos. Ello se apalanca en capacidades de reconocimiento ya desarrolladas en este tipo de tecnología, que permitirían identificar y, posiblemente, destruir defensas aéreas enemigas, conducir ataques aéreos o combatir directamente con aeronaves enemigas en espacios aéreos adversos (Martin, 2023).
En cuanto a la autonomía, el loyal wingman emplearía la IA para ofrecer mayores índices de agilidad y superioridad en el desempeño que las aeronaves tripuladas (Martin, 2023). De ahí que, al considerar los bajos costos, el reducido tiempo de producción, la alta prescindibilidad y la multiplicación de la fuerza, Estados Unidos lidere este campo, particularmente a través de la Defense Advanced Research Projects Agency y del desarrollo de apoyos loyal wingman a las aeronaves Lockheed Martin F-22 y F-35, y a los bombarderos Northrop Grumman B-21 y Boeing B-52, así como de la Fuerza Aérea estadounidense y su programa Skyborg (Warwick, 2020).
En síntesis, las disposiciones normativas siguen siendo inciertas, pues el Pentágono aducirá siempre la primacía de los intereses nacionales; si ello implica la utilización de armas letales, se hará sin tener en cuenta los acuerdos internacionales (Sauer, 2021). Es el caso del programa Replicator, que prevé continuar la construcción de este tipo de artefactos como parte de la evolución y la conexión con el desarrollo tecnológico y científico.
Debates internos: entre el apoyo y la prohibición
Paralelo a la propuesta del loyal wingman y, en términos generales, a los proyectos o intenciones alrededor de los LAWS, resulta necesario reconocer la existencia de diversos actores con posturas particulares que alimentan y orientan la discusión en Estados Unidos. Inicialmente, el Departamento de Defensa apoya el desarrollo de estos sistemas en condiciones controladas; es decir, permitiendo niveles apropiados de juicio humano (Department of Defense [DoD], 2023). Esto, con la intención de proyectar la superioridad militar y la eficiencia operativa de las Fuerzas Armadas estadounidenses (DoD, 2023). En cuanto al Congreso, naturalmente se evidencian posturas divididas; sin embargo, coincide en la cautela y la precaución frente a los LAWS, cimentadas en el control humano y el aumento de la transparencia (U.S. Congress, 2021). Principalmente, se expresan preocupaciones sobre el control de estas máquinas, sus límites éticos y la potencial carrera armamentista en torno a estos sistemas (U.S. Congress, 2021).
Asimismo, la comunidad académica de Estados Unidos propone una aceptación condicionada de los LAWS basada en la gobernanza y un componente ético; en otras palabras, se reconoce que estas máquinas pueden ser más éticas que los humanos en ciertos contextos -específicamente aquellos mediados por la fatiga y/o las emociones-, pero se advierte sobre los vacíos de responsabilidad y la inestabilidad estratégica de estos sistemas (Horowitz, 2018; Bode et al., 2023). Finalmente, la sociedad civil y organizaciones como Human Rights Watch abogan por la oposición a los LAWS: al señalar riesgos sobre la agencia moral, la impredecibilidad, la posible violación del DIH y de la dignidad humana, así como la proliferación en regímenes autoritarios, promueven su prohibición total (Porcelli, 2021).
Rusia
La Federación Rusa se identifica frecuentemente como uno de los Estados que lideran el campo de los vehículos terrestres teleoperados y autónomos; incluso una de sus prioridades apunta a la integración de la IA en estos vehículos. Específicamente, el interés ruso se centra en identificar cómo integrar con éxito la IA en vehículos terrestres, tanto existentes como futuros (Nadibaidze, 2022). Esto se evidencia en la línea de tanques de combate Uran, compuesta por dos prototipos. Por un lado, el tanque de combate Uran-6 se emplea actualmente para actividades de desminado; por otro, el Uran-9 se utiliza para misiones de combate, pues puede operarse mediante control remoto o de forma completamente autónoma (Nadibaidze, 2022). En 2018, la Federación Rusa empleó los Uran-9 en Siria; sin embargo, se evidenciaron fallas operativas que están en proceso de corrección (Edmonds & Bendett, 2023).
Paralelamente, otros modelos se encuentran actualmente en desarrollo: 1) el tanque no tripulado Nerekhta, cuya función oscila entre misiones de reconocimiento y la entrega de munición y equipos de combate; 2) el tanque Soratnik, que integra una red neuronal con capacidad de cooperar con vehículos aéreos no tripulados y potencialmente contaría con un modo de operación autónoma; y 3) el vehículo terrestre Marker, que sería capaz de combatir enjambres de drones y tendría un régimen operativo completamente autónomo, respaldado en visión y sensores computarizados (Nadibaidze, 2022).
En esencia, la línea Uran, los modelos en desarrollo y los experimentos de trabajo conjunto entre drones y vehículos terrestres demuestran el interés de la Federación Rusa por experimentar con las interacciones entre sistemas automatizados y autónomos.
En este sentido, es crucial involucrar a Rusia en el debate y no limitarla a un aislamiento del contexto internacional, pues ello podría crear la excusa ideal para desobedecer los protocolos y las regulaciones mínimas alcanzadas. Como sugiere Roumate (2024), es necesario ir más allá de los rígidos procedimientos del derecho internacional y comprender que el uso de armas letales avanza con las libertades que puedan tener Estados poco proclives a someterse a regulaciones; por ello, se recomiendan innovaciones legales y enfoques novedosos que superen viejas confrontaciones.
Debates internos: unidad en pro del desarrollo y la utilización
De igual forma, el Estado ruso tampoco escapa de la discusión alrededor de los LAWS, impulsada por diferentes actores, aunque con una singularidad que lo diferencia del caso estadounidense. El Ministerio de Defensa apoya el desarrollo y el empleo de estos sistemas debido a la necesidad estratégica en ciertos contextos (Nadibaidze, 2022; Edmonds & Bendett, 2023). Por ello, se opone a cualquier intento preventivo de prohibirlos, al considerar que los marcos jurídicos internacionales existentes son suficientes (Nadibaidze, 2022; Edmonds & Bendett, 2023). Esto se evidencia, además, en el marco de la CCW, donde la delegación rusa rechaza regulaciones vinculantes adicionales a nivel internacional y se opone a tratados restrictivos, aludiendo a los desafíos que dichos instrumentos supondrían para los Estados en términos de ambigüedad definicional y tecnológica, dificultades de verificación y ventajas asimétricas (Unidir, 2017b). Finalmente, el complejo industrial-militar, la academia y la doctrina estratégica militar rusa coinciden en promover la autonomía de estas máquinas, por su capacidad de multiplicar la fuerza, mantener la paridad estratégica y, en esencia, responder al imperativo tecnológico para competir con la Organización del Tratado del Atlántico Norte (OTAN) y Estados Unidos (Bode et al., 2023).
China
La modernización del ejército y la industria de defensa china es resultado directo de las inversiones en robótica, enjambres (swarming, en inglés) y otras aplicaciones de la IA y de machine learning en este campo (Centre for Joint Warfare Studies [CENJOWS], 2020). La introducción en el ejército y el sector defensa de sistemas de armas autónomos o "inteligentizados" (intelligentised, en inglés) resulta natural al considerar el fortalecimiento de las capacidades de investigación y desarrollo en los sistemas no tripulados y en la tecnología balística (Su & Yuan, 2023).
Como resultado, si bien no es posible probar con evidencia directa la existencia o utilización de sistemas de armas estrictamente autónomos, sí se asume la existencia de un número diverso de sistemas análogos o comparables desde su funcionalidad (CENJOWS, 2020). Por ejemplo, hay indicios que permiten deducir: 1) intentos desde la industria de defensa china por producir misiles balísticos "más inteligentes" capaces de reconocer objetivos de manera automática; 2) conversión de antiguos vehículos terrestres -en particular tanques de guerra- en prototipos con ciertos grados de autonomía; 3) modificación en la operación de ciertas aeronaves de combate hacia modelos potencialmente autónomos; y 4) experimentos con vehículos submarinos no tripulados, como el empleado en los ejercicios militares del mar de China Meridional en 2018 (CENJOWS, 2020).
Estas inferencias no pueden confirmarse debido a limitaciones de información de orden técnico, militar, de defensa y de seguridad. Por ello, se asume que China se encuentra en una etapa de investigación y desarrollo que pretende culminar en la creación de técnicas automáticas de detección de objetivos, la aplicación de redes neuronales capaces de guiar vehículos submarinos hipersónicos y la coordinación entre sistemas autónomos y no tripulados (CENJOWS, 2020; Su & Yuan, 2023).
Aunque no representa una tendencia exclusiva de China, resulta pertinente la categoría de "ambigüedad estratégica" de Pramudia (2022), para evidenciar cómo, a pesar de declaraciones públicas que abogan por el uso responsable de armas letales, en la práctica prevalecen investigaciones y desarrollos que privilegian, en nombre del avance científico, intereses políticos como el posicionamiento de China como potencia militar y su avance como hegemón del Pacífico (y, por ende, determinador y neutralizador de los conflictos que se deriven en esta zona).
Debates internos: aparente discrepancia o unidad ingeniosa
El caso de China, a diferencia de sus homólogos estadounidense y ruso, resulta llamativo. Por una parte, el Ejército Popular de Liberación, la Comisión Central Militar, las instituciones de investigación en seguridad y defensa y la academia china apoyan el uso de los LAWS, con base en la ventaja operativa y estratégica (Su & Yuan, 2023; CENJOWS, 2020; Pramudia, 2022). Incluso, el Ejército Popular de Liberación promulga una doctrina (zhinenghua) que vincula la IA en la planeación y la operación militar, al enfocarse en el desarrollo de armas inteligentes y autónomas como medio de disuasión y proyección de fuerza, y que se enmarca en los múltiples discursos de modernización militar que deben cumplirse en 2035 (Su & Yuan, 2023; CENJOWS, 2020; Pramudia, 2022).
Por otra parte, el Ministerio de Relaciones Exteriores de China y sus delegaciones ante el GEG sobre los LAWS han expresado su respaldo a una regulación internacional de estos sistemas. Sin embargo, ese apoyo se limita a los sistemas completamente autónomos, es decir, aquellos que operan sin ningún tipo de control ni intervención humana. En cambio, se oponen a prohibiciones vinculantes que incluyan también a los sistemas semiautónomos, que aún permiten cierto grado de supervisión humana. Su postura no implica un rechazo absoluto, sino una resistencia focalizada a las restricciones más amplias, apostando por una regulación gradual y basada en el derecho blando. En definitiva, China respalda normas acotadas para los desarrollos más extremos, pero defiende su margen de maniobra frente a tecnologías intermedias, en línea con su estrategia de liderazgo en IA militar (Unidir, 2017b; Bode et al., 2023).
Israel
Los avances tecnológicos de Israel han digitalizado su ocupación de Palestina y han convertido el territorio en un campo de pruebas de tecnologías de vigilancia, espionaje y armamento, lo que ha situado al país como pionero de los LAWS, con el "dron suicida" Harop, el robot de campo de batalla con ruedas Robattle, el "tirador inteligente" y la ametralladora automatizada de control fronterizo Sentry-Tech. Esta última, por ejemplo, desplegada a lo largo de la frontera de Gaza, se diseñó para impedir que los palestinos salieran de la Franja mediante "robo-francotiradores" automatizados instalados a lo largo del perímetro que, al detectar movimiento humano, activan la cadena de armas, concentrando la potencia de fuego en el intruso y pudiendo incluso disparar cohetes explosivos. El efecto de estas máquinas sobre un cuerpo humano sería abrumador, desproporcionadamente violento y apenas dejarían restos, lo que activaría controles de la sociedad civil cuando se evidencien, a través de redes sociales, las implicaciones de estas implementaciones (Wilches-Tinjacá et al., 2025), con el fin de presionar a organismos internacionales para emitir mensajes de mesura, uso ético y proporcionalidad, dado el interés que suscita este conflicto en una aldea global hiperconectada.
No obstante, el sello de aprobación militar y de "probado en combate" ha allanado el camino para que Israel se convierta en el octavo exportador mundial de armas y desarrolle el sector tecnológico de Tel Aviv. Una de sus empresas armamentísticas más conocidas, Smart Shooter ("un disparo, un impacto"), proporciona actualmente soluciones al Ejército israelí, al Departamento de Defensa de Estados Unidos, al Cuerpo de Marines de Estados Unidos, al Ejército neerlandés, a la Armada india, al Ejército alemán y al de Singapur en cuanto a IA, aprendizaje automático y visión por ordenador para convertir armas de fuego tradicionales en armas inteligentes (Israel Defense, 2022; Soldier Systems, 2021; Techtime, 2021). Más recientemente, su tecnología fue seleccionada para un ejercicio en la lucha contra drones del Programa de Trabajo de Defensa contra el Terrorismo de la OTAN en 2020.
En respuesta, el Estado de Palestina ha venido trabajando en una posición que refleja su compromiso de crear un nuevo instrumento internacional jurídicamente vinculante que aborde el desarrollo y el uso de los LAWS (Wareham, 2020). Este instrumento se propondría en el contexto de los debates multilaterales celebrados en diversos foros de las Naciones Unidas, incluidos el Consejo de Derechos Humanos, la Asamblea General y la CCW.
Debates internos: cisma académico
En el caso israelí, la mayoría de los actores parecen alinearse con una visión, salvo contadas excepciones provenientes de la academia. En primer lugar, tanto el Ministerio de Defensa como las Fuerzas de Defensa de Israel apoyan activamente el desarrollo y uso de los LAWS, con base en la efectividad operativa que brindan estos dispositivos; concretamente, se considera que es uno de los Estados con mayores avances en este campo. De igual forma, sistemáticamente se ha evitado la discusión pública sobre cuestiones legales o éticas y, por el contrario, se ha privilegiado la argumentación en favor de la protección, la precisión y el análisis costo-beneficio que ofrecen estas máquinas (Nadibaidze, 2022; Porcelli, 2021).
En línea con lo anterior, el Ministerio de Relaciones Exteriores y las delegaciones israelíes ante las Naciones Unidas expresan constantemente su rechazo a cualquier prohibición preventiva de los LAWS y favorecen un análisis caso por caso (Unoda, 2020a). Esto obedece a la oposición explícita, en el marco de las negociaciones de la CCW, a cualquier instrumento internacional vinculante de carácter restrictivo de los LAWS, pues se considera que el contexto debe incluirse para comprobar el cumplimiento del DIH y que instrumentos como este son suficientes para controlar estos sistemas (Unoda, 2020b). Asimismo, la industria de defensa israelí procura evitar controversias públicas en torno al debate sobre la autonomía, y lidera a nivel mundial el desarrollo de sistemas completamente autónomos o semiautónomos para tareas de localización de objetivos, vigilancia y asistencia en combate (Israel Defense, 2022).
Finalmente, la academia israelí muestra una división. Por una parte, algunos sectores coinciden con la postura de los demás actores, al considerar que, por ejemplo, el DIH cuenta con la capacidad de regular los LAWS, específicamente amparados en el artículo 36 de este instrumento (Bode et al., 2023). Por otra parte, otra porción de la academia llama a la cautela y la prudencia, al sostener que el debate debe considerar el control humano efectivo y subrayar los límites éticos de estos sistemas en la guerra asimétrica (Bode et al., 2023).
Otros actores: ¿participación o fractura?
Organizaciones de la sociedad civil y centros especializados de investigación también se han hecho un lugar importante en el análisis de los procesos de regulación de los LAWS.
Sus interpretaciones y capacidad de presión son valiosas para incluir los debates éticos y normativos en el tema en discusión. A continuación se exponen algunos de los aportes más relevantes de estos sectores.
Comité Internacional de la Cruz Roja (CICR)
Por su vocación fundacional y su voluntad de promover el DIH y el derecho internacional de los derechos humanos (DIDH), el CICR aborda el debate sobre los LAWS a través del control humano. En este sentido, ha señalado de forma constante la necesidad de mantener dicho control para garantizar el cumplimiento del DIH y del DIDH, al tiempo que se observan normas éticas mínimas; de este modo, se pone un límite a la autonomía (CICR, 2018). En cuanto al debate ético, consideró cómo el alcance de los principios de humanidad y los dictados de la conciencia pública podrían permitir o no la sustitución de la toma de decisiones humanas por procesos controlados por ordenador, concretamente en situaciones de vida o muerte. Por ello, se refirió a la correlación entre el desarrollo del DIH y las decisiones éticas adoptadas por los Estados y la sociedad civil, la cláusula Martens (conexión entre las normas positivas del derecho internacional relativas a los conflictos armados y el derecho natural) y el aumento de la conciencia pública contraria a la autonomía en los sistemas de armas.
Asimismo, en cuestiones éticas, el CICR afirmó que los LAWS no solo plantean dudas sobre su compatibilidad con las leyes vigentes -internacionales o nacionales-, sino que interpelan directamente a los valores. En consecuencia, formuló varios argumentos éticos: 1) la precisión y la fiabilidad potenciales de los LAWS podrían ser coherentes con el DIH, el DIDH y ciertos valores éticos; sin embargo, ello depende del diseño y del modo de empleo de estas máquinas; 2) la agencia humana y el requisito de mantener control e intención humanos en las decisiones sobre el uso de la fuerza, dada la posible afectación de la dignidad humana, la responsabilidad moral futura y la rendición de cuentas (que no pueden transferirse a máquinas o algoritmos); y 3) cuestiones relativas a la previsibilidad y fiabilidad de las consecuencias de un ataque, así como elementos contextuales como el marco temporal de la operación, el alcance del movimiento sobre una zona, la tarea, el entorno operativo y el tipo de objetivo (CICR, 2018).
En resumen, la principal preocupación para el CICR surge del hecho de que los LAWS incluyen armas autónomas antipersona que apuntan directamente a seres humanos; por lo tanto, se propuso mantener un control humano significativo, efectivo o apropiado para preservar la responsabilidad moral en las decisiones de uso de la fuerza y conservar la capacidad de intervenir y desactivar (CICR, 2018). No obstante, su enfoque -basado en una definición operativa de control humano de supervisión (human-on-the-loop), que permita intervenir y desactivar armas autónomas en función del conocimiento de la situación, el tiempo para intervenir y los mecanismos (enlaces de comunicación o controles físicos) para retomar el control o desactivar el sistema- cuenta con el apoyo de algunos actores estatales y no estatales, aunque otros lo cuestionan.
Panel Internacional sobre la Regulación de las Armas Autónomas (iPRAW)
El iPRAW es una red internacional, interdisciplinaria e independiente de investigadores que proporciona información con base científica y recomendaciones para el GGE sobre los LAWS. En 2021 emitió recomendaciones al GGE basadas en bloques interconectados.
En primer lugar, en relación con los retos, iPRAW identificó temas que exigen diálogo y acción: 1) comprender la tecnología detrás de los LAWS para reducir la imprevisibilidad, los riesgos y los sesgos; 2) centrar las consideraciones sobre estos sistemas en la interacción hombre-máquina, especialmente en la toma de decisiones militares; 3) subrayar el dilema jurídico que rodea a estas tecnologías, en particular cuando se emplean contra seres humanos, teniendo en cuenta la obligación de mantener control humano pese a la mención no explícita de los LAWS en el DIH; 4) la obligación moral de preservar la agencia humana para proteger la dignidad humana; y 5) los riesgos presentes y futuros asociados a su uso a nivel internacional en términos de seguridad e inestabilidad (iPRAW, 2021).
En segundo lugar, respecto del control humano, iPRAW vincula los retos anteriores con la presencia o ausencia de este elemento; en otras palabras, subraya que la futura normativa debería centrarse en el control humano, entendido como la comprensión de la situación y las opciones de intervención habilitadas tanto por el diseño como por el uso. Por último, en cuanto a los elementos del marco regulatorio, iPRAW conecta ese enfoque con una postura tecnológica agnóstica sobre los LAWS que sitúa a los seres humanos en el centro de su definición; de este modo, se busca que la fuerza motriz de la definición no sea el uso de la fuerza, sino el control humano, integrando la CCW y otros posibles instrumentos para regular o prohibir estas máquinas.
En suma, iPRAW también promueve un enfoque basado en el control humano -como el CICR- y lo vincula con el marco normativo y la solución de retos actuales y futuros (Siregar et al., 2024), aunque enfrenta reacciones diversas de actores estatales y no estatales.
Campaña para Detener a los Robots Asesinos (CSKR)
La CSKR fue creada en 2012 y lanzada en 2013, con el objetivo de garantizar el control humano en el uso de la fuerza, al tiempo que reclama un nuevo derecho internacional sobre los LAWS (Stop Killer Robots, s.f.). Desde 2012, la CSKR ha publicado documentos que alertan sobre la evolución futura de la guerra -mencionando expresamente a los "robots asesinos"- y su relación con los DD.HH., el DIH y la urgencia de desarrollar un tratado sobre los LAWS.
En 2022, la CSKR realizó una declaración en la 77.a Primera Comisión sobre Desarme y Seguridad Internacional de la Asamblea General de las Naciones Unidas, en la que destacó los desafíos éticos, jurídicos, sociales y de seguridad que representan los LAWS y cómo el enfoque de hard law -prohibir estos sistemas y exigir control humano- puede ser una vía para garantizar responsabilidad y rendición de cuentas en el uso de la fuerza (Stop Killer Robots, 2022). Además, subrayó la necesidad de abordar la realidad del empleo de LAWS en conflictos en curso y la urgencia de evitar las consecuencias de su proliferación, reconocidas por algunas empresas del sector que se han comprometido a no contribuir a ellas.
Sin embargo, pese al apoyo de más de 70 Estados, del CICR, de comunidades científicas, líderes religiosos, veteranos militares, organizaciones de la sociedad civil y de la opinión pública, el enfoque de hard law para prohibir los LAWS es ignorado por los Estados que desarrollan, producen y despliegan estas tecnologías. En este sentido, se confirma la hipótesis de Porcelli (2021): aunque crece una masa crítica que aboga por la regulación y por estándares éticos exigentes, las disposiciones estatales siguen guiadas por el pragmatismo y los intereses particulares.
¿Acordar no estar de acuerdo?
Una vez esbozadas las posturas del CICR, iPRAW y CSKR, resulta indispensable identificar los elementos comunes y las diferencias respecto de su posición frente a los LAWS. Por un lado, se identifican coincidencias en: 1) el reconocimiento de riesgos éticos y jurídicos del uso de los LAWS; 2) la importancia del control humano significativo; 3) la preocupación por la dignidad humana y la agencia humana en las decisiones sobre el uso de estas máquinas; 4) la crítica al uso indiscriminado de estos sistemas; 5) la desconfianza hacia la autonomía tecnológica; y 6) la urgencia de incluir el DIH en la discusión.
Por otro lado, en cuanto a las diferencias, se observan matices en: a) el enfoque de control humano, que oscila entre la supervisión operativa completa (human-on-the-loop), la participación humana en el diseño y el empleo (situational awareness + intervention capacity) y la prohibición sin excepción si no se garantiza dicho control; b) el marco normativo propuesto, que fluctúa entre una interpretación evolutiva del DIH y la creación de un tratado internacional vinculante que prohíba estas máquinas; c) la postura y el discurso frente a los LAWS, que varían entre la regulación y la prohibición radical, sustentadas en narrativas éticas, jurídicas, técnicas, normativas y activistas; y d) la relación con los Estados, que oscila entre la colaboración, la consulta, la asesoría y la oposición.
Conclusiones
El crecimiento de investigaciones y usos de la IA para los LAWS revela la tensión entre la consolidación de avances tecnológicos, la innovación científica y el interés de los Estados en apoyar estos desarrollos, ya sea para escalar los conflictos o mantener posiciones de control y hegemonía en el mapa geopolítico.
En este sentido, es improbable que una visión prohibicionista y denunciante sea la solución, pues, como ha evidenciado este artículo, los Estados convergen en que no se trata solo de securitización o de uso indiscriminado de tecnologías militares (Bode et al., 2023), sino de que el uso de IA en los LAWS responde a una época en la que no solo están presentes actores estatales, sino también dinámicas económicas y múltiples actores de la sociedad civil beneficiados por su aplicación en seguridad y defensa.
No obstante, tampoco es recomendable una visión de "dejar hacer y dejar pasar", pues los Estados deben comprender que el uso de la tecnología no depende únicamente de la bandera del progreso social y la supervivencia de la civilización; también surgen oportunismos de actores no estatales e ilegales que pueden realizar desarrollos tecnológicos al margen de cualquier regulación y respeto a los derechos humanos, aprovechando los desacuerdos entre Estados e instituciones internacionales. La historia reciente demuestra la capacidad del crimen transnacional para irrumpir en redes sociales y plataformas digitales con el fin de consolidar sus negocios (Guerrero-Sierra et al., 2025), lo que evidencia capacidades instaladas para participar en el actual boom de las herramientas de IA.
Por esa razón, esta investigación acoge la propuesta de Pinho y Bueno (2025), en la que se aboga por la innovación teórica y legal para enfrentar los desafíos y comprender que las pesquisas dinamizadas por la inteligencia artificial no se pueden detener: deben responder a manifestaciones imprevisibles de las guerras y a las amenazas a la seguridad nacional y al orden global, pero, a su vez, encontrar nuevas dimensiones de discusión y debate en las que siempre se tengan en cuenta las voces de todos los actores estatales y de la sociedad civil.
Uno de estos conceptos reside en la gobernanza, entendida como un ejercicio de articulación entre distintos actores y niveles -local, nacional, regional e internacional-. Este ejercicio no se reduce al formalismo de las discusiones y acuerdos (a menudo ignorados por las potencias militares), sino al diseño público, la implementación de políticas y encuentros periódicos en los que los actores interesados discutan y debatan la actualización de estos desarrollos y los desafíos éticos que plantean. En otras palabras, se necesita que la gobernanza frente a los LAWS se visualice como un escenario en constante progreso, con nuevos riesgos y redimensionamientos del debate.
Esto supone una transformación cultural compleja en la forma de diseñar los lineamientos de seguridad y defensa, la normatividad aplicable a los conflictos y los principios de respeto de los derechos humanos. En la era moderna, estas disposiciones eran fijas y, con el pretexto de mantenerlas en el espacio y el tiempo, fueron preservadas como inamovibles para la humanidad. Si bien este es un propósito loable, los avances tecnológicos han irrumpido en ellas y han abierto grietas, traducidas en dilemas y en ausencia de criterios para tomar decisiones adecuadas. No se trata de confundir improvisación con innovación, pero sí de evitar que las disposiciones normativas caigan en la falacia racionalista de que serán obedecidas por el solo hecho de estar instauradas en los principios rectores del derecho occidental.
Para ello, se debe tener en cuenta que estos principios rectores son relativizados o comprendidos desde otras aristas por países del mundo oriental -como China, Rusia y los países árabes- y, en Occidente, por los personalismos de los gobernantes, los intereses de corporaciones transnacionales, así como por estructuras del crimen organizado. Por lo tanto, esta realidad demuestra que el acceso a la IA es cada vez menos limitado, y negar este derecho sería improcedente, pues iría en contra de la libertad pregonada desde la revolución de las tecnologías de la información.
No obstante, aunque existe un consenso creciente sobre la importancia de garantizar un "control humano significativo" en el uso de los LAWS, persisten profundas fracturas que dificultan la construcción de un marco normativo sólido y vinculante. Estas tensiones no se explican únicamente por desafíos técnicos, sino que están arraigadas en intereses estructurales. En el plano económico, la influencia creciente de la industria de defensa y del complejo militar-industrial en varias potencias hace que muchos actores recelen de cualquier restricción que limite el desarrollo de tecnologías de alto valor comercial y estratégico. Desde la perspectiva militar, doctrinas que priorizan la autonomía operativa y buscan minimizar riesgos para el personal refuerzan la resistencia a aceptar marcos regulatorios percibidos como obstáculos a la eficacia en el campo de batalla. En el ámbito geopolítico, la carrera por la supremacía tecnológica convierte el debate sobre la regulación de los LAWS en un escenario de competencia estratégica, donde la desconfianza entre grandes potencias y las asimetrías tecnológicas hacen aún más difícil avanzar hacia acuerdos multilaterales genuinos.
Por otra parte, la incapacidad de la Convención sobre Ciertas Armas Convencionales (CCW) para producir un consenso efectivo ha llevado a contemplar vías alternativas de gobernanza, inspiradas en precedentes como la Convención de Ottawa o el Tratado sobre la Prohibición de Armas Nucleares. Sin embargo, la efectividad de estas alternativas dependerá de su capacidad para incluir -o, al menos, influir en- los Estados que actualmente lideran el desarrollo, la producción y el despliegue de estas tecnologías. De lo contrario, cualquier tratado podría verse reducido a una declaración simbólica de escasa eficacia real.
Es importante resaltar que la CCW opera bajo un modelo de consenso entre los Estados parte que, si bien garantiza legitimidad, también ha generado una fuerte parálisis normativa: la oposición de un solo Estado basta para bloquear avances. Su estructura intergubernamental, además, limita la participación de actores no estatales y de la sociedad civil, reduciendo la inclusividad del debate. En contraste, los modelos alternativos de gobernanza (como los impulsados por la Convención de Ottawa o el Tratado sobre la Prohibición de Armas Nucleares) se basan en coaliciones voluntarias, procesos abiertos y marcos jurídicos flexibles, capaces de avanzar incluso sin el respaldo inicial de las grandes potencias. Este enfoque de gobernanza adaptativa permite generar presión normativa ascendente y establecer estándares emergentes, articulando a Estados, organismos internacionales, sociedad civil y comunidades de expertos.
Un marco de este tipo debería promover la transparencia en el desarrollo y uso de tecnologías autónomas, establecer mecanismos de verificación y espacios de diálogo continuo, e incorporar principios de flexibilidad que permitan ajustar la regulación al ritmo vertiginoso de los avances en inteligencia artificial aplicada a ámbitos militares. Este enfoque podría contribuir a destrabar el actual estancamiento, generando marcos más ágiles, inclusivos y políticamente viables que refuercen los esfuerzos multilaterales en curso.
En síntesis, el modelo de gobernanza debería partir de un enfoque realista en el que los LAWS sean reconocidos como un eje que contribuye a la vitalidad creciente de los estudios de seguridad y defensa y, con la emergencia de la inteligencia artificial, exige que esta evolución del sector no esté de espaldas al debate público, sino abierta a una reflexión y evaluación constantes. Desde otros sectores -salud, educación y medio ambiente- ya se generan articulaciones que entienden que la endogamia no es la solución, y que, pese a las brechas entre la financiación estatal y las tendencias globales de investigación, sus impactos son cuestionados o evaluados por masas críticas independientes o adscritas a centros de pensamiento. Incluso, las experiencias de Estados Unidos, Rusia, China, Israel y la Unión Europea muestran la necesidad de conformar equipos interdisciplinarios para evitar que investigaciones o implementaciones militares deriven en restricciones o suspensión de fondos para el desarrollo de este tipo de armas.
Por supuesto, ello no implica que toda la información deba ser pública: las doctrinas de seguridad justifican la información clasificada para proteger la integridad de quienes participan en guerras interestatales o en la lucha contra la criminalidad transnacional (Guerrero-Sierra & Melamed, 2013; Guerrero-Sierra, 2012). Sin embargo, en lo relacionado con los LAWS, su empleo genera mediatización y exposición pública que obligan a rendir cuentas, revisar acuerdos y cuestionar su eficacia.
Con todo, si bien la tecnología avanza más rápido que el derecho, ello no puede ser excusa para la inacción. La experiencia demuestra que, incluso frente a tecnologías disruptivas, la comunidad internacional ha sido capaz de desarrollar marcos normativos innovadores y efectivos. La cuestión no es únicamente si regular o no los LAWS, sino cómo hacerlo de manera legítima, efectiva y con amplia participación de los actores afectados. La construcción de un consenso internacional requiere reconocer los disensos, pero también explorar activamente puntos de convergencia que permitan avanzar hacia una regulación de la inteligencia artificial centrada en el consenso jurídico internacional y en el reconocimiento de las dinámicas de los conflictos contemporáneos.
