La inteligencia artificial acelera la manera en que los ej\u00e9rcitos en Oriente Medio identifican y atacan objetivos, generando un volumen sin precedentes de coordenadas de bombardeo mientras erosiona los marcos legales destinados a proteger a los civiles. El uso por parte de Israel de sistemas de selecci\u00f3n de objetivos impulsados por IA en Gaza ha recibido duras cr\u00edticas de funcionarios de las Naciones Unidas, que afirman que la tecnolog\u00eda contribuy\u00f3 a la destrucci\u00f3n sistem\u00e1tica de viviendas civiles a una escala que describen como \u00abdomicidio\u00bb. A medida que empresas tecnol\u00f3gicas comerciales suministran los modelos subyacentes y la infraestructura en la nube, la cuesti\u00f3n de qui\u00e9n asume la responsabilidad por la destrucci\u00f3n resultante no tiene una respuesta clara, y los esfuerzos internacionales para regular los sistemas de armas aut\u00f3nomas siguen estancados.<\/p>\n
Las Fuerzas de Defensa de Israel operan un sistema de IA conocido como \u00abGospel\u00bb, o Habsora en hebreo, dise\u00f1ado para producir objetivos a gran velocidad<\/a>, seg\u00fan una descripci\u00f3n citada de los propios materiales del ej\u00e9rcito. Esa caracterizaci\u00f3n, detallada por The Guardian a finales de 2023, captura la tensi\u00f3n central: la rapidez y el volumen en la generaci\u00f3n de objetivos pueden superar la capacidad de los operadores humanos para verificar cada ataque conforme a las leyes de los conflictos armados. El sistema procesa grandes conjuntos de datos, incluidas fuentes de vigilancia e inteligencia de se\u00f1ales, para se\u00f1alar edificios y ubicaciones como posibles objetivos militares.<\/p>\n Lo que distingue esto de los m\u00e9todos de selecci\u00f3n de objetivos anteriores es el rendimiento. El an\u00e1lisis de inteligencia tradicional requer\u00eda equipos de especialistas trabajando durante d\u00edas o semanas para desarrollar un \u00fanico paquete de objetivos. Gospel comprime ese cronograma de forma dr\u00e1stica, alimentando una canalizaci\u00f3n que puede generar muchas m\u00e1s coordenadas de ataque que en ning\u00fan conflicto previo. Cuanto m\u00e1s logra el sistema su objetivo t\u00e9cnico de identificaci\u00f3n r\u00e1pida, mayor presi\u00f3n ejerce sobre las etapas de revisi\u00f3n humana que deber\u00edan garantizar la legalidad y la proporcionalidad.<\/p>\n El resultado, seg\u00fan relatores especiales de la ONU, ha sido la destrucci\u00f3n masiva de infraestructuras civiles en Gaza. En una declaraci\u00f3n de abril de 2024, esos expertos lamentaron el uso de lo que se dice que es IA para cometer domicidio<\/a>, empleando el t\u00e9rmino para describir la demolici\u00f3n deliberada y a gran escala de viviendas y \u00e1reas residenciales. Sostuvieron que el patr\u00f3n de ataques apuntaba a la destrucci\u00f3n sistem\u00e1tica del entorno edificado m\u00e1s que a da\u00f1os incidentales alrededor de objetivos militares espec\u00edficos, y pidieron un enfoque reparador para la reconstrucci\u00f3n que reconozca el papel de las tecnolog\u00edas emergentes en permitir tal devastaci\u00f3n.<\/p>\n La tuber\u00eda que conecta Silicon Valley con las l\u00edneas del frente pasa por contratos de computaci\u00f3n en la nube y licencias de modelos de IA. The Associated Press inform\u00f3 que Israel usa modelos de IA fabricados en EE. UU. en sus operaciones militares, con tecnolog\u00eda de Microsoft y OpenAI<\/a> desempe\u00f1ando un papel en la toma de decisiones en el campo de batalla. Seg\u00fan ese reportaje, unidades israel\u00edes han usado modelos de lenguaje a gran escala y herramientas relacionadas para ayudar en tareas como an\u00e1lisis de im\u00e1genes, ordenaci\u00f3n de datos y planificaci\u00f3n operativa, integrando sistemas comerciales en los flujos de trabajo militares.<\/p>\n Una investigaci\u00f3n separada de AP encontr\u00f3 que Microsoft vendi\u00f3 servicios avanzados de IA y nube al ej\u00e9rcito israel\u00ed durante la guerra en Gaza. La compa\u00f1\u00eda reconoci\u00f3 esas ventas pero neg\u00f3 que su IA fuera usada<\/a> para perjudicar a personas en Gaza, argumentando que sus contratos se centraban en aplicaciones defensivas y administrativas. La empresa tambi\u00e9n subray\u00f3 que no controla c\u00f3mo los clientes configuran y despliegan sus herramientas de prop\u00f3sito general una vez que se les concede acceso.<\/p>\n Esa negaci\u00f3n pone de manifiesto un problema estructural en la rendici\u00f3n de cuentas. Un proveedor de la nube puede vender potencia de c\u00e1lculo y acceso a modelos sin controlar c\u00f3mo el usuario final aplica la salida. La posici\u00f3n de Microsoft, esencialmente, es que suministr\u00f3 herramientas pero no dirigi\u00f3 su uso. Los cr\u00edticos sostienen que este enfoque permite a los proveedores beneficiarse de contratos militares al tiempo que se distancian de las consecuencias, incluso cuando sus productos est\u00e1n entretejidos en la misma infraestructura digital que sustenta operaciones ofensivas.<\/p>\n La cobertura de AP incluy\u00f3 ejemplos de c\u00f3mo la IA puede entrar en el proceso de selecci\u00f3n de objetivos, ilustrando la dificultad pr\u00e1ctica de trazar una l\u00ednea clara entre un producto comercial y una decisi\u00f3n militar letal. Una vez que un modelo de prop\u00f3sito general se ajusta con datos clasificados y se conecta a fuentes de vigilancia, pasa a formar parte de la cadena de ataque, incluso si su comercializaci\u00f3n original enfatizaba productividad o asistencia en investigaci\u00f3n.<\/p>\n La implicaci\u00f3n de grandes empresas tecnol\u00f3gicas estadounidenses tambi\u00e9n complica la pol\u00edtica exterior de EE. UU. Los controles de exportaci\u00f3n y los acuerdos de uso final rigen las transferencias de armas convencionales, pero los modelos de IA y las suscripciones en la nube ocupan una zona gris. Ning\u00fan marco regulatorio existente define claramente cu\u00e1ndo una herramienta de IA de prop\u00f3sito general se convierte en componente de un sistema de armas, y los proveedores tienen poco incentivo para buscar esa claridad por su cuenta. El resultado es un desfase en las pol\u00edticas en el que las compa\u00f1\u00edas pueden ampliar sus portafolios de defensa m\u00e1s r\u00e1pido de lo que los gobiernos pueden adaptar los mecanismos de supervisi\u00f3n.<\/p>\n El Secretario General de la ONU, Ant\u00f3nio Guterres, ha abordado directamente esta brecha. En un encuentro con la prensa sobre Gaza en abril de 2024, expres\u00f3 su preocupaci\u00f3n por los informes del uso de IA<\/a> para la identificaci\u00f3n de objetivos y vincul\u00f3 la rapidez y la escala de las operaciones habilitadas por IA con lo que llam\u00f3 un borroneo de la responsabilidad. Sus comentarios reflejaron una inquietud creciente entre los funcionarios internacionales: cuando un algoritmo genera un objetivo, un comandante aprueba el ataque y una empresa tecnol\u00f3gica provee el modelo y la infraestructura subyacentes, la responsabilidad legal se fragmenta entre m\u00faltiples actores y jurisdicciones.<\/p>\n El derecho internacional humanitario tradicionalmente asigna la responsabilidad al comandante que ordena un ataque y al Estado que despliega el arma. Pero la introducci\u00f3n de la IA en la cadena de ataque plantea preguntas para las que la doctrina existente no fue dise\u00f1ada. Si un algoritmo identifica err\u00f3neamente un edificio residencial como objetivo militar, y un operador humano aprueba el ataque bas\u00e1ndose en la recomendaci\u00f3n del sistema sin verificaci\u00f3n independiente, \u00bfd\u00f3nde reside la culpa? \u00bfCon el desarrollador del software que dise\u00f1\u00f3 el modelo, la oficina de adquisiciones militares que lo integr\u00f3, el oficial al mando que confi\u00f3 en la salida o el operador que ejecut\u00f3 la orden?<\/p>\n Cada actor puede se\u00f1alar a otro eslab\u00f3n en la cadena. Los desarrolladores pueden argumentar que suministraron una herramienta con limitaciones documentadas; los militares pueden afirmar que siguieron procedimientos internos y se apoyaron en la mejor tecnolog\u00eda disponible; los l\u00edderes pol\u00edticos pueden insistir en que carec\u00edan de conocimiento detallado sobre decisiones espec\u00edficas de selecci\u00f3n de objetivos. Esta difusi\u00f3n de responsabilidades dificulta la aplicaci\u00f3n de los mecanismos existentes de rendici\u00f3n de cuentas, desde el derecho penal interno hasta las investigaciones internacionales.<\/p>\n La mayor\u00eda de los debates pol\u00edticos dominantes todav\u00eda tratan esto como un problema de gobernanza futura. Esa visi\u00f3n subestima la urgencia. La brecha de responsabilidad ya se est\u00e1 manifestando en Gaza, donde se han ejecutado listas de objetivos generadas por IA y barrios enteros han sido reducidos a escombros. Las familias cuyas viviendas fueron destruidas no pueden rastrear con facilidad una l\u00ednea clara desde el cr\u00e1ter de la explosi\u00f3n hasta un programador, contratista o comandante en particular. La ley no solo va detr\u00e1s de la tecnolog\u00eda; est\u00e1 luchando por mapear la responsabilidad sobre un sistema sociot\u00e9cnico dise\u00f1ado para ser distribuido y opaco.<\/p>\n Los esfuerzos por establecer normas internacionales para sistemas de armas aut\u00f3nomas han avanzado muy poco. Un an\u00e1lisis del Lieber Institute en West Point se\u00f1ala que las grandes potencias militares se oponen<\/a> a regular jur\u00eddicamente de forma vinculante dichos sistemas, lo que reduce las perspectivas de un tratado comprensivo. Estados Unidos, Rusia y China, que lideran la investigaci\u00f3n y el despliegue militar en IA, han favorecido principios no vinculantes y medidas t\u00e9cnicas de fomento de la confianza sobre restricciones legales estrictas.<\/p>\nLa IA comercial entra en el campo de batalla<\/h2>\n
L\u00edneas difusas de responsabilidad<\/h2>\n
La regulaci\u00f3n se estanca mientras surgen nuevas amenazas<\/h2>\n