Cómo la Inteligencia Artificial está decidiendo objetivos en conflictos armados
Inteligencia Artificial ya dejó de ser solo esa herramienta que recomienda series en el streaming o responde preguntas en tu celular. Hoy, en escenarios de conflictos armados reales, algoritmos sofisticados están siendo usados para generar listas de objetivos militares, calcular la probabilidad de que alguien sea un combatiente y acelerar decisiones que históricamente dependían del juicio humano. Lo que debería ser un avance tecnológico capaz de reducir errores se convirtió, en la práctica, en un mecanismo que diluye la responsabilidad cuando civiles son alcanzados. Cuando un sistema automatizado señala un objetivo y el resultado es la muerte de personas inocentes, la pregunta que queda es directa e incómoda: ¿quién responde por eso?
Una investigación detallada publicada por el The Guardian reveló cómo grandes empresas de tecnología, esas que mucha gente conoce por productos y servicios del día a día, están actuando en la práctica como contratistas de defensa. Proporcionan la infraestructura computacional, los modelos de aprendizaje automático y las plataformas de datos que sostienen sistemas de selección de objetivos en zonas de guerra. Y el punto más inquietante de esta historia no es que el sistema haya fallado en algún momento. Es que funcionó exactamente como fue diseñado para funcionar 😐
De la niebla en el puesto de vigilancia a la niebla dentro del algoritmo
El artículo original del The Guardian abre con una referencia poderosa a una estrategia militar israelí conocida como procedimiento de niebla. Usada por primera vez durante la segunda intifada, esta regla no oficial orientaba a los soldados en puestos de vigilancia a disparar ráfagas de tiros en la oscuridad siempre que la visibilidad fuera baja, bajo la justificación de que una amenaza invisible podría estar acercándose. Era violencia autorizada por la ceguera. Dispara en la oscuridad y llámalo disuasión.
Con la llegada de la guerra basada en Inteligencia Artificial, esa misma lógica de ceguera deliberada fue refinada, sistematizada y transferida a una máquina. La oscuridad en la torre de vigilancia era una condición del terreno. La oscuridad dentro del algoritmo es una condición del diseño. En ambos casos, la ceguera fue elegida porque la ceguera es útil: crea posibilidad de negación, hace que la violencia parezca inevitable y transfiere la cuestión de quién decidió de una persona a un procedimiento. La niebla no se disipó. Recibió un puntaje de probabilidad y fue llamada inteligencia.
La guerra reciente en Gaza fue descrita como la primera gran guerra de IA, el primer conflicto en el cual sistemas de inteligencia artificial desempeñaron un papel central en la generación de la lista de supuestos militantes de Hamás y la Yihad Islámica que serían atacados. Sistemas que procesaron miles de millones de puntos de datos para clasificar la probabilidad de que cualquier persona en el territorio fuera un combatiente. Y lo que pasó después no se limitó a Gaza.
El caso de la escuela en Minab y la inteligencia desactualizada
Puede haber sido esa misma ceguera elegida la que llevó, al inicio del conflicto entre Estados Unidos e Israel contra Irán, al ataque contra la escuela primaria Shajareh Tayyebeh, en la ciudad de Minab, en el sur de Irán. Al menos 168 personas fueron asesinadas, la mayoría niñas, de entre siete y 12 años de edad.
Las armas fueron precisas. Expertos en municiones describieron el direccionamiento como increíblemente preciso, con cada edificio alcanzado individualmente y nada fuera del objetivo. El problema no fue la ejecución. El problema fue la inteligencia detrás de la decisión. La escuela había sido separada de una base adyacente de la Guardia Revolucionaria por una cerca y convertida para uso civil casi una década antes. En algún punto del ciclo de selección de objetivos, ese dato aparentemente nunca fue actualizado.
El papel exacto de la IA en el ataque a Minab no fue oficialmente confirmado. Lo que se sabe es que la infraestructura de selección de objetivos en la cual estos sistemas operan no posee un mecanismo confiable para señalar cuándo la inteligencia subyacente tiene una década de desactualización. Para alcanzar mil objetivos en las primeras 24 horas de la campaña en Irán, los militares de EE.UU. dependieron de sistemas de IA para generar, priorizar y clasificar la lista de objetivos a una velocidad que ningún equipo humano podría replicar.
Reciba el mejor contenido sobre innovación en su correo electrónico.
Todas las noticias, consejos, tendencias y recursos que buscas, directamente en tu bandeja de entrada.
Al suscribirte al boletín informativo, aceptas recibir comunicaciones de Método Viral. Nos comprometemos a proteger y respetar siempre tu privacidad.
Como resumió el artículo original: Gaza fue el laboratorio. Minab es el mercado. El resultado es un mundo en el que las decisiones de selección de objetivos más trascendentes de la guerra moderna son tomadas por sistemas que no pueden explicarse, proporcionados por empresas que no rinden cuentas a nadie, en conflictos que no generan rendición de cuentas. Esto no es una falla del sistema. Esto es el sistema.
El papel de las Big Techs como contratistas de defensa
Durante mucho tiempo, el sector de defensa estuvo dominado por empresas tradicionales que fabricaban armamento, vehículos blindados y sistemas de comunicación militar. Ese panorama cambió radicalmente en los últimos años. Compañías que nacieron en Silicon Valley y que construyeron su reputación alrededor de la innovación y la conectividad ahora firman contratos multimillonarios con fuerzas armadas de todo el mundo. La Inteligencia Artificial que estas empresas desarrollan no solo está optimizando logística o monitoreando fronteras. Está integrada en sistemas que procesan datos de vigilancia, cruzan información de inteligencia y generan recomendaciones sobre quién debe ser considerado un objetivo legítimo en conflictos armados. La transición de estas corporaciones al papel de contratistas de defensa ocurrió de forma relativamente silenciosa, sin el escrutinio público que normalmente acompaña decisiones de esa magnitud.
El artículo original nombra a las empresas directamente. Palantir, fundada con financiamiento inicial de la CIA y hoy una de las principales proveedoras de infraestructura de IA para los militares estadounidenses, proporcionó sistemas usados en la campaña contra Irán. Esos sistemas incorporan en parte a Claude, de Anthropic, un modelo de lenguaje de gran escala cuya empresa matriz intentó resistir la presión del Pentágono para eliminar restricciones éticas sobre su uso en selección de objetivos. La respuesta del Pentágono fue amenazar con cortar vínculos y recurrir a OpenAI y otros proveedores. El mercado de matar a escala, como lo expresó el Guardian, no carece de proveedores.
Google, a pesar de protestas internas significativas de empleados, firmó el Proyecto Nimbus, un contrato de computación en la nube e de IA con el gobierno y las fuerzas armadas de Israel valorado en más de mil millones de dólares. Amazon es cofirmante del Proyecto Nimbus junto con Google. Microsoft tenía una integración profunda con sistemas militares israelíes antes de retirarse parcialmente bajo presión en 2024, momento en el cual los datos migraron a Amazon Web Services en cuestión de días.
Anduril, fundada por Palmer Luckey y con un equipo compuesto mayoritariamente por exoficiales de defensa de EE.UU., construye sistemas de armas autónomas explícitamente diseñados para selección letal de objetivos. OpenAI, que hasta hace poco prohibía el uso militar en sus términos de servicio, eliminó silenciosamente esa restricción a principios de 2024 y desde entonces ha buscado contratos con el Pentágono. Estas se encuentran entre las empresas más valiosas del mundo, con productos orientados al consumidor usados por cientos de millones de personas, alianzas de investigación con universidades e una influencia política significativa en Washington, Bruselas y más allá.
Lo que hace esta situación particularmente compleja es el modelo de negocio involucrado. A diferencia de un fabricante de misiles, cuyo producto tiene una finalidad obvia y regulada, las empresas de tecnología proporcionan servicios de computación en la nube, algoritmos de reconocimiento de patrones y plataformas de análisis de datos que pueden aplicarse a prácticamente cualquier finalidad. Esto crea una zona gris enorme. Una misma infraestructura que alimenta un asistente virtual o una herramienta de búsqueda puede, con ajustes relativamente pequeños, ser adaptada para procesar datos de inteligencia militar y auxiliar en la definición de objetivos militares. Esa versatilidad, que desde el punto de vista comercial es una ventaja, desde el punto de vista ético y legal es una pesadilla.
Cuando el algoritmo falla, ¿quién asume la culpa?
Este es quizás el nudo más difícil de desatar en toda esta discusión. En conflictos armados tradicionales, existe una cadena de mando relativamente clara. Un oficial autoriza un ataque, un operador lo ejecuta, y cuando algo sale mal, existen mecanismos aunque imperfectos para determinar responsabilidades. Cuando la Inteligencia Artificial entra en esta ecuación, la cadena de mando se vuelve nebulosa de una manera que favorece la impunidad.
El artículo original trae datos contundentes al respecto. En Gaza, un algoritmo procesó datos sobre cada persona en el territorio, incluyendo registros telefónicos, patrones de movimiento, conexiones sociales y señales de comportamiento, y produjo una lista clasificada de nombres, cada uno con un puntaje de probabilidad indicando la posibilidad de que fuera un combatiente. La verificación, en ese sistema, significaba que un operador humano revisaba cada nombre durante un promedio de cerca de 20 segundos, tiempo suficiente para confirmar que el objetivo era de sexo masculino. Entonces firmaba la aprobación. Un solo sistema produjo más de 37 mil objetivos en las primeras semanas de la guerra. Otro era capaz de generar 100 ubicaciones potenciales de bombardeo por día. Los humanos en el circuito no estaban ejerciendo juicio. Estaban gestionando una cola.
Este fenómeno tiene un nombre entre los investigadores de ética en tecnología: brecha de responsabilidad. Es el espacio vacío que se crea cuando decisiones con consecuencias letales se distribuyen entre humanos y máquinas de tal forma que ninguna parte puede ser individualmente responsabilizada por el resultado final. La atribución se disuelve a lo largo de una cadena de ingenieros, comandantes, operadores y proveedores corporativos, cada uno de los cuales puede señalar al otro. El razonamiento desaparece en un puntaje de probabilidad que ningún abogado puede auditar y ningún tribunal puede interrogar. El proceso colapsa en una aprobación de 20 segundos de una recomendación de la máquina.
El artículo del Guardian también recupera un caso anterior que ilustra cómo esta lógica no comenzó con la IA, pero fue amplificada por ella. En julio de 2014, cuatro niños de la familia Bakr, Ismail, Zakariya, Ahed y Mohammad, de entre 9 y 11 años, fueron asesinados en una playa de Gaza. Ninguna IA estaba involucrada. El lugar había sido previamente clasificado como un complejo naval de Hamás. Los niños fueron señalados como sospechosos porque corrieron y luego caminaron, un comportamiento que correspondía a un modelo de selección de objetivos para combatientes intentando no llamar la atención. Cuando el primer misil impactó, los niños sobrevivientes huyeron. El dron los siguió y disparó de nuevo. Un oficial testificó después que, desde una vista aérea vertical, es muy difícil identificar niños.
Una base de datos militar israelí clasificada, revisada por el Guardian, la +972 Magazine y Local Call, indicó que de los más de 53 mil muertos registrados en Gaza, los combatientes identificados de Hamás y la Yihad Islámica representaban aproximadamente un 17%. Esto sugiere que los demás, el 83%, eran civiles. Las fuerzas de defensa de Israel impugnaron las cifras, aunque no especificaron cuáles.
Existe también un sesgo cognitivo documentado llamado complacencia por automatización, que describe la tendencia humana a confiar excesivamente en sistemas automatizados, especialmente cuando estos sistemas se presentan como tecnológicamente superiores. En un escenario de guerra, donde cada segundo cuenta, la tentación de aceptar la recomendación de la máquina sin cuestionarla es enorme. Y cuando toda una estructura militar pasa a operar bajo esa lógica, el papel del juicio humano se vuelve cada vez más ceremonial.
El lobby detrás de la cortina y el vacío regulatorio
El artículo original no escatima detalles sobre cómo el vacío regulatorio alrededor de estas empresas se mantiene de forma deliberada. Palantir gastó casi 6 millones de dólares en lobby en Washington en 2024, y en un trimestre de 2023 superó los gastos de Northrop Grumman, una de las mayores contratistas de defensa tradicionales del mundo. La empresa lanzó una fundación dedicada a moldear el entorno regulatorio en el que opera.
El consorcio formado por Palantir, Anduril, OpenAI, SpaceX y Scale AI fue descrito por sus propios participantes como un proyecto para proporcionar una nueva generación de contratistas de defensa al gobierno de EE.UU. Las firmas de capital de riesgo que financian estas empresas, como Andreessen Horowitz y Founders Fund, cultivaron influencia mediante la cercanía con el poder: exfuncionarios de alto rango en sus consejos consultivos, socios circulando por cargos gubernamentales y acceso directo a los formuladores de políticas que determinan cuánto gasta el Pentágono y en qué.
En Estados Unidos, las disposiciones sobre IA en la Ley de Autorización de Defensa Nacional de 2025 no regulan la IA militar. Orientan a las agencias a adoptar más IA. La estrategia de IA de Pete Hegseth, emitida en enero de 2026, enmarca la cuestión enteramente como una carrera, orientando al Pentágono a moverse a velocidad de guerra. La cultura regulatoria no falló en seguirle el ritmo a la tecnología. Decidió, deliberadamente, no intentarlo.
Qué dice el derecho internacional al respecto y por qué no es suficiente
El derecho internacional humanitario, construido a lo largo de décadas a partir de los Convenios de Ginebra, establece principios como la distinción entre combatientes y civiles, la proporcionalidad en el uso de la fuerza y la precaución en los ataques. Estas normas fueron pensadas para un mundo en el que las decisiones de combate eran tomadas por seres humanos que podían ser juzgados por sus acciones. La introducción de la Inteligencia Artificial como herramienta de selección de objetivos militares no viola explícitamente ninguna de estas normas, y es justamente por eso que resulta tan problemática.
La Ley de IA de la Unión Europea, el intento más ambicioso hasta ahora de gobernar la inteligencia artificial, exime explícitamente las aplicaciones militares y de seguridad nacional, con la justificación declarada de que el derecho internacional humanitario es el marco más apropiado. Es un acto notable de circularidad: el único cuerpo de leyes que está siendo sistemáticamente destruido por estos sistemas es designado como su regulador, mientras que los reguladores que podrían efectivamente restringirlos miran hacia otro lado.
Herramientas que usamos a diario
Organizaciones como el Comité Internacional de la Cruz Roja y grupos de investigación como Human Rights Watch han presionado por regulaciones específicas para el uso de sistemas autónomos y semiautónomos en conflictos armados. Hay propuestas de tratados que exigirían supervisión humana significativa, y no solo nominal, en cualquier decisión que involucre el uso de fuerza letal. Pero estas negociaciones avanzan lentamente. Muchos países que invierten fuertemente en tecnología militar se resisten a cualquier regulación que pueda limitar su ventaja estratégica.
El artículo original, sin embargo, señala que los puntos de presión existen y son reales. La opinión consultiva de la Corte Internacional de Justicia sobre los derechos palestinos creó un marco en el cual las empresas que proporcionan sistemas usados en ataques ilegales enfrentan una potencial exposición a responsabilidad legal en jurisdicciones que se toman en serio el derecho internacional. Y las empresas de IA necesitan a los gobiernos, no solo como clientes, sino como proveedores del poder computacional, la energía y la infraestructura física que la IA de frontera requiere y que ninguna empresa puede sostener únicamente con ingresos comerciales. Esa dependencia otorga a los Estados dispuestos a usarla una palanca real sobre empresas que preferirían no ser reguladas.
Qué podría incluir una regulación efectiva
El texto original sostiene que lo que la regulación debería incluir es relativamente directo, aunque sea difícil de aplicar. Los sistemas de IA usados en selección de objetivos necesitan ser explicables, no mediante puntajes de probabilidad, sino mediante un razonamiento que un abogado pueda auditar. El costo civil acumulado de las campañas asistidas por IA necesita ser evaluado como un todo, y no ataque por ataque. Y la responsabilidad que se detiene en el operador necesita extenderse cadena arriba hasta las empresas que conscientemente construyeron y vendieron sistemas opacos para su uso en conflictos armados.
Estas no son demandas nuevas. Son las condiciones mínimas para que las leyes de guerra signifiquen algo en la era de la selección algorítmica de objetivos. El Reino Unido ya comprometió más de mil millones de libras en un nuevo sistema de selección de objetivos integrado por IA, conectando sensores y capacidades de ataque en todos los dominios. La principal empresa de IA de Francia se asoció con una startup alemana de defensa para construir plataformas de armas autónomas. Alemania está desplegando drones de ataque guiados por IA en Ucrania. El tren ya salió de la estación.
El desafío no es solo jurídico, sino también conceptual. El marco legal existente presupone que es posible identificar a un responsable por cada acción en un conflicto. Cuando esa acción es el resultado de una cadena que involucra datos recopilados por satélites, procesados por algoritmos de aprendizaje automático, refinados por modelos de lenguaje y presentados a un analista en una interfaz diseñada para facilitar decisiones rápidas, la noción tradicional de responsabilidad simplemente no se sostiene. Ese desfase entre la capacidad tecnológica y el marco regulatorio es, en el fondo, la raíz del problema. Y mientras persista, la tendencia es que más decisiones letales sean tomadas por máquinas, con menos personas respondiendo por las consecuencias.
La niebla no se disipó, recibió un hardware mejor
El artículo original termina con una observación que funciona como un golpe en el estómago. El procedimiento de niebla sigue operativo y está definiendo el futuro de la guerra. Pero los soldados que disparaban en la oscuridad al menos estaban presentes en ella. Las empresas que construyeron lo que los reemplazó lo hacen desde Palo Alto, sin riesgo personal, sin exposición legal y con todo el incentivo para volver a hacerlo.
La cuestión que flota sobre todo esto no es si la Inteligencia Artificial seguirá siendo usada en conflictos armados. Eso ya es una realidad. La verdadera cuestión es si algún gobierno con herramientas para actuar va a decidir, antes del próximo Minab, que el costo de la inacción se volvió demasiado alto. La oscuridad sigue ahí. Solo tiene un hardware mejor ahora 🫠
