El acuerdo entre OpenAI y el Pentágono que sacudió al mundo de la tecnología
OpenAI entró en una de las mayores polémicas de su historia reciente al oficializar un contrato con el Pentágono para proporcionar tecnología de inteligencia artificial destinada a operaciones militares clasificadas. Lo que podría haberse anunciado como un avance estratégico para la empresa se transformó rápidamente en una crisis de reputación que tomó a todo el mundo por sorpresa. Usuarios de ChatGPT comenzaron a desinstalar la aplicación de forma masiva, desarrolladores e investigadores de la comunidad tech se posicionaron públicamente contra la decisión y la presión en redes sociales creció de forma exponencial en cuestión de horas.
De acuerdo con datos publicados por TechCrunch, las desinstalaciones de la aplicación móvil de ChatGPT se dispararon un 295% el sábado en comparación con las tasas normales de eliminación. Ese número no es solo una estadística curiosa, es un termómetro directo del nivel de insatisfacción que el anuncio generó entre la base de usuarios de la empresa. Mientras tanto, la aplicación Claude, de Anthropic, subió rápidamente al primer lugar del ranking de la App Store de Apple, posición que aún mantenía el martes siguiente. La migración masiva de usuarios demostró que el público está dispuesto a cambiar de plataforma cuando percibe que los valores de una empresa ya no están alineados con los suyos.
La reacción fue tan intensa que el propio Sam Altman, CEO de OpenAI, salió públicamente a reconocer que la empresa fue oportunista y descuidada en la manera en que manejó la comunicación del acuerdo. Este tipo de admisión viniendo del líder de una de las empresas más influyentes del planeta en el campo de la inteligencia artificial no es algo que ocurra todos los días. Demostró que la compañía subestimó por completo el impacto que la noticia tendría, tanto entre sus usuarios como entre socios e inversionistas que siempre vieron a OpenAI como una organización comprometida con el uso responsable de la tecnología.
Altman publicó en X el lunes que se estaban realizando cambios adicionales al acuerdo, incluyendo la garantía de que el sistema de OpenAI no sería utilizado intencionalmente para vigilancia doméstica de ciudadanos y nacionales estadounidenses. Además, como parte de las nuevas enmiendas, agencias de inteligencia como la Agencia de Seguridad Nacional (NSA) tampoco podrían usar el sistema de OpenAI sin una modificación complementaria al contrato original. El CEO reconoció que la empresa cometió un error al apresurarse a publicar el comunicado el viernes, afirmando que las cuestiones involucradas son extremadamente complejas y exigen una comunicación clara.
Ante la avalancha de críticas, OpenAI tomó la decisión de dar marcha atrás. La empresa revisó los términos del contrato con el Pentágono y comenzó a intentar equilibrar sus ambiciones comerciales con la presión pública que, hasta ahora, no da ninguna señal de que vaya a disminuir. En un comunicado publicado el sábado, OpenAI llegó a afirmar que su acuerdo con el Pentágono tenía más salvaguardas que cualquier acuerdo previo para despliegues clasificados de IA, incluyendo el de Anthropic. Este movimiento de retroceso, sin embargo, generó aún más cuestionamientos. Al final, ¿hasta dónde llega el compromiso real de la empresa con la seguridad y la ética en el desarrollo de inteligencia artificial, y hasta dónde llega simplemente la gestión de una crisis de imagen?
El caso Anthropic y la complejidad del uso militar de la IA
El escenario se volvió aún más turbulento cuando salió a la luz información que involucraba a Anthropic, otra gigante del sector de inteligencia artificial. La empresa, conocida por su postura firme en relación con la seguridad y por negarse a renunciar a sus principios contra el desarrollo de armas autónomas, fue colocada en una lista negra por el gobierno Trump. La justificación oficial fue precisamente esa postura inflexible de Anthropic respecto a los límites éticos del uso militar de sus modelos de lenguaje. La empresa mantuvo lo que denominó principio corporativo de línea roja, determinando que su tecnología no debería usarse para crear armas totalmente autónomas. Pero lo que ocurrió poco después sorprendió incluso a los analistas más experimentados del sector.
Reciba el mejor contenido sobre innovación en su correo electrónico.
Todas las noticias, consejos, tendencias y recursos que buscas, directamente en tu bandeja de entrada.
Al suscribirte al boletín informativo, aceptas recibir comunicaciones de Método Viral. Nos comprometemos a proteger y respetar siempre tu privacidad.
Pocas horas después de la prohibición, el modelo Claude, desarrollado por Anthropic, apareció siendo utilizado en operaciones estadounidenses directamente vinculadas a la guerra EE.UU.-Israel y al conflicto con Irán. Según el Wall Street Journal, ataques estadounidenses en Medio Oriente utilizaron la tecnología de Anthropic horas después de la prohibición impuesta por Trump. Esto significa que, incluso con la empresa siendo oficialmente excluida de la mesa de negociación, la tecnología que ella creó continuó siendo aplicada en contextos bélicos sin su consentimiento o supervisión directa. El Pentágono se negó a comentar sus relaciones con Anthropic cuando fue cuestionado por la prensa. Este episodio expone una fragilidad enorme en el ecosistema actual de inteligencia artificial, donde los creadores de modelos avanzados pueden perder completamente el control sobre cómo se utilizan sus herramientas una vez que estas salen del entorno controlado de desarrollo.
La situación de Anthropic también pone en evidencia una paradoja preocupante. Las empresas que intentan mantener estándares éticos más rigurosos terminan siendo castigadas y alejadas de las decisiones estratégicas, mientras que la tecnología que desarrollaron sigue siendo empleada sin ningún tipo de gobernanza o fiscalización por parte de los creadores originales. La profesora Mariarosaria Taddeo, de la Universidad de Oxford, comentó a la BBC que con Anthropic fuera del Pentágono, el actor más consciente en relación con la seguridad salió de la sala. Según ella, esto representa un problema real. La observación tiene sentido cuando recordamos que Anthropic era precisamente la voz dentro del ecosistema militar que presionaba por límites más claros en la aplicación de estas herramientas.
Esto crea un ambiente donde ser responsable se convierte, en la práctica, en un pasivo competitivo, y no en un diferencial positivo. Las consecuencias de esta dinámica para el futuro de la inteligencia artificial en contextos militares son enormes y aún están lejos de ser comprendidas en toda su extensión.
Cómo la inteligencia artificial ya se utiliza en el ámbito militar
La integración de inteligencia artificial en operaciones militares no es algo que surgió de la noche a la mañana. La IA ya está presente en diversos frentes dentro de las fuerzas armadas de varios países, desde la optimización logística hasta el procesamiento rápido de grandes volúmenes de información. Estados Unidos, Ucrania y la OTAN utilizan tecnología de Palantir, una empresa estadounidense especializada en herramientas de análisis de datos para clientes gubernamentales, que abarca recopilación de inteligencia, vigilancia, contraterrorismo y operaciones militares en general.
El Reino Unido, por ejemplo, firmó recientemente un contrato de 240 millones de libras con Palantir. Y la BBC reportó conversaciones con profesionales involucrados en la integración de la plataforma de defensa de la empresa, conocida como Maven, dentro de la estructura de la OTAN. Esta plataforma reúne una gama enorme de información militar, desde datos satelitales hasta informes de inteligencia, que luego son analizados por sistemas comerciales de IA como Claude para ayudar en la toma de decisiones más rápidas, más eficientes y, cuando sea apropiado, más letales, según describió Louis Mosley, jefe de operaciones de Palantir en el Reino Unido.
Sin embargo, los modelos de lenguaje de gran escala tienen un problema bastante conocido: pueden cometer errores graves o incluso inventar información, un fenómeno llamado alucinación. En un contexto militar, una alucinación de un modelo de IA puede tener consecuencias catastróficas. La teniente coronel Amanda Gustave, directora de datos de la Fuerza de Tarea Maven de la OTAN, se encargó de resaltar que siempre existe supervisión humana en los procesos y que un humano siempre está incluido en el circuito de decisión. Según ella, jamás sería el caso de que una inteligencia artificial tomara una decisión sola en nombre de las fuerzas armadas.
Es interesante notar que Palantir, a diferencia de Anthropic, no apoya una prohibición total de armas autónomas. La posición de la empresa es que debe haber un humano en el circuito, pero sin establecer una línea roja absoluta como la que Anthropic defiende. Esta diferencia de enfoque entre ambas empresas ilustra bien el espectro de posiciones que existe dentro de la industria tecnológica respecto al uso militar de la IA, y cómo estas posiciones tienen consecuencias directas sobre quién permanece o no como socio de los gobiernos.
¿Quién decide realmente cómo se utiliza la inteligencia artificial en conflictos?
Esta secuencia de eventos que involucra a OpenAI, el Pentágono y Anthropic plantea una pregunta que va mucho más allá de contratos corporativos o decisiones de negocio. La cuestión central es: ¿quién, de hecho, tiene el poder de decidir cómo se aplicará la inteligencia artificial en zonas de conflicto y operaciones militares? Hoy, la respuesta parece ser que ese poder está concentrado casi exclusivamente en manos de los gobiernos y las fuerzas armadas, con las empresas de tecnología ocupando un papel cada vez más periférico en estas decisiones. OpenAI puede revisar sus términos de uso, y Anthropic puede negarse a colaborar, pero cuando un gobierno con el poder y la influencia de Estados Unidos decide que necesita una herramienta de inteligencia artificial para fines militares, las barreras que estas empresas logran imponer son, en el mejor de los casos, frágiles.
El uso militar de la inteligencia artificial no es un tema nuevo, pero adquirió una urgencia completamente diferente en los últimos meses. La guerra EE.UU.-Israel y los desdoblamientos geopolíticos que involucran a Irán están acelerando la adopción de herramientas de IA en contextos operacionales donde las decisiones necesitan tomarse en fracciones de segundo. Los modelos de lenguaje están siendo utilizados para análisis de datos de inteligencia, planificación logística, traducción en tiempo real de comunicaciones interceptadas e incluso para la identificación de objetivos en escenarios de combate. Cada una de estas aplicaciones conlleva riesgos que no pueden ignorarse, desde errores de clasificación que pueden resultar en bajas civiles hasta la automatización de procesos de toma de decisiones que históricamente siempre dependieron del juicio humano.
Lo que hace todo aún más delicado es el hecho de que no existe, hasta el momento, ningún marco regulatorio internacional lo suficientemente robusto para gobernar el uso de inteligencia artificial en operaciones militares. Los tratados internacionales sobre armamento convencional y nuclear tardaron décadas en ser negociados e implementados, y la velocidad con que la IA está siendo integrada a sistemas de defensa supera con creces la capacidad de los organismos internacionales para crear reglas claras para este nuevo escenario. OpenAI y otras empresas del sector están navegando en un terreno donde las reglas simplemente aún no existen de forma adecuada, y donde cada decisión crea precedentes que van a moldear el futuro de esta tecnología durante muchos años.
La tensión entre beneficio económico y responsabilidad en la industria de IA
Más allá de las cuestiones geopolíticas y militares, el caso de OpenAI con el Pentágono también revela una tensión fundamental dentro de la propia industria de inteligencia artificial. Por un lado, existen presiones comerciales gigantescas. Los contratos con gobiernos representan ingresos de miles de millones de dólares y garantizan acceso a infraestructura, datos y alianzas que ninguna empresa del sector puede darse el lujo de ignorar. Por otro lado, la base de usuarios y la comunidad de desarrolladores que sostiene a estas empresas espera transparencia, responsabilidad y un compromiso genuino con el uso ético de la tecnología. Conciliar estos dos mundos está resultando una tarea mucho más difícil de lo que cualquier ejecutivo de big tech quisiera admitir.
El hecho de que Altman usara la expresión intentando genuinamente desescalar las cosas y evitar un resultado mucho peor sugiere que OpenAI estaba bajo presión desde múltiples direcciones. La frase indica que había escenarios alternativos aún más problemáticos en discusión y que la empresa creyó que cerrar el acuerdo con ciertas salvaguardas sería preferible a no tener ninguna influencia sobre cómo la IA sería utilizada por el Pentágono. Ese razonamiento tiene su lógica, pero claramente no convenció a una porción significativa del público y de la comunidad de desarrolladores que sigue de cerca cada movimiento de estas empresas.
Herramientas que usamos a diario
El aumento brutal del 295% en las desinstalaciones de ChatGPT no fue solo una reacción emocional momentánea. Fue un mensaje directo de que los usuarios están atentos y dispuestos a actuar con el bolsillo cuando perciben que una empresa cruza límites que consideran inaceptables. Para OpenAI, que depende de suscripciones y de la confianza de los usuarios para mantener su modelo de negocio, este tipo de movimiento representa un riesgo financiero concreto que necesita tomarse en serio.
Qué significa este episodio para el futuro de la IA
El episodio también sirve como una alerta importante para todos los que siguen el avance de la inteligencia artificial. La tecnología que usamos a diario para generar textos, crear imágenes, programar software y automatizar tareas es, en esencia, la misma tecnología que está siendo adaptada para fines militares en conflictos reales. La distancia entre el ChatGPT en tu celular y un modelo de lenguaje operando dentro de una base militar es mucho menor de lo que la mayoría de las personas imagina. Esta proximidad hace aún más urgente la discusión sobre gobernanza, transparencia y límites claros para la aplicación de la IA en escenarios donde vidas humanas están directamente en juego.
El concepto de mantener un humano en el circuito, defendido tanto por Palantir como por la OTAN en sus operaciones con la plataforma Maven, parece ser lo mínimo necesario para garantizar algún nivel de responsabilidad en las decisiones que involucran el uso de fuerza letal. Pero incluso esta salvaguarda plantea interrogantes. Cuando un operador humano está recibiendo recomendaciones de un sistema de IA que procesa información a una velocidad imposible de seguir por un ser humano, ¿hasta qué punto esa supervisión es realmente efectiva? La presión por decisiones rápidas en contextos de combate puede fácilmente transformar la revisión humana en un mero sello de aprobación para decisiones que, en la práctica, ya fueron tomadas por la máquina.
El camino que OpenAI, Anthropic y otras empresas del sector van a seguir en los próximos meses va a definir mucho de lo que podemos esperar de esta tecnología en las próximas décadas. Si el mercado premia a las empresas que flexibilizan sus principios a cambio de contratos militares, la tendencia es que el uso militar de la inteligencia artificial se expanda sin frenos. Si, por otro lado, la presión pública y la comunidad tech logran mantener vivo el debate y exigir transparencia real, existe la posibilidad de que se alcance algún tipo de equilibrio antes de que las consecuencias se vuelvan irreversibles.
Lo que queda claro es que esta conversación apenas está comenzando y que las decisiones tomadas ahora van a resonar durante mucho tiempo. La forma en que gobiernos, empresas y sociedad civil van a negociar los límites de la inteligencia artificial en el ámbito militar es, sin exagerar, una de las cuestiones más importantes de nuestra generación. Y, por lo que vimos esta última semana, nadie tiene todavía las respuestas definitivas. 🤖
