Cómo la inteligencia artificial transformó la desinformación en un negocio lucrativo
La velocidad con la que las herramientas de inteligencia artificial generativa han evolucionado en los últimos meses creó un escenario que pocos previeron con tanta claridad. Hoy, cualquier persona con acceso a una computadora y una cuenta gratuita en plataformas de IA puede producir videos falsos con calidad visual suficiente para engañar a millones de personas. En el contexto del conflicto entre Estados Unidos e Israel contra Irán, esa capacidad se convirtió en una verdadera máquina de fabricar narrativas ficticias que se esparcen por las redes sociales antes de que cualquier verificación logre alcanzarlas.
Herramientas como generadores de video basados en modelos de difusión permiten crear escenas de supuestos bombardeos, explosiones en ciudades e hasta imágenes satelitales completamente inventadas — todo en cuestión de minutos y sin ningún conocimiento técnico avanzado. Como resume Timothy Graham, especialista en medios digitales de la Queensland University of Technology: lo que antes requería una producción audiovisual profesional ahora puede hacerse en minutos con herramientas de IA. La barrera para crear material sintético convincente sobre conflictos simplemente dejó de existir.
Lo que la investigación de la BBC Verify reveló va más allá del problema técnico de la creación de estos contenidos. El punto central es que existe una cadena económica sosteniendo toda esta producción de desinformación en línea. Los creadores identificaron que los videos con temas geopolíticos sensibles — especialmente los que involucran conflictos militares — generan volúmenes absurdos de interacción. Estamos hablando de cientos de millones de visualizaciones acumuladas en contenidos que nunca ocurrieron en la vida real.
Casos concretos rastreados por BBC Verify
El análisis de BBC Verify identificó diversos ejemplos específicos de cómo este fenómeno se está manifestando. Uno de los casos más emblemáticos es el de un video generado por inteligencia artificial que parecía mostrar misiles impactando la ciudad de Tel Aviv, en Israel, con sonidos de explosiones de fondo. Ese único video fue replicado en más de 300 publicaciones diferentes, que a su vez fueron compartidas decenas de miles de veces en múltiples plataformas de redes sociales.
Detalle importante y preocupante: algunos usuarios de X, antes Twitter, recurrieron al chatbot Grok de la propia plataforma para intentar verificar si el video era real. En varios casos documentados por BBC Verify, Grok afirmó incorrectamente que el video generado por IA era auténtico. Es decir, la propia herramienta de inteligencia artificial integrada en la plataforma terminó funcionando como un amplificador de la desinformación en lugar de combatirla.
Otro video fabricado que acumuló decenas de millones de visualizaciones mostraba el rascacielos Burj Khalifa, en Dubái, supuestamente en llamas, mientras una multitud corría hacia el edificio. Este contenido se esparció en un momento en que residentes y turistas estaban genuinamente preocupados por los ataques de drones y misiles en la región, lo que potenció el pánico y la confusión generados por la desinformación.
Como destaca Mahsa Alimardani, investigadora especializada en Irán del Oxford Internet Institute, videos falsos como estos tienen un impacto devastador en la confianza de las personas respecto a la información verificada que encuentran en línea, además de hacer mucho más difícil la documentación de evidencias reales de los conflictos.
La novedad de las imágenes satelitales fabricadas por IA
Una característica inédita de este conflicto, identificada por BBC Verify, es la aparición de imágenes satelitales generadas por inteligencia artificial. Se trata de un nivel nuevo de sofisticación en la producción de desinformación que no se había observado en conflictos anteriores.
El caso más ilustrativo involucra los ataques iraníes con drones y misiles al cuartel general de la Quinta Flota de la Marina de Estados Unidos en Bahréin, ocurridos el primer día del conflicto. BBC Verify verificó múltiples videos reales mostrando esos ataques. Sin embargo, al día siguiente, una foto fabricada comenzó a circular en X, compartida por el periódico iraní The Tehran Times, medio vinculado al Estado iraní. La imagen alegaba mostrar daños extensos a la base militar estadounidense.
Reciba el mejor contenido sobre innovación en su correo electrónico.
Todas las noticias, consejos, tendencias y recursos que buscas, directamente en tu bandeja de entrada.
Al suscribirte al boletín informativo, aceptas recibir comunicaciones de Método Viral. Nos comprometemos a proteger y respetar siempre tu privacidad.
El análisis técnico reveló que la imagen falsa fue creada a partir de una foto satelital real de la base naval estadounidense en Bahréin, tomada en febrero de 2025 y disponible públicamente en internet. Un detalle revelador delató el fraude: tres vehículos estacionados fuera de la base aparecían exactamente en la misma posición tanto en la imagen satelital genuina como en la foto fabricada — a pesar de supuestamente haber sido capturadas con un año de diferencia. Según el detector de marca de agua SynthID de Google, la imagen falsa fue generada o editada usando una herramienta de IA del propio Google.
Otro ejemplo documentado muestra una imagen real de una pequeña nube de humo en una base estadounidense en Irak que fue manipulada con inteligencia artificial para parecer una explosión masiva, amplificando dramáticamente la impresión de destrucción.
El ciclo vicioso entre algoritmos y contenido fabricado
Para entender por qué este problema escaló tan rápido, hay que mirar la mecánica de los algoritmos de recomendación. Las plataformas de redes sociales están diseñadas para maximizar el tiempo que pasas desplazándote por el feed, y los contenidos que provocan reacciones emocionales fuertes — como miedo, rabia e indignación — son naturalmente priorizados por los sistemas automatizados de distribución.
Cuando un video falso que muestra un supuesto ataque militar comienza a recibir likes, comentarios y compartidos, el algoritmo interpreta esto como una señal de que ese contenido es relevante y pasa a distribuirlo a aún más personas. Esto crea un ciclo que se retroalimenta: cuanta más desinformación circula, más el sistema la amplifica, y más dinero recibe el creador. No existe, en la práctica, un mecanismo automático eficiente que diferencie un video real de un conflicto de una fabricación completa hecha por inteligencia artificial.
Como observa Timothy Graham, la monetización basada en interacción y la información precisa están fundamentalmente en tensión, y ninguna plataforma ha resuelto completamente esa contradicción — y quizás nunca lo haga.
La explosión de herramientas accesibles
El especialista en IA generativa Henry Ajder resalta que el número de herramientas diferentes ahora disponibles para crear manipulaciones de IA altamente realistas no tiene precedentes. Nunca esas herramientas fueron tan accesibles, tan fáciles y tan baratas de usar.
La lista de plataformas populares de generación de contenido por IA incluye Veo de Google, Sora de OpenAI, la aplicación china Seedance y el propio Grok, integrado directamente en X. Esta variedad de opciones significa que los creadores no dependen de una única herramienta y pueden alternar entre ellas para producir contenido a escala industrial.
Victoire Rio, directora ejecutiva de la organización sin fines de lucro What To Fix, complementa que el flujo entre la creación del contenido y su publicación en redes sociales ahora puede ser casi totalmente automatizado. Esto explica el volumen sin precedentes de material fabricado que surgió durante este conflicto específico. 😮
La situación se vuelve aún más compleja cuando consideramos que muchos de estos creadores operan en redes organizadas. No son individuos aislados publicando un video aquí y otro allá. Son operaciones coordinadas que utilizan múltiples cuentas, publican en horarios estratégicos y replican el mismo contenido con pequeñas variaciones para evitar la detección automática. Algunas de estas cuentas llegan a acumular millones de seguidores en pocas semanas, aprovechando justamente la ola de interés público sobre el conflicto.
La economía detrás de la desinformación
Aquí entra el dato más revelador de toda esta historia. Según el jefe de producto de X, el 99% de las cuentas responsables de diseminar videos generados por IA sobre el conflicto estaban intentando explotar el sistema de monetización de la plataforma, publicando contenido diseñado para generar volúmenes masivos de interacción a cambio de pagos por el programa Creator Revenue Sharing.
Es decir, estas personas no estaban esparciendo desinformación por convicción ideológica ni por accidente. Lo estaban haciendo deliberadamente para ganar dinero.
La plataforma no divulga cuántas cuentas participan en ese programa ni cuánto exactamente pueden recibir. Sin embargo, Graham estima que X paga cerca de ocho a doce dólares por millón de impresiones de usuarios verificados. Para ser elegible, el creador necesita alcanzar cinco millones de impresiones orgánicas en tres meses y mantener una suscripción premium de X.
En la visión de Graham, una vez dentro del programa, el contenido viral generado por IA funciona básicamente como una máquina de imprimir dinero. Han construido el emprendimiento definitivo de desinformación, afirma el investigador.
Qué están haciendo las plataformas y por qué no es suficiente
Las grandes plataformas de redes sociales han anunciado medidas para combatir la desinformación en línea generada por inteligencia artificial, pero la realidad muestra que esas acciones aún están muy por debajo de lo necesario.
X anunció durante esta semana que va a suspender temporalmente a los creadores de su programa de monetización si publican videos generados por IA que muestren conflictos armados sin la debida identificación. Para Alimardani, se trata de una señal notable de que la plataforma reconoció la gravedad del problema.
BBC Verify contactó a TikTok y a Meta, empresa responsable de Facebook e Instagram, para saber si pretendían adoptar medidas similares, pero ninguna de las dos respondió a las solicitudes de comentario. El silencio de las plataformas es, por sí solo, bastante revelador sobre la postura de la industria frente a esta crisis.
El problema con las notas de la comunidad y otros sistemas de moderación descentralizada es que dependen de volumen y consenso entre los participantes. Muchas veces la corrección llega horas o incluso días después de que el contenido ya se viralizó y alcanzó a millones de personas. En ese intervalo, el daño ya está hecho. La impresión inicial de un video impactante mostrando una supuesta explosión es mucho más poderosa que cualquier nota de corrección que aparezca después, y la mayoría de los usuarios que vieron el contenido original nunca llegan a ver la rectificación.
La contradicción estructural de la monetización
Existe una contradicción estructural que las plataformas aún no han resuelto. Por un lado, necesitan ofrecer programas atractivos de remuneración para mantener a los creadores comprometidos y produciendo contenido, ya que eso es lo que sostiene todo el ecosistema. Por otro lado, esos mismos programas terminan incentivando la producción de material sensacionalista y falso, porque el criterio principal de remuneración suele ser el volumen de visualizaciones e interacción, no la veracidad o calidad del contenido.
Mientras esta lógica no cambie fundamentalmente, el incentivo financiero para crear videos falsos sobre temas candentes como conflictos internacionales va a seguir existiendo y, probablemente, va a intensificarse a medida que las herramientas de IA se vuelvan más accesibles y poderosas.
Herramientas que usamos a diario
Marcas de agua digitales y sus límites
Algunas iniciativas más prometedoras involucran la adopción de marcas de agua digitales y metadatos integrados en contenidos generados por inteligencia artificial. Herramientas como SynthID de Google ya pueden identificar cuándo una imagen fue creada o editada por IA. Empresas como Google, OpenAI y Meta están desarrollando estándares conjuntos para que todo contenido sintético lleve una especie de firma digital invisible que permita su identificación automática.
Sin embargo, la implementación práctica aún enfrenta obstáculos considerables. No todas las herramientas de generación de video adhieren a estos estándares, y técnicas simples de recompresión o edición pueden eliminar esas marcas con facilidad. Además, la adopción de estas soluciones depende de cooperación internacional entre empresas, gobiernos y desarrolladores — algo que avanza a un ritmo mucho más lento que la velocidad con la que la desinformación se esparce. 🤔
El contexto del conflicto que alimenta la desinformación
Para dimensionar el escenario en el que toda esta ola de contenido fabricado surgió, vale recordar que Estados Unidos e Israel comenzaron a lanzar ataques contra Irán el 28 de febrero. En respuesta, Irán lanzó ataques con drones y misiles contra Israel, además de alcanzar múltiples naciones del Golfo y activos militares estadounidenses en la región.
Muchas personas recurrieron a las redes sociales para buscar y compartir la información más reciente y para intentar entender una semana de conflicto extremadamente dinámica. Este comportamiento natural de búsqueda de información creó el terreno fértil perfecto para que los creadores de contenido falso explotaran la ansiedad y la curiosidad del público. Cuando las personas tienen miedo y quieren respuestas rápidas, la tendencia a consumir y compartir contenido sin verificación aumenta drásticamente.
El papel del usuario en la contención de este fenómeno
En medio de este escenario, la responsabilidad individual cobra un peso enorme. Antes de compartir cualquier video impactante sobre el conflicto o cualquier otro tema sensible, vale la pena dedicar algunos segundos a verificar la fuente original de la publicación. Cuentas recién creadas, con pocos seguidores pero con contenidos virales, son una señal clásica de operaciones orientadas a la monetización a través de desinformación.
Otro indicador importante es observar si medios de comunicación reconocidos están reportando el mismo evento. Si un supuesto ataque militar aparece solo en cuentas de redes sociales y no tiene cobertura periodística correspondiente, las posibilidades de que sea contenido fabricado por IA son altísimas.
El escenario actual exige también una actualización en la forma en que consumimos información. La era de los videos falsos hiperrealistas llegó para quedarse, y la tendencia es que la calidad de estos contenidos solo mejore con el tiempo. Organizaciones como BBC Verify y otras iniciativas de verificación de datos desempeñan un papel fundamental en este ecosistema, pero no logran dar abasto con el volumen de contenido fabricado que surge diariamente.
La combinación entre una alfabetización digital más robusta, regulación más inteligente por parte de los gobiernos y responsabilidad genuina de las plataformas parece ser el camino más viable para reducir el impacto de esta nueva forma de desinformación. Mientras tanto, la mejor defensa sigue siendo el escepticismo saludable ante cualquier contenido que parezca demasiado dramático para ser verdad — porque, cada vez más, probablemente no lo sea. 🧐
