La era de las noticias con inteligencia artificial y su influencia: ¿hacia dónde vamos a partir de aquí?
La inteligencia artificial ya cambió muchas cosas en la forma en que consumimos información, pero un estudio reciente trajo un dato que es difícil de ignorar.
Investigadores de psicología de la comunicación de la University College London (UCL) descubrieron algo que va directo al grano: personas que vieron videos deepfake siguieron siendo influenciadas por el contenido incluso después de que les avisaran que todo era falso.
Dejá que eso se asiente por un segundo.
Saber que algo es mentira no fue suficiente para borrar el efecto que ese contenido ya había causado en la cabeza de las personas.
Es una paradoja incómoda, ¿no?
Uno crece escuchando que el antídoto para la mentira es la verdad, pero la ciencia está mostrando que el cerebro humano no funciona exactamente así cuando el asunto son las fake news y el contenido visual hiperrealista creado por IA.
Y lo que vuelve todo esto aún más urgente es el hecho de que las herramientas para crear deepfakes se están volviendo más accesibles, más rápidas y más convincentes con cada mes que pasa.
En este artículo vamos a entender qué reveló ese estudio, por qué nuestro cerebro cae en esta trampa y qué se está haciendo, en la práctica, para lidiar con este escenario. 🧠
Reciba el mejor contenido sobre innovación en su correo electrónico.
Todas las noticias, consejos, tendencias y recursos que buscas, directamente en tu bandeja de entrada.
Al suscribirte al boletín informativo, aceptas recibir comunicaciones de Método Viral. Nos comprometemos a proteger y respetar siempre tu privacidad.
Qué reveló el estudio de la UCL sobre deepfakes e influencia
La investigación realizada por la University College London no fue un experimento simple. Los investigadores trabajaron con grupos de participantes que fueron expuestos a videos deepfake de figuras públicas diciendo cosas que nunca dijeron en realidad. Después de la exposición, parte de los participantes fue informada de que el contenido era completamente fabricado por inteligencia artificial. Lo que pasó después fue exactamente lo que los científicos querían medir, y los resultados fueron sorprendentes hasta para los propios investigadores involucrados en el proyecto.
Incluso después de recibir la información de que el video era falso, los participantes siguieron mostrando creencias y actitudes alineadas con el contenido que habían visto. Es decir, la influencia del deepfake persistió incluso con la corrección explícita hecha enseguida. Este fenómeno ya se estudiaba en el campo de la psicología de la comunicación en contextos más tradicionales, como rumores y textos de desinformación, pero la intensidad observada con videos generados por IA fue considerablemente mayor que en experimentos anteriores con otros formatos de contenido falso.
Lo que los datos sugieren es que el formato visual hiperrealista tiene un peso cognitivo diferente. Cuando el cerebro procesa una imagen en movimiento de alguien que parece real, hablando de forma natural, con expresiones faciales y entonación de voz convincentes, activa mecanismos de procesamiento emocional antes incluso de que cualquier análisis crítico ocurra. Es como si el mensaje entrara por una puerta trasera, directo a la memoria y al sistema de creencias, antes de que el juicio racional tuviera oportunidad de intervenir. Ese es el nudo central del problema que el estudio expuso con datos concretos.
Por qué el cerebro no puede simplemente apagar la influencia
Entender por qué esto sucede requiere un pequeño viaje por la psicología de la comunicación y por el funcionamiento del cerebro humano frente a estímulos visuales. El ser humano evolucionó para confiar en lo que ve. Durante la mayor parte de la historia de nuestra especie, ver algo sucediendo frente a los ojos era prueba suficiente de realidad. El problema es que la inteligencia artificial generativa aprendió a explotar exactamente esa característica de nuestro sistema cognitivo, produciendo contenido visual que engaña a los sentidos con un nivel de precisión que simplemente no existía antes de que esta tecnología llegara al nivel actual de desarrollo.
Existe un concepto bien estudiado en psicología llamado efecto de continuidad de la creencia, que describe exactamente lo que el estudio de la UCL observó. Cuando una información es absorbida y procesada, deja un rastro en la estructura cognitiva de la persona, incluso si esa información es desmentida poco después. El desmentido necesita competir con una memoria ya formada, y en esa competencia, la memoria original frecuentemente lleva ventaja, especialmente cuando el contenido original fue emocionalmente cargado o visualmente impactante. Un video deepfake bien producido cumple todos esos criterios al mismo tiempo, lo que explica la persistencia de la influencia incluso después de la corrección.
Además, hay un factor de confianza implícita que los videos cargan culturalmente. Durante décadas, la sociedad trató imágenes y videos como evidencias. Frases como una imagen vale más que mil palabras o ver para creer están arraigadas en el imaginario colectivo. Aunque las personas sepan intelectualmente que los deepfakes existen y que la IA puede fabricar rostros y voces, el sistema emocional del cerebro sigue respondiendo al video como si fuera real en el momento en que lo está viendo. Esa brecha entre lo que la persona sabe racionalmente y lo que siente instintivamente es el terreno fértil donde las fake news en formato de video deepfake plantan sus raíces más profundas.
El papel de la memoria emocional en este proceso
Otro aspecto que merece atención es cómo la memoria emocional funciona de manera diferente a la memoria factual. Cuando alguien ve un video deepfake con carga emocional fuerte, ya sea indignación, miedo, sorpresa o rabia, el cerebro almacena no solo la información, sino también la emoción asociada a ella. Aunque la información factual sea corregida después, la emoción permanece intacta en la memoria. Ese residuo emocional sigue influyendo en juicios y decisiones futuras de forma sutil, muchas veces sin que la persona siquiera perciba que está siendo guiada por una reacción a algo que ella misma reconoce como falso.
Investigaciones en el área de neurociencia cognitiva ya demostraron que el sistema límbico, responsable del procesamiento emocional, opera con una velocidad significativamente mayor que la corteza prefrontal, que se encarga del pensamiento crítico y del análisis racional. En términos prácticos, esto significa que la emoción llega primero y se instala antes de que la razón tenga tiempo de cuestionar lo que acaba de ser visto. En el contexto de los deepfakes, esta diferencia de velocidad entre emoción y razón es exactamente lo que hace que estos videos sean tan peligrosamente eficaces como herramientas de desinformación.
El panorama actual de las fake news generadas por IA
El estudio de la UCL llegó en un momento en que el volumen de contenido sintético circulando en internet alcanzó proporciones que habrían sido impensables hace apenas cinco años. Herramientas de generación de video con inteligencia artificial que antes requerían servidores potentes y equipos especializados ahora están disponibles en aplicaciones de celular, gratuitas o de bajo costo, accesibles para cualquier persona con una conexión a internet. Esto significa que la capacidad de producir deepfakes convincentes ya no está restringida a laboratorios de tecnología o a grupos con recursos elevados, está en la palma de la mano de cualquier usuario que quiera utilizarla, independientemente de sus intenciones.
El impacto de esto en el ecosistema de información es profundo. Las plataformas de redes sociales han luchado por desarrollar mecanismos de detección automática de contenido sintético, pero la carrera es asimétrica. Las herramientas de generación evolucionan continuamente, muchas veces más rápido de lo que las herramientas de detección logran acompañar. Investigadores de seguridad digital reportan que los modelos de detección entrenados para identificar artefactos visuales típicos de deepfakes quedan desactualizados en cuestión de meses, porque las generaciones más nuevas de los modelos de IA corrigen exactamente los patrones que los detectores aprendieron a reconocer. Es un ciclo de ataque y defensa que se retroalimenta sin una solución definitiva a la vista en el corto plazo.
Desde el punto de vista de la psicología de la comunicación, el problema no es solo técnico. La velocidad con la que las fake news se propagan en las redes sociales significa que, muchas veces, el desmentido llega demasiado tarde para alcanzar al mismo público que consumió el contenido original. Estudios anteriores en el área ya mostraban que las noticias falsas se propagan significativamente más rápido que las noticias verdaderas en el entorno digital, y cuando el contenido falso está en formato de video deepfake con alta producción, el engagement tiende a ser aún mayor, amplificando el alcance antes de que cualquier corrección sea publicada. Este timing desfavorable es uno de los mayores desafíos para quienes trabajan en el combate a la desinformación hoy. 📱
El efecto cascada en las redes sociales
Un punto que merece atención especial es el efecto cascada que un solo video deepfake puede provocar en plataformas como Instagram, TikTok, X y YouTube. Cuando un contenido falso se viraliza, no circula solo en su formato original. Los usuarios crean recortes, comentarios en video, reacciones y hasta memes basados en ese material, multiplicando la exposición del contenido desinformativo en formatos derivados que escapan completamente de los sistemas de moderación automatizada. Incluso si el video original es eliminado, estas versiones secundarias siguen circulando, prolongando la vida útil de la mentira de forma casi orgánica.
Además, los algoritmos de recomendación de las plataformas tienden a priorizar contenido con alto engagement emocional, que es exactamente el tipo de respuesta que los deepfakes provocan. Esto crea una situación en la que el propio funcionamiento de las redes sociales amplifica la distribución de contenido potencialmente falso, incluso sin intención deliberada por parte de los responsables de la plataforma. Es una dinámica estructural que va más allá de la moderación de contenido individual y toca la propia arquitectura de los sistemas de distribución de información que miles de millones de personas utilizan todos los días.
Qué se está haciendo para enfrentar este problema
La respuesta a los desafíos creados por los deepfakes y la desinformación generada por inteligencia artificial se está construyendo en varios frentes simultáneamente, porque ningún enfoque aislado es suficiente para abarcar la complejidad del problema. En el campo técnico, grandes empresas de tecnología como Google, Meta y Microsoft han invertido en sistemas de watermarking digital, que es básicamente una marca de agua invisible incrustada en los videos generados por IA, permitiendo que las herramientas de verificación identifiquen el origen sintético del contenido incluso después de que sea compartido y editado. Iniciativas como el Content Authenticity Initiative (CAI) y el proyecto C2PA trabajan para crear estándares abiertos de certificación de autenticidad para contenido digital, algo parecido a un pasaporte de origen para imágenes y videos.
En el campo de la educación mediática, investigadores y organizaciones de verificación de hechos están desarrollando programas de alfabetización digital enfocados específicamente en cómo identificar señales de manipulación en videos. La idea no es convertir a todo usuario de internet en un especialista forense, sino crear hábitos de consumo más crítico, como:
- Verificar la fuente antes de compartir cualquier contenido en video
- Buscar el contexto original de un video antes de creer en lo que se está presentando
- Usar herramientas de búsqueda inversa de imágenes para chequear la autenticidad de materiales visuales
- Desconfiar de videos con carga emocional muy intensa que aparecen sin contexto claro
- Consultar agencias de verificación de hechos antes de formar una opinión definitiva sobre contenido sensible
Algunos estudios en el área de psicología de la comunicación han mostrado que las intervenciones educativas realizadas antes de la exposición al contenido falso, los llamados enfoques de pre-bunking, son más eficaces que el desmentido hecho después de que la desinformación ya fue consumida. Este hallazgo dialoga directamente con los resultados del estudio de la UCL sobre la persistencia de la influencia de los deepfakes, reforzando la importancia de preparar al público antes de que sea expuesto al problema, en vez de intentar reparar el daño después.
Herramientas que usamos a diario
El avance regulatorio alrededor del mundo
En el ámbito regulatorio, gobiernos alrededor del mundo están moviendo piezas para crear marcos legales que responsabilicen a plataformas y creadores de contenido sintético usado con intención de engañar. La Unión Europea, con su AI Act, exige que los sistemas de IA que generan contenido sintético incluyan identificación clara de que el material fue producido artificialmente. Esta legislación representa uno de los esfuerzos más amplios hasta ahora para establecer reglas claras sobre transparencia en el uso de inteligencia artificial generativa en contextos de comunicación pública.
En Latinoamérica, el debate regulatorio sobre fake news y uso de IA en contextos electorales ha ganado fuerza especialmente tras episodios recientes de uso de deepfakes en campañas políticas, llevando a diversos organismos electorales a publicar resoluciones específicas sobre el uso de inteligencia artificial en material de propaganda electoral. Es un movimiento importante, aunque las lagunas en la fiscalización y en la aplicación de las reglas todavía sean un desafío real para las instituciones involucradas. ⚖️
Los límites de las soluciones tecnológicas
Es importante reconocer que ninguna tecnología de detección, por más avanzada que sea, va a resolver el problema por sí sola. El watermarking digital, por ejemplo, depende de una adopción amplia por parte de los desarrolladores de herramientas de IA generativa, algo que todavía está lejos de ser universal. Herramientas de código abierto, modelos disponibles en foros y plataformas descentralizadas frecuentemente operan fuera del alcance de estas iniciativas de estandarización, creando lagunas significativas en el sistema de rastreabilidad de contenido sintético.
De la misma forma, la detección automatizada basada en machine learning enfrenta el llamado dilema del gato y el ratón. Cada vez que los detectores mejoran, los generadores también evolucionan, frecuentemente usando los propios detectores como herramienta de entrenamiento adversarial para producir deepfakes aún más difíciles de identificar. Este ciclo sugiere que la solución al problema de la desinformación generada por IA no será puramente tecnológica, sino una combinación de tecnología, educación, regulación y, fundamentalmente, cambio cultural en la forma en que las personas se relacionan con el contenido digital.
El factor humano en el centro de la cuestión
Lo que el estudio de la UCL nos deja como lección más importante quizás no sea técnico ni político. Es humano. Nos recuerda que la influencia de un contenido no desaparece solo porque alguien nos dice que es falso. Eso pone una responsabilidad enorme sobre el momento del consumo, sobre el entorno en el que las personas reciben información y sobre los hábitos que construyen la relación de cada uno con lo que aparece en la pantalla.
En un mundo donde la inteligencia artificial puede fabricar realidades visualmente perfectas, la consciencia sobre cómo el propio cerebro procesa esas imágenes quizás sea la herramienta más valiosa que cualquier persona puede desarrollar. No se trata de desconfiar de todo ni de vivir en un estado permanente de paranoia digital, sino de entender que el cerebro humano tiene vulnerabilidades que pueden ser explotadas por contenido sintético, y que reconocer esas vulnerabilidades es el primer paso para no ser dominado por ellas.
La pregunta que queda en el aire, y que el estudio de la UCL plantea de forma bastante directa, es: si saber que algo es falso no es suficiente para anular su efecto, entonces ¿qué lo es? La respuesta todavía está siendo construida por investigadores, educadores y desarrolladores de tecnología alrededor del mundo. Pero una cosa ya quedó clara: el enfoque necesita cambiar. No basta con desmentir después. Es necesario preparar antes. Y eso pasa por repensar cómo enseñamos pensamiento crítico, cómo diseñamos plataformas de información y cómo cada persona elige relacionarse con el contenido que consume a diario. 🧩
