Intenté probar que no soy una inteligencia artificial. Mi tía no se convenció
La inteligencia artificial llegó a un punto que nadie esperaba tan pronto: no solo imita voces y rostros con una perfección escalofriante, sino que también está destruyendo algo mucho más valioso que cualquier dato personal — nuestra capacidad de probar que somos reales. 😮
¿Parece exagerado? Entonces imagina llamar a alguien que te conoce desde que eras niño, pasar varios minutos conversando, y que esa persona termine la llamada sin tener la certeza absoluta de que estaba hablando contigo de verdad.
Fue exactamente lo que le pasó al periodista Thomas Germain, de la BBC, cuando probó un experimento sencillo con su tía Eleanor. Llamó a su tía y le explicó que haría una segunda llamada, en la cual ella estaría hablando con él de verdad o con un deepfake generado por IA. Su misión era descubrir cuál de las opciones era la real. Eleanor empezó confiada. Dijo que creía que era su sobrino, porque la voz tenía inflexiones demasiado naturales para ser algo generado por una máquina. Pero cuando Germain comentó que la tecnología estaba volviéndose bastante avanzada, vino un largo silencio. La tía se echó para atrás y admitió que aquello empezaba a sonar más artificial.
No fue un deepfake elaborado con un estudio profesional. Fue algo que cualquier persona con una computadora y acceso a internet podría reproducir hoy. Y si piensas que esto es un problema solo para quien está del otro lado siendo engañado, prepárate: el giro más perturbador de esta historia es que la amenaza ahora viene del otro lado.
El problema no es solo que te engañen con un deepfake. El problema es que no puedas probar que tú no eres uno.
Cuando hasta un primer ministro falla al probar que es real
Si una tía cariñosa ya tiene dificultad para reconocer a su propio sobrino, imagina el desafío cuando el público es el mundo entero. Fue lo que le pasó al primer ministro de Israel, Benjamin Netanyahu, en un episodio que adquirió proporciones surrealistas en las redes sociales.
Netanyahu publicó un video en el que un truco de iluminación creó la impresión de que tenía un sexto dedo en la mano derecha. Ese detalle, que hace algunos años era una falla clásica de imágenes generadas por inteligencia artificial, disparó una avalancha de rumores en línea. Personas comenzaron a afirmar que Netanyahu había muerto en un ataque con misiles y que Israel estaría usando un deepfake para ocultar el hecho. La teoría se propagó rápidamente y con una convicción impresionante.
Días después, el primer ministro grabó un segundo video en una cafetería, sonriendo y levantando las manos para mostrar que tenía la cantidad normal de dedos. Cuando ni eso funcionó, vino un tercer video. Aun así, una porción significativa del público siguió convencida de que todo era fabricado.
Según especialistas consultados por la BBC, este fue el primer caso documentado en el que el líder de una gran potencia mundial intentó abiertamente probar que no era una creación de IA. Y fracasó estrepitosamente. Jeremy Carrasco, cofundador de la publicación independiente Riddance, enfocada en medios generados por inteligencia artificial, analizó los videos y concluyó rápidamente que todos eran reales. El supuesto sexto dedo, según él, era solo luz reflejándose en la palma de la mano de Netanyahu. Parece extraño si pausas en el momento justo, pero es solo eso.
Carrasco también destacó que los dedos extra ya no son una falla típica de la IA. Las mejores herramientas dejaron de cometer ese error hace años, y un modelo capaz de generar todo el resto del video con ese nivel de calidad simplemente no cometería ese tipo de descuido. Además, en determinado momento del video, Netanyahu golpea el micrófono, produciendo un sonido que interrumpe el audio de la voz. Ese tipo de continuidad física y sonora es extremadamente difícil de reproducir con las herramientas de IA actuales.
Reciba el mejor contenido sobre innovación en su correo electrónico.
Todas las noticias, consejos, tendencias y recursos que buscas, directamente en tu bandeja de entrada.
Al suscribirte al boletín informativo, aceptas recibir comunicaciones de Método Viral. Nos comprometemos a proteger y respetar siempre tu privacidad.
Hany Farid, profesor de análisis forense digital en la Universidad de California en Berkeley y cofundador de GetReal Security, también confirmó la autenticidad. Su equipo realizó análisis de voz, detección facial cuadro por cuadro e inspección detallada de luz y sombras. El veredicto fue claro: no había ninguna evidencia de que el contenido fuera generado por inteligencia artificial.
Pero para una parte del público, nada de eso importó. Las mentes ya estaban decididas.
Cuando la desconfianza toca a la puerta de casa
El propio Germain pasó por una situación parecida en la vida real, semanas antes del experimento con su tía. Había escrito un artículo sobre una configuración de privacidad poco utilizada de Google y quedó tan entusiasmado que compartió el enlace en el grupo familiar pidiendo que todos hicieran clic. Su madre desconfió de inmediato. Y con razón — el comportamiento era inusual.
La madre escribió en el grupo pidiéndole que dijera algo que un estafador no podría decir. Germain pensó un momento y usó un apodo de la infancia que sus padres solían usar. Funcionó, pero él mismo reconoce que esa solución solo es viable cuando tratas con personas que te conocen íntimamente. Cuando el público es anónimo y masivo, como en el caso de Netanyahu, la situación es completamente diferente.
De hecho, durante la propia entrevista con Hany Farid, Germain hizo la pregunta directamente: ¿existe algo que yo pueda hacer ahora mismo, en este momento, para probar que no soy una IA?
La respuesta fue directa e incómoda: no.
Farid explicó que existen indicios que hacen la cosa menos probable. Por ejemplo, podía escuchar a Germain tecleando, algo que una IA agentiva probablemente no reproduciría. Había una sombra al fondo que se movía de forma físicamente consistente, y reflejos en los lentes del periodista que parecían naturales. Germain también miraba hacia abajo mientras tomaba notas, algo que un deepfake no se preocuparía por simular.
Pero nada de eso era concluyente. Ambos estaban en ciudades diferentes — Germain en Nueva York, Farid en Berkeley — conectados por una videollamada. Y en una videollamada, todo puede ser fabricado.
Sin medidas adicionales tomadas antes o después de la conversación, Farid dijo que no había forma de tener un 100% de certeza. La frase que lo resumió todo fue dura y simple: se acabó, ya no hay manera de garantizarlo.
El dividendo del mentiroso
Samuel Woolley, investigador y director de estudios sobre desinformación en la Universidad de Pittsburgh, fue igualmente difícil de convencer. Dijo que podría llamar a la BBC y pedir que alguien confirmara la identidad de Germain, pero eso tomaría demasiado tiempo durante una llamada en tiempo real. Para la persona común, e incluso para quien entiende de manipulación tecnológica, verificar si alguien es real se convirtió en una tarea extremadamente difícil.
Este escenario tiene un nombre entre los investigadores: el dividendo del mentiroso. El concepto es simple y poderoso. Probar que algo es real cuesta caro en tiempo, recursos y experiencia técnica. Pero sembrar dudas sobre la autenticidad de cualquier cosa es esencialmente gratis. Basta cuestionar. Basta sugerir que puede ser falso. Y listo, el daño está hecho.
Woolley observó que personas en posiciones de poder pueden usar el espectro de la IA como escudo, alegando que evidencias legítimas en su contra son deepfakes. Pero esa misma atmósfera de desconfianza se vuelve contra esos mismos actores. Los políticos que impulsaron la falta de moderación en las plataformas ahora están, de muchas formas, pagando las consecuencias de eso. Es una espada de doble filo que corta de ambos lados con la misma eficiencia. ⚔️
El caos escala conflicto a conflicto
Farid trajo una perspectiva temporal que ayuda a entender la velocidad con la que la situación se deterioró. En los primeros días del conflicto en Ucrania, en 2022, aparecieron algunos deepfakes, pero eran burdos y poco convincentes. Cuando el conflicto en Gaza se intensificó, la cantidad de contenido falso creció significativamente y la calidad mejoró mucho. En Venezuela, el escenario fue aún más extremo — Farid dijo que vio más contenido falso que real. E el caso de Irán elevó todo a un nivel inédito.
En el caso de Netanyahu, su equipo no ayudó al filmar con una cámara sofisticada y profundidad de campo reducida, que crea ese aspecto visual de primer plano nítido con fondo desenfocado. Esa es exactamente la estética que los videos generados por IA suelen producir, según Carrasco. Pero cuando el video de la cafetería fue publicado, el mundo ya estaba tan saturado de contenido sintético que cualquier material, por más auténtico que fuera, enfrentaba una muralla de escepticismo prácticamente infranqueable.
La solución más antigua del mundo
Frente a toda esta sofisticación tecnológica, la solución que los mayores especialistas del planeta recomiendan es casi cómica de tan simple: palabras clave secretas.
Sí, esa misma idea que tus abuelos podrían haber inventado. La recomendación es que tú, tu familia, socios de negocios y cualquier persona con la que te comuniques sobre asuntos importantes creen una frase secreta que nadie más conozca. Esa frase puede usarse en emergencias para verificar la identidad de cada uno. Funciona como una forma rudimentaria de autenticación multifactor, la misma que usamos para iniciar sesión en cuentas en línea.
Farid reveló que él y su esposa tienen una palabra clave para situaciones de llamadas sospechosas. Todavía no han necesitado usarla de verdad, pero a veces la pone a prueba solo para asegurarse de que ninguno de los dos la olvide.
La tía Eleanor, por cierto, ya conocía esta recomendación. Contó que tiene una palabra clave con sus hijos y su esposo, pero Germain no estaba incluido en ese acuerdo. Eleanor también mencionó que había leído muchas historias sobre voces siendo clonadas a partir de videos en YouTube, y dijo que eso la preocupaba profundamente. La palabra que usó fue aterrador.
Las estafas con deepfake ya son una epidemia
Y esa preocupación no es infundada. Las estafas usando deepfake, en las que la IA se utiliza para convencer a las víctimas de que están hablando con otra persona, se convirtieron en uno de los métodos preferidos de los criminales digitales. Según la Asociación Estadounidense de Personas Jubiladas (AARP), las estafas habilitadas por inteligencia artificial crecieron 20 veces entre 2023 y 2025. Las víctimas van desde personas comunes hasta grandes corporaciones.
El caso más emblemático es el de la empresa británica de ingeniería Arup, que habría perdido cerca de 25 millones de dólares cuando criminales usaron una versión falsificada por deepfake del director financiero de la empresa para engañar a un empleado y autorizar transferencias millonarias.
Y el problema solo sigue creciendo. 📈
Herramientas que usamos a diario
Identidad digital en el centro del debate global
Ante este panorama, la discusión sobre identidad digital adquirió una urgencia que va mucho más allá del universo de la tecnología y llegó a los gobiernos, los tribunales y los organismos internacionales. La pregunta central es simple de formular y extremadamente difícil de responder: ¿cómo garantizar que una persona es quien dice ser en un entorno donde cualquier señal biométrica puede ser fabricada con la precisión suficiente para engañar a sistemas automatizados y humanos al mismo tiempo?
Algunos enfoques están siendo explorados. Los sistemas de credenciales verificables basados en criptografía, donde la identidad de una persona está anclada en claves criptográficas imposibles de falsificar sin acceso a la clave privada, han ganado atención creciente. La idea es separar la verificación de identidad de la biometría, que ya demostró ser vulnerable, y anclarla en principios matemáticos que la inteligencia artificial no puede replicar con los recursos computacionales disponibles hoy.
En el frente regulatorio, la Unión Europea ya aprobó el AI Act, que incluye obligaciones específicas para sistemas que generan contenido sintético, exigiendo marcado explícito y estableciendo responsabilidades para quien distribuye deepfakes con intención de engañar. En Estados Unidos, estados como California y Texas ya cuentan con legislación sobre el uso de deepfakes en contextos electorales. En Latinoamérica, varios países también están en proceso de discusión de marcos regulatorios para la inteligencia artificial, y la cuestión de la identidad digital sin duda tendrá un lugar destacado en ese debate. 🌎
La despedida incierta de la tía Eleanor
De vuelta a la llamada con la tía Eleanor, la realidad se estaba doblando sobre sí misma. Eleanor leyó algunos chistes que encontró en Facebook para probar si la reacción de su sobrino parecía auténtica. Germain se rio, lo que ayudó un poco. Después, los dos empezaron a conversar sobre el suéter que ella estaba planeando tejerle. Pero cuando el periodista dijo que tal vez preferiría negro en lugar del dorado que habían acordado antes, Eleanor lo vio como otra señal sospechosa.
Para ella, aquello sonó robótico. Esperaba que su sobrino pidiera otro suéter dorado.
Más tarde, Germain reveló la verdad: no había ninguna IA involucrada en la llamada. Era él todo el tiempo. Pero durante la conversación, la incertidumbre claramente incomodó a su tía. Toda la situación pareció causarle cierta incomodidad emocional.
Al despedirse, Eleanor dijo la frase que resume perfectamente el estado en el que todos nos encontramos ahora:
No puedo estar segura. Pero te quiero, muchacho.
Esa frase carga algo que ningún algoritmo puede replicar — al menos por ahora. Pero también carga la duda que la inteligencia artificial plantó en un terreno que antes era sólido. Lo que queda claro, mirando todo esto, es que la tecnología que creó el problema también va a necesitar ser parte de la solución. Pero la tecnología sola no resuelve una crisis de confianza. Mientras los sistemas técnicos y regulatorios no converjan hacia una respuesta coordinada, cada uno de nosotros seguirá navegando en un entorno donde ver ya no es sinónimo de creer, y donde probar que somos reales puede ser tan difícil como probar que algo es falso.
