Defensores de la seguridad en IA quieren creadores hablando de los riesgos de la tecnología
En un césped de pasto sintético en Berkeley, California, un grupo bastante diverso de creadores de contenido se reunió un viernes reciente para hablar de un tema que se sale mucho del libreto tradicional de videos sobre romances, clima o consejos de tecnología. La misión era aprender cómo explicarle al público que una inteligencia artificial mucho más poderosa que la humana, si se sale de control, podría representar un riesgo serio para la humanidad.
El encuentro tuvo lugar en un gran espacio de eventos muy conocido en la zona de la Bahía de San Francisco, frecuentado por una comunidad que se toma muy en serio la posibilidad de que una IA superinteligente contribuya a la extinción humana. A este movimiento se le suele llamar seguridad en IA o AI safety y, en los últimos años, salió del nicho académico para entrar de lleno en las disputas públicas sobre el futuro de la tecnología.
El ambiente del evento mezclaba informalidad y tensión. El público vibró cuando Jeffrey Ladish, exingeniero de seguridad de la startup de IA Anthropic, llegó al escenario deslizándose con patines en línea, usando una camiseta sin mangas y luciendo una melena rubia larga. El look relajado contrastaba con el tema pesado: cómo conversar con gente común sobre escenarios de catástrofe relacionados con la IA sin parecer exagerado o completamente desconectado de la realidad.
Quién es Jeffrey Ladish y por qué dejó Anthropic
Ladish trabajó en Anthropic, la empresa detrás del chatbot Claude, hasta 2022. Después de eso, decidió dejar el equipo para enfocarse en investigaciones que ayuden a los formuladores de políticas públicas a entender mejor cómo sistemas avanzados de IA pueden escapar del control humano o burlar mecanismos de seguridad. Cofundó la organización sin fines de lucro Palisade Research, orientada justamente a este tipo de investigación.
Según Ladish, después de algunos años de intensa producción de estudios sobre riesgos existenciales, quedó claro que ya había un buen volumen de trabajos técnicos, pero casi nadie traducía ese contenido para el gran público. En su visión, el siguiente paso era formar una base de comunicadores capaces de transformar informes extensos y artículos complejos en formatos accesibles, directos y visualmente atractivos.
Ladish puso esta idea en práctica en su propia carrera. En los últimos meses, apareció en un video viral con el senador Bernie Sanders hablando sobre amenazas de una IA superhumana y tuvo protagonismo en el tráiler del documental The AI Doc, centrado justamente en esos riesgos extremos. Solo ese tráiler ya acumuló millones de visualizaciones en YouTube, lo que muestra el tirón que tiene el tema cuando se presenta con una narrativa envolvente.
Él forma parte de un esfuerzo más amplio dentro del movimiento de seguridad en IA para convencer a un público mucho mayor de que las superinteligencias artificiales pueden representar riesgos serios para la civilización humana. Ese esfuerzo pasa por patrocinar publicaciones en redes sociales, financiar documentales, apoyar canales educativos y cerrar alianzas con influencers como Hank Green, autor, youtuber y divulgador científico conocido mundialmente.
Frame Fellowship: el bootcamp que entrenó creadores para hablar del impacto de la IA
El evento en Berkeley marcó el cierre de una fellowship de ocho semanas organizada por Frame, enfocada justamente en apoyar a creadores experimentados a producir contenido sobre IA. Entre los participantes había exactivistas del cambio climático, personas que migraron de nichos como BookTok y comunicadores interesados en tecnología en general. La regla central era clara: al menos el 60% de todo lo que publicaran durante el programa debía abordar impactos sociales de la IA.
Esta estrategia de esparcir contenidos sobre riesgos de la tecnología por internet aparece en un momento en que la influencia de la IA se dispara y el tema entra de lleno en el debate político. Cuestiones como la automatización de empleos, el uso de IA en campañas electorales, la regulación de modelos avanzados y la concentración de poder en pocas empresas ya aparecen en discursos, propuestas de ley y campañas de marketing político. Investigaciones recientes muestran que la mayoría de los estadounidenses apoya algún tipo de norma gubernamental para la IA, lo que demuestra que el público está, como mínimo, preocupado.
La fellowship no tenía como objetivo convertir a todos los participantes en especialistas técnicos, sino ayudarlos a encontrar ángulos de contenido que conecten los riesgos de la IA con temas que el público ya siente en carne propia, como trabajo, ingresos, desigualdad, representatividad, seguridad digital y confianza en las instituciones.
Expertos divididos: ¿riesgo existencial ahora o especulación lejana?
Aunque el movimiento de seguridad en IA hable bastante del riesgo de extinción humana, la mayoría de los investigadores de IA en universidades y en la industria no considera que exista hoy una base científica sólida para prever un peligro inmediato para toda la especie. Muchos creen que los escenarios más extremos sobrestiman tanto el poder de la tecnología actual como la capacidad de prever con precisión la dinámica compleja del mundo real.
Por otro lado, los grupos centrados en AI safety argumentan que el ritmo de avance de los modelos de lenguaje, agentes autónomos y sistemas multimodales es tan acelerado que vale la pena tomarse estos riesgos en serio ahora, mientras todavía hay margen para establecer límites. Dentro de ese grupo, existen visiones distintas: algunos defienden una pausa total en cualquier proyecto orientado a una IA superinteligente; otros se enfocan en crear mecanismos de gobernanza y fiscalización mucho antes de que estos sistemas ganen capacidades generalizadas.
Reciba el mejor contenido sobre innovación en su correo electrónico.
Todas las noticias, consejos, tendencias y recursos que buscas, directamente en tu bandeja de entrada.
Al suscribirte al boletín informativo, aceptas recibir comunicaciones de Método Viral. Nos comprometemos a proteger y respetar siempre tu privacidad.
En la práctica, el debate gira menos en torno a un calendario preciso para el surgimiento de una IA superhumana y más alrededor de principios básicos, como mantener humanos al mando de sistemas críticos, garantizar una verdadera rendición de cuentas para las empresas de IA y reconocer que modelos de uso general pueden adaptarse a fines peligrosos si no se controlan bien.
Quiénes son los creadores que están entrando en el debate
Los influencers y educadores a los que se acercan las organizaciones de seguridad en IA, en general, ya producen contenido sobre ciencia, tecnología o uso práctico de IA. Es el caso del canal Veritasium, con más de 20 millones de suscriptores, y de creadores como Catherine Goetze, conocida en TikTok como @askcatgpt, que hace videos con consejos de productividad con IA.
Otra pieza importante en este rompecabezas es ControlAI, una ONG de seguridad en IA con sede en el Reino Unido. La organización empezó a trabajar directamente con creadores para desarrollar videos en YouTube con títulos fuertes, como This 17-Second Trick Could Stop AI From Killing You. La idea es llamar la atención sobre conceptos de seguridad, alineamiento y gobernanza sin depender solo de conferencias técnicas.
Las cifras muestran por qué este enfoque marca diferencia. En 2025 y 2026, todos los videos del canal propio de ControlAI sumaron poco más de 8 mil visualizaciones. En cambio, una sola colaboración pagada con un youtuber popular generó más de 1,6 millones de vistas, y un episodio patrocinado en SciShow, el canal de Hank Green, superó 1,8 millones de visualizaciones. En términos de alcance, el salto es gigantesco.
Para Andrea Miotti, fundador y CEO de ControlAI, el problema central es un enorme agujero de conocimiento entre lo que debaten los expertos y lo que el público realmente sabe. Y, como gran parte de las personas se informa hoy a través de contenido de creadores en nuevas plataformas, tiene sentido invertir precisamente en esos formatos.
De la élite académica al feed de TikTok: cambio de estrategia en la seguridad en IA
Durante buena parte de la última década, el dinero de grandes donantes del sector tecnológico se dirigió a investigaciones académicas, think tanks, ONG e iniciativas que apuntaban a las élites de poder: universidades de prestigio, laboratorios de IA, gobiernos, organismos internacionales. La idea era convencer a quienes toman decisiones de que la IA podría representar un riesgo existencial y debía tomarse tan en serio como otras tecnologías de alto impacto.
Este movimiento creó toda una cantera de talentos que hoy trabajan en laboratorios, organismos públicos y centros de investigación dedicados a evaluar, regular y mitigar riesgos de IA. Aun así, estudios como el de la Seismic Foundation muestran que, en la cabeza del público común, la preocupación por una extinción causada por IA todavía aparece muy por debajo de temas como la pérdida de empleo y los efectos en las relaciones humanas.
En los últimos años, sin embargo, la marea política cambió. Creció el descontento popular y bipartidista con las grandes empresas de tecnología, lo que abrió una ventana para que el discurso de seguridad en IA encontrara aliados improbables. Figuras de espectros ideológicos muy diferentes pasaron a apoyar declaraciones conjuntas pidiendo cosas como mantener humanos al mando de sistemas de IA decisivos y garantizar verdadera responsabilidad legal para las compañías tecnológicas.
Estos aliados no coinciden en todo, ni siempre abrazan las predicciones más pesimistas, pero ayudan a legitimar el debate. Aun así, la forma de comunicar marca mucha diferencia. Muchos videos financiados por grupos de AI safety evitan hablar solo de apocalipsis y prefieren presentar datos sobre la evolución de capacidades de los modelos, comportamientos inesperados de sistemas actuales y ejemplos concretos de fallos de seguridad.
FLI, contenido digital y dinero para acelerar el debate
El Future of Life Institute (FLI), otra organización destacada en este campo, creó una especie de aceleradora de medios digitales para financiar proyectos que hablen de seguridad en IA de forma creativa. Desde el lanzamiento de la iniciativa, el FLI ya apoyó cerca de 30 proyectos diferentes, desde series de videos hasta producciones multimedia independientes.
De acuerdo con el responsable de comunicación de la institución, la idea es invertir alrededor de 100 mil dólares al mes en contenidos de este tipo. El foco está en alcanzar públicos que normalmente no leerían informes técnicos, pero pasan horas en TikTok, Instagram, YouTube y podcasts.
Un ejemplo es la creadora que usa el apodo JatGPT en TikTok. Nacida en Kenia y habiendo vivido muchos años en Londres, centra su contenido en el futuro del trabajo y los impactos de la IA en el empleo. Su audiencia es mayoritariamente femenina, con fuerte presencia de personas de la diáspora africana, además de Estados Unidos, Reino Unido y África Oriental. Para este grupo, temas como beneficios extra para trabajadores despedidos por automatización y programas de recualificación profesional tienen mucho más sentido que discusiones abstractas sobre superinteligencia general.
Polarización, etiqueta de doomers y ataques políticos
El aumento de contenidos accesibles sobre posibles desastres relacionados con la IA también trajo una reacción fuerte de sectores alineados con las grandes empresas de tecnología. Super PACs financiados por figuras vinculadas a compañías como Meta, OpenAI y startups de IA cercanas al gobierno de Trump pasaron a llamar al movimiento de seguridad en IA doomers, acusando al grupo de exagerar los riesgos, frenar el progreso estadounidense e impulsar regulaciones que favorecen a competidores específicos.
Anthropic suele aparecer en el centro de esta polémica. La empresa se presenta como más preocupada por la seguridad que sus rivales y recibió inversiones de nombres influyentes del movimiento de AI safety, como el cofundador de Facebook Dustin Moskovitz y el exejecutivo de Skype Jaan Tallinn. Críticos afirman que eso crearía una alineación de intereses entre ONG alarmistas y empresas que se venden como alternativas más responsables.
Por otro lado, la propia Anthropic ya declaró públicamente que una gobernanza eficaz de la IA exige mayor escrutinio sobre todas las empresas de IA, incluida ella misma. La discusión está lejos de cerrarse, y la cantidad de dinero que circula en ambos bandos solo aumenta la polarización.
Para complicar aún más, incidentes graves en el mundo real pasaron a conectarse con el debate. Figuras de la industria tecnológica culparon a las retóricas consideradas inflamatorias de algunos defensores de la seguridad en IA de haber influido, aunque indirectamente, en un ataque con cócteles molotov a la casa del CEO de OpenAI, Sam Altman. Un texto asociado al presunto autor citaba un libro que describe escenarios en los que cualquier intento de construir una IA superpoderosa termina en muerte global.
Expertos como Daniel Kokotajlo, exempleado de OpenAI y crítico de las prácticas de seguridad de la empresa, argumentan que el objetivo del movimiento de AI safety nunca fue ayudar a laboratorios específicos, sino alertar sobre riesgos amplios. Al mismo tiempo, reconoce que existe un peligro real de que el movimiento se acomode demasiado con ciertas empresas y evite propuestas de regulación que podrían perjudicar a esos actores.
Políticas públicas entre dos fuegos
Merve Hickok, presidenta del Center for AI & Digital Policy, llama la atención sobre otro efecto colateral de esta pelea. Según ella, el aluvión de recursos financieros en bandos opuestos del debate sobre IA está empujando el tema hacia una lógica binaria: o apoyas el discurso de riesgo existencial o te colocas contra ese grupo, incluso si defiendes otros tipos de regulación. En algunos gobiernos, esta división se volvió tan fuerte que la agenda de seguridad en IA pasó a verse más como una postura ideológica que como una agenda técnica.
El problema es que, mientras la disputa de narrativas ocupa el centro del escenario, impactos importantes de la IA en derechos civiles, inclusión social y justicia acaban quedando en segundo plano. Para quienes intentan hacer políticas públicas serias, esto complica bastante, porque cualquier propuesta corre el riesgo de ser asociada a uno de los bandos, incluso cuando es más amplia.
Del paper al video viral: cómo transformar investigación técnica en narrativa
Volviendo al escenario en Berkeley, Ladish y otros invitados explicaron cómo usan artículos técnicos, incluso de empresas a las que quieren ver más reguladas, como materia prima para videos. La lógica es simple: buena parte de los problemas está descrita en informes y artículos, pero casi nadie fuera del área lee este tipo de documentos. Si los creadores logran traducir ese contenido en historias bien estructuradas, el impacto potencial es enorme.
El youtuber Drew Spartz, del canal Species, que tiene más de 300 mil suscriptores, dio un ejemplo claro. Produjo un video sobre un experimento de Anthropic en el que un modelo de IA sugería que podría usar chantaje para evitar ser apagado. El video tuvo un desempeño flojo al principio. Luego, Spartz decidió cambiar el título, reemplazando la palabra chantaje por asesinato, basándose en un detalle presente en el propio paper de Anthropic. El cambio hizo que el video explotara, alcanzando 10 millones de visualizaciones.
Este tipo de decisión plantea preguntas difíciles sobre responsabilidad. El experimento descrito por la empresa no significaba que el sistema tuviera intenciones reales, sino que, en un entorno controlado, produjo respuestas describiendo acciones graves para lograr un objetivo. Al ampliar el foco en el lado más chocante, el video ganó enorme alcance, pero también corrió el riesgo de distorsionar sutilezas importantes.
En los últimos tiempos, Spartz decidió alejarse de coberturas puntuales de la industria y pasó a producir videos más narrativos, algunos explorando distintas maneras en que una IA superhumana podría conquistar poder. Según él, contar historias es una forma de activar emociones básicas que hacen que el público se interese por el tema.
Herramientas que usamos a diario
Cómo hablar de IA con quienes no están en la burbuja
Ladish, que creció en una familia de tradición adventista del séptimo día, pero hoy no se considera religioso, contó que tardó en entender cómo hablar de extinción humana fuera de los círculos técnicos. Términos como auto-mejora recursiva o meta-optimizadores, comunes en debates especializados, no significan nada para la mayoría de las personas y terminan creando distancia en lugar de curiosidad.
Relata que tuvo una especie de revelación cuando pasó a presentarse ante desconocidos en bares, aeropuertos y viajes en coche por app diciendo simplemente que trabaja con investigación en IA y que le preocupa el rumbo que puede tomar la tecnología. En lugar de explicarlo todo de forma abstracta, va directo al grano: dice que existe un escenario en el que la cosa se puede salir tanto de control que hay riesgo de que todo el mundo muera. La reacción, según él, es casi siempre la misma: shock, seguido de interés genuino por entender mejor qué hay detrás de esa afirmación.
En el programa de Frame, buena parte de los becarios estaba dando sus primeros pasos con este vocabulario. Muchos venían de áreas distintas, como activismo climático o creación de contenido sobre carrera, y tuvieron que aprender lo básico de alineamiento de IA, gobernanza y riesgos sistémicos para luego adaptar el tema a su propio estilo.
Janet Oganah, la JatGPT, destacó un punto importante: vivir en San Francisco y convivir con el ecosistema tecnológico hace que cualquiera se dé cuenta de cuántas personas todavía están totalmente fuera de esta conversación. Su audiencia, formada mayoritariamente por mujeres y con buena representatividad de la diáspora africana, casi nunca tendría contacto con el discurso tradicional de seguridad en IA, centrado en conferencias, papers y eventos de élite.
Hank Green y el equilibrio entre escepticismo y curiosidad
Hank Green, uno de los nombres más importantes de la divulgación científica en YouTube, hizo un episodio patrocinado con ControlAI en SciShow, abordando temas de seguridad en IA. Al mismo tiempo, también publicó en su canal personal entrevistas con críticos del hype en torno a las empresas de IA, con el senador Bernie Sanders y con uno de los coautores del libro If Anyone Builds It, Everybody Dies.
Green deja clara su propia postura: se considera una persona optimista y cree que es exagerado afirmar, con convicción, que la IA va a matar a todo el mundo. Aun así, se toma en serio puntos de vista muy distintos, justamente porque ve a la tecnología como algo extraño, poderoso y aún poco comprendido. En la práctica, lo que hace es ofrecerle al público una muestra amplia de argumentos, en lugar de empujar una única narrativa cerrada.
Dilema central: entre el exagero y el silencio
Al final, el gran desafío que aparece en el encuentro de Berkeley y en otras iniciativas similares es encontrar un punto de equilibrio entre dos extremos: minimizar demasiado los riesgos de la IA o dramatizarlos tanto que todo parezca inevitable, casi mitológico. Ambos extremos estorban.
Si se ignoran los riesgos más amplios, modelos cada vez más poderosos pueden lanzarse sin pruebas adecuadas, sin auditoría independiente y sin políticas claras de uso, lo que aumenta la probabilidad de problemas concretos en seguridad, derechos civiles y estabilidad social. Por otro lado, si el discurso se desliza hacia el alarmismo puro, el tema corre el riesgo de tratarse como teoría de la conspiración, lo que deslegitima trabajos serios y dificulta aún más la construcción de políticas públicas responsables.
Es en ese espacio estrecho donde intentan actuar creadores de contenido, investigadores independientes, ONG y parte de los formuladores de políticas. El aumento de la presión pública sobre las empresas de IA, la creación de reglas de transparencia, la exigencia de pruebas de seguridad más robustas y la pluralidad de voces en el debate pueden no resolverlo todo, pero ayudan a orientar la tecnología de una forma menos ingenua.
Mientras la IA sigue avanzando en capacidad y autonomía, la forma en que contamos esta historia, para quienes todavía no viven la realidad del Valle del Silicio, puede ser tan importante como la propia investigación técnica en seguridad.
