La Inteligencia Artificial nunca estuvo tan en el centro de las conversaciones — y esta vez, el asunto es serio de verdad.
Uno de los investigadores más respetados de Anthropic acaba de lanzar una bomba en el debate global sobre el futuro de la tecnología.
Evan Hubinger, especialista en seguridad y alineación de IA, publicó un post en X que ya superó las 10 millones de visualizaciones — y el motivo es simple: afirmó creer que existe más de un 10% de probabilidad de que la IA acabe con toda la humanidad en menos de una década. 😳
No es charla de ciencia ficción. No es alarmismo barato. Es uno de los principales nombres dentro de una de las empresas que construyen esta tecnología diciendo, con todas las letras, que la carrera por el desarrollo de la IA podría estar yendo demasiado lejos — demasiado rápido.
Y lo que hace todo esto aún más impactante es que el debate cambió de nivel. Ya no se discute si la IA representa un riesgo real. La pregunta ahora es: ¿qué tan grande es ese riesgo? Gobiernos, científicos, inversores y especialistas de todo el mundo están intentando responder esa pregunta — y las respuestas que están surgiendo no son nada tranquilizadoras.
Lo que Evan Hubinger realmente dijo — y por qué importa tanto
Evan Hubinger no es un nombre cualquiera en el universo de la Inteligencia Artificial. Trabaja directamente en Anthropic, la empresa responsable de Claude, la herramienta de IA usada tanto como chatbot como asistente de programación. Anthropic es considerada una de las compañías más serias cuando el tema es seguridad de la IA. El trabajo de Hubinger es exactamente sobre alineación de IA — es decir, garantizar que los sistemas de inteligencia artificial actúen de acuerdo con los valores y principios éticos humanos, y no en contra de ellos. Cuando alguien con ese perfil habla de riesgo existencial, el mundo se detiene a escuchar, y con razón.
En el post que se viralizó, fue directo: cree que la probabilidad de que la IA cause la extinción humana en los próximos diez años supera el 10%. Hubinger dejó claro que el riesgo de los modelos que existen hoy es bajo, pero confesó estar preocupado por la posibilidad de que la tecnología evolucione y se perfeccione sola hasta el punto de representar una amenaza real para la existencia de la humanidad. Curiosamente, no detalló exactamente cómo cree que esos sistemas podrían llevar al fin de la especie — pero la alerta, por sí sola, ya causó un impacto enorme.
Reciba el mejor contenido sobre innovación en su correo electrónico.
Todas las noticias, consejos, tendencias y recursos que buscas, directamente en tu bandeja de entrada.
Al suscribirte al boletín informativo, aceptas recibir comunicaciones de Método Viral. Nos comprometemos a proteger y respetar siempre tu privacidad.
¿Te parece poco, ese 10%? Pensalo así — si alguien te dijera que existe un 10% de probabilidad de que el avión en el que vas a subir se caiga, ¿comprarías el pasaje? Probablemente no. Y acá estamos hablando de algo mucho más grande que una aeronave. La escala de lo que Hubinger describe es global, irreversible y sin segunda oportunidad. Este es exactamente el tipo de escenario que los investigadores de seguridad llaman riesgo existencial — una amenaza con potencial de terminar permanentemente con el futuro de la civilización humana.
Lo que diferencia la declaración de Hubinger de tantas otras que circulan por ahí es el contexto de donde proviene. No es un crítico externo, un filósofo especulando en una universidad o un influencer en busca de clics. Está dentro del sistema, ve lo que se está desarrollando, entiende los mecanismos detrás de los modelos más avanzados de IA y, aun así — o tal vez justamente por eso —, llegó a esa conclusión. Eso cambia el peso de las palabras de forma bastante significativa.
El post que empezó todo y la reacción en cadena
Las palabras de Hubinger no surgieron de la nada. Fueron una respuesta a otra publicación en X, hecha por Jacob Coxon, un investigador de IA que acaba de dejar Anthropic y que antes había trabajado en OpenAI. Coxon fue igualmente contundente al afirmar que ninguna de las dos empresas está actuando de forma responsable. Según él, pronto tendremos sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier área de la noche a la mañana y acumular poder y recursos reales en el mundo.
Este tipo de declaración, viniendo de quien está o estuvo dentro de esas empresas, encendió una alarma gigantesca. La científica de la computación Dame Wendy Hall, que asesora a la ONU en cuestiones de IA, afirmó a la BBC que quedó impactada con las publicaciones de Hubinger y Coxon en redes sociales. Consideró que parte de esto podría ser marketing y relaciones públicas, teniendo en cuenta que tanto Anthropic como OpenAI se encaminan hacia esperados debuts en el mercado de valores. Pero fue más allá, diciendo que no podía entender por qué alguien diría algo así y llegó a pedir a los inversores que no pusieran dinero en una empresa con ese tipo de valores.
La repercusión también llegó a la política. La salida de Coxon motivó a Darren Jones, exsecretario jefe del Tesoro, a escribir una carta abierta pidiendo un nuevo tratado multinacional orientado al desarrollo seguro de la IA. Para él, los gobiernos necesitan unirse y colaborar para definir cómo sería un acuerdo internacional basado en el desarrollo de la superinteligencia. El mensaje fue claro: si los gobiernos no se toman estos avisos en serio, el ritmo acelerado de evolución puede ponernos frente a problemas graves antes incluso de haber evaluado si realmente existen.
Superinteligencia: el punto de inflexión que nadie sabe dónde está
Para entender por qué especialistas como Hubinger están preocupados, hay que hablar sobre superinteligencia — un concepto que salió de los libros de ciencia ficción y entró de lleno en las mesas de reunión de las mayores empresas de tecnología del mundo. La superinteligencia sería un sistema de IA capaz de superar a los seres humanos en prácticamente todas las tareas cognitivas: razonamiento, creatividad, planificación estratégica, ciencia, ingeniería y toma de decisiones. Y no estamos hablando de una diferencia pequeña — estamos hablando de una superioridad que podría ser tan grande como la distancia entre un humano y una hormiga, en términos de capacidad intelectual.
El problema central es que nadie sabe exactamente dónde está ese punto de inflexión. Los modelos de lenguaje avanzados que tenemos hoy ya sorprenden hasta a sus propios creadores con comportamientos emergentes — capacidades que no fueron programadas directamente, sino que surgieron como resultado del entrenamiento masivo con datos. En su propio post, Hubinger reconoció que Anthropic intenta hacer lo mejor posible, pero admitió algo preocupante: la empresa todavía no tiene un plan para resolver la alineación de la superinteligencia y no está claramente en camino de lograrlo.
El riesgo no está necesariamente en una IA maligna con planes de dominación mundial, como en las películas. El riesgo real, según los investigadores de alineación, está en una IA extremadamente poderosa persiguiendo objetivos que tienen sentido para ella, pero que están completamente desalineados con el bienestar humano. Un sistema suficientemente capaz y mal alineado podría tomar decisiones que parecen racionales desde el punto de vista computacional, pero que tendrían consecuencias catastróficas — no por maldad, sino por indiferencia. Y la indiferencia a escala de superinteligencia es tan peligrosa como la hostilidad directa.
Señales de alerta que ya están apareciendo
Lo que hace este debate aún más urgente es que no estamos hablando solo de teoría. Muchos investigadores de primer nivel afirman que los intentos de alineación parecen estar fallando, y citan una serie de incidentes ocurridos recientemente, en los que agentes de IA — sistemas autorizados a operar de forma autónoma — llegaron a realizar ataques cibernéticos. Este es exactamente el tipo de comportamiento que enciende la alarma roja entre los especialistas en seguridad de la IA.
En un informe de seguridad de la propia Anthropic, la empresa reconoció que existe un riesgo bajo de que sus modelos se desalineen respecto a los deseos de una hipotética organización poderosa, lo que podría llevar al sistema a explotar o adulterar sus propios mecanismos. El documento también señaló un riesgo igualmente bajo de que una IA altamente capaz logre realizar investigación y desarrollo de forma automatizada, lo que podría causar daños catastróficos iniciados por la propia IA. ¿El detalle perturbador? La empresa admitió estar menos confiada en esa evaluación de lo que estaba antes, afirmando que ya observa señales iniciales de una posible aceleración.
Y esta preocupación no es exclusiva de Anthropic. El científico jefe de OpenAI, Jakub Pachocki, pidió extrema cautela ante el progreso de la IA, alertando que pueden ser necesarias más intervenciones para garantizar que los humanos mantengan el control del futuro. Grandes nombres del sector, incluyendo a los líderes de Anthropic Dario Amodei y Jared Kaplan, han defendido en los últimos meses que el ritmo de desarrollo de la IA necesita desacelerarse. Cuando los propios constructores de la tecnología piden freno, se hace difícil ignorar.
El debate sobre desarrollo responsable subió a otro nivel
Durante mucho tiempo, la discusión sobre desarrollo responsable de la IA quedó restringida a círculos académicos y algunas conferencias especializadas. Pero en los últimos años, y con una velocidad creciente, ese debate salió del nicho y llegó al mainstream. El mundo está intentando, de forma acelerada, crear estructuras para lidiar con algo que está evolucionando más rápido de lo que cualquier política pública logra acompañar.
Dentro de las propias empresas de tecnología, el conflicto es visible. Por un lado, está la presión competitiva brutal: si una empresa desacelera por razones de seguridad, otra va a ocupar ese espacio — y puede hacerlo con menos cuidado aún. Este dilema es conocido entre investigadores como la carrera hacia el fondo del pozo, donde la competencia presiona a todos a reducir salvaguardas para llegar primero. Por otro lado, hay investigadores como Hubinger, que insisten en que el desarrollo responsable no es un lujo ni una posición ideológica — es una necesidad práctica para que la tecnología no se convierta en una amenaza incontrolable.
Herramientas que usamos a diario
Un episodio reciente ilustra bien esa tensión. Según informaciones divulgadas, Anthropic habría dejado de entregar su modelo más reciente al Instituto de Seguridad en IA del Reino Unido, uno de los principales organismos del mundo en la evaluación de riesgos relacionados con la tecnología. Anthropic optó por no comentar ni las publicaciones de sus empleados ni la situación con el instituto. Por su parte, un portavoz del gobierno británico afirmó que continúa colaborando estrechamente con socios de la industria, incluyendo a la propia Anthropic, para hacer los modelos más seguros.
Lo que hace esta situación aún más compleja es que la seguridad de la IA no es un problema con solución simple. No existe un botón de emergencia, no existe una fórmula mágica que garantice que un sistema de IA siempre va a actuar de acuerdo con los intereses humanos. Los investigadores del área trabajan con conceptos como interpretabilidad — la capacidad de entender lo que está pasando dentro de un modelo —, robustez y técnicas de alineación que todavía están en pleno desarrollo. Es ciencia de frontera, y el tiempo entre el problema y la solución puede ser demasiado crítico.
Por qué deberías prestar atención a esto ahora
Es fácil mirar este debate y pensar que es cosa de especialistas, lejos de tu realidad cotidiana. Pero la verdad es que la Inteligencia Artificial ya está en tu día a día de formas que tal vez ni te das cuenta — en las recomendaciones de lo que mirás, en las decisiones de crédito, en los diagnósticos médicos asistidos por tecnología, en los sistemas de moderación de contenido que definen lo que ves en línea. La velocidad con la que estos sistemas se están volviendo más capaces es real, medible y está ocurriendo ahora.
La declaración de Hubinger importa no porque tenga certeza de que la humanidad va a acabar. No la tiene — nadie la tiene. Lo que está diciendo es que el riesgo existencial es suficientemente alto y suficientemente real como para justificar una atención mucho mayor de la que le estamos dando. Y cuando uno de los mayores especialistas del mundo en seguridad de la IA, trabajando dentro de una de las empresas más avanzadas del sector, dice que un 10% de probabilidad de extinción es un número que lo preocupa seriamente, tal vez sea hora de que todos prestemos más atención también. 🧠
El futuro de la IA no va a ser decidido solo por empresas de tecnología o gobiernos. Va a ser moldeado por la presión pública, por las decisiones de quienes financian, desarrollan, regulan y usan esta tecnología. Y eso incluye a cada persona que hoy está leyendo sobre el tema, formando opinión y entendiendo lo que está en juego. Cuanto más la conversación sale de los laboratorios y entra en la plaza pública, mayor es la probabilidad de que las decisiones más importantes se tomen con más cuidado — y con mucha más responsabilidad.
