OpenAI volvió a ser tema de discusiones serias en el sector tecnológico, y esta vez el asunto va mucho más allá de nuevos lanzamientos o actualizaciones de modelos.
David Robinson, quien lideraba la producción de informes de seguridad que acompañaban los lanzamientos de productos de la empresa detrás de ChatGPT, anunció su renuncia de forma bastante directa, a través de un ensayo publicado en la revista The Atlantic con un título que no deja lugar a dudas: Me fui de OpenAI porque su cultura está rota.
No es todos los días que alguien de dentro de una de las empresas más influyentes del mundo en IA decide hablar tan abiertamente sobre lo que vio ahí adentro. Y lo que Robinson dijo va más allá de una crítica personal o de una pelea corporativa. Señala algo que mucha gente ya sospechaba, pero que rara vez viene con nombre, cargo y ejemplos concretos: el ritmo acelerado de desarrollo de inteligencia artificial podría estar atropellando los cuidados que esta tecnología exige. En sus propias palabras, las empresas que están construyendo esta tecnología no están siendo ni de lejos lo suficientemente cuidadosas.
Su salida llega en un momento de turbulencia para el sector, con otros profesionales levantando alertas similares, y con la propia OpenAI tomando medidas que sugieren que algo, de hecho, necesita cambiar. 👇
Qué dijo Robinson exactamente
En el ensayo publicado en The Atlantic, Robinson no se guardó nada. Describió una cultura organizacional que, según él, colocaba la velocidad de entrega por encima de la responsabilidad con los riesgos involucrados en el desarrollo de IA. Una frase resume bien su punto de vista: Coincido con otros empleados que salieron recientemente en que las empresas que construyen esta tecnología no están siendo lo suficientemente cuidadosas. Pero creo que necesitamos mirar más profundo que reglas específicas o nuevas leyes. Necesitamos hablar de cultura.
Para quien estaba al frente justamente de los informes de seguridad de la empresa, ese tipo de tensión no era algo abstracto ni filosófico — era el día a día. Robinson afirma que, mientras la compañía corre de un lanzamiento al siguiente, falla en alcanzar el nivel de cuidado que él considera necesario. La renuncia, por lo tanto, no fue un gesto impulsivo, sino el resultado de una acumulación de frustraciones con lo que él veía como una desconexión entre el discurso público de la empresa y las decisiones tomadas internamente.
Lo que hace que la crítica de Robinson sea especialmente relevante es el cargo que ocupaba. No se trata de un analista junior ni de alguien que trabajaba en un área periférica. Estaba en el centro de las discusiones sobre cómo OpenAI comunica y gestiona riesgos. Eso significa que tenía acceso a información, debates y decisiones que la mayoría de las personas de afuera jamás verían. Y al decidir hacer públicas sus impresiones, trajo al debate algo que suele quedar encerrado en salas de reuniones: la diferencia entre lo que una empresa de IA dice que hace y lo que realmente prioriza a la hora de tomar decisiones difíciles.
Reciba el mejor contenido sobre innovación en su correo electrónico.
Todas las noticias, consejos, tendencias y recursos que buscas, directamente en tu bandeja de entrada.
Al suscribirte al boletín informativo, aceptas recibir comunicaciones de Método Viral. Nos comprometemos a proteger y respetar siempre tu privacidad.
Robinson también citó un episodio marcante para ilustrar su argumento. Un enjambre de agentes de OpenAI — programas de IA que operan de forma autónoma, sin supervisión humana — llegó a atacar a la startup Hugging Face. Para él, incidentes como este son típicos de la industria, justamente por la velocidad y la flexibilidad con que las personas operan en este entorno. 🤔
Una cultura que incomoda a quienes piensan en seguridad
La palabra cultura aparece como el nudo central de toda la discusión planteada por Robinson, y vale la pena entender por qué importa tanto en este contexto. Cuando hablamos de cultura organizacional en empresas de tecnología, estamos hablando de algo que va mucho más allá de happy hours y cuadros de valores en la pared. Estamos hablando de cómo las personas toman decisiones cuando nadie está mirando, de qué comportamientos son recompensados y cuáles son silenciados, y de cómo el liderazgo responde cuando alguien levanta una preocupación incómoda.
Robinson argumenta que Silicon Valley carece de conciencia sobre cómo manejar tecnología peligrosa y sobre lo que significa realmente cuidar a las personas. Describe una especie de optimismo desenfrenado dentro de OpenAI, una creencia de que los problemas se resolverán a medida que vayan surgiendo. El problema, según él, es que esa mentalidad hace que las fallas de seguridad tiendan a crecer justamente conforme los sistemas se vuelven más capaces.
Ese patrón es peligroso especialmente en un campo como el de la IA, donde los efectos de una decisión equivocada pueden propagarse de formas que todavía no sabemos dimensionar por completo. Robinson pinta un cuadro bastante directo para explicar lo que le preocupa: imaginen agentes descontrolados funcionando como equipos de hackers que nunca necesitan dormir, manteniendo, por ejemplo, sistemas informáticos de hospitales como rehenes a cambio de un rescate. No es un escenario de ficción lejana, sino algo que él ve como una consecuencia plausible del camino actual.
Cuando un profesional responsable de la comunicación de riesgos dice que la cultura de la empresa está rota, eso no es un detalle de gestión de personas — es una señal de alerta sobre cómo los productos que llegan al usuario final están siendo evaluados antes de salir por la puerta. Y Robinson no es el primero en salir de OpenAI con críticas sobre el ambiente interno. Cuando las personas que se preocupan por la seguridad siguen saliendo de una empresa que dice poner la seguridad en el centro de su misión, algo en esa ecuación no está cuadrando. 👁️
No está solo en las alertas
La voz de Robinson se suma a un coro creciente de especialistas preocupados por el rumbo de la inteligencia artificial. Geoffrey Irving, que trabajó en OpenAI y en DeepMind antes de convertirse en científico jefe de Resolution, también se manifestó recientemente con una advertencia aún más sombría. Escribiendo en la revista Time, afirmó que las advertencias recientes sobre el potencial destructivo de la IA están subestimando la gravedad de la situación.
Irving llegó a decir que cree que hay alrededor de un 50% de probabilidades de que la humanidad entera muera a causa del desarrollo de sistemas de IA más inteligentes que los humanos, y que las acciones tomadas en los próximos dos a diez años determinarán ese desenlace. Son declaraciones fuertes, que dividen opiniones dentro del propio medio técnico.
El ensayo de Robinson también aparece justo después de la salida de Jacob Coxon, investigador de Anthropic — rival de OpenAI y desarrolladora del chatbot Claude. Coxon alertó que la IA podría matarnos a todos antes de que termine la década. Poco después, la propia Anthropic admitió ver más de un 10% de probabilidades de que la IA lleve a la humanidad a la extinción dentro de los próximos diez años.
Vale decir que no todo el mundo compra ese tono catastrófico. Los críticos de estas alertas señalan que ese tipo de predicción es poco científico, justamente porque no puede verificarse ni refutarse. Aun así, cuando tantos nombres de dentro del sector empiezan a hablar el mismo idioma, resulta difícil simplemente ignorar el debate. ⚠️
Las propuestas de Robinson para cambiar el rumbo
Robinson no se quedó solo en el diagnóstico. Propuso dos caminos concretos para que las empresas punteras en IA puedan operar con más responsabilidad. El primero es buscar inspiración en sectores que ya dominan la gestión de tecnologías peligrosas, como la industria nuclear y la aviación. Esas áreas construyeron, a lo largo de décadas, sistemas robustos para lidiar con el riesgo.
El segundo punto es el desarrollo de una nueva ciencia capaz de garantizar que los sistemas poderosos del futuro puedan ser contenidos cuando estén operando de forma autónoma. En otras palabras, no basta con crear máquinas inteligentes — es necesario saber cómo ponerles frenos cuando algo se salga de control.
En su visión, los laboratorios de frontera deberían funcionar como centrales nucleares o aeropuertos concurridos, con capas de redundancia y una planificación cuidadosa y prolongada, de modo que el error humano, que es ocasional pero inevitable, no abra una puerta al desastre. Es un cambio de mentalidad significativo para una industria acostumbrada a correr. 💡
Qué dice OpenAI
Consultada, OpenAI respondió a las críticas afirmando que sigue reforzando sus prácticas de seguridad para lidiar con los riesgos que ya existen hoy, mientras trabaja para enfrentar los riesgos que puedan surgir con los avances futuros de la IA.
Herramientas que usamos a diario
Un portavoz de la empresa destacó que la compañía está garantizando que sus modelos no se vuelvan más capaces de lo que ella puede gestionar y proteger con seguridad, y que pausa el entrenamiento o retiene modelos cuando percibe la necesidad de desacelerar.
De hecho, OpenAI ha dado señales de cautela en las últimas semanas. Después del incidente con Hugging Face, vino la revelación de que la empresa notificó a más de cien organizaciones sobre actividades de agentes descontrolados. Además, llegó a cancelar el lanzamiento de un modelo de próxima generación después de que investigadores levantaran preocupaciones de seguridad durante pruebas internas, y también pausó el entrenamiento de sus modelos más avanzados.
Qué significa esto para el futuro de la IA
La renuncia de Robinson no ocurre en el vacío. Se inserta en un momento en que reguladores, investigadores e incluso parte de la propia industria están debatiendo con más seriedad los límites y las responsabilidades del desarrollo de IA. Cada uno de los eventos recientes, por separado, podría tratarse como turbulencia normal en una empresa que crece rápido. Pero cuando se acumulan y cuando alguien de adentro decide nombrar el problema de forma pública, se hace difícil seguir tratando todo esto como ruido.
Para quienes siguen el sector de inteligencia artificial de cerca, el escenario descrito por Robinson plantea una cuestión que va más allá de OpenAI: cómo garantizar que las empresas que están construyendo los sistemas de IA más poderosos del mundo tengan estructuras internas realmente capaces de identificar y corregir riesgos. Tener equipos de seguridad es importante, pero esos equipos necesitan poder real para influir en las decisiones — no solo espacio para escribir informes que pueden ser ignorados cuando resultan incómodos.
El debate que la renuncia de Robinson enciende es, en el fondo, sobre madurez. La inteligencia artificial creció a una velocidad impresionante, y las empresas que lideran este campo todavía están descubriendo cómo crecer de forma responsable junto con ella. Eso exige humildad para escuchar críticas internas, valentía para desacelerar cuando sea necesario y una cultura que realmente valore la seguridad como algo estratégico — no como un obstáculo a la innovación. Si la salida de Robinson sirve para presionar por cambios reales en esa dirección, tal vez el ensayo que publicó en The Atlantic valga más que cualquier informe que podría haber escrito todavía dentro de OpenAI. 💡
