Sam Altman, CEO de OpenAI, hizo una declaración que generó bastante repercusión durante una conferencia anual de Salesforce, en San Francisco. Admitió que el mundo tiene razones legítimas para temer a la inteligencia artificial, pero pidió que las personas confíen en las empresas del sector para hacer lo correcto. Es el tipo de afirmación que te hace levantar una ceja, ¿no?
En sus propias palabras, el mundo debería confiar en que van a hacer lo correcto porque es lo correcto y porque sienten la magnitud de todo esto. Al mismo tiempo, Altman reconoció que los miedos de las personas están justificados, ya que la capacidad de las herramientas de IA avanzó de forma muy rápida. Según él, hoy no se necesita tanta imaginación como antes para visualizar cómo todo esto podría salir mal, y por eso el mundo tiene razón en sentir recelo.
La declaración llegó en un momento bastante delicado: días antes, un investigador que dejó Anthropic publicó un post que se volvió viral a nivel mundial, afirmando que la IA podría exterminar a toda la humanidad antes de que termine esta década si no se controla. El debate sobre seguridad en la IA nunca estuvo tan candente. Por un lado, líderes del sector defienden que las propias empresas son capaces de autorregularse. Por el otro, voces dentro de la industria alertan que dejarlo todo en manos de quienes desarrollan la tecnología es una apuesta demasiado arriesgada. Pero al final, ¿qué dijo Altman exactamente, quién lo apoyó, quién discrepó y qué se está construyendo en la práctica para garantizar que esta tecnología no se salga de control? Acompáñanos. 👇
Lo que Sam Altman dijo en la conferencia de Salesforce
Durante el evento en San Francisco, Sam Altman fue directo al grano: sí, la inteligencia artificial representa un riesgo real, y las personas no están equivocadas al preocuparse. Pero la solución, según él, no pasa por la regulación gubernamental. Altman argumentó que las empresas de tecnología, especialmente aquellas que están en la primera línea del desarrollo de la IA, son las más capacitadas para entender los riesgos y tomar las decisiones correctas.
Demostró bastante confianza en esa visión. En sus palabras, el sector va a acertar, y él estaba muy confiado en la capacidad de su propia empresa y de la industria para hacerlo con seguridad. Altman además garantizó que pretenden mantener el alineamiento y la seguridad bien por delante de las capacidades de los modelos, y que, si en algún momento no lo consiguieran, desacelerarían o pararían. Ese tipo de promesa es exactamente el corazón de la idea de autorregulación que él defiende.
Reciba el mejor contenido sobre innovación en su correo electrónico.
Todas las noticias, consejos, tendencias y recursos que buscas, directamente en tu bandeja de entrada.
Al suscribirte al boletín informativo, aceptas recibir comunicaciones de Método Viral. Nos comprometemos a proteger y respetar siempre tu privacidad.
Esta posición no es nueva viniendo de Altman, pero ganó un peso diferente en este contexto. OpenAI es hoy una de las organizaciones más influyentes en el campo de la IA en el mundo, y cada palabra de su CEO es monitoreada con atención por inversores, reguladores, investigadores y por los medios globales. Cuando dice que no necesita regulación para hacer lo correcto, mucha gente lo interpreta como una empresa gigante pidiendo operar sin supervisión externa. Y ahí empieza el problema, porque el historial reciente del sector no ayuda mucho a construir ese argumento.
El post que encendió la alarma roja en la industria
Pocos días antes de las declaraciones de Altman, un investigador que salió de Anthropic publicó un texto que rápidamente se volvió viral en todo el mundo. En el post, afirmaba, con una seriedad perturbadora, que la inteligencia artificial tiene potencial para exterminar a la humanidad antes del final de esta década, si no se implementa ningún mecanismo eficaz de control. La afirmación puede parecer exagerada a primera vista, pero el hecho de que viniera de alguien con experiencia técnica profunda en una de las empresas más avanzadas del sector le dio al texto un peso que no podía ignorarse fácilmente.
Lo interesante es que otros ejecutivos y especialistas en IA respondieron coincidiendo con la evaluación, aunque no explicaron exactamente cómo llegaron a esa conclusión ni de qué forma la IA conseguiría realizar algo tan drástico. Esa falta de detalle técnico no impidió que la repercusión creciera. Al contrario, la alarma terminó atrayendo aún más escrutinio sobre el desarrollo de la inteligencia artificial en los días siguientes.
En respuesta, el CEO de Anthropic, Dario Amodei, llegó a pedir que el ritmo de todo el desarrollo de IA se desacelerara y defendió que los gobiernos regularan la industria. El post viral, por cierto, fue aplaudido por varias figuras de peso del sector, incluyendo al propio Altman, al cofundador de DeepMind de Google, Demis Hassabis, y a Elon Musk, dueño de la red social X y del asistente de IA Grok. Es decir, incluso entre los líderes existe reconocimiento de que los riesgos son reales.
Autorregulación o supervisión externa: dónde está la línea
La defensa de la autorregulación hecha por Sam Altman no es una posición aislada en el sector. Poco después de sus comentarios, el jefe de Meta, Mark Zuckerberg, escribió en X que todo laboratorio de IA tiene la capacidad y el incentivo para tomar sus propias medidas hacia herramientas y modelos diseñados para ser seguros. Según él, cualquier laboratorio que no se enfoque en el alineamiento se va a quedar atrás, y las empresas enfrentan responsabilidad jurídica significativa en caso de que sus modelos causen daños, lo cual ya es un fuerte incentivo para prevenir problemas.
Jensen Huang, líder de Nvidia, siguió la misma línea durante la conferencia. Afirmó que las propias empresas de IA deberían decidir si nuevas versiones de la tecnología deben lanzarse, sin ser gestionadas por fuerzas externas. Para él, no son necesarias nuevas leyes o regulaciones, y no debería existir una falsa elección entre la velocidad de la innovación y la seguridad de los productos de IA. Vale recordar que Nvidia es hoy la empresa más grande del mundo en valor de mercado, impulsada por la demanda de sus chips de computación orientados a la IA.
Huang también definió la seguridad como algo primordial, pero la clasificó como un problema de ingeniería. Completó diciendo que, si en algún momento el líder de una empresa de IA no tiene confianza en su propio producto, simplemente debe elegir no lanzarlo. En su visión, esto es obvio: correr lo más rápido posible, pero hacer una pausa siempre que se sienta que la institución no tiene el control.
Del lado opuesto, especialistas en seguridad e investigadores independientes señalan que la historia de la tecnología está repleta de ejemplos donde la autorregulación simplemente no funcionó. Jack Clark, ejecutivo y cofundador de Anthropic, dijo que dejar la IA como una industria totalmente sin regulación sería como lanzar los dados con riesgos inmensos. Por su parte, Patrick Hillman, director de operaciones de Logical Intelligence, empresa presidida por Yann LeCun, observó cuán poca fe tienen las personas en las empresas de tecnología para actuar realmente en el interés público.
Según Hillman, la única institución en la que los estadounidenses quizás confían menos que en Washington hoy en día es Silicon Valley, y garantizó que ambos merecen ese escepticismo. Lanzó un desafío directo a las empresas: si crees que lo que estás construyendo es peligroso, muestra qué estás dispuesto a dejar de hacer. Es una provocación que va al fondo de la cuestión de la credibilidad del discurso de autorregulación.
Herramientas que usamos a diario
Lo que OpenAI está haciendo en la práctica
Por más que el discurso de Sam Altman haya generado críticas, OpenAI no está completamente con las manos vacías cuando el tema es seguridad. Líderes de OpenAI y de Anthropic afirmaron que comenzaron recientemente a trabajar hacia algún tipo de acuerdo entre las empresas sobre estándares de seguridad. Durante una participación en la conferencia, Dario Amodei dijo que Anthropic está ahora en diálogo con el resto de la industria sobre comprometerse con mejores estándares de seguridad y verificaciones en el desarrollo de las herramientas de IA.
Amodei también comentó que una de las mayores sorpresas del boom de la IA no fue tanto el avance de la tecnología en sí, sino su impacto más amplio. Según él, nadie se había dado cuenta de que esto llevaría a las empresas a crecer tan rápido y a volverse centrales para tantas cosas en tan poco tiempo. Ese crecimiento acelerado es justamente lo que aumenta la presión por respuestas más concretas sobre riesgos y responsabilidades.
El ejecutivo de OpenAI Chris Lehane afirmó que la empresa también está trabajando con otros laboratorios para avanzar en estándares de IA de frontera, construyendo un esfuerzo voluntario ahora, con o sin apoyo gubernamental. Entre esos laboratorios están Anthropic y Google DeepMind. Lehane resumió la filosofía detrás de esto diciendo que, con apuestas tan altas, no se puede dejar que lo perfecto sea enemigo de lo bueno.
La cuestión central, al final de cuentas, no es si OpenAI tiene buenas intenciones. Probablemente las tiene. La cuestión es si las buenas intenciones son suficientes cuando los sistemas que se están desarrollando tienen el potencial de impactar a miles de millones de personas. La regulación no existe porque las empresas sean necesariamente malintencionadas. Existe porque crea responsabilidades claras, procesos de rendición de cuentas y mecanismos para corregir errores cuando ocurren. Y en ese sentido, el debate que Sam Altman encendió con su declaración, incluso sin querer, puede ser más útil que la propia declaración. 🤔
