La inteligencia artificial escala. La responsabilidad, no.
Esta frase, extraída de un informe conjunto entre Accenture y la Wharton School, resume con precisión quirúrgica el momento que estamos viviendo. Los agentes autónomos de IA ya no son una promesa lejana ni un concepto de ciencia ficción. Están aquí, operando en tiempo real, tomando decisiones, gestionando procesos y transformando sectores enteros de la economía global — muchas veces sin que nadie alrededor sepa exactamente qué está ocurriendo entre bambalinas.
Y es justamente ahí donde está el problema. 🤔
Lo que está en juego con los agentes autónomos de IA
El informe, titulado The Age of Co-Intelligence: How Humans, AI Agents, and Robots Are Redefining Value, no vino a repetir el discurso de siempre sobre automatización y desempleo. El mensaje es otro, y bastante más urgente. Esta vez no estamos hablando solo de qué empleos van a desaparecer o surgir. Estamos hablando de quién, o qué, está realmente al mando de las decisiones que mueven empresas, mercados y vidas enteras. Y la respuesta a esa pregunta, hoy, sigue siendo demasiado nebulosa como para que alguien se sienta cómodo.
- Cuanto más inteligente se vuelve la IA, más exige de los humanos que la gestionan
- Las ganancias de productividad solo se convierten en crecimiento real cuando existe una redistribución consciente de personas y recursos
- La gobernanza de estas herramientas todavía va a gatas mientras los agentes ya corren
- La rendición de cuentas sobre lo que estos sistemas hacen sigue siendo, casi siempre, responsabilidad de nadie
Más del 50% de las horas de trabajo en la economía estadounidense ya están siendo impactadas por agentes de IA, según datos de O*NET y del Bureau of Labor Statistics analizados por los investigadores. Son más de 120 millones de trabajadores afectados directa o indirectamente, en 18 sectores diferentes. En el sector bancario y de mercado de capitales, la proporción de horas impactadas solo por agentes digitales ya supera el 45%. Las cifras son demasiado grandes para ignorarlas, y el debate que necesitamos tener todavía ni siquiera ha comenzado de verdad.
El punto central del estudio no es tecnológico — es humano. La gran cuestión no es si los agentes autónomos funcionan. Funcionan, y muy bien. La cuestión es si las organizaciones están preparadas para lidiar con las consecuencias de lo que estos sistemas deciden, ejecutan y, eventualmente, fallan. Porque los errores ocurren. Y cuando un agente autónomo falla a escala, el impacto no es menor.
Como el propio informe destaca: la inteligencia es escalable, pero la rendición de cuentas no lo es. Esa asimetría es el corazón de todo lo que el estudio discute. A medida que la IA elimina los límites de cuánto razonamiento y análisis se pueden realizar, los humanos todavía necesitan decidir qué importa, definir la estrategia y, sobre todo, asumir la responsabilidad por los resultados.
La lección de Charlie Chaplin y Lucille Ball para la era de los agentes de IA
El profesor Eric Bradlow, que preside el departamento de marketing de Wharton y es coautor del informe, hizo una analogía que vale la pena conocer. Comparó el momento actual con escenas clásicas del cine y la televisión. La primera referencia es la película Tiempos Modernos, de 1936, en la que Charlie Chaplin interpreta a un obrero que intenta seguir el ritmo de una línea de montaje cada vez más rápida — hasta ser literalmente engullido por la máquina.
La segunda referencia es el episodio Job Switching, de I Love Lucy, en el que Lucille Ball termina metiéndose chocolates en la boca porque la cinta transportadora de la fábrica se mueve demasiado rápido para que pueda envolver todo.
Casi 90 años después, las imágenes siguen siendo inquietantemente actuales. Las máquinas son más inteligentes ahora. Los riesgos son mayores. Y según el informe, los humanos que operan estas máquinas se están quedando atrás de una manera que debería preocupar a cualquier sala de juntas del país.
Bradlow explicó el problema de forma bastante directa: si una persona en un proceso de 20 etapas adopta IA y triplica su productividad mientras la persona en la etapa siguiente todavía está haciendo todo en Excel, el cuello de botella no desaparece. Solo cambia de lugar. Y ese desfase se hará evidente muy rápido. La imagen de Chaplin siendo absorbido por la cinta transportadora capturó los primeros días del capitalismo industrial en el siglo 20. Hoy, la misma metáfora se aplica a la era de los agentes autónomos: o dominas la máquina, o ella puede triturarte entre los engranajes.
Reciba el mejor contenido sobre innovación en su correo electrónico.
Todas las noticias, consejos, tendencias y recursos que buscas, directamente en tu bandeja de entrada.
Al suscribirte al boletín informativo, aceptas recibir comunicaciones de Método Viral. Nos comprometemos a proteger y respetar siempre tu privacidad.
Productividad sin dirección es solo ruido
Uno de los puntos más relevantes del informe es que la ganancia de productividad generada por la inteligencia artificial no se convierte automáticamente en crecimiento real para las empresas o para la economía. Parece obvio cuando lo lees así, pero en la práctica mucha gente todavía cree que basta con implementar agentes y esperar que los resultados aparezcan en el balance. No funciona de esa manera.
El estudio modeló los números de una empresa real con facturación de 60 mil millones de dólares. Los investigadores estimaron que la implementación completa de IA agéntica podría generar aproximadamente 6 mil millones de dólares en crecimiento de ingresos anuales, además de 1.700 millones de dólares en ganancias de productividad. Pero aquí viene el detalle importante: hasta 2028, cerca de un tercio de esas ganancias de productividad no aparecerían como ahorro directo de costos. Se manifestarían como capacidad liberada — horas que necesitan ser deliberadamente redirigidas hacia trabajo de mayor valor, o simplemente se evaporan sin generar ningún retorno.
El informe es enfático: la productividad solo se transforma en crecimiento real mediante una redistribución intencional. Si los líderes no dirigen esa capacidad liberada hacia actividades de mayor valor, las ganancias se estancan en la eficiencia y no se traducen en crecimiento.
Piénsalo así: si un agente autónomo pasa a encargarse de tareas que antes ocupaban a tres analistas durante ocho horas diarias, ¿qué pasa con esas tres personas y con ese tiempo? Si la respuesta es nada planificado, la ganancia de productividad se esfuma. Se convierte en eficiencia operativa sin propósito estratégico, y eso no impulsa a ninguna empresa hacia adelante de forma sostenible.
James Crowley, presidente global de prácticas industriales de productos de Accenture y coautor del informe, dijo a Fortune que la gran trampa no es implementar demasiados agentes, sino no pensarlos como una fuerza de trabajo coherente. Todo el mundo está construyendo un agente aquí, otro allá, a veces miles. Lo que la investigación intentó hacer fue dar un paso atrás y observar cómo se verá el panorama agéntico a nivel de la empresa en su conjunto.
Crowley también destacó que la mayoría de las empresas se ha enfocado demasiado en la eficiencia y la productividad, cuando el potencial de ingresos es significativamente mayor. Las ganancias del lado de los ingresos, según él, eventualmente van a eclipsar las ganancias del lado de la eficiencia. Y ahora es el momento adecuado para transformar esa conversación en una historia que incluya ambos lados.
Gobernanza: el eslabón que todavía falta
Si hay un tema en el que el informe golpea con fuerza, es la gobernanza. Y tiene sentido, porque es exactamente el punto donde la mayoría de las organizaciones todavía está más vulnerable. Los agentes autónomos de IA ya operan en entornos críticos, tomando decisiones sobre crédito, salud, logística, comunicación y mucho más, mientras que los marcos de control y supervisión van detrás intentando seguir ese ritmo.
El informe destaca que los agentes de IA ya se están extendiendo rápidamente por la cadena de valor de las empresas, frecuentemente por delante de cualquier estrategia o gobernanza formal. Casi tres cuartas partes de los trabajadores del conocimiento ya usan IA, muchas veces mediante herramientas no autorizadas, en un fenómeno que se conoce como shadow AI. Hasta 2028, se estima que cerca de un tercio de las aplicaciones corporativas tendrán capacidades agénticas incorporadas. Y aun así, la arquitectura de gobernanza no ha acompañado ese ritmo.
La gobernanza de sistemas de inteligencia artificial implica mucho más que crear una política interna o nombrar un comité de ética. Implica definir con claridad qué decisiones un agente puede tomar de forma totalmente autónoma, cuáles necesitan validación humana, cómo se registran y auditan los logs de decisiones, y qué ocurre cuando algo sale mal. También implica crear mecanismos reales de rendición de cuentas, porque sin eso cualquier fallo se convierte en un juego de echarse la culpa donde nadie asume responsabilidad y el problema simplemente se repite.
El informe señala que las empresas que ya están más maduras en este aspecto tienen algunas características en común. Tratan la gobernanza como parte del diseño del sistema, y no como una capa añadida después de que todo ya está funcionando. Invierten en transparencia interna, documentando cómo los agentes toman decisiones y haciendo ese proceso comprensible para los equipos que dependen de estos sistemas. Y crean canales claros para que cualquier colaborador pueda cuestionar una decisión tomada por un agente, sin burocracia excesiva y sin miedo a parecer anticuado por cuestionar a la máquina. 🛡️
El estudio va más allá y sugiere que las organizaciones podrían necesitar un cargo ejecutivo completamente nuevo: un chief agentic resources officer, es decir, alguien dedicado exclusivamente a gestionar y supervisar la fuerza de trabajo compuesta por agentes autónomos.
Ventas: el área más prometedora y más arriesgada al mismo tiempo
El informe identificó que el área de ventas representa, al mismo tiempo, la mayor oportunidad de ingresos y el mayor riesgo de gobernanza para agentes de IA. Es una función que combina volumen masivo de decisiones, alta idoneidad para agentes digitales y riesgo comercial elevado — interacciones con clientes, fijación de precios, criterio comercial. Ventas es simultáneamente la principal candidata para implementación temprana de agentes y, como lo denomina el informe, un dominio crítico de gobernanza donde la confianza, la rendición de cuentas y la supervisión humana necesitan ser deliberadamente planificadas.
La visión de quienes ya están implementando agentes
Andrey Khusid, CEO de Miro, la startup de productividad valorada en 17.500 millones de dólares que ganó notoriedad por decidir salir de Rusia tras el inicio de la guerra en Ucrania, compartió con Fortune su visión sobre el momento actual. La aplicación principal de Miro, un software de productividad colaborativa que existe desde hace más de una década, ahora está incorporando IA.
Según Khusid, durante casi 15 años el trabajo en la plataforma era de humano a humano. Pero entonces la dinámica cambió. Ahora, mucha colaboración ocurre entre humanos y agentes juntos. Al traer agentes a la plataforma, la empresa está permitiendo que los usuarios entreguen trabajo de forma agéntica. Es más complejo que el trabajo humano-humano, explicó, pero es mucho más poderoso y con un tiempo de retorno de valor mucho más rápido. Antes, necesitabas un humano con tal expertise u otra expertise. Con agentes, puedes tener un equipo entero trabajando a tu lado con diferentes especialidades.
Aun así, Khusid reconoció que los agentes pueden ser propensos a errores, igual que los humanos, y que mucho del trabajo agéntico actual es una caja negra. Miro está trabajando para desempaquetar esa opacidad, de modo que sea posible corregir a los agentes cuando se equivocan. Reconociendo que parece una revolución agéntica, reflexionó: estamos en el comienzo.
Errores a escala: el riesgo de agentes que alucinan
Bradlow y Crowley reconocieron abiertamente que los agentes pueden ser propensos a errores e hasta a alucinaciones, y a escala masiva, esto podría llevar a fallos generalizados. Imagina un escenario en el que un agente alucina un número de inventario y eso hace que agentes posteriores realicen pedidos absurdamente exagerados de stock. O un agente de atención al cliente que le dice al consumidor que el problema está resuelto cuando, en realidad, no lo está, y ningún humano interviene para corregirlo.
Crowley fue directo al grano: la filosofía debería ser de humanos al mando, y no solo humanos en el circuito. Si los humanos no están conscientemente liderando, los errores se multiplican a escala.
Bradlow aportó una perspectiva técnica valiosa, citando su experiencia como matemático y científico de datos. Explicó que los agentes están construidos sobre la premisa del aprendizaje por refuerzo, lo que significa que buscan buenos resultados según lo programado por el humano que define la función objetivo. Cuando los agentes obtienen resultados malos, cambian su enfoque. Se adaptan. No es tan obvio que los humanos aprendan de la misma manera. Cuando un agente comete un error y le indicas qué reforzar, no debería repetir ese error. Lo que hace que el punto de Khusid sobre abrir la caja negra sea aún más importante.
Bradlow también recordó el programa de televisión británico Weakest Link, uno de los mayores éxitos de la BBC, en el que la presentadora eliminaba participantes diciendo fríamente: eres el eslabón más débil, adiós. Según él, la IA agéntica va a exponer el eslabón más débil de cada organización. 👀
Rendición de cuentas: ¿de quién es la responsabilidad?
Esta es, quizás, la pregunta más incómoda de todo el debate. Cuando un agente autónomo de IA toma una decisión que causa perjuicio — ya sea financiero, operativo o humano — ¿quién responde por eso? ¿La empresa que lo implementó? ¿El proveedor que lo desarrolló? ¿El directivo que aprobó su uso? ¿El analista que configuró los parámetros? En la mayoría de los casos que vemos hoy, la respuesta honesta es que no existe una definición clara, y esa ambigüedad es un riesgo enorme que muchas organizaciones todavía no se toman lo suficientemente en serio.
Herramientas que usamos a diario
La rendición de cuentas en sistemas de inteligencia artificial necesita pensarse de forma estructural, y no solo como una respuesta reactiva a crisis. Esto significa que las organizaciones necesitan documentar, antes de poner cualquier agente en operación, cuáles son los límites de actuación de ese sistema, cuáles son los criterios que usa para tomar decisiones y quién, específicamente, es el responsable de monitorear y responder por el comportamiento de ese agente en el día a día.
En una empresa agéntica mal diseñada, un solo humano puede verse repentinamente responsable de una cascada exponencial de consecuencias que nunca vio venir. Los agentes pueden razonar, ejecutar y coordinar. Lo que no pueden es asumir la responsabilidad por el resultado final. Esa es una distinción fundamental que necesita estar en el centro de cualquier estrategia de implementación.
Lo que el informe de Accenture con la Wharton School deja en evidencia es que la ausencia de rendición de cuentas no es solo un problema ético — es un problema de negocio. Las empresas que operan con agentes sin una estructura clara de responsabilidad están creando pasivos que pueden transformarse en crisis serias, regulatorias, reputacionales y financieras. Y a medida que las regulaciones específicas para IA vayan ganando fuerza alrededor del mundo, las organizaciones que no construyan esa estructura ahora van a pagar un precio mucho más alto en el futuro. ⚠️
El crecimiento real exige visión más allá de la eficiencia
Bradlow coincidió con Crowley sobre el potencial de ingresos como uno de los mayores hallazgos del estudio. Citó comentarios que escuchó en un desayuno ejecutivo que Wharton y Accenture coorganizaron en la conferencia GTC de Nvidia en marzo. Según él, las empresas están consiguiendo hacer cosas que simplemente no podían hacer antes, lanzando nuevos tipos de productos que antes eran inimaginables.
Pero esa prima de crecimiento viene con un costo humano. Cuanta más inteligencia escalas, más responsables — e insustituibles — se vuelven tus líderes humanos. No se puede delegar la responsabilidad final a un sistema que, por más sofisticado que sea, opera dentro de parámetros definidos por humanos y no tiene la capacidad de lidiar con las implicaciones éticas, sociales y estratégicas de sus propias decisiones.
La palabra deliberadamente aparece a lo largo de las 40 páginas del informe como un estribillo constante. Los líderes no pueden simplemente habilitar agentes y esperar que el valor surja solo. Necesitan definir metas explícitas de P&L, construir modelos operativos liderados por humanos y asignar derechos de decisión claros antes de que los agentes entren en operación.
Lo que cambia de aquí en adelante
El escenario descrito por el informe no es catastrófico, y es importante dejarlo claro. La presencia creciente de agentes autónomos de IA en la economía no tiene por qué ser un problema, siempre y cuando las organizaciones, los gobiernos y las personas que trabajan con estas tecnologías se tomen en serio las responsabilidades que vienen junto con este poder. Las ganancias reales de productividad, la capacidad de resolver problemas complejos a escala y la velocidad de ejecución que estos sistemas ofrecen son oportunidades genuinas, no amenazas disfrazadas de progreso.
Pero para que todo esto se convierta en valor real y duradero, la gobernanza necesita crecer al mismo ritmo que la adopción. Las estructuras de rendición de cuentas necesitan construirse antes de que la necesidad de ellas aparezca en forma de crisis. Y las personas que trabajan junto a estos sistemas necesitan estar preparadas — no solo técnicamente, sino también para ejercer el papel de supervisión crítica que ningún agente autónomo puede desempeñar por sí mismo.
La expresión tiempos modernos sigue significando exactamente lo que significaba en la época de Chaplin: necesitas dominar la máquina, o corres el riesgo de ser triturado por los engranajes. La inteligencia artificial escala rápido. El desafío ahora es garantizar que la responsabilidad escale junto con ella. 🚀
