Inteligência artificial escala. Responsabilidade, não.
Essa frase, retirada de um relatório conjunto entre a Accenture e a Wharton School, resume com precisão cirúrgica o momento em que vivemos. Os agentes autônomos de IA já não são mais uma promessa distante ou um conceito de ficção científica. Eles estão aqui, operando em tempo real, tomando decisões, gerenciando processos e transformando setores inteiros da economia global — muitas vezes sem que ninguém ao redor saiba exatamente o que está acontecendo nos bastidores.
E é justamente aí que mora o problema. 🤔
O que está em jogo com os agentes autônomos de IA
O relatório, intitulado The Age of Co-Intelligence: How Humans, AI Agents, and Robots Are Redefining Value, não veio para repetir o discurso de sempre sobre automação e desemprego. O recado é outro, e bem mais urgente. Dessa vez não estamos falando apenas sobre quais empregos vão desaparecer ou surgir. Estamos falando sobre quem, ou o quê, está de fato no controle das decisões que movem empresas, mercados e vidas inteiras. E a resposta para essa pergunta, hoje, ainda é muito nebulosa para qualquer um se sentir confortável.
- Quanto mais inteligente a IA se torna, mais ela exige dos humanos que a gerenciam
- Os ganhos de produtividade só viram crescimento real quando existe um redirecionamento consciente de pessoas e recursos
- A governança dessas ferramentas ainda engatinha enquanto os agentes já correm
- A prestação de contas sobre o que esses sistemas fazem continua sendo, quase sempre, responsabilidade de ninguém
Mais de 50% das horas de trabalho na economia americana já estão sendo impactadas por agentes de IA, segundo dados da O*NET e do Bureau of Labor Statistics analisados pelos pesquisadores. São mais de 120 milhões de trabalhadores afetados direta ou indiretamente, em 18 setores diferentes. No setor bancário e de mercado de capitais, a parcela de horas impactadas só por agentes digitais já ultrapassa os 45%. Os números são grandes demais para ignorar, e o debate que precisamos ter ainda nem começou de verdade.
O ponto central do estudo não é tecnológico — é humano. A grande questão não é se os agentes autônomos funcionam. Eles funcionam, e muito bem. A questão é se as organizações estão preparadas para lidar com as consequências do que esses sistemas decidem, executam e, eventualmente, erram. Porque erros acontecem. E quando um agente autônomo erra em escala, o impacto não é pequeno.
Como o próprio relatório destaca: a inteligência é escalável, mas a prestação de contas não é. Essa assimetria é o coração de tudo que o estudo discute. À medida que a IA elimina os limites de quanto raciocínio e análise podem ser feitos, os humanos ainda precisam decidir o que importa, definir a estratégia e, principalmente, assumir a responsabilidade pelos resultados.
A lição de Charlie Chaplin e Lucille Ball para a era dos agentes de IA
O professor Eric Bradlow, que preside o departamento de marketing da Wharton e é coautor do relatório, fez uma analogia que vale a pena conhecer. Ele comparou o momento atual com cenas clássicas do cinema e da TV. A primeira referência é o filme Tempos Modernos, de 1936, em que Charlie Chaplin interpreta um operário que tenta acompanhar uma linha de montagem cada vez mais rápida — até ser literalmente engolido pela máquina.
A segunda referência é o episódio Job Switching, de I Love Lucy, em que Lucille Ball acaba enfiando chocolates na boca porque a esteira da fábrica se move rápido demais para ela conseguir embalar tudo.
Quase 90 anos depois, as imagens continuam perturbadoramente atuais. As máquinas são mais inteligentes agora. Os riscos são maiores. E segundo o relatório, os humanos que operam essas máquinas estão ficando para trás de um jeito que deveria preocupar toda sala de diretoria do país.
Bradlow explicou o problema de forma bem direta: se uma pessoa em um processo de 20 etapas adota IA e triplica sua produtividade enquanto a pessoa na etapa seguinte ainda está rodando tudo no Excel, o gargalo não desaparece. Ele só muda de lugar. E esse descompasso vai ficar evidente muito rápido. A imagem de Chaplin sendo sugado pela esteira transportadora capturou os primeiros dias do capitalismo industrial no século 20. Hoje, a mesma metáfora se aplica à era dos agentes autônomos: ou você domina a máquina, ou ela pode te triturar nas engrenagens.
- E-BOOK GRATUITO
Um guia prático para avaliar, comparar e implementar inteligência artificial com clareza — sem desperdício de tempo ou dinheiro.
Pare de contratar ferramentas sem direção. Criamos um método estruturado para decidir qual IA realmente faz sentido para o seu negócio.
Entrega em PDF no seu e-mail · Sem spam · LGPD
🔒 Seus dados são protegidos conforme a LGPD. Você pode descadastrar a qualquer momento.
Produtividade sem direção é só barulho
Um dos pontos mais relevantes do relatório é que o ganho de produtividade gerado pela inteligência artificial não se converte automaticamente em crescimento real para as empresas ou para a economia. Parece óbvio quando você lê assim, mas na prática muita gente ainda acredita que basta implementar agentes e esperar os resultados aparecerem no balanço. Não funciona dessa forma.
O estudo modelou os números de uma empresa real com faturamento de 60 bilhões de dólares. Os pesquisadores estimaram que a implementação completa de IA agêntica poderia gerar aproximadamente 6 bilhões de dólares em crescimento de receita anual, além de 1,7 bilhão de dólares em ganhos de produtividade. Mas aqui vem o detalhe importante: até 2028, cerca de um terço desses ganhos de produtividade não apareceriam como economia direta de custos. Eles se manifestariam como capacidade liberada — horas que precisam ser deliberadamente redirecionadas para trabalho de maior valor, ou simplesmente evaporam sem gerar nenhum retorno.
O relatório é enfático: produtividade só se transforma em crescimento real por meio de redistribuição intencional. Se os líderes não direcionarem essa capacidade liberada para atividades de maior valor, os ganhos estacionam na eficiência e não se traduzem em crescimento.
Pensa assim: se um agente autônomo passa a cuidar de tarefas que antes ocupavam três analistas por oito horas diárias, o que acontece com essas três pessoas e com esse tempo? Se a resposta for nada planejado, o ganho de produtividade some. Vira eficiência operacional sem propósito estratégico, e isso não move nenhuma empresa para frente de forma sustentável.
James Crowley, presidente global de práticas industriais de produtos da Accenture e coautor do relatório, disse à Fortune que a grande armadilha não é implantar agentes demais, mas não pensar neles como uma força de trabalho coerente. Todo mundo está construindo um agente aqui, outro ali, às vezes milhares. O que a pesquisa tentou fazer foi dar um passo atrás e olhar como a paisagem agêntica vai se parecer no nível da empresa como um todo.
Crowley também destacou que a maioria das empresas tem focado demais na eficiência e na produtividade, quando o potencial de receita é significativamente maior. Os ganhos do lado da receita, segundo ele, vão eventualmente ofuscar os ganhos do lado da eficiência. E agora é o momento certo de transformar essa conversa em uma história que inclua os dois lados.
Governança: o elo que ainda está faltando
Se tem um tema que o relatório bate com força, é governança. E faz sentido, porque é exatamente o ponto onde a maioria das organizações ainda está mais vulnerável. Os agentes autônomos de IA já operam em ambientes críticos, tomando decisões sobre crédito, saúde, logística, comunicação e muito mais, enquanto os frameworks de controle e supervisão correm atrás para acompanhar esse ritmo.
O relatório destaca que agentes de IA já estão se espalhando rapidamente pela cadeia de valor das empresas, frequentemente à frente de qualquer estratégia ou governança formal. Quase três quartos dos trabalhadores do conhecimento já usam IA, muitas vezes por meio de ferramentas não autorizadas, num fenômeno que ficou conhecido como shadow AI. Até 2028, estima-se que cerca de um terço das aplicações corporativas terão capacidades agênticas embutidas. E mesmo assim, a arquitetura de governança não acompanhou esse ritmo.
A governança de sistemas de inteligência artificial envolve muito mais do que criar uma política interna ou nomear um comitê de ética. Envolve definir com clareza quais decisões um agente pode tomar de forma totalmente autônoma, quais precisam de validação humana, como os logs de decisão são registrados e auditados, e o que acontece quando algo dá errado. Envolve também criar mecanismos reais de prestação de contas, porque sem isso qualquer falha vira um jogo de empurra onde ninguém assume responsabilidade e o problema simplesmente se repete.
O relatório aponta que as empresas que já estão mais maduras nesse aspecto têm algumas características em comum. Elas tratam a governança como parte do design do sistema, e não como uma camada adicionada depois que tudo já está rodando. Elas investem em transparência interna, documentando como os agentes tomam decisões e tornando esse processo compreensível para as equipes que dependem desses sistemas. E elas criam canais claros para que qualquer colaborador possa questionar uma decisão tomada por um agente, sem burocracia excessiva e sem medo de parecer antiquado por questionar a máquina. 🛡️
O estudo vai além e sugere que as organizações podem precisar de um cargo executivo totalmente novo: um chief agentic resources officer, ou seja, alguém dedicado exclusivamente a gerenciar e supervisionar a força de trabalho composta por agentes autônomos.
Vendas: a área mais promissora e mais arriscada ao mesmo tempo
O relatório identificou que a área de vendas representa, ao mesmo tempo, a maior oportunidade de receita e o maior risco de governança para agentes de IA. É uma função que combina volume massivo de decisões, alta adequação para agentes digitais e risco comercial elevado — interações com clientes, precificação, julgamento comercial. Vendas é simultaneamente a principal candidata para implementação precoce de agentes e, como o relatório chama, um domínio crítico de governança onde confiança, prestação de contas e supervisão humana precisam ser deliberadamente planejadas.
A visão de quem já está implementando agentes
Andrey Khusid, CEO da Miro, a startup de produtividade avaliada em 17,5 bilhões de dólares que ganhou destaque por decidir sair da Rússia após o início da guerra na Ucrânia, compartilhou com a Fortune sua visão sobre o momento atual. A principal aplicação da Miro, um software de produtividade colaborativa que existe há mais de uma década, agora está incorporando IA.
Segundo Khusid, durante quase 15 anos o trabalho na plataforma era de humano para humano. Mas então a dinâmica mudou. Agora, muita colaboração acontece entre humanos e agentes juntos. Ao trazer agentes para a plataforma, a empresa está permitindo que os usuários entreguem trabalho de forma agêntica. É mais complexo do que o trabalho humano-humano, ele explicou, mas é muito mais poderoso e com tempo de retorno de valor muito mais rápido. Antes, você precisaria de um humano com tal expertise ou outra expertise. Com agentes, você pode ter uma equipe inteira trabalhando ao seu lado com diferentes especialidades.
Ainda assim, Khusid reconheceu que agentes podem ser propensos a erros, assim como humanos, e que muito do trabalho agêntico atual é uma caixa-preta. A Miro está trabalhando para desempacotar essa opacidade, de modo que seja possível corrigir os agentes quando eles erram. Reconhecendo que parece uma revolução agêntica, ele ponderou: estamos no começo.
Erros em escala: o risco de agentes que alucinam
Bradlow e Crowley reconheceram abertamente que agentes podem ser propensos a erros e até a alucinações, e em escala massiva, isso poderia levar a falhas generalizadas. Imagine um cenário em que um agente alucina um número de inventário e isso faz com que agentes downstream façam pedidos absurdamente exagerados de estoque. Ou um agente de atendimento ao cliente que diz ao consumidor que o problema está resolvido quando, na verdade, não está, e nenhum humano intervém para corrigir.
Crowley foi direto ao ponto: a filosofia deveria ser de humanos na liderança, e não apenas humanos no circuito. Se os humanos não estiverem conscientemente liderando, os erros se multiplicam em escala.
Bradlow trouxe uma perspectiva técnica valiosa, citando sua experiência como matemático e cientista de dados. Ele explicou que agentes são construídos sobre a premissa do aprendizado por reforço, o que significa que eles buscam bons resultados conforme programados pelo humano que define a função objetivo. Quando agentes obtêm resultados ruins, eles mudam sua abordagem. Eles se adaptam. Não é tão óbvio que humanos aprendam da mesma maneira. Quando um agente comete um erro e você indica o que reforçar, ele não deveria repetir aquele erro. O que torna o ponto de Khusid sobre abrir a caixa-preta ainda mais importante.
Bradlow também lembrou do programa de TV britânico Weakest Link, um dos maiores sucessos da BBC, em que a apresentadora eliminava participantes dizendo friamente: você é o elo mais fraco, adeus. Segundo ele, a IA agêntica vai expor o elo mais fraco de cada organização. 👀
Prestação de contas: de quem é a responsabilidade?
Essa é, talvez, a pergunta mais desconfortável de todo o debate. Quando um agente autônomo de IA toma uma decisão que causa prejuízo — seja financeiro, operacional ou humano — quem responde por isso? A empresa que o implementou? O fornecedor que o desenvolveu? O gestor que aprovou o uso? O analista que configurou os parâmetros? Na maioria dos casos que vemos hoje, a resposta honesta é que não existe uma definição clara, e essa ambiguidade é um risco enorme que muitas organizações ainda não levam a sério o suficiente.
Receba o melhor conteúdo de inovação em seu e-mail
Todas as notícias, dicas, tendências e recursos que você procura entregues na sua caixa de entrada.
Ao assinar a newsletter, você concorda em receber comunicações da Método Viral. A gente se compromete a sempre proteger e respeitar sua privacidade.
A prestação de contas em sistemas de inteligência artificial precisa ser pensada de forma estrutural, e não apenas como uma resposta reativa a crises. Isso significa que as organizações precisam documentar, antes de colocar qualquer agente em operação, quais são os limites de atuação desse sistema, quais são os critérios que ele usa para tomar decisões e quem, especificamente, é o responsável por monitorar e responder pelo comportamento desse agente no dia a dia.
Em uma empresa agêntica mal projetada, um único humano pode se ver subitamente responsável por uma cascata exponencial de consequências que nunca viu chegando. Os agentes conseguem raciocinar, executar e coordenar. O que eles não conseguem é assumir a responsabilidade pelo resultado final. Essa é uma distinção fundamental que precisa estar no centro de qualquer estratégia de implementação.
O que o relatório da Accenture com a Wharton School deixa evidente é que a ausência de prestação de contas não é apenas um problema ético — ela é um problema de negócios. Empresas que operam com agentes sem uma estrutura clara de responsabilidade estão criando passivos que podem se transformar em crises sérias, regulatórias, reputacionais e financeiras. E à medida que regulações específicas para IA vão ganhando força ao redor do mundo, as organizações que não construírem essa estrutura agora vão pagar um preço muito mais alto lá na frente. ⚠️
Crescimento real exige visão além da eficiência
Bradlow concordou com Crowley sobre o potencial de receita ser um dos maiores achados do estudo. Ele citou comentários que ouviu em um café da manhã executivo que a Wharton e a Accenture coorganizaram na conferência GTC da Nvidia em março. Segundo ele, empresas estão conseguindo fazer coisas que simplesmente não conseguiam antes, lançando novos tipos de produtos que antes eram inimagináveis.
Mas esse prêmio de crescimento vem com um custo humano. Quanto mais inteligência você escala, mais responsáveis — e insubstituíveis — seus líderes humanos se tornam. Não dá para delegar a responsabilidade final para um sistema que, por mais sofisticado que seja, opera dentro de parâmetros definidos por humanos e não tem a capacidade de lidar com as implicações éticas, sociais e estratégicas das próprias decisões.
A palavra deliberadamente aparece ao longo das 40 páginas do relatório como um refrão constante. Líderes não podem simplesmente habilitar agentes e esperar que o valor surja sozinho. Eles precisam definir metas explícitas de P&L, construir modelos operacionais liderados por humanos e atribuir direitos de decisão claros antes que os agentes entrem em operação.
O que muda daqui pra frente
O cenário descrito pelo relatório não é catastrófico, e é importante deixar isso claro. A presença crescente de agentes autônomos de IA na economia não precisa ser um problema, desde que as organizações, os governos e as pessoas que trabalham com essas tecnologias levem a sério as responsabilidades que vêm junto com esse poder. Os ganhos reais de produtividade, a capacidade de resolver problemas complexos em escala e a velocidade de execução que esses sistemas oferecem são oportunidades genuínas, não ameaças disfarçadas de progresso.
Mas para que tudo isso se converta em valor real e duradouro, a governança precisa crescer no mesmo ritmo que a adoção. As estruturas de prestação de contas precisam ser construídas antes que a necessidade delas apareça na forma de uma crise. E as pessoas que trabalham ao lado desses sistemas precisam ser preparadas — não apenas tecnicamente, mas também para exercer o papel de supervisão crítica que nenhum agente autônomo consegue desempenhar por si mesmo.
A expressão tempos modernos continua significando exatamente o que significava na época de Chaplin: você precisa dominar a máquina, ou corre o risco de ser triturado pelas engrenagens. A inteligência artificial escala rápido. O desafio agora é garantir que a responsabilidade escale junto. 🚀
