A superinteligência artificial já foi papo de nicho, coisa de fórum de futurologia e de ficção científica. Isso mudou. O tema passou a aparecer na fala de gente que trabalha e comanda algumas das maiores empresas de IA do planeta, num tom bem sério e com direito a alertas sobre riscos para a própria humanidade.
No meio desse barulho, uma voz resolveu fazer uma pergunta mais pé no chão. Cal Newport, cientista da computação, defende em artigo publicado no IEEE Spectrum que a superinteligência não vai acontecer. O curioso é o alerta que vem junto: mesmo que essa IA nunca chegue, a corrida para construí-la ainda pode causar estragos reais.
Para quem pensa em investir em inteligência artificial no Brasil, essa briga de ideias tem consequência prática. Desconfiar do hype não é o mesmo que desconfiar da tecnologia, e a origem dessa discussão mostra bem o porquê.
O que acendeu a discussão
O estopim, segundo a reportagem do IEEE Spectrum, aconteceu no meio deste ano, com a saída de Jacob Coxon, pesquisador da Anthropic. Ao anunciar que estava deixando a empresa, ele afirmou que a Anthropic e a OpenAI estavam correndo direto rumo a uma superinteligência capaz de se aprimorar sozinha, e que estavam apostando com a vida das pessoas nesse caminho.
A resposta de dentro da própria Anthropic pegou muita gente de surpresa. Evan Hubinger, chefe de ciência de alinhamento da empresa, disse publicamente que Coxon estava certo e que o time realmente acredita que a IA poderia matar todos os humanos. Pouco depois, de acordo com o veículo, o CEO Dario Amodei declarou à CNN que concordava com Coxon muito mais do que discordava.
Repare no detalhe. Não estamos falando de críticos de fora do setor. São pessoas que constroem esses sistemas discutindo, sem muito rodeio, a possibilidade de extinção humana. Se você quer se aprofundar nesse lado do debate, vale ler nosso texto sobre o risco real da superinteligência.
Só que alarme alto nem sempre significa análise sólida. E é exatamente nesse ponto que o texto de Newport entra.
Superinteligência, AGI e autoaprimoramento em linguagem simples
Antes de seguir, vale organizar três termos que costumam aparecer misturados nas manchetes. O primeiro é a AGI, sigla em inglês para inteligência artificial geral. A ideia, em termos gerais, é uma IA que consiga igualar o ser humano em uma ampla variedade de tarefas mentais, e não só em uma coisa específica, como traduzir textos ou gerar imagens.
A superinteligência artificial, chamada de ASI, vai bem além. Aqui a conversa é sobre um sistema com capacidades cognitivas muito superiores às nossas, a ponto de escapar com facilidade do controle humano. O IEEE Spectrum faz questão de lembrar que essa é uma meta bem mais ambiciosa do que a AGI. Ou seja, quem fala em ASI não está falando de uma IA um pouco melhor que a de hoje.
E como se chegaria lá? É aí que entra o autoaprimoramento recursivo, conhecido pela sigla RSI. Pense num ciclo: a IA melhora a si mesma, a versão melhorada fica ainda mais competente em se aprimorar, e o processo vai acelerando por conta própria. Boa parte do medo em torno da ASI depende justamente desse ciclo funcionar. Se ele travar em algum ponto, a história toda muda.
Uma comparação ajuda. Imagine um time de cozinha em que cada cozinheiro novo é treinado pelo anterior e sai um pouco melhor que ele. Em tese, a qualidade só sobe. Na prática, faltam ingredientes, o forno tem limite, o tempo é curto. A teoria do ciclo infinito costuma pular essa parte, e é nela que Newport vai cutucar.
Os argumentos de Cal Newport
Newport não chegou às conclusões dele de forma solta. Segundo o IEEE Spectrum, ele estudou o tema em um seminário de doutorado em ciência da computação que conduziu na Universidade de Georgetown, em Washington, examinando com os alunos tanto as raízes técnicas quanto as culturais da narrativa da superinteligência. O grupo, inclusive, publicou uma bibliografia comentada com as leituras usadas no curso.
A pergunta que guiou o trabalho é simples e, curiosamente, pouco feita: do ponto de vista da engenharia, a superinteligência é sequer possível? Para ele, responder isso ajuda a calibrar a ansiedade em torno do tema e a pensar em respostas mais eficazes para essa tecnologia.
O saldo do seminário, de acordo com o veículo, foi uma série de objeções à viabilidade da ASI. E também um medo mais profundo: mesmo que a tal explosão de inteligência nunca chegue, persegui-la pode trazer prejuízos concretos.
Uma ideia antiga que ainda é especulação
A primeira objeção é que o autoaprimoramento recursivo continua sendo especulativo. O conceito vem de longe. Segundo a reportagem, o estatístico I.J. Good levantou a hipótese em um artigo de 1965, sugerindo que um ciclo rápido de melhorias da IA poderia levar a uma explosão de inteligência.
Nos anos 1990, conta o IEEE Spectrum, a ideia ganhou força entre os Extropianos, um grupo futurista da região da Baía de São Francisco. Ali, ela virou uma forma de discutir superinteligência sem precisar explicar como, na prática, alguém construiria um sistema desses. Depois, o conceito foi abraçado por nomes conhecidos, como Eliezer Yudkowsky e Nick Bostrom, figuras ligadas a movimentos que passaram a dar muito peso aos riscos existenciais para a humanidade.
É um ponto sutil, mas importante. Uma tese pode ser influente por décadas sem nunca ter passado por um teste de engenharia. Popularidade e comprovação são coisas diferentes.
Isso não quer dizer que as empresas estejam paradas. Pelo contrário. O IEEE Spectrum conta que a Anthropic publicou em junho um texto chamado When AI Builds Itself, descrevendo como agentes baseados em modelos de linguagem já aceleram a escrita, a depuração e a otimização de código, além de automatizar partes da pesquisa, como rodar experimentos e registrar resultados. Os dados internos da empresa, segundo a publicação, indicam que a IA já está acelerando o desenvolvimento de IA. A OpenAI, por sua vez, anunciou em setembro a meta de ter um pesquisador automatizado até março de 2028.
Ou seja, o tema saiu do campo do experimento mental e entrou na rotina de engenharia dessas empresas. A questão é outra: acelerar partes do trabalho é a mesma coisa que disparar um ciclo sem freio?
O limite de simplesmente crescer
Newport duvida que esses avanços coloquem as empresas numa rota de autoaprimoramento descontrolado. Um dos obstáculos que ele aponta é a disponibilidade dos dados necessários para continuar melhorando os sistemas.
Para entender, vale olhar o histórico. De acordo com a reportagem, até 2023 os grandes saltos dos modelos de linguagem vieram de aumentar o tamanho deles. O GPT-1 tinha 117 milhões de parâmetros, que são os valores aprendidos no treinamento e que moldam como a rede neural processa informação. O GPT-2 chegou a 1,5 bilhão, o GPT-3 a 175 bilhões e o GPT-4, lançado há três anos, provavelmente passou de um trilhão.
Depois do GPT-4, segundo o texto, essa escalada contínua passou a se comportar de outro jeito. O argumento de Newport parte daí: se a receita que impulsionou os saltos anteriores depende de recursos que não crescem para sempre, como os dados, fica mais difícil sustentar a ideia de um ciclo de melhorias que só acelera.
Pense numa fábrica que dobrou a produção várias vezes só comprando mais máquinas. Em algum momento, falta matéria-prima. Comprar mais máquinas deixa de resolver. Para quem aposta numa espiral infinita, esse tipo de gargalo é um sinal difícil de ignorar.
O hype também é estratégia
Nem todo mundo encara o discurso da superinteligência como um alerta sincero. Segundo o IEEE Spectrum, as reações ao tema variam bastante. Há quem veja o conceito sendo usado como ferramenta de marketing. Outros enxergam algo mais calculado: uma forma de estimular regulações que ajudam os laboratórios que já lideram o mercado a frear concorrentes novos.
Existem ainda outros grupos, de acordo com o veículo. Uns se concentram em discutir se esses sistemas poderiam mesmo nos destruir, debatendo cenários específicos. Outros defendem que é possível alinhar a ASI aos interesses humanos e que, por isso, vale acelerar rumo a essa promessa.
A hipótese do marketing merece atenção. Quando uma empresa diz que sua tecnologia é tão poderosa que pode ameaçar a humanidade, ela também passa, nas entrelinhas, a imagem de estar na fronteira do setor. É um tipo de propaganda que não parece propaganda. Isso não prova que o alerta seja falso, claro. Mas é um bom motivo para ouvir com algum filtro.
Para quem avalia fornecedores e ferramentas, esse olhar crítico vale ouro. Discurso grandioso não é métrica de desempenho. O que importa é o que a ferramenta entrega hoje, no seu fluxo de trabalho, com os seus dados. O resto é narrativa, e narrativa não paga boleto.
O que esse debate muda para a IA nos negócios no Brasil
A primeira lição é prática: investir em inteligência artificial faz mais sentido quando você parte do problema que ela resolve agora. Não da promessa de uma IA que vai pensar sozinha daqui a alguns anos. Uma ferramenta que ajuda a responder clientes mais rápido ou acelera a produção de código já se justifica pelo que faz, sem precisar de profecia.
Também ajuda separar ganho real de discurso de palco. Automação de tarefas repetitivas, apoio na programação, triagem de atendimento e produção de conteúdo para marketing são usos que muitas empresas já aplicam no dia a dia. Nosso artigo sobre inteligência artificial na otimização de negócios traz um bom panorama desse lado mais concreto.
Um exemplo ilustrativo ajuda a visualizar. Imagine uma agência pequena de marketing que começa usando IA só para rascunhar legendas e organizar relatórios. Ela mede quanto tempo a equipe gastava antes e quanto gasta depois. Se compensar, expande para outra tarefa. Se não, ajusta ou desiste. Nada disso depende de superinteligência. Depende de método.
Outro cuidado é com projetos e contratos vendidos com base em saltos futuros. Imagine uma empresa que fecha um contrato longo porque o fornecedor garantiu que o próximo modelo vai resolver tudo. Se o avanço vier mais devagar, ela fica presa a um custo alto sem o retorno prometido. Acordos mais curtos, com entregas que dá para medir, costumam ser uma escolha mais segura.
Por fim, mantenha flexibilidade. O futuro da IA pode andar num ritmo bem diferente do anunciado, para mais ou para menos. Quem monta processos sem depender de uma única ferramenta consegue trocar de solução com menos dor. Para quem está começando, vale conferir como startups usam IA e automação de forma enxuta.
Clareza vale mais que profecia
A provocação de Cal Newport não é um ataque à inteligência artificial. Ele questiona uma promessa específica, a de que a IA vai se aprimorar sozinha até virar algo incontrolável. E lembra que a corrida atrás dessa promessa pode ter custos, mesmo que ela nunca se cumpra.
O debate, porém, está longe de fechado. Há pesquisadores de peso convencidos do risco, há céticos como Newport e há muita gente no meio do caminho. Ninguém precisa ter a palavra final para tomar boas decisões no presente.
Para quem trabalha com tecnologia, marketing ou tem um negócio, a mensagem é até libertadora. Você não precisa escolher entre o pânico e o deslumbramento. Dá para usar a IA com os pés no chão, medindo resultados e ajustando a rota.
Se o lado mais sombrio da discussão ainda te intriga, nosso texto sobre se a inteligência artificial pode exterminar a humanidade complementa bem essa leitura, assim como os outros conteúdos do Método Viral sobre IA nos negócios.
Da próxima vez que alguém te vender uma ferramenta pela revolução que ela promete, faça uma pergunta só: o que ela resolve para mim hoje? Se a resposta for boa, siga em frente. Se não, guarde o dinheiro.
