Sam Altman, CEO da OpenAI, fez uma declaração que gerou bastante repercussão durante uma conferência anual da Salesforce, em San Francisco. Ele admitiu que o mundo tem razões legítimas para temer a inteligência artificial, mas pediu que as pessoas confiem nas empresas do setor para fazer a coisa certa. É o tipo de afirmação que levanta uma sobrancelha, né?
Nas palavras dele, o mundo deveria confiar que vamos fazer a coisa certa porque é a coisa certa e porque sentimos a magnitude disso. Ao mesmo tempo, Altman reconheceu que os medos das pessoas são justificados, já que a capacidade das ferramentas de IA avançou de forma muito rápida. Segundo ele, hoje não é preciso tanta imaginação quanto antes para visualizar como tudo isso poderia dar errado, e por isso o mundo está certo em ter receio.
A declaração veio num momento bem delicado: dias antes, um pesquisador que deixou a Anthropic publicou um post que viralizou globalmente, afirmando que a IA poderia exterminar toda a humanidade até o fim desta década caso não fosse controlada. O debate sobre segurança na IA nunca esteve tão quente. De um lado, líderes do setor defendem que as próprias empresas são capazes de se autorregular. Do outro, vozes dentro da indústria alertam que deixar tudo nas mãos de quem desenvolve a tecnologia é uma aposta arriscada demais. Mas afinal, o que Altman disse exatamente, quem apoiou, quem discordou e o que está sendo construído na prática para garantir que essa tecnologia não saia do controle? Vem com a gente. 👇
O que Sam Altman disse na conferência da Salesforce
Durante o evento em San Francisco, Sam Altman foi direto ao ponto: sim, a inteligência artificial representa um risco real, e as pessoas não estão erradas em se preocupar. Mas a solução, segundo ele, não passa por regulamentação governamental. Altman argumentou que as empresas de tecnologia, especialmente aquelas que estão na linha de frente do desenvolvimento da IA, são as mais capacitadas para entender os riscos e tomar as decisões certas.
Ele demonstrou bastante confiança nessa visão. Nas palavras dele, o setor vai acertar, e ele estava muito confiante na capacidade da própria empresa e da indústria de fazer isso com segurança. Altman ainda garantiu que pretendem manter o alinhamento e a segurança bem à frente das capacidades dos modelos, e que, se em algum momento não conseguissem, iriam desacelerar ou parar. Esse tipo de promessa é exatamente o coração da ideia de autorregulação que ele defende.
- E-BOOK GRATUITO
Um guia prático para avaliar, comparar e implementar inteligência artificial com clareza — sem desperdício de tempo ou dinheiro.
Pare de contratar ferramentas sem direção. Criamos um método estruturado para decidir qual IA realmente faz sentido para o seu negócio.
Entrega em PDF no seu e-mail · Sem spam · LGPD
🔒 Seus dados são protegidos conforme a LGPD. Você pode descadastrar a qualquer momento.
Essa posição não é nova vinda de Altman, mas ganhou um peso diferente nesse contexto. A OpenAI é hoje uma das organizações mais influentes no campo da IA no mundo, e cada palavra do seu CEO é monitorada com atenção por investidores, reguladores, pesquisadores e pela mídia global. Quando ele diz que não precisa de regulamentação para fazer a coisa certa, muita gente ouve isso como uma empresa gigante pedindo para operar sem supervisão externa. E aí começa o problema, porque o histórico recente do setor não ajuda muito a construir esse argumento.
O post que acendeu o alerta vermelho na indústria
Poucos dias antes da fala de Altman, um pesquisador que saiu da Anthropic publicou um texto que rapidamente se tornou viral em todo o mundo. No post, ele afirmava, com uma certa seriedade perturbadora, que a inteligência artificial tem potencial para exterminar a humanidade antes do final desta década, caso nenhum mecanismo eficaz de controle seja implementado. A afirmação pode parecer exagerada à primeira vista, mas o fato de vir de alguém com experiência técnica profunda em uma das empresas mais avançadas do setor deu ao texto um peso que não podia ser ignorado facilmente.
O interessante é que outros executivos e especialistas em IA responderam concordando com a avaliação, embora não tenham explicado exatamente como chegaram a essa conclusão nem de que forma a IA conseguiria realizar algo tão drástico. Essa falta de detalhamento técnico não impediu que a repercussão crescesse. Pelo contrário, o alarde acabou trazendo ainda mais escrutínio para o desenvolvimento da inteligência artificial nos dias seguintes.
Em resposta, o CEO da Anthropic, Dario Amodei, chegou a pedir que o ritmo de todo o desenvolvimento de IA fosse desacelerado e defendeu que os governos regulassem a indústria. O post viral, aliás, foi aplaudido por várias figuras de peso do setor, incluindo o próprio Altman, o cofundador da DeepMind do Google, Demis Hassabis, e Elon Musk, dono da rede social X e do assistente de IA Grok. Ou seja, mesmo entre os líderes existe reconhecimento de que os riscos são reais.
Autorregulação ou supervisão externa: onde está a linha
A defesa da autorregulação feita por Sam Altman não é uma posição isolada no setor. Logo depois dos comentários dele, o chefe da Meta, Mark Zuckerberg, escreveu no X que todo laboratório de IA tem a capacidade e o incentivo para tomar suas próprias medidas rumo a ferramentas e modelos projetados para serem seguros. Segundo ele, qualquer laboratório que não focar no alinhamento vai ficar para trás, e as empresas enfrentam responsabilidade jurídica significativa caso seus modelos causem danos, o que já é um forte incentivo para prevenir problemas.
Jensen Huang, líder da Nvidia, seguiu na mesma linha durante a conferência. Ele afirmou que as próprias empresas de IA deveriam decidir se novas versões da tecnologia devem ser lançadas, sem serem gerenciadas por forças externas. Para ele, não são necessárias novas leis ou regulamentações, e não deveria existir uma falsa escolha entre a velocidade da inovação e a segurança dos produtos de IA. Vale lembrar que a Nvidia é hoje a maior empresa do mundo em valor de mercado, impulsionada pela demanda por seus chips de computação voltados à IA.
Huang também definiu a segurança como algo primordial, mas classificou-a como um problema de engenharia. Ele completou dizendo que, se em algum momento o líder de uma empresa de IA não tiver confiança no próprio produto, deve simplesmente escolher não lançá-lo. Na visão dele, isso é óbvio: correr o mais rápido possível, mas dar uma pausa sempre que sentir que a instituição não está no controle.
Do lado oposto, especialistas em segurança e pesquisadores independentes apontam que a história da tecnologia é repleta de exemplos onde a autorregulação simplesmente não funcionou. Jack Clark, executivo e cofundador da Anthropic, disse que deixar a IA como uma indústria totalmente sem regulamentação seria como jogar dados com riscos imensos. Já Patrick Hillman, diretor de operações da Logical Intelligence, empresa presidida por Yann LeCun, observou o quão pouca fé as pessoas têm nas empresas de tecnologia para agirem de fato no interesse público.
Segundo Hillman, a única instituição em que os americanos talvez confiem menos do que em Washington hoje em dia é o Vale do Silício, e ele garantiu que ambos merecem esse ceticismo. Ele lançou um desafio direto às empresas: se você acredita que aquilo que está construindo é perigoso, mostre o que está disposto a parar de fazer. É uma provocação que vai fundo na questão da credibilidade do discurso de autorregulação.
Receba o melhor conteúdo de inovação em seu e-mail
Todas as notícias, dicas, tendências e recursos que você procura entregues na sua caixa de entrada.
Ao assinar a newsletter, você concorda em receber comunicações da Método Viral. A gente se compromete a sempre proteger e respeitar sua privacidade.
O que a OpenAI está fazendo na prática
Por mais que o discurso de Sam Altman tenha gerado críticas, a OpenAI não está completamente de mãos vazias quando o assunto é segurança. Líderes da OpenAI e da Anthropic afirmaram que começaram recentemente a trabalhar rumo a algum tipo de acordo entre as empresas sobre padrões de segurança. Durante uma participação na conferência, Dario Amodei disse que a Anthropic está agora em diálogo com o restante da indústria sobre se comprometer com melhores padrões de segurança e verificações no desenvolvimento das ferramentas de IA.
Amodei também comentou que uma das maiores surpresas do boom da IA não foi tanto o avanço da tecnologia em si, mas o impacto mais amplo dela. Segundo ele, ninguém tinha percebido que isso levaria as empresas a crescerem tão rápido e a se tornarem centrais para tantas coisas em tão pouco tempo. Esse crescimento acelerado é justamente o que aumenta a pressão por respostas mais concretas sobre riscos e responsabilidades.
O executivo da OpenAI Chris Lehane afirmou que a empresa também está trabalhando com outros laboratórios para avançar em padrões de IA de fronteira, construindo um esforço voluntário agora, com ou sem apoio governamental. Entre esses laboratórios estão a Anthropic e o Google DeepMind. Lehane resumiu a filosofia por trás disso dizendo que, com apostas tão altas, não se pode deixar o perfeito virar inimigo do bom.
A questão central, no fim das contas, não é se a OpenAI tem boas intenções. Provavelmente tem. A questão é se boas intenções são suficientes quando os sistemas que estão sendo desenvolvidos têm o potencial de impactar bilhões de pessoas. Regulamentação não existe porque as empresas são necessariamente mal-intencionadas. Ela existe porque cria responsabilidades claras, processos de prestação de contas e mecanismos para corrigir erros quando eles acontecem. E nesse sentido, o debate que Sam Altman acendeu com sua declaração, mesmo sem querer, pode ser mais útil do que a própria declaração. 🤔
