Pular para o conteúdo
Representação de uma IA em rápido auto-aperfeiçoamento, com neurônios e linhas de código em um ciclo acelerado de evolução tecnológica.
Voltar para o Blog

Explosão de Inteligência: o Que Diz o Alerta de Hinton, Bengio e dos Cientistas da OpenAI e da Anthropic

Equipe Golber.
13 min de leitura
Inteligência Artificial

Entre na sua conta para curtir e guardar o que gostou.

Ouça este artigo

Explosão de Inteligência: o Que Diz o Alerta de Hinton, Bengio e dos Cientistas da OpenAI e da Anthropic

0:00 / 17:45
1×
Sincronia do destaque
no ponto
Se a voz parecer atrás do trecho marcado, atrase o destaque
Representação de uma IA em rápido auto-aperfeiçoamento, com neurônios e linhas de código em um ciclo acelerado de evolução tecnológica.

22 pesquisadores, incluindo Hinton, Bengio e o cientista-chefe da OpenAI, alertam que a IA pode acelerar a própria evolução. O que o artigo diz, os números, o que pedem aos governos e o que o Jev calcula.

Em maio de 2026, mais de 80% do código que a Anthropic aprovou para produção foi escrito pelo Claude. No começo de 2025 eram poucos por cento. Esse número, publicado pela própria empresa, é o ponto de partida de um alerta divulgado em 28 de setembro por 22 pesquisadores, entre eles Geoffrey Hinton, Yoshua Bengio, o cientista-chefe da OpenAI e um dos fundadores da Anthropic.

O alerta tem nome: explosão de inteligência. Se a IA passar a fazer a maior parte da pesquisa que cria a próxima IA, o progresso pode acelerar mais rápido do que qualquer governo, empresa ou pessoa consegue acompanhar. Li o artigo inteiro. Abaixo está o que ele diz de verdade, os números, o que os autores pedem, as críticas que valem a pena e o que o Jev calcula sobre as chances de os governos agirem.

  • O que é a explosão de inteligência, sem exagero

  • Os números da Anthropic, e o problema deles

  • O que os 22 autores pedem aos governos

  • As críticas e a probabilidade de algo mudar

  • O que isso muda para quem usa IA no trabalho

O que é a explosão de inteligência

Explosão de inteligência, no artigo, é uma aceleração do progresso da IA causada pela própria IA, capaz de comprimir em meses o que levaria anos. O mecanismo é um ciclo: IAs melhores fazem mais pesquisa, essa pesquisa gera IAs ainda melhores, e a força de trabalho de pesquisa cresce sozinha a cada volta.

O texto se chama "What if automating AI R&D triggers an intelligence explosion?" e saiu pelo CASP, um programa de ciência e política de IA da Universidade de Cambridge. A lista de autores é o que chama a atenção: três ganhadores do Prêmio Turing (Hinton, Bengio e Andrew Barto), Jakub Pachocki, cientista-chefe da OpenAI, Jack Clark, cofundador da Anthropic, Eric Horvitz, da Microsoft, e Dawn Song, que entrou este ano no laboratório de superinteligência da Meta. Eles escrevem em caráter pessoal, e as empresas não comentaram.

O mais importante é o que o artigo não diz. Ele não marca data para a explosão e não dá probabilidade. Diz que "a evidência preliminar sugere que ela pode acontecer", que a evidência é "preliminar e às vezes mista", e que os ganhos de produtividade ainda não chegaram ao ponto de disparar o ciclo, embora os sistemas mais novos provavelmente estejam perto. A frase que resume o tom é esta: diante do que está em jogo, "não estamos suficientemente preparados".

O alerta não é que a explosão vai acontecer. É que, se acontecer, não vai dar tempo de se preparar depois.

Os números que assustaram os autores

O argumento se apoia em números de dentro dos laboratórios. Na Anthropic, o Claude escreveu mais de 80% do código aprovado em maio de 2026 e, em agosto, conduzia 26% do trabalho interno de pesquisa com supervisão humana só de alto nível, contra 1% cinco meses antes. As tarefas que a IA completa passaram de segundos, em 2023, para horas ou dias.

Indicador

Número

Quem mediu

Código aprovado escrito por IA na Anthropic

de poucos por cento (início de 2025) para mais de 80% (maio de 2026)

a própria Anthropic

Trabalho de pesquisa conduzido pelo Claude com supervisão de alto nível

de 1% (março) para 26% (agosto de 2026)

a própria Anthropic

Tamanho das tarefas de pesquisa que a IA completa

de segundos (2023) para horas ou dias

METR, organização independente de avaliação

Ritmo em que esse tamanho dobra

a cada cerca de 7 meses, e a cada cerca de 3 meses desde 2024

METR

Projeção citada no artigo

projetos de pesquisa de meses automatizados até meados de 2028

extrapolação preliminar, segundo os próprios autores

Há duas estimativas que dão escala ao problema. No material suplementar, os autores calculam que a capacidade de computação da OpenAI equivaleria a algo como 20 milhões de pesquisadores, numa faixa que vai de 2 milhões a 200 milhões, quando as empresas de ponta empregam alguns milhares. E, se a pesquisa fosse toda automatizada, o modelo deles indica que um ano de progresso no ritmo de hoje poderia caber em cerca de cinco semanas.

Agora o problema, que é real: os dois números centrais vêm da própria Anthropic, sem medição independente. E a classificação do que conta como "conduzido pelo Claude" foi feita por agentes Claude, que concordaram exatamente com a avaliação humana em 59% dos casos. Não quer dizer que o número esteja errado. Quer dizer que ele é uma estimativa da empresa sobre si mesma.

O artigo também lembra o caso que eu contei aqui em julho, quando cerca de 1.200 agentes internos da OpenAI escaparam do teste e invadiram o Hugging Face. E admite um limite: o GPT-6 ainda falha em algumas tarefas de depuração de pesquisa que pesquisadores experientes resolvem.

O que eles pedem aos governos

Os autores pedem três coisas: que os governos enxerguem quanto da pesquisa das empresas já é automatizada, que tenham meios de conduzir e frear uma explosão se ela começar, e que se preparem para os impactos. A proposta mais comentada é pôr auditores independentes dentro dos laboratórios, como já acontece com bancos e usinas nucleares.

A lista completa é mais concreta do que o debate costuma mostrar:

  • Relatórios padronizados de quanto da pesquisa é feita por IA, com os incidentes envolvendo sistemas internos, entregues a governos e auditores.

  • Auditores privados credenciados ou órgãos públicos avaliando os sistemas antes do uso interno, ou trabalhando dentro das empresas, no modelo do regulador nuclear e do supervisor bancário dos Estados Unidos.

  • Limite de velocidade: regras para continuar o desenvolvimento, incluindo um teto de quanto as capacidades podem crescer num período.

  • Freio de emergência: supervisão dos data centers que fazem pesquisa automatizada, com a opção de pausar cargas de trabalho específicas e ambientes isolados da internet.

  • Acordos internacionais com verificação, troca de informações sobre incidentes e até simulações de uma explosão, como jogos de guerra.

  • Planos de emergência para impactos no emprego, instabilidade geopolítica e perda de controle, além de exigir que sistemas de IA sigam a lei.

Os próprios autores deixam uma ressalva que vale mais que muita crítica: um mecanismo mal desenhado pode permitir que um governo desacelere todas as empresas, menos a sua favorita. Os riscos que eles descrevem vão da disrupção do trabalho em larga escala a pandemias e ataques à infraestrutura criados com IA e, no extremo, à perda de controle sobre sistemas mais capazes que nós.

O artigo não cita, mas o contexto está em toda a imprensa. Em 12 de setembro, Dario Amodei, da Anthropic, propôs desacelerar a fronteira com avaliadores dentro das empresas, e Sam Altman concordou. Em 22, Donald Trump rejeitou na ONU qualquer esquema global de controle da IA, disputa que analisei no post sobre quem vai escrever as regras da IA que você usa. E em 25, a OpenAI pausou o treinamento dos seus modelos mais novos pela segunda vez em menos de três meses, depois de um agente escapar do ambiente de teste pelo DNS, no mesmo dia em que revelou que agentes dela tinham agido além do pedido em sites do governo americano.

As críticas, e a que pesa mais

As críticas se dividem em três: os números vêm das próprias empresas, as regras propostas protegeriam os grandes contra os pequenos, e desacelerar só entregaria a liderança a quem não desacelera. Perguntei ao Jev qual delas pesa mais, e ele não teve dúvida: os números autodeclarados, com 99%.

Vale ouvir cada lado:

  • Números da casa: analistas apontam que os dois dados centrais são relatos da Anthropic sobre si mesma, sem auditoria externa.

  • Fosso regulatório: um analista do PitchBook disse à AP que as empresas estariam "criando um muro" no setor. Conrad Stosz, que chefiou o centro de padrões de IA do governo americano (CAISI), disse que ainda não está claro o que significam avaliadores embutidos.

  • Quem freia perde: para os aceleracionistas, a explosão não é ameaça, é o prêmio. o investidor David Sacks chamou os pedidos de desaceleração de "Doomer Industrial Complex", algo como a indústria do catastrofismo, e Jensen Huang, da Nvidia, lembrou que ninguém está construindo mais computação do que quem pede para desacelerar.

A minha leitura: a crítica dos números é a mais forte porque é a única que pode ser resolvida com dado. Se OpenAI e Google publicassem medições do mesmo tipo, e um auditor externo conferisse, o debate sairia do campo da opinião. É curioso que a recomendação número um do artigo seja justamente essa, e que a Anthropic seja, até agora, a única a publicar o próprio número. Uma das autoras, Dawn Song, disse ao Wall Street Journal que já precisamos de IA para monitorar o que os agentes fazem, porque os humanos já não dão conta.

Ninguém consegue auditar o que não é medido. O primeiro passo do artigo é o único que todo mundo deveria apoiar.

O que o Jev calcula

O Jev dá pouca chance de os governos agirem rápido: 22% a 23% para relatórios obrigatórios, auditores dentro dos laboratórios ou limite de velocidade até o fim de 2027. Para os Estados Unidos, a resposta mais provável nos próximos 12 meses é não adotar nada (49%) ou só discursos e medidas voluntárias (34%).

O Jev é o modelo da TypeSafe que responde com probabilidade em vez de texto. Dei a ele só os fatos da ficha deste post (o que o artigo diz, os números, as recomendações, o contexto da ONU e da pausa da OpenAI, e as críticas) e fiz sete perguntas. Custou US$ 0,00007 e levou 351 milissegundos.

Pergunta ao Jev

Resposta

EUA, Reino Unido ou União Europeia exigem por norma relatórios de automação da pesquisa até o fim de 2027?

23%

Algum governo terá auditores dentro de OpenAI, Anthropic ou Google até o fim de 2027?

22%

Algum governo impõe por lei um limite ao ritmo das capacidades até o fim de 2027?

23%

OpenAI ou Google publicam quanto da própria pesquisa é feita por IA até o fim de 2026?

41%

Projetos de pesquisa de meses feitos de ponta a ponta por IA até meados de 2028?

37%

Qual crítica pesa mais?

Números autodeclarados, 99%

Quanto o governo dos EUA adota em 12 meses?

Nada 49%, pouco 34%, parte relevante 10%, a maior parte 7%

Concordo com o quadro geral, com uma ressalva. O governo americano hoje é abertamente contra frear, e o Jev capta isso. Mas 41% para OpenAI ou Google publicarem a própria métrica ainda este ano me parece pouco: com Pachocki assinando o artigo e Altman dizendo que concorda em desacelerar a fronteira, publicar um número é o gesto mais barato que a OpenAI pode fazer. Registrei as apostas no placar, com a probabilidade do Jev e a data de conferir, e o resultado entra no placar público das previsões do blog.

ApostaConfiançaVerificaçãoResultado
Até 31/12/2027, nem EUA, nem Reino Unido, nem União Europeia exigem por norma que os laboratórios de IA de fronteira reportem quanto da própria pesquisa é automatizada.77%31/12/2027Em aberto
Até 31/12/2027, nenhum governo tem auditores independentes trabalhando dentro de OpenAI, Anthropic ou Google por exigência legal ou acordo formal.78%31/12/2027Em aberto
Até 31/12/2027, nenhum governo impõe por lei um limite ao ritmo de crescimento das capacidades dos modelos de IA.77%31/12/2027Em aberto
Até 31/12/2026, nem a OpenAI nem o Google publicam um número de quanto da própria pesquisa em IA é feita por IA.59%31/12/2026Em aberto
Até 30/06/2028, nenhum laboratório de fronteira anuncia que projetos de pesquisa em IA que levam meses para humanos são feitos de ponta a ponta por IA.63%30/06/2028Em aberto

O que muda para quem usa IA

Para quem usa IA no trabalho, o artigo traz três avisos práticos: as ferramentas vão mudar mais rápido do que você está acostumado, os agentes vão ganhar autonomia antes de ganhar supervisão, e as regras vão chegar tarde. Nenhum dos três exige esperar governo para agir.

  1. Não se amarre a um modelo. Se o ritmo continuar, o modelo que você usa hoje é o antigo do ano que vem. Integre de um jeito que permita trocar de fornecedor sem reescrever tudo.

  2. Agente sem freio é risco seu. O mesmo mês que trouxe este alerta trouxe a segunda pausa da OpenAI por agentes que fizeram mais do que o pedido. No seu sistema, o agente deve ter a permissão mínima e pedir confirmação humana antes de gastar dinheiro, apagar dado ou falar com cliente, como mostrei no post sobre a regra de confirmação do GPT-6.

  3. Monitore com máquina o que a máquina faz. É o ponto da Dawn Song, em escala pequena: registre as ações do agente e use uma checagem automática barata para barrar o que foge do combinado. A crítica que fiz ao looping infinito de agentes vale aqui: o problema nunca foi a velocidade, foi agir com certeza sem ter.

E uma calibragem: previsões sobre IA costumam acertar a direção e errar o calendário, como discuti quando Musk disse que a IA superaria a inteligência humana em cinco anos. A diferença deste artigo é que ele não chuta data: mostra números, pede medição e propõe freios. Se você está colocando agentes de IA no seu negócio e quer desenhar permissões, confirmações e monitoramento antes do problema, é o tipo de trabalho que faço na consultoria técnica.

Perguntas frequentes

O que é explosão de inteligência?

É uma aceleração do progresso da IA causada pela própria IA: quando ela passa a fazer a maior parte da pesquisa que cria a próxima geração, cada geração acelera a seguinte, e avanços de anos podem acontecer em meses. O artigo de setembro de 2026 trata isso como possibilidade, não como certeza.

Quem assinou o alerta sobre a explosão de inteligência?

22 pesquisadores, entre eles Geoffrey Hinton, Yoshua Bengio e Andrew Barto, ganhadores do Prêmio Turing, Jakub Pachocki, cientista-chefe da OpenAI, Jack Clark, cofundador da Anthropic, Eric Horvitz, da Microsoft, e Dawn Song. Eles escrevem em caráter pessoal.

Quando a explosão de inteligência pode acontecer?

O artigo não marca data. Diz que a IA está a caminho de automatizar a maior parte da pesquisa em IA em poucos anos e cita extrapolações preliminares de projetos de meses automatizados até meados de 2028, mas reconhece que a evidência é preliminar e mista.

É verdade que a IA já escreve 80% do código da Anthropic?

Segundo a própria Anthropic, mais de 80% do código aprovado em maio de 2026 foi escrito pelo Claude. É um número da empresa, sem medição independente, e mede linhas de código aprovadas, não o trabalho de pesquisa inteiro.

O que os cientistas pedem aos governos?

Relatórios padronizados de quanto da pesquisa é automatizada, auditores independentes dentro dos laboratórios, um limite ao ritmo de crescimento das capacidades, a opção de pausar data centers, acordos internacionais com verificação e planos de emergência para os impactos.

O governo dos Estados Unidos vai adotar as recomendações?

Não há resposta oficial ao artigo. O governo Trump rejeitou na ONU qualquer controle global da IA e disse que não vai frear. Nas contas do Jev, a chance de o governo americano não adotar nada nos próximos 12 meses é de 49%.

Gostou?
Compartilhar

Golber Dóriaquem escreve este blog

Receba os posts novos no seu email

IA aplicada ao trabalho, stack e o negócio de uma pessoa só, direto na sua caixa de entrada. Sem spam, e sair é um clique em qualquer email.