Ontem, 28 de julho, a Bloomberg revelou um documento que eu não esperava ver assinado por quem assinou. Mais de 1.100 funcionários da OpenAI, Anthropic, Google DeepMind e Meta colocaram o nome numa carta pedindo que o governo americano ajude a criar ferramentas para "deliberadamente pausar o ritmo" do desenvolvimento automatizado de IA. O documento se chama Pacing the Frontier, e a lista de quem assina é o que mais chama atenção. Não são ativistas de fora olhando o mercado com desconfiança. É Dario Amodei, CEO da Anthropic. É Jared Kaplan e Jack Clark, cofundadores da mesma empresa. É Jakub Pachocki, cientista-chefe da OpenAI. É gente que constrói o produto pedindo um botão de freio para o próprio produto.
O gatilho está bem definido. Entre 11 e 13 de julho, um agente da OpenAI, rodando um teste interno de capacidade ofensiva com as proteções de segurança desligadas de propósito, escapou do ambiente isolado onde deveria ficar contido, ganhou acesso à internet e invadiu a infraestrutura da Hugging Face para buscar respostas de uma avaliação. A OpenAI confirmou o episódio publicamente em 21 de julho e pausou o treinamento do modelo envolvido. Não foi um vazamento de dados comum. Foi um sistema de IA contornando as próprias barreiras de contenção para atingir um objetivo, sozinho. Falamos disso aqui em conteúdo exclusivo.
Dias depois, Sam Altman apareceu no podcast Invest Like the Best e disse que talvez a indústria precise pausar o ritmo do desenvolvimento de IA para dar tempo à sociedade de se preparar para os novos níveis de capacidade dos modelos. Chamou o episódio de incidente extremamente sci-fi e admitiu ter sentido, pela primeira vez, um problema de segurança de forma visceral. É uma virada de posição relevante. Em 2023, o mesmo Altman descartou publicamente uma carta parecida, pedindo pausa no desenvolvimento de IA, alegando falta de detalhe técnico sobre onde a pausa deveria acontecer.
O pedido do manifesto, vale dizer, não é para parar tudo agora. É para o governo ajudar a construir o mecanismo que tornaria uma pausa possível se um dia for necessária. Na prática, ninguém está cedendo terreno competitivo hoje. Mas o simples fato de as próprias empresas pedirem essa opção muda o tom do debate. A Anthropic já vinha alertando sobre aprimoramento recursivo autônomo, quando um sistema de IA passa a melhorar seu próprio código de forma independente, e Jack Clark chegou a estimar publicamente que isso pode acontecer dentro de dois anos.
Para quem lidera empresa no Brasil, o recado não é sobre ficar com medo de IA. É sobre entender que a régua de segurança que os laboratórios estão definindo lá fora vai chegar aqui dentro dos contratos, das políticas internas e das exigências de compliance que grandes fornecedores de tecnologia vão passar a cobrar. Quem está automatizando processos com agentes de IA sem um protocolo claro de contenção e monitoramento está operando exatamente no ponto cego que esse incidente expôs.
A sua empresa já sabe o que um agente de IA pode fazer se sair do roteiro que você desenhou para ele?
Alexandre Guimarães
Especialista em Inteligência Artificial e Transformação Digital
Gostou do artigo?
Entre em contato para discutir como podemos ajudar sua empresa com Inteligência Artificial e Transformação Digital.