Quem está por trás da sua Inteligência Artificial? A pergunta que virou urgente

Hoje, dia 5 de outubro, o Conselho Municipal de Nova York fez algo raro. Convocou uma audiência plenária, com o Conselho inteiro, para discutir inteligência artificial. OpenAI, Anthropic, Google e Meta foram chamadas a explicar publicamente os riscos de suas tecnologias. A SpaceXAI, de Elon Musk, recebeu uma intimação formal depois de não responder ao convite. E um dos depoimentos mais aguardados será o de Jacob Coxon, pesquisador que pediu demissão da Anthropic em setembro e passou a alertar publicamente para os riscos da corrida por modelos cada vez mais poderosos.

Isso não surgiu do nada. As próprias empresas que lideram essa corrida estão em desacordo aberto sobre até onde a inteligência artificial pode ir. Em março, um memorando interno vazado mostrou que Dario Amodei, CEO da Anthropic, classificou as salvaguardas do contrato da OpenAI com o Pentágono como, nas palavras dele, oitenta por cento teatro de segurança. Depois, ele próprio recuou de trechos mais duros do documento. A Anthropic se recusou a permitir que sua IA fosse usada pelas Forças Armadas para vigilância em massa e armas autônomas, e foi classificada pelo Pentágono como risco para a cadeia de fornecimento. A OpenAI fechou o contrato logo em seguida.

Sam Altman, por sua vez, defendeu publicamente a decisão da OpenAI de fechar o acordo e admitiu que, do ponto de vista de imagem, a situação não parecia boa.

Eu trago os três fatos juntos porque eles contam a mesma história. Se as duas empresas mais avançadas em inteligência artificial do mundo não concordam entre si sobre onde fica o limite ético, não é exagero nenhum que o poder público comece a fazer essa pergunta também. E é exatamente isso que acontece hoje em Nova York.

Para quem lidera empresa no Brasil e já está usando inteligência artificial em atendimento, em vendas, em operação ou em marketing, esse episódio carrega um recado direto. A escolha de um fornecedor de IA deixou de ser só uma decisão de tecnologia ou de preço. Virou uma decisão sobre valores. A empresa que está por trás do modelo que você usa tem uma postura sobre vigilância, sobre uso militar, sobre transparência com reguladores e com o público. Essa postura, cedo ou tarde, respinga na sua marca.

Governança de inteligência artificial não é um tema distante, de Vale do Silício ou de prefeitura americana. É uma pergunta prática que toda empresa que usa IA deveria estar fazendo para seus fornecedores agora. Que linhas essa ferramenta está disposta a cruzar. Quem audita o uso dos dados. O que acontece quando a tecnologia é usada fora do que foi prometido.

Eu já vi empresa trocar de fornecedor de nuvem por causa de preço e nunca ter perguntado nada sobre ética ou governança de um fornecedor de inteligência artificial que toma decisão dentro do próprio negócio dela. Isso precisa mudar.

Você sabe, com clareza, que limites éticos o fornecedor de inteligência artificial da sua empresa está disposto a cruzar, ou só confiou porque a tecnologia funciona bem?