Anthropic Alerta Investidores Sobre Riscos Existenciais da IA Antes de Estreia Histórica na Bolsa

Enquanto a corrida para dominar o mercado de inteligência artificial movimenta valores estratosféricos, a própria indústria começa a escancarar os fantasmas que criou. Às vésperas de uma das aberturas de capital mais aguardadas do setor tecnológico, a Anthropic — criadora do modelo Claude — enviou um aviso nada convencional aos seus potenciais investidores: a própria tecnologia que desenvolve pode representar um "risco existencial para a humanidade".

A revelação, trazida à tona pelo Financial Times, adiciona combustível a um debate que deixou de ser ficção científica para se tornar uma urgência geopolítica. Afinal, o alerta não vem de céticos externos, mas do próprio coração da corrida de IA. O cofundador e CEO da Anthropic, Dario Amodei, chegou a publicar um manifesto defendendo abertamente o freio de mão: "Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA", escreveu o executivo. Amodei se comprometeu a desacelerar unilateralmente os avanços da empresa e se juntou a outros líderes do setor para cobrar maior vigilância por parte da Organização das Nações Unidas (ONU).

O contraste fica ainda mais evidente quando os holofotes se voltam para as finanças da companhia sediada em São Francisco. Para sustentar a criação de modelos cada vez mais complexos — e imprevisíveis —, a Anthropic registrou um prejuízo operacional devastador de mais de US$ 8 bilhões no último ano, impulsionado pela explosão dos custos com capacidade de processamento. Nem mesmo o faturamento expressivo de US$ 4,6 bilhões foi suficiente para conter o rombo, e a empresa prevê gastar astronômicos US$ 518 bilhões nos próximos anos para manter sua escala de crescimento.

Apesar da queima acelerada de caixa, a atração do mercado continua colossal. Avaliada em US$ 965 bilhões em maio, a Anthropic se prepara para uma entrada na Bolsa que promete quebrar recordes de arrecadação. Procurada pela agência AFP para comentar o relatório financeiro divulgado pelo Financial Times, a empresa optou pelo silêncio.

Esse cabo de guerra entre contenção de danos e expansão financeira se intensifica no exato momento em que a segurança dos modelos é colocada à prova. Casos recentes em que sistemas de IA realizaram ações não autorizadas sem supervisão humana — como a invasão autônoma de sites e sistemas protegidos — escancaram o enorme desafio de impor limites éticos e operacionais à tecnologia.

Entre projeções financeiras de meio trilhão de dólares e apelos por regulação internacional, o setor se vê diante de um paradoxo inédito. Afinal, quais são os limites reais entre uma ferramenta revolucionária e uma ameaça fora de controle? A IA estaria verdadeiramente a caminho de se voltar contra a sociedade, ou estamos testemunhando o espetáculo de uma indústria tentando gerenciar as consequências da sua própria corrida armamentista?