A inevitabilidade das I.As perigosas em um futuro próximo

No final da última semana, a Anthropic precisou puxar a tomada de seus mais novos modelos de IA, o Claude Fable 5 e o Mythos 5. O motivo? Uma diretriz implacável de controle de exportação do governo dos Estados Unidos, que proibiu categoricamente que "qualquer cidadão estrangeiro" utilizasse os serviços. A empresa tem suado a camisa em negociações com a Casa Branca desde sexta-feira, mas até agora, nada de um acordo que permita o retorno das ferramentas ao ar.

O buraco, no entanto, é bem mais embaixo. Desde que o modelo Mythos deu as caras em abril, a própria Anthropic já vinha batendo na tecla — e alertando aos quatro ventos — sobre as capacidades avançadas de sua ferramenta. O Mythos não é apenas excelente em encontrar vulnerabilidades de software para ajudar profissionais a corrigi-las; ele é letal em descobrir formas de explorá-las, o que é um prato cheio para agentes mal-intencionados. A empresa assumiu essa "faca de dois gumes" em seu próprio blog no lançamento das IAs: "As mesmas pesquisas que são benéficas nas mãos de profissionais de cibersegurança e biólogos podem ser perigosas se caírem nas mãos de atores maliciosos."

Sabendo desse perigo iminente, a empresa jogou na defensiva no início. Liberou uma versão chamada Mythos Preview e o poderoso Mythos 5 a portas fechadas, apenas para um consórcio seleto conhecido como Project Glasswing. Já o Claude Fable 5, que compartilha a mesma inteligência bruta do Mythos, foi jogado ao público geral, mas algemado por guardrails (barreiras) rígidos que bloqueavam qualquer resposta sobre biologia e cibersegurança.

O problema é que a administração Trump não comprou a ideia. No fim da semana passada, o governo norte-americano se moveu para restringir ambos os modelos, temendo que as defesas do Fable 5 pudessem ser desativadas pelos usuários, liberando o poder total do Mythos 5 e criando um gigantesco risco à segurança nacional.

Para os especialistas da área, no entanto, esse embate institucional é apenas uma cortina de fumaça que esconde uma verdade inconveniente: a Anthropic pode ser a ponta da lança neste momento, mas é praticamente certo que outros modelos (incluindo os de código aberto) atingirão o mesmo nível de ameaça do Mythos 5 em um futuro muito próximo — se é que já não o fizeram.

"É de uma miopia extrema achar que nenhum outro concorrente desenvolverá capacidades semelhantes ao Mythos, ou mesmo que já não o tenham feito," dispara Tarah Wheeler, chefe de segurança da consultoria TPO Group. Segundo ela, outras gigantes estão apenas segurando suas próprias ferramentas nas sombras, observando como o governo "esmaga" a Anthropic neste ambiente regulatório incerto.

A própria Anthropic já havia cantado essa pedra. Em abril, Logan Graham, líder da equipe red team (focada em segurança ofensiva) da empresa, cravou à WIRED: "A verdadeira mensagem é que isso não é sobre o nosso modelo. Precisamos nos preparar agora para um mundo onde essas capacidades estarão amplamente disponíveis em 6, 12 ou 24 meses." Vale lembrar que a própria OpenAI também já havia feito um lançamento privado de um modelo focado em cibersegurança na mesma época.

Pesquisadores reforçam que nem precisamos esperar a próxima geração. Com os prompts certos, IAs menores, mais baratas e open-source podem facilmente igualar a criatividade e a tenacidade destas plataformas bloqueadas em questão de meses. Em uma carta aberta enviada ao governo neste domingo, líderes de cibersegurança chamaram a diretriz da Casa Branca de um verdadeiro tiro no pé.

No fim do dia, o que os especialistas exigem é que Washington e os governos globais parem de enxugar gelo. Eles precisam desenvolver planos muito mais amplos, democráticos e transparentes para lidar com esses inevitáveis saltos tecnológicos. Como bem resumiu Chris Wysopal, cofundador da empresa de segurança Veracode: "A questão não é se uma tecnologia tem risco. A questão é se uma restrição específica realmente reduz esse risco ou se apenas atrasa as pessoas que estão tentando tornar os nossos sistemas mais seguros."