IA da Anthropic quebra algoritmo pós-quântico HAWK, retirado do processo do NIST

O algoritmo de assinatura digital pós-quântico HAWK foi oficialmente retirado do processo de padronização promovido pelo NIST (Instituto Nacional de Padrões e Tecnologia dos EUA) na última terça-feira. A desistência do desenvolvedor ocorreu um dia após a Anthropic anunciar, na segunda-feira, que seu modelo de segurança baseado em inteligência artificial, batizado de Claude Mythos Preview, descobriu uma vulnerabilidade matemática grave na estrutura do sistema.

A quebra parcial do esquema exigiu apenas 60 horas de trabalho computacional e um custo estimado em US$ 100.000. Sob a condução de um pesquisador da Anthropic sem experiência prévia em criptografia, o modelo Mythos conseguiu otimizar o melhor ataque conhecido contra o algoritmo, reduzindo efetivamente a força de suas chaves criptográficas pela metade e inviabilizando sua aplicação prática frente a concorrentes como o ML-DSA e o FN-DSA.

O HAWK estava na terceira rodada de avaliações do NIST para a escolha dos novos padrões globais de criptografia pós-quântica (PQC). O objetivo dessa fase é submeter os candidatos sobreviventes a testes rigorosos de peer review adversarial antes que algoritmos sejam recomendados para proteger dados governamentais e comerciais contra futuros computadores quânticos. Com a revelação da falha pela Anthropic, a viabilidade comercial do algoritmo foi sepultada.

A queda do algoritmo HAWK

A segurança do esquema de assinatura digital HAWK baseia-se na dureza matemática do chamado Lattice Isomorphism Problem (Problema do Isomorfismo de Reticulados). Ao contrário dos algoritmos tradicionais de assinatura digital em uso hoje, a criptografia baseada em reticulados é amplamente considerada imune a ataques realizados por computadores quânticos. No entanto, o melhor ataque da computação clássica contra esse problema busca identificar o que os matemáticos chamam de simetrias de automorfismo.

O modelo Claude Mythos Preview gerou um método inédito para localizar essas simetrias de automorfismo com eficiência superior à literatura acadêmica existente. Em criptografia teórica, um algoritmo é formalmente classificado como quebrado quando um adversário consegue deduzir a chave de cifragem em um tempo menor do que o exigido por um ataque de força bruta. O método proposto pela IA da Anthropic atingiu exatamente esse limiar crítico.

A falha descoberta no HAWK poderia, em tese, ser mitigada com o dobramento do tamanho das chaves criptográficas. No entanto, essa alteração exige um aumento tão expressivo na carga de processamento que torna o HAWK computacionalmente inferior a outros algoritmos PQC de assinatura já consolidados, como o ML-DSA e o FN-DSA. Diante desse cenário, a continuidade da candidatura tornou-se injustificável.

A especialista em criptografia pós-quântica do Google, Sophie Schmieg, destacou que o mercado já desconfiava de fraquezas estruturais no algoritmo, mas a pesquisa da Anthropic selou seu destino definitivo no processo de seleção do NIST.

“Basicamente, com este artigo, o HAWK está morto”, declarou Sophie Schmieg, especialista em PQC do Google.

Como o Claude Mythos funcionou

O processo de descoberta conduzido pelo Claude Mythos Preview não ocorreu em um prompt convencional de chat, mas sim por meio de um arcabouço de agentes (agentic harness) operando de forma semi-autônoma. O modelo recebeu orientações humanas pontuais e direções não técnicas fornecidas pelo pesquisador da Anthropic, encarregado de supervisionar a execução.

Para alcançar o resultado, o Mythos realizou uma revisão bibliográfica extensa da literatura científica para mapear o estado da arte da cryptanálise. Em seguida, a IA executou raciocínios matemáticos avançados e conduziu experimentos computacionais práticos. Após identificar a brecha no HAWK, o próprio modelo implementou um pipeline de verificação ponta a ponta para comprovar a validade técnica do ataque tanto para si mesmo quanto para o operador humano.

A arquitetura da investigação envolveu a implantação de dois agentes independentes baseados no Mythos. Em um primeiro momento, um dos agentes rejeitou a abordagem matemática proposta por considerá-la inviável. Contudo, o segundo agente encontrou um caminho viável para contornar a limitação teórica. Posteriormente, os dois agentes passaram a trabalhar em conjunto até chegarem a um consenso validado sobre a eficácia do novo método de ataque.

Para o professor da Johns Hopkins University e especialista em criptografia Matthew Green, o aspecto mais impressionante do feito não foi a criação de uma matemática radicalmente nova, mas a capacidade da IA de conectar ferramentas já conhecidas de formas que nenhum pesquisador humano havia concebido anteriormente.

“O que é particularmente preocupante (e por isso especialmente maduro para a IA) é que o ataque não inventa uma matemática fundamentalmente nova. Ele simplesmente estende um conjunto de ferramentas que estavam disponíveis e eram bem conhecidas, e obtém um bom resultado”, analisou Matthew Green, professor da Johns Hopkins University.

Ataques ao algoritmo de cifragem AES

Além do impacto direto sobre o candidato pós-quântico HAWK, a Anthropic submeteu o seu modelo Mythos a um segundo desafio criptográfico: o algoritmo de simetria AES (Advanced Encryption Standard), amplamente adotado em sistemas de segurança corporativos e de consumo em todo o mundo. Os resultados obtidos contra o AES foram menos dramáticos, mas revelaram avanços técnicos relevantes.

O ataque desenvolvido pelo Mythos aprimorou a técnica conhecida como meet-in-the-middle (encontro no meio), executada sob o modelo de ameaça de texto claro escolhido (chosen plaintext). Esse tipo de investida insere grandes volumes de textos conhecidos no sistema criptográfico e analisa os resultados cifrados em busca de pistas para derivar a chave secreta. O método da Anthropic utilizou uma ferramenta avançada de identificação chamada Möbius Bridge.

Anteriormente, o melhor ataque meet-in-the-middle documentado contra o AES exigia aproximadamente 2¹⁰⁵ blocos de texto claro conhecido — um volume numericamente tão massivo que tornava o ataque totalmente impraticável no mundo real. Com o código otimizado pelo Mythos, a exigência de entradas de texto foi reduzida para 2⁸⁹.

De acordo com os dados apresentados pela Anthropic, essa redução na complexidade de dados representa um ganho de velocidade que pode encurtar o tempo necessário para o ataque em uma faixa de 200 a 800 vezes. No entanto, os pesquisadores enfatizam que o volume de dados exigido continua fora do alcance prático de qualquer atacante fora de ambientes de laboratório.

Limitações e ressalvas do estudo

Apesar do impacto dos anúncios, a própria Anthropic e especialistas independentes ressaltam quatro ressalvas técnicas fundamentais que devem ser levadas em consideração ao analisar o feito do modelo Claude Mythos Preview. A primeira delas é que os avanços são incrementais e não quebram nenhum sistema criptográfico atualmente em produção na internet.

A segunda limitação diz respeito aos alvos testados: as provas de conceito foram aplicadas sobre versões enfraquecidas dos algoritmos, conhecidas como instâncias de desafio (challenge instances). Essas versões simplificadas são disponibilizadas pelos próprios autores das especificações para facilitar a revisão por pares adversarial. No caso do AES, o modelo testou uma versão com apenas 7 rodadas de cifragem, enquanto as especificações reais de produção utilizam 10, 12 ou 14 rodadas, a depender do tamanho da chave.

A terceira ressalva aponta que as primitivas matemáticas subjacentes — ou seja, os problemas teóricos básicos que fundamentam a segurança desses sistemas — permanecem seguras até o momento. Por fim, a quarta limitação refere-se ao fato de que as metodologias de ataque desenvolvidas exigem condições tão específicas que continuam sendo inviáveis para exploração maliciosa fora de laboratórios de pesquisa.

Outro ponto omitido no relatório da Anthropic é se o modelo Mythos foi testado contra sistemas criptográficos mais consolidados e maduros, como a criptografia de curvas elípticas ou o algoritmo RSA. Obter avanços contra padrões que resistiram a décadas de cryptanálise humana traria uma demonstração de força muito mais expressiva do que derrubar o HAWK, um algoritmo jovem que já continha suspeitas teóricas anteriores.

O futuro da criptanálise automatizada

A substituição gradual de processos manuais de análise por ferramentas baseadas em modelos de linguagem promete alterar a dinâmica da pesquisa acadêmica e da indústria de cibersegurança. Em sua publicação oficial, a Anthropic alertou para o gargalo humano que pode se formar à medida que sistemas como o Mythos passarem a produzir descobertas teóricas em ritmo acelerado.

“A comunidade de cibersegurança está agora enfrentando o fato de que os modelos de linguagem são capazes de descobrir tantos bugs que os processos humanos padrão (como triagem de vulnerabilidades, verificação e remediação) lutam para acompanhar. Prevemos que o mesmo acontecerá em breve na pesquisa criptográfica acadêmica”, afirmou a Anthropic em seu comunicado oficial.

Para profissionais de segurança e desenvolvedores no Brasil que acompanham a transição para a criptografia pós-quântica recomendada pelo NIST, o episódio reforça a importância de adotar algoritmos amplamente testados, como o ML-DSA. À medida que ferramentas de inteligência artificial reduzem os custos e o tempo de auditoria de código e matemática, a janela para detectar falhas em padrões de criptografia antes de sua implantação em larga escala tende a encolher significativamente.

O caso do algoritmo HAWK demonstra que a inteligência artificial já consegue reordenar e combinar conceitos criptográficos existentes de forma eficiente. Embora os fornecedores de plataformas de IA tenham interesse comercial em exaltar a magnitude de suas descobertas, a aposentadoria do candidato no processo do NIST confirma que os modelos de linguagem tornaram-se atores relevantes na disputa entre proteger e expor ativos digitais críticos.