Vazamento da OpenAI na Hugging Face reabre debate sobre alinhamento e controle
Modelo não lançado da OpenAI burlou sistemas da Hugging Face durante testes internos, dividindo pesquisadores entre contenção de rede e alinhamento direto.
Falha na funcionalidade de compartilhamento do Claude expõe relatórios médicos, dados de crianças e documentos corporativos em buscas do Google.
Usuários do fórum Reddit descobriram durante o final de semana que um número indeterminado de conversas privadas e Artifacts — aplicativos interativos e documentos criados dentro da plataforma Claude — estavam indexados e acessíveis publicamente no motor de busca do Google. A exposição ocorreu por meio de operadores de pesquisa avançados, como a sintaxe site:claude.ai/share, que revelava uma extensa lista de chats gerados por usuários da IA da Anthropic.

Entre os dados sensíveis encontrados expostos nas buscas do Google, a publicação especializada Futurism identificou prontuários médicos detalhados de pacientes reais, resultados de ensaios clínicos contendo nomes de participantes, avaliações confidenciais de desempenho de funcionários e documentos que continham nomes e números de telefone de crianças em idade escolar primária.
O problema foi sinalizado inicialmente no Reddit no sábado e detalhado pela plataforma 404 Media na manhã de segunda-feira. Na tarde da mesma segunda-feira, testes realizados pela equipe do TechCrunch utilizando a mesma metodologia de busca indicaram que o acesso aos links havia sido interrompido, sinalizando uma remediação rápida por parte da Anthropic ou remoção dos índices pelos buscadores.
A origem da vulnerabilidade está associada diretamente ao recurso "share chat" do Claude, projetado para permitir que usuários gerem URLs exclusivas e compartilhem conversas ou projetos construídos por meio de Artifacts com terceiros. A própria interface do sistema da Anthropic exibe o aviso "Anyone with the link can view" ("Qualquer pessoa com o link pode visualizar"), sinalizando a intenção de compartilhamento restrito entre colegas ou pequenos grupos.
Na interface de compartilhamento do Claude, o usuário conta com opções claras como "Keep private" (Manter privado) ou "Create public link" (Criar link público). No entanto, ao contrário de serviços de produtividade como o Google Docs — que também oferecem compartilhamento via link sem que os arquivos terminem indexados em motores de busca globais —, os links do Claude acabaram mapeados e catalogados pelos robôs do Google.
Essa diferença de comportamento em relação a ferramentas como o Google Docs gerou questionamentos de segurança, uma vez que a linguagem da interface da Anthropic sugeria apenas a acessibilidade direta via URL, e não a disponibilização pública para indexação por algoritmos de busca em toda a web.
O alcance das informações expostas revelou a presença de dados corporativos e pessoais críticos. Conforme reportado pelo veículo Futurism, a varredura expôs relatórios clínicos de pacientes reais, informações sobre pesquisas médicas e documentos internos marcados expressamente como de uso exclusivo de empresas, incluindo análises de RH com dados pessoais identificáveis.
Além de documentos e arquivos de código expostos por meio dos Artifacts do Claude, a revista Fortune revelou o achado de um chat rotulado como "shared by Anthropic" no qual o modelo gerou conteúdo erótico explícito a partir de prompts de usuários.
A geração de textos eróticos contraria diretamente as políticas de uso da Anthropic, que proíbem o Claude de criar material sexualmente explícito. A manipulação de modelos de inteligência artificial por meio de engenharia de prompt para contornar diretrizes de segurança é um padrão recorrente no setor, e a Anthropic não respondeu aos questionamentos do TechCrunch sobre esse caso específico até o fechamento da reportagem.
Em resposta ao TechCrunch, a Anthropic atribuiu a presença dos links nos buscadores à conduta dos próprios usuários. A empresa afirmou que os links de compartilhamento do Claude só aparecem nos resultados do Google caso tenham sido publicados anteriormente em locais públicos da web rastreáveis por motores de busca, como fóruns abertos ou redes sociais.
A porta-voz da Anthropic, Amie Rotherham, explicou detalhadamente a arquitetura de privacidade e o funcionamento da ferramenta de compartilhamento do modelo em nota oficial:
"Oferecemos às pessoas controle sobre o compartilhamento público de suas conversas no Claude e, em conformidade com nossos princípios de privacidade, não compartilhamos diretórios de chat ou sitemaps com motores de busca como o Google. Esses links compartilháveis não são adivinháveis ou descobertos a menos que as próprias pessoas optem por compartilhá-los. Quando alguém compartilha uma conversa, está tornando esse conteúdo publicamente acessível e, como outro conteúdo da web pública, ele pode ser arquivado por serviços de terceiros."
Segundo a explicação enviada por Amie Rotherham, links enviados de forma privada diretamente entre indivíduos permanecem fora dos índices de busca do Google, reforçando que a empresa não fornece mapas do site (sitemaps) contendo as URLs dos usuários.
O Google também se pronunciou sobre o incidente por meio de seu porta-voz, Ned Adriance, que ressaltou a responsabilidade dos administradores de sites na gestão do conteúdo que é liberado para rastreamento pela web.
"Nem o Google nem qualquer outro motor de busca controla quais páginas são tornadas públicas na web, e essas páginas foram indexadas em múltiplos motores de busca. Damos aos proprietários de sites controles claros para decidir se as páginas podem ser rastreadas ou indexadas, e sempre respeitamos essas diretivas."
A declaração de Ned Adriance reforça que a indexação ocorreu de maneira automatizada em diferentes buscadores além do Google, operando conforme as permissões técnicas detectadas nos servidores do domínio do Claude.
O incidente atual não é inédito no histórico da Anthropic e de outros desenvolvedores de inteligência artificial. No ano passado, a revista Forbes revelou um problema idêntico no qual centenas de conversas do Claude foram indexadas por buscadores — na ocasião, o Google estimou ter indexado cerca de 600 conversas antes de as páginas serem removidas dos resultados.
A semelhança entre os episódios foi confirmada por usuários que utilizaram os mesmos parâmetros de busca no Google empregados no incidente relatado pela Forbes no ano passado, embora a escala exata do vazamento atual não tenha sido confirmada de forma independente.
Outras plataformas de grande porte enfrentaram crises análogas. A 404 Media reportou no ano passado que um pesquisador de segurança conseguiu realizar a extração (scraping) de aproximadamente 100.000 conversas do ChatGPT, da OpenAI, que haviam sido configuradas por usuários para compartilhamento público.
Para profissionais e empresas no Brasil que utilizam o Claude no fluxo de trabalho e criaram links de compartilhamento para chats ou Artifacts, a gestão das permissões de privacidade pode ser feita diretamente no painel da conta.
A Anthropic disponibiliza um menu de auditoria na plataforma. Para revisar ou revogar os links públicos já criados no Claude, o usuário deve navegar pelas opções Settings -> Privacy -> Shared Chats na interface do serviço.
A apuração conduzida pelo jornalista sênior Lorenzo Franceschi-Bicchierai, do TechCrunch, especialista em segurança cibernética, privacidade e vigilância, confirma que as buscas por links do Claude deixaram de retornar resultados no Google, indicando o encerramento do incidente de exposição ativa.
Modelo não lançado da OpenAI burlou sistemas da Hugging Face durante testes internos, dividindo pesquisadores entre contenção de rede e alinhamento direto.
Microsoft apresenta o modelo MAI-Cyber-1-Flash e a plataforma agêntica Perception para identificar e corrigir falhas em código com inteligência artificial.
Entenda o caso de Sam Tunick, acusado nos EUA por uso do GrapheneOS em celular Google Pixel durante inspeção em aeroporto de Atlanta.