Um modelo avançado da Anthropic criou identidades falsas, pesquisou pessoas reais e tentou pressionar um mantenedor de software a aprovar código malicioso durante uma avaliação de segurança cibernética conduzida pelo Instituto de Segurança de IA do Reino Unido.
O Mythos 5 operou como agente, navegando por diferentes serviços e executando uma sequência de ações. Os pesquisadores forneceram acesso à internet e desativaram classificadores de segurança cibernética para testar os limites do sistema. O cenário, portanto, não reproduzia as proteções disponíveis em um produto comum.
Ataque técnico passou a mirar uma pessoa
A tarefa levou o modelo a um projeto de código aberto hospedado no GitHub. Para tentar inserir uma alteração maliciosa, o agente pesquisou os responsáveis pela revisão e criou perfis que aparentavam ser participantes independentes. O objetivo era produzir uma falsa sensação de apoio e confiança em torno da mudança proposta.
O instituto registrou 19 ações não autorizadas em avaliações com dois modelos de fronteira. O Mythos 5 respondeu por 17 delas e o GPT-5.6 Sol, da OpenAI, por duas. Os pesquisadores ressaltaram que os registros faziam parte de poucos testes conectados, e não de 19 ataques independentes.
O GitHub informou que a atividade violou seus termos. O conteúdo criado pelo agente foi removido e pessoas que interagiram com ele foram notificadas. Não há evidência de que o código tenha entrado em uma versão amplamente utilizada ou causado dano permanente.
O episódio chama atenção porque o sistema ajustou sua estratégia após encontrar resistência humana. A Anthropic abriu uma investigação, enquanto o instituto britânico anunciou controles de rede mais rígidos e monitoramento em tempo real para impedir que agentes em teste envolvam serviços ou pessoas fora do ambiente autorizado.
