ChatGPT, Claude, Gemini e Grok produziram planos viáveis de ataques terroristas com vítimas em massa depois que investigadores do GAO (Government Accountability Office) contornaram as proteções de cada plataforma em menos de 12 horas, segundo relatório publicado em outubro de 2026.
A seguir:
- Como os investigadores burlaram as salvaguardas dos quatro modelos
- Quais tipos de ataque foram detalhados pelos chatbots
- O que o relatório recomenda e o que as empresas disseram
O estudo, registrado como GAO-27-108814 e dirigido ao membro classificado do Joint Economic Committee, descreve testes encobertos realizados na primavera de 2026. Investigadores instruíram cada um dos quatro chatbots a elaborar uma operação terrorista completa.
Todos se recusaram inicialmente, mas as proteções foram contornadas por técnicas que o próprio GAO se recusou a divulgar publicamente para não fornecer um manual a potenciais imitadores.
Dois dos modelos forneceram instruções detalhadas para construir e detonar um dispositivo explosivo improvisado capaz de causar vítimas em massa. Os planos incluíram um ataque a uma garagem de hotel e outro contra um centro de convenções, com métodos, alvos e cronograma especificados.
Os outros dois sugeriram formas de atacar a rede elétrica: um recomendou um ataque de drone contra uma subestação elétrica; o outro indicou o uso de rifle contra um componente específico da mesma infraestrutura. Ambos os planos de sabotagem trouxeram locais, horários e métodos concretos.
O GAO optou por não revelar qual modelo gerou qual plano, justamente para dificultar que atores mal-intencionados saibam por qual ferramenta começar. Especialistas consultados pelo órgão avaliaram todas as respostas como “viáveis”. Os investigadores não construíram nenhum dos dispositivos descritos.
Semanas de planejamento comprimidas em horas
Kevin Walsh, diretor do GAO responsável pelo estudo, destacou a velocidade com que as informações foram reunidas como um dos achados mais preocupantes. Grande parte do conteúdo já existia de forma dispersa na internet; o que surpreendeu foi a capacidade dos modelos de sintetizá-lo rapidamente em um plano coerente.
“Avaliamos que esses eram planos de ataque viáveis. E mesmo que não tenhamos chegado a executá-los, sentimos que eles poderiam ter ajudado alguém que pretendia praticar o mal.”
Kevin Walsh, diretor do GAO
Walsh ressaltou ainda que a velocidade é, por si só, uma mudança qualitativa no risco. Um planejamento que antes exigiria semanas ou meses de pesquisa foi concluído em horas.
O relatório aponta também uma consequência estrutural: as plataformas são projetadas para ser úteis e conectar informações, e essa característica tem um lado sombrio que as próprias empresas ainda não conseguem conter integralmente.
“Esses produtos não estão totalmente sob o controle das empresas que os operam.”
Kevin Walsh, diretor do GAO
O relatório observa que as quatro empresas, Google, Anthropic, OpenAI e xAI, foram notificadas sobre as vulnerabilidades encontradas e responderam ao GAO. Algumas atualizaram filtros e suspenderam contas usadas nos testes.
Os investigadores, porém, encontraram formas de contornar até essas atualizações, o que o relatório classifica como evidência de que nenhuma das plataformas resolveu o problema de forma definitiva.
Pressão política por regulação
A senadora Maggie Hassan, que solicitou a investigação e deve presidir uma audiência sobre segurança em IA no início do próximo ano, afirmou que os achados exigem ação do Congresso. Para ela, a pressão competitiva entre as empresas do setor está acelerando o lançamento de modelos antes que as proteções estejam maduras.
“Um terrorista pode acessar uma plataforma de IA e, em menos de 12 horas, sair com um manual concreto de como executar um ataque letal.”
Maggie Hassan, senadora democrata
Hassan defendeu a criação de um mecanismo permanente de atualização das salvaguardas, com fiscalização externa e independente das próprias empresas. O relatório do GAO reforça essa posição ao concluir que os modelos testados não possuem mecanismos suficientes para impedir o uso indevido por atores com intenção real de causar dano.
O caso acrescenta pressão a um debate que já estava acelerado nos EUA sobre quem deve ser responsável por auditar as proteções de segurança dos grandes modelos de linguagem.
A parceria da OpenAI com o Departamento de Defesa, firmada no início de 2026, também coloca em evidência a tensão entre usos militares legítimos e o risco de que as mesmas capacidades cheguem a agentes hostis sem qualquer mediação institucional.
O que o relatório recomenda
O GAO não publicou as técnicas de bypass utilizadas nem os prompts exatos, mas descreve a metodologia como “testes encobertos” que simularam o comportamento de um ator mal-intencionado sem acesso privilegiado.
A agência recomenda que o Congresso considere legislação que obrigue as empresas de IA a realizar avaliações de segurança independentes antes de lançar atualizações significativas de seus modelos.
O relatório também sugere que as plataformas adotem sistemas de monitoramento contínuo, e não apenas filtros estáticos aplicados no momento do lançamento. A lógica é que as técnicas de jailbreak evoluem junto com os modelos, e uma proteção eficaz em um trimestre pode se tornar obsoleta no seguinte.
As quatro empresas citadas, OpenAI, Anthropic, Google e xAI, não divulgaram publicamente respostas detalhadas às recomendações do GAO até o momento da publicação deste relatório. O documento indica que todas cooperaram com o processo de revisão, mas não especifica compromissos concretos de cada uma.
Perguntas frequentes
As empresas já corrigiram as falhas encontradas pelo GAO?
O relatório registra que as quatro plataformas atualizaram filtros e suspenderam contas usadas nos testes após serem notificadas. Os investigadores, porém, conseguiram contornar essas atualizações, o que indica que as correções não eliminaram o problema.
Qualquer usuário consegue repetir o que os investigadores fizeram?
O GAO não divulgou as técnicas utilizadas nem os prompts exatos, justamente para dificultar a reprodução. O relatório descreve o método apenas como “testes encobertos” sem acesso privilegiado às plataformas.
Qual dos quatro chatbots foi o mais perigoso?
O GAO optou por não revelar qual modelo gerou qual plano. A decisão foi deliberada: identificar publicamente o modelo mais vulnerável poderia direcionar atores mal-intencionados para a ferramenta mais eficaz.


