Hackers estão explorando uma nova técnica chamada “Man in the Prompt” para roubar dados sensíveis de interações com inteligência artificial.
O método utiliza extensões maliciosas instaladas em navegadores para interceptar e manipular prompts enviados a chatbots como ChatGPT, Gemini, Copilot e Claude.
Como funciona o ataque e por que ele é tão perigoso
A técnica “Man in the Prompt” se baseia na instalação de extensões com permissões amplas, capazes de acessar o conteúdo das páginas carregadas no navegador.
Além disso, essas extensões conseguem interceptar os comandos enviados aos chatbots e inserir instruções ocultas que alteram o comportamento da IA. Dessa forma, os hackers podem extrair respostas confidenciais exibidas na tela, mesmo quando essas informações deveriam estar restritas ao usuário.
Sendo assim, o ataque é especialmente perigoso em ambientes corporativos, onde os modelos de linguagem são usados para lidar com documentos internos, dados estratégicos e processos sigilosos.
Inclusive, segundo a empresa de segurança LayerX, o exploit foi testado com sucesso em todos os principais LLMs comerciais, com provas de conceito demonstradas no ChatGPT e no Gemini.
Em resumo, a confiança dos usuários nas ferramentas de IA e a integração dessas tecnologias à rotina de trabalho criam um cenário propício para espionagem digital e vazamento de dados.
Impactos práticos e recomendações de segurança
- Interceptação de dados confidenciais em chats corporativos.
- Manipulação de prompts para alterar respostas da IA.
- Vazamento de informações estratégicas e documentos internos.
- Espionagem digital em larga escala por meio de extensões maliciosas.
- Exploração de permissões excessivas concedidas a extensões de navegador.
Além disso, a LayerX recomenda que empresas revisem suas políticas de monitoramento de atividade no navegador. Dessa forma, extensões com permissões amplas devem ser auditadas regularmente.
Inclusive, é essencial que qualquer software instalado seja previamente aprovado pela equipe de TI, especialmente em ambientes corporativos.
Sendo assim, o controle sobre as ferramentas utilizadas no dia a dia torna-se uma medida fundamental para evitar brechas de segurança.
Contexto do ataque e implicações para o futuro da IA
O surgimento do “Man in the Prompt” representa uma nova fase dos ciberataques, voltada para a exploração de interfaces de IA. Igualmente, especialistas alertam que, à medida que as empresas se tornam mais dependentes de modelos de linguagem, esses sistemas podem se transformar em verdadeiros copilotos de hackers na extração de dados sigilosos.
Inclusive, o ataque não se limita à interceptação de prompts. Segundo a LayerX, os hackers também conseguem capturar as respostas exibidas na tela, mesmo quando protegidas por autenticação.
Dessa forma, o risco se estende a qualquer interação com IA que envolva informações sensíveis.
Por fim, o episódio reforça a necessidade de desenvolver políticas de segurança específicas para o uso de inteligência artificial, considerando suas particularidades e vulnerabilidades emergentes.
