Yao Shunyu, cientista-chefe de IA da Tencent, alertou que modelos de inteligência artificial estão se aproximando de um limiar em que poderão ser usados para desenvolver bioarmas, e que simplesmente fechar o acesso aos modelos não é a solução para esse risco.
A seguir:
- O que Yao Shunyu disse sobre o limiar biológico e por que ele preocupa mais que ameaças cibernéticas
- Como a técnica de “Abliteration” burla filtros de segurança em modelos de código aberto
- O que a Tencent fez no modelo Hy4 para tentar mitigar esse risco
O alerta foi feito em um simpósio científico em Hong Kong. Yao afirmou que as capacidades cibernéticas dos modelos de IA já atingiram um nível preocupante, e que as capacidades biológicas caminham na mesma direção.
Para ele, o risco biológico pode ser ainda mais difícil de controlar do que as ameaças digitais, porque os danos podem se propagar de forma autônoma, sem depender de infraestrutura conectada.
A declaração veio poucos dias após a Tencent lançar seu novo modelo principal, o Hy4, em 4 de novembro de 2026. A empresa afirmou que o Hy4 foi treinado com dados de segurança defensiva, possui conhecimento sólido de biologia básica e, deliberadamente, apresenta desempenho inferior ao de modelos líderes quando se trata de projetar experimentos.
A Tencent anunciou que pretende liberar os pesos do modelo e um relatório de testes de segurança nos próximos dias.
A posição de Yao não é de proibição. Ele defende um caminho intermediário: nem modelos totalmente abertos, sem qualquer controle, nem modelos completamente fechados, que concentram poder nas mãos de poucas organizações.
O argumento central é que modelos abertos também podem fortalecer quem defende sistemas, não apenas quem ataca. O problema está em como os laboratórios que liberam pesos abertos estruturam a segurança antes do lançamento.
O problema dos filtros removíveis
Um dos pontos mais técnicos do alerta diz respeito a uma técnica chamada “Abliteration”. O método permite remover cirurgicamente os filtros de segurança de modelos de código aberto, produzindo variantes sem restrições que podem ser distribuídas em plataformas como o Hugging Face.
Yao reconhece que as medidas de proteção atuais tornam esse processo mais trabalhoso, mas não o impedem. Enquanto houver acesso aos pesos do modelo, qualquer filtro aplicado após o treinamento pode, em princípio, ser desfeito.
Existem registros de IAs que projetaram vírus do zero, o que mostra que a capacidade de causar dano biológico não é hipotética.
A saída proposta por Yao é diferente de adicionar filtros no modelo final: ele defende que o conhecimento biológico perigoso seja excluído dos dados de treinamento desde o início.
Essa abordagem atacaria o problema na raiz, tornando o modelo incapaz de fornecer as informações críticas, independentemente de qualquer filtro posterior ser removido ou não.
Aberto versus fechado: um debate sem resposta simples
O debate entre modelos abertos e fechados ganhou intensidade ao longo de 2026, à medida que laboratórios chineses passaram a lançar modelos competitivos com pesos disponíveis para download. A posição de Yao é que nenhum dos dois extremos resolve o problema sozinho.
Modelos fechados concentram o controle em laboratórios que podem ou não ser transparentes sobre suas práticas de segurança. Modelos abertos democratizam o acesso, mas também distribuem a capacidade de causar dano.
A proposta de um meio-termo exige que os laboratórios que optam pela abertura invistam em infraestrutura de segurança proporcional ao risco que o modelo representa.
O próprio lançamento do Hy4 ilustra essa tensão. A Tencent optou por liberar os pesos, mas afirma ter feito escolhas deliberadas de treinamento para limitar a capacidade do modelo em aplicações de alto risco na biologia.
O relatório de segurança prometido para os próximos dias será o teste real dessa abordagem: ele precisará detalhar quais ameaças foram testadas e quais limites o modelo manteve.
Por que o risco biológico preocupa mais que o cibernético
Ameaças cibernéticas dependem de infraestrutura: servidores, redes, dispositivos conectados. Uma falha pode ser isolada, um sistema pode ser desligado, um ataque pode ser contido. O risco biológico não funciona assim. Um patógeno liberado não tem botão de desligar.
Yao aponta que a IA já demonstrou capacidade de acelerar descobertas em biologia, o que é positivo para medicina e pesquisa.
O mesmo conjunto de habilidades, aplicado sem restrições, pode ser usado para identificar ou modificar agentes patogênicos. A diferença entre os dois usos está nos dados de treinamento e nos controles aplicados, não na arquitetura do modelo.
O alerta do cientista-chefe da Tencent chega em um momento em que laboratórios de todo o mundo disputam liderança em modelos de fronteira, e a pressão por lançamentos rápidos pode competir com ciclos de avaliação de segurança mais longos.
A divulgação do relatório de segurança do Hy4 nos próximos dias será acompanhada de perto por quem monitora esse equilíbrio.
Perguntas frequentes
O que é a técnica de “Abliteration” e por que ela é perigosa?
“Abliteration” é um método que remove os filtros de segurança de modelos de IA de código aberto de forma cirúrgica, sem comprometer o resto do modelo. O resultado são variantes sem restrições que podem ser distribuídas publicamente. As proteções atuais dificultam, mas não impedem esse processo.
O modelo Hy4 da Tencent já está disponível para download?
A Tencent anunciou que pretende liberar os pesos do Hy4 e um relatório de testes de segurança nos próximos dias após o lançamento ocorrido em 4 de novembro de 2026. Os pesos ainda não foram disponibilizados no momento do alerta de Yao.
Qual é a diferença entre excluir dados de treinamento e adicionar filtros ao modelo?
Filtros adicionados depois do treinamento podem ser removidos por técnicas como a “Abliteration”. Excluir o conhecimento perigoso dos dados de treinamento impede que o modelo aprenda a informação em primeiro lugar, tornando a remoção de filtros irrelevante para aquele tipo de risco.
