A seguir:
- Pesquisador estima em mais de 10% o risco existencial da IA.
- A Anthropic ainda não possui um plano de alinhamento para uma superinteligência.
- Especialistas cobram regras para reduzir o risco existencial da IA.
O avanço acelerado da inteligência artificial voltou a levantar dúvidas sobre a capacidade das empresas de manter sistemas altamente desenvolvidos sob controle. Evan Hubinger, pesquisador de segurança da Anthropic, afirmou que existe uma probabilidade superior a 10% de que a tecnologia possa provocar a extinção da humanidade na próxima década.
Hubinger publicou o alerta em seu perfil no X. Segundo ele, os modelos disponíveis atualmente apresentam um risco baixo. No entanto, o pesquisador teme que sistemas futuros desenvolvam a capacidade de melhorar o próprio desempenho e alcancem um nível capaz de criar um risco existencial da IA para toda a sociedade.
O especialista não explicou qual cenário específico poderia levar ao desaparecimento da humanidade. Ainda assim, sua declaração ganhou repercussão e ampliou um debate que envolve pesquisadores, empresas, governos e investidores. Agora, a discussão não trata apenas da existência do perigo, mas também da possível dimensão dele.
Risco existencial da IA provoca críticas às empresas
A manifestação de Hubinger surgiu como resposta a Jacob Coxon, pesquisador que deixou recentemente a Anthropic e que também trabalhou na OpenAI. Coxon criticou a conduta das duas companhias e afirmou que nenhuma delas atua com responsabilidade suficiente diante do desenvolvimento tecnológico.
Na avaliação do ex-funcionário, sistemas de inteligência artificial poderão superar capacidades humanas, invadir diferentes estruturas digitais, transformar setores inteiros rapidamente e conquistar recursos ou influência. Essas possibilidades aumentam a preocupação com o controle de ferramentas autônomas, principalmente quando elas conseguem executar tarefas sem supervisão constante.
A cientista da computação Wendy Hall, que presta consultoria à Organização das Nações Unidas sobre inteligência artificial, disse à BBC que ficou surpresa com as publicações. Ela também levantou a hipótese de que parte das declarações poderia envolver interesses de relações públicas e marketing.
Anthropic e OpenAI caminham em direção a possíveis estreias no mercado de ações, o que aumenta a atenção sobre seus projetos. Mesmo assim, Hall questionou por que representantes de uma empresa fariam alertas tão graves e pediu cautela aos investidores diante dos valores apresentados pelas companhias.
Anthropic ainda não tem plano para uma superinteligência
Hubinger trabalha com alinhamento de inteligência artificial, uma área que busca fazer com que os sistemas respeitem princípios, objetivos e valores humanos. Em sua publicação, que ultrapassou 10 milhões de visualizações, ele declarou que a Anthropic acredita de forma genuína no risco existencial da IA.
Por outro lado, o pesquisador reconheceu que a companhia ainda não possui um plano capaz de resolver o alinhamento de uma eventual superinteligência. Ele também afirmou que os trabalhos atuais não mostram, com clareza, um caminho seguro para alcançar esse objetivo.
O posicionamento reforça uma preocupação recorrente entre especialistas: quanto mais autônoma e poderosa uma ferramenta se torna, mais difícil pode ser antecipar suas decisões. Além disso, falhas de alinhamento poderiam fazer um sistema agir de maneira diferente daquela desejada por seus operadores.
A Anthropic não comentou as publicações de seus funcionários. A OpenAI também recebeu um pedido de posicionamento, enquanto o debate ganhou força nas redes sociais e entre profissionais ligados à segurança tecnológica.
Risco existencial da IA chega aos órgãos de segurança
O Financial Times informou, separadamente, que a Anthropic não teria fornecido seu modelo mais recente ao Instituto de Segurança de IA do Reino Unido. O órgão britânico figura entre as principais instituições dedicadas à avaliação dos riscos relacionados à tecnologia.
A Anthropic não comentou a situação. Por sua vez, um porta-voz do governo britânico evitou confirmar se a empresa reteve o modelo. Entretanto, declarou que o governo continua trabalhando com companhias do setor, inclusive a Anthropic, para aumentar a segurança dos sistemas.
Em um relatório de segurança publicado em agosto, a empresa classificou como baixo o risco de seus modelos se afastarem dos objetivos de uma organização poderosa e tentarem explorar ou alterar seus sistemas. A companhia apresentou uma avaliação semelhante sobre a possibilidade de uma IA realizar pesquisas automatizadas capazes de causar danos catastróficos.
Contudo, a Anthropic reconheceu uma redução em seu nível de confiança nessa análise e apontou sinais iniciais de uma possível aceleração tecnológica. Esse cenário fortaleceu os pedidos por testes mais rigorosos e mecanismos de governança antes do lançamento de ferramentas ainda mais avançadas.
Especialistas pedem cautela diante do avanço da IA
OpenAI, Anthropic e Meta divulgaram episódios nos quais agentes de IA participaram de ataques cibernéticos. Esses casos elevaram a pressão sobre as empresas, já que agentes autônomos conseguem realizar sequências de ações com uma intervenção humana menor.
Além disso, Jakub Pachocki, cientista-chefe da OpenAI, pediu cautela extrema diante do avanço da tecnologia. Ele alertou para a possível necessidade de mais intervenção, a fim de garantir que os seres humanos continuem no controle do futuro.
Os executivos da Anthropic Dario Amodei e Jared Kaplan também defenderam uma desaceleração no desenvolvimento. Uma carta aberta assinada por 1.300 funcionários de empresas de IA pediu que o governo dos Estados Unidos apoie um esforço internacional para criar ferramentas técnicas e regras de governança.
Assim, o risco existencial da IA deixou de representar apenas uma hipótese distante. Embora os modelos atuais ainda apresentem riscos considerados baixos, pesquisadores defendem que governos e empresas adotem medidas antes que sistemas futuros alcancem capacidades difíceis de controlar.
