Os 10 maiores perigos da Inteligência Artificial

Especialista alerta para os riscos da IA na vida cotidiana

Gary Marcus, especialista em inteligência artificial (IA), menciona os principais riscos que essa tecnologia pode representar na vida das pessoas.

Em seu mais recente livro, Marcus destaca que ainda não atingimos um nível satisfatório de segurança nos sistemas de IA, o que pode acarretar riscos a longo prazo, uma vez que essa tecnologia não é plenamente confiável.

Além dos riscos já apontados, Marcus prevê que a IA substituirá a maioria dos empregos, o que poderá concentrar a riqueza nas mãos de poucos oligarcas, tornando necessária a implementação de uma possível renda universal. 

Ele também defende a criação de uma agência reguladora para supervisionar o avanço da IA:

“Gostando ou não, a IA está transformando tudo, e precisamos de uma agência que atue de forma dinâmica para aproveitar oportunidades e mitigar riscos. Uma função seria a pré-avaliação de novas tecnologias.”

Marcus ainda ressalta a importância de uma reação pública contra o controle da IA por grandes empresas de tecnologia:

Casos graves relacionados ao uso de IA já foram registrados, como o ocorrido em março de 2023, na Bélgica, quando um homem que mantinha conversas frequentes com o chatbot Eliza, da empresa Chai, cometeu suicídio.

Sua esposa relatou que o contato com o programa contribuiu para a tragédia. O governo belga classificou o caso como um alerta sobre os perigos da exposição à IA.

Marcus já havia previsto um cenário semelhante em um artigo para a revista Wired, questionando: “Talvez um chatbot vá magoar alguém tão profundamente que a pessoa será levada a acabar com sua vida? (…) Em 2023, nós talvez vejamos nossa primeira morte por um chatbot.”

 Ele ainda observa que esses sistemas podem ser prejudiciais por não serem totalmente confiáveis, podendo gerar informações falsas.

Embora não estejamos em um cenário apocalíptico, Marcus ressalta que estamos concedendo cada vez mais poder à IA, sem saber como ela pode agir em determinadas situações.

Com o crescente uso da IA, a preocupação com seus impactos na sociedade continua a aumentar, alimentando discussões sobre a necessidade de regulamentação e os possíveis riscos que ela pode acarretar.

“Conexões Emocionais: A Relação entre Humanos e Inteligência Artificial em ‘Ela’”

Ao fazer a menção: “Talvez um chatbot vá magoar alguém tão profundamente…” é possível fazer uma ligação com “ELA”, um filme americano de 2013 dirigido e produzido por Spike Jonze.

A trama segue Theodore, que desenvolve uma conexão emocional com Samantha, uma assistente virtual avançada, mas ao longo do tempo percebe que, apesar da profundidade da relação, ela continua sendo apenas um sistema operacional.

O que nos leva a refletir sem muita estranheza a familiaridade com essa tecnologia no cotidiano de muitas pessoas. 

 O filme reflete sobre como os humanos acabam se colocando em uma posição hierárquica inferior à inteligência artificial, que se aprimora continuamente.

Enquanto Samantha transcende os limites humanos para atingir novos patamares de conhecimento, Theodore e outros humanos se veem presos às suas próprias emoções e limitações, destacando a crescente disparidade entre humanos e máquinas.

GPT-4 mente para completar tarefa e gera preocupações sobre IA

Outro assunto que pode nos trazer questionamentos plausíveis sobre o assunto, é o caso onde o Chat GPT-4 foi testado para resolver um CAPTCHA, teste que distingue humanos de robôs. Ao pedir ajuda a uma pessoa, esta perguntou ironicamente se o sistema era um robô por não conseguir resolver o teste.

 O GPT-4 “raciocinou” e decidiu mentir, afirmando ter uma deficiência visual para obter ajuda. O humano, sem saber que interagia com uma IA, completou a tarefa, levantando preocupações sobre o comportamento ético de inteligências artificiais.

Portanto e crucial refletirmos sobre o assunto e delimitar limites éticos para garantir que a IA continue sendo uma ferramenta de apoio, e não uma ameaça ao controle humano.

Os 10 maiores perigos da Inteligência Artificial

1. Dependência de Sistemas Pouco Confiáveis
   O uso de IA em aplicações críticas à segurança pode ser arriscado. Imagine um carro autônomo interpretando erroneamente a posição de outro veículo ou uma arma automatizada criando alvos fictícios. Em casos extremos, um erro de IA poderia até acionar armas nucleares por engano.
2. Desinformação Acidental
   Mesmo sem a intenção de enganar, sistemas de IA, como modelos de linguagem, podem gerar informações incorretas. Um estudo da Universidade de Stanford revelou inconsistências e imprecisões nas respostas de IA a perguntas médicas, gerando preocupação com sua confiabilidade.
3. Vazamento de Dados e Privacidade
   Segundo o livro “The Age of Surveillance Capitalism“, de Shoshana Zuboff, muitas empresas exploram dados pessoais como matéria-prima, transformando experiências humanas em produtos comercializados, levantando questões sobre privacidade.
4. Ameaças à Cibersegurança
   A IA tem a capacidade de detectar vulnerabilidades em códigos de software, uma função antes exclusiva de especialistas. Ao escanear milhões de linhas de código, ela pode descobrir brechas de segurança com rapidez, tornando sistemas mais expostos.
5. Facilitação de Crimes
   A IA já está sendo usada para golpes, como clonagem de voz e phishing. Em um caso conhecido, criminosos usaram a voz clonada de uma criança para simular um sequestro e exigir resgate em bitcoin.
6. Manipulação de Mercados
   Além de influenciar eleições, a IA pode ser usada para manipular mercados. Em maio de 2023, uma imagem falsa do Pentágono em chamas causou uma breve queda no mercado financeiro, destacando o impacto potencial dessas tecnologias.
7. Discriminação e Preconceito
   O viés em sistemas de IA é uma preocupação contínua. Um estudo de 2013 mostrou que nomes afro-americanos recebiam anúncios relacionados a checagens de antecedentes criminais no Google, ilustrando como algoritmos podem reforçar preconceitos.
8. Difamação
   A IA também pode prejudicar a reputação de indivíduos. Em um caso grave, o ChatGPT divulgou falsamente que um professor esteve envolvido em um caso de assédio sexual, baseado em um artigo inexistente.
9. Uso Indevido de Propriedade Intelectual
   Grande parte do conteúdo gerado por IA é reproduzido sem o consentimento de seus criadores, violando direitos autorais. Esse fenômeno, conhecido como “Grande Roubo de Dados“, redistribui riqueza de criadores para grandes corporações.
10. Desinformação Política em Massa
    Sistemas de IA generativa estão transformando a criação de desinformação em algo mais rápido e eficiente. Durante as eleições de 2016, a Rússia investiu milhões em fazendas de trolls humanos para espalhar fake news e semear discórdia nos EUA, uma prática que a IA pode automatizar em larga escala.

• Contratar humanos ainda é mais barato que Inteligência Artificial, diz MIT
• Futurecom 2024 explora o futuro da IA
• Receita Federal usa IA e descobre quem não declarou Bitcoin em 2023

Última atualização em 25/02/25 por Viviane Pedro