O WIRED analisou o código do app Meta AI e encontrou um sistema funcional de reconhecimento facial chamado “NameTag”. Três modelos de IA já estão nos celulares de usuários. A Meta confirma a existência, mas diz que nada foi ativado para o público.
A seguir:
- Como o NameTag funciona, o que ele coleta e por que pesquisadores dizem que falta pouco para ser ativado
- O histórico da Meta com reconhecimento facial: dois bilhões de faceprints deletados em 2021, US$2 bilhões em acordos judiciais
- O que muda quando reconhecimento facial entra num wearable que parece óculos comuns
O app Meta AI foi baixado mais de 50 milhões de vezes. É o aplicativo necessário para usar os óculos inteligentes Ray-Ban e Oakley da empresa. Dentro dele, silenciosamente distribuído em atualizações ao longo deste ano, existe um sistema de reconhecimento facial que a Meta nunca anunciou publicamente.
O nome interno é NameTag. Ele não está ativo. Mas, segundo dois pesquisadores independentes que reproduziram a análise, faltam poucas peças para que esteja.
O que o NameTag faz, tecnicamente
O sistema funciona em três etapas. Um modelo de IA detecta rostos capturados pela câmera dos óculos. Um segundo modelo recorta a imagem. Um terceiro converte o rosto em dados biométricos, chamados de faceprints, e os compara com uma galeria armazenada no próprio celular do usuário.
A funcionalidade é capaz de capturar rostos usando a câmera dos óculos e notificar o usuário quando reconhece uma pessoa previamente capturada. Rostos não reconhecidos são recortados, indexados e salvos numa pasta marcada como “pendente.”
O pesquisador de segurança Buchodi, que analisou o pipeline de reconhecimento de forma independente, testou o sistema com a imagem do filósofo francês Michel Foucault. Após adicionar o faceprint à galeria e acionar o NameTag, o app respondeu: “Person recognized.”
“Os principais componentes de um recurso de reconhecimento facial já estão no app da Meta”, diz Buchodi. “Não faltam muitas peças para ter uma funcionalidade operacional.”
O que a Meta diz
O porta-voz da Meta, Ryan Daniels, enviou declaração ao WIRED:
“O que você está vendo é simplesmente evidência dessa exploração. Nada foi distribuído para consumidores e nenhuma decisão final foi tomada. Se decidirmos lançar algo, faremos com uma abordagem cuidadosa e com total transparência. Uma decisão que podemos deixar clara: não estamos construindo um banco de dados central de rostos.”
Mas a análise do WIRED mostra que o sistema NameTag já está configurado para puxar faceprints dos servidores da Meta e armazená-los nos dispositivos dos usuários. Em abril deste ano, um porta-voz diferente da empresa havia dito que, caso utilizasse reconhecimento facial, “não seria implementado sem antes tomar uma abordagem muito cuidadosa.” O código já estava integrado ao app desde janeiro.
O histórico que torna o caso mais delicado
A Meta não está chegando a esse território pela primeira vez. Em 2010, o Facebook lançou um sistema de marcação de fotos por reconhecimento facial que chegou a um bilhão de usuários. As críticas foram imediatas. Reguladores europeus e americanos questionaram a coleta de dados biométricos sem consentimento claro.
Em 2019, a empresa pagou US$5 bilhões ao FTC para encerrar um processo mais amplo que incluía questões de reconhecimento facial. Em novembro de 2021, anunciou que encerraria o sistema e deletaria mais de um bilhão de faceprints.
Pagou ainda US$650 milhões para resolver uma ação coletiva de usuários de Illinois, e em 2024 fechou acordo de US$1,4 bilhão com o Texas por coleta ilegal de dados biométricos.
A retirada de 2021 nunca foi vista internamente como definitiva. Joseph Jerome, ex-oficial de políticas da Meta Reality Labs, confirma que sempre existiu a tensão de quando reverter o reconhecimento facial:
“Quando voltamos a implementar reconhecimento facial?”
Por que óculos mudam o risco
Câmeras de segurança são visíveis. Celulares levantados na direção de alguém são perceptíveis. Óculos inteligentes que parecem óculos comuns são outra coisa.
Os Ray-Ban Meta têm uma luz indicadora que acende ao gravar, por padrão. Mas existem formas de desativá-la, tornando o dispositivo visualmente indistinguível de óculos convencionais. Adicionar reconhecimento facial a esse hardware significa que qualquer pessoa na rua poderia, potencialmente, identificar silenciosamente quem passa ao lado.
Mais de 70 organizações, incluindo a ACLU e a Electronic Frontier Foundation, já haviam pedido formalmente à Meta em abril que abandonasse o NameTag, alertando que a tecnologia poderia ser usada por stalkers, abusadores e agentes de imigração para identificar pessoas em espaços públicos sem consentimento.
Cooper Quintin, pesquisador sênior da EFF que analisou o código de forma independente, foi direto:
“Apesar dos bilhões de razões para não fazer isso, a Meta parece ter criado a capacidade de transformar seus clientes numa máquina de vigilância distribuída.”
A Meta enfrenta também uma ação coletiva federal alegando que vendeu os óculos Ray-Ban com promessas explícitas de privacidade, enquanto enviava imagens para revisores humanos no exterior por um pipeline do qual os compradores não podiam se retirar.
Por fim, o debate não é só sobre o que a Meta vai ou não ativar. Como aponta Woodrow Hartzog, professor de direito de privacidade da Universidade de Boston, ao colocar a tecnologia no ecossistema, a empresa define normas.
“Quanto mais esses sistemas são implantados, mais as pessoas passam a vê-los como algo normal. E quanto mais normais parecem, mais as pessoas ajustam seus julgamentos morais sobre ser identificada pelo rosto.”
