Tendências de Mídias Sociais Alimentam Vigilância por IA, Militarização e o Futuro do Ódio Direcionado
A Evolução da Diversão: De Filtros Faciais a Coleta de Dados
Antes de o Instagram se transformar no feed curado de conteúdo gerado por IA que vemos hoje, as pessoas brincavam com versões alteradas de seus próprios rostos no TikTok. Seu filtro de progressão de idade, que mostrava o processo de envelhecimento das pessoas em tempo real na tela, rapidamente se espalhou pelas plataformas. O que parecia uma brincadeira inofensiva tornou-se um enorme conjunto de dados para treinar modelos de IA a reconhecer padrões de envelhecimento humano. As grandes empresas de tecnologia monetizam a atenção extraindo padrões comportamentais, preferências e dados biométricos obtidos por meio de fotos, alimentando algoritmos que refinam a maquinaria preditiva do capitalismo de vigilância.
Com o tempo, essa infraestrutura de interação "gratuita" se torna um manual de treinamento para construir tecnologias mais invasivas usando as imagens que os usuários enviam para se sentirem vistos ou validados, que ensinam as máquinas a nos ver melhor do que nós mesmos nos vemos. Quando aplicada à IA generativa, essa dinâmica não para mais em atividades familiares divertidas, publicidade, curadoria de conteúdo ou mesmo anotação de dados; em vez disso, expande-se para treinar sistemas que podem prever e rastrear identidades humanas com precisão ao longo do tempo, transformando conexão em controle.
#10YearChallenge: Nostalgia Inocente ou Vigilância em Massa?
A lógica do lucro por meio da extração de dados se estende perfeitamente a tendências virais de mídia social que disfarçam vigilância como diversão. Veja as infames tendências #10YearChallenge ou #MeAt20 que inundaram as timelines do Twitter por volta de 2019, incentivando as pessoas a exibir sua "transformação" de uma década com evidências fotográficas. O que parece um exercício inofensivo de nostalgia pode ser um esforço em massa para enviar dados voluntariamente. Essas tendências se disfarçam como atos de criatividade ou lembrança, mas são, na verdade, armadilhas de nostalgia projetadas que atraem os usuários sob o pretexto de conexão emocional enquanto coletam dados biométricos íntimos.
Mais recentemente, com a comercialização da IA generativa, as plataformas de mídia social estão saturadas com imagens geradas por IA que borram os limites entre memória real e manipulação. O Google Gemini parece estar liderando essa onda comercial, impulsionando tendências que transformam fotos de casamento em arte no estilo Ghibli, ou a atualização mais recente, Nano Banana, permite que os usuários gerem imagens estilo Polaroid de si mesmos com seu eu mais jovem, uma paixão de celebridade ou até mesmo um parente falecido. Cada interação distorce ainda mais nossa percepção da realidade, permitindo que os sistemas de IA aperfeiçoem essa ilusão a cada nova imagem que geram.
Diversão-Por-Dados para Militarizar a Identidade
O preço da participação, embora invisível, está longe de ser gratuito. Cada imagem enviada, por exemplo, para gerar uma imagem Polaroid de si mesmo com seu eu mais jovem, alimenta os vastos pipelines de dados que treinam a IA para reconhecer padrões na aparência humana ao longo do tempo, ou seja, da infância à idade adulta – informações que agora estão nas mãos de qualquer um disposto a pagar por acesso. Pesquisas sobre modelos de estimativa de idade facial mostram que grandes conjuntos de dados de imagens faciais anotadas por idade ou com progressão de idade já são usados para treinar modelos a reconhecer como os indivíduos envelhecem entre etnias e são úteis na "vigilância inteligente" e outras indústrias.
Estrategicamente e do ponto de vista econômico, tendências de mídia social como as imagens estilo Polaroid ou o #10YearChallenge anterior parecem ser um mecanismo ideal para incentivar as pessoas a contribuir com dados publicamente disponíveis que podem ajudar a preencher as lacunas de pesquisa sobre como as pessoas envelhecem sob diferentes condições, e permitir que as corporações raspen esses dados sem consequências para treinar modelos de IA que estão sendo usados muito além de simples consultas de texto ou imagem. As aplicações de tais conjuntos de dados e modelos de IA treinados resultantes são igualmente vastas – muitas se aventuram na polícia, incluindo implementação em fronteiras e na aplicação da lei para perfilamento em nome da 'avaliação preditiva de ameaças', bem como em tecnologias militarizadas para vigiar e alvejar indivíduos em diferentes estágios do ciclo de vida.
Das Mídias Sociais às Listas de Extermínio: IA na Guerra
O que começa como um momento cultural de conexão por meio de imagens acaba reforçando a infraestrutura do capitalismo de vigilância e se conecta diretamente às aplicações militarizadas de tecnologias de identidade preditiva. Por exemplo, pesquisas exploraram a grande variedade de aplicações potenciais da IA em ambientes de defesa – desde drones autônomos até identificação de alvos – enfatizando a necessidade de formulação de políticas informadas pelas atitudes públicas para garantir uma governança responsável. Um exemplo prático dessa aplicação foi documentado na Palestina, onde as Forças de Defesa de Israel usaram sistemas alimentados por IA como Lavender, Where's Daddy e outros para preparar uma "lista de extermínio" e alvejar palestinos.
Investigadores descobriram que operadores às vezes aprovavam um ataque em apenas 20 segundos. Essas tecnologias, em parte, foram possibilitadas por grandes empresas de tecnologia como o Google, que concede às Forças de Defesa de Israel (FDI) acesso aos dados de reconhecimento facial do Google Fotos para instrumentalizar a chamada lista de extermínio contra palestinos. Nesse contexto, as tendências de mídia social que geram grandes quantidades de dados biométricos (incluindo progressão de idade) tornam-se mais do que peculiaridades culturais e se transformam em material de treinamento para modelos que podem reidentificar, prever e rastrear indivíduos ao longo do tempo. À medida que a vigilância biométrica migra da polícia nas fronteiras e nas cidades para a guerra, as implicações para comunidades já sujeitas a perfilamento, especialmente no Sul global, tornam-se ainda mais sinistras.
A Ascensão da IA Armada e do Ódio Direcionado
O trabalho dos verificadores de fatos tornou-se significativamente mais desafiador durante o genocídio na Palestina, já que a ocupação israelense dependeu fortemente da inteligência artificial para disseminar desinformação. A atual guerra de extermínio marcou um ponto de virada na propagação de desinformação, com a inteligência artificial desempenhando um papel central. A mídia israelense e instituições oficiais empregaram um exército de contas de apoiadores e contas falsas, explorando uma das ferramentas do mundo da inteligência artificial, que são contas falsas impulsionadas por inteligência artificial, conhecidas como bots. Esses bots foram programados para postar comentários e artigos apoiando a ocupação e minando os direitos palestinos em várias plataformas, particularmente Facebook, X e Instagram.
Em 29 de maio, a Meta relatou a remoção de uma rede de centenas de contas falsas ligadas a uma empresa israelense chamada STOIC, sediada em Tel Aviv. Essas contas, impulsionadas por IA, foram usadas para amplificar a propaganda israelense e disseminar alegações falsas, especialmente direcionadas a públicos de língua árabe. Um dia depois, em 30 de maio, a OpenAI, desenvolvedora do ChatGPT, anunciou que baniu outro grupo de contas operadas pela mesma empresa. Essas contas usaram IA para se passar por estudantes judeus e cidadãos afro-americanos na tentativa de fazer suas mensagens parecerem autênticas e diversas. Essa instrumentalização da IA se estende além da desinformação para alimentar diretamente o ódio direcionado, já que contas falsas amplificam o discurso divisivo e semeiam discórdia.
O Algoritmo Autossustentável: Mudando da Coleta para a Exploração
Neste ponto, não importa mais se alguém participou de uma tendência específica de mídia social contribuindo para conjuntos de dados de treinamento de modelos de IA. A realidade é que, uma vez que dados suficientes foram coletados, ferramentas de aprendizado de máquina podem prever padrões de envelhecimento humano com pouca entrada adicional e com alta precisão. Em outras palavras, o pool saturado de contribuições voluntárias de imagens pode provocar uma mudança da coleta de dados para a exploração de dados, onde os algoritmos se tornam autossustentáveis, exigindo apenas entrada mínima nova para gerar previsões de longo alcance. Isso está ocorrendo em um país onde o direito à privacidade é fraco e a supervisão digital é mínima. Compartilhar voluntariamente imagens com progressão de idade pode facilmente alimentar ferramentas preditivas emergentes, com consequências reais para vigilância, perfilamento e controle social.
Está dentro do reino da possibilidade que a tecnologia de vigilância militar habilitada por IA, que identifica indivíduos com precisão ao longo do tempo à medida que envelhecem, possa ser armada em um país onde o foco dos formuladores de políticas e autoridades policiais é controlar os cidadãos em vez de protegê-los, no qual o estado já gastou milhões de dólares em tecnologia de vigilância de nível militar para usar contra civis em nome da 'segurança nacional'. O que parece inócuo hoje na forma de filtros de envelhecimento, tendências de nostalgia ou compartilhamento de imagens fortalecerá os sistemas existentes de opressão amanhã. A fusão de tendências de mídia social, vigilância por IA e militarização representa uma mudança profunda em como nossas pegadas digitais são exploradas, abrindo caminho para o ódio direcionado que mina o próprio tecido das sociedades democráticas.