Les tendances des réseaux sociaux alimentent la surveillance par IA, la militarisation et l'avenir de la haine ciblée

L'évolution du divertissement : des filtres faciaux à la collecte de données

Avant qu'Instagram ne devienne le fil d'actualité soigneusement organisé de contenu généré par IA que nous connaissons aujourd'hui, les gens jouaient avec des versions modifiées de leur propre visage sur TikTok. Son filtre de vieillissement, qui montrait en temps réel le processus de vieillissement des personnes à l'écran, s'est rapidement répandu sur les plateformes. Ce qui semblait être un divertissement inoffensif est devenu un vaste ensemble de données pour entraîner les modèles d'IA à reconnaître les schémas de vieillissement humain. Les grandes entreprises technologiques monétisent l'attention en extrayant des schémas comportementaux, des préférences et des données biométriques extraites via des photos, les alimentant dans des algorithmes qui affinent la machinerie prédictive du capitalisme de surveillance.

Avec le temps, cette infrastructure d'interaction « gratuite » devient un manuel de formation pour développer des technologies plus invasives utilisant les images que les utilisateurs téléchargent pour se sentir vus ou validés, qui apprennent aux machines à nous voir mieux que nous ne nous voyons nous-mêmes. Appliquée à l'IA générative, cette dynamique ne s'arrête plus aux activités familiales amusantes, à la publicité, à la curation de contenu ou même à l'annotation de données ; elle s'étend plutôt à la formation de systèmes capables de prédire et de suivre avec précision les identités humaines au fil du temps, transformant la connexion en contrôle.

#10YearChallenge : nostalgie innocente ou surveillance de masse ?

La logique du profit par l'extraction de données s'étend de manière transparente aux tendances virales des réseaux sociaux qui déguisent la surveillance en jeu. Prenons l'infâme tendance #10YearChallenge ou #MeAt20 qui a inondé les fils Twitter vers 2019, incitant les gens à exhiber leur « glow-up » décennal avec des preuves photographiques. Ce qui semble être un exercice inoffensif de nostalgie pourrait être un effort massif pour soumettre volontairement des données. Ces tendances se font passer pour des actes de créativité ou de souvenir, mais sont en réalité des pièges de nostalgie conçus qui attirent les utilisateurs sous couvert de connexion émotionnelle tout en récoltant des données biométriques intimes.

Plus récemment, avec la commercialisation de l'IA générative, les plateformes de réseaux sociaux sont saturées d'images générées par IA qui brouillent les frontières entre mémoire réelle et manipulation. Google Gemini semble mener cette vague commerciale, impulsant des tendances qui transforment les photos de mariage en art de style Ghibli, ou la dernière mise à jour, Nano Banana, permet aux utilisateurs de générer des images de type Polaroid d'eux-mêmes avec leur moi plus jeune, un béguin de célébrité, ou même un parent décédé. Chaque interaction déforme davantage notre perception de la réalité, permettant aux systèmes d'IA de perfectionner cette illusion à chaque nouvelle image qu'ils génèrent.

Du divertissement contre données à la militarisation de l'identité

Le prix de la participation, bien qu'invisible, est loin d'être gratuit. Chaque image téléchargée, par exemple, pour générer une image Polaroid de soi avec son moi plus jeune, alimente les vastes pipelines de données qui entraînent l'IA à reconnaître les schémas d'apparence humaine au fil du temps, c'est-à-dire de l'enfance à l'âge adulte – des informations qui se retrouvent désormais entre les mains de quiconque est prêt à payer pour y accéder. La recherche sur les modèles d'estimation de l'âge facial montre que de grands ensembles de données d'images faciales annotées par âge ou vieillies sont déjà utilisés pour former des modèles à reconnaître comment les individus vieillissent selon les ethnies et sont utiles dans la « surveillance intelligente » et d'autres industries.

Stratégiquement et d'un point de vue économique, les tendances des réseaux sociaux telles que les images de style Polaroid ou le précédent #10YearChallenge semblent être un mécanisme idéal pour encourager les gens à contribuer à des données accessibles au public qui peuvent aider à combler les lacunes de recherche sur la façon dont les gens vieillissent dans différentes conditions, et permettre aux entreprises de récupérer ces données sans conséquence afin de former des modèles d'IA qui sont utilisés bien au-delà de simples requêtes textuelles ou d'images. Les applications de ces ensembles de données et des modèles d'IA entraînés qui en résultent sont tout aussi vastes – beaucoup s'aventurent dans le maintien de l'ordre, y compris la mise en œuvre aux frontières et dans les forces de l'ordre pour le profilage au nom de l'« évaluation prédictive des menaces », ainsi que dans les technologies militarisées pour surveiller et cibler des individus à différents stades de leur vie.

Des réseaux sociaux aux listes de cibles : l'IA dans la guerre

Ce qui commence comme un moment culturel de connexion à travers des images renforce finalement l'infrastructure du capitalisme de surveillance et se lie directement aux applications militarisées des technologies d'identité prédictive. Par exemple, des recherches ont exploré la grande variété d'applications potentielles de l'IA dans les contextes de défense – des drones autonomes à l'identification de cibles – soulignant la nécessité d'une élaboration de politiques informée par les attitudes du public pour garantir une gouvernance responsable. Un exemple pratique de cette application a été documenté en Palestine, où les forces de défense israéliennes ont utilisé des systèmes alimentés par l'IA comme Lavender, Where's Daddy, et d'autres pour préparer une « liste de cibles » et cibler les Palestiniens.

Les enquêteurs ont découvert que les opérateurs approuvaient parfois une frappe en seulement 20 secondes. Ces technologies, en partie, ont été rendues possibles par des entreprises technologiques comme Google qui accordent aux forces de défense israéliennes (FDI) l'accès aux données de reconnaissance faciale de Google Photos pour instrumentaliser la soi-disant liste de cibles contre les Palestiniens. Dans ce contexte, les tendances des réseaux sociaux qui génèrent de grandes quantités de données biométriques (y compris le vieillissement) deviennent plus que des curiosités culturelles et se transforment en matériel de formation pour des modèles capables de réidentifier, prédire et suivre les individus au fil du temps. Alors que la surveillance biométrique migre du maintien de l'ordre aux frontières et dans les villes vers la guerre, les implications pour les communautés déjà soumises au profilage, en particulier dans les pays du Sud, deviennent d'autant plus sinistres.

L'essor de l'IA militarisée et de la haine ciblée

Le travail des vérificateurs de faits est devenu considérablement plus difficile pendant le génocide en Palestine, car l'occupation israélienne s'est fortement appuyée sur l'intelligence artificielle pour diffuser des informations erronées. La guerre d'extermination actuelle a marqué un tournant dans la propagation de la désinformation, l'intelligence artificielle jouant un rôle central. Les médias israéliens et les institutions officielles ont employé une armée de comptes de soutien et de faux comptes, exploitant l'un des outils du monde de l'intelligence artificielle, à savoir les faux comptes pilotés par l'intelligence artificielle, connus sous le nom de bots. Ces bots étaient programmés pour publier des commentaires et des articles soutenant l'occupation et sapant les droits des Palestiniens sur diverses plateformes, en particulier Facebook, X et Instagram.

Le 29 mai, Meta a signalé la suppression d'un réseau de centaines de faux comptes liés à une entreprise israélienne nommée STOIC, basée à Tel Aviv. Ces comptes, pilotés par l'IA, étaient utilisés pour amplifier la propagande israélienne et diffuser des affirmations fallacieuses, ciblant particulièrement les publics arabophones. Un jour plus tard, le 30 mai, OpenAI, le développeur de ChatGPT, a annoncé avoir banni un autre groupe de comptes exploités par la même entreprise. Ces comptes avaient utilisé l'IA pour se faire passer pour des étudiants juifs et des citoyens afro-américains afin de rendre leurs messages plus authentiques et diversifiés. Cette militarisation de l'IA s'étend au-delà de la désinformation pour alimenter directement la haine ciblée, car les faux comptes amplifient les discours diviseurs et sèment la discorde.

L'algorithme auto-entretenu : de la collecte à l'exploitation

À ce stade, il n'importe plus de savoir si quelqu'un a participé à une tendance spécifique des réseaux sociaux contribuant aux ensembles de données d'entraînement pour les modèles d'IA. La réalité est qu'une fois suffisamment de données collectées, les outils d'apprentissage automatique peuvent prédire les schémas de vieillissement humain avec peu d'apport supplémentaire et avec une grande précision. En d'autres termes, le pool saturé de contributions d'images volontaires peut inciter à un passage de la collecte de données à l'exploitation des données, où les algorithmes deviennent auto-entretenus, ne nécessitant qu'un minimum de nouvelles entrées pour générer des prédictions de grande portée. Cela se produit dans un pays où le droit à la vie privée est faible et la surveillance numérique minimale. Le partage volontaire d'images vieillies peut facilement alimenter des outils prédictifs émergents, avec des conséquences réelles pour la surveillance, le profilage et le contrôle social.

Il est dans le domaine du possible que la technologie de surveillance de qualité militaire activée par l'IA, qui identifie avec précision les individus au fil du temps à mesure qu'ils vieillissent, puisse être militarisée dans un pays où l'attention des décideurs politiques et des forces de l'ordre est de contrôler les citoyens plutôt que de les protéger, où l'État a déjà dépensé des millions de dollars en technologie de surveillance de qualité militaire à utiliser contre les civils au nom de la « sécurité nationale ». Ce qui semble anodin aujourd'hui sous forme de filtres de vieillissement, de tendances nostalgiques ou de partage d'images renforcera les systèmes d'oppression existants pour demain. La fusion des tendances des réseaux sociaux, de la surveillance par IA et de la militarisation représente un changement profond dans la façon dont nos empreintes numériques sont exploitées, ouvrant finalement la voie à une haine ciblée qui sape les fondements mêmes des sociétés démocratiques.