Tendenze dei Social Media Alimentano la Sorveglianza AI, la Militarizzazione e il Futuro dell'Odio Mirato

L'evoluzione del divertimento: dai filtri facciali alla raccolta dati

Prima che Instagram si trasformasse nel feed curato di contenuti generati dall'IA che vediamo oggi, le persone giocavano con versioni alterate dei propri volti su TikTok. Il suo filtro di invecchiamento, che mostrava il processo di invecchiamento in tempo reale sullo schermo, si è rapidamente diffuso tra le piattaforme. Quello che sembrava un divertimento innocuo è diventato un enorme set di dati per addestrare modelli di IA a riconoscere i modelli di invecchiamento umano. Le Big Tech monetizzano l'attenzione estraendo modelli comportamentali, preferenze e dati biometrici ottenuti tramite foto, alimentando algoritmi che perfezionano il macchinario predittivo del capitalismo della sorveglianza.

Col tempo, questa infrastruttura di interazione "gratuita" diventa un manuale di addestramento per costruire tecnologie più invasive utilizzando le immagini che gli utenti caricano per sentirsi visti o convalidati, che insegnano alle macchine a vederci meglio di quanto noi vediamo noi stessi. Quando applicata all'IA generativa, questa dinamica non si ferma più ad attività familiari divertenti, pubblicità, curation di contenuti o persino annotazione di dati; invece, si espande in sistemi di addestramento in grado di prevedere e tracciare accuratamente le identità umane nel tempo, trasformando la connessione in controllo.

#10YearChallenge: nostalgia innocente o sorveglianza di massa?

La logica del profitto attraverso l'estrazione di dati si estende perfettamente alle tendenze virali dei social media che mascherano la sorveglianza come gioco. Prendi la famigerata #10YearChallenge o le tendenze #MeAt20 che hanno invaso le timeline di Twitter intorno al 2019, spingendo le persone a mostrare il loro "glow-up" decennale con prove fotografiche. Quello che sembra un esercizio innocuo di nostalgia potrebbe essere uno sforzo di massa per inviare dati volontariamente. Queste tendenze si mascherano da atti di creatività o ricordo, ma sono in realtà trappole di nostalgia ingegnerizzate che attirano gli utenti sotto la veste di connessione emotiva mentre raccolgono dati biometrici intimi.

Più recentemente, con la commercializzazione dell'IA generativa, le piattaforme di social media sono sature di immagini generate dall'IA che offuscano i confini tra memoria reale e manipolazione. Google Gemini sembra guidare questa ondata commerciale, guidando tendenze che trasformano le foto di nozze delle persone in arte in stile Ghibli, o l'ultimo aggiornamento, Nano Banana, consente agli utenti di generare immagini in stile Polaroid di se stessi con il proprio sé più giovane, una cotta famosa o persino un parente defunto. Ogni interazione distorce ulteriormente la nostra percezione della realtà, permettendo ai sistemi di IA di perfezionare quell'illusione con ogni nuova immagine che generano.

Dal divertimento ai dati per militarizzare l'identità

Il prezzo della partecipazione, sebbene invisibile, è tutt'altro che gratuito. Ogni immagine caricata, ad esempio, per generare un'immagine Polaroid di sé stessi con il proprio sé più giovane, alimenta i vasti pipeline di dati che addestrano l'IA a riconoscere modelli nell'aspetto umano nel tempo, cioè dall'infanzia all'età adulta – informazioni che ora sono nelle mani di chiunque sia disposto a pagare per l'accesso. La ricerca sui modelli di stima dell'età facciale mostra che grandi set di dati di immagini facciali annotate per età o con invecchiamento progressivo sono già utilizzati per addestrare modelli a riconoscere come gli individui invecchiano attraverso le etnie e sono utili nella "sorveglianza intelligente" e in altri settori.

Strategicamente e da un punto di vista economico, le tendenze dei social media come le immagini in stile Polaroid o la precedente #10YearChallenge sembrano essere un meccanismo ideale per incoraggiare le persone a contribuire con dati pubblicamente disponibili che possono aiutare a colmare le lacune di ricerca su come le persone invecchiano in condizioni diverse e consentire alle aziende di raschiare quei dati senza conseguenze per addestrare modelli di IA che vengono utilizzati ben oltre le semplici query di testo o immagini. Le applicazioni di tali set di dati e dei modelli di IA addestrati risultanti sono altrettanto vaste – molte si avventurano nella polizia, inclusa l'implementazione alle frontiere e nelle forze dell'ordine per la profilazione in nome della "valutazione predittiva delle minacce", così come nelle tecnologie militarizzate per sorvegliare e prendere di mira individui in diverse fasi del ciclo di vita.

Dai social media alle liste di eliminazione: l'IA nella guerra

Ciò che inizia come un momento culturale di connessione attraverso le immagini rafforza infine l'infrastruttura del capitalismo della sorveglianza e si collega direttamente alle applicazioni militarizzate delle tecnologie di identità predittiva. Ad esempio, la ricerca ha esplorato l'ampia varietà di potenziali applicazioni dell'IA in contesti di difesa – dai droni autonomi all'identificazione dei bersagli – sottolineando la necessità di politiche informate dagli atteggiamenti pubblici per garantire una governance responsabile. Un esempio pratico di questa applicazione è stato documentato in Palestina, dove le Forze di Difesa Israeliane hanno utilizzato sistemi basati sull'IA come Lavender, Where's Daddy e altri per preparare una "lista di eliminazione" e prendere di mira i palestinesi.

Gli investigatori hanno scoperto che gli operatori a volte approvavano un attacco in appena 20 secondi. Queste tecnologie, in parte, sono state rese possibili da aziende Big Tech come Google che concedono alle Forze di Difesa Israeliane (IDF) l'accesso ai dati di riconoscimento facciale di Google Foto per strumentalizzare la cosiddetta lista di eliminazione contro i palestinesi. In questo contesto, le tendenze dei social media che generano enormi quantità di dati biometrici (incluso l'invecchiamento progressivo) diventano più che stranezze culturali e si trasformano in materiale di addestramento per modelli che possono reidentificare, prevedere e tracciare individui nel tempo. Mentre la sorveglianza biometrica migra dalla polizia alle frontiere e nelle città alla guerra, le implicazioni per le comunità già soggette a profilazione, specialmente nel Sud del mondo, diventano ancora più sinistre.

L'ascesa dell'IA armata e dell'odio mirato

Il lavoro dei fact-checker è diventato significativamente più difficile durante il genocidio in Palestina, poiché l'occupazione israeliana ha fatto molto affidamento sull'intelligenza artificiale per diffondere disinformazione. L'attuale guerra di sterminio ha segnato un punto di svolta nella diffusione della disinformazione, con l'intelligenza artificiale che ha giocato un ruolo centrale. I media israeliani e le istituzioni ufficiali hanno impiegato un esercito di account di supporto e account falsi, sfruttando uno degli strumenti del mondo dell'intelligenza artificiale, ovvero account falsi guidati dall'intelligenza artificiale, noti come bot. Questi bot sono stati programmati per pubblicare commenti e articoli a sostegno dell'occupazione e minare i diritti palestinesi su varie piattaforme, in particolare Facebook, X e Instagram.

Il 29 maggio, Meta ha riferito della rimozione di una rete di centinaia di account falsi collegati a un'azienda israeliana di nome STOIC, con sede a Tel Aviv. Questi account, guidati dall'IA, sono stati utilizzati per amplificare la propaganda israeliana e diffondere affermazioni false, prendendo di mira in particolare il pubblico di lingua araba. Un giorno dopo, il 30 maggio, OpenAI, lo sviluppatore di ChatGPT, ha annunciato di aver bandito un altro gruppo di account gestiti dalla stessa azienda. Questi account avevano utilizzato l'IA per impersonare studenti ebrei e cittadini afroamericani nel tentativo di rendere i loro messaggi autentici e diversificati. Questa armatura dell'IA si estende oltre la disinformazione per alimentare direttamente l'odio mirato, poiché gli account falsi amplificano la retorica divisiva e seminano discordia.

L'algoritmo autosufficiente: dalla raccolta allo sfruttamento

A questo punto, non importa più se qualcuno ha partecipato a una specifica tendenza dei social media contribuendo ai set di dati di addestramento per i modelli di IA. La realtà è che una volta raccolti dati sufficienti, gli strumenti di machine learning possono prevedere i modelli di invecchiamento umano con pochi input aggiuntivi e con alta precisione. In altre parole, il pool saturo di contributi volontari di immagini potrebbe portare a un passaggio dalla raccolta dati allo sfruttamento dei dati, dove gli algoritmi diventano autosufficienti, richiedendo solo input minimi per generare previsioni di vasta portata. Questo sta accadendo in un paese dove il diritto alla privacy è debole e la supervisione digitale è minima. Condividere volontariamente immagini con invecchiamento progressivo può facilmente alimentare strumenti predittivi emergenti, con conseguenze reali per sorveglianza, profilazione e controllo sociale.

È nel regno delle possibilità che la tecnologia di sorveglianza di grado militare abilitata dall'IA, che identifica accuratamente gli individui nel tempo mentre invecchiano, possa essere armata in un paese dove l'attenzione dei politici e delle forze dell'ordine è controllare i cittadini piuttosto che proteggerli, in cui lo stato ha già speso milioni di dollari in tecnologia di sorveglianza di grado militare da usare contro i civili in nome della "sicurezza nazionale". Ciò che appare innocuo oggi sotto forma di filtri di invecchiamento, tendenze nostalgiche o condivisione di immagini rafforzerà i sistemi di oppressione esistenti per domani. La fusione di tendenze dei social media, sorveglianza AI e militarizzazione rappresenta un cambiamento profondo nel modo in cui le nostre impronte digitali vengono sfruttate, aprendo infine la strada all'odio mirato che mina il tessuto stesso delle società democratiche.