Trendy mediów społecznościowych napędzają nadzór AI, militaryzację i przyszłość ukierunkowanej nienawiści

Ewolucja zabawy: od filtrów twarzy do zbierania danych

Zanim Instagram stał się kuratorowanym feedem treści generowanych przez AI, ludzie bawili się zmienionymi wersjami swoich twarzy na TikToku. Jego filtr starzenia, który w czasie rzeczywistym pokazywał proces starzenia się na ekranie, szybko rozprzestrzenił się na platformach. To, co wydawało się nieszkodliwą zabawą, stało się ogromnym zbiorem danych do trenowania modeli AI rozpoznających wzorce starzenia się ludzi. Big Tech monetyzuje uwagę, wydobywając wzorce behawioralne, preferencje i dane biometryczne z zdjęć, zasilając algorytmy udoskonalające predykcyjne maszyny kapitalizmu nadzoru.

Z czasem ta infrastruktura „darmowej” interakcji staje się instrukcją do budowania bardziej inwazyjnych technologii, wykorzystującą obrazy przesyłane przez użytkowników w celu poczucia bycia widzianym lub docenionym, które uczą maszyny widzieć nas lepiej niż my sami. W zastosowaniu do generatywnej AI ta dynamika nie kończy się na rodzinnych zabawach, reklamie, kuratorowaniu treści czy nawet adnotacji danych; zamiast tego rozszerza się na systemy treningowe, które mogą dokładnie przewidywać i śledzić tożsamość ludzi w czasie, przekształcając połączenie w kontrolę.

#10YearChallenge: niewinna nostalgia czy masowa inwigilacja?

Logika zysku poprzez ekstrakcję danych płynnie rozciąga się na wiralne trendy mediów społecznościowych, które maskują nadzór jako zabawę. Weźmy niesławny trend #10YearChallenge lub #MeAt20, które zalały Twittera około 2019 roku, nakłaniając ludzi do pochwalenia się swoją dekadową „przemianą” z dowodami fotograficznymi. To, co wydaje się nieszkodliwym ćwiczeniem nostalgii, może być masowym wysiłkiem dobrowolnego przekazywania danych. Te trendy podszywają się pod akty kreatywności lub wspomnień, ale w rzeczywistości są inżynieryjnie zaprojektowanymi pułapkami nostalgii, które wciągają użytkowników pod pozorem emocjonalnego połączenia, jednocześnie zbierając intymne dane biometryczne.

Ostatnio, wraz z komercjalizacją generatywnej AI, platformy mediów społecznościowych są nasycone obrazami generowanymi przez AI, które zacierają granice między prawdziwą pamięcią a manipulacją. Google Gemini wydaje się prowadzić tę komercyjną falę, napędzając trendy, które zamieniają zdjęcia ślubne w sztukę w stylu Ghibli, a najnowsza aktualizacja, Nano Banana, umożliwia użytkownikom generowanie zdjęć w stylu Polaroid z ich młodszymi wersjami, celebrytą, a nawet zmarłym krewnym. Każda interakcja dodatkowo zniekształca nasze postrzeganie rzeczywistości, pozwalając systemom AI doskonalić tę iluzję z każdym nowym wygenerowanym obrazem.

Zabawa-za-dane do militaryzacji tożsamości

Cena uczestnictwa, choć niewidoczna, jest daleka od darmowej. Każde przesłane zdjęcie, na przykład w celu wygenerowania zdjęcia w stylu Polaroid z młodszym sobą, zasila ogromne rurociągi danych, które trenują AI do rozpoznawania wzorców w wyglądzie człowieka w czasie, tj. od dzieciństwa do dorosłości – informacje, które teraz znajdują się w rękach każdego, kto jest gotów zapłacić za dostęp. Badania nad modelami estymacji wieku twarzy pokazują, że duże zbiory danych z adnotacjami wieku lub zdjęciami twarzy z postępującym wiekiem są już używane do trenowania modeli rozpoznających, jak ludzie starzeją się w różnych grupach etnicznych i są pomocne w „inteligentnym nadzorze” i innych branżach.

Strategicznie i z ekonomicznego punktu widzenia, trendy mediów społecznościowych, takie jak zdjęcia w stylu Polaroid czy wcześniejszy #10YearChallenge, wydają się idealnym mechanizmem zachęcającym ludzi do udostępniania publicznie dostępnych danych, które mogą pomóc wypełnić luki badawcze dotyczące starzenia się w różnych warunkach, i umożliwić korporacjom zbieranie tych danych bez konsekwencji w celu trenowania modeli AI używanych daleko poza prostymi zapytaniami tekstowymi czy obrazowymi. Zastosowania takich zbiorów danych i wynikających z nich wytrenowanych modeli AI są równie rozległe – wiele z nich wkracza w obszar policji, w tym wdrażanie na granicach i w organach ścigania do profilowania w imię „predykcyjnej oceny zagrożenia”, a także w technologiach zmilitaryzowanych do nadzorowania i namierzania osób na różnych etapach życia.

Od mediów społecznościowych do list śmierci: AI w wojnie

To, co zaczyna się jako kulturowy moment połączenia przez obrazy, ostatecznie wzmacnia infrastrukturę kapitalizmu nadzoru i wiąże się bezpośrednio z militarnymi zastosowaniami technologii predykcyjnej tożsamości. Na przykład badania zbadały szeroką gamę potencjalnych zastosowań AI w środowisku obronnym – od autonomicznych dronów po identyfikację celów – podkreślając potrzebę tworzenia polityki opartej na opinii publicznej w celu zapewnienia odpowiedzialnego zarządzania. Praktyczny przykład tego zastosowania został udokumentowany w Palestynie, gdzie izraelskie siły obronne używały systemów opartych na AI, takich jak Lavender, Where's Daddy i inne, do przygotowania „listy śmierci” i namierzania Palestyńczyków.

Śledczy odkryli, że operatorzy czasami zatwierdzali atak w zaledwie 20 sekund. Technologie te, częściowo, zostały umożliwione przez firmy Big Tech, takie jak Google, które udzieliły Izraelskim Siłom Obronnym (IDF) dostępu do danych rozpoznawania twarzy Google Photos w celu instrumentalizacji tzw. listy śmierci przeciwko Palestyńczykom. W tym kontekście trendy mediów społecznościowych, które generują ogromne ilości danych biometrycznych (w tym postępującego wieku), stają się czymś więcej niż kulturowymi dziwactwami i zamieniają się w materiał treningowy dla modeli, które mogą ponownie identyfikować, przewidywać i śledzić osoby w czasie. W miarę jak nadzór biometryczny przenosi się z policji na granicach i w miastach na wojnę, implikacje dla społeczności już poddanych profilowaniu, zwłaszcza na Globalnym Południu, stają się jeszcze bardziej złowrogie.

Powstanie uzbrojonej AI i ukierunkowanej nienawiści

Praca fact-checkerów stała się znacznie trudniejsza podczas ludobójstwa w Palestynie, ponieważ izraelska okupacja w dużym stopniu polegała na sztucznej inteligencji do rozpowszechniania dezinformacji. Obecna wojna eksterminacyjna oznaczała punkt zwrotny w rozprzestrzenianiu się dezinformacji, a sztuczna inteligencja odgrywała centralną rolę. Izraelskie media i oficjalne instytucje wykorzystały armię kont wspierających i fałszywych kont, wykorzystując jedno z narzędzi świata sztucznej inteligencji, jakim są fałszywe konta napędzane przez AI, znane jako boty. Boty te były zaprogramowane do publikowania komentarzy i artykułów wspierających okupację i podważających prawa Palestyńczyków na różnych platformach, szczególnie Facebooku, X i Instagramie.

29 maja Meta poinformowała o usunięciu sieci setek fałszywych kont powiązanych z izraelską firmą STOIC z siedzibą w Tel Awiwie. Te konta, napędzane przez AI, były używane do wzmacniania izraelskiej propagandy i rozpowszechniania fałszywych twierdzeń, szczególnie skierowanych do arabskojęzycznej publiczności. Dzień później, 30 maja, OpenAI, twórca ChatGPT, ogłosił, że zbanował kolejną grupę kont obsługiwanych przez tę samą firmę. Konta te używały AI do podszywania się pod żydowskich studentów i afroamerykańskich obywateli, aby ich wiadomości wydawały się autentyczne i zróżnicowane. Ta militaryzacja AI wykracza poza dezinformację, bezpośrednio podsycając ukierunkowaną nienawiść, ponieważ fałszywe konta wzmacniają dzielącą retorykę i sieją niezgodę.

Samopodtrzymujący się algorytm: od zbierania do eksploatacji

W tym momencie nie ma już znaczenia, czy ktoś uczestniczył w konkretnym trendzie mediów społecznościowych, przyczyniając się do zbiorów treningowych dla modeli AI. Rzeczywistość jest taka, że po zebraniu wystarczającej ilości danych narzędzia uczenia maszynowego mogą przewidywać wzorce starzenia się ludzi przy niewielkim dodatkowym wkładzie i z wysoką dokładnością. Innymi słowy, nasycony pulą dobrowolnych wkładów obrazów może spowodować przesunięcie od zbierania danych do ich eksploatacji, gdzie algorytmy stają się samopodtrzymujące, wymagając jedynie minimalnego nowego wkładu do generowania dalekosiężnych przewidywań. Dzieje się to w kraju, w którym prawo do prywatności jest słabe, a nadzór cyfrowy minimalny. Dobrowolne udostępnianie zdjęć z postępującym wiekiem może łatwo zasilać nowe narzędzia predykcyjne, z realnymi konsekwencjami dla nadzoru, profilowania i kontroli społecznej.

Jest w sferze możliwości, że technologia nadzoru wojskowego oparta na AI, która dokładnie identyfikuje osoby w miarę starzenia się, może być uzbrojona w kraju, w którym celem decydentów i organów ścigania jest kontrolowanie obywateli, a nie ich ochrona, w którym państwo wydało już miliony dolarów na technologię nadzoru wojskowego do użycia przeciwko cywilom w imię „bezpieczeństwa narodowego”. To, co dziś wydaje się nieszkodliwe w postaci filtrów starzenia, trendów nostalgii czy udostępniania zdjęć, wzmocni istniejące systemy ucisku w przyszłości. Fuzja trendów mediów społecznościowych, nadzoru AI i militaryzacji stanowi głęboką zmianę w tym, jak nasze cyfrowe ślady są wykorzystywane, ostatecznie torując drogę ukierunkowanej nienawiści, która podważa same fundamenty demokratycznych społeczeństw.