Social-Media-Trends treiben KI-Überwachung, Militarisierung und die Zukunft von gezieltem Hass voran

Die Entwicklung des Spaßes: Von Gesichtsfiltern zur Datenernte

Bevor Instagram zu dem kuratierten Feed mit KI-generierten Inhalten wurde, den wir heute sehen, spielten die Leute auf TikTok mit veränderten Versionen ihrer eigenen Gesichter. Der Altersprogression-Filter, der den Alterungsprozess der Menschen in Echtzeit auf dem Bildschirm zeigte, verbreitete sich schnell über Plattformen hinweg. Was wie harmloser Spaß aussah, wurde zu einem riesigen Datensatz für das Training von KI-Modellen zur Erkennung menschlicher Alterungsmuster. Big Tech monetarisiert Aufmerksamkeit, indem es Verhaltensmuster, Präferenzen und biometrische Daten extrahiert, die durch Fotos gewonnen werden, und sie in Algorithmen einspeist, die die Vorhersagemaschinerie des Überwachungskapitalismus verfeinern.

Im Laufe der Zeit wird diese Infrastruktur der „kostenlosen“ Interaktion zu einem Trainingshandbuch für den Bau invasiverer Technologien, die die Bilder verwenden, die Benutzer hochladen, um sich gesehen oder bestätigt zu fühlen, und die Maschinen lehren, uns besser zu sehen, als wir uns selbst sehen. Auf generative KI angewendet, hört diese Dynamik nicht mehr bei lustigen Familienaktivitäten, Werbung, Content-Kuration oder sogar Datenannotation auf; stattdessen erweitert sie sich auf Trainingssysteme, die menschliche Identitäten im Laufe der Zeit genau vorhersagen und verfolgen können, und verwandelt Verbindung in Kontrolle.

#10YearChallenge: Unschuldige Nostalgie oder Massenüberwachung?

Die Logik des Profits durch Datenextraktion erstreckt sich nahtlos auf virale Social-Media-Trends, die Überwachung als Spiel tarnen. Nehmen Sie die berüchtigten #10YearChallenge- oder #MeAt20-Trends, die um 2019 die Twitter-Timelines überschwemmten und die Leute aufforderten, ihren Jahrzehnte-langen „Glow-up“ mit fotografischen Beweisen zur Schau zu stellen. Was wie eine harmlose Übung in Nostalgie aussieht, könnte eine Massenbemühung sein, Daten freiwillig zu übermitteln. Diese Trends tarnen sich als Akte der Kreativität oder Erinnerung, sind aber wirklich konstruierte Nostalgiefallen, die Benutzer unter dem Deckmantel emotionaler Verbindung anziehen, während sie intime biometrische Daten ernten.

In jüngerer Zeit, mit der Kommerzialisierung generativer KI, sind Social-Media-Plattformen mit KI-generierten Bildern gesättigt, die die Grenzen zwischen echter Erinnerung und Manipulation verschwimmen lassen. Googles Gemini scheint diese kommerzielle Welle anzuführen und treibt Trends an, die Hochzeitsfotos der Menschen in Ghibli-Kunst verwandeln, oder das neueste Update, Nano Banana, ermöglicht es Benutzern, Polaroid-ähnliche Bilder von sich selbst mit ihrem jüngeren Selbst, einem Promi-Schwarm oder sogar einem verstorbenen Verwandten zu generieren. Jede Interaktion verzerrt unsere Wahrnehmung der Realität weiter und ermöglicht es KI-Systemen, diese Illusion mit jedem neuen Bild, das sie generieren, zu perfektionieren.

Von Spaß-gegen-Daten zur Militarisierung der Identität

Der Preis der Teilnahme, obwohl unsichtbar, ist alles andere als kostenlos. Jedes hochgeladene Bild, zum Beispiel um ein Polaroid-Bild von sich selbst mit seinem jüngeren Selbst zu generieren, speist die riesigen Datenpipelines, die KI trainieren, um Muster im menschlichen Erscheinungsbild im Laufe der Zeit zu erkennen, d.h. von der Kindheit bis zum Erwachsenenalter – Informationen, die jetzt in den Händen von jedem liegen, der bereit ist, für den Zugang zu zahlen. Die Forschung zu Gesichtsalterschätzungsmodellen zeigt, dass große Datensätze von altersannotierten oder altersprogredierten Gesichtsbildern bereits verwendet werden, um Modelle zu trainieren, die erkennen, wie Individuen über Ethnien hinweg altern, und sind hilfreich in „intelligenter Überwachung“ und anderen Branchen.

Strategisch und aus wirtschaftlicher Sicht scheinen Social-Media-Trends wie die Polaroid-Bilder oder die frühere #10YearChallenge ein ideales Mechanismus zu sein, um Menschen zu ermutigen, öffentlich verfügbare Daten beizutragen, die helfen können, Forschungslücken darüber zu schließen, wie Menschen unter verschiedenen Bedingungen altern, und es Unternehmen ermöglichen, diese Daten ohne Konsequenzen zu scrapen, um KI-Modelle zu trainieren, die weit über einfache Text- oder Bildabfragen hinaus eingesetzt werden. Die Anwendungen solcher Datensätze und der resultierenden trainierten KI-Modelle sind ebenso vielfältig – viele wagen sich in die Polizeiarbeit, einschließlich der Implementierung an Grenzen und in der Strafverfolgung zur Profilerstellung im Namen der „prädiktiven Bedrohungsbewertung“, sowie in militarisierten Technologien zur Überwachung und Zielerfassung von Individuen über verschiedene Lebenszyklusstadien hinweg.

Von Social Media zu Todeslisten: KI in der Kriegsführung

Was als kultureller Moment der Verbindung durch Bilder beginnt, verstärkt letztendlich die Infrastruktur des Überwachungskapitalismus und verknüpft sich direkt mit den militarisierten Anwendungen prädiktiver Identitätstechnologien. Beispielsweise hat die Forschung die große Vielfalt potenzieller Anwendungen von KI in Verteidigungsumgebungen untersucht – von autonomen Drohnen bis zur Zielidentifizierung – und betont die Notwendigkeit einer Politikgestaltung, die von öffentlichen Einstellungen informiert ist, um verantwortungsvolle Regierungsführung zu gewährleisten. Ein praktisches Beispiel für diese Anwendung wurde in Palästina dokumentiert, wo die israelischen Verteidigungsstreitkräfte KI-gestützte Systeme wie Lavender, Where's Daddy und andere verwendeten, um eine „Todesliste“ zu erstellen und Palästinenser ins Visier zu nehmen.

Ermittler fanden heraus, dass Bediener manchmal einen Angriff in nur 20 Sekunden genehmigten. Diese Technologien wurden teilweise durch Big-Tech-Unternehmen wie Google ermöglicht, die den israelischen Verteidigungsstreitkräften (IDF) Zugang zu den Gesichtserkennungsdaten von Google Photos gewähren, um die sogenannte Todesliste gegen Palästinenser zu instrumentalisieren. In diesem Zusammenhang werden Social-Media-Trends, die große Mengen biometrischer Daten (einschließlich Altersprogression) generieren, mehr als kulturelle Eigenheiten und verwandeln sich in Trainingsmaterial für Modelle, die Individuen im Laufe der Zeit wiedererkennen, vorhersagen und verfolgen können. Während die biometrische Überwachung von der Polizeiarbeit an Grenzen und in Städten zur Kriegsführung übergeht, werden die Auswirkungen auf Gemeinschaften, die bereits der Profilerstellung ausgesetzt sind, insbesondere im globalen Süden, umso unheimlicher.

Der Aufstieg von bewaffneter KI und gezieltem Hass

Die Arbeit von Faktenprüfern ist während des Völkermords in Palästina erheblich schwieriger geworden, da die israelische Besatzung stark auf künstliche Intelligenz zur Verbreitung von Fehlinformationen zurückgegriffen hat. Der derzeitige Vernichtungskrieg hat einen Wendepunkt in der Verbreitung von Fehlinformationen markiert, wobei künstliche Intelligenz eine zentrale Rolle spielt. Israelische Medien und offizielle Institutionen setzten eine Armee von Unterstützerkonten und Fake-Accounts ein, die eines der Werkzeuge der Welt der künstlichen Intelligenz ausnutzten, nämlich Fake-Accounts, die von künstlicher Intelligenz gesteuert werden, bekannt als Bots. Diese Bots wurden programmiert, um Kommentare und Artikel zu posten, die die Besatzung unterstützen und palästinensische Rechte auf verschiedenen Plattformen, insbesondere Facebook, X und Instagram, untergraben.

Am 29. Mai meldete Meta die Entfernung eines Netzwerks von Hunderten von Fake-Accounts, die mit einem israelischen Unternehmen namens STOIC mit Sitz in Tel Aviv verbunden waren. Diese KI-gesteuerten Konten wurden verwendet, um israelische Propaganda zu verstärken und falsche Behauptungen zu verbreiten, die sich insbesondere an arabischsprachige Zielgruppen richteten. Einen Tag später, am 30. Mai, gab OpenAI, der Entwickler von ChatGPT, bekannt, dass es eine weitere Gruppe von Konten gesperrt habe, die von demselben Unternehmen betrieben wurden. Diese Konten hatten KI verwendet, um sich als jüdische Studenten und afroamerikanische Bürger auszugeben, um ihre Nachrichten authentisch und vielfältig erscheinen zu lassen. Diese Bewaffnung von KI erstreckt sich über Desinformation hinaus, um direkt gezielten Hass zu schüren, da Fake-Accounts spaltende Rhetorik verstärken und Zwietracht säen.

Der sich selbst erhaltende Algorithmus: Von Sammlung zu Ausbeutung

An diesem Punkt spielt es keine Rolle mehr, ob jemand an einem bestimmten Social-Media-Trend teilgenommen hat, der zu Trainingsdatensätzen für KI-Modelle beigetragen hat. Die Realität ist, dass maschinelle Lernwerkzeuge, sobald genügend Daten gesammelt wurden, menschliche Alterungsmuster mit wenig zusätzlichem Input und mit hoher Genauigkeit vorhersagen können. Mit anderen Worten, der gesättigte Pool freiwilliger Bildbeiträge könnte einen Wandel von der Datensammlung zur Datenausbeutung auslösen, bei dem Algorithmen sich selbst erhalten und nur minimale neue Eingaben benötigen, um weitreichende Vorhersagen zu generieren. Dies geschieht in einem Land, in dem das Recht auf Privatsphäre schwach und die digitale Aufsicht minimal ist. Das freiwillige Teilen von altersprogredierten Bildern kann leicht in neu entstehende Vorhersagewerkzeuge einfließen, mit realen Konsequenzen für Überwachung, Profilerstellung und soziale Kontrolle.

Es ist im Bereich des Möglichen, dass KI-gestützte militärische Überwachungstechnologie, die Individuen im Laufe der Zeit genau identifiziert, in einem Land bewaffnet werden könnte, in dem der Fokus von Politikern und Strafverfolgungsbehörden darauf liegt, Bürger zu kontrollieren, anstatt sie zu schützen, in dem der Staat bereits Millionen von Dollar für militärische Überwachungstechnologie ausgegeben hat, um sie gegen Zivilisten im Namen der „nationalen Sicherheit“ einzusetzen. Was heute harmlos erscheint in Form von Alterungsfiltern, Nostalgietrends oder Bildfreigabe, wird die bestehenden Unterdrückungssysteme von morgen stärken. Die Verschmelzung von Social-Media-Trends, KI-Überwachung und Militarisierung stellt eine tiefgreifende Verschiebung dar, wie unsere digitalen Fußabdrücke ausgebeutet werden, und ebnet letztendlich den Weg für gezielten Hass, der das eigentliche Gefüge demokratischer Gesellschaften untergräbt.