Тренды соцсетей подпитывают ИИ-слежку, милитаризацию и будущее целенаправленной ненависти
Эволюция веселья: от масок до сбора данных
До того, как Instagram превратился в курируемую ленту контента, созданного ИИ, люди играли с изменёнными версиями своих лиц в TikTok. Его фильтр старения, показывающий процесс старения в реальном времени на экране, быстро распространился по платформам. То, что казалось безобидным развлечением, стало огромным набором данных для обучения моделей ИИ распознаванию закономерностей старения человека. Big Tech монетизирует внимание, извлекая поведенческие паттерны, предпочтения и биометрические данные из фотографий, передавая их в алгоритмы, которые совершенствуют предсказательные механизмы капитализма слежки.
Со временем эта инфраструктура «бесплатного» взаимодействия становится учебным пособием для создания более инвазивных технологий, использующих изображения, которые пользователи загружают, чтобы почувствовать себя увиденными или признанными, и которые учат машины видеть нас лучше, чем мы видим себя. В применении к генеративному ИИ эта динамика больше не ограничивается весёлыми семейными занятиями, рекламой, курированием контента или даже разметкой данных; вместо этого она расширяется до обучения систем, способных точно предсказывать и отслеживать человеческие личности с течением времени, превращая связь в контроль.
#10YearChallenge: невинная ностальгия или массовая слежка?
Логика извлечения прибыли через сбор данных плавно переходит в вирусные тренды соцсетей, которые маскируют слежку под игру. Взять хотя бы печально известный #10YearChallenge или тренды #MeAt20, заполонившие ленту Twitter около 2019 года, призывающие людей похвастаться своим десятилетним «преображением» с фотографическими доказательствами. То, что кажется безобидным упражнением в ностальгии, может быть массовой попыткой добровольной передачи данных. Эти тренды маскируются под акты творчества или воспоминания, но на самом деле являются инженерными ловушками ностальгии, которые заманивают пользователей под видом эмоциональной связи, собирая при этом интимные биометрические данные.
В последнее время, с коммерциализацией генеративного ИИ, платформы соцсетей насыщены изображениями, созданными ИИ, которые стирают границы между реальной памятью и манипуляцией. Google Gemini, похоже, возглавляет эту коммерческую волну, продвигая тренды, превращающие свадебные фотографии людей в искусство в стиле Ghibli, или последнее обновление Nano Banana, позволяющее пользователям генерировать изображения в стиле Polaroid себя с собой в молодости, знаменитостью или даже умершим родственником. Каждое взаимодействие ещё больше искажает наше восприятие реальности, позволяя системам ИИ совершенствовать эту иллюзию с каждым новым сгенерированным изображением.
От развлечения за данные к милитаризации идентичности
Цена участия, хотя и невидимая, далеко не бесплатна. Каждое загруженное изображение, например, для создания изображения в стиле Polaroid себя с собой в молодости, питает огромные конвейеры данных, которые обучают ИИ распознавать закономерности во внешности человека с течением времени, то есть от детства до взрослой жизни — информация, которая теперь находится в руках любого, кто готов заплатить за доступ. Исследования моделей оценки возраста по лицу показывают, что большие наборы данных изображений лиц с аннотациями возраста или возрастной прогрессией уже используются для обучения моделей распознаванию того, как люди стареют в зависимости от этнической принадлежности, и полезны в «интеллектуальной слежке» и других отраслях.
Стратегически и с экономической точки зрения, тренды соцсетей, такие как изображения в стиле Polaroid или более ранний #10YearChallenge, кажутся идеальным механизмом для поощрения людей к предоставлению общедоступных данных, которые могут помочь заполнить пробелы в исследованиях того, как люди стареют в разных условиях, и позволить корпорациям собирать эти данные без последствий для обучения моделей ИИ, используемых далеко за пределами простых текстовых или графических запросов. Применение таких наборов данных и полученных обученных моделей ИИ столь же обширно — многие из них вторгаются в полицейскую деятельность, включая использование на границах и в правоохранительных органах для профилирования во имя «прогностической оценки угроз», а также в милитаризованных технологиях для слежки и нацеливания на людей на разных этапах жизненного цикла.
От соцсетей к спискам на уничтожение: ИИ в войне
То, что начинается как культурный момент связи через изображения, в конечном итоге укрепляет инфраструктуру капитализма слежки и напрямую связано с милитаризованными применениями технологий прогностической идентичности. Например, исследования изучали широкий спектр потенциальных применений ИИ в оборонных целях — от автономных дронов до идентификации целей — подчёркивая необходимость разработки политики с учётом общественного мнения для обеспечения ответственного управления. Практический пример такого применения был задокументирован в Палестине, где израильские силы обороны использовали системы на базе ИИ, такие как Lavender, Where's Daddy и другие, для подготовки «списка на уничтожение» и нацеливания на палестинцев.
Следователи обнаружили, что операторы иногда одобряли удар всего за 20 секунд. Эти технологии, частично, стали возможны благодаря компаниям Big Tech, таким как Google, которые предоставляют Армии обороны Израиля (ЦАХАЛ) доступ к данным распознавания лиц Google Photos для инструментализации так называемого списка на уничтожение против палестинцев. В этом контексте тренды соцсетей, генерирующие огромные объёмы биометрических данных (включая возрастную прогрессию), становятся больше, чем культурными причудами, и превращаются в учебный материал для моделей, которые могут переидентифицировать, предсказывать и отслеживать людей с течением времени. По мере того как биометрическая слежка переходит от полицейской деятельности на границах и в городах к войне, последствия для сообществ, уже подвергающихся профилированию, особенно на глобальном Юге, становятся ещё более зловещими.
Рост вооружённого ИИ и целенаправленной ненависти
Работа фактчекеров значительно усложнилась во время геноцида в Палестине, поскольку израильская оккупация в значительной степени полагалась на искусственный интеллект для распространения дезинформации. Нынешняя война на уничтожение ознаменовала поворотный момент в распространении дезинформации, где искусственный интеллект играет центральную роль. Израильские СМИ и официальные учреждения использовали армию аккаунтов сторонников и фейковых аккаунтов, эксплуатируя один из инструментов мира искусственного интеллекта — фейковые аккаунты, управляемые искусственным интеллектом, известные как боты. Эти боты были запрограммированы на публикацию комментариев и статей в поддержку оккупации и подрыв палестинских прав на различных платформах, особенно Facebook, X и Instagram.
29 мая Meta сообщила об удалении сети из сотен фейковых аккаунтов, связанных с израильской компанией STOIC, базирующейся в Тель-Авиве. Эти аккаунты, управляемые ИИ, использовались для усиления израильской пропаганды и распространения ложных заявлений, особенно нацеленных на арабоязычную аудиторию. Днём позже, 30 мая, OpenAI, разработчик ChatGPT, объявил, что заблокировал другую группу аккаунтов, управляемых той же компанией. Эти аккаунты использовали ИИ для выдачи себя за еврейских студентов и афроамериканских граждан, чтобы их сообщения казались аутентичными и разнообразными. Эта вооружённая ИИ пропаганда выходит за рамки дезинформации и напрямую подпитывает целенаправленную ненависть, поскольку фейковые аккаунты усиливают разжигающую рознь риторику и сеют раздор.
Самоподдерживающийся алгоритм: переход от сбора к эксплуатации
На данный момент уже неважно, участвовал ли кто-то в конкретном тренде соцсетей, внося вклад в обучающие наборы данных для моделей ИИ. Реальность такова, что после сбора достаточного объёма данных инструменты машинного обучения могут предсказывать закономерности старения человека с минимальным дополнительным вводом и с высокой точностью. Другими словами, насыщенный пул добровольных изображений может стимулировать переход от сбора данных к их эксплуатации, когда алгоритмы становятся самоподдерживающимися, требуя лишь минимального нового ввода для создания далеко идущих прогнозов. Это происходит в стране, где право на частную жизнь слабо, а цифровой надзор минимален. Добровольное распространение изображений с возрастной прогрессией может легко попасть в новые прогностические инструменты с реальными последствиями для слежки, профилирования и социального контроля.
Вполне возможно, что технология слежки военного уровня на базе ИИ, которая точно идентифицирует людей с течением времени по мере их старения, может быть использована в качестве оружия в стране, где основное внимание политиков и правоохранительных органов направлено на контроль граждан, а не на их защиту, и где государство уже потратило миллионы долларов на технологию слежки военного уровня для использования против гражданских лиц во имя «национальной безопасности». То, что сегодня кажется безобидным в виде фильтров старения, трендов ностальгии или обмена изображениями, завтра укрепит существующие системы угнетения. Слияние трендов соцсетей, ИИ-слежки и милитаризации представляет собой глубокий сдвиг в том, как используются наши цифровые следы, в конечном итоге прокладывая путь к целенаправленной ненависти, которая подрывает саму основу демократических обществ.