Тренди соціальних мереж живлять AI-стеження, мілітаризацію та майбутнє цілеспрямованої ненависті
Еволюція розваг: від фільтрів для обличчя до збору даних
Перш ніж Instagram перетворився на кураторську стрічку контенту, створеного штучним інтелектом, люди гралися зі зміненими версіями власних облич у TikTok. Його фільтр вікового прогресу, який показував процес старіння в реальному часі на екрані, швидко поширився платформами. Те, що здавалося невинною розвагою, стало масивним набором даних для навчання моделей ШІ розпізнавати моделі старіння людини. Великі технологічні компанії монетизують увагу, витягуючи поведінкові патерни, вподобання та біометричні дані, отримані через фотографії, і передаючи їх в алгоритми, які вдосконалюють прогностичну машину капіталізму стеження.
З часом ця інфраструктура «безкоштовної» взаємодії стає навчальним посібником для створення більш інвазивних технологій, використовуючи зображення, які користувачі завантажують, щоб відчути себе побаченими або визнаними, і які вчать машини бачити нас краще, ніж ми бачимо себе. Коли це застосовується до генеративного ШІ, ця динаміка більше не зупиняється на веселих сімейних заходах, рекламі, кураторстві контенту або навіть анотуванні даних; натомість вона розширюється до навчання систем, які можуть точно передбачати та відстежувати людські ідентичності з часом, перетворюючи зв'язок на контроль.
#10YearChallenge: невинна ностальгія чи масове стеження?
Логіка прибутку через вилучення даних плавно поширюється на вірусні тренди соціальних мереж, які маскують стеження під гру. Візьмімо сумнозвісний #10YearChallenge або #MeAt20, які заполонили стрічки Twitter близько 2019 року, закликаючи людей хизуватися своїм десятирічним «перетворенням» із фотографічними доказами. Те, що здається невинною вправою в ностальгії, може бути масовою спробою добровільно надати дані. Ці тренди маскуються під акти творчості чи спогадів, але насправді є інженерними ностальгійними пастками, які залучають користувачів під виглядом емоційного зв'язку, одночасно збираючи інтимні біометричні дані.
Останнім часом, з комерціалізацією генеративного ШІ, платформи соціальних мереж насичені зображеннями, створеними ШІ, які розмивають межі між реальною пам'яттю та маніпуляцією. Google Gemini, схоже, очолює цю комерційну хвилю, запускаючи тренди, які перетворюють весільні фото людей на мистецтво в стилі Ghibli, або останнє оновлення Nano Banana дозволяє користувачам генерувати зображення в стилі Polaroid себе з молодшою версією себе, знаменитістю або навіть померлим родичем. Кожна взаємодія ще більше спотворює наше сприйняття реальності, дозволяючи системам ШІ вдосконалювати цю ілюзію з кожним новим згенерованим зображенням.
Від розваг за дані до мілітаризації ідентичності
Ціна участі, хоча й невидима, далеко не безкоштовна. Кожне завантажене зображення, наприклад, для генерації зображення в стилі Polaroid себе з молодшою версією себе, живить величезні конвеєри даних, які навчають ШІ розпізнавати патерни в людській зовнішності з часом, тобто від дитинства до дорослості – інформація, яка тепер знаходиться в руках будь-кого, хто готовий заплатити за доступ. Дослідження моделей оцінки віку обличчя показують, що великі набори даних зображень облич з анотацією віку або віковим прогресом вже використовуються для навчання моделей розпізнавати, як люди старіють у різних етнічних групах, і є корисними для «інтелектуального стеження» та інших галузей.
Зі стратегічної та економічної точки зору, тренди соціальних мереж, такі як зображення в стилі Polaroid або попередній #10YearChallenge, здаються ідеальним механізмом для заохочення людей робити внесок у загальнодоступні дані, які можуть допомогти заповнити прогалини в дослідженнях того, як люди старіють у різних умовах, і дозволити корпораціям збирати ці дані без наслідків для навчання моделей ШІ, які використовуються далеко за межами простих текстових або графічних запитів. Застосування таких наборів даних і отриманих навчених моделей ШІ так само величезне – багато з них занурюються в поліцейську діяльність, включаючи впровадження на кордонах і в правоохоронних органах для профілювання в ім'я «прогностичної оцінки загрози», а також у мілітаризованих технологіях для стеження та націлювання на осіб на різних етапах життєвого циклу.
Від соціальних мереж до списків на ліквідацію: ШІ у війні
Те, що починається як культурний момент зв'язку через зображення, зрештою зміцнює інфраструктуру капіталізму стеження і безпосередньо пов'язане з мілітаризованими застосуваннями прогностичних технологій ідентичності. Наприклад, дослідження вивчали широкий спектр потенційних застосувань ШІ в оборонній сфері – від автономних дронів до ідентифікації цілей – наголошуючи на необхідності розробки політики з урахуванням громадської думки для забезпечення відповідального управління. Практичний приклад такого застосування задокументований у Палестині, де ізраїльські сили оборони використовували системи на основі ШІ, такі як Lavender, Where's Daddy та інші, для підготовки «списку на ліквідацію» та націлювання на палестинців.
Слідчі виявили, що оператори іноді схвалювали удар всього за 20 секунд. Ці технології, частково, стали можливими завдяки великим технологічним компаніям, таким як Google, які надають ізраїльським силам оборони (IDF) доступ до даних розпізнавання облич Google Photos для інструменталізації так званого списку на ліквідацію проти палестинців. У цьому контексті тренди соціальних мереж, які генерують величезну кількість біометричних даних (включаючи віковий прогрес), стають більше ніж культурними дивацтвами і перетворюються на навчальний матеріал для моделей, які можуть переідентифікувати, передбачати та відстежувати осіб з часом. Оскільки біометричне стеження мігрує від поліцейської діяльності на кордонах і в містах до війни, наслідки для спільнот, які вже піддаються профілюванню, особливо на глобальному Півдні, стають ще більш зловісними.
Зростання озброєного ШІ та цілеспрямованої ненависті
Робота фактчекерів значно ускладнилася під час геноциду в Палестині, оскільки ізраїльська окупація активно використовувала штучний інтелект для поширення дезінформації. Поточна війна на знищення стала поворотним моментом у поширенні дезінформації, де штучний інтелект відіграє центральну роль. Ізраїльські ЗМІ та офіційні установи використовували армію акаунтів прихильників і фейкових акаунтів, експлуатуючи один з інструментів світу штучного інтелекту – фейкові акаунти, керовані штучним інтелектом, відомі як боти. Ці боти були запрограмовані публікувати коментарі та статті на підтримку окупації та підривати права палестинців на різних платформах, особливо Facebook, X та Instagram.
29 травня Meta повідомила про видалення мережі сотень фейкових акаунтів, пов'язаних з ізраїльською компанією STOIC, що базується в Тель-Авіві. Ці акаунти, керовані ШІ, використовувалися для посилення ізраїльської пропаганди та поширення неправдивих тверджень, особливо націлених на арабомовну аудиторію. Наступного дня, 30 травня, OpenAI, розробник ChatGPT, оголосив, що заблокував іншу групу акаунтів, керованих тією ж компанією. Ці акаунти використовували ШІ для імітації єврейських студентів та афроамериканських громадян, намагаючись зробити свої повідомлення автентичними та різноманітними. Це озброєння ШІ виходить за межі дезінформації, безпосередньо підживлюючи цілеспрямовану ненависть, оскільки фейкові акаунти посилюють розкольницьку риторику та сіють розбрат.
Самопідтримуваний алгоритм: перехід від збору до експлуатації
На цьому етапі вже не має значення, чи брав хтось участь у конкретному тренді соціальних мереж, роблячи внесок у навчальні набори даних для моделей ШІ. Реальність така, що після збору достатньої кількості даних інструменти машинного навчання можуть передбачати моделі старіння людини з мінімальним додатковим введенням і з високою точністю. Іншими словами, насичений пул добровільних внесків зображень може спричинити перехід від збору даних до експлуатації даних, коли алгоритми стають самопідтримуваними, вимагаючи лише мінімального нового введення для генерації далекосяжних прогнозів. Це відбувається в країні, де право на приватність слабке, а цифровий нагляд мінімальний. Добровільне поширення зображень із віковим прогресом може легко потрапити в нові прогностичні інструменти з реальними наслідками для стеження, профілювання та соціального контролю.
Цілком можливо, що технологія військового стеження на основі ШІ, яка точно ідентифікує осіб з часом у міру їх старіння, може бути озброєна в країні, де увага політиків та правоохоронних органів спрямована на контроль громадян, а не на їх захист, і де держава вже витратила мільйони доларів на технології військового стеження для використання проти цивільних в ім'я «національної безпеки». Те, що сьогодні здається нешкідливим у формі фільтрів старіння, ностальгійних трендів або обміну зображеннями, завтра зміцнить існуючі системи гноблення. Злиття трендів соціальних мереж, стеження ШІ та мілітаризації являє собою глибокий зсув у тому, як наші цифрові сліди експлуатуються, зрештою прокладаючи шлях до цілеспрямованої ненависті, яка підриває саму основу демократичних суспільств.