Tren Media Sosial Bahan Bakar Pengawasan AI, Militerisasi, dan Masa Depan Kebencian Tertarget

Evolusi Kesenangan: Dari Filter Wajah hingga Pemanenan Data

Sebelum Instagram berubah menjadi umpan konten buatan AI yang kita lihat sekarang, orang-orang bermain dengan versi wajah mereka yang dimodifikasi di TikTok. Filter penuaan, yang menunjukkan proses penuaan secara real-time di layar, dengan cepat menyebar ke berbagai platform. Apa yang tampak seperti kesenangan tak berbahaya menjadi kumpulan data besar untuk melatih model AI mengenali pola penuaan manusia. Big Tech memonetisasi perhatian dengan mengekstraksi pola perilaku, preferensi, dan data biometrik yang diperoleh melalui foto, memasukkannya ke dalam algoritma yang menyempurnakan mesin prediktif kapitalisme pengawasan.

Seiring waktu, infrastruktur interaksi "gratis" ini menjadi manual pelatihan untuk membangun teknologi yang lebih invasif menggunakan gambar yang diunggah pengguna untuk merasa dilihat atau divalidasi, yang mengajarkan mesin untuk melihat kita lebih baik daripada kita melihat diri kita sendiri. Ketika diterapkan pada AI generatif, dinamika ini tidak lagi berhenti pada aktivitas keluarga yang menyenangkan, periklanan, kurasi konten, atau bahkan anotasi data; sebaliknya, ia meluas ke sistem pelatihan yang dapat secara akurat memprediksi dan melacak identitas manusia dari waktu ke waktu, mengubah koneksi menjadi kendali.

#10YearChallenge: Nostalgia Tak Bersalah atau Pengawasan Massal?

Logika keuntungan melalui ekstraksi data meluas dengan mulus ke dalam tren media sosial viral yang menyamarkan pengawasan sebagai permainan. Ambil contoh tren #10YearChallenge atau #MeAt20 yang membanjiri linimasa Twitter sekitar tahun 2019, mendorong orang untuk memamerkan "glow-up" selama satu dekade dengan bukti fotografi. Apa yang tampak seperti latihan nostalgia yang tidak berbahaya bisa menjadi upaya massal untuk menyerahkan data secara sukarela. Tren ini menyamar sebagai tindakan kreativitas atau kenangan, tetapi sebenarnya adalah jebakan nostalgia yang direkayasa untuk menarik pengguna dengan kedok koneksi emosional sambil memanen data biometrik intim.

Baru-baru ini, dengan komersialisasi AI generatif, platform media sosial dipenuhi dengan citra buatan AI yang mengaburkan batas antara ingatan nyata dan manipulasi. Google Gemini tampaknya memimpin gelombang komersial ini, mendorong tren yang mengubah foto pernikahan orang menjadi seni bergaya Ghibli, atau pembaruan terbaru, Nano Banana, memungkinkan pengguna menghasilkan gambar seperti Polaroid dari diri mereka sendiri dengan diri mereka yang lebih muda, gebetan selebriti, atau bahkan kerabat yang telah meninggal. Setiap interaksi semakin mendistorsi persepsi kita tentang realitas, memungkinkan sistem AI menyempurnakan ilusi itu dengan setiap gambar baru yang mereka hasilkan.

Dari Kesenangan-untuk-Data ke Militerisasi Identitas

Harga partisipasi, meskipun tidak terlihat, jauh dari gratis. Setiap gambar yang diunggah, misalnya, untuk menghasilkan gambar Polaroid dari diri sendiri dengan diri yang lebih muda, memberi makan jalur data besar yang melatih AI untuk mengenali pola penampilan manusia dari waktu ke waktu, yaitu, dari masa kanak-kanak hingga dewasa – informasi yang kini berada di tangan siapa pun yang bersedia membayar untuk akses. Penelitian tentang model estimasi usia wajah menunjukkan bahwa kumpulan data besar gambar wajah yang diberi anotasi usia atau diproses usia sudah digunakan untuk melatih model mengenali bagaimana individu menua di berbagai etnis dan berguna dalam "pengawasan cerdas" dan industri lainnya.

Secara strategis dan dari sudut pandang ekonomi, tren media sosial seperti gambar bergaya Polaroid atau #10YearChallenge sebelumnya tampaknya menjadi mekanisme ideal untuk mendorong orang menyumbangkan data yang tersedia untuk umum yang dapat membantu mengisi kesenjangan penelitian tentang bagaimana orang menua dalam kondisi berbeda, dan memungkinkan perusahaan untuk mengikis data itu tanpa konsekuensi guna melatih model AI yang digunakan jauh melampaui kueri teks atau gambar sederhana. Aplikasi dari kumpulan data tersebut dan model AI yang dihasilkan sama luasnya – banyak yang merambah ke kepolisian, termasuk implementasi di perbatasan dan penegakan hukum untuk pembuatan profil atas nama 'penilaian ancaman prediktif', serta dalam teknologi militer untuk mengawasi dan menargetkan individu di berbagai tahap siklus hidup.

Dari Media Sosial ke Daftar Target: AI dalam Peperangan

Apa yang dimulai sebagai momen budaya koneksi melalui gambar pada akhirnya memperkuat infrastruktur kapitalisme pengawasan dan terkait langsung dengan aplikasi militer dari teknologi identitas prediktif. Misalnya, penelitian telah mengeksplorasi berbagai macam potensi aplikasi AI dalam pengaturan pertahanan – dari drone otonom hingga identifikasi target – menekankan perlunya pembuatan kebijakan yang diinformasikan oleh sikap publik untuk memastikan tata kelola yang bertanggung jawab. Contoh praktis dari aplikasi ini telah didokumentasikan di Palestina, di mana Pasukan Pertahanan Israel menggunakan sistem bertenaga AI seperti Lavender, Where's Daddy, dan lainnya untuk menyiapkan "daftar target" dan menargetkan warga Palestina.

Penyelidik menemukan bahwa operator terkadang menyetujui serangan hanya dalam waktu 20 detik. Teknologi ini, sebagian, telah dimungkinkan oleh perusahaan Big Tech seperti Google yang memberikan akses kepada Pasukan Pertahanan Israel (IDF) ke data pengenalan wajah Google Photos untuk menginstrumentalisasi apa yang disebut daftar target terhadap warga Palestina. Dalam konteks ini, tren media sosial yang menghasilkan sejumlah besar data biometrik (termasuk proyeksi usia) menjadi lebih dari sekadar keanehan budaya dan berubah menjadi materi pelatihan untuk model yang dapat mengidentifikasi ulang, memprediksi, dan melacak individu dari waktu ke waktu. Saat pengawasan biometrik berpindah dari kepolisian di perbatasan dan kota ke peperangan, implikasinya bagi komunitas yang sudah menjadi sasaran profiling, terutama di negara-negara Selatan, menjadi semakin mengerikan.

Bangkitnya AI yang Dipersenjatai dan Kebencian Tertarget

Pekerjaan pemeriksa fakta menjadi jauh lebih menantang selama genosida di Palestina, karena pendudukan Israel sangat bergantung pada kecerdasan buatan untuk menyebarkan misinformasi. Perang pemusnahan saat ini telah menandai titik balik dalam penyebaran misinformasi, dengan kecerdasan buatan memainkan peran sentral. Media Israel dan lembaga resmi menggunakan pasukan akun pendukung dan akun palsu, mengeksploitasi salah satu alat dunia kecerdasan buatan, yaitu akun palsu yang digerakkan oleh kecerdasan buatan, yang dikenal sebagai bot. Bot ini diprogram untuk memposting komentar dan artikel yang mendukung pendudukan dan merusak hak-hak Palestina di berbagai platform, terutama Facebook, X, dan Instagram.

Pada 29 Mei, Meta melaporkan penghapusan jaringan ratusan akun palsu yang terkait dengan perusahaan Israel bernama STOIC, yang berbasis di Tel Aviv. Akun-akun ini, yang digerakkan oleh AI, digunakan untuk memperkuat propaganda Israel dan menyebarkan klaim palsu, terutama menargetkan audiens berbahasa Arab. Sehari kemudian, pada 30 Mei, OpenAI, pengembang ChatGPT, mengumumkan bahwa mereka telah melarang kelompok akun lain yang dioperasikan oleh perusahaan yang sama. Akun-akun ini telah menggunakan AI untuk menyamar sebagai mahasiswa Yahudi dan warga negara Afrika-Amerika dalam upaya membuat pesan mereka tampak autentik dan beragam. Persenjataan AI ini melampaui disinformasi untuk secara langsung memicu kebencian yang ditargetkan, karena akun palsu memperkuat retorika yang memecah belah dan menabur perselisihan.

Algoritma yang Mandiri: Bergeser dari Koleksi ke Eksploitasi

Pada titik ini, tidak masalah lagi apakah seseorang berpartisipasi dalam tren media sosial tertentu yang berkontribusi pada kumpulan data pelatihan untuk model AI. Kenyataannya adalah setelah data yang cukup terkumpul, alat pembelajaran mesin dapat memprediksi pola penuaan manusia dengan sedikit input tambahan dan dengan akurasi tinggi. Dengan kata lain, kumpulan kontribusi gambar sukarela yang jenuh dapat mendorong pergeseran dari pengumpulan data ke eksploitasi data, di mana algoritma menjadi mandiri, hanya membutuhkan input baru minimal untuk menghasilkan prediksi yang luas jangkauannya. Ini terjadi di negara di mana hak privasi lemah dan pengawasan digital minimal. Membagikan gambar yang diproses usia secara sukarela dapat dengan mudah memberi makan alat prediktif yang muncul, dengan konsekuensi dunia nyata untuk pengawasan, pembuatan profil, dan kontrol sosial.

Sangat mungkin bahwa teknologi pengawasan tingkat militer yang didukung AI yang mengidentifikasi individu secara akurat dari waktu ke waktu seiring bertambahnya usia, dapat dipersenjatai di negara di mana fokus pembuat kebijakan dan otoritas penegak hukum adalah mengendalikan warga negara daripada melindungi mereka, di mana negara telah menghabiskan jutaan dolar untuk teknologi pengawasan tingkat militer untuk digunakan terhadap warga sipil atas nama 'keamanan nasional'. Apa yang tampak tidak berbahaya hari ini dalam bentuk filter penuaan, tren nostalgia, atau berbagi gambar akan memperkuat sistem penindasan yang ada untuk masa depan. Fusi tren media sosial, pengawasan AI, dan militerisasi mewakili pergeseran mendalam dalam cara jejak digital kita dieksploitasi, pada akhirnya membuka jalan bagi kebencian yang ditargetkan yang merusak tatanan masyarakat demokratis.