روندهای رسانههای اجتماعی به سوخت نظارت هوش مصنوعی، نظامیگری و آینده نفرت هدفمند تبدیل میشوند
تکامل سرگرمی: از فیلترهای چهره تا جمعآوری دادهها
پیش از آنکه اینستاگرام به خوراک مدیریتشده از محتوای تولیدشده توسط هوش مصنوعی که امروز میبینیم تبدیل شود، مردم با نسخههای تغییر یافته چهره خود در تیکتاک بازی میکردند. فیلتر پیری آن، که روند پیری افراد را در زمان واقعی روی صفحه نشان میداد، به سرعت در پلتفرمها پخش شد. آنچه به نظر سرگرمی بیآزاری میرسید، به مجموعه داده عظیمی برای آموزش مدلهای هوش مصنوعی برای تشخیص الگوهای پیری انسان تبدیل شد. شرکتهای بزرگ فناوری با استخراج الگوهای رفتاری، ترجیحات و دادههای بیومتریک استخراجشده از طریق عکسها، توجه را پولسازی میکنند و آنها را به الگوریتمهایی تغذیه میکنند که ماشین پیشبینی سرمایهداری نظارتی را اصلاح میکنند.
با گذشت زمان، این زیرساخت تعامل "رایگان" به کتابچه راهنمای آموزشی برای ساخت فناوریهای تهاجمیتر با استفاده از تصاویری تبدیل میشود که کاربران برای احساس دیده شدن یا تأیید شدن آپلود میکنند، و به ماشینها میآموزد که ما را بهتر از خودمان ببینند. هنگامی که در هوش مصنوعی مولد اعمال میشود، این پویایی دیگر به فعالیتهای سرگرمکننده خانوادگی، تبلیغات، مدیریت محتوا یا حتی برچسبگذاری داده محدود نمیشود؛ بلکه به سیستمهای آموزشی گسترش مییابد که میتوانند هویتهای انسانی را در طول زمان به دقت پیشبینی و ردیابی کنند، و ارتباط را به کنترل تبدیل میکند.
#چالش_10_سال: نوستالژی بیگناه یا نظارت جمعی؟
منطق سود از طریق استخراج داده به طور یکپارچه به روندهای ویروسی رسانههای اجتماعی گسترش مییابد که نظارت را به عنوان بازی پنهان میکنند. چالش بدنام #10YearChallenge یا #MeAt20 را در نظر بگیرید که در حدود سال ۲۰۱۹ جدول زمانی توییتر را پر کرد و مردم را ترغیب میکرد تا "درخشش" دههای خود را با شواهد عکاسی به رخ بکشند. آنچه به نظر تمرین بیآزاری در نوستالژی میرسد، میتواند تلاشی جمعی برای ارائه داوطلبانه داده باشد. این روندها به عنوان اعمال خلاقیت یا یادآوری ظاهر میشوند، اما در واقع تلههای نوستالژی مهندسیشدهای هستند که کاربران را تحت پوشش ارتباط عاطفی جذب میکنند و در عین حال دادههای بیومتریک صمیمی را جمعآوری میکنند.
اخیراً، با تجاریسازی هوش مصنوعی مولد، پلتفرمهای رسانههای اجتماعی با تصاویر تولیدشده توسط هوش مصنوعی اشباع شدهاند که مرزهای بین حافظه واقعی و دستکاری را محو میکند. به نظر میرسد جمینای گوگل پیشرو این موج تجاری است و روندهایی را هدایت میکند که عکسهای عروسی مردم را به هنر به سبک گیبلی تبدیل میکند، یا آخرین بهروزرسانی، نانو موز، به کاربران امکان میدهد تصاویری شبیه پولاروید از خود با خود جوانترشان، یک سلبریتی محبوب یا حتی یک خویشاوند فوتشده تولید کنند. هر تعامل درک ما از واقعیت را بیشتر تحریف میکند و به سیستمهای هوش مصنوعی اجازه میدهد آن توهم را با هر تصویر جدیدی که تولید میکنند کامل کنند.
از سرگرمی-برای-داده تا نظامیسازی هویت
قیمت مشارکت، اگرچه نامرئی است، اما به دور از رایگان است. هر تصویری که آپلود میشود، به عنوان مثال، برای تولید یک تصویر پولاروید از خود با خود جوانترشان، خطوط لوله داده عظیمی را تغذیه میکند که هوش مصنوعی را برای تشخیص الگوهای ظاهر انسان در طول زمان آموزش میدهد، یعنی از کودکی تا بزرگسالی – اطلاعاتی که اکنون در دست هر کسی است که مایل به پرداخت هزینه برای دسترسی است. تحقیقات در مورد مدلهای تخمین سن چهره نشان میدهد که مجموعه دادههای بزرگ از تصاویر چهره با برچسب سن یا پیشرفته سن در حال حاضر برای آموزش مدلها برای تشخیص نحوه پیری افراد در میان قومیتها استفاده میشود و در "نظارت هوشمند" و سایر صنایع مفید است.
از نظر استراتژیک و اقتصادی، روندهای رسانههای اجتماعی مانند تصاویر به سبک پولاروید یا #چالش_10_سال قبلی به نظر مکانیسمی ایدهآل برای تشویق مردم به مشارکت در دادههای در دسترس عموم است که میتواند به پر کردن شکافهای تحقیقاتی در مورد نحوه پیری افراد در شرایط مختلف کمک کند و شرکتها را قادر میسازد بدون عواقب آن دادهها را خراش دهند تا مدلهای هوش مصنوعی را آموزش دهند که بسیار فراتر از پرسشهای ساده متن یا تصویر استفاده میشوند. کاربردهای چنین مجموعه دادهها و مدلهای هوش مصنوعی آموزشدیده حاصل به همان اندازه گسترده است – بسیاری از آنها به پلیس راه مییابند، از جمله اجرا در مرزها و در اجرای قانون برای پروفایلسازی به نام "ارزیابی تهدید پیشبینیکننده"، و همچنین در فناوریهای نظامی برای نظارت و هدفگیری افراد در مراحل مختلف زندگی.
از رسانههای اجتماعی تا لیستهای کشتار: هوش مصنوعی در جنگ
آنچه به عنوان یک لحظه فرهنگی ارتباط از طریق تصاویر آغاز میشود، در نهایت زیرساخت سرمایهداری نظارتی را تقویت میکند و مستقیماً به کاربردهای نظامی فناوریهای هویت پیشبینیکننده مرتبط میشود. به عنوان مثال، تحقیقات طیف گستردهای از کاربردهای بالقوه هوش مصنوعی در محیطهای دفاعی را بررسی کرده است – از پهپادهای خودمختار تا شناسایی هدف – و بر نیاز به سیاستگذاری مبتنی بر نگرشهای عمومی برای اطمینان از حاکمیت مسئولانه تأکید میکند. یک مثال عملی از این کاربرد در فلسطین مستند شده است، جایی که نیروهای دفاعی اسرائیل از سیستمهای مبتنی بر هوش مصنوعی مانند لاوندر، وِرز ددی و دیگران برای تهیه "لیست کشتار" و هدفگیری فلسطینیان استفاده کردند.
محققان دریافتند که اپراتورها گاهی اوقات یک حمله را در کمتر از ۲۰ ثانیه تأیید میکردند. این فناوریها تا حدی توسط شرکتهای بزرگ فناوری مانند گوگل که به نیروهای دفاعی اسرائیل (IDF) دسترسی به دادههای تشخیص چهره گوگل فوتوز را برای ابزاری کردن به اصطلاح لیست کشتار علیه فلسطینیان اعطا میکند، امکانپذیر شده است. در این زمینه، روندهای رسانههای اجتماعی که مقادیر زیادی داده بیومتریک (از جمله پیشرفت سن) تولید میکنند، فراتر از ویژگیهای فرهنگی میروند و به مواد آموزشی برای مدلهایی تبدیل میشوند که میتوانند افراد را در طول زمان دوباره شناسایی، پیشبینی و ردیابی کنند. با مهاجرت نظارت بیومتریک از پلیس در مرزها و شهرها به جنگ، پیامدها برای جوامعی که قبلاً تحت پروفایلسازی قرار دارند، به ویژه در جنوب جهانی، وحشتناکتر میشود.
ظهور هوش مصنوعی تسلیحاتی و نفرت هدفمند
کار راستیآزمایان در طول نسلکشی در فلسطین به طور قابل توجهی دشوارتر شده است، زیرا اشغال اسرائیل به شدت به هوش مصنوعی برای انتشار اطلاعات نادرست متکی بوده است. جنگ کنونی نابودی نقطه عطفی در گسترش اطلاعات نادرست بوده است، با هوش مصنوعی که نقش اصلی را ایفا میکند. رسانههای اسرائیلی و نهادهای رسمی ارتشی از حسابهای حامی و حسابهای جعلی را به کار گرفتند و از یکی از ابزارهای دنیای هوش مصنوعی، یعنی حسابهای جعلی هدایتشده توسط هوش مصنوعی، معروف به رباتها، بهره بردند. این رباتها برای ارسال نظرات و مقالات حمایت از اشغال و تضعیف حقوق فلسطینیان در پلتفرمهای مختلف، به ویژه فیسبوک، ایکس و اینستاگرام، برنامهریزی شده بودند.
در ۲۹ مه، متا گزارش داد که شبکهای از صدها حساب جعلی مرتبط با یک شرکت اسرائیلی به نام استویک، مستقر در تلآویو، را حذف کرده است. این حسابها که توسط هوش مصنوعی هدایت میشدند، برای تقویت تبلیغات اسرائیل و انتشار ادعاهای نادرست، به ویژه با هدف مخاطبان عربزبان، استفاده میشدند. یک روز بعد، در ۳۰ مه، اوپنایآی، توسعهدهنده چتجیپیتی، اعلام کرد که گروه دیگری از حسابهای تحت مدیریت همان شرکت را مسدود کرده است. این حسابها از هوش مصنوعی برای جعل هویت دانشجویان یهودی و شهروندان آفریقایی-آمریکایی استفاده کرده بودند تا پیامهایشان معتبر و متنوع به نظر برسد. این تسلیحاتی شدن هوش مصنوعی فراتر از اطلاعات نادرست گسترش مییابد و مستقیماً نفرت هدفمند را تغذیه میکند، زیرا حسابهای جعلی گفتمان تفرقهانگیز را تقویت کرده و تفرقه ایجاد میکنند.
الگوریتم خودپایدار: تغییر از جمعآوری به بهرهبرداری
در این مرحله، دیگر مهم نیست که آیا شخصی در یک روند خاص رسانههای اجتماعی شرکت کرده است که به مجموعه دادههای آموزشی برای مدلهای هوش مصنوعی کمک میکند. واقعیت این است که پس از جمعآوری دادههای کافی، ابزارهای یادگیری ماشین میتوانند الگوهای پیری انسان را با ورودی اضافی کم و با دقت بالا پیشبینی کنند. به عبارت دیگر، استخر اشباعشده از مشارکتهای تصویری داوطلبانه ممکن است باعث تغییر از جمعآوری داده به بهرهبرداری از داده شود، جایی که الگوریتمها خودپایدار میشوند و تنها به ورودی جدید حداقلی برای تولید پیشبینیهای گسترده نیاز دارند. این در کشوری رخ میدهد که حق حریم خصوصی ضعیف است و نظارت دیجیتال حداقل است. به اشتراکگذاری داوطلبانه تصاویر پیشرفته سن میتواند به راحتی به ابزارهای پیشبینیکننده نوظهور تغذیه کند، با پیامدهای واقعی برای نظارت، پروفایلسازی و کنترل اجتماعی.
در محدوده امکان است که فناوری نظارت نظامی مجهز به هوش مصنوعی که افراد را در طول زمان با افزایش سن به دقت شناسایی میکند، میتواند در کشوری که تمرکز سیاستگذاران و مقامات اجرای قانون بر کنترل شهروندان است نه محافظت از آنها، و در آن دولت قبلاً میلیونها دلار برای فناوری نظارت نظامی برای استفاده علیه غیرنظامیان به نام "امنیت ملی" هزینه کرده است، تسلیحاتی شود. آنچه امروز به صورت فیلترهای پیری، روندهای نوستالژی یا اشتراکگذاری تصاویر بیآزار به نظر میرسد، سیستمهای ستم موجود را برای فردا تقویت خواهد کرد. تلفیق روندهای رسانههای اجتماعی، نظارت هوش مصنوعی و نظامیگری نشاندهنده تغییر عمیقی در نحوه بهرهبرداری از ردپای دیجیتال ما است و در نهایت راه را برای نفرت هدفمندی هموار میکند که بافت جوامع دموکراتیک را تضعیف میکند.