เทรนด์โซเชียลมีเดียกระตุ้น AI เฝ้าระวัง การทหาร และอนาคตของความเกลียดชังที่กำหนดเป้าหมาย

วิวัฒนาการของความสนุก: จากฟิลเตอร์หน้าสู่การเก็บข้อมูล

ก่อนที่ Instagram จะกลายเป็นฟีดเนื้อหาที่สร้างโดย AI อย่างที่เราเห็นในวันนี้ ผู้คนต่างเล่นกับใบหน้าที่ถูกปรับแต่งบน TikTok ฟิลเตอร์อายุที่เพิ่มขึ้น ซึ่งแสดงกระบวนการแก่ชราของผู้คนแบบเรียลไทม์บนหน้าจอ แพร่กระจายไปอย่างรวดเร็วข้ามแพลตฟอร์ม สิ่งที่ดูเหมือนความสนุกไร้พิษภัยกลายเป็นชุดข้อมูลขนาดใหญ่สำหรับฝึกโมเดล AI ให้รู้จักรูปแบบการแก่ชราของมนุษย์ Big Tech สร้างรายได้จากความสนใจโดยการดึงรูปแบบพฤติกรรม ความชอบ และข้อมูลชีวมาตรที่สกัดผ่านรูปภาพ ป้อนเข้าสู่อัลกอริทึมที่ปรับแต่งกลไกการทำนายของทุนนิยมเฝ้าระวัง

เมื่อเวลาผ่านไป โครงสร้างพื้นฐานของปฏิสัมพันธ์ "ฟรี" นี้กลายเป็นคู่มือฝึกอบรมสำหรับสร้างเทคโนโลยีที่ล่วงล้ำมากขึ้น โดยใช้รูปภาพที่ผู้ใช้อัปโหลดเพื่อให้รู้สึกถูกมองเห็นหรือได้รับการยอมรับ ซึ่งสอนให้เครื่องจักรมองเห็นเราได้ดีกว่าที่เรามองเห็นตัวเอง เมื่อนำไปใช้กับ AI เชิงสร้างสรรค์ พลวัตนี้ไม่ได้หยุดอยู่แค่กิจกรรมครอบครัวที่สนุกสนาน การโฆษณา การดูแลเนื้อหา หรือแม้แต่การติดป้ายกำกับข้อมูล แต่ขยายไปสู่การฝึกระบบที่สามารถทำนายและติดตามอัตลักษณ์ของมนุษย์ได้อย่างแม่นยำเมื่อเวลาผ่านไป เปลี่ยนการเชื่อมต่อเป็นการควบคุม

#10YearChallenge: ความคิดถึงไร้เดียงสาหรือการเฝ้าระวังมวลชน?

ตรรกะของการทำกำไรผ่านการสกัดข้อมูลขยายไปสู่เทรนด์โซเชียลมีเดียที่แพร่ระบาดซึ่งปลอมแปลงการเฝ้าระวังเป็นการเล่น ยกตัวอย่างเทรนด์ #10YearChallenge หรือ #MeAt20 ที่โด่งดังซึ่งท่วมไทม์ไลน์ Twitter ในช่วงปี 2019 กระตุ้นให้ผู้คนอวด "การเปลี่ยนแปลงครั้งใหญ่" ในรอบทศวรรษพร้อมหลักฐานภาพถ่าย สิ่งที่ดูเหมือนเป็นการออกกำลังกายที่ไร้พิษภัยในความคิดถึงอาจเป็นความพยายามระดับมหาศาลในการส่งข้อมูลโดยสมัครใจ เทรนด์เหล่านี้ปลอมตัวเป็นการกระทำที่สร้างสรรค์หรือการรำลึก แต่แท้จริงแล้วเป็นกับดักความคิดถึงที่ถูกออกแบบมาเพื่อดึงดูดผู้ใช้ภายใต้หน้ากากของการเชื่อมต่อทางอารมณ์ ขณะเดียวกันก็เก็บเกี่ยวข้อมูลชีวมาตรที่ละเอียดอ่อน

เมื่อเร็วๆ นี้ ด้วยการ商业化ของ AI เชิงสร้างสรรค์ แพลตฟอร์มโซเชียลมีเดียเต็มไปด้วยภาพที่สร้างโดย AI ซึ่งทำให้เส้นแบ่งระหว่างความทรงจำจริงและการบิดเบือนเลือนลาง Google's Gemini ดูเหมือนจะเป็นผู้นำคลื่นเชิงพาณิชย์นี้ ขับเคลื่อนเทรนด์ที่เปลี่ยนรูปภาพงานแต่งงานของผู้คนเป็นศิลปะสไตล์ Ghibli หรืออัปเดตล่าสุด Nano Banana ช่วยให้ผู้ใช้สร้างภาพเหมือนโพลารอยด์ของตนเองกับตัวเองในวัยเด็ก คนดังที่ชอบ หรือแม้แต่ญาติที่เสียชีวิต ปฏิสัมพันธ์แต่ละครั้งบิดเบือนการรับรู้ความเป็นจริงของเรามากขึ้น ทำให้ระบบ AI สามารถทำให้ภาพลวงตานั้นสมบูรณ์แบบด้วยภาพใหม่ทุกภาพที่สร้างขึ้น

จากความสนุกเพื่อข้อมูลสู่การทหารของอัตลักษณ์

ราคาของการเข้าร่วม แม้จะมองไม่เห็น แต่ก็ไม่ได้ฟรีเลย รูปภาพแต่ละภาพที่อัปโหลด เช่น เพื่อสร้างภาพโพลารอยด์ของตนเองกับตัวเองในวัยเด็ก ป้อนเข้าสู่ท่อส่งข้อมูลขนาดใหญ่ที่ฝึก AI ให้รู้จักรูปแบบในรูปลักษณ์ของมนุษย์เมื่อเวลาผ่านไป กล่าวคือ ตั้งแต่วัยเด็กจนถึงวัยผู้ใหญ่ – ข้อมูลที่ตอนนี้อยู่ในมือของใครก็ตามที่ยินดีจ่ายเพื่อเข้าถึง การวิจัยเกี่ยวกับโมเดลการประมาณอายุจากใบหน้าแสดงให้เห็นว่าชุดข้อมูลขนาดใหญ่ของภาพใบหน้าที่มีป้ายกำกับอายุหรืออายุที่เพิ่มขึ้นถูกใช้เพื่อฝึกโมเดลให้รู้จักว่าบุคคลมีอายุอย่างไรตามเชื้อชาติ และมีประโยชน์ใน "การเฝ้าระวังอัจฉริยะ" และอุตสาหกรรมอื่นๆ

ในเชิงกลยุทธ์และจากมุมมองทางเศรษฐกิจ เทรนด์โซเชียลมีเดีย เช่น ภาพสไตล์โพลารอยด์หรือ #10YearChallenge ก่อนหน้านี้ ดูเหมือนจะเป็นกลไกในอุดมคติในการกระตุ้นให้ผู้คนมีส่วนร่วมในข้อมูลที่เปิดเผยต่อสาธารณะซึ่งสามารถช่วยเติมเต็มช่องว่างการวิจัยเกี่ยวกับวิธีที่ผู้คนมีอายุภายใต้สภาวะที่แตกต่างกัน และช่วยให้บริษัทต่างๆ สามารถขูดข้อมูลนั้นโดยไม่มีผลกระทบเพื่อฝึกโมเดล AI ที่ถูกใช้ไปไกลเกินกว่าการค้นหาข้อความหรือรูปภาพธรรมดา การประยุกต์ใช้ชุดข้อมูลดังกล่าวและโมเดล AI ที่ผ่านการฝึกแล้วนั้นมีมากมายไม่แพ้กัน – หลายอย่างก้าวเข้าสู่การรักษาความสงบเรียบร้อย รวมถึงการดำเนินการที่ชายแดนและในหน่วยงานบังคับใช้กฎหมายเพื่อการจัดทำโปรไฟล์ในนามของ 'การประเมินภัยคุกคามเชิงทำนาย' รวมถึงในเทคโนโลยีทางการทหารเพื่อเฝ้าระวังและกำหนดเป้าหมายบุคคลในระยะต่างๆ ของวงจรชีวิต

จากโซเชียลมีเดียสู่บัญชีสังหาร: AI ในสงคราม

สิ่งที่เริ่มต้นเป็นช่วงเวลาแห่งวัฒนธรรมของการเชื่อมต่อผ่านภาพ ในที่สุดก็เสริมสร้างโครงสร้างพื้นฐานของทุนนิยมเฝ้าระวังและเชื่อมโยงโดยตรงกับการประยุกต์ใช้เทคโนโลยีอัตลักษณ์เชิงทำนายในทางการทหาร ตัวอย่างเช่น งานวิจัยได้สำรวจการประยุกต์ใช้ AI ที่หลากหลายในสภาพแวดล้อมการป้องกัน – ตั้งแต่โดรนอัตโนมัติไปจนถึงการระบุเป้าหมาย – โดยเน้นย้ำถึงความจำเป็นในการกำหนดนโยบายที่ได้รับข้อมูลจากทัศนคติของสาธารณะเพื่อให้แน่ใจว่ามีการกำกับดูแลอย่างรับผิดชอบ ตัวอย่างเชิงปฏิบัติของการประยุกต์ใช้นี้ได้รับการบันทึกไว้ในปาเลสไตน์ ซึ่งกองกำลังป้องกันอิสราเอลใช้ระบบที่ขับเคลื่อนด้วย AI เช่น Lavender, Where's Daddy และอื่นๆ เพื่อเตรียม "บัญชีสังหาร" และกำหนดเป้าหมายชาวปาเลสไตน์

ผู้สืบสวนพบว่าผู้ปฏิบัติงานบางครั้งอนุมัติการโจมตีในเวลาเพียง 20 วินาที เทคโนโลยีเหล่านี้ ส่วนหนึ่ง ได้รับการสนับสนุนจากบริษัท Big Tech เช่น Google ที่ให้กองกำลังป้องกันอิสราเอล (IDF) เข้าถึงข้อมูลการรู้จำใบหน้าของ Google Photos เพื่อใช้ประโยชน์จากสิ่งที่เรียกว่าบัญชีสังหารต่อชาวปาเลสไตน์ ในบริบทนี้ เทรนด์โซเชียลมีเดียที่สร้างข้อมูลชีวมาตรจำนวนมหาศาล (รวมถึงการเพิ่มอายุ) กลายเป็นมากกว่าลักษณะทางวัฒนธรรมและกลายเป็นสื่อฝึกสำหรับโมเดลที่สามารถระบุตัวตนซ้ำ ทำนาย และติดตามบุคคลเมื่อเวลาผ่านไป เมื่อการเฝ้าระวังทางชีวมาตรย้ายจากการรักษาความสงบเรียบร้อยที่ชายแดนและในเมืองไปสู่สงคราม ผลกระทบต่อชุมชนที่ถูกจัดทำโปรไฟล์อยู่แล้ว โดยเฉพาะในประเทศโลกใต้ ก็ยิ่งร้ายกาจมากขึ้น

การเพิ่มขึ้นของ AI ที่เป็นอาวุธและความเกลียดชังที่กำหนดเป้าหมาย

งานของผู้ตรวจสอบข้อเท็จจริงมีความท้าทายมากขึ้นอย่างมีนัยสำคัญระหว่างการฆ่าล้างเผ่าพันธุ์ในปาเลสไตน์ เนื่องจากการยึดครองของอิสราเอลพึ่งพาปัญญาประดิษฐ์อย่างหนักในการเผยแพร่ข้อมูลที่บิดเบือน สงครามการทำลายล้างในปัจจุบันเป็นจุดเปลี่ยนในการแพร่กระจายข้อมูลที่บิดเบือน โดยปัญญาประดิษฐ์มีบทบาทสำคัญ สื่ออิสราเอลและสถาบันทางการใช้กองทัพบัญชีผู้สนับสนุนและบัญชีปลอม โดยใช้ประโยชน์จากเครื่องมือหนึ่งของโลกปัญญาประดิษฐ์ ซึ่งก็คือบัญชีปลอมที่ขับเคลื่อนโดยปัญญาประดิษฐ์ หรือที่รู้จักในชื่อบอท บอทเหล่านี้ถูกตั้งโปรแกรมให้โพสต์ความคิดเห็นและบทความที่สนับสนุนการยึดครองและบ่อนทำลายสิทธิของชาวปาเลสไตน์ในแพลตฟอร์มต่างๆ โดยเฉพาะ Facebook, X และ Instagram

เมื่อวันที่ 29 พฤษภาคม Meta รายงานการลบบัญชีปลอมหลายร้อยบัญชีที่เชื่อมโยงกับบริษัทอิสราเอลชื่อ STOIC ซึ่งตั้งอยู่ในเทลอาวีฟ บัญชีเหล่านี้ซึ่งขับเคลื่อนโดย AI ถูกใช้เพื่อขยายการโฆษณาชวนเชื่อของอิสราเอลและเผยแพร่ข้อกล่าวอ้างเท็จ โดยเฉพาะอย่างยิ่งการกำหนดเป้าหมายผู้ชมที่พูดภาษาอาหรับ วันต่อมาในวันที่ 30 พฤษภาคม OpenAI ผู้พัฒนา ChatGPT ประกาศว่าได้แบนบัญชีอีกกลุ่มหนึ่งที่ดำเนินการโดยบริษัทเดียวกัน บัญชีเหล่านี้ใช้ AI เพื่อแอบอ้างเป็นนักเรียนชาวยิวและพลเมืองอเมริกันเชื้อสายแอฟริกันในความพยายามทำให้ข้อความของพวกเขาดูสมจริงและหลากหลาย การทำให้ AI เป็นอาวุธนี้ขยายไปไกลกว่าข้อมูลที่บิดเบือนเพื่อกระตุ้นความเกลียดชังที่กำหนดเป้าหมายโดยตรง เนื่องจากบัญชีปลอมขยายวาทกรรมที่แบ่งแยกและหว่านความไม่ลงรอยกัน

อัลกอริทึมที่พึ่งพาตนเอง: การเปลี่ยนจากการรวบรวมเป็นการแสวงหาประโยชน์

ณ จุดนี้ ไม่สำคัญอีกต่อไปว่ามีคนเข้าร่วมในเทรนด์โซเชียลมีเดียเฉพาะที่ส่งผลต่อชุดข้อมูลการฝึกสำหรับโมเดล AI หรือไม่ ความจริงก็คือ เมื่อรวบรวมข้อมูลได้เพียงพอแล้ว เครื่องมือการเรียนรู้ของเครื่องสามารถทำนายรูปแบบการแก่ชราของมนุษย์ได้โดยมีข้อมูลเพิ่มเติมเพียงเล็กน้อยและมีความแม่นยำสูง กล่าวอีกนัยหนึ่ง สระข้อมูลการบริจาคภาพโดยสมัครใจที่อิ่มตัวอาจกระตุ้นให้เกิดการเปลี่ยนจากการรวบรวมข้อมูลเป็นการแสวงหาประโยชน์จากข้อมูล ซึ่งอัลกอริทึมจะพึ่งพาตนเองได้ โดยต้องการข้อมูลนำเข้าใหม่เพียงเล็กน้อยเพื่อสร้างการทำนายที่กว้างขวาง สิ่งนี้กำลังเกิดขึ้นในประเทศที่สิทธิในความเป็นส่วนตัวอ่อนแอและการกำกับดูแลทางดิจิทัลมีน้อย การแบ่งปันภาพที่มีอายุเพิ่มขึ้นโดยสมัครใจสามารถป้อนเข้าสู่เครื่องมือทำนายที่เกิดขึ้นใหม่ได้อย่างง่ายดาย โดยมีผลกระทบในโลกแห่งความเป็นจริงต่อการเฝ้าระวัง การจัดทำโปรไฟล์ และการควบคุมทางสังคม

เป็นไปได้ว่าเทคโนโลยีการเฝ้าระวังระดับทหารที่เปิดใช้งาน AI ซึ่งระบุตัวบุคคลได้อย่างแม่นยำเมื่อเวลาผ่านไปเมื่อพวกเขามีอายุมากขึ้น อาจถูกทำให้เป็นอาวุธในประเทศที่จุดเน้นของผู้กำหนดนโยบายและหน่วยงานบังคับใช้กฎหมายคือการควบคุมพลเมืองมากกว่าปกป้องพวกเขา ซึ่งรัฐได้ใช้เงินหลายล้านดอลลาร์ไปกับเทคโนโลยีการเฝ้าระวังระดับทหารเพื่อใช้กับพลเรือนในนามของ 'ความมั่นคงแห่งชาติ' สิ่งที่ดูเหมือนไม่เป็นอันตรายในวันนี้ในรูปแบบของฟิลเตอร์อายุ เทรนด์ความคิดถึง หรือการแบ่งปันภาพ จะเสริมสร้างระบบการกดขี่ที่มีอยู่ในวันพรุ่งนี้ การหลอมรวมของเทรนด์โซเชียลมีเดีย การเฝ้าระวัง AI และการทำให้เป็นทหาร แสดงถึงการเปลี่ยนแปลงอย่างลึกซึ้งในวิธีที่ร่องรอยดิจิทัลของเราถูกใช้ประโยชน์ ในที่สุดก็ปูทางไปสู่ความเกลียดชังที่กำหนดเป้าหมายซึ่งบ่อนทำลายโครงสร้างพื้นฐานของสังคมประชาธิปไตย