Xu hướng mạng xã hội thúc đẩy giám sát AI, quân sự hóa và tương lai của thù hận có mục tiêu

Sự tiến hóa của niềm vui: Từ bộ lọc khuôn mặt đến thu thập dữ liệu

Trước khi Instagram trở thành dòng nội dung do AI tạo ra như ngày nay, mọi người đã chơi với các phiên bản chỉnh sửa khuôn mặt của chính họ trên TikTok. Bộ lọc lão hóa, hiển thị quá trình lão hóa theo thời gian thực trên màn hình, nhanh chóng lan rộng trên các nền tảng. Điều tưởng chừng như vô hại đã trở thành một tập dữ liệu khổng lồ để huấn luyện mô hình AI nhận dạng mô hình lão hóa của con người. Big Tech kiếm tiền từ sự chú ý bằng cách trích xuất các mẫu hành vi, sở thích và dữ liệu sinh trắc học từ ảnh, đưa chúng vào các thuật toán tinh chỉnh cỗ máy dự đoán của chủ nghĩa tư bản giám sát.

Theo thời gian, cơ sở hạ tầng tương tác "miễn phí" này trở thành một cuốn sách hướng dẫn để xây dựng các công nghệ xâm lấn hơn bằng cách sử dụng hình ảnh người dùng tải lên để cảm thấy được nhìn thấy hoặc xác nhận, dạy máy móc nhìn thấy chúng ta rõ hơn chúng ta nhìn thấy chính mình. Khi áp dụng vào AI tạo sinh, động lực này không còn dừng lại ở các hoạt động gia đình vui vẻ, quảng cáo, quản lý nội dung hay thậm chí chú thích dữ liệu; thay vào đó, nó mở rộng thành các hệ thống huấn luyện có thể dự đoán và theo dõi danh tính con người theo thời gian một cách chính xác, biến kết nối thành kiểm soát.

#10YearChallenge: Hoài niệm vô hại hay giám sát hàng loạt?

Logic của lợi nhuận thông qua khai thác dữ liệu mở rộng liền mạch vào các xu hướng mạng xã hội lan truyền, ngụy trang giám sát thành trò chơi. Lấy ví dụ về xu hướng #10YearChallenge hay #MeAt20 khét tiếng từng tràn ngập dòng thời gian Twitter vào khoảng năm 2019, thúc giục mọi người khoe "sự lột xác" sau một thập kỷ bằng bằng chứng ảnh. Điều có vẻ như một bài tập hoài niệm vô hại có thể là một nỗ lực hàng loạt để tự nguyện nộp dữ liệu. Những xu hướng này cải trang thành các hành động sáng tạo hoặc kỷ niệm, nhưng thực chất là bẫy hoài niệm được thiết kế thu hút người dùng dưới vỏ bọc kết nối cảm xúc trong khi thu hoạch dữ liệu sinh trắc học thân mật.

Gần đây hơn, với việc thương mại hóa AI tạo sinh, các nền tảng mạng xã hội tràn ngập hình ảnh do AI tạo ra, làm mờ ranh giới giữa ký ức thực và thao túng. Gemini của Google dường như đang dẫn đầu làn sóng thương mại này, thúc đẩy các xu hướng biến ảnh cưới của mọi người thành nghệ thuật phong cách Ghibli, hoặc bản cập nhật mới nhất, Nano Banana, cho phép người dùng tạo ảnh kiểu Polaroid của họ với chính họ thời trẻ, một người nổi tiếng yêu thích, hoặc thậm chí một người thân đã mất. Mỗi tương tác càng làm méo mó nhận thức của chúng ta về thực tế, cho phép hệ thống AI hoàn thiện ảo ảnh đó với mỗi hình ảnh mới chúng tạo ra.

Từ niềm vui đổi dữ liệu đến quân sự hóa danh tính

Cái giá của sự tham gia, dù vô hình, không hề rẻ. Mỗi hình ảnh tải lên, ví dụ, để tạo ảnh Polaroid của một người với chính họ thời trẻ, nuôi dưỡng các đường ống dữ liệu khổng lồ huấn luyện AI nhận dạng các mẫu ngoại hình con người theo thời gian, tức là từ thời thơ ấu đến trưởng thành – thông tin hiện nằm trong tay bất kỳ ai sẵn sàng trả tiền để truy cập. Nghiên cứu về mô hình ước tính tuổi khuôn mặt cho thấy các tập dữ liệu lớn về hình ảnh khuôn mặt được chú thích tuổi hoặc lão hóa đã được sử dụng để huấn luyện mô hình nhận dạng cách cá nhân lão hóa theo các sắc tộc khác nhau và hữu ích trong "giám sát thông minh" và các ngành công nghiệp khác.

Về mặt chiến lược và kinh tế, các xu hướng mạng xã hội như ảnh kiểu Polaroid hoặc #10YearChallenge trước đó dường như là một cơ chế lý tưởng để khuyến khích mọi người đóng góp dữ liệu công khai, giúp lấp đầy khoảng trống nghiên cứu về cách con người lão hóa trong các điều kiện khác nhau, và cho phép các tập đoàn thu thập dữ liệu đó mà không bị hậu quả để huấn luyện mô hình AI được sử dụng vượt xa các truy vấn văn bản hoặc hình ảnh đơn giản. Các ứng dụng của các tập dữ liệu như vậy và các mô hình AI được huấn luyện cũng rộng lớn không kém – nhiều ứng dụng tiến vào lĩnh vực thực thi pháp luật, bao gồm triển khai tại biên giới và trong cơ quan thực thi pháp luật để lập hồ sơ nhân danh 'đánh giá mối đe dọa dự đoán', cũng như trong các công nghệ quân sự hóa để giám sát và nhắm mục tiêu cá nhân qua các giai đoạn vòng đời khác nhau.

Từ mạng xã hội đến danh sách tiêu diệt: AI trong chiến tranh

Điều bắt đầu như một khoảnh khắc văn hóa của sự kết nối qua hình ảnh cuối cùng củng cố cơ sở hạ tầng của chủ nghĩa tư bản giám sát và liên kết trực tiếp với các ứng dụng quân sự hóa của công nghệ nhận dạng dự đoán. Ví dụ, nghiên cứu đã khám phá nhiều ứng dụng tiềm năng của AI trong môi trường quốc phòng – từ máy bay không người lái tự động đến nhận dạng mục tiêu – nhấn mạnh nhu cầu hoạch định chính sách dựa trên thái độ công chúng để đảm bảo quản trị có trách nhiệm. Một ví dụ thực tế về ứng dụng này đã được ghi nhận ở Palestine, nơi Lực lượng Phòng vệ Israel sử dụng các hệ thống hỗ trợ AI như Lavender, Where's Daddy và các hệ thống khác để chuẩn bị "danh sách tiêu diệt" và nhắm mục tiêu vào người Palestine.

Các nhà điều tra phát hiện ra rằng các nhà điều hành đôi khi phê duyệt một cuộc tấn công chỉ trong 20 giây. Những công nghệ này, một phần, được kích hoạt bởi các công ty Big Tech như Google, cấp cho Lực lượng Phòng vệ Israel (IDF) quyền truy cập vào dữ liệu nhận dạng khuôn mặt của Google Photos để công cụ hóa cái gọi là danh sách tiêu diệt chống lại người Palestine. Trong bối cảnh này, các xu hướng mạng xã hội tạo ra lượng lớn dữ liệu sinh trắc học (bao gồm lão hóa) trở thành hơn cả những đặc điểm văn hóa và biến thành tài liệu huấn luyện cho các mô hình có thể nhận dạng lại, dự đoán và theo dõi cá nhân theo thời gian. Khi giám sát sinh trắc học di chuyển từ thực thi pháp luật tại biên giới và thành phố sang chiến tranh, các hàm ý đối với các cộng đồng vốn đã bị lập hồ sơ, đặc biệt là ở Nam bán cầu, trở nên đáng ngại hơn.

Sự trỗi dậy của AI vũ khí hóa và thù hận có mục tiêu

Công việc của các nhà kiểm tra thực tế đã trở nên khó khăn hơn đáng kể trong cuộc diệt chủng ở Palestine, khi sự chiếm đóng của Israel đã phụ thuộc nhiều vào trí tuệ nhân tạo để phát tán thông tin sai lệch. Cuộc chiến tiêu diệt hiện tại đã đánh dấu một bước ngoặt trong việc lan truyền thông tin sai lệch, với trí tuệ nhân tạo đóng vai trò trung tâm. Truyền thông Israel và các tổ chức chính thức đã sử dụng một đội quân tài khoản ủng hộ và tài khoản giả, khai thác một trong những công cụ của thế giới trí tuệ nhân tạo, đó là các tài khoản giả do AI điều khiển, được gọi là bot. Các bot này được lập trình để đăng bình luận và bài viết ủng hộ sự chiếm đóng và phá hoại quyền của người Palestine trên nhiều nền tảng, đặc biệt là Facebook, X và Instagram.

Vào ngày 29 tháng 5, Meta báo cáo đã xóa một mạng lưới hàng trăm tài khoản giả liên kết với một công ty Israel tên là STOIC, có trụ sở tại Tel Aviv. Các tài khoản này, do AI điều khiển, được sử dụng để khuếch đại tuyên truyền của Israel và phát tán các tuyên bố sai sự thật, đặc biệt nhắm vào khán giả nói tiếng Ả Rập. Một ngày sau, vào ngày 30 tháng 5, OpenAI, nhà phát triển ChatGPT, thông báo đã cấm một nhóm tài khoản khác do cùng công ty vận hành. Các tài khoản này đã sử dụng AI để mạo danh sinh viên Do Thái và công dân Mỹ gốc Phi nhằm làm cho thông điệp của chúng có vẻ chân thực và đa dạng. Việc vũ khí hóa AI này vượt ra ngoài thông tin sai lệch để trực tiếp thúc đẩy thù hận có mục tiêu, khi các tài khoản giả khuếch đại luận điệu gây chia rẽ và gieo rắc bất hòa.

Thuật toán tự duy trì: Từ thu thập sang khai thác

Tại thời điểm này, không còn quan trọng việc ai đó có tham gia vào một xu hướng mạng xã hội cụ thể góp phần vào tập dữ liệu huấn luyện cho mô hình AI hay không. Thực tế là một khi đã thu thập đủ dữ liệu, các công cụ học máy có thể dự đoán mô hình lão hóa của con người với ít đầu vào bổ sung và với độ chính xác cao. Nói cách khác, lượng đóng góp hình ảnh tự nguyện bão hòa có thể thúc đẩy sự chuyển dịch từ thu thập dữ liệu sang khai thác dữ liệu, nơi các thuật toán trở nên tự duy trì, chỉ cần đầu vào mới tối thiểu để tạo ra các dự đoán sâu rộng. Điều này đang xảy ra ở một quốc gia nơi quyền riêng tư yếu và giám sát kỹ thuật số là tối thiểu. Việc tự nguyện chia sẻ hình ảnh lão hóa có thể dễ dàng nuôi dưỡng các công cụ dự đoán mới nổi, với những hậu quả thực tế cho giám sát, lập hồ sơ và kiểm soát xã hội.

Hoàn toàn có khả năng rằng công nghệ giám sát cấp quân sự hỗ trợ AI, xác định chính xác cá nhân theo thời gian khi họ già đi, có thể được vũ khí hóa ở một quốc gia nơi trọng tâm của các nhà hoạch định chính sách và cơ quan thực thi pháp luật là kiểm soát công dân thay vì bảo vệ họ, nơi nhà nước đã chi hàng triệu đô la cho công nghệ giám sát cấp quân sự để sử dụng chống lại dân thường nhân danh 'an ninh quốc gia'. Điều có vẻ vô hại ngày nay dưới dạng bộ lọc lão hóa, xu hướng hoài niệm hoặc chia sẻ hình ảnh sẽ củng cố các hệ thống áp bức hiện có cho ngày mai. Sự kết hợp giữa xu hướng mạng xã hội, giám sát AI và quân sự hóa đại diện cho một sự thay đổi sâu sắc trong cách dấu chân kỹ thuật số của chúng ta bị khai thác, cuối cùng mở đường cho thù hận có mục tiêu làm suy yếu chính nền tảng của các xã hội dân chủ.