ソーシャルメディアのトレンドがAI監視、軍事化、そして標的型ヘイトの未来を促進する

楽しみの進化：フェイスフィルターからデータ収集へ

Instagramが今日のようなAI生成コンテンツのキュレーションされたフィードに変わる前、人々はTikTokで自分の顔の加工バージョンで遊んでいました。その年齢進行フィルターは、画面上でリアルタイムに老化プロセスを表示し、急速にプラットフォーム全体に広がりました。無害な楽しみに見えたものは、AIモデルが人間の老化パターンを認識するための大規模なデータセットとなりました。ビッグテックは、写真を通じて抽出された行動パターン、嗜好、生体認証データを収集し、監視資本主義の予測機構を洗練するアルゴリズムに取り込むことで、注意を収益化しています。

時間が経つにつれて、この「無料」の相互作用のインフラは、ユーザーが認められたい、承認されたいという気持ちからアップロードした画像を使って、より侵襲的な技術を構築するためのトレーニングマニュアルとなります。これらの画像は、機械が私たち自身よりも私たちをよく見ることを教えます。生成AIに適用されると、このダイナミクスはもはや楽しい家族の活動、広告、コンテンツキュレーション、さらにはデータアノテーションに留まらず、人間のアイデンティティを時間をかけて正確に予測し追跡できるトレーニングシステムへと拡大し、つながりをコントロールに変えます。

#10YearChallenge：無害なノスタルジアか、それとも大量監視か？

データ抽出による利益の論理は、監視を遊びとして偽装するバイラルなソーシャルメディアトレンドにシームレスに拡張されます。2019年頃にTwitterのタイムラインを埋め尽くした悪名高い#10YearChallengeや#MeAt20トレンドを考えてみてください。これらは人々に写真の証拠を使って10年にわたる「変身」を誇示するよう促しました。ノスタルジアの無害な練習に見えるものは、データを自発的に提出させる大規模な取り組みである可能性があります。これらのトレンドは創造性や追憶の行為を装っていますが、実際には感情的なつながりの名目でユーザーを引き込みながら、親密な生体認証データを収集する、巧妙に作られたノスタルジアの罠です。

最近では、生成AIの商業化に伴い、ソーシャルメディアプラットフォームはAI生成画像で飽和状態になり、実際の記憶と操作の境界を曖昧にしています。GoogleのGeminiはこの商業的な波を先導しているように見え、人々の結婚式の写真をジブリ風のアートに変えるトレンドや、最新のアップデートであるNano Bananaは、ユーザーが自分の若い頃の自分、有名人の恋人、あるいは亡くなった親戚と一緒にポラロイド風の画像を生成できるようにします。それぞれの相互作用は現実認識をさらに歪め、AIシステムが生成する新しい画像ごとにその幻想を完璧にします。

データと引き換えの楽しみからアイデンティティの軍事化へ

参加の代償は目に見えませんが、決して無料ではありません。例えば、自分の若い頃の自分とポラロイド画像を生成するためにアップロードされた各画像は、人間の外見の経時的なパターン（つまり、幼少期から成人期まで）を認識するAIを訓練する広大なデータパイプラインに供給されます。この情報は現在、アクセス料を払う意思のある誰の手にも渡ります。顔の年齢推定モデルの研究によると、年齢注釈付きまたは年齢進行済みの顔画像の大規模データセットは、個人が民族間でどのように老化するかを認識するモデルの訓練にすでに使用されており、「インテリジェント監視」やその他の産業に役立っています。

戦略的かつ経済的な観点から見ると、ポラロイド風画像や以前の#10YearChallengeのようなソーシャルメディアトレンドは、人々がさまざまな条件下でどのように老化するかに関する研究ギャップを埋めるのに役立つ公開データを提供するよう促す理想的なメカニズムであり、企業がそのデータを結果を気にせずスクレイピングして、単なるテキストや画像クエリをはるかに超えて使用されるAIモデルを訓練することを可能にします。そのようなデータセットと結果として得られる訓練済みAIモデルの応用範囲は同様に広大で、多くは警察活動に進出しており、国境や法執行機関での「予測的脅威評価」の名の下でのプロファイリングの実施や、さまざまなライフサイクル段階にわたる個人を監視し標的とする軍事化技術への応用が含まれます。

ソーシャルメディアから殺害リストへ：戦争におけるAI

画像を通じたつながりの文化的瞬間として始まったものは、最終的に監視資本主義のインフラを強化し、予測的アイデンティティ技術の軍事化された応用に直接結びつきます。例えば、研究では、自律型ドローンから標的識別まで、防衛設定におけるAIの多様な潜在的应用が探求されており、責任あるガバナンスを確保するための世論に基づく政策立案の必要性が強調されています。この応用の実例はパレスチナで記録されており、イスラエル国防軍はLavender、Where's DaddyなどのAI搭載システムを使用して「殺害リスト」を作成し、パレスチナ人を標的にしました。

調査官は、オペレーターが時にはわずか20秒で攻撃を承認したことを発見しました。これらの技術は、一部、Googleのようなビッグテック企業によって可能にされており、Googleはイスラエル国防軍（IDF）にGoogleフォトの顔認識データへのアクセスを許可し、パレスチナ人に対するいわゆる殺害リストを道具化しています。この文脈では、大量の生体認証データ（年齢進行を含む）を生成するソーシャルメディアトレンドは、文化的な特異性を超えて、時間をかけて個人を再識別、予測、追跡できるモデルの訓練材料となります。生体認証監視が国境や都市での警察活動から戦争へと移行するにつれて、特にグローバルサウスでプロファイリングの対象となっているコミュニティへの影響はさらに sinister なものになります。

武器化されたAIと標的型ヘイトの台頭

パレスチナでのジェノサイド中、ファクトチェッカーの仕事は著しく困難になりました。イスラエルの占領は、偽情報を拡散するために人工知能に大きく依存しているためです。現在の絶滅戦争は、偽情報の拡散における転換点を示し、人工知能が中心的な役割を果たしています。イスラエルのメディアと公式機関は、支持者アカウントと偽アカウントの軍隊を採用し、人工知能の世界のツールの1つである、AI駆動の偽アカウント（ボットとして知られる）を悪用しました。これらのボットは、さまざまなプラットフォーム、特にFacebook、X、Instagramで、占領を支持しパレスチナ人の権利を損なうコメントや記事を投稿するようにプログラムされていました。

5月29日、Metaはテルアビブに拠点を置くSTOICというイスラエル企業に関連する数百の偽アカウントのネットワークを削除したと報告しました。これらのAI駆動のアカウントは、イスラエルのプロパガンダを増幅し、特にアラビア語圏の視聴者を標的にして虚偽の主張を拡散するために使用されました。翌日の5月30日、ChatGPTの開発元であるOpenAIは、同じ企業が運営する別のアカウントグループを禁止したと発表しました。これらのアカウントはAIを使用してユダヤ人の学生やアフリカ系アメリカ人の市民を装い、メッセージを本物で多様に見せかけようとしました。このAIの武器化は偽情報を超えて、標的型ヘイトを直接促進し、偽アカウントが分裂を煽るレトリックを増幅し、不和をまきます。

自己持続型アルゴリズム：収集から搾取への移行

この時点で、誰かが特定のソーシャルメディアトレンドに参加してAIモデルの訓練データセットに貢献したかどうかはもはや重要ではありません。現実には、十分なデータが収集されると、機械学習ツールは追加の入力をほとんど必要とせずに、高い精度で人間の老化パターンを予測できます。言い換えれば、自発的な画像提供の飽和したプールは、データ収集からデータ搾取への移行を促す可能性があり、アルゴリズムは自己持続的になり、広範囲にわたる予測を生成するために最小限の新しい入力しか必要としなくなります。これは、プライバシーの権利が弱く、デジタル監視が最小限である国で起こっています。年齢進行画像を自発的に共有することは、新たな予測ツールに容易に取り込まれ、監視、プロファイリング、社会的統制に現実世界の影響を及ぼす可能性があります。

個人を経時的に正確に識別するAI搭載の軍事グレード監視技術が、政策立案者や法執行当局が市民を保護するのではなく統制することに焦点を当てており、国家がすでに「国家安全保障」の名の下で市民に対して使用するために軍事グレード監視技術に数百万ドルを費やしている国で、武器化される可能性は十分にあります。今日、老化フィルター、ノスタルジアトレンド、画像共有の形で無害に見えるものは、明日の抑圧システムを強化するでしょう。ソーシャルメディアトレンド、AI監視、軍事化の融合は、私たちのデジタルフットプリントがどのように搾取されるかの深刻な変化を表し、最終的には民主的社会の基盤そのものを損なう標的型ヘイトへの道を開きます。