社交媒体趋势推动人工智能监控、军事化及针对性仇恨的未来

乐趣的演变：从面部滤镜到数据收集

在Instagram变成我们今天看到的由AI生成内容策划的推送之前，人们就在TikTok上玩自己脸部的修改版本。其年龄增长滤镜实时显示人们的衰老过程，迅速在各大平台传播。看似无害的乐趣变成了训练AI模型识别人类衰老模式的大规模数据集。大型科技公司通过提取行为模式、偏好以及通过照片获取的生物特征数据来变现注意力，将这些数据输入算法，完善监控资本主义的预测机制。

随着时间的推移，这种“免费”互动的基础设施成为构建更具侵入性技术的培训手册，利用用户上传以获得关注或认可的图像，教会机器比我们自己更了解我们。当应用于生成式AI时，这种动态不再局限于家庭娱乐、广告、内容策划甚至数据标注；而是扩展到训练能够准确预测和追踪人类身份的系统，将连接转化为控制。

#10YearChallenge：怀旧无罪还是大规模监控？

通过数据提取获利的逻辑无缝延伸到将监控伪装成游戏的病毒式社交媒体趋势。以臭名昭著的#10YearChallenge或#MeAt20趋势为例，这些趋势在2019年左右充斥Twitter时间线，敦促人们用照片证据炫耀他们十年的“蜕变”。看似无害的怀旧练习可能是一场自愿提交数据的大规模行动。这些趋势伪装成创意或回忆的行为，但实际上是精心设计的怀旧陷阱，以情感连接的幌子吸引用户，同时收集私密的生物特征数据。

最近，随着生成式AI的商业化，社交媒体平台充斥着AI生成的图像，模糊了真实记忆与操纵之间的界限。谷歌的Gemini似乎引领了这一商业浪潮，推动了将人们的婚礼照片转变为吉卜力风格艺术品的趋势，或者最新的更新Nano Banana，使用户能够生成自己与年轻时的自己、名人 crush 甚至已故亲属的宝丽来风格图像。每一次互动都进一步扭曲了我们对现实的感知，使AI系统通过每张新生成的图像完善这种幻觉。

以数据换乐趣到身份军事化

参与的代价虽然无形，但远非免费。例如，每张上传以生成自己与年轻时的自己的宝丽来图像，都喂养着训练AI识别人类外貌随时间变化模式（即从童年到成年）的庞大数据管道——这些信息现在掌握在任何愿意付费获取的人手中。对面部年龄估计模型的研究表明，大量带有年龄标注或年龄增长的面部图像数据集已被用于训练模型，以识别个体在不同种族间的衰老方式，并在“智能监控”和其他行业中发挥作用。

从战略和经济角度来看，社交媒体趋势（如宝丽来风格图像或早期的#10YearChallenge）似乎是鼓励人们贡献公开可用数据的理想机制，这些数据有助于填补关于人在不同条件下如何衰老的研究空白，并使企业能够毫无后果地抓取这些数据，以训练远远超出简单文本或图像查询的AI模型。这些数据集及其训练出的AI模型的应用同样广泛——许多涉及警务，包括在边境和执法中用于以“预测性威胁评估”为名的画像，以及用于监控和针对不同生命周期阶段个体的军事化技术。

从社交媒体到杀戮名单：AI在战争中的应用

始于通过图像连接的文化时刻，最终强化了监控资本主义的基础设施，并直接与预测性身份技术的军事化应用相联系。例如，研究探讨了AI在国防环境中的各种潜在应用——从自主无人机到目标识别——强调需要基于公众态度的政策制定以确保负责任的治理。这一应用的一个实际例子已在巴勒斯坦被记录，以色列国防军使用AI系统（如Lavender、Where's Daddy等）准备“杀戮名单”并针对巴勒斯坦人。

调查人员发现，操作员有时在短短20秒内批准一次打击。这些技术部分由谷歌等大型科技公司促成，这些公司允许以色列国防军访问谷歌照片的面部识别数据，以利用所谓的杀戮名单针对巴勒斯坦人。在这种背景下，生成大量生物特征数据（包括年龄增长）的社交媒体趋势不再仅仅是文化怪癖，而是变成了训练模型的材料，这些模型可以随时间重新识别、预测和追踪个体。随着生物特征监控从边境和城市的警务转移到战争，对已经遭受画像的社区（尤其是在全球南方）的影响变得更加险恶。

武器化AI与针对性仇恨的兴起

在巴勒斯坦种族灭绝期间，事实核查员的工作变得更加困难，因为以色列占领严重依赖人工智能传播虚假信息。当前的灭绝战争标志着虚假信息传播的转折点，人工智能在其中发挥了核心作用。以色列媒体和官方机构利用大量支持者账户和虚假账户，利用人工智能世界的一种工具——由人工智能驱动的虚假账户，即机器人。这些机器人被编程为在各个平台（尤其是Facebook、X和Instagram）上发布支持占领和破坏巴勒斯坦权利的评论和文章。

5月29日，Meta报告删除了一个与以色列公司STOIC（总部位于特拉维夫）相关的数百个虚假账户网络。这些由AI驱动的账户被用于放大以色列宣传和传播虚假声明，特别是针对阿拉伯语受众。一天后，5月30日，ChatGPT的开发者OpenAI宣布封禁了由同一公司运营的另一组账户。这些账户使用AI冒充犹太学生和非裔美国公民，试图使其信息看起来真实且多样化。AI的这种武器化超越了虚假信息，直接助长了针对性仇恨，因为虚假账户放大了分裂言论并播下不和的种子。

自我维持的算法：从收集到利用的转变

此时，某人是否参与了特定的社交媒体趋势并为AI模型的训练数据集做出贡献已不再重要。现实是，一旦收集了足够的数据，机器学习工具可以在几乎没有额外输入的情况下高精度预测人类衰老模式。换句话说，饱和的自愿图像贡献池可能促使从数据收集向数据利用的转变，算法变得自我维持，只需最少的输入即可生成深远的预测。这发生在一个隐私权薄弱、数字监管极少的国家。自愿分享年龄增长图像很容易进入新兴的预测工具，对监控、画像和社会控制产生现实影响。

在政策制定者和执法机构关注控制公民而非保护他们、国家已花费数百万美元购买军事级监控技术以“国家安全”名义对付平民的国家，能够随时间准确识别个体的AI军事级监控技术被武器化是可能的。今天看似无害的衰老滤镜、怀旧趋势或图像分享，将加强明天的压迫体系。社交媒体趋势、AI监控和军事化的融合代表了我们的数字足迹被利用方式的深刻转变，最终为针对性仇恨铺平道路，破坏民主社会的根基。