AI视频已充斥社交媒体，无人做好准备
无声的占领：当观看变成相信
如今，浏览任何社交媒体信息流，你很可能遇到一个看起来异常真实的视频——一只猫在桨板上做后空翻，一位舞者完美完成三周半跳，或者一个朋友出现在他们从未拍摄过的场景中。这些都不是真实的。它们是由OpenAI的Sora等AI模型生成的，并且以比任何人预期的更快的速度涌入平台。尽管这些视频带有警告标签和元数据，但数百万用户仍然被愚弄，往往不假思索。
这项技术发展如此之快，以至于合成与真实之间的界限几乎消失。2025年底发布的Sora 2可以生成长达一分钟的视频，包含同步对话、音效和物理上精确的动作。它可以动画化静态图像、扩展现有视频，甚至经过简短的身份验证后插入真实人物的逼真头像——称为“角色”。这不是未来的场景；它正在发生，社交媒体生态系统正忙于应对。
Sora及其同类如何改变游戏规则
OpenAI的Sora最初于2024年初作为研究预览版发布，能够根据文本提示生成短视频。到2024年12月，Sora Turbo作为独立产品推出，提供1080p分辨率、20秒视频和用于精确控制的故事板工具。但真正的飞跃发生在2025年9月，Sora 2作为一个通用视频和音频生成系统，能够处理复杂的物理动态——比如奥运体操或桨板后空翻——同时还能生成逼真的音景和语音。
关键创新在于？Sora使用扩散模型，从静态噪声开始，逐步将其细化为连贯的视频，一气呵成。它还可以将现有图像或视频动画化、填补缺失帧或扩展片段。这一能力使得任何人都可以轻松创建令人信服的视频，无论是通过输入描述还是上传照片。结果：大量AI生成的内容看起来与真实镜头无异，尤其是在难以察觉细节的手机屏幕上。
泛滥的规模
Sora 2发布后的几个月内，每天有数百万个视频被创建。OpenAI故意推出了免费层级，提供慷慨的限制让人们探索，而专门的iOS应用使创作更加容易。社区功能——比如混剪他人的视频和使用“角色”插入真实人物——推动了病毒式传播。到2026年初，AI生成的视频在Instagram、TikTok和X等平台上的内容中占据了显著比例。用户分享视频时没有意识到它们是合成的，即使意识到，新奇感也常常压倒任何谨慎。
为什么警告标签不起作用
OpenAI和其他AI视频生成器已经实现了可见水印和C2PA元数据——一种可以验证视频来源的数字指纹。然而，这些保护措施在实践中被证明无效。水印可以被裁剪或模糊，尤其是在转发中。元数据在上传过程中经常被剥离，或者可以被伪造。即使标签存在，许多用户也直接忽略或不明白其含义。
研究表明，人们倾向于相信他们所看到的，尤其是当视频符合他们的期望或情绪时。一个名人做离谱事情的搞笑视频更可能被相信和分享，而不是被质疑。社交媒体的速度也起了作用：用户在毫秒内滚动内容，很少停下来验证真实性。正如一位专家所说：“我们在进化上倾向于相信眼睛，而不是元数据。”
合成现实的心理
我们的大脑不具备区分真实视频和完美生成的AI片段的能力。我们依赖上下文、来源和直觉——所有这些都很容易被操纵。当一个视频出现在信任的朋友的信息流中时，我们假设它是真实的。当它有趣或令人震惊时，我们不假思索地分享。这种从发布者到内容的“信任转移”是AI生成视频传播如此迅速的关键原因。此外，内容的巨大数量使得手动验证在规模上变得不可能。
深度伪造困境：同意与伤害
将真实人物插入场景的能力——在Sora 2中称为“角色”功能——打开了一个伦理问题的潘多拉魔盒。OpenAI最初限制上传人物以减轻深度伪造风险，但该功能仍然存在并逐步推出。滥用的可能性显而易见：未经同意的色情内容、政治虚假信息、欺诈和骚扰。虽然Sora包括阻止儿童性虐待材料和性深度伪造的保护措施，但技术的好坏取决于执行。
已经出现了人们未经同意被“放置”到尴尬或妥协视频中的案例。该应用需要一次性视频和音频录制来验证身份，但一旦肖像被捕获，就可以重复使用。OpenAI表示用户控制其“角色”何时被使用，但尚不清楚这种控制有多精细。目前，防止伤害的责任主要落在平台和开发技术的公司身上——而他们并不总是做好准备。
社交媒体平台如何适应（或不适应）
主要社交媒体平台对AI生成视频的涌入反应缓慢。大多数依赖社区报告和自动化系统来标记合成内容，但这些工具往往不足。例如，平台可能使用元数据将视频标记为AI生成，但如果元数据被剥离，视频就会显示为未标记。一些平台已开始要求创作者披露，但执行不力，许多用户不了解规则。
更大的问题是经济因素：平台受益于高参与度，而AI生成的视频通常具有很高的参与度。一个病毒式片段——无论真实与否——都能带来流量、广告收入和用户留存。这造成了视而不见的反常激励。除非平台面临监管压力或重大声誉损害，否则真正的改变不太可能发生。与此同时，AI视频将继续模糊现实，而检测工具将始终处于追赶状态。
监管的猫鼠游戏
世界各国政府正在努力应对如何监管AI生成的内容。欧盟的《人工智能法案》于2024年通过，要求对合成内容进行标注，但执行机制仍在制定中。在美国，联邦立法停滞不前，各州自行制定零散的法律。中国实施了严格的规定，要求加水印和披露，但合规情况各不相同。
问题在于AI视频生成在每一步都超越了监管。等到法律通过时，技术已经发展。例如，Sora 2增加了早期法规未涵盖的音频和对话能力。这种不断演变意味着监管者总是落后，公众只能在一个眼见不再为实的领域中摸索。一些专家主张采取更主动的方法——比如要求所有AI生成的视频包含一个不可移除、可见的指示器，无法被裁剪或更改。但技术解决方案只是答案的一部分；数字素养和批判性思维同样至关重要。
最终，AI视频涌入社交媒体是对我们集体适应能力的考验。我们已经进入了一个现实本身有待商榷的时代，我们对视觉媒体的默认信任必须被健康的怀疑所取代。技术不会停止发展——Sora 2已经被更先进的模型所取代。问题不在于AI视频是否会继续愚弄我们；它们会的。问题在于我们能否建立意识、工具和习惯来抵制被愚弄。这项工作现在就开始。