电子和信息技术部(MeitY)已针对社交媒体平台上的AI生成内容推出了更严格的合规框架。自2026年2月20日起,这些对2021年IT规则的修订大幅缩短了用户和科技公司的合规时限,并加强了问责规范。以下是您需要了解的八项关键变化。
根据新规则,Facebook、Instagram、X和YouTube等平台必须要求用户在发布前声明其内容是否为AI生成。此声明是法律要求,平台必须使用技术验证其准确性。如果您发布深度伪造或任何合成媒体而未声明,可能会面临后果。
一旦内容被识别为合成生成,平台必须附加清晰醒目的标签(如水印或通知),以便观众知道它不是真实的。此外,平台需要添加永久标记或元数据以追踪内容来源。这些标签不能被移除或隐藏,确保透明度。
最显著的变化之一是合规时限的大幅缩短。如果政府或法院发出删除令,平台必须在3小时内采取行动,而之前是24-36小时。对于裸体或性露骨图片,截止时间更短:仅2小时。这适用于所有类型的内容,而不仅仅是AI生成的内容。
平台必须阻止AI工具创建或分享包含儿童性虐待材料、未经同意的私密图像、虚假文件或与武器和爆炸物相关的内容。深度伪造,即虚假显示真实人物说了或做了从未说过或做过的事情,也被禁止。这针对的是欺骗性的AI视觉、虚假语音片段和操纵视频。
用户违反这些规则将面临严格处罚,包括立即删除内容、暂停或终止账户、向受害者披露身份,甚至如果内容涉及犯罪则向执法部门报告。平台必须至少每三个月提醒用户这些后果。
并非所有AI使用都需要标签。MeitY已澄清,诸如裁剪、色彩校正、翻译、格式化、字幕或无障碍改进等基本编辑不被视为深度伪造。即使应用照片滤镜、压缩视频或生成演示文稿也是常规辅助,而非合成媒体。重点是可能误导人们的虚假或欺骗性内容。
拥有超过500万用户的大型平台必须部署“合理且适当的技术措施”来检测和防止非法合成内容。这包括用于验证和主动监控的自动化工具。如果平台故意允许有害AI内容或未能采取行动,则可能被视为未遵守尽职调查规则。
对于用户报告的欺骗性内容或冒充行为,平台现在有36小时采取行动,而之前是72小时。这一更快的响应时间旨在遏制错误信息的传播,并保护用户免受在线欺诈和诽谤。结合3小时的政府删除窗口,这些规则创建了一个更具响应性的生态系统。
随着这些规则生效,保持知情至关重要。无论您是普通社交媒体用户还是内容创作者,了解您在新AI内容规则下的责任至关重要。拥抱透明度,声明AI生成内容,并帮助为每个人构建更安全的数字空间。