TikTok 正在努力让用户更能掌控自己的数字环境,推出了一项新功能,允许他们限制信息流中出现的 AI 生成内容的数量。这一举措使 TikTok 与其他平台一样,正在应对人工智能在内容创作中日益增长的普遍性。新选项已集成到现有的“管理主题”工具中,该工具旨在通过用户偏好来帮助用户个性化他们的观看体验。现在,用户可以专门减少 AI 生成视频的暴露程度,从而提供更量身定制、潜在地更少“恐怖谷效应”的体验。
“管理主题”部分已经为用户提供了一种精细控制信息流的方式,允许他们调整与舞蹈、体育和美食饮品等类别相关内容的频率。AI 内容滑块的添加是对现有控件的补充。正如 TikTok 所解释的,此设置旨在帮助用户定制他们遇到的各种内容,而不是完全删除或替换某些类型的内容。这意味着,虽然用户可以显著减少他们可能觉得不太吸引人的 AI 生成剪辑(例如那些具有奇怪表演或视觉异常的剪辑)的出现,但他们无法完全消除它们。TikTok 承认其检测系统并非万无一失,一些 AI 内容仍可能通过数字网络。
为了增强其管理和标记 AI 生成内容的能力,TikTok 正在积极开发和测试一项名为“隐形水印”的创新系统。该技术在 AI 生成的视频中嵌入微妙、难以检测的标记,特别是那些使用 TikTok 自带工具(如 AI Editor Pro)创建的视频,或利用 C2PA 内容凭证的内容。其目标是确保视频的 AI 来源在视频被下载、重新上传或跨不同平台共享后仍然可识别。通过使这些水印能够抵抗元数据剥离,TikTok 旨在提高其 AI 内容识别过程的可靠性。这对于执行其要求标记逼真 AI 生成内容并防止用户规避内容审核的指南至关重要。
隐形水印的实施是行业为识别 AI 生成媒体建立标准更广泛努力的一部分。TikTok 承诺使用 C2PA(内容真实性和来源联盟)标准,并结合其专有的水印技术,这标志着其在透明度方面采取了积极主动的方法。目前,TikTok 要求创作者标记逼真的 AI 生成内容,并禁止有害的深度伪造。然而,当视频在没有原始元数据的情况下共享时,就会出现问题,从而难以进行 AI 归因。预计隐形水印与更广泛的 C2PA 采用相结合,将增强 TikTok 正确标记 AI 内容的能力。反过来,这种改进的标记将使新的用户控件在限制 AI 内容方面更加有效,从而创建一个更强大的合成媒体管理系统。
新的 AI 内容滑块提供了双重功能:用户可以选择查看更少的 AI 生成内容,但他们也可以选择查看更多。这迎合了用户偏好的不同范围,承认一些观众积极寻求并喜欢 AI 创作的艺术、教育解释或创新的数字效果。TikTok 欧洲安全与隐私公共政策总监 Jade Nester 指出,该平台认识到许多人从 AI 辅助内容中获得的乐趣,并旨在赋予用户根据个人偏好与这些内容互动的能力。无论用户是想尽量减少暴露于合成视频,还是想探索 AI 创造力的前沿,现在都有一个直接的调节器来调整他们信息流的构成。
TikTok 和 Pinterest 等平台推出 AI 内容限制,暗示着对生成式 AI 内容的预期需求可能正在重新调整。尽管该技术的快速发展(例如 OpenAI 的 Sora 和 Google 的 Veo 3 等工具)激发了 AI 创作的激增,但观众的反应似乎比一些开发者最初预期的更为微妙。用户能够主动减少信息流中的 AI 内容,表明他们渴望获得平衡的数字体验,在这种体验中,人类创造力仍然是一个重要且受青睐的部分。这一发展可能会促使人们更仔细地审视 AI 生成内容如何融入社交媒体生态系统,优先考虑用户代理和内容真实性。
除了引入用户控件外,TikTok 还投资于教育其社区了解人工智能蓬勃发展的世界。该平台正在启动一项 200 万美元的基金,专门用于支持专家创建内容,以提高用户的 AI 素养和安全意识。这项举措凸显了 TikTok 致力于培养一个更知情的用户群,使其能够批判性地参与 AI 生成的媒体。通过让用户了解 AI 的能力和局限性,TikTok 旨在建立信任,鼓励负责任地消费和创建合成内容,最终为更复杂、更具意识的在线环境做出贡献。