ویدیوهای هوش مصنوعی شبکههای اجتماعی را پر کردهاند. هیچکس آماده نبود.
تصاحب خاموش: وقتی تماشا کردن باور کردن میشود
امروز در هر فید شبکههای اجتماعی که اسکرول کنید، احتمالاً با ویدیویی مواجه میشوید که به طرز شگفتآوری واقعی به نظر میرسد—گربهای که روی تخته پارویی پشتک میزند، رقصندهای که یک سهگانه بینقص اجرا میکند، یا دوستی که در صحنهای ظاهر میشود که هرگز واقعاً فیلمبرداری نکرده است. اینها واقعی نیستند. آنها توسط مدلهای هوش مصنوعی مانند Sora از OpenAI تولید شدهاند و سریعتر از آنچه کسی پیشبینی میکرد، پلتفرمها را پر میکنند. با وجود برچسبهای هشدار و فرادادههای جاسازیشده در این کلیپها، میلیونها کاربر فریب میخورند، اغلب بدون لحظهای تردید.
فناوری آنقدر سریع پیشرفت کرده است که خط بین مصنوعی و معتبر تقریباً ناپدید شده است. Sora 2 که در اواخر سال ۲۰۲۵ منتشر شد، میتواند ویدیوهایی تا یک دقیقه با دیالوگ هماهنگ، جلوههای صوتی و حرکت فیزیکی دقیق تولید کند. میتواند تصاویر ثابت را متحرک کند، ویدیوهای موجود را گسترش دهد و حتی آواتارهای واقعی از افراد واقعی—به نام "شخصیتها"—را پس از تأیید هویت کوتاه وارد کند. این یک سناریوی آینده نیست؛ همین حالا اتفاق میافتد و اکوسیستم شبکههای اجتماعی در تلاش است تا خود را وفق دهد.
چگونه Sora و همخانوادههایش بازی را تغییر دادند
Sora از OpenAI به عنوان یک پیشنمایش تحقیقاتی در اوایل سال ۲۰۲۴ شروع شد و قادر به تولید کلیپهای کوتاه از توضیحات متنی بود. تا دسامبر ۲۰۲۴، Sora Turbo به عنوان یک محصول مستقل راهاندازی شد که وضوح ۱۰۸۰p، ویدیوهای ۲۰ ثانیهای و یک ابزار استوریبورد برای کنترل دقیق ارائه میداد. اما جهش واقعی در سپتامبر ۲۰۲۵ با Sora 2 رخ داد، یک سیستم تولید ویدیو و صوتی همهمنظوره که میتوانست دینامیکهای فیزیکی پیچیده—مانند ژیمناستیک المپیک یا پشتک روی تخته پارویی—را مدیریت کند و همزمان مناظر صوتی و گفتار واقعی تولید کند.
نوآوری کلیدی؟ Sora از یک مدل انتشار استفاده میکند که با نویز ثابت شروع میشود و به تدریج آن را به یک ویدیوی منسجم تبدیل میکند، همه در یک مرحله. همچنین میتواند تصاویر یا ویدیوهای موجود را گرفته و آنها را متحرک کند، فریمهای گمشده را پر کند یا کلیپها را گسترش دهد. این قابلیت ایجاد ویدیوهای قانعکننده را برای هر کسی آسان میکند، چه با تایپ یک توضیح و چه با آپلود یک عکس. نتیجه: سیل محتوای تولیدشده با هوش مصنوعی که از فیلمهای واقعی غیرقابل تشخیص است، بهویژه در صفحهنمایش موبایل که جزئیات ریز به سختی قابل تشخیص هستند.
مقیاس سیل
ظرف چند ماه از انتشار Sora 2، روزانه میلیونها ویدیو ساخته میشد. OpenAI عمداً یک رایگان با محدودیتهای سخاوتمندانه راهاندازی کرد تا مردم کاوش کنند و یک اپلیکیشن اختصاصی iOS ایجاد را حتی آسانتر کرد. ویژگیهای اجتماعی—مانند ریمیکس ویدیوهای دیگران و استفاده از "شخصیتها" برای وارد کردن افراد واقعی—به اشتراکگذاری ویروسی دامن زد. تا اوایل سال ۲۰۲۶، ویدیوهای تولیدشده با هوش مصنوعی بخش قابل توجهی از محتوا در پلتفرمهایی مانند اینستاگرام، تیکتاک و X را تشکیل میدادند. کاربران کلیپهایی را به اشتراک میگذاشتند بدون اینکه متوجه شوند مصنوعی هستند و حتی وقتی متوجه میشدند، تازگی اغلب بر هر احتیاطی سایه میانداخت.
چرا برچسبهای هشدار کار نمیکنند
OpenAI و سایر تولیدکنندگان ویدیوی هوش مصنوعی واترمارکهای قابل مشاهده و فراداده C2PA—نوعی اثر انگشت دیجیتال که میتواند منبع ویدیو را تأیید کند—اجرا کردهاند. با این حال، این اقدامات حفاظتی در عمل بیاثر هستند. واترمارکها را میتوان بهویژه در بازنشرها برش داد یا محو کرد. فراداده اغلب در طول آپلود حذف میشود یا میتواند جعلی باشد. و حتی زمانی که برچسبها وجود دارند، بسیاری از کاربران به سادگی آنها را نادیده میگیرند یا نمیفهمند چه معنایی دارند.
تحقیقات نشان میدهد که مردم تمایل دارند به آنچه میبینند اعتماد کنند، بهویژه زمانی که یک ویدیو با انتظارات یا احساسات آنها همسو باشد. یک کلیپ خندهدار از یک سلبریتی که کار خلافی انجام میدهد بیشتر احتمال دارد باور شود و به اشتراک گذاشته شود تا زیر سؤال برود. سرعت شبکههای اجتماعی نیز نقش دارد: کاربران در میلیثانیه از محتوا عبور میکنند و به ندرت برای تأیید صحت مکث میکنند. همانطور که یک کارشناس گفت، "ما از نظر تکاملی طوری سیمکشی شدهایم که به چشمان خود باور کنیم، نه فراداده."
روانشناسی واقعیت مصنوعی
مغز ما برای تشخیص بین یک ویدیوی واقعی و یک کلیپ هوش مصنوعی کاملاً تولیدشده مجهز نیست. ما به زمینه، منبع و شهود تکیه میکنیم—که همه به راحتی قابل دستکاری هستند. وقتی یک ویدیو در فید یک دوست قابل اعتماد ظاهر میشود، فرض میکنیم واقعی است. وقتی خندهدار یا تکاندهنده است، بدون فکر آن را به اشتراک میگذاریم. این "انتقال اعتماد" از پستکننده به محتوا دلیل اصلی گسترش سریع ویدیوهای تولیدشده با هوش مصنوعی است. علاوه بر این، حجم عظیم محتوا تأیید دستی را در مقیاس غیرممکن میکند.
معضال دیپفیک: رضایت و آسیب
توانایی وارد کردن افراد واقعی به صحنهها—ویژگی به نام "شخصیتها" در Sora 2—جعبه پاندورا از نگرانیهای اخلاقی را باز کرده است. OpenAI در ابتدا آپلود افراد را برای کاهش خطرات دیپفیک محدود کرد، اما این ویژگی همچنان وجود دارد و به تدریج در حال عرضه است. پتانسیل سوءاستفاده آشکار است: پورنوگرافی غیرتوافقی، اطلاعات نادرست سیاسی، کلاهبرداری و آزار و اذیت. در حالی که Sora شامل اقدامات حفاظتی مانند مسدود کردن محتوای سوءاستفاده جنسی از کودکان و دیپفیکهای جنسی است، فناوری تنها به اندازه اجرای آن خوب است.
در حال حاضر، مواردی از افرادی که بدون رضایت در ویدیوهای شرمآور یا سازشآور "قرار داده شدهاند" ظاهر شده است. این اپلیکیشن برای تأیید هویت نیاز به یک بار ضبط ویدیو و صدا دارد، اما پس از ثبت شباهت، میتواند به طور مکرر استفاده شود. OpenAI میگوید کاربران کنترل میکنند که "شخصیت" آنها چه زمانی استفاده میشود، اما مشخص نیست این کنترل چقدر دقیق است. در حال حاضر، بار جلوگیری از آسیب عمدتاً بر دوش پلتفرمها و شرکتهای توسعهدهنده فناوری است—و آنها همیشه آماده نیستند.
چگونه پلتفرمهای شبکههای اجتماعی در حال تطبیق هستند (یا نیستند)
پلتفرمهای بزرگ شبکههای اجتماعی به آرامی به سیل ویدیوهای تولیدشده با هوش مصنوعی واکنش نشان دادهاند. بیشتر آنها به گزارشدهی اجتماعی و سیستمهای خودکار برای علامتگذاری محتوای مصنوعی متکی هستند، اما این ابزارها اغلب ناکافی هستند. به عنوان مثال، یک پلتفرم ممکن است از فراداده برای برچسبگذاری یک ویدیو به عنوان تولیدشده با هوش مصنوعی استفاده کند، اما اگر آن فراداده حذف شود، ویدیو بدون برچسب ظاهر میشود. برخی پلتفرمها شروع به الزام به افشا از سوی سازندگان کردهاند، اما اجرا ناقص است و بسیاری از کاربران از قوانین بیخبر هستند.
مسئله بزرگتر اقتصادی است: پلتفرمها از تعامل بالا سود میبرند و ویدیوهای تولیدشده با هوش مصنوعی اغلب بسیار جذاب هستند. یک کلیپ ویروسی—واقعی یا نه—ترافیک، درآمد تبلیغاتی و حفظ کاربر را افزایش میدهد. این یک انگیزه منحرف برای نادیده گرفتن ایجاد میکند. تا زمانی که پلتفرمها با فشار نظارتی یا آسیب قابل توجه به شهرت مواجه شوند، تغییر واقعی بعید است. در این بین، ویدیوهای هوش مصنوعی به تار کردن واقعیت ادامه خواهند داد و ابزارهای تشخیص آنها همچنان در تلاش برای عقبنماندن خواهند بود.
بازی گربه و موش نظارتی
دولتها در سراسر جهان در تلاش برای تنظیم محتوای تولیدشده با هوش مصنوعی هستند. قانون هوش مصنوعی اتحادیه اروپا که در سال ۲۰۲۴ تصویب شد، نیاز به برچسبگذاری محتوای مصنوعی دارد، اما مکانیسمهای اجرایی هنوز در حال توسعه هستند. در ایالات متحده، قانونگذاری فدرال متوقف شده است و ایالتها را مجبور به ایجاد قوانین پراکنده خود کرده است. چین قوانین سختگیرانهای برای واترمارک و افشا اعمال کرده است، اما انطباق متفاوت است.
مشکل این است که تولید ویدیوی هوش مصنوعی در هر مرحله از مقررات پیشی میگیرد. تا زمانی که یک قانون تصویب شود، فناوری تکامل یافته است. به عنوان مثال، Sora 2 قابلیتهای صوتی و دیالوگ را اضافه کرد که در مقررات قبلی پوشش داده نشده بودند. این تکامل مداوم به این معنی است که تنظیمکنندگان همیشه عقب هستند و عموم مردم باید در منظرهای حرکت کنند که دیدن دیگر باور کردن نیست. برخی کارشناسان رویکردی فعالانهتر را استدلال میکنند—مانند الزام همه ویدیوهای تولیدشده با هوش مصنوعی به داشتن یک نشانگر قابل مشاهده غیرقابل حذف که نمیتوان آن را برش داد یا تغییر داد. اما راهحلهای فنی تنها بخشی از پاسخ هستند؛ سواد دیجیتال و تفکر انتقادی به همان اندازه حیاتی هستند.
در پایان، سیل ویدیوهای هوش مصنوعی در شبکههای اجتماعی آزمایشی از توانایی جمعی ما برای تطبیق است. ما وارد عصری شدهایم که خود واقعیت قابل مذاکره است و اعتماد پیشفرض ما به رسانههای بصری باید با شک سالم جایگزین شود. فناوری از تکامل بازنمیایستد—Sora 2 در حال حاضر توسط مدلهای حتی پیشرفتهتر دنبال میشود. سوال این نیست که آیا ویدیوهای هوش مصنوعی به فریب ما ادامه خواهند داد؛ آنها ادامه خواهند داد. سوال این است که آیا میتوانیم آگاهی، ابزارها و عادتهایی برای مقاومت در برابر فریب ایجاد کنیم. این کار از همین حالا شروع میشود.