جنگ آمریکا و اسرائیل با ایران؛ افزایش تولید ویدئو با هوش مصنوعی برای پولسازی
نویسنده: توماس کوپلند، بخش راستیآزمایی بیبیسی
کارشناسان به بخش راستیآزمایی بیبیسی گفتهاند موجی بیسابقه از اطلاعات نادرست مربوط به جنگ آمریکا و اسرائیل با ایران که با هوش مصنوعی تولید میشود، اکنون توسط تولیدکنندگان آنلاین به منبع درآمد تبدیل شده است.
بررسیهای بیبیسی نشان میدهد نمونههای متعددی از ویدئوهای تولیدشده با هوش مصنوعی و تصاویر ماهوارهای جعلی برای انتشار ادعاهای نادرست درباره این درگیری به کار رفتهاند؛ محتوایی که در مجموع صدها میلیون بار در فضای آنلاین دیده شده است.
تیموتی گراهام، کارشناس رسانههای دیجیتال در دانشگاه فناوری کویینزلند، میگوید: «مقیاس این مساله واقعا نگرانکننده است و این جنگ باعث شده دیگر نتوان آن را نادیده گرفت. کاری که پیشتر نیازمند یک تیم حرفهای تولید ویدئو بود، حالا با ابزارهای هوش مصنوعی در چند دقیقه انجام میشود. عملاً سد تولید تصاویر ساختگیِ قانعکننده از صحنههای جنگ فرو ریخته است.»
ایالات متحده و اسرائیل در ۲۸ فوریه حمله به ایران را آغاز کردند. در پاسخ، ایران حملات پهپادی و موشکی به اسرائیل، و همچنین چندین کشور خلیج فارس و داراییهای نظامی آمریکا در منطقه انجام داده است. بسیاری از مردم برای جستوجو و به اشتراک گذاشتن تازهترین اطلاعات به شبکههای اجتماعی روی آوردهاند.
واکنش پلتفرمها
پلتفرم ایکس اعلام کرده اگر تولیدکنندگان محتوا ویدیوهای تولیدشده با هوش مصنوعی از درگیریهای نظامی را بدون برچسب منتشر کنند، به طور موقت آنها را از برنامه درآمدزایی تعلیق خواهد کرد. این طرح به کاربرانی که واجد شرایط باشند و پستهایشان بازدید و تعامل زیادی ایجاد کند، پرداختهایی از سوی پلتفرم ارائه میدهد.
مهسا علیمردانی، پژوهشگر متخصص در امور ایران در موسسه اینترنت آکسفورد، میگوید: «این نشانه قابل توجهی است که آنها متوجه شدهاند این یک مشکل بزرگ است.» بیبیسی از تیکتاک و متا (شرکت مالک فیسبوک و اینستاگرام) پرسید آیا قصد دارند اقدام مشابهی انجام دهند، اما آنها پاسخی ندادند.
نمونههای ویدئوهای جعلی
یک نمونه معمول از ویدیوی تولیدشده با هوش مصنوعی که بخش راستیآزمایی بیبیسی آن را دنبال کرده، ظاهراً نشان میدهد موشکهایی به شهر تلآویو در اسرائیل اصابت میکنند. این ویدیو در بیش از ۳۰۰ پست منتشر شده که دهها هزار بار در شبکههای اجتماعی به اشتراک گذاشته شدهاند.
برخی کاربران ایکس برای تأیید صحت این ویدیو به چتبات هوش مصنوعی این پلتفرم، گروک، مراجعه کردند. اما در بسیاری موارد، گروک به اشتباه اصرار داشته که این ویدیوی تولیدشده با هوش مصنوعی واقعی است.
ویدیوی جعلی دیگری که دهها میلیون بار دیده شده، ادعا میکند آسمانخراش برج خلیفه در دبی در آتش میسوزد. این تصاویر در زمانی منتشر شد که ساکنان و گردشگران نسبت به حملات پهپادی و موشکی به این شهر نگرانی داشتند.
خانم علیمردانی میگوید: «ویدیوهای جعلی مانند اینها تاثیر مخربی بر اعتماد مردم به اطلاعات تأییدشده میگذارد و مستندسازی شواهد واقعی را بسیار دشوارتر میکند.»
ظهور تصاویر ماهوارهای جعلی
یکی از ویژگیهای جدید این درگیری، ظهور تصاویر ماهوارهای تولیدشده با هوش مصنوعی است. بیبیسی چندین ویدیوی واقعی از حملات ایران به مقر ناوگان پنجم نیروی دریایی آمریکا در بحرین را تأیید کرد. اما روز بعد، عکسی ساختگی در ایکس منتشر شد که ادعا میکرد آسیب گستردهای به این پایگاه وارد شده است.
این تصویر جعلی بر اساس تصاویر ماهوارهای واقعی از یک پایگاه دریایی آمریکا در بحرین ساخته شده که در فوریه ۲۰۲۵ گرفته شده و به طور عمومی در دسترس است. بر اساس نرمافزار آشکارساز واترمارک «سینث آیدی» گوگل، این تصویر با یک ابزار هوش مصنوعی گوگل تولید یا ویرایش شده است.
سه وسیله نقلیه پارک شده در بیرون در هر دو تصویر واقعی و جعلی دقیقاً در همان نقطه قرار دارند، با وجود اینکه ادعا میشود عکسها با فاصله یک سال گرفته شدهاند.
ابزارهای در دسترس
ابزارهای هوش مصنوعی گوگل، از جمله تولیدکننده ویدیوی «ویو»، در فهرست رو به رشد پلتفرمهای محبوب هوش مصنوعی قرار دارند؛ مانند مدل سورا از شرکت اوپنایآی، اپلیکیشن هوش مصنوعی چینی سیدنس و هوش مصنوعی گروک که در ایکس ادغام شده است.
هنری اجدر، کارشناس هوش مصنوعی مولد میگوید: «تعداد ابزارهای مختلفی که اکنون برای ایجاد طیف گستردهای از دستکاریهای بسیار واقعگرایانه با هوش مصنوعی در دسترس است بیسابقه است. ما هرگز این ابزارها را تا این اندازه در دسترس، آسان و ارزان برای استفاده ندیدهایم.»
ویکتوار ریو، مدیر اجرایی سازمان غیرانتفاعی «وات تو فیکس» که در عرصه سیاست فناوری فعال است، میگوید این موضوع باعث افزایش محتوای تولیدشده با هوش مصنوعی در فضای آنلاین شده است، «زیرا اکنون روند انتشار به شبکههای اجتماعی میتواند تقریباً به طور کامل خودکار شود».
انگیزه مالی
رئیس بخش محصولات ایکس گفته است «۹۹ درصد» از حسابهایی که چنین ویدیوهایی را منتشر میکنند، تلاش میکنند با انتشار محتوایی که تعامل زیادی ایجاد میکند، «از سیستم درآمدزایی سوءاستفاده کنند» تا از طریق برنامه «کریتور روینیو شیرینگ» در این اپلیکیشن پول دریافت کنند.
این پلتفرم اعلام نمیکند چه تعداد حساب در این برنامه حضور دارند یا آنها چقدر پول میتوانند به دست آورند. آقای گراهام تخمین میزند ایکس ممکن است حدود «هشت تا ۱۲ دلار برای هر یک میلیون نمایش از سوی کاربران تأییدشده» پرداخت کند.
او افزود: «برای واجد شرایط شدن، تولیدکنندگان محتوا باید در مدت سه ماه به پنج میلیون نمایش ارگانیک برسند و همچنین اشتراک پریمیوم ایکس داشته باشند. وقتی وارد این برنامه شوید، محتوای وایرال تولیدشده با هوش مصنوعی عملاً یک دستگاه چاپ پول است. آنها نهایتاً یک صنعت تولید اطلاعات نادرست ساختهاند.»
ایکس به درخواست بیبیسی برای اظهار نظر پاسخی نداد.
کارشناسان میگویند در حالی که بسیاری از شرکتهای شبکههای اجتماعی میگویند در حال تلاش برای تغییر سیستمهای نظارت خود هستند تا با مقیاس و سرعت انتشار محتوای تولیدشده با هوش مصنوعی مقابله کنند، راهحل سادهای برای این مشکل وجود ندارد.
آقای گراهام میگوید: «مساله عمیقتر این است که درآمدزایی مبتنی بر تعامل و اطلاعات دقیق اساساً در تنش با یکدیگر قرار دارند و هیچ پلتفرمی این تنش را به طور کامل حل نکرده است. و شاید هرگز هم نتواند.»
