به گزارش ایسنا، ویدیوها و تصاویر ماهوارهای ساخته شده با هوش مصنوعی درباره حمله آمریکا و اسرائیل به ایران به سرعت در اینترنت در حال افزایش است. سازندگان محتوا با استفاده از ابزارهای جدید، محتوای گمراه کننده تولید میکنند که میلیونها بازدید میگیرد و از طریق سیستمهای درآمدزایی شبکههای اجتماعی برای آنها درآمد نیز به همراه دارد. کارشناسان هشدار میدهند که این موضوع اعتماد عمومی را تهدید میکند و نشان میدهد مقابله با اطلاعات نادرست در زمانی که دسترسی به ابزارهای هوش مصنوعی بسیار آسان شده، چقدر دشوار است.
به نقل از بیبیسی، کارشناسان میگویند که موجی بیسابقه از اطلاعات نادرست تولیدشده با هوش مصنوعی درباره حمله آمریکا و اسرائیل به ایران در حال انتشار و ایجاد درآمد برای سازندگان آنلاین است.
تحلیل بیبیسی نمونههای متعددی از ویدیوهای تولید شده با هوش مصنوعی و تصاویر ماهوارهای ساختگی را نشان میدهد که برای مطرح کردن ادعاهای نادرست و گمراه کننده درباره این درگیری استفاده شدهاند. این محتواها در مجموع صدها میلیون بازدید در اینترنت جمع کردهاند.
تیموتی گراهام، کارشناس رسانههای دیجیتال در دانشگاه فناوری کوئینزلند میگوید: مقیاس این پدیده واقعا نگران کننده است و این جنگ باعث شده دیگر نتوان آن را نادیده گرفت. او میافزاید: آن چه که قبلا نیازمند تولید حرفهای ویدیو بود، حالا با ابزارهای هوش مصنوعی در چند دقیقه قابل انجام است. عملا مانعی که برای تولید تصاویر جعلی اما قانع کننده از جنگ وجود داشت، فرو ریخته است.
آمریکا و اسرائیل از روز ۲۸ فوریه حملات خود به ایران را آغاز کردند. در پاسخ، ایران حملات پهپادی و موشکی به اسرائیل و همچنین به چند کشور خلیج فارس و داراییهای نظامی آمریکا در منطقه انجام داده است.
در این مدت بسیاری از مردم برای یافتن آخرین اطلاعات و درک بهتر تحولات سریع جنگ، به شبکههای اجتماعی روی آوردهاند.
پلتفرم ایکس این هفته اعلام کرد اگر سازندگان محتوا، ویدیوهای جنگی تولید شده با هوش مصنوعی را بدون برچسب منتشر کنند، به طور موقت آنها را از برنامه درآمدزایی خود تعلیق خواهد کرد. این برنامه به کاربران واجد شرایط که پستهایشان بازدید، لایک، اشتراکگذاری و نظر زیادی دریافت کند، پرداخت مالی انجام میدهد.
مهسا علیمردانی، پژوهشگر حوزه ایران در مؤسسه اینترنت آکسفورد میگوید: این اقدام نشانه مهمی است که نشان میدهد آنها متوجه شدهاند این مسئله یک مشکل بزرگ است. ما از تیک تاک و شرکت متا مالک فیسبوک و اینستاگرام پرسیدیم آیا قصد دارند اقدام مشابهی انجام دهند یا نه، اما آنها به درخواست ما برای اظهار نظر پاسخ ندادند.
یک ویدیوی جعلی دیگر که دهها میلیون بار دیده شده، ادعا میکند برج خلیفه در دبی در حال سوختن است و جمعیتی از مردم به سمت آن در حال دویدن هستند.
این تصاویر تولید شده با هوش مصنوعی در زمانی به طور گسترده در اینترنت پخش شد که ساکنان و گردشگران درباره حملات پهپادی و موشکی به این شهر بسیار نگران بودند.
علیمردانی میگوید: چنین ویدیوهای جعلی تأثیر مخربی بر اعتماد مردم به اطلاعات تایید شده در اینترنت دارد و مستندسازی شواهد واقعی را بسیار دشوارتر میکند.
یکی از موارد جدید دیگر، ظهور تصاویر ماهوارهای ساختگی تولید شده با هوش مصنوعی است.
علیمردانی میگوید: ما چندین ویدیوی واقعی از حملات پهپادی و موشکی ایران به مقر ناوگان پنجم نیروی دریایی آمریکا در بحرین در روز نخست درگیری را تأیید کردیم. اما روز بعد تصویری ساختگی منتشر شد که خسارت وارد شده به این پایگاه را نشان میداد.
بر اساس ابزار تشخیص واترمارک SynthID گوگل، این تصویر جعلی با یکی از ابزارهای هوش مصنوعی گوگل تولید یا ویرایش شده بود.
ابزارهای هوش مصنوعی گوگل، از جمله مولد ویدیوی Veo، اکنون در فهرست رو به رشد پلتفرمهای محبوب هوش مصنوعی قرار دارند؛ در کنار مدل سورا از اوپن ایآی، اپلیکیشن چینی Seedance و گروک که در ایکس قرار دارد.
هنری اجدر، کارشناس هوش مصنوعی مولد میگوید: تعداد ابزارهایی که اکنون برای ساخت انواع دستکاریهای بسیار واقعگرایانه با هوش مصنوعی در دسترس هستند، بیسابقه است. او میافزاید: هرگز ندیده بودیم این ابزارها تا این حد در دسترس، آسان و ارزان باشند.
به گفته ویکتور ریو، مدیر اجرایی سازمان غیرانتفاعی سیاست فناوری، این موضوع باعث افزایش شدید محتوای تولید شده با هوش مصنوعی در اینترنت شده است، زیرا مسیر انتشار در شبکههای اجتماعی اکنون تقریبا میتواند کاملا خودکار باشد.
رئیس بخش محصول ایکس روز سهشنبه گفت ۹۹ درصد حسابهایی که چنین ویدیوهای تولید شده با هوش مصنوعی را منتشر میکنند، در واقع تلاش دارند با انتشار محتوایی که تعامل زیادی ایجاد میکند، سیستم درآمدزایی پلتفرم را دستکاری کنند.
این پلتفرم اعلام نکرده چه تعداد حساب در این برنامه شرکت دارند یا آنها چقدر درآمد کسب میکنند. اما گراهام تخمین میزند که ایکس ممکن است برای هر یک میلیون بازدید تأییدشده کاربران، حدود ۸ تا ۱۲ دلار پرداخت کند.
او توضیح میدهد: سازندگان محتوا برای واجد شرایط شدن باید در سه ماه پنج میلیون بازدید واقعی داشته باشند و همچنین اشتراک پریمیوم ایکس را داشته باشند. او میگوید: وقتی وارد این برنامه شوید، محتوای وایرال ساخته شده با هوش مصنوعی عملا یک دستگاه چاپ پول است. او اضافه میکند: آنها در واقع بزرگترین صنعت انتشار اطلاعات نادرست را ساختهاند.
کارشناسان میگویند که هرچند بسیاری از شرکتهای شبکههای اجتماعی میگویند در تلاشاند سیستمهای نظارت و شناسایی خود را برای مقابله با سرعت و مقیاس انتشار محتوای تولیدشده با هوش مصنوعی تغییر دهند، اما راهحل سادهای برای این مشکل وجود ندارد.
گراهام میگوید: مشکل عمیقتر این است که درآمدزایی با تعامل کاربران با اطلاعات دقیق، اساسا در تضاد است و هیچ پلتفرمی هنوز این تضاد را کاملاً حل نکرده است؛ شاید هم هرگز نتواند حل کند.
انتهای پیام
