اباذر کریمی پنابندانی، متخصص هوش مصنوعی وعضو آکادمی علوم اروپا در یادداشتی که در اختیار ایسنا قرار داده آورده است: «دیپ‌فیک یا جعل عمیق، به محتوای صوتی و تصویری ساخته‌شده یا دستکاری‌شده با هوش مصنوعی گفته می‌شود که می‌تواند چهره، صدا یا رفتار یک فرد را به شکلی باورپذیر بازنمایی کند. البته هر تصویر تولیدشده با هوش مصنوعی، دیپ‌فیک نیست و هر کاربرد این فناوری نیز با هدف فریب انجام نمی‌شود. بازسازی چهره و صدا در آثار هنری، دوبله و تولید محتوای آموزشی می‌تواند کاربردی مشروع داشته باشد؛ به‌شرط آنکه رضایت افراد، حقوق آنان و شفافیت درباره ماهیت محتوا رعایت شود.
خطر از جایی آغاز می‌شود که این توانایی برای جا زدن یک روایت ساختگی به‌عنوان واقعیت به کار رود. جعل صدای اعضای خانواده برای درخواست پول، ساخت ویدئوهای جعلی از مدیران و چهره‌های عمومی و انتساب سخنانی که هرگز گفته نشده‌اند، از مصادیق این تهدید است. هشدارهای نهادهای مقابله با جرائم اینترنتی نیز نشان می‌دهد که جعل صدا و تصویر می‌تواند در خدمت کلاهبرداری و سوءاستفاده از اعتماد افراد قرار گیرد.
با این حال، مسئله دیپ‌فیک تنها زیان مالی یا تخریب اعتبار یک شخص نیست. به باور من، پیامد عمیق‌تر آن، فرسایش اعتماد عمومی است. جامعه‌ای که مرتب با محتوای جعلی مواجه شود، ممکن است به تصاویر و صداهای واقعی نیز بدبین شود. در چنین فضایی، حتی یک سند معتبر می‌تواند با جمله «این هم ساخته هوش مصنوعی است» کنار گذاشته شود. بنابراین، هم باورکردنِ بی‌بررسی خطرناک است و هم انکارکردنِ بی‌دلیل.
پاسخ به این مسئله، ترساندن مردم از فناوری نیست؛ باید شیوه اعتمادکردن را دقیق‌تر کنیم. سواد هوش مصنوعی در اینجا معنایی عملی پیدا می‌کند: بدانیم فناوری چه چیزی را می‌تواند جعل کند، چه نشانه‌هایی برای بررسی داریم و چه زمانی باید قضاوت را به تعویق بیندازیم.
نخستین قدم، مکث پیش از بازنشر است. محتوایی که خشم، ترس یا هیجان شدیدی ایجاد می‌کند، بیشتر به بررسی نیاز دارد. باید پرسید: نخستین منتشرکننده چه کسی است؟ نسخه کامل محتوا کجاست؟ آیا رسانه‌های معتبر و مستقل آن را تأیید کرده‌اند؟ آیا زمان، مکان و زمینه انتشار روشن است؟ تعداد بازدید و تکرار یک ویدئو در چند کانال، به‌خودی‌خود نشانه صحت آن نیست.
در درخواست‌های مالی نیز شناختن صدا نباید تنها معیار اعتماد باشد. اگر کسی با صدای آشنا، درخواست فوری و غیرمعمولی مطرح کرد، بهتر است از طریق شماره‌ای که از قبل می‌شناسیم با او تماس بگیریم و موضوع را مستقلاً تأیید کنیم. فوریت، فشار عاطفی و درخواست محرمانه‌ماندن ماجرا باید ما را به بررسی بیشتر وادار کند.
از سوی دیگر، نباید تشخیص دیپ‌فیک را به چند نشانه ظاهری، مانند حرکت غیرطبیعی لب‌ها یا پلک‌زدن، محدود کرد. وجود این نشانه‌ها می‌تواند پرسش‌برانگیز باشد، اما نبودشان اصالت محتوا را ثابت نمی‌کند. ابزارهای تشخیص خودکار نیز خطاپذیرند و نتیجه آنها باید در کنار منبع، سابقه انتشار و شواهد دیگر ارزیابی شود.
رسانه‌ها در این میان مسئولیتی جدی دارند. سرعت انتشار نباید جای راستی‌آزمایی را بگیرد. مشخص‌کردن محتوای مصنوعی، توضیح منشأ تصاویر و اصلاح روشن خطاها می‌تواند به حفظ اعتماد مخاطب کمک کند. سازمان‌ها نیز باید برای درخواست‌های حساس، به‌ویژه انتقال پول و ارائه اطلاعات محرمانه، سازوکار تأیید مستقل داشته باشند.
در عصر دیپ‌فیک، اعتماد به مراقبت بیشتری نیاز دارد. هوش مصنوعی توان ساختن روایت‌های باورپذیر را افزایش داده است؛ مسئولیت ما این است که باورپذیری را با حقیقت اشتباه نگیریم. آینده‌ای قابل اعتماد، با ترکیبی از فناوری مسئولانه، رسانه دقیق و شهروند آگاه ساخته می‌شود؛ شهروندی که پیش از فشردن دکمه بازنشر، لحظه‌ای برای پرسیدن و بررسی‌کردن مکث می‌کند.»
انتهای پیام
