به گزارش ایسنا، شفقنا نوشت:

اگر تاریخ فناوری را مرور کنیم، یک الگوی تکرارشونده به چشم می‌خورد. بسیاری از نوآوری‌ها نخست در میدان‌های نظامی شکل می‌گیرند و بعد، با فاصله‌ای نه‌چندان کوتاه، به زندگی روزمره راه پیدا می‌کنند. از اینترنت گرفته تا GPS، مسیر مشابهی را طی کرده‌اند. هوش مصنوعی هم از این قاعده مستثنا نیست؛ پیش از آنکه به ابزار کار و زندگی روزانه تبدیل شود، سال‌ها در لایه‌های پنهان‌تر به‌ویژه در حوزه‌های امنیتی و نظامی آزموده و به‌کار گرفته شده است. در چنین شرایطی، پرسش‌های مهمی مطرح می‌شود. آیا با شکل تازه‌ای از جنگ روبه‌رو هستیم؟ نقش انسان در این میان کجاست؟ و این مسیر تا کجا پیش خواهد رفت؟ برای واکاوی این موضوع و ترسیم تصویری روشن‌تر از نسبت میان انسان، تکنولوژی و جنگ در جهان امروز با دکتر حسین امامی، استاد ارتباطات، پژوهشگر و متخصص حوزه فناوری و هوش مصنوعی، گفت‌وگو کرده‌ایم.

گفتگوی شفقنارسانه با دکتر حسین امامی، استاد ارتباطات، پژوهشگر و متخصص حوزه فناوری و هوش مصنوعی را در ادامه بخوانید…

آیا می‌توان جنگ ایران، آمریکا و رژیم صهیونیستی را اولین جنگ واقعی مبتنی بر هوش مصنوعی دانست؟ چرا؟

پیش از این نیز شاهد استفاده محدودی از کاربرد هوش مصنوعی در عملیات‌های نظامی در اوکراین و غزه بودیم، اما آنچه رویارویی اخیر را متفاوت می‌کند، مقیاس و عمق حضور این فناوری است. امروزه هوش مصنوعی از نقش یک ابزار کمکی فراتر رفته و در لایه‌هایی مانند برنامه‌ریزی حملات، هماهنگی هم‌زمان سامانه‌ها و تصمیم‌گیری‌های بسیار سریع برای رهگیری موشک‌ها، حضوری تعیین‌کننده داشته است.

با این حال، هنوز همه‌چیز دست ماشین نیست. هوش مصنوعی فرمانده جنگ نیست و تصمیم نهایی همچنان توسط انسان گرفته می‌شود. به بیان ساده‌تر، این جنگ بیش از آنکه نمایش قدرت مطلق ماشین باشد، صحنه همکاری پیچیده میان انسان و الگوریتم‌هاست.

به عقیده شما هوش مصنوعی باعث کوتاه‌تر شدن جنگ‌ها می‌شود یا برعکس، آن‌ها را پیچیده‌تر و طولانی‌تر می‌کند؟

در نگاه اول، ممکن است تصور کنیم هوش مصنوعی جنگ‌ها را سریع‌تر تمام می‌کند؛ چون شناسایی و انهدام اهداف با سرعت بسیار بالاتری انجام می‌شود. سیستم‌ها داده‌ها را تحلیل می‌کنند، هدف پیشنهاد می‌دهند و حتی نوع سلاح مناسب را هم مشخص می‌کنند.

اما واقعیت کمی متفاوت است. وقتی یک طرف جنگ تلفات کمتری می‌دهد و هزینه انسانی پایین می‌آید، انگیزه برای ادامه درگیری بیشتر می‌شود. به همین دلیل، شواهد فعلی نشان می‌دهد جنگ‌ها نه‌تنها ساده‌تر نمی‌شوند، بلکه ممکن است پیچیده‌تر و فرسایشی‌تر هم بشوند. بنابراین، با هوش مصنوعی، جنگیدن راحت‌تر شده؛ اما به صلح رسیدن با کمک هوش مصنوعی، نه.

 چگونه هوش مصنوعی فرآیند شناسایی و هدف‌گیری در جنگ‌ها را تغییر داده است؟

در گذشته، شناسایی یک هدف و صدور دستور حمله ممکن بود ساعت‌ها یا حتی روزها زمان ببرد. امروز این روند به چند دقیقه یا حتی چند ثانیه رسیده است. الگوریتم‌ها به‌طور هم‌زمان داده‌های ماهواره‌ای، پهپادی و سیگنال‌های الکترونیکی را تحلیل می‌کنند و خروجی می‌دهند. نتیجه چیست؟ هدف‌گیری دقیق‌تر، واکنش سریع‌تر و امکان تعقیب اهداف متحرک.

اما این سرعت یک روی دیگر هم دارد. وقتی حجم داده و سرعت تحلیل از توان انسان فراتر می‌رود، فرمانده ناچار می‌شود به خروجی ماشین اعتماد کند. همین‌جا خطر خطای الگوریتم یا سوگیری داده‌ها مطرح می‌شود.

 با این اوصاف وقتی هوش مصنوعی هدف را انتخاب می‌کند، مسئولیت کشتار با چه کسی است؟ انسان یا ماشین؟

از نظر حقوقی و اخلاقی، پاسخ روشن است. مسئولیت کشتار با انسان است. ماشین نه نیت دارد، نه مسئولیت‌پذیر است و نه شخصیت حقوقی. بنابراین مسئولیت بر عهده طراحان، فرماندهان و سیاست‌گذارانی است که اجازه استفاده از این سیستم‌ها را داده‌اند.

اما مشکل از جایی شروع می‌شود که زنجیره تصمیم‌گیری میان چند لایه تقسیم می‌شود: مهندس، الگوریتم، اپراتور و فرمانده. در چنین شرایطی، اگر خطایی رخ دهد، مشخص کردن دقیق مقصر کار ساده‌ای نیست. همین موضوع یکی از چالش‌های جدی حقوق بین‌الملل شده است.

لطفاً در مورد نقش سامانه‌های مبتنی بر هوش مصنوعی در جنگ‌های مدرن، به‌ویژه در درگیری‌های اخیر خاورمیانه و اوکراین و جنگ علیه ایران توضیح دهید؟

بخش زیادی از اطلاعات موجود در این زمینه بر اساس گزارش‌های رسانه‌ای است، اما همین‌ها هم تصویر قابل توجهی به ما می‌دهند. مثلا در جنگ غزه، سامانه‌هایی مثل لاوندر برای شناسایی و امتیازدهی به افراد استفاده شده‌اند. هبصورا هم برای شناسایی سریع اهداف ساختمانی و زیرساختی به کار رفته و گفته می‌شود توان شناسایی روزانه ده‌ها هدف را داشته است. حتی سامانه‌ای با نام غیررسمی « بابا کجاست؟» برای ردیابی افراد در خانه‌هایشان مطرح شده بود.

در اوکراین هم پهپادهای خودران دیده شدند که حتی در صورت قطع ارتباط، می‌توانند هدف را شناسایی و حمله کنند. در مورد ایران، گزارش‌هایی از استفاده از نسخه‌های پیشرفته سامانه مِی‌وِن یا مایون (Maven)، آمریکا منتشر شده که برای تحلیل تصاویر پهپادی و ماهواره‌ای به کار می‌رود و چرخه تصمیم‌گیری را سرعت می‌بخشد.

پس حمله به مدرسه ابتدایی شجره طیبه در میناب (استان هرمزگان) و جانباختگان و شهادت عزیزان و کودکان مدرسه می تواند جزو هدفگذاری همین سامانه های هوش مصنوعی باشد که اشتباه هدفگذاری شده بود؟

گزارش‌های اولیه برخی رسانه‌های بین‌المللی به این احتمال اشاره کرده‌اند. بر اساس این گزارش‌ها، یکی از دلایل حادثه، استفاده از داده‌های قدیمی در یک سامانه هوشمند بوده است. ساختمانی که هدف قرار گرفت، سال‌ها قبل بخشی از یک مجموعه نظامی بوده، اما بعداً تغییر کاربری داده و به مدرسه تبدیل شده بود. اگر داده‌ها به‌روز نباشند و نظارت انسانی هم ضعیف باشد، چنین فاجعه‌هایی دور از انتظار نیست.

 از هوش مصنوعی در بعد جنگ نظامی گذر کنیم به سمت کاربرد هوش مصنوعی در جنگ سایبری. هوش مصنوعی در جنگ سایبری چه نقشی داشت؟

جنگ سایبری الزاماً با حملات پیچیده شروع نمی‌شود؛ گاهی حتی یک ابزار ساده مثل فلش مموری هم می‌تواند نقطه آغاز باشد. از طرف دیگر، تولید ویدئوهای دیپ‌فیک برای ایجاد ترس و سردرگمی هم بخشی از این میدان است. نکته مهم این بود که این ابزارها قدرت یادگیری داشتند؛ یعنی به محض اینکه متخصصان ما یک راه نفوذ را می‌بستند، هوش مصنوعی بلافاصله روش خود را تغییر می‌داد تا راه جدیدی برای ضربه زدن پیدا کند.

 اشاره کردید به ساخت ویدئوها. از هوش مصنوعی چگونه در تولید روایت‌های جنگ استفاده می‌شود و آیا ایران هم از این ابزارها در جنگ روایت‌ها بهره برد؟

در این حوزه، نقش هوش مصنوعی بسیار پررنگ بوده است. در ایران، تولید محتوا از ویدئوهای جدی تا طنز با کمک این فناوری به شکل گسترده‌ای انجام شد. طوری شده بود که ترامپ مجبور به واکنش و حتی مدعی شد که بسیاری از تصاویر و ویدیوهای منتشر شده از موفقیت‌های نظامی ایران، از جمله حمله به ناو هواپیمابر یواس‌اس آبراهام لینکلن کاملاً توسط هوش مصنوعی ساخته شده و فیک نیوز (اخبار جعلی) هستند. این نشان می دهد که این محتوای ساخته شده جهانی شده بود.

 افکار عمومی جهانی واقعاً توسط الگوریتم‌ها هدایت می‌شوند؟ حتی محتوای طنز و ویدئوهای ساخته‌شده با هوش مصنوعی؟

تا حدی بله، اما نه به‌صورت مطلق. الگوریتم‌های شبکه‌های اجتماعی به محتوای احساسی، جنجالی یا پربازدید اولویت می‌دهند. همین موضوع باعث می‌شود برخی روایت‌ها بیشتر دیده شوند و در ذهن مخاطب ماندگار شوند حتی اگر در قالب طنز یا سرگرمی باشند. با این حال، مخاطب کاملاً منفعل نیست. هنوز هم قدرت تحلیل و انتخاب وجود دارد، هرچند تحت تأثیر این فضا باشد.

به نظر شما وابستگی به شرکت‌های خارجی در حوزه هوش مصنوعی یک تهدید امنیتی است؟

وابستگی در این حوزه می‌تواند به یک نقطه ضعف جدی تبدیل شود. اگر زیرساخت‌های حیاتی یک کشور به فناوری‌هایی وابسته باشد که خارج از کنترل آن هستند، در شرایط بحرانی امکان اختلال یا سوءاستفاده وجود دارد.

البته این به معنای قطع همکاری علمی نیست. راه‌حل، ایجاد توازن است. یعنی توسعه توان داخلی، در کنار همکاری هدفمند و هوشمند با دیگران. کشوری که درک درستی از زنجیره ارزش هوش مصنوعی داشته باشد، می‌داند کجا باید همکاری کند، کجا باید بومی‌سازی نماید و کجا باید مرزهای امنیتی خود را ترسیم کند.

 با این اوصاف استفاده پژوهشگران یا کارکنان دستگاه‌های دولتی و خصوصی از چت‌بات‌های هوش مصنوعی در شرایط جنگی، خطرناک است؟

اگر بدون ملاحظات امنیتی باشد، بله. بسیاری از این سامانه‌ها داده‌های ورودی را ذخیره و تحلیل می‌کنند. بنابراین وارد کردن اطلاعات حساس حتی در قالب یک سؤال ساده می‌تواند به نشت اطلاعات منجر شود.

البته راه‌حل، ممنوعیت کامل نیست، بلکه تدوین دستورالعمل‌های روشن است. یعنی مشخص شود که چه داده‌ای مجاز است، چه پلتفرمی امن است و چگونه باید استفاده کرد. در دوره های آموزشی باید به این نکات به کارکنان و پژوهشگران تاکید شود.

  به نظر شما در آینده شاهد جنگ‌های کاملاً خودکار بدون حضور انسان خواهیم بود؟

از نظر فنی، چنین چیزی دور از ذهن نیست. اما از نظر انسانی و اخلاقی، بعید است به این زودی‌ها کنترل کامل به ماشین سپرده شود. با این حال، روند خودکارسازی تدریجی می‌تواند خطرناک باشد. اگر سرعت جنگ از توان تصمیم‌گیری انسان جلو بزند، ممکن است اختیار بیشتری به ماشین‌ها داده شود و این نقطه‌ای بسیار حساس خواهد بود.

هوش مصنوعی می‌تواند اشتباهاً باعث آغاز یک جنگ بزرگ شود؟

متأسفانه بله. خطای الگوریتم، تفسیر اشتباه داده یا یک واکنش زنجیره‌ای می‌تواند به تشدید ناخواسته تنش‌ها منجر شود. وقتی دو سیستم با سرعت بالا به هم پاسخ می‌دهند، یک سوءتفاهم کوچک هم ممکن است به بحران بزرگ تبدیل شود. هوش مصنوعی امروز به‌تنهایی دکمه شلیک را فشار نمی‌دهد؛ اما اگر روند فعلی ادامه پیدا کند و نظارت انسانی کمرنگ شود، فاصله ما با چنین سناریوهایی آن‌قدرها هم زیاد نخواهد بود.

بااین اوصاف رقابت هوش مصنوعی می‌تواند به یک مسابقه تسلیحاتی جدید تبدیل شود؟

در واقع، همین حالا هم شده است. کشورها به‌دنبال برتری در داده، الگوریتم و توان پردازشی هستند. این رقابت فقط نظامی نیست؛ بلکه ابعاد اقتصادی و سیاسی هم دارد.

فکر می کنید هوش مصنوعی می‌تواند روزی نقش بازدارندگی مشابه سلاح هسته‌ای ایفا کند؟

فعلاً زود است چنین قضاوتی کنیم. شاید در آینده این اتفاق بیفتد؛ اما هنوز به آن مرحله نرسیده‌ایم. سلاح هسته‌ای زمانی به ابزار بازدارندگی تبدیل شد که جهان عمق فاجعه آن را دید. در مورد هوش مصنوعی، هنوز چنین نقطه عطفی رخ نداده است.

انتهای پیام