دکتر مهدی طریقت رئیس اندیشکده و پردیس هوش مصنوعی و زیست مجازی در گفت‌وگو با ایسنا؛ با تأکید بر ضرورت انضباط علمی در به‌کارگیری هوش مصنوعی در پژوهش‌های پیشرفته، هشدار داد که استفاده شتاب‌زده و نمایشی از این فناوری می‌تواند در بلندمدت به اعتبار علمی کشور آسیب بزند.

 طریقت با بیان اینکه ادغام هوش مصنوعی در پژوهش‌های علمی، به‌ویژه در حوزه کوانتوم، پیش از هر چیز نیازمند چارچوب‌مندی و انضباط علمی است، اظهار کرد: تجربه کشورهای پیشرو نشان می‌دهد که ورود بدون ضابطه هوش مصنوعی به پژوهش، به‌جای پیشرفت واقعی، می‌تواند به تولید نتایج ظاهراً جذاب اما کم‌اعتبار منجر شود.

لزوم تعریف دقیق جایگاه هوش مصنوعی در پژوهش

وی با اشاره به پیچیدگی‌های حوزه کوانتوم افزود: در این حوزه، به‌دلیل ماهیت نظری پیچیده و محدود، پرهزینه و پرنویز بودن داده‌ها، خطر انحراف پژوهش‌ها بیشتر است. از این‌رو نخستین الزام، تعریف دقیق جایگاه هوش مصنوعی است؛ به این معنا که مشخص شود این ابزار برای تحلیل، بهینه‌سازی و کشف الگو به کار می‌رود، نه جایگزینی فهم فیزیکی.

این مقام مسئول با بیان اینکه این رویکرد در دستورالعمل‌های معتبر جهانی و هشدارهای نشریات علمی طراز اول نیز مورد تأکید قرار گرفته است، ادامه داد: استفاده نادرست از هوش مصنوعی می‌تواند مسیر پژوهش را از بنیان علمی خود منحرف کند.

شفافیت و بازتولیدپذیری؛ معیارهای سخت‌گیرانه علم امروز

طریقت با تأکید بر اصل شفافیت در پژوهش گفت: الزام دوم، شفافیت و قابلیت بازتولید نتایج است؛ به‌گونه‌ای که مسیر پژوهش باید به‌طور کامل قابل تکرار باشد. در غیر این صورت، حتی نتایج جذاب نیز در علم امروز جدی گرفته نمی‌شوند.

وی با اشاره به چارچوب‌های علم باز و حکمرانی داده تصریح کرد: این اصول به‌تدریج به معیارهای داوری سخت‌گیرانه در مجامع علمی تبدیل شده‌اند و پژوهشگران ناگزیر به رعایت آن‌ها هستند.

ضرورت تفسیرپذیری در نتایج پژوهش‌های کوانتومی

رئیس اندیشکده و پردیس هوش مصنوعی و زیست مجازی با بیان اینکه: تفسیرپذیری نتایج سومین رکن اساسی است، خاطرنشان کرد: در پژوهش‌های کوانتومی، ارائه صرف اعداد و نمودارها بدون تبیین فیزیکی، ارزش علمی محدودی دارد و این موضوع بارها از سوی انجمن‌های علمی معتبر مورد تأکید قرار گرفته است.

نبود استاندارد واحد جهانی و لزوم پایبندی به اصول پایه

وی با اشاره به وضعیت استانداردهای جهانی اظهار کرد: در حال حاضر، استاندارد واحد و اختصاصی برای ترکیب هوش مصنوعی و پژوهش کوانتوم وجود ندارد، اما پژوهشگران ملزم‌اند هم‌زمان به اصول اخلاق پژوهش، مدیریت ریسک هوش مصنوعی و شفافیت علمی پایبند باشند.

طریقت تأکید کرد: استفاده نمایشی از هوش مصنوعی شاید در کوتاه‌مدت به افزایش تعداد مقالات منجر شود، اما در بلندمدت به تضعیف اعتبار علمی کشور خواهد انجامید و اگر هدف، کسب جایگاه واقعی در علم جهانی است، باید این فناوری با دقت و سخت‌گیری وارد پژوهش شود.

اخلاق در هوش مصنوعی؛ شرط حفظ اعتماد عمومی به علم

وی در ادامه با اشاره به ابعاد اخلاقی استفاده از هوش مصنوعی در پژوهش گفت: اخلاق از جایی آغاز می‌شود که فراموش نکنیم علم در خدمت انسان است، نه انسان در خدمت ابزار. تجربه جهانی نشان داده است که بی‌توجهی به ملاحظات اخلاقی، به کاهش اعتماد عمومی به علم منجر می‌شود.

حریم خصوصی؛ یکی از مهم‌ترین مرزهای اخلاقی

این مقام مسئول با بیان اینکه: یکی از مهم‌ترین خطوط قرمز، حفظ حریم خصوصی است، افزود: در پژوهش‌هایی که بر داده‌های انسانی متکی هستند، از داده‌های پزشکی تا اطلاعات رفتاری و آموزشی، استفاده از هوش مصنوعی می‌تواند حتی در صورت ناشناس‌سازی، به شناسایی غیرمستقیم افراد منجر شود.

سوگیری داده‌ها؛ تهدیدی برای عدالت علمی

وی ادامه داد: مرز دوم، مسئله سوگیری است. هوش مصنوعی داده‌های ورودی را بازتولید می‌کند و اگر این داده‌ها ناقص یا جهت‌دار باشند، نتایج نیز به همان میزان دچار سوگیری خواهند شد؛ موضوعی که می‌تواند به حذف برخی گروه‌ها، تحریف یافته‌ها و حتی تشدید نابرابری‌های علمی منجر شود.

ضرورت حفظ نقش قضاوت انسانی در تصمیم‌گیری علمی

طریقت با تأکید بر نقش انسان در فرآیند پژوهش گفت: استفاده از هوش مصنوعی برای تحلیل و شبیه‌سازی قابل قبول است، اما واگذاری تصمیم نهایی به سامانه‌های هوشمند، بدون نظارت انسانی، عبور از یک خط قرمز اخلاقی محسوب می‌شود.

وی در ادامه خاطرنشان کرد: اگر پژوهشگران به‌صورت شفاف نحوه استفاده از هوش مصنوعی را در تحقیقات خود اعلام نکنند، دیگران برای آن‌ها استاندارد تعیین خواهند کرد. اخلاق در این حوزه یک موضوع تزئینی نیست، بلکه ضرورتی حیاتی برای حفظ اعتماد عمومی، اعتبار علمی و آینده پژوهش در کشور است.

رئیس اندیشکده و پردیس هوش مصنوعی و زیست مجازی با اشاره به خلأهای حقوقی در حوزه استفاده از هوش مصنوعی در پژوهش، تأکید کرد که نبود چارچوب‌های شفاف قانونی، فعالیت‌های علمی را با ابهام و کندی مواجه کرده است.

 طریقت با بیان اینکه در ایران هنوز چارچوب حقوقی منسجم و به‌روزی که به‌طور مشخص به کاربرد هوش مصنوعی در پژوهش بپردازد، وجود ندارد، اظهار کرد: قوانین موجود یا قدیمی هستند یا به‌درستی و کارآمد تدوین نشده‌اند؛ از جمله برخی اسناد منتشرشده که دارای ایرادات محتوایی و نگارشی متعددند و نمی‌توانند راهنمای دقیقی برای پژوهشگران باشند.

بلاتکلیفی حقوقی؛ مانعی برای پویایی پژوهش

وی ادامه داد: در چنین شرایطی، پژوهشگر و نهاد علمی در وضعیتی خاکستری فعالیت می‌کنند؛ نه دقیقاً از حدود مجاز آگاه هستند و نه نسبت به پیامدهای احتمالی اقدامات خود اطمینان دارند. این بلاتکلیفی، برخلاف تصور، به افزایش خلاقیت منجر نمی‌شود، بلکه پژوهش را محافظه‌کار، کند و گاه نمایشی می‌کند.

این مقام مسئول با اشاره به اسناد بالادستی علم و فناوری کشور افزود: اگرچه در این اسناد به اهمیت هوش مصنوعی اشاره شده، اما فاصله قابل‌توجهی میان رویکردهای اعلامی و قواعد اجرایی وجود دارد که تصمیم‌گیری علمی را با دشواری مواجه می‌کند.

فشار دوگانه قوانین داخلی و الزامات بین‌المللی

طریقت با بیان اینکه در سطح بین‌المللی وضعیت شفاف‌تر اما پیچیده است، گفت: طی سال‌های اخیر، مجموعه‌ای از دستورالعمل‌ها در حوزه اخلاق، مسئولیت‌پذیری و مدیریت ریسک هوش مصنوعی تدوین شده که عملاً به معیار همکاری‌های علمی تبدیل شده‌اند.

وی تصریح کرد: پژوهش‌هایی که نتوانند پایبندی خود را به اصولی همچون حفاظت از داده‌ها، شفافیت روش و مسئولیت‌پذیری نشان دهند، به‌راحتی از چرخه همکاری‌های بین‌المللی حذف می‌شوند. این مسئله برای اندیشکده‌های ایرانی به معنای مواجهه با دو فشار هم‌زمان است؛ از یک‌سو ابهام در مقررات داخلی و از سوی دیگر ضرورت تطبیق با استانداردهای سخت‌گیرانه جهانی.

وی افزود: تجربه ما نشان می‌دهد که ناگزیر بوده‌ایم به‌صورت داوطلبانه استانداردهایی را رعایت کنیم که هنوز در قوانین داخلی الزام‌آور نیستند، صرفاً برای حفظ اعتبار علمی و امکان تعامل بین‌المللی.

اتلاف انرژی پژوهشی در مدیریت ریسک حقوقی

رئیس اندیشکده و پردیس هوش مصنوعی و زیست مجازی با اشاره به پیامدهای این وضعیت گفت: بخشی از انرژی و ظرفیت پژوهشی به‌جای تمرکز بر تولید علم، صرف مدیریت ریسک‌های حقوقی می‌شود.

وی تأکید کرد: اگر ایران قصد دارد در حوزه‌هایی مانند هوش مصنوعی و کوانتوم به بازیگری جدی تبدیل شود، ناگزیر است به سمت تدوین مقررات شفاف، قابل پیش‌بینی و همسو یا حتی پیشرو نسبت به جریان علم جهانی حرکت کند؛ در غیر این صورت، حتی توانمندترین پژوهشگران نیز با محدودیت‌های جدی مواجه خواهند شد.

هوش مصنوعی؛ زیرساخت اجتناب‌ناپذیر پژوهش کوانتومی

طریقت در ادامه با اشاره به نقش هوش مصنوعی در پژوهش‌های کوانتومی اظهار کرد: در این حوزه، هوش مصنوعی به ابزاری اجتناب‌ناپذیر تبدیل شده است، نه به‌دلیل تبلیغات، بلکه به‌واسطه محدودیت‌های واقعی مانند حجم بالای محاسبات، پیچیدگی مدل‌ها و هزینه سنگین آزمایش‌ها.

وی با بیان اینکه در مراکز علمی پیشرفته جهان، از هوش مصنوعی برای تحلیل داده‌های پرنویز، بهینه‌سازی طراحی آزمایش، کشف الگوهای پنهان و حتی پیشنهاد مسیرهای جدید تحقیق استفاده می‌شود، افزود: این فناوری اکنون بخشی از زیرساخت پژوهش کوانتومی محسوب می‌شود.

مرزهای ضروری برای جلوگیری از وابستگی به هوش مصنوعی

این مقام مسئول در عین حال هشدار داد: ضرورت استفاده از هوش مصنوعی نباید به وابستگی کامل منجر شود. مرز اصلی جایی است که پژوهشگر فهم فیزیکی را به خروجی مدل واگذار کند.

وی ادامه داد: در پژوهش‌های کوانتومی، نتایجی که صرفاً کارآمد اما فاقد تبیین‌پذیری هستند، از نظر علمی شکننده‌اند. تجربه جهانی نشان داده که اتکای بیش‌ازحد به مدل‌های هوشمند می‌تواند به «توهم پیشرفت» منجر شود؛ یعنی افزایش سرعت تولید نتایج بدون شکل‌گیری دانش عمیق.

حفظ نقش انسان در داوری علمی

طریقت با تأکید بر جایگاه انسان در فرآیند پژوهش گفت: هوش مصنوعی باید در نقش دستیار باقی بماند، نه مرجع نهایی. تفسیر نتایج، داوری علمی و تصمیم‌گیری نهایی باید همچنان در اختیار پژوهشگر باشد.

وی خاطرنشان کرد: برای ایران، این موضوع اهمیت بیشتری دارد؛ زیرا محدودیت منابع می‌تواند به استفاده بیش‌ازحد از ابزارهای هوشمند منجر شود. اگر این روند به تضعیف توان نظری و انسانی بینجامد، وابستگی علمی در بلندمدت اجتناب‌ناپذیر خواهد بود.

وی در ادامه تأکید کرد: هوش مصنوعی باید به تعمیق فهم علمی کمک کند، نه صرفاً به تسریع در تولید نتایج. حفظ این تعادل، شرط تبدیل این فناوری به اهرم پیشرفت واقعی در پژوهش‌های کوانتومی کشور است.

رئیس اندیشکده و پردیس هوش مصنوعی و زیست مجازی با اشاره به تجربه‌های موفق و ناموفق در به‌کارگیری هوش مصنوعی در پژوهش‌ها، تأکید کرد که مرزبندی صحیح میان نقش ابزار و قضاوت علمی، عامل اصلی تمایز این دو دسته از تجربیات است.

طریقت با بیان اینکه در حوزه پژوهش، هم نمونه‌های موفق و هم شکست‌های قابل‌توجهی در استفاده از هوش مصنوعی وجود دارد، اظهار کرد: تفاوت این دو، نه در قدرت فناوری، بلکه در نحوه استفاده و تعیین حدود آن بوده است.

موفقیت زمانی محقق می‌شود که قضاوت علمی در اختیار انسان بماند

وی ادامه داد: در نمونه‌های موفق، هوش مصنوعی دقیقاً در جایی به‌کار گرفته شده که توان انسانی به‌تنهایی کفایت نمی‌کرد، اما تصمیم‌گیری و قضاوت علمی همچنان در اختیار پژوهشگر باقی مانده است.

این مقام مسئول با اشاره به برخی پروژه‌های بین‌المللی در حوزه مواد کوانتومی افزود: در این پروژه‌ها، مدل‌های هوشمند برای جست‌وجوی ترکیب‌هایی با احتمال بروز ویژگی‌هایی مانند ابررسانایی به‌کار گرفته شدند و توانستند میلیون‌ها حالت را غربال کرده و دامنه جست‌وجو را به گزینه‌های محدود و معقول برسانند.

وی تصریح کرد: در ادامه، این فیزیک‌دانان بودند که با تحلیل نظری و آزمایش‌های کنترل‌شده، چرایی رفتار این مواد را تبیین کردند و در نتیجه، دستاورد نهایی تنها کشف یک ماده جدید نبود، بلکه فهم عمیق‌تری از رابطه ساختار و رفتار فیزیکی حاصل شد.

شکست‌ها؛ محصول اعتماد بیش‌ازحد به خروجی مدل‌ها

طریقت با اشاره به نمونه‌های ناموفق گفت: در مقابل، مواردی وجود داشته که مدل‌های هوشمند روابط آماری دقیقی در داده‌های کوانتومی شناسایی کرده‌اند و نتایج از نظر عددی بسیار چشمگیر بوده، اما در ادامه مشخص شده این روابط فاقد تفسیر فیزیکی پایدار هستند.

وی افزود: در برخی پروژه‌ها نیز نتایج به‌سختی قابل بازتولید بوده و تلاش سایر گروه‌ها برای تکرار آزمایش‌ها به نتیجه نرسیده است. این مسئله ناشی از اتکای بیش‌ازحد به خروجی مدل و نادیده گرفتن پرسش بنیادین «چرایی» بوده است.

این مقام مسئول تأکید کرد: چنین مواردی نمونه‌های کلاسیک «توهم پیشرفت» هستند؛ یعنی جایی که نتایج ظاهراً دقیق‌اند، اما دانش واقعی تولید نشده است.

تجربه‌های داخلی و خطر پنهان‌سازی ضعف علمی

وی با اشاره به برخی تجربیات در داخل کشور گفت: در برخی پایان‌نامه‌ها و پروژه‌های پژوهشی، استفاده گسترده از ابزارهای هوشمند به تولید نتایج سریع و پیچیده منجر شده، اما در مراحل داوری یا دفاع، ضعف در مبانی نظری آشکار شده است.

طریقت افزود: در این موارد، هوش مصنوعی نه‌تنها به پیشرفت علمی کمک نکرده، بلکه به پنهان‌سازی خلأهای علمی نیز انجامیده و حتی باعث شکل‌گیری نوعی بدبینی در میان داوران نسبت به پژوهش‌های مبتنی بر هوش مصنوعی شده است.

مرز مجاز استفاده از هوش مصنوعی در پژوهش

رئیس اندیشکده و پردیس هوش مصنوعی و زیست مجازی تصریح کرد: مرز مجاز استفاده از هوش مصنوعی جایی است که این ابزار به تعمیق فهم علمی کمک کند، نه اینکه جایگزین آن شود.

وی ادامه داد: هرجا خروجی هوش مصنوعی قابل توضیح، قابل نقد و قابل بازتولید باشد، استفاده از آن ضروری و قابل دفاع است، اما اگر پژوهشگر نتواند منطق علمی پشت نتایج را تبیین کند و صرفاً به دقت عددی تکیه کند، از این مرز عبور شده است.

وی خاطرنشان کرد: برای کشوری مانند ایران که در حال تقویت سرمایه انسانی علمی است، بی‌توجهی به این مرز می‌تواند منجر به تولید نتایج پرزرق‌وبرق اما کم‌عمق شود.

هوش مصنوعی؛ بخشی از زیست‌بوم تولید دانش

طریقت در ادامه با اشاره به نقش کلان هوش مصنوعی در پژوهش‌ها اظهار کرد: امروزه هوش مصنوعی دیگر یک ابزار جانبی نیست، بلکه بخشی از زیست‌بوم تولید دانش محسوب می‌شود و در بسیاری از حوزه‌ها، سرعت تحلیل، مشاهده و آزمون فرضیه‌ها را به‌طور چشمگیری افزایش داده است.

وی افزود: این فناوری امکان کار با حجم و پیچیدگی داده‌هایی را فراهم کرده که پیش‌تر خارج از توان پژوهشگران بود، اما همین مزیت، ضرورت توجه به اعتبار و اصالت نتایج را دوچندان کرده است.

شفافیت؛ نخستین شرط اعتبار پژوهش‌های مبتنی بر هوش مصنوعی

این مقام مسئول با تأکید بر الزامات حفظ اعتبار علمی گفت: نخستین شرط بنیادین، شفافیت کامل در نقش هوش مصنوعی در پژوهش است.

وی در ادامه تأکید کرد: باید به‌طور دقیق مشخص شود که هوش مصنوعی در چه مرحله‌ای از پژوهش به‌کار گرفته شده، چه وظایفی را انجام داده و چه بخش‌هایی همچنان بر عهده پژوهشگر بوده است؛ چرا که بدون این شفافیت، ارزیابی علمی نتایج امکان‌پذیر نخواهد بود.

رئیس اندیشکده و پردیس هوش مصنوعی و زیست مجازی با تأکید بر ضرورت رعایت الزامات علمی در استفاده از هوش مصنوعی، تصریح کرد که بدون شفافیت، بازتولیدپذیری و حفظ قضاوت انسانی، نتایج پژوهشی—even در صورت دقت عددی بالا—از نظر علمی آسیب‌پذیر خواهند بود.

طریقت با بیان اینکه پژوهشی که در آن مشخص نباشد داده‌ها چگونه پردازش شده یا مدل بر چه اساسی به نتیجه رسیده است، از منظر علمی قابل اتکا نیست، اظهار کرد: اصالت علم نه در پیچیدگی ابزار، بلکه در قابل‌پیگیری بودن مسیر دستیابی به نتیجه معنا پیدا می‌کند.

بازتولیدپذیری؛ شرط اساسی اعتبار علمی

وی ادامه داد: الزام دوم، بازتولیدپذیری است. هر نتیجه‌ای که با کمک هوش مصنوعی به‌دست می‌آید باید به‌گونه‌ای مستند شود که پژوهشگر دیگری بتواند همان مسیر را طی کرده و به نتیجه‌ای هم‌ارز برسد.

این مقام مسئول افزود: اگر مدل، داده‌ها یا تنظیمات آن مبهم یا غیرقابل دسترس باقی بمانند، نتیجه بیش از آنکه یک دستاورد علمی باشد، به یک نمایش فنی شباهت خواهد داشت. این مسئله در ایران اهمیت بیشتری دارد، زیرا اعتماد علمی بیش از هر چیز بر قابلیت بازتولید استوار است.

حفظ قضاوت انسانی؛ خط قرمز پژوهش علمی

طریقت با تأکید بر نقش انسان در فرآیند علمی گفت: هوش مصنوعی می‌تواند در پیشنهاد، کشف الگو و حتی تولید فرضیه نقش داشته باشد، اما مسئولیت تفسیر، داوری و تصمیم‌گیری نهایی باید صریحاً بر عهده پژوهشگر باقی بماند.

وی خاطرنشان کرد: هرجا پژوهشگر نتواند منطق علمی پشت یک خروجی را توضیح دهد، اصالت پژوهش زیر سؤال می‌رود، حتی اگر نتیجه در عمل کارآمد باشد.

صداقت علمی؛ الزام مغفول اما حیاتی

رئیس اندیشکده و پردیس هوش مصنوعی و زیست مجازی با اشاره به یک اصل کمتر مورد توجه افزود: صداقت علمی از الزامات اساسی در این حوزه است و استفاده از هوش مصنوعی نباید به ابزاری برای پنهان‌سازی ضعف‌های نظری، کمبود داده یا شتاب‌زدگی در پژوهش تبدیل شود.

وی تأکید کرد: در صورت رعایت این اصول، هوش مصنوعی می‌تواند به تقویت اعتبار پژوهش کمک کند، اما در غیر این صورت، صرفاً ظاهری مدرن به علم می‌بخشد و اعتماد به آن را تضعیف می‌کند.

تعیین حدود فنی در پژوهش‌های بین‌رشته‌ای

طریقت در ادامه با اشاره به پژوهش‌های بین‌رشته‌ای، به‌ویژه در تقاطع هوش مصنوعی و کوانتوم، اظهار کرد: مسئله اصلی، امکان استفاده از این فناوری نیست، بلکه چگونگی و حدود به‌کارگیری آن است.

وی افزود: تجربه‌های جهانی نشان می‌دهد که نبود مرزبندی دقیق، این ترکیب را به‌سمت تولید نتایج ظاهراً جذاب اما فاقد عمق علمی سوق می‌دهد.

کیفیت داده؛ نخستین مرز فنی

این مقام مسئول تصریح کرد: نخستین حد فنی، به کیفیت و ماهیت داده‌ها بازمی‌گردد. داده‌های کوانتومی معمولاً کم‌حجم، پرنویز و وابسته به شرایط خاص آزمایش هستند، در حالی‌که بسیاری از مدل‌های هوش مصنوعی برای داده‌های حجیم و پایدار طراحی شده‌اند.

وی ادامه داد: استفاده بدون ملاحظه از این مدل‌ها می‌تواند به یادگیری الگوهای کاذب منجر شود؛ بنابراین، کاربرد آن‌ها باید در چارچوبی باشد که محدودیت‌های فیزیکی و فرضیات نظری به‌طور صریح در آن لحاظ شده باشد.

تفسیرپذیری؛ شرط مشروعیت علمی نتایج

طریقت با بیان اینکه حد دوم، تفسیرپذیری نتایج است، گفت: خروجی‌ای که برای متخصص هوش مصنوعی قابل قبول باشد، لزوماً برای فیزیک‌دان معنا ندارد. اگر نتیجه‌ای نتواند به زبان مفهومی حوزه کوانتوم ترجمه شود، از نظر علمی ناقص است.

وی تأکید کرد: هرجا پیش‌بینی دقیق بدون توضیح فیزیکی ارائه شود، باید آن را به‌عنوان یک زنگ خطر تلقی کرد.

پرهیز از وابستگی زیرساختی و دانشی

وی در ادامه افزود: حد سوم، جلوگیری از وابستگی زیرساختی و دانشی است. در پروژه‌هایی که تمام فرآیند به یک مدل یا چارچوب خاص وابسته می‌شود، دانش به‌تدریج از پژوهشگر به ابزار منتقل خواهد شد.

طریقت تصریح کرد: این موضوع برای کشورهایی مانند ایران خطرناک است و می‌تواند به وابستگی علمی و فناورانه منجر شود؛ بنابراین، مدل‌ها باید قابل جایگزینی بوده و منطق آن‌ها برای تیم پژوهشی قابل درک و بازسازی باشد.

راهکارهای جلوگیری از سوءاستفاده از هوش مصنوعی

رئیس اندیشکده و پردیس هوش مصنوعی و زیست مجازی با اشاره به راهکارهای کنترل سوءاستفاده گفت: سوءاستفاده از هوش مصنوعی صرفاً به معنای تقلب نیست، بلکه می‌تواند در قالب اغراق در نقش این فناوری یا پنهان‌سازی ضعف‌های علمی نیز بروز پیدا کند.

وی افزود: برای جلوگیری از این مسئله، نخست باید شفافیت کامل در گزارش نقش هوش مصنوعی رعایت شود؛ دوم، داوری بین‌رشته‌ای واقعی و نه صوری انجام گیرد؛ به‌گونه‌ای که نتایج هم‌زمان توسط متخصصان حوزه کوانتوم و داده مورد ارزیابی قرار گیرند.

وی ادامه داد: سومین راهکار، تربیت پژوهشگرانی است که به زبان هر دو حوزه مسلط باشند، چراکه بسیاری از خطاها و سوءاستفاده‌ها در شکاف میان تخصص‌ها رخ می‌دهد.

هوش مصنوعی و کوانتوم؛ فرصت راهبردی مشروط به حکمرانی صحیح

طریقت در جمع‌بندی اظهار کرد: ترکیب هوش مصنوعی و کوانتوم یک فرصت راهبردی برای ایران است، اما بهره‌برداری از آن مستلزم توجه جدی به حدود فنی، مرزهای مفهومی و سازوکارهای نظارتی است.

وی در ادامه تأکید کرد: در صورت بی‌توجهی به این الزامات، این حوزه به تولید مقالات پرتعداد اما کم‌اثر منجر خواهد شد، اما در صورت مدیریت صحیح، می‌تواند به اهرمی برای کاهش فاصله علمی کشور با جهان در سطحی عمیق و پایدار تبدیل شود.

رئیس اندیشکده و پردیس هوش مصنوعی و زیست مجازی با تأکید بر ضرورت بلوغ علمی در مواجهه با ابزارهای هوشمند، تصریح کرد که رعایت اصول اخلاقی و حدود قانونی در استفاده از هوش مصنوعی، پیش‌شرط حفظ اعتبار پژوهشگران جوان است.

طریقت با بیان اینکه توصیه به پژوهشگران جوان صرفاً ارائه فهرستی از بایدها و نبایدها نیست، بلکه دعوت به نوعی بلوغ علمی در مواجهه با هوش مصنوعی است، اظهار کرد: این ابزار می‌تواند هم سکوی پرتاب باشد و هم زمینه‌ساز لغزش علمی.

شفافیت؛ نخستین اصل در استفاده از هوش مصنوعی

وی ادامه داد: نخستین توصیه، شفافیت بی‌ملاحظه با خود و جامعه علمی است. پژوهشگر باید از همان ابتدا یاد بگیرد که استفاده از ابزارهای هوشمند را نه پنهان کند و نه بزرگ‌نمایی؛ بلکه به‌صورت دقیق، صادقانه و همراه با ذکر محدودیت‌ها گزارش دهد.

این مقام مسئول افزود: تجربه نشان داده هرجا ابهام وجود داشته باشد، اعتماد علمی به‌تدریج فرسایش می‌یابد، حتی اگر سوءنیتی در کار نباشد.

مسئولیت علمی؛ همچنان بر عهده پژوهشگر

طریقت با تأکید بر مالکیت فکری گفت: خروجی ابزارهای هوشمند به‌خودی‌خود دانش محسوب نمی‌شود و مسئولیت علمی نتایج، چه صحیح و چه نادرست، همچنان بر عهده پژوهشگر است.

وی تصریح کرد: پژوهشگر باید بتواند از نتایج خود دفاع کند، منطق آن را توضیح دهد و پیامدهای آن را بپذیرد؛ واگذاری این مسئولیت به ابزار، نه از نظر اخلاقی پذیرفتنی است و نه از منظر حقوقی قابل دفاع خواهد بود.

حساسیت نسبت به داده؛ نقطه آغاز خطاهای اخلاقی

وی با اشاره به اهمیت داده‌ها اظهار کرد: بسیاری از خطاهای اخلاقی از داده آغاز می‌شوند، نه از مدل. پژوهشگر باید نسبت به منشأ داده، وجود رضایت آگاهانه، امکان شناسایی غیرمستقیم افراد و همچنین سوگیری‌های احتمالی حساس باشد.

طریقت افزود: بی‌توجهی به این ملاحظات، حتی اگر در کوتاه‌مدت بی‌هزینه به‌نظر برسد، در بلندمدت می‌تواند اعتبار علمی یک مسیر پژوهشی را زیر سؤال ببرد.

لزوم آگاهی از حدود قانونی، حتی در شرایط ابهام

این مقام مسئول ادامه داد: هرچند در ایران قوانین شفاف و تخصصی در این حوزه محدود است، اما این وضعیت به معنای آزادی مطلق نیست. پژوهشگر حرفه‌ای تلاش می‌کند از اصول کلی حقوق پژوهش، حریم خصوصی و مسئولیت حرفه‌ای فاصله نگیرد.

وی تأکید کرد: در موارد تردید، انتخاب رویکرد محتاطانه نشانه ضعف نیست، بلکه بیانگر عقلانیت حرفه‌ای است.

هوش مصنوعی نباید جای رشد علمی را بگیرد

رئیس اندیشکده و پردیس هوش مصنوعی و زیست مجازی با تأکید بر نقش بنیادین تفکر انسانی گفت: مهم‌ترین توصیه این است که پژوهشگران جوان اجازه ندهند هوش مصنوعی جای رشد علمی آن‌ها را بگیرد.

وی افزود: ابزارهای هوشمند می‌توانند فرآیندهایی مانند نگارش، تحلیل و ایده‌پردازی را تسهیل کنند، اما اگر پیش از شکل‌گیری بنیان‌های نظری و روش‌شناختی به آن‌ها تکیه شود، مسیر رشد علمی با خطر جدی مواجه خواهد شد.

وی خاطرنشان کرد: کشور بیش از هر چیز به پژوهشگرانی نیاز دارد که قدرت تحلیل، درک عمیق و مسئولیت‌پذیری داشته باشند و هوش مصنوعی باید در خدمت این ویژگی‌ها قرار گیرد، نه جایگزین آن‌ها شود.

آینده پژوهش؛ عادی‌سازی عمیق هوش مصنوعی

طریقت در ادامه با اشاره به آینده استفاده از هوش مصنوعی در پژوهش‌ها اظهار کرد: جهان در آستانه عادی‌سازی عمیق این فناوری در فرآیند تولید دانش قرار دارد؛ به‌گونه‌ای که هوش مصنوعی به ابزاری مشابه آمار یا شبیه‌سازی عددی تبدیل خواهد شد.

وی افزود: در آینده نزدیک، پژوهش‌هایی که به‌طور کامل فاقد استفاده از ابزارهای هوشمند باشند، لزوماً بی‌اعتبار نخواهند بود، اما به‌تدریج در رقابت علمی به حاشیه رانده می‌شوند.

آینده مقررات؛ تأکید بر اصول، نه قوانین یکپارچه

این مقام مسئول با بیان اینکه آینده این حوزه لزوماً به معنای شکل‌گیری قوانین جهانی سخت‌گیرانه و یکپارچه نیست، گفت: علم ذاتاً متکثر و وابسته به زمینه است و تجربه نشان داده که قواعد اخلاق پژوهش بیشتر در قالب اصول مشترک و هنجارهای حرفه‌ای تثبیت می‌شوند، نه قوانین الزام‌آور فراگیر.

وی در ادامه تأکید کرد: آنچه آینده استفاده از هوش مصنوعی در پژوهش را تعیین می‌کند، بیش از آنکه قانون باشد، میزان پایبندی جامعه علمی به اصولی مانند شفافیت، مسئولیت‌پذیری و صداقت علمی است.

رئیس اندیشکده و پردیس هوش مصنوعی و زیست مجازی با تأکید بر امکان مدیریت استفاده از هوش مصنوعی بدون وجود یک رژیم حقوقی جهانی واحد، تصریح کرد که رعایت اصولی همچون مسئولیت علمی، شفافیت روش و داوری انسانی، مبنای اصلی این مدیریت است.

 طریقت با بیان اینکه استفاده از هوش مصنوعی را می‌توان و باید در چارچوب مسئولیت علمی، شفافیت و قضاوت انسانی سامان داد، اظهار کرد: حتی در غیاب یک نظام حقوقی بین‌المللی یکپارچه نیز امکان تنظیم این حوزه بر پایه اصول حرفه‌ای وجود دارد.

الزامات بین‌المللی؛ از توصیه اخلاقی تا ضرورت عملی

وی ادامه داد: با این حال، نمی‌توان از یک واقعیت مهم چشم‌پوشی کرد و آن شکل‌گیری تدریجی پروتکل‌ها و دستورالعمل‌های مشترک در سطح بین‌المللی است؛ به‌ویژه در حوزه‌هایی که به انتشار، ارزیابی و نمایه‌سازی پژوهش‌ها مربوط می‌شود.

این مقام مسئول افزود: امروز مجلات علمی معتبر، پایگاه‌های استنادی و نظام‌های داوری به‌طور فزاینده از پژوهشگران می‌خواهند نقش هوش مصنوعی را شفاف کنند، درباره داده و روش توضیح دهند و مسئولیت انسانی نتایج را بپذیرند.

وی تصریح کرد: در چنین شرایطی، رعایت این الزامات برای حضور در عرصه‌های علمی بین‌المللی، از جمله نمایه‌هایی مانند اسکوپوس، دیگر یک انتخاب اخلاقی صرف نیست، بلکه به یک ضرورت عملی برای دیده‌شدن علمی تبدیل شده است.

استانداردهای حرفه‌ای؛ مسیر غالب تنظیم‌گری آینده

طریقت با بیان اینکه الزامات آینده بیش از آنکه ماهیت حقوقی سخت داشته باشند، در قالب استانداردهای حرفه‌ای شکل می‌گیرند، گفت: این استانداردها شامل مستندسازی نقش هوش مصنوعی، تضمین بازتولیدپذیری نتایج و مرزبندی روشن میان تولید ماشینی و قضاوت انسانی خواهند بود.

وی افزود: این قواعد احتمالاً ابتدا در مجلات، کنفرانس‌ها و نظام‌های داوری علمی تثبیت می‌شوند و در صورت نیاز، بعدها به چارچوب‌های حقوقی ترجمه خواهند شد؛ به‌عبارت دیگر، تنظیم‌گری این حوزه بیشتر از پایین به بالا شکل می‌گیرد تا از بالا به پایین.

لزوم پیش‌دستی جامعه علمی ایران

رئیس اندیشکده و پردیس هوش مصنوعی و زیست مجازی با اشاره به پیام این روند برای ایران گفت: کشور نباید منتظر تدوین قوانین جهانی بماند و در عین حال نمی‌تواند نسبت به تحولات در حال وقوع در عرصه بین‌المللی بی‌تفاوت باشد.

وی تأکید کرد: راهبرد منطقی آن است که جامعه علمی کشور، اصولی مانند شفافیت، مسئولیت‌پذیری و اصالت پژوهش را به‌صورت پیش‌دستانه نهادینه کند تا در مواجهه با استانداردهای آینده، در موضع انفعال قرار نگیرد.

طریقت خاطرنشان کرد: آینده هوش مصنوعی در پژوهش نه مبتنی بر ممنوعیت است و نه رهاشدگی، بلکه به‌سمت بلوغ حرکت می‌کند؛ بلوغی که در آن، ابزار قدرتمند است اما مرجعیت علمی همچنان در اختیار انسان باقی می‌ماند.

هوش مصنوعی و حکمرانی علم؛ رویکرد اندیشکده

وی در ادامه با تشریح سیاست‌های اندیشکده در این حوزه اظهار کرد: رویکرد ما نسبت به هوش مصنوعی، صرفاً مصرف‌کننده یا منفعلانه نبوده، بلکه آن را به‌عنوان یک مسئله در حوزه حکمرانی علم تلقی کرده‌ایم.

این مقام مسئول افزود: بر همین اساس، با همکاری نظام‌مند با دانشگاه‌ها، حوزه‌های علمیه، مراکز پژوهشی تخصصی و نهادهای علمی، و همچنین با مشارکت انجمن ملی هوش مصنوعی، تلاش کرده‌ایم مسیر تدوین اصول و پروتکل‌های مناسب برای استفاده از هوش مصنوعی در پژوهش را به‌صورت تدریجی و مبتنی بر اجماع علمی پیش ببریم.

تدوین چارچوب‌هایی برای حفظ اصالت و اعتبار پژوهش

طریقت با بیان اینکه تمرکز این همکاری‌ها بر طراحی چارچوب‌هایی چندبعدی بوده است، گفت: این چارچوب‌ها به‌دنبال حفظ اصالت و مسئولیت علمی پژوهشگر، شفاف‌سازی نقش هوش مصنوعی، تضمین قابلیت ارزیابی و بازتولید نتایج و همسویی با استانداردهای بین‌المللی هستند.

وی تأکید کرد: بدون چنین چارچوب‌هایی، استفاده گسترده از هوش مصنوعی با نیت صحیح—می‌تواند به فرسایش اعتماد علمی منجر شود.

تدوین تدریجی پروتکل‌ها با اجماع علمی

رئیس اندیشکده و پردیس هوش مصنوعی و زیست مجازی افزود: تاکنون پیش‌نویس‌های اولیه‌ای از اصول و پروتکل‌های پیشنهادی برای استفاده مسئولانه از هوش مصنوعی در پژوهش تهیه شده و این اسناد در حال طی مراحل تکمیل، نقد و اجماع‌سازی در تعامل با جامعه علمی کشور هستند.

وی ادامه داد: این فرآیند به‌صورت شتاب‌زده پیش نرفته، زیرا تدوین چنین قواعدی نیازمند دقت مفهومی، حساسیت اخلاقی و درک عمیق از واقعیت‌های اجرایی پژوهش در ایران است.

سرمایه‌گذاری راهبردی برای آینده علم کشور

طریقت در جمع‌بندی تصریح کرد: هرچند وجود قوانین الزام‌آور بین‌المللی در این حوزه یک ضرورت ذاتی نیست، اما در صورت تثبیت استانداردها و پروتکل‌های جهانی، رعایت آن‌ها—به‌ویژه در بستر انتشار و ارزیابی علمی—برای حضور مؤثر پژوهش ایرانی در مجلات و نمایه‌های معتبر اجتناب‌ناپذیر خواهد بود.

وی در پایان تأکید کرد: از همین رو، اندیشکده این مسیر را نه به‌عنوان واکنش به فشارهای بیرونی، بلکه به‌عنوان یک سرمایه‌گذاری راهبردی برای آینده علم کشور دنبال می‌کند.

انتهای پیام