به گزارش ایسنا، یک سیستم هوش مصنوعی می‌تواند به دانشمندان در شناسایی یک داروی جدید امیدوارکننده کمک کند، همچنین می‌تواند آنها را متقاعد کند که یک اثر بیولوژیکی وجود دارد، در حالی که وجود ندارد.

هوش مصنوعی مولد با یادگیری ویژگی‌ها و روابط مشترک از نمونه‌های موجود، محتوای جدیدی ایجاد می‌کند. اگرچه این فناوری بیشتر به تولید متن و تصاویر شناخته شده است، اما محققان در حال بررسی کاربرد آن در طراحی پروتئین‌ها، شبیه‌سازی سلول‌ها، پر کردن شکاف‌ها در نتایج تجربی و تولید داده‌های بیولوژیکی مصنوعی هستند.

نکته حائز اهمیت این است که این سیستم‌ها می‌توانند توهم نیز ایجاد کنند. این امر در تحقیقات بیولوژیکی می‌تواند به معنای تولید یک الگوی مولکولی یا استنتاج با ظاهری قابل قبول باشد که منعکس کننده زیست‌شناسی اساسی نیست.

چنین خطایی می‌تواند عواقب ملموسی داشته باشد. هوش مصنوعی ممکن است یک کاندیدای دارویی را که می‌توانست مؤثر باشد، نادیده بگیرد، محققان را به سمت یک درمان ناکارآمد هدایت کند، یک اثر بیولوژیکی واقعی را پنهان کند یا یک مکانیسم بیماری که وجود ندارد را مانند یک کشف جلوه دهد.

توماس برگر(Thomas Burger)، زیست‌شناس محاسباتی از دانشگاه گرنوبل آلپ(Grenoble Alpes) در فرانسه، این مشکل را در ۱۰ کاربرد بالقوه هوش مصنوعی مولد در مقاله‌ای که در مجله‌ی «Patterns» منتشر شده است، بررسی می‌کند.

آزمایش‌های اومیکس(Omics) می‌توانند مجموعه داده‌های گسترده‌ای شامل اندازه‌گیری ژن‌ها، پروتئین‌ها و سایر مولکول‌ها را تولید کنند. هوش مصنوعی می‌تواند به محققان کمک کند تا این حجم عظیم اطلاعات را درک کنند، اما تشخیص تغییرات ظریف وارد شده به چنین داده‌های پیچیده‌ای می‌تواند دشوار باشد.

برگر می‌گوید همه این کاربردها سطح ریسک یکسانی ندارند. تفاوت کلیدی این است که آیا خروجی هوش مصنوعی ایده‌ای است که بعداً در یک آزمایش واقعی آزمایش می‌شود یا داده‌های مصنوعی که مستقیماً به عنوان مدرک استفاده می‌شوند.

برگر می‌گوید: من تاکنون هرگز به این موضوع فکر نکرده‌ام، اما حدس می‌زنم ممکن است توهماتی وجود داشته باشد که منجر به اکتشافات واقعی شود.

غربالگری داروها یا پروتئین‌های بالقوه از جمله کاربردهای نسبتاً کم‌خطر است. یک مدل می‌تواند به سرعت تعداد زیادی از نامزدها را ارزیابی کند و گروه کوچک‌تری را برای آزمایش آزمایشگاهی انتخاب کند.

اگر هوش مصنوعی اشتباه کند، محققان ممکن است کاندیدایی را که می‌توانست کارساز باشد، کنار بگذارند یا زمان و هزینه خود را برای تحقیق در مورد کاندیدایی که در نهایت شکست می‌خورد، هدر دهند، اما کاندیدای انتخاب شده هنوز باید اثرات خود را در یک آزمایش واقعی نشان دهد تا به عنوان یک کشف پذیرفته شود.

خطر زمانی افزایش می‌یابد که داده‌های تولید شده توسط هوش مصنوعی جایگزین اندازه‌گیری‌های تجربی شوند.

داده‌های بیولوژیکی مصنوعی می‌توانند به پر کردن اندازه‌گیری‌های از دست رفته، محافظت از حریم خصوصی بیمار، ایجاد گروه‌های مقایسه، کاهش هزینه‌های تحقیق یا کاهش تعداد حیوانات مورد استفاده در آزمایش‌ها کمک کنند.

البته اگر هوش مصنوعی ویژگی‌ای را که هرگز وجود نداشته است، وارد کند، دانشمندان می‌توانند باور کنند که یک اثر بیولوژیکی را کشف کرده‌اند که هرگز رخ نداده است. این سیستم دیگر فقط یک پیش‌بینی نادرست در مورد یک آزمایش انجام نمی‌دهد، بلکه ساخت آن شامل شواهدی می‌شود که از یک ادعای علمی پشتیبانی می‌کند.

برگر می‌گوید: مشکل در بیشتر اوقات، مقایسه یک توهم و یک کشف بیولوژیکی واقعی در کنار هم نیست. این بیشتر مربوط به داده‌های واقعی است که در طول جریان کاری پیچیده محاسباتی (به کمک هوش مصنوعی مولد) که امکان تبدیل سیگنال‌های خام به دست آمده با فناوری‌های پیچیده را به توصیف‌های بیولوژیکی معتبر از مکانیسم‌های مولکولی فراهم می‌کند، توسط توهم خراب می‌کند.

به عبارت دیگر، هوش مصنوعی هنگام پردازش داده‌های واقعی می‌تواند یک سیگنال را به گونه‌ای تغییر دهد که تشخیص آن دشوار باشد. این تغییر می‌تواند بدون ایجاد یک یافته جداگانه و آشکارا ساختگی، بر نتیجه‌گیری محققان تأثیر بگذارد.

برگر می‌گوید: اگر در طول این فرآیند، برخی از سیگنال‌ها تحریف یا تقویت شوند یا در هر جهتی تغییر کنند که ممکن است منجر به نتیجه‌گیری‌های بیولوژیکی نهایی متفاوت شود، پژوهشگر در تشخیص آن مشکل خواهد داشت، مگر اینکه درک عمیقی از نحوه عملکرد هوش مصنوعی مولد داشته باشد.

یک مثال در دنیای واقعی با «AlphaFold 3» پدیدار شد. در مقاله‌ای در سال ۲۰۲۴ در مجله Nature، توسعه‌دهندگان «AlphaFold 3» گزارش دادند که این مدل می‌تواند «ساختارهای توهمی» را در مناطق پروتئینی نامنظم ایجاد کند، اگرچه نمرات پایین اطمینان می‌تواند محققان را از این مشکل آگاه کند.

خطاهای هوش مصنوعی ممکن است همیشه باعث نشوند که یک اثر ناموجود، واقعی به نظر برسد. در عوض، یک مدل ممکن است آنقدر تحریف به داده‌ها اضافه کند که محققان از یک اثر واقعی غافل شوند و به طور بالقوه شواهدی مبنی بر اینکه یک درمان واقعاً مؤثر است را از دست بدهند.

برگر قبلاً در نظر نگرفته بود که آیا توهم هوش مصنوعی می‌تواند به یک کشف واقعی منجر شود یا خیر. وی می‌گوید: من تاکنون هرگز به این موضوع فکر نکرده‌ام، اما حدس می‌زنم ممکن است توهماتی وجود داشته باشد که منجر به اکتشافات واقعی شود.

وی این احتمال را با اکتشافات غیرمنتظره ناشی از خطاهای آزمایشگاهی مقایسه کرد و گفت: «یافتن تصادفی»(سرندیپیتی) مدت‌هاست که مورد تأیید قرار گرفته است. چه از توهم هوش مصنوعی مولد سرچشمه بگیرد و چه از هر اشتباه دیگری در آزمایشگاه.

یافتن تصادفی به یافته یا دستاوردی اتفاقی و مفید و مثبت گفته می‌شود که جوینده به دنبالش نبوده و به صورت جانبی و اتفاقی به دست آمده است.

آنچه مهم است، این است که محققان چگونه از خروجی استفاده می‌کنند. اگر با آن به عنوان یک ایده برای آزمایش برخورد شود، یک توهم ممکن است تنها یک فرضیه شکست خورده باقی بماند. اگر با آن به عنوان یک مشاهده واقعی برخورد شود، یک جعل قانع کننده می‌تواند وارد شواهد شود و با واقعیت بیولوژیکی اشتباه گرفته شود.

حتی هیجان انگیزترین نتیجه پیشنهادی توسط هوش مصنوعی تا زمانی که به طور مستقل در یک آزمایش واقعی تأیید نشود، یک کشف محسوب نمی‌شود.

این مطالعه در مجله Patterns منتشر شده است.

انتهای پیام