به گزارش ایسنا به نقل از ساینس، امروزه بزرگ‌ترین استارت‌آپ‌های هوش مصنوعی وعده‌های جسورانه‌ای می‌دهند. برخی به خود می‌بالند که فناوری آن‌ها ، توسعه نرم‌افزار، کشف دارو و تحقیقات علمی را متحول خواهد کرد.

با این حال یک پیش‌چاپ جدید که اخیراً در پایگاه bioRxiv منتشر شد نشان می‌دهد که بسیاری از این شرکت‌ها تقریباً در یکی از بنیادی‌ترین رویه‌های علمی مشارکتی ندارند؛ یعنی اشتراک‌گذاری مدارک اکتشافات در ادبیات علمی به صورتی که دیگر پژوهشگران بتوانند آن‌ها را ارزیابی کرده، اعتبارسنجی کنند و بر پایه آن‌ها پژوهش‌های بعدی را پیش ببرند.

بر اساس این تحلیل، بیش از نیمی از «یونیکورن‌ها» یا تک‌شاخ‌های هوش مصنوعی؛ شرکت‌های خصوصی با ارزش بیش از یک میلیارد دلار، تاکنون حتی یک مقاله علمی یا پیش‌چاپ را نیز به‌عنوان نویسنده یا نهاد اصلی منتشر نکرده‌اند. این شرکت‌ها در مجموع، تنها یک مورد از هر هزار مقاله هوش مصنوعی منتشرشده در سال ۲۰۲۵ را به خود اختصاص داده‌اند.

«جان ایوانیدیس»، یکی از نویسندگان مقاله و پژوهشگر علم‌سنجی در دانشگاه استنفورد می‌گوید: برای حوزه‌ای که ظاهراً در حال دگرگون کردن علم است و از نظر ظرفیت‌های علمی تا این اندازه پیشرفته محسوب می‌شود، نداشتن هیچ‌گونه مستندسازی علمی، یک تناقض بسیار عجیب به نظر می‌رسد. چگونه می‌توان قضاوت کرد که آنچه آن‌ها می‌گویند واقعی، اعتبارسنجی‌شده و قابل تکرار است؟ به گفته دیگر پژوهشگران، کمبود انتشار مقالات علمی همچنین ارزیابی تأثیرات اجتماعی هوش مصنوعی، از جمله مصرف انرژی و ایمنی آن، را دشوارتر می‌کند.

اما «محمد عبدالله» متخصص اخلاق هوش مصنوعی دانشگاه آلبرتا می‌گوید که این یافته‌ها بیشتر بازتاب‌دهنده موشق‌ها و انگیزه‌های حاکم بر توسعه‌دهندگان تجاری هوش مصنوعی است،نه صرفاً نشانه‌ای از شکست در پایبندی به هنجارهای علمی. او می‌گوید: وظیفه یک شرکت این نیست که علم را پیش ببرد. وظیفه شرکت این است که پول و درآمد بسازد.

ایوانیدیس مدت‌هاست که مطالعه می‌کند که چگونه «یونیکورن‌ها» به‌ویژه در حوزه زیست‌فناوری چگونه با ادبیات علمی تعامل دارند. او در سال ۲۰۱۵ اولین فردی بود که به طور عمومی نبود مطالعات داوری‌شده در مجلات علمی را درباره «ترانوس» را بررسی کرد. ترانوس یک استارت‌آپ آزمایش خون بود که ادعا می‌کرد با استفاده از فناوری جدید می‌تواند با چند قطره خون طیف گسترده‌ای از آزمایشات پزشکی را انجام دهد ولی بعدها مشخص شد که این ادعاها دروغ بودند. این شرکت  در سال ۲۰۱۸ پس از افشای تقلب در داده‌ها و کلاهبرداری منحل شد. ایوانیدیس می‌خواست بداند که آیا تک‌شاخ‌های هوش مصنوعی نیز الگوی مشابهی را نشان خواهند داد یا خیر.

برای بررسی این موضوع و گروهش ابتدا همه ۳۱۷ شرکت «تک شاخ» هوش مصنوعی را که از سال ۱۹۹۸ تا ۲۰۲۵ وجود داشته‌اند، شناسایی کردند. سپس آن‌ها انتشارات علمی مرتبط با این استارتاپ‌ها از جمله مقالات منتشرشده در مجلات علمی، مقالات کنفرانسی، مقالات مروری و پیش‌چاپ‌ها را جستجو کردند. پژوهشگران، آثاری را انتخاب کردند که در آن‌ها یکی از پژوهشگران شرکت به‌عنوان نویسنده اول یا نویسنده آخر حضور داشت؛ چراکه این جایگاه‌ها معمولاً نشان‌دهنده نقش اصلی فرد یا سازمان در انجام پژوهش است و بیانگر آن است که استارتاپ سهم قابل توجهی در تولید آن کار علمی داشته است. مجموعه داده نهایی این مطالعه شامل ۲ هزار و ۷۷ اثر علمی بود که از میان آن‌ها هزار و ۳۸۹ مقاله داوری‌شده و ۶۸۸ پیش‌چاپ بودند.

این تحلیل نشان داد که بیش از نیمی از استارت‌آپ‌ها حتی یک مقاله واجد شرایط نیز تولید نکرده بودند. همچنین مشخص شد که تأثیرگذاری علمی در میان این شرکت‌ها بسیار متمرکز است؛ به‌طوری که ۵ درصد از شرکت‌های برتر بیش از ۹۰ درصد کل استنادها را به خود اختصاص داده‌اند. شرکت «اوپن ای آی»OpenAI به‌تنهایی مسئول نزدیک به ۴۰ درصد از کل استنادهای موجود در این مجموعه داده بود. پس از آن، «مگوی» (Megvii) شرکت چینی فعال در حوزه بینایی ماشین و پلتفرم «هاگینگ فِیس» (Hugging Face) قرار داشتند. حتی در شرکت‌هایی که بیشترین تولید علمی را داشتند نیز بخش قابل توجهی از خروجی‌ها توسط همان گروه کوچک از نویسندگان تکرارشونده تولید شده بود. برای مثال، با وجود اینکه اوپن ای آی حدود  ۴۵۰۰ کارمند  دارد، تنها هشت پژوهشگر  این شرکت پنج مقاله یا بیشتر از مقالات واجد شرایط را به نام خود ثبت کرده بودند.

به خاطر ساختار این صنعت، این یافته‌ها برای برخی پژوهشگران هوش مصنوعی چندان تعجب‌آور نیست. «نور احمد»، پژوهشگر هوش مصنوعی در دانشگاه آرکانزاس، می‌گوید برخلاف صنعت داروسازی که در آن اکتشافات منتشرشده می‌توانند با ثبت اختراع محافظت شوند، شرکت‌های هوش مصنوعی دریافته‌اند که اغلب از افشای عمومی پیشرفت‌های فنی خود سود چندانی نمی‌برند. عبدالله نیز اضافه می‌کند که مقاله مهم گوگل در سال ۲۰۱۷ درباره ترنسفورمر (Transformer)  معماری‌ای که زیربنای مدل‌های زبانی بزرگ امروزی است، به یک نمونه کلاسیک هشداردهنده تبدیل شده است. او می‌گوید: «اگرچه گوگل بخش‌هایی از این فناوری را ثبت اختراع کرد، فکر نمی‌کنم کسی بابت آن به گوگل پولی پرداخت کند».

استارتاپ‌ها همچنین در بازه‌های زمانی بسیار سریع‌تری نسبت به دانشگاه‌ها فعالیت می‌کنند. چرا که در دانشگاه‌ها فرایند داوری همتا (peer review) ممکن است ماه‌ها یا حتی سال‌ها طول بکشد. به همین دلیل است که بسیاری از شرکت‌های هوش مصنوعی چیزی

استارت‌آپ‌ها همچنین در مقایسه با دانشگاه‌ها، که بررسی همتا می‌تواند ماه‌ها یا حتی سال‌ها طول بکشد، با سرعت بسیار بیشتری فعالیت می‌کنند.به همین دلیل، بسیاری از شرکت‌های هوش مصنوعی به رویکردی روی آورده‌اند که «آویجیت گوش»؛ پژوهشگر سیاست‌گذاری هوش مصنوعی در شرکت هاگینگ فِیس، از آن با عنوان «وبلاگ‌نویسی پژوهش» (blogification of research) یاد می‌کند؛ یعنی به جای انتشار یافته‌ها در مجلات علمی، مدل‌های جدید خود را معرفی کرده و کدها یا مجموعه‌داده‌هایشان را از طریق وبلاگ‌ها و گزارش‌های فنی منتشر می‌کنند. او تأکید می‌کند که این تحلیل، چنین خروجی‌هایی را در نظر نگرفته است.

به همین دلیل است که بسیاری از شرکت‌های هوش مصنوعی چیزی را پذیرفته‌اند که آویجیت گوش، محقق سیاست هوش مصنوعی در هاگینگ فیس، آن را «وبلاگ‌محور شدن پژوهش»می‌نامد یعنی اعلام مدل‌های جدید و انتشار کد یا مجموعه داده‌ها از طریق پست‌های وبلاگ و گزارش‌های فنی به جای مجلات علمی. او اشاره می‌کند که تحلیل جدید این خروجی‌ها را ردیابی نکرده است.

از نظر «گوش»؛ این بحث نباید حول این موضوع باشد که انتشار در مجلات علمی بهتر است یا انتشار در وبلاگ‌ها.  مسئله مهم این است که آیا شرکت‌ها به اندازه کافی کد، مجموعه‌داده‌ها یا وزن‌های مدل (اعدادی که تعیین می‌کنند یک مدل چگونه یک درخواست را تفسیر کرده و به آن پاسخ دهد) را منتشر می‌کنند تا دیگران بتوانند به‌طور مستقل کار آن‌ها را راستی‌آزمایی کرده و بر پایه آن توسعه دهند یا خیر.

این مقاله پیش‌چاپ همچنین نشان داده که شرکت‌های مستقر در چین به‌طور مداوم مقالات بیشتری نسبت به همتایان آمریکایی خود منتشر کرده‌اند. در حالی که آزمایشگاه‌های پیشروی هوش مصنوعی در آمریکا به‌تدریج جزئیات مربوط به قدرتمندترین مدل‌های خود را مخفی نگه داشته‌اند یا آن‌ها را به‌صورت «بسته» (closed source) ارائه کرده‌اند، شرکت‌های مطرح چینی به سمت مدل‌های «متن‌باز» (open source) گرایش پیدا کرده‌اند. هوش مصنوعی مون‌شات «Moonshot»؛ یکی از استارتاپ‌های چینی بررسی‌شده در این مطالعه، اخیراً مدل Kimi K۳ را معرفی کرد؛ مدلی که از قوی‌ترین مدل‌های باز تا امروز محسوب می‌شود و وزن‌های مدل خود را نیز به‌صورت عمومی از طریق پلتفرم «هاگینگ فیس» منتشر کرده است.

اما فارغ از اینکه مدل‌ها باز (open) باشند یا بسته (closed)، سرعت بالای حرکت به سمت توسعه هوش مصنوعی عمومی که به طور فزاینده‌ای قدرتمندتر می‌شود، موجب نگرانی «اما پیرسون»؛ دانشمند علوم کامپیوتر در دانشگاه کالیفرنیا برکلی، شده است. او معتقد است پژوهش‌های هوش مصنوعی، چه به‌صورت آزاد منتشر شوند و چه مخفی نگه داشته شوند، ممکن است به شتاب گرفتن توسعه مدل‌هایی منجر شوند که خطرات جدی اجتماعی و ایمنی ایجاد می‌کنند؛ از جمله تقویت چشمگیر حملات سایبری. او می‌گوید: «اگر ما در حال رقابت برای توسعه هوش مصنوعی‌ای بودیم که بتواند سرطان را درمان کند، می‌گفتم: «عالی است، با تمام توان پیش بروید.» اما این چیزی نیست که ما در حال رقابت برای رسیدن به آن هستیم، درست است؟»

انتهای پیام

////