آلتمن در پستی در شبکه اجتماعی ایکس نوشت نخست، ممکن است کنترل آینده را به هوش مصنوعی واگذار کنیم که غیرقابلقبول است، ما در جبهه بشریت قرار داریم و هوش مصنوعی باید همیشه در خدمت مردم باشد. برای اطمینان از این موضوع، باید راههایی داشته باشیم که اطمینان حاصل کنیم روشهای تنظیم و ایمنی، از پیشرفت قابلیتهای مدلها جلوتر میمانند.
وی در ادامه هشدار داد ممکن است در جهانی قرار بگیریم که تمرکز قدرت در آن بیش از حد باشد. اگر از هوش مصنوعی فوقالعاده قدرتمند توسط فرد یا شرکتی برای تحمیل جهانبینی خود به دیگران استفاده شود، نتایج میتواند بهشدت ویرانگر باشد.
آلتمن افزود جلوگیری از این دو تهدید مستلزم حرکت در مسیری باریک در میانه آنها است، برای مثال، ممکن است یک کشور بیش از حد قدرتمند شود و نمونه دیگر، آزمایشگاهی است که بیش از حد قدرت پیدا کند.
این اظهارات آلتمن در فاصله دو روز پس از آن مطرح شد که داریو آمودی، مدیرعامل شرکت «آنتروپیک»، نیز درباره خطرات هوش مصنوعی قدرتمند هشدار داد. آمودی روز شنبه در مقالهای ۳۸۰۰ کلمهای نوشت طی چند ماه گذشته متقاعد شده است برای مقابله کامل با خطرات هوش مصنوعی، احتیاط بیشتری لازم است و تنها سرمایهگذاری برای پیشگیری از خطرات کافی نیست بلکه باید سرعت پیشرفت قابلیتهای هوش مصنوعی را نیز کنترل کرد تا فرصت کافی برای همگام شدن اقدامات پیشگیرانه با این پیشرفت وجود داشته باشد.
وی افزود: باید سرعتی بهبود قابلیتهای مدلهای هوش مصنوعی را کاهش دهیم. پیشرفت همچنان سریع به نظر خواهد رسید و باید از زمانی که به دست میآوریم، عاقلانه استفاده کنیم.
آلتمن نیز بلافاصله پس از انتشار این مطلب گفت با رقیب خود موافق است. این اظهارات پس از آن مطرح شد که دو پژوهشگر هوش مصنوعی درباره خطرات مدلهای پیشرفته هوش مصنوعی پیشرو ابراز نگرانی کردند.
اوایل هفته گذشته، جیکوب کاکسون استعفا از «آنتروپیک» را اعلام و اظهار کرد این شرکت و «اوپنایآی» در زمینه توسعه سامانههای قدرتمند هوش مصنوعی مسوولانه عمل نمیکنند.
یاهو فایننس گزارش کرد، پس از آن، ایوان هوبینگر، مدیر علوم همترازی «آنتروپیک» در پاسخ به پست کاکسون گفت: کارمند سابق این شرکت درست میگوید و معتقد است احتمال بیش از ۱۰ درصد وجود دارد که این فناوری «همه انسانها را از بین ببرد».
انتهای پیام
