به گزارش ایسنا، یک پژوهشگر حوزه انسان‌شناسی شرکت «آنتروپیک»(Anthropic) که قبلاً در شرکت «اوپن‌ای‌آی»(OpenAI) نیز کار کرده، به تازگی از این شرکت استعفا داده است. او جدیدترین شخص از حوزه داخلی شرکت است که هشدار داده رقابت هوش مصنوعی به طرز خطرناکی بی‌پروا شده است.

به نقل از بیزینس اینسایدر، «جیکوب کاکسون»(Jacob Coxon) روز سه‌شنبه استعفای خود را از شرکت آنتروپیک اعلام کرد و گفت که سه سال گذشته را صرف تحقیقات پیش از آموزش در این دو شرکت غول هوش مصنوعی کرده است.

کاکسون در حساب ایکس خود نوشت: هیچ‌کدام از این شرکت‌ها مسئولانه عمل نمی‌کنند. آنها مستقیماً به سمت هوش مصنوعی خودبهبوددهنده در حال حرکت هستند و روی زندگی ما قمار می‌کنند.

کاکسون از سال ۲۰۲۳ تا ژوئیه ۲۰۲۶ عضو کادر فنی اوپن‌ای‌آی بود. سپس به عنوان پژوهشگر به آنتروپیک منتقل شد. تحقیقات او در اوپن‌ای‌آی شامل کار کردن روی «GPT-4o» بودند.

کاکسون در پست روز سه‌شنبه خاطرنشان کرد که این دو شرکت درباره ترس‌های خود پیرامون هوش مصنوعی شفاف نبوده‌اند. کاکسون در ادامه نوشت: کسانی که هوش مصنوعی را می‌سازند، صادقانه معتقدند که این فناوری تا پایان دهه می‌تواند همه ما را بکشد. این یک ترفند بازاریابی نیست. اگر بخواهیم صادق باشیم باید بگوییم بسیاری از مدیران و پژوهشگران ارشد، عبارات خود را در مطبوعات طوری بیان می‌کنند که منطقی به نظر برسد اما من می‌شنوم که همین افراد در خفا ابراز ترس می‌کنند.

به گفته کاکسون، یک تفاوت بین این دو شرکت وجود دارد. کاکسون نوشت: در اوپن‌ای‌آی، بسیاری از افراد هنوز عمیقاً مخاطرات تمدنی را درونی‌سازی نکرده‌اند. در آنتروپیک، مخاطرات به خوبی درک شده‌اند، اما آنها در رقابتی برای رسیدن به آنجا گیر افتاده‌اند و معتقدند که هیچکس دیگری مسئولانه عمل نخواهد کرد. بنابراین، به‌رغم وجود خطر باید خودشان این کار را انجام دهند.

«ایوان هوبینگر»(Evan Hubinger) یکی از کارمندان کنونی آنتروپیک، در پاسخ به پست کاکسون با او موافق بود. هوبینگر نوشت: جیکوب اینجا درست می‌گوید. ما واقعاً صادقانه معتقدیم که هوش مصنوعی می‌تواند همه انسان‌ها را بکشد. من شخصاً فکر می‌کنم این رقم در دهه آینده به بیش از ۱۰ درصد خواهد رسید. من معتقدم که آنتروپیک همه تلاش خود را می‌کند، اما ما هنوز برنامه‌ای را برای حل مسئله هم‌ترازی هوش مصنوعی برتر نداریم و به وضوح در مسیر آن نیستیم.

اوپن‌ای‌آی و آنتروپیک به درخواست‌های بیزینس اینسایدر برای اظهار نظر پاسخی ندادند.

انتهای پیام