به گزارش ایسنا، پدرخوانده هوش مصنوعی معتقد است که این حوزه به یک نهاد نظارتی قوی نیاز دارد.
به نقل از بیزینس اینسایدر، «جفری هینتون»(Geoffrey Hinton)، دانشمند علوم رایانه برنده جایزه نوبل که اغلب پدرخوانده هوش مصنوعی نامیده می‌شود، پیشنهاد داد شرکت‌های هوش مصنوعی پیش از انتشار محصولاتشان، یک نهاد نظارتی را متقاعد کنند که محصولاتشان ایمن هستند.
هینتون گفت: شما نمی‌توانید یک داروی جدید بسازید و آن را روانه بازار کنید؛ بلکه باید «سازمان غذا و داروی آمریکا»(FDA) را متقاعد سازید و برای این کار باید زحمت زیادی بکشید؛ کاری که حدود یک میلیارد دلار هزینه می‌برد. به نظر می‌رسد این حداقل چیزی است که باید برای هوش مصنوعی داشته باشیم.
تجویز هینتون برای بحث ایمنی هوش مصنوعی پس از پیش‌بینی‌های فجایع هوش مصنوعی و پس از تصمیم شرکت «اوپن‌ای‌آی»(OpenAI) برای کنار گذاشتن جدیدترین مدل خود پس از آزمایش‌هایی مطرح شد که نگرانی‌هایی را درباره پیروی از دستورالعمل‌های کاربران و پایبندی به مجوزهای خود ایجاد کردند.
«ساچی جین»(Saachi Jain)، مدیر سیستم‌های ایمنی اوپن‌ای‌آی پیشتر در مصاحبه با بیزنس اینسایدر گفته بود که مدل «GPT-6.1 Astra» در تداوم انجام وظایف دشوار عملکرد بهتری داشته، اما در زمینه مجوزها و اطلاع‌رسانی درباره اقدامات انجام‌شده، عملکردش رضایت‌بخش نبوده است.
هینتون گفت که هوش مصنوعی به طور فزاینده‌ای به بهبود خود کمک می‌کند و این امر احتمالاً هم قابلیت‌ها و هم خطرات آن را تشدید خواهد کرد. وی افزود: ما در حال ورود به مرحله خودبهبودی هستیم، زیرا از هوش مصنوعی برای ارتقای خود هوش مصنوعی به روش‌های گوناگون استفاده می‌شود. بنابراین، این صرفاً یک حدس است، اما گمان می‌کنم یکی دو سال فرصت داریم پیش از آن که اوضاع بسیار وخیم‌تر از وضعیت کنونی شود.
انتهای پیام
