به گزارش ایسنا، شرکت «اوپن‌ای‌آی»(OpenAI) روز جمعه اعلام کرد پس از بررسی‌های داخلی مبنی بر پیشرفت‌های قابل توجه در کدنویسی عاملی و امنیت سایبری که نگرانی‌هایی را درباره قابلیت‌های آن ایجاد کرده‌اند، کار کردن روی برخی از جنبه‌های مدل آینده خود موسوم به «آسترا»(Astra) را به حالت تعلیق درآورده است.

به نقل از تک‌کرانچ، شرکت اوپن‌ای‌آی روز جمعه در یک پست وبلاگ نوشت که این مدل در حال توسعه به آستانه بحرانی امنیت سایبری خود رسیده است؛ به این معنی که می‌تواند به طور مستقل حملات سایبری علیه سیستم‌های دنیای واقعی را که به طور سنتی به خوبی محافظت می‌شوند، شناسایی کند و انجام دهد. تحت چارچوب آمادگی این شرکت که در سال ۲۰۲۳ ایجاد شد، این امر به ایجاد اقدامات حفاظتی اضافی انجامید.

اوپن‌ای‌آی نوشت: ما همچنان به ارزیابی و سنجش این مدل ادامه می‌دهیم. ارزیابی‌های اولیه ما نشان می‌دهند عملکرد مدل به قدری قوی است که در حال حاضر نمی‌توانیم سطح توانایی بحرانی را رد کنیم. آسترا یک مدل در حال توسعه است و در هک کردن سیستم‌های شرکت «هاگینگ فیس»(Hugging Face) نقشی نداشته است.

این افشاگری، لحظه‌ای غیرمعمول را در بخش آزمایشگاه‌های هوش مصنوعی درهم‌ریخته و نوپا برجسته می‌کند. شرکت‌ها در هر صنعتی، محصولات خود را به دلیل خطرات احتمالی از جمله نگرانی‌های ایمنی و امنیت سایبری، پنهان نگه می‌دارند، اما آنها به ندرت این تصمیم‌ها را زمانی که محصولی هنوز در دست توسعه است به صورت عمومی اعلام می‌کنند.

در این مورد، اوپن‌ای‌آی پس از آن که یک مدل منتشرنشده‌ دیگر در طول آزمایش داخلی به سیستم‌های شرکت هاگینگ فیس نفوذ کرد - اولین حادثه‌ قابل تأیید از دست دادن کنترل مدل توسط یک آزمایشگاه هوش مصنوعی - تحت بررسی دقیق قرار گرفته است. از آن زمان، اوپن‌ای‌آی و دیگر شرکت‌های هوش مصنوعی مانند «آنتروپیک»(Anthropic)، حوادث دیگری را افشا کرده‌اند که در آنها مدل‌های هوش مصنوعی به جعبه‌های شنی خود نفوذ کرده‌اند و به تهدیدهایی در طول آزمایش‌های امنیت سایبری منجر شده‌اند.

این رشته حوادث، واکنش‌های متفاوتی را از سوی کارشناسان امنیت سایبری، قانون‌گذاران و خود شرکت‌های هوش مصنوعی برانگیخته است. برخی ابراز نگرانی می‌کنند و خواستار نظارت سختگیرانه‌تر هستند، اما کمی هم انعطاف‌پذیری وجود دارد. در برخی محافل، هر شرکت هوش مصنوعی با مدلی که چنین قابلیتی داشته باشد، به عنوان یک پیشرفت چشمگیر تلقی خواهد شد.

اوپن‌ای‌آی اعلام کرد که این اطلاعات را منتشر می‌کند، زیرا اعتقاد دارد که شفاف بودن با عموم و جوامع ایمنی و امنیتی درباره بروز این تغییر بالقوه در قابلیت‌ها مهم است.

اوپن‌ای‌آی اعلام کرد که اقداماتی را از جمله اعمال کنترل‌های امنیتی سختگیرانه‌تر و توقف فعالیت‌های داخلی مربوط به آسترا که با این حفاظ‌های امنیتی تقویت‌شده مطابقت ندارند نیز انجام می‌دهد. این شرکت هوش مصنوعی اعلام کرد که با سازمان‌های دولتی مربوطه و سازمان‌های منتخب ایمنی هوش مصنوعی برای آزمایش قابلیت‌های این مدل همکاری می‌کند.

انتهای پیام