به گزارش ایسنا، شرکت آنتروپیک اعلام کرده که مدل‌های هوش مصنوعی این شرکت از آسیب‌پذیری وب‌سایت‌های مختلف در اینترنت، از جمله برخی وب‌سایت‌های متعلق به نهادهای دولتی آمریکا، سوءاستفاده کرده‌اند. این شرکت تصمیم گرفته است دسترسی زنده به اینترنت را در تمام ارزیابی‌های داخلی خود قطع کند تا زمانی که از توانایی نظارت بر عوامل هوش مصنوعی و کنترل آن‌ها اطمینان حاصل کند.

به نقل از تک‌کرانچ، این اتفاقات مربوط به عواملی از هوش مصنوعی هستند که ماموریت داشتند مسائل مختلف را حل کنند و برای یافتن منابع مورد نیاز خود به اینترنت مراجعه می‌کردند.

این عوامل در جریان فعالیت‌هایشان از نقص‌های نرم‌افزاری سوءاستفاده کردند، بدون پرداخت هزینه به پایگاه‌های داده دسترسی یافتند، از سرویس‌های کوتاه‌ کننده نشانی اینترنتی برای عبور دادن اطلاعات از محدودیت‌ها استفاده کردند و حتی گزارشی دروغین درباره یک قتل به پلیس فیلادلفیا ارسال کردند.

آنتروپیک اعلام کرد این مشکلات جدید را در جریان بررسی فعالیت‌های مدل‌های خود کشف کرده است؛ بررسی‌ای که از ماه ژوئیه آغاز شد. این اتفاق نشان می‌دهد که آزمایشگاه هوش مصنوعی آنتروپیک از رفتار نرم‌افزارهای خود در لحظه آگاهی کافی نداشته است.

رفتارهایی که آنتروپیک افشا کرده است، به مواردی شباهت دارد که پیش‌تر درباره عوامل هوش مصنوعی شرکت اوپن ای‌آی گزارش شده بود. در آن موارد، چند عامل هوش مصنوعی با یکدیگر همکاری کردند تا برای یافتن اطلاعات، به وب‌سایت‌های مختلف نفوذ کنند؛ از جمله وب‌سایت‌هایی متعلق به دولت استرالیا.

آنتروپیک پیش‌تر نیز افشا کرده بود که مدل‌هایش به سامانه‌های خارجی نفوذ کرده‌اند. با این‌ حال، این شرکت همچنان اعلام کرد که دسترسی زنده به اینترنت را در «تمام ارزیابی‌های داخلی خود» قطع کرده است؛ تصمیمی که تا زمان اطمینان از توانایی نظارت بر عوامل هوش مصنوعی و کنترل آن‌ها ادامه خواهد داشت. هنوز مشخص نیست این تصمیم در عمل دقیقا چه پیامدهایی خواهد داشت.

این شرکت اعلام کرد اجرای برخی ارزیابی‌های خود را متوقف خواهد کرد یا آن‌ها را به محیط‌های آفلاین منتقل می‌کند. همچنین ابزارهایی ساخته است که این نوع رفتار را شناسایی و مسدود می‌کنند. با این ‌حال، هنوز مشخص نیست چه شواهد یا معیارهایی آنتروپیک را متقاعد خواهند کرد که دسترسی زنده به اینترنت را دوباره در ارزیابی‌های داخلی خود برقرار کند.

آنتروپیک همچنین اعلام کرد عوامل هوش مصنوعی داخلی خود را به زیرساختی با مدیریت متمرکز و سازوکارهای مهار قدرتمند منتقل خواهد کرد. این شرکت استفاده گسترده‌تر از طبقه‌بندی‌های ایمنی را نیز برای نظارت بر این عوامل آغاز کرده است.

اینکه آنتروپیک داوطلبانه حوادث بیشتری را افشا کرده است، از جمله مواردی که عوامل هوش مصنوعی این شرکت وب‌سایت‌های دولتی آمریکا را هدف قرار داده‌اند، امیدوارکننده است. اما این موضوع بار دیگر بر ضرورت راستی‌آزمایی مستقل و معتبر سامانه‌های هوش مصنوعی به ‌وسیله اشخاص ثالث تاکید می‌کند. اعتماد به این فناوری باید از طریق نظارت و حکمرانی مبتنی بر شواهد علمی و با دسترسی معنادار به سامانه‌ها ایجاد شود؛ نه اینکه صرفا به این امید تکیه کنیم که پژوهشگران این مشکلات را به ‌طور اتفاقی در دنیای واقعی کشف کنند یا شرکت‌ها داوطلبانه آن‌ها را افشا کنند.

انتهای پیام