به گزارش ایسنا، از حالا والدینی که حساب‌های کاربری نوجوان مرتبط دارند، در صورت نقض سیاست‌های اوپن‌ای‌آی در مورد خشونت توسط فرزندانشان، مطلع خواهند شد.

این شرکت اکنون به والدین و سرپرستانی که حساب‌های کاربری مرتبط دارند، در صورت اخراج فرزندشان از ChatGPT به دلیل نقض سیاست‌های آن در مورد تهدیدات خشونت‌آمیز یا اعمال خشونت آنلاین اطلاع خواهد داد.

اوپن‌ای‌آی سال گذشته ابزار کنترل والدین را برای ChatGPT راه‌اندازی کرد و به والدین اجازه داد تا حساب‌های شخصی خود را با حساب‌های کاربری فرزندان نوجوان خود مرتبط کنند. این امکان به آنها اجازه می‌دهد تا ساعاتی را که نمی‌توانند از ChatGPT استفاده کنند، برنامه‌ریزی کنند و محتوای حساس را کاهش دهند و اگر چت‌بات نشانه‌هایی را تشخیص دهد که فرزندشان ممکن است به فکر آسیب رساندن به خود باشد، به آنها اطلاع می‌دهد.

اکنون اوپن‌ای‌آی اعلان‌های خود را گسترش داده است تا به والدین اطلاع دهد که آیا فرزندشان ممکن است برای دیگران خطرناک باشد یا خیر.

در مثالی که این شرکت منتشر کرده، اوپن‌ای‌آی هشداری در مورد «به‌روزرسانی مهم» در مورد حساب فرزندشان برای والدین ارسال کرده است. والدین از آنجا می‌توانند روی «بیشتر بدانید» کلیک کنند تا پیام طولانی‌تری را ببینند که به آنها می‌گوید حساب فرزندشان به دلیل نقض سیاست‌های استفاده از آن در رابطه با اعمال خشونت‌آمیز غیرفعال شده است.

این شرکت با شرکت Moonshot، شرکتی متخصص در نظارت و مقابله با خشونت آنلاین برای توسعه این ویژگی همکاری کرده است.

ویدیا رامالینگام(Vidhya Ramalingam)، بنیان‌گذار Moonshot گفت: اطلاع‌رسانی به والدین در صورت بروز نگرانی جدی، با ارائه مسیری برای دسترسی به اطلاعات بیشتر، اولین گام حیاتی در دادن فرصت به خانواده‌ها برای اقدام زودهنگام و درخواست کمک است. این نوع دسترسی یکی از اقدامات بسیاری است که برای ایمن نگه داشتن نوجوانان هنگام استفاده از ChatGPT مورد نیاز خواهد بود.

اوپن‌ای‌آی پس از کشف اینکه مظنون تیراندازی دسته جمعی سال ۲۰۲۵ در دانشگاه بریتیش کلمبیا از ChatGPT استفاده کرده است، قول داد پروتکل‌های ایمنی خود را تقویت کند. مقامات کانادایی پس از انتشار گزارش‌هایی مبنی بر اینکه این شرکت هنگام مسدود کردن حساب تیرانداز، به مقامات اطلاع نداده است، این شرکت را احضار کردند. سم آلتمن، مدیرعامل اوپن‌ای‌آی نیز حتی به خاطر این سهل‌انگاری عذرخواهی کرد.

اوپن‌ای‌آی علاوه بر راه‌اندازی این اعلان جدید، قابلیت فعال کردن حالت مطالعه(Study Mode) را مستقیماً از طریق کنترل‌های والدین نیز معرفی کرده است. این حالت به ChatGPT امکان می‌دهد قبل از پاسخ دادن به سؤالات، نکاتی را ارائه دهد تا به دانش‌آموزان در یادگیری و مطالعه کمک کند.

ضمن اینکه این چت‌بات اکنون به کاربران نوجوانی که زمانی طولانی را در ChatGPT می‌گذرانند، یادآوری‌های مکرر برای استراحت نشان می‌دهد تا به آنها در ایجاد عادات سالم‌تر در استفاده از فناوری کمک کند.

انتهای پیام