به گزارش ایسنا، در میان نگرانیهای ایمنی روبهرشد درباره استفاده از محصولات هوش مصنوعی، «اوپنایآی»(OpenAI) از ویژگیهای جدیدی برای مبارزه با سوءاستفاده از کودکان خبر داد.
به نقل از تککرانچ، این ویژگیها شامل یک طبقهبندیکننده تصویر برای تشخیص سوءاستفاده از کودکان، هشدارها و مسدودسازی موقت برای جلوگیری از ایجاد محتوای جنسی درباره کودکان یا دسترسی کاربران به آنها، یک دستورالعمل جدید برای توسعهدهندگان و مجموعهای از ابزار برای اجرای قانون هستند.
این شرکت یک طبقهبندیکننده تصویر جدید را معرفی کرد که میتواند تصاویر سوءاستفاده از کودکان را تشخیص دهد؛ از جمله تصاویری که توسط هوش مصنوعی تولید شدهاند. اوپنایآی امکان دسترسی به طبقهبندیکننده جدید خود را از طریق API خود و بدون هزینه به شرکتهای انتخابشده میدهد. این ویژگی به دنبال نشانههای بصری سوءاستفاده در تصاویر است که قبلا دیده نشدهاند و امتیازی را تعیین میکند که میتواند راهنماییهایی را به بازبینیکنندگان درباره برخورد با سوءاستفاده از کودکان ارائه دهد.
اوپنایآی گفت که این طبقهبندیکننده را با همکاری «مرکز ملی کودکان گمشده و مورد سوءاستفاده»(ncmec) توسعه داده است و با سازمانهای «Tech Coalition» و «ROOST» برای به اشتراک گذاشتن دسترسی به آن کار می کند. شرکت هوش مصنوعی در آزمایش اولیه خود با شرکا دریافت که طبقهبندیکننده، تصاویر را تا ۴۸ درصد کمتر نشان میدهد، اما همان تعداد تصاویر مربوط به سوءاستفاده را پیدا میکند و کار بازبینیکنندگان را کاهش میدهد. علاوه بر این، تصاویری که توسط طبقهبندیکننده علامتگذاری شدهاند، دو برابر بیشتر احتمال دارد که تصاویر توهینآمیز باشند.
علاوه بر این، اوپنایآی صفحههای هشدار جدید را به چتبات «چتجیپیتی»(ChatGPT) اضافه کرده است تا از دسترسی کاربران به محتوای جنسی درباره کودکان جلوگیری کند. چتجیپیتی به کاربرانی که چنین درخواستهایی را دارند هشدار میدهد، کاربران را به سمت پشتیبانی تخصصی برای متوقف کردن رفتار مضر هدایت میکند و حساب آنها را به عنوان هشدار برای ۲۴ ساعت تعلیق میکند. این برنامه در حال حاضر محتوای سوءاستفاده از کودکان و درخواستهای مربوط به آن را مسدود میکند. گفته شده است که تخلفات مکرر میتواند به حذف دائمی حساب کاربری منجر شود.
انتهای پیام