به گزارش ایسنا، شرکت اوپن‌ای‌آی(OpenAI) به‌تازگی برنامه‌های خود را برای رعایت بخشی از قوانین جدید شفافیت هوش مصنوعی اتحادیه اروپا اعلام کرده است. این شرکت به‌زودی افزودن یک واترمارک نامرئی به متن و کدهای تولیدشده در اتحادیه اروپا را آغاز خواهد کرد. این اقدام در پی حرکتی مشابه از سوی شرکت آنتروپیک(Anthropic) در اوایل سال جاری انجام می‌شود.

شرکت اوپن‌ای‌آی از سیستمی اختصاصی به نام textGrain استفاده می‌کند که یک سیگنال آماری نامرئی به انتخاب کلمات توسط مدل اضافه می‌کند. پس از افزودن این سیگنال، یک ابزار تشخیص می‌تواند آن را شناسایی کرده و وجود واترمارک را تأیید کند.

این شرکت می‌گوید عملکرد سیستم مذکور با روش‌های دیگر (مانند SynthID برای متن) برابری کرده یا از آنها فراتر می‌رود. با این حال، هشدار می‌دهد که عملکرد قوی در شرایط ایده‌آل، تضمین‌کننده تشخیص قابل‌اطمینان در استفاده‌های روزمره نیست.

این تعبیری شرکتی برای این جمله است که «ممکن است همیشه کار نکند.» این شرکت اذعان می‌کند که تشخیص واترمارک در متن‌های کوتاه‌تر دشوارتر است و نرخ موفقیت در آنها حدود ۸۰ درصد است. همین موضوع در مورد محتوایی مانند مسائل ریاضی نیز صدق می‌کند؛ حتی ویرایش متن نیز ظاهراً نرخ موفقیت را کاهش می‌دهد.

شرکت اوپن‌ای‌آی قصد دارد این فناوری را به‌صورت متن‌باز (Open Source) عرضه کند تا دیگران بتوانند آن را تغییر داده و بهینه‌سازی کنند.

این واترمارک به‌صورت پیش‌فرض فعال نخواهد بود، مگر برای «خروجی‌های متنی واجد شرایط در ChatGPT و Codex که در اتحادیه اروپا تولید می‌شوند.» مشتریان می‌توانند برای «مدل‌های منتخب» این قابلیت را فعال کنند، هرچند مشخص نشده است که کدام مدل‌ها برای عموم کاربران در سراسر جهان در دسترس خواهند بود.

شرکت اوپن‌ای‌آی در مورد نرم‌افزار تشخیص، محتاط‌تر عمل می‌کند. دسترسی به این ابزار در ابتدا محدود به پژوهشگران تأییدشده و سازمان‌های متخصص خواهد بود. همچنین، ابزار تشخیص، هویت کاربر را فاش نمی‌کند و پرامپت‌ها (دستورات ورودی) یا محتوای گفتگوها را نیز آشکار نمی‌سازد.

ماده ۵۰ قانون هوش مصنوعی اتحادیه اروپا، ارائه‌دهندگان سیستم‌های هوش مصنوعی مولد (Generative AI) را ملزم می‌کند که خروجی‌های متنی خود را به گونه‌ای قابل‌تشخیص برای ماشین (machine-readable) ارائه دهند.

این قانون هم‌اکنون شامل شرکت‌های جدیدی می‌شود که وارد بازار می‌شوند، اما شرکت‌های فعالِ پیشین تا ۲ دسامبر ۲۰۲۶ فرصت دارند تا خود را با این مقررات تطبیق دهند. این الزام البته شامل سازمان‌هایی مانند شرکت اوپن‌ای‌آی و آنتروپیک و همچنین مایکروسافت، گوگل، متا و دیگر شرکت‌ها می‌شود.

انتهای پیام