به گزارش ایسنا، شرکت «آنتروپیک» (Anthropic) اخیراً تصمیم گرفته است تا روی خروجیهای مدل هوش مصنوعی «کلود» (Claude) خود واترمارک بگذارد و یک کد نامرئی را در متن چتبات قرار داده است که آن را به عنوان محتوای تولیدشده توسط هوش مصنوعی علامتگذاری میکند.
به نقل از تککرانچ، شرکت آنتروپیک این سیاست جدید را برای برآورده کردن قانون شفافیت هوش مصنوعی اتحادیه اروپا وضع کرده است که شرکتهای فناوری را ملزم میکند تا محتوای تولیدشده یا ویرایششده توسط هوش مصنوعی را به گونهای برچسبگذاری کنند که برای سیستمهای رایانهای قابل شناسایی باشد. اگرچه ممکن است نهادهای نظارتی اروپا از این موضوع خوشحال باشند، اما برخی از کاربران هوش مصنوعی قطعاً راضی نیستند.
یکی از پستهای جنجالی در پلتفرم «ردیت» (Reddit)، از کاربری به نام «visionode» بود که حساب کاربری او تنها سه هفته قدمت دارد. در پست visionode نوشته شده سیستم جدید واترمارک یک توطئه بیرحمانه برای قربانی کردن کاربران بیگناه چتبات در سراسر جهان است.
به نظر میرسد استدلال اصلی Visionode این است که اگرچه امکان دارد کاربران باهوش کلود بتوانند شواهد استفاده از هوش مصنوعی خود را با بازنویسی یا اصلاح خروجیهای خود از طریق سایر سرویسهای هوش مصنوعی پنهان کنند، اما کاربر معمولی کلود لو خواهد رفت.
این کاربر نوشت: چه کسی گیر میافتد؟ شما؛ دانشجویی که از کلود برای سازماندهی مجدد یک پاراگراف استفاده میکند، روزنامهنگاری که از هوش مصنوعی میخواهد خلاصهای را از یک متن ۲۰۰ صفحهای ارائه دهد و نویسندهای که خلاقیت او متوقف شده است. این افراد با یک خالکوبی دیجیتالی روی پیشانیشان از این فرآیند بیرون میآیند.
در هر حال، این موارد بهترین مثالها نیستند. روزنامهنگاری که از هوش مصنوعی میخواهد یک متن ۲۰۰ صفحهای را خلاصه کند، از واترمارکی که به آن خلاصه الصاق شده است ناراحت نخواهد شد؛ مگر این که خلاصه را کلمه به کلمه در مقاله خود بیاورد که آشکارا غیراخلاقی است و نباید اتفاق بیفتد. به همان اندازه غیراخلاقی است که یک دانشجو پس از درخواست تنظیم دوباره یک پاراگراف، خروجی کلود را در مقاله خود کپی کند.
Visionode تنها کاربری نبود که شکایت داشت. یکی دیگر از کاربران ناراضی، واترمارکها را غیراخلاقی و نفرتانگیز خواند و استدلال کرد که با استفاده از کلود، آنها بخش عمده کار را انجام دادهاند. از نظر آنها، چتبات صرفاً ابزاری است که کار طاقتفرسای آنها را تسهیل کرده بود.
این کاربر نوشت: من دستورالعملها، محتوا، تصمیمها و اصلاحات بیشماری را ارائه دادم و کلود فقط یک ابزار بود. اگر کلود، کد یا هر چیز دیگری را که تولید کرده است واترمارک کند، دقیقاً چه چیزی را به نام خود ثبت میکند؟
در مقابل، برخی از کاربران به منتقد حمله کردند.
یکی از کاربران در پاسخ نوشت: البته که کلود ادعای اعتبار نمیکند. مسئله این است که بتوانیم خروجیهای تولیدشده توسط هوش مصنوعی را به دلیل خطراتی که خروجیهای تولیدشده توسط هوش مصنوعی میتوانند در موقعیتهای گوناگون ایجاد کنند، تشخیص دهیم.
یک کاربر دیگر با کنایه نوشت: بدون این که از کلود برای نوشتن استفاده کند، حتی نمیتوانست از آن شکایت کند.
برخی از منتقدان از روایت قربانی بودن فاصله گرفتهاند و استدلالهای ظریفتری را علیه سیاست جدید آنتروپیک مطرح کردهاند.
برای مثال، یکی از کاربران از ریاکاری عمومی در واترمارک کردن یک سرمقاله که با جمعآوری آثار دیگران ایجاد شده بود، شکایت کرد. این کاربر نوشت: به نظر من، این یک مسیر بسیار شوم است. من از کلود برای نوشتن چیزی استفاده نمیکنم، اما داشتن یک هوش مصنوعی که آثار شما را واترمارک میکند، با توجه به این که بسیاری از مدلهای پیشرو از دادههای آموزشی آنها به دست آمدهاند، وحشتناک است.
با وجود این، کاربران به طور کلی تمایل نشان دادهاند که از سیستم واترمارک به عنوان راهی معقول برای ردیابی مطالب تولیدشده توسط الگوریتم حمایت کنند. یک کاربر نوشت: به معنای واقعی کلمه، هیچ استدلال خوبی برای خوب نبودن این ایده وجود ندارد. تنها دلیلی که شما آن را نمیخواهید، دروغ گفتن به مردم است.
انتهای پیام
