ملیحه طوسی در گفت‌وگو با ایسنا با اشاره به چالش‌های استفاده از هوش مصنوعی در تولید محتوا اظهار کرد: به نظر من مهم‌ترین چالش، خودِ هوش مصنوعی نیست، بلکه حفظ اعتماد مخاطب است. امروز تولید متن، تصویر و ویدئو با هوش مصنوعی بسیار ساده شده است و همین موضوع تشخیص محتوای اصیل را برای مردم دشوار کرده است. اگر رسانه‌ها درباره نحوه تولید محتوا شفاف نباشند، مخاطب به‌تدریج نسبت به همه محتواها دچار تردید می‌شود.

وی افزود: به همین دلیل، بسیاری از رسانه‌های معتبر دنیا دستورالعمل‌هایی تدوین کرده‌اند که مشخص می‌کند هوش مصنوعی در چه بخش‌هایی مجاز به استفاده است و در نهایت، مسئولیت انتشار همچنان بر عهده خبرنگار و سردبیر خواهد بود. به اعتقاد من، در آینده اعتبار رسانه‌ها بیش از هر زمان دیگری به شفافیت و مسئولیت‌پذیری وابسته خواهد بود.

این مدرس سواد رسانه درباره میزان دقت ابزارهای تشخیص محتوای تولیدشده با هوش مصنوعی گفت: این موضوع نشان می‌دهد که فناوری تشخیص هنوز به دقت لازم نرسیده است. برای مثال، در سال ۲۰۲۳ برخی دانشگاه‌ها در آمریکا از ابزارهای تشخیص متن هوش مصنوعی برای بررسی تکالیف دانشجویان استفاده کردند، اما بعد از مدتی مشخص شد این ابزارها درصد قابل توجهی از نوشته‌های کاملاً انسانی را هم به اشتباه «تولیدشده با هوش مصنوعی» تشخیص می‌دهند.

خطای ابزارهای تشخیص؛ هوش مصنوعی هنوز داور قابل اعتمادی نیست

طوسی ادامه داد: حتی شرکت OpenAI نیز به همین دلیل ابزار تشخیص متن خود را از دسترس خارج کرد و اعلام کرد که دقت آن برای قضاوت درباره منشاء یک متن کافی نیست. این تجربه نشان می‌دهد که خروجی چنین ابزارهایی باید صرفاً یک نشانه اولیه باشد، نه مبنای تصمیم نهایی؛ زیرا اتکای کامل به آن‌ها می‌تواند اعتبار نویسندگان و روزنامه‌نگاران را به ناحق زیر سؤال ببرد.

وی با اشاره به نقش هوش مصنوعی در فرآیند تولید و ارزیابی محتوا اظهار کرد: هوش مصنوعی می‌تواند سرعت و دقت بررسی اولیه را به شکل قابل توجهی افزایش دهد، اما هنوز توانایی درک کامل بافت، نیت نویسنده و زمینه تولید یک محتوا را ندارد. در ارتباطات، اصالت فقط به واژه‌ها مربوط نمی‌شود، بلکه به منبع خبر، شیوه گردآوری اطلاعات، سابقه نویسنده و حتی شرایطی که محتوا در آن تولید شده نیز وابسته است؛ این‌ها مؤلفه‌هایی هستند که همچنان به قضاوت انسانی نیاز دارند.

این کارشناس هوش مصنوعی با اشاره به تجربه رسانه‌های بین‌المللی افزود: برای مثال، خبرگزاری‌هایی مانند Associated Press و Reuters از هوش مصنوعی برای کارهایی مانند جست‌وجوی داده‌ها، خلاصه‌سازی یا بررسی اولیه استفاده می‌کنند، اما تصمیم نهایی برای انتشار، ویرایش یا تأیید یک خبر همچنان بر عهده سردبیران است. دلیلش هم روشن است؛ رسانه فقط با داده سروکار ندارد، بلکه با اعتماد عمومی سروکار دارد و مسئولیت این اعتماد را نمی‌توان به یک الگوریتم سپرد.

آینده رسانه‌ها نه در حذف انسان و نه در نادیده گرفتن هوش مصنوعی است

طوسی تصریح کرد: به اعتقاد من، آینده رسانه‌ها نه در حذف انسان و نه در نادیده گرفتن هوش مصنوعی است، بلکه در همکاری این دو است. هوش مصنوعی می‌تواند یک دستیار بسیار قدرتمند باشد، اما همان‌طور که هیچ پزشکی صرفاً بر اساس گزارش یک دستگاه تشخیص، بدون معاینه بیمار نسخه نمی‌نویسد، هیچ رسانه حرفه‌ای هم نباید فقط بر اساس نظر یک الگوریتم درباره اصالت یا اعتبار یک محتوا تصمیم بگیرد. مسئولیت نهایی باید همیشه بر عهده انسان باشد؛ زیرا پاسخ‌گویی، اخلاق حرفه‌ای و قضاوت هنوز ویژگی‌هایی هستند که فناوری به‌تنهایی نمی‌تواند جایگزین آن‌ها شود.

وی درباره راهکارهای آینده برای افزایش اعتماد به محتوای تولیدشده با هوش مصنوعی گفت: به نظر من، آینده بیش از آنکه به ابزارهای تشخیص وابسته باشد، به سازوکارهای «شفافیت» وابسته خواهد بود. ثبت منشأ تولید محتوا، استفاده از استانداردهای فنی برای اعلام میزان دخالت هوش مصنوعی، امضای دیجیتال آثار و نظام‌های قابل اتکای احراز اصالت، می‌توانند اعتماد را تقویت کنند.

این مدرس سواد رسانه خاطرنشان کرد: در کنار آن، قوانین روشن درباره حقوق مؤلف و مسئولیت استفاده از هوش مصنوعی ضروری است؛ زیرا در نهایت، آنچه باید محافظت شود فقط متن نیست، بلکه اعتماد عمومی به نظام اطلاع‌رسانی است.

انتهای پیام