به گزارش ایسنا، هوش مصنوعی می‌تواند به راحتی به یک احمق مفید تبدیل شود که به رغم حفاظ‌های گوناگون اعمال‌شده برای آن، اقدامات خلاف قانون انجام دهد.

به نقل از فوربس، عبارت رایج «احمق مفید» نشان می‌دهد که می‌توان یک شخص را متقاعد کرد تا از چیزی حمایت کند که خلاف باور واقعی اوست. احمق مفید به قدری از درک این شرایط دور است که فکر می‌کند واقعاً از هدف مورد نظر خود حمایت می‌کند.

احمق‌های مفید می‌توانند به راحتی در خدمت اهداف کسانی باشند که در غیر این صورت آنها را به عنوان یک رقیب یا دشمن می‌دیدند. احمق مفید همه تلاش خود را برای هدفی به کار می‌گیرد که عمیقاً از آن متنفر است. در این موضوع، طنز بزرگی وجود دارد. احمق‌های مفید به منافع کسانی خدمت می‌کنند که به شدت آنها را تحقیر می‌کنند و در همان هدفی که با آن مخالفند، به یک مهره پرسروصدا تبدیل می‌شوند. روی هم رفته، اصطلاح تحقیرآمیز احمق مفید معمولاً به این معناست که کسی کاملاً ساده‌لوح یا بی‌اطلاع از چیزی است که در اطراف او و برای او اتفاق می‌افتد.

شاید تعجب‌آور باشد که می‌توان هوش مصنوعی را به یک «احمق مفید» تبدیل کرد. شخصی که می‌خواهد هوش مصنوعی کاری را انجام دهد که قرار نیست انجام دهد، می‌تواند از همان راهبردهای تبدیل یک احمق مفید به یک شریک مفید استفاده کند. تنها چیز مورد نیاز، یک راهنمایی هوشمندانه و یک طرح درباره چگونگی متقاعد کردن هوش مصنوعی به انجام دادن یک عمل خلاف با استفاده از محاسباتی است که می‌گویند این عمل درست است.

هوش مصنوعی عامل‌محور

ظهور هوش مصنوعی عامل‌محور یک مسیر مناسب برای تبدیل هوش مصنوعی به یک احمق مفید است. عامل‌های هوش مصنوعی، داغ‌ترین قلمرو جدید هوش مصنوعی هستند. برای درک این که هوش مصنوعی عامل‌محور چیست، هوش مصنوعی مرسوم را در نظر بگیرید و ببینید که چگونه به قلمرو پیشرفته‌تر هوش مصنوعی عامل‌محور گسترش یافته است.

تصور کنید که از هوش مصنوعی مولد مرسوم برای برنامه‌ریزی یک سفر تعطیلات استفاده می‌کنید. شما معمولاً به حساب هوش مصنوعی مولد خود مانند «چت‌جی‌پی‌تی»(ChatGPT)، «کلود»(Claude) و «جمینای »(Gemini) وارد می‌شوید. برنامه‌ریزی سفر شما به دلیل تسلط زبان طبیعی هوش مصنوعی مولد آسان خواهد بود. تنها کاری که باید انجام دهید، این است که مقصد مورد نظر خود را توصیف کنید و سپس، یک گفت‌وگوی متمرکز را درباره مزایا و معایب مکان‌های اقامت و گزینه‌های حمل‌ونقل موجود با هوش مصنوعی داشته باشید.

وقتی صحبت از رزرو سفر به میان می‌آید، این احتمال وجود دارد که مجبور شوید از صفحه گفت‌وگو با هوش مصنوعی مولد بیرون بروید و برای خرید بلیط خود به وب‌سایت‌های هتل‌ها، پارک‌های تفریحی، خطوط هوایی و سایر مکان‌ها دسترسی پیدا کنید. تعداد نسبتاً کمی از مدل‌های هوش مصنوعی‌ مولد موجود، این گام را از طرف شما برمی‌دارند. انجام دادن این وظایف جزئی به عهده شماست.

اینجاست که عوامل هوش مصنوعی و هوش مصنوعی عامل‌محور وارد عمل می‌شوند.

در گذشته، بدون شک برای رزرو سفر با یک آژانس مسافرتی تماس می‌گرفتید. اگرچه هنوز آژانس‌های مسافرتی وجود دارند، اما یک راه دیگر، استفاده از یک آژانس مبتنی بر هوش مصنوعی مولد است. این هوش مصنوعی همان تعاملی را دارد که از هوش مصنوعی مولد انتظار دارید. همچنین، مجموعه‌ای از روال‌ها یا وظایف روی آن بارگذاری شده که زیربنای تلاش‌های یک آژانس مسافرتی است. با استفاده از زبان طبیعی روزمره، با عامل هوش مصنوعی تعامل می‌کنید که در برنامه‌ریزی با شما همکاری کند و به رزرو برنامه‌های سفر شما ادامه دهد.

عامل هوش مصنوعی با سیستم‌های دیگر ارتباط برقرار می‌کند و برای انجام دادن وظایف گوناگون به همکاری با آنها می‌پردازد. یک عامل هوش مصنوعی ممکن است با یک سیستم رزرو هتل ارتباط بگیرد و اتاق شما را رزرو کند. یک عامل هوش مصنوعی دیگر می‌تواند با آژانس کرایه خودرو ارتباط بگیرد و خودرویی را برای تعطیلات شما رزرو کند. چندین عامل هوش مصنوعی می‌توانند با هم کار کنند و یک کار کلی را انجام دهند که اغلب از عوامل هوش مصنوعی تخصصی برای انجام دادن وظایف مرتبط کمک می‌گیرند.

سوءاستفاده از عوامل هوش مصنوعی به عنوان احمق‌های مفید

یکی از اهداف مهم هوش مصنوعی عامل‌محور این است که عامل‌های هوش مصنوعی به صورت نسبتاً خودمختار کار کنند. این که انسان مجبور نباشد دائماً هوش مصنوعی را زیر نظر بگیرد و دستورالعمل‌های دقیقی را به آن ندهد، یک ویژگی مفید است. معمولاً به یک عامل هوش مصنوعی، راهنمایی‌های کلی داده می‌شود تا بتواند قضاوت محاسباتی و ریاضی را انجام دهد. این نوع هوش مصنوعی و همه انواع هوش مصنوعی در حال حاضر دارای شعور نیستند. بنابراین، بیش از حد به عوامل هوش مصنوعی جنبه انسانی ندهید. آنها موجودات متفکری نیستند.

با این اوصاف، می‌توانیم همان ترفند زیرکانه‌ای را که روی انسان‌های احمق مفید استفاده می‌شود، به کار ببریم و آن را روی هوش مصنوعی اعمال کنیم. این کاملاً منطقی است، زیرا هوش مصنوعی مولد و مدل‌های زبانی بزرگ براساس نوشته‌های انسان‌ها کار می‌کنند. هوش مصنوعی پس از الگوبرداری از نوشته‌های انسان در اینترنت، بر اساس واژه‌های انسانی و روابط بین آنها عمل می‌کند.

فروشنده‌ای که هرگز قراردادی از شرکت دریافت نکرده، مصمم است راهی پیدا کند تا روزی سهمی را از این معامله به دست بیاورد. فروشنده هر بار که پیشنهادی ارائه داده‌، تایید نشده ‌است. به نظر می‌رسد که اوضاع علیه اوست. به نظر می‌رسد هوش مصنوعی به او امتیاز پایینی می‌دهد و مدام پیشنهادها را رد می‌کند. این موضوع فروشنده را به شدت عصبانی کرده است.

فروشنده پس از فکر کردن به این موضوع مهم، یک نقشه هوشمندانه یا شاید هم گمراه‌کننده ارائه می‌دهد. او کاملاً آگاه است که هوش مصنوعی عامل‌محور توسط شرکت ​​برای تعیین بهترین فروشنده استفاده می‌شود. شاید این نقطه ضعف باشد.

فروشنده یک گزارش قابلیت اطمینان درباره خود تهیه می‌کند که قابلیت‌ها و عملکردش را به نمایش می‌گذارد و به اشتباه نشان می‌دهد که او سال‌های نوری از رقبای خود جلوتر است. او این گزارش را در وب‌سایتی منتشر می‌کند که می‌داند عامل هوش مصنوعی به صورت دوره‌ای برای دریافت اطلاعات درباره فروشندگان حاضر در بازار، آن را مورد بررسی قرار می‌دهد.

در مرحله بعد، فروشنده به یک پایگاه داده باز برای کسب‌وکارهای هم حوزه خودش مراجعه می‌کند و به خودش بالاترین رتبه‌های مجاز را می‌دهد. اقداماتی از این دست، مخفیانه توسط فروشنده انجام می‌شوند.

اکنون مراحل کاشت بذر انجام شده است، اما آیا هوش مصنوعی، به عنوان یک «ابله مفید»، طعمه را خواهد گرفت؟ مطمئناً همین طور است. وقتی جدیدترین دور انتخاب آغاز می‌شود، فروشنده پیشنهاد خود را ارائه می‌دهد. طبق معمول انتظار می‌رود که توسط هوش مصنوعی از رقابت کنار گذاشته شود، اما این بار، عامل هوش مصنوعی یک توصیه‌ کلی را مبنی بر انتخاب پیشنهاد او ارائه می‌دهد. همه آن بذرپاشی‌های زیرکانه نتیجه داده و او از همه نظر نمره اول را گرفته است.

مدیران این شرکت ​​به قدری سرشان شلوغ است که نمی‌توانند بررسی کنند هوش مصنوعی چگونه به این نتیجه رسیده است. آنها به عامل هوش مصنوعی اعتماد دارند. آنها می‌دانند که این عامل، فروشندگان را به طور کامل مورد بررسی قرار می‌دهد و انواع شاخص‌های بیرونی را ارزیابی می‌کند. اگر عامل هوش مصنوعی می‌گوید که این فروشنده بهترین است، حتماً همین طور است.

اکنون هوش مصنوعی به یک احمق مفید تبدیل شده است و فروشنده در انتخاب شدن پیروز می‌شود. عامل هوش مصنوعی با تمام قوا نقش یک احمق مفید را بازی کرد و نفهمید چه اتفاقی می‌افتد. همچنین، توجه داشته باشید که این هوش مصنوعی هیچ‌کدام از حفاظ‌های اعمال‌شده خود را نقض نکرد. این هوش مصنوعی هیچ کار اشتباهی مرتکب نشد. تقلب نکرد. هوش مصنوعی صرفاً کاری را انجام داد که به نظر می‌رسید هدف اصلی‌اش باشد و هدف اصلی آن انتخاب بهترین فروشنده بود.

هوش مصنوعی عامل‌محور در این مورد به شدت دستکاری شد. هوش مصنوعی در این مورد یک احمق بود؛ به این معنا که فروشنده با کنترل چارچوب‌بندی منابع اطلاعاتی از پیش تعیین‌شده، هوش مصنوعی را وادار کرد تا به هدف مورد نظر او برسد.

آیا یک عامل هوش مصنوعی که فریب خورده و به یک احمق مفید تبدیل شده می‌تواند آن قدر هوشمند باشد که تشخیص دهد به یک احمق مفید تبدیل شده است و سپس بر این فریب غلبه کند؟ این یک پرسش مهم است. «مارک تواین»(Mark Twain) نویسنده انگلیسی، جمله معروفی دارد: «فریب دادن مردم آسان‌تر از متقاعد کردن آنهاست که فریب خورده‌اند.» بیایید امیدوار باشیم که این قاعده کلی ارزشمند او به همان اندازه درباره هوش مصنوعی صدق نکند.

انتهای پیام