یکشنبه ۲۸ تیر ۱۴۰۵ | ۰۹:۱۱
منبع: نمایندگی زنجان
کوچک‌سازی مدل‌های هوش مصنوعی، راهکاری برای اجرای سریع‌تر روی گوشی‌های هوشمند

کوچک‌سازی مدل‌های هوش مصنوعی، راهکاری برای اجرای سریع‌تر روی گوشی‌های هوشمند

زنجان (ایسنا) - کارشناس ارشد مهندسی کامپیوتر دانشگاه زنجان گفت: پژوهش انجام‌شده درباره «هرس شبکه‌های عصبی» نشان می‌دهد می‌توان با حذف بخش‌های کم‌اهمیت مدل‌های هوش مصنوعی، بدون کاهش محسوس دقت، سرعت اجرا را افزایش و مصرف حافظه و انرژی را کاهش داد؛ موضوعی که به استفاده گسترده‌تر از هوش مصنوعی در تلفن‌های همراه و سایر دستگاه‌های هوشمند کمک می‌کند.

امیر رحمانی در گفت‌وگو با ایسنا، اظهار کرد: امروزه بسیاری از ابزارهایی که مردم روزانه از آن‌ها استفاده می‌کنند، از جمله دستیارهای هوشمند، قابلیت تشخیص چهره در تلفن‌های همراه، مترجم‌های هوشمند و حتی برخی تجهیزات پزشکی، بر پایه مدل‌های هوش مصنوعی فعالیت می‌کنند. با این حال، این مدل‌ها معمولاً بسیار بزرگ هستند و برای اجرا به حافظه و توان پردازشی بالایی نیاز دارند. همین موضوع باعث می‌شود اجرای برخی مدل‌های پیشرفته هوش مصنوعی روی دستگاه‌هایی مانند تلفن همراه، ساعت هوشمند یا تجهیزات اینترنت اشیا با محدودیت‌هایی همراه باشد.

وی با بیان اینکه موضوع پایان‌نامه او بررسی روش «هرس شبکه‌های عصبی» (Pruning) است، گفت: در این روش، بخش‌هایی از شبکه که نقش چندانی در نتیجه نهایی ندارند، شناسایی و حذف می‌شوند تا مدل سبک‌تر و سریع‌تر شود، بدون اینکه دقت آن به شکل محسوسی کاهش پیدا کند.

او برای توضیح ساده‌تر این موضوع، بیان کرد: تصور کنید یک کمد یا انباری پر از وسایلی است که سال‌ها از بسیاری از آن‌ها استفاده نشده است. با حذف وسایل غیرضروری، هم فضای بیشتری ایجاد می‌شود و هم پیدا کردن وسایل موردنیاز سریع‌تر خواهد بود. هرس شبکه‌های عصبی نیز تقریباً با همین منطق، بخش‌های کم‌اهمیت مدل را حذف می‌کند تا عملکرد آن بهینه‌تر شود.

این پژوهشگر ادامه داد: مدل‌های یادگیری عمیق ممکن است میلیون‌ها یا حتی میلیاردها پارامتر داشته باشند، اما همه این پارامترها به یک اندازه در تصمیم‌گیری مدل مؤثر نیستند. بنابراین می‌توان بخشی از آن‌ها را حذف کرد و در عین حال کیفیت عملکرد مدل را تا حد زیادی حفظ کرد.

وی با اشاره به مزایای این روش، گفت: مهم‌ترین نتیجه هرس شبکه‌های عصبی، کاهش حجم مدل، افزایش سرعت پاسخ‌گویی، کاهش مصرف حافظه و انرژی و در نهایت امکان اجرای مدل‌های هوش مصنوعی روی دستگاه‌هایی با توان پردازشی محدود است.

رحمانی درباره روش‌های مختلف هرس، توضیح داد: به طور کلی دو روش اصلی برای این کار وجود دارد. در روش نخست، تنها برخی از وزن‌های کم‌اهمیت حذف می‌شوند و در روش دوم، بخش‌های کامل‌تری مانند نورون‌ها یا فیلترهای شبکه کنار گذاشته می‌شوند که این روش معمولاً با سخت‌افزارهای امروزی سازگاری بیشتری دارد.

او افزود: یکی از رایج‌ترین شیوه‌ها، حذف وزن‌هایی است که تأثیر کمتری بر خروجی مدل دارند. این کار باعث می‌شود بدون آسیب جدی به عملکرد هوش مصنوعی، حجم محاسبات کاهش یابد.

وی برای اینکه موضوع را ساده‌تر توضیح دهد، گفت: کشاورزی را تصور کنید که برای گرفتن محصول بهتر، شاخ و برگ‌های درخت را هرس می‌کند؛ این کار باعث می‌شود هم درخت سبک‌تر شود و هم باروری‌اش بهتر شود. هرس شبکه‌های عصبی نیز با حذف بخش‌های کم‌اهمیت مدل، آن را سبک‌تر و سریع‌تر می‌کند.

این کارشناس ارشد مهندسی کامپیوتر دانشگاه زنجان با اشاره به یکی از نظریه‌های مطرح در این حوزه، گفت: بر اساس نظریه «بلیط بخت‌آزمایی»، در بسیاری از شبکه‌های عصبی بزرگ، یک زیرشبکه کوچک‌تر نیز وجود دارد که اگر به‌درستی آموزش داده شود، می‌تواند عملکردی نزدیک به شبکه اصلی داشته باشد. این موضوع نشان می‌دهد که همه بخش‌های یک شبکه لزوماً برای دستیابی به عملکرد مناسب ضروری نیستند.

وی درباره روند اجرای این روش نیز، اظهار کرد: هرس شبکه معمولاً در یک مرحله انجام نمی‌شود. ابتدا بخشی از اجزای کم‌اهمیت حذف می‌شود، سپس مدل دوباره آموزش می‌بیند تا افت احتمالی دقت جبران شود. این فرآیند چندین بار تکرار می‌شود تا بهترین تعادل میان کوچک شدن مدل و حفظ کیفیت آن به دست آید.

رحمانی با اشاره به چالش‌های موجود در این حوزه، گفت: اگر میزان حذف پارامترها بیش از حد باشد، ممکن است دقت مدل کاهش پیدا کند. همچنین برخی روش‌های هرس، با وجود کاهش حجم مدل، هنوز از نظر سخت‌افزاری به‌راحتی قابل استفاده نیستند. به همین دلیل، پژوهشگران معمولاً هرس را در کنار روش‌های دیگری مانند کاهش دقت محاسبات و انتقال دانش از مدل‌های بزرگ به مدل‌های کوچک‌تر به کار می‌گیرند تا در نهایت مدلی تولید شود که هم سریع‌تر باشد، هم حافظه کمتری مصرف کند و هم دقت مناسبی داشته باشد.

این پژوهشگر حوزه هوش مصنوعی با بیان اینکه پژوهش‌های انجام‌ شده در این زمینه همچنان ادامه دارد، گفت: در حال حاضر مقاله‌ای در ادامه این پایان‌نامه در دست تدوین است که تلاش می‌کند با بررسی چالش‌های موجود و ترکیب روش‌های مختلف، راهکار جامع‌تری برای بهینه‌سازی شبکه‌های عصبی ارائه دهد.

رحمانی خاطرنشان کرد: توسعه این روش‌ها می‌تواند در آینده زمینه استفاده گسترده‌تر از هوش مصنوعی را در تلفن‌های همراه، خودروهای هوشمند، تجهیزات پزشکی، سامانه‌های امنیتی و سایر دستگاه‌هایی که از نظر توان پردازشی محدود هستند، فراهم کند.

انتهای پیام

آخرین اخبار استان ها