به گزارش ایسنا، هوش مصنوعی طی یک دهه اخیر از یک مفهوم آزمایشگاهی به ابزاری روزمره در زندگی فردی،آموزشی، سازمانی و صنعتی تبدیل شده و از دستیارهای هوشمند گرفته تا سامانههای تشخیص پزشکی، موتورهای پیشنهاد دهنده در پلتفرمهای خرید و ابزارهای تولید محتوا و کدنویسی را دربر گرفته است.
هوش مصنوعی امروز بخشی جداییناپذیر از فرآیندهای تصمیمگیری انسانی و سازمانی است و این گسترش سریع، در کنار فرصتهای بیسابقهای که ایجاد کرده، مجموعهای از چالشها و مسئولیتهای تازه را نیز پیش روی کاربران، توسعهدهندگان، سازمانها و قانونگذاران قرار داده است.
البته استفاده نادرست، ناآگاهانه یا غیرمسئولانه از این فناوری میتواند پیامدهایی نظیر نقض حریم خصوصی، تصمیمگیریهای تبعیضآمیز، انتشار اطلاعات نادرست و آسیب به اعتماد عمومی به همراه داشته باشد. در مقابل، استفاده اصولی،آگاهانه و مبتنی بر چارچوبهای اخلاقی میتواند بهرهوری، کیفیت تصمیمگیری و کیفیت زندگی را بهطور چشمگیری ارتقا دهد.
هوش مصنوعی چیست؟
هوش مصنوعی به مجموعهای از فناوریها و روشهای محاسباتی گفته میشود که به سامانههای رایانهای امکان میدهند وظایفی را انجام دهند که معمولاً نیازمند هوش انسانی هستند؛ وظایفی مانند یادگیری از داده، تشخیص الگو، استدلال، تصمیمگیری، درک زبان طبیعی و تولید محتوا. زیرشاخههای اصلی این حوزه شامل یادگیری ماشین، یادگیری عمیق، پردازش زبان طبیعی، بینایی رایانهای و سامانههای مبتنی بر قاعده است.
در سالهای اخیر، ظهور مدلهای زبانی بزرگ و ابزارهای هوش مصنوعی مولد، دسترسی عموم مردم به این فناوری را به طور بیسابقهای افزایش داده است. این تحول باعث شده که موضوع استفاده مسئولانه از هوش مصنوعی دیگر صرفاً دغدغه متخصصان فناوری نباشد، بلکه به موضوعی عمومی برای هر کاربر، دانشآموز، معلم، کارمند و مدیر تبدیل شود.
هوش مصنوعی بر خلاف بسیاری از فناوریهای پیشین، مستقیماً در فرآیند تصمیمگیری دخالت میکند.سامانهای که تصمیم میگیرد کدام رزومه بررسی شود، کدام بیمار در اولویت درمان قرار گیرد یا کدام محتوا به کاربر پیشنهاد شود؛ به همین دلیل رعایت اصول اخلاقی و فنی در استفاده از این فناوری صرفاً یک توصیه اختیاری نیست،بلکه پیشنیاز بهرهبرداری امن و پایدار از آن است.
چرا رعایت اصول فنی و اخلاقی ضروری است؟
دلیل نخست، کاهش خطر آسیب به افراد و جامعه از طریق جلوگیری از تصمیمهای نادرست یا تبعیضآمیز است. دلیل دوم حفظ اعتماد عمومی به فناوری که پیششرط پذیرش گسترده و پایدار آن است و سومین دلیل، انطباق با الزامات قانونی و مقرراتی است که در بسیاری از کشورها بهسرعت در حال شکلگیری هستند.
بایدهای کلیدی در استفاده از هوش مصنوعی
از مهمترین اصولی که کاربران و سازمانها باید هنگام استفاده از هوش مصنوعی رعایت کنند،حفاظت از دادههای حساس، آموزش مستمر کاربران، راستیآزمایی خروجی،بهروز رسانی دانش و استفاده هدفمند است.
نبایدهای کلیدی در استفاده از هوش مصنوعی
در مقابل بایدها، مجموعهای از رفتارها و رویهها نیز وجود دارند که باید از آنها اجتناب کرد و اعتماد کورکورانه، ورود داده محرمانه بدون بررسی، واگذاری کامل تصمیمهای حساس و نقض حقوق مالکیت فکری از جمله آنهاست.
درحال حاضر رویکردهای قانونگذاری در جهان نسبت به هوش مصنوعی متفاوت بوده و کشورها نسبت به تنظیمگری هوش مصنوعی شیوههای متفاوتی را در پیش گرفتهاند.
به عنوان مثال در اتحادیه اروپا، رویکرد مبتنی بر ریسک با طبقهبندی کاربردها به سطوح ریسک مختلف و الزامات متناسب با هر سطح.
در ایالات متحده آمریکا، ترکیبی از دستورالعملهای فدرال، استانداردهای داوطلبانه صنعتی و مقررات ایالتی پراکنده به عنوان رویکرد دنبال میشود.
در چین، رویکرد بر مبنای نظارت متمرکز دولتی با تمرکز بر محتوای تولیدشده و الزامات ثبت الگوریتم است.
سازمانهای بینالمللی نیز تدوین اصول راهنما و چارچوبهای داوطلبانه برای هماهنگی جهانی نظیر اصول اخلاقی نهادهای تخصصی سازمان ملل را در پیش میگیرند.
کارشناسان با اشاره به روند تحول هوش مصنوعی معتقدند این فناوری در سالهای آینده نقشی گستردهتر در تصمیمگیریهای فردی و سازمانی خواهد داشت.این موضوع، مسئولیت مشترکی را میان توسعه دهندگان فناوری،سازمانهای به کارگیرنده،قانونگذاران و کاربران نهایی ایجاد میکند.
حریم خصوصی و حفاظت از دادهها
بسیاری از ابزارهای هوش مصنوعی برای بهبود عملکرد خود از دادههای ورودی کاربران استفاده میکنند.این موضوع در کنار مزایای فنی، ریسکهای جدی برای حریم خصوصی ایجاد میکند، به ویژه اگر کاربران بدون آگاهی کافی، اطلاعات حساس شخصی یا سازمانی را وارد این سامانهها کنند.
در این بین لازم است اصول کلیدی حفاظت از دادهها رعایت شود مثلا پیش از استفاده از هر ابزار، سیاست حریم خصوصی و شرایط استفاده از داده را مطالعه کنید. در صورت امکان از گزینههای غیرفعالسازی استفاده از داده برای آموزش مدل بهره ببرید و دادههای شناساییکننده افراد را در صورت عدم ضرورت حذف یا ناشناسسازی کنید.برای دادههای سازمانی حساس از ابزارهای دارای گواهیهای امنیتی و انطباق با استانداردهای شناختهشده استفاده کنید.
نمونه آن خطر ورود اطلاعات حساس است. مثلا کارمندی که برای تسریع در نوشتن گزارش مالی، ارقام محرمانه درآمد سازمان را در یک ابزار عمومی هوش مصنوعی وارد میکند، ممکن است ناخواسته این اطلاعات را در معرض ذخیرهسازی یا حتی استفاده در آموزش مدلهای آینده قرار دهد. رویه صحیح، استفاده از نسخههای سازمانی دارای تضمین حریم خصوصی یا حذف ارقام حساس پیش از ورود به سامانه است.
سامانههای هوش مصنوعی از دادههای گذشته میآموزند و بنابراین میتوانند الگوهای تبعیضآمیز موجود در آن دادهها را باز تولید یا حتی تقویت کنند.این پدیده که "سوگیری الگوریتمی" نامیده میشود، میتواند در حوزههایی مانند استخدام،اعطای وام،تشخیص پزشکی و عدالت کیفری پیامدهای جدی برای گروههای مختلف اجتماعی داشته باشد.
مقابله با سوگیری نیازمند رویکردی چندلایه است: بررسی منظم دادههای آموزشی از نظر نمایندگی متوازن گروههای مختلف، آزمون خروجی سامانه بر روی زیرگروههای جمعیتی گوناگون و حفظ امکان بازبینی و اعتراض انسانی نسبت به تصمیمهای الگوریتمی.
نمونه آن سوگیری در فرآیند استخدام است. اگر دادههای تاریخی یک شرکت نشان دهد که اکثر افراد استخدام شده در یک نقش خاص از یک جنسیت یا پیشینه خاص بودهاند سامانهای که بر پایه این داده آموزش دیده ممکن است بهطور ناخواسته رزومههای سایر گروهها را کمارزشتر ارزیابی کند،حتی اگر شایستگی یکسانی داشته باشند.
امنیت سایبری و هوش مصنوعی
هوش مصنوعی هم میتواند ابزاری برای تقویت امنیت سایبری باشد (مانند تشخیص ناهنجاری در ترافیک شبکه) و هم میتواند خود هدف یا ابزار حملات سایبری قرار گیرد.حملاتی مانند "مسمومسازی داده" (دستکاری دادههای آموزشی) یا "تزریق دستور" (فریب دادن مدل برای انجام رفتار ناخواسته) از جمله تهدیدهای نوظهور در این حوزه هستند.
دسترسی به سامانههای هوش مصنوعی حساس را محدود و کنترلشده نگه دارید.ورودیهای کاربران را پیش از پردازش توسط مدل، پالایش و اعتبارسنجی کنید و سامانهها را بهطور منظم از نظر آسیبپذیریهای امنیتی ارزیابی کنید.
روند کلی پذیرش سازمانی هوش مصنوعی طی سالهای اخیر صعودی بوده و این روند، اهمیت آموزش کاربران و تدوین سیاستهای مسئولانه استفاده را دوچندان میکند.حریم خصوصی دادهها و صحت اطلاعات تولیدشده از مهمترین دغدغههای کاربران به شمار میرود. استفاده مسئولانه از هوش مصنوعی یک اقدام یکباره نیست، بلکه یک چرخه مستمر است که از جمعآوری داده آغاز میشود و با نظارت مستمر و بازخورد انسانی ادامه مییابد.
در همین راستا علی اصغر زارعی ـ مدرس دانشگاه و کارشناس ارشد فناوری اطلاعات در گفتوگو با ایسنا، معتقد است که استفاده مسئولانه از هوش مصنوعی یک اقدام یکباره نیست، بلکه یک چرخه مستمر است که از جمعآوری داده آغاز میشود و با نظارت مستمر و بازخورد انسانی ادامه مییابد.
به گفته وی بسیاری از ابزارهای هوش مصنوعی برای بهبود عملکرد خود از دادههای ورودی کاربران استفاده میکنند و این موضوع در کنار مزایای فنی، ریسکهای جدی برای حریم خصوصی ایجاد میکند بهویژه اگر کاربران بدون آگاهی کافی، اطلاعات حساس شخصی یا سازمانی را وارد این سامانهها کنند.
زارعی درباره اصول کلیدی حفاظت از دادهها میگوید: باید پیش از استفاده از هر ابزار، سیاست حریم خصوصی و شرایط استفاده از داده را مطالعه کرد و در صورت امکان از گزینههای غیرفعالسازی استفاده از داده برای آموزش مدل بهره برد. همچنین دادههای شناساییکننده افراد در صورت عدم ضرورت باید حذف یا ناشناسسازی شود و برای دادههای سازمانی حساس، از ابزارهای دارای گواهیهای امنیتی و انطباق با استانداردهای شناختهشده استفاده کرد.
این مدرس دانشگاه در ادامه اصول بایدها و نبایدها در ۴ حوزه سلامت، آموزش و کسب و کار و رسانه و محتوا را مورد تحلیل و ارزیابی قرار داد و گفت: در حوزه سلامت،سامانههای هوش مصنوعی در تشخیص تصاویر پزشکی، پیشبینی ریسک بیماری و مدیریت پرونده بیماران کاربرد گستردهای دارند. باید کلیدی در این حوزه، حفظ نظارت پزشک متخصص بر تصمیم نهایی است.در حوزه آموزش، در محیطهای آموزشی، هوش مصنوعی میتواند به شخصیسازی یادگیری و تولید محتوای آموزشی کمک کند. نباید کلیدی در این حوزه، واگذاری کامل فرآیند ارزیابی یادگیری دانشآموز به سامانه بدون بازبینی معلم است زیرا این کار میتواند به قضاوتهای نادرست درباره توانایی واقعی دانشآموز منجر شود.
وی در مورد حوزه کسب و کار توضیح داد: در کسبوکارها، هوش مصنوعی در تحلیل داده مشتری، اتوماسیون خدمات و تصمیمگیری مالی بهکار میرود. باید کلیدی، شفافسازی برای مشتریان درباره تعامل با سامانههای خودکار مثل ربات گفت و گو و فراهم کردن مسیر دسترسی به یک کارشناس انسانی است. در حوزه رسانه و محتوا نیز هوش مصنوعی مولد امکان تولید سریع متن، تصویر و ویدئو را فراهم کرده است. نباید کلیدی، انتشار محتوای تولیدشده توسط هوش مصنوعی به عنوان اثر کاملاً انسانی بدون افشای منبع، به ویژه در گزارشهای خبری و محتوای آموزشی است.
به گزارش ایسنا، هوش مصنوعی ابزاری قدرتمند است که در صورت استفاده صحیح میتواند بهرهوری، دقت و کیفیت تصمیمگیری را در حوزههای گوناگون ارتقا دهد. با این حال این قدرت بدون رعایت اصول اخلاقی، شفافیت، حفاظت از حریم خصوصی و نظارت انسانی میتواند به منبع آسیب و بیاعتمادی تبدیل شود. طبعا رعایت بایدها و پرهیز از نبایدها گامی اساسی برای بهرهبرداری پایدار، ایمن و عادلانه از هوش مصنوعی است و موفقیت این فناوری نه صرفاً به پیشرفتهای فنی بلکه به میزان مسئولیتپذیری انسانهایی بستگی دارد که آن را طراحی،مستقر و استفاده میکنند.
انتهای پیام
