به گزارش ایسنا، به نقل از دانشگاه علم و فرهنگ، هوش مصنوعی آرامآرام از یک ابزار در دست انسان به بخشی از فرایند تصمیمگیری تبدیل شده است. الگوریتمها دادهها را دستهبندی میکنند، الگوها را تشخیص میدهند، احتمال وقوع رفتارها را میسنجند و حتی میتوانند در تصمیمهایی دخالت کنند که مستقیماً بر حقوق و موقعیت افراد اثر میگذارد.
در چنین جهانی، پرسش حقوقی فقط این نیست که چه کسی عمل را انجام داده است؛ پرسش مهمتر این است که تصمیم چگونه شکل گرفته و چه کسانی امکان شکلگیری آن را فراهم کردهاند؟
عضو هیئت علمی دانشکده حقوق دانشگاه علم و فرهنگ در نشستی علمی که در دانشگاه شهید بهشتی با حضور استادان، پژوهشگران و دانشجویان حوزه حقوق دانشگاه علم و فناوری اوفا (Ufa University of Science and Technology – UUST) روسیه، برگزار شد، به بررسی موضوع «وقتی هوشواره تصمیم میگیرد؛بازاندیشی مسئولیت کیفری در عصر قدرت دیجیتال» پرداخت.
دکتر فاطمه قناد با طرح این پرسش که «اگر هیچ انسانی بهتنهایی تصمیم را نساخته باشد، مسئولیت را کجا باید جستوجو کرد؟»، اظهار کرد: ورود هوش مصنوعی به ساختارهای تصمیمگیری صرفاً به معنای ظهور فناوری جدیدی برای ارتکاب یا کشف جرم نیست، بلکه نسبت میان انسان، فعل، کنترل، خطر و مسئولیت را نیز دگرگون میکند.
وی با اشاره به اینکه تصمیم در محیطهای دیجیتال ممکن است حاصل تعامل میان انسانها، دادهها، الگوریتمها، پلتفرمها و زیرساختهای فنی باشد، افزود: در چنین شرایطی، حقوق کیفری ناگزیر است علاوه بر پرسش سنتی «چه کسی عمل کرد؟»، پرسش دیگری را نیز در مرکز تحلیل قرار دهد و آن اینکه «این تصمیم چگونه ممکن شد؟»
معمار تصمیم؛ مفهومی برای بازخوانی مسئولیت
دکتر فاطمه قناد در ادامه به مفهوم «معمار تصمیم» پرداخت و گفت: معمار تصمیم الزاماً کسی نیست که آخرین تصمیم را اتخاذ کرده است؛ بلکه ممکن است فرد یا نهادی باشد که قواعد، دادهها، زیرساخت یا شرایطی را طراحی کرده که تصمیم در درون آن شکل گرفته است.
وی تأکید کرد: طرح این مفهوم به معنای ایجاد عنوان مجرمانه جدید نیست، بلکه زاویه نگاه به مسئله انتساب را تغییر میدهد. در بررسی مسئولیت باید محل طراحی، میزان کنترل، آگاهی از خطر و امکان پیشگیری از پیامد را در کل فرایند تصمیم شناسایی کرد.
قناد با تأکید بر اینکه «توزیع عاملیت» لزوماً به معنای «توزیع تقصیر» نیست، خاطرنشان کرد: مسئولیت کیفری همچنان نیازمند مبنای حقوقی و انتساب مشخص است، اما در ساختارهای تصمیمگیری توزیعشده باید نقاط واقعی مسئولیت انسانی را در زنجیره طراحی، کنترل و اجرا شناسایی کرد.
وقتی فناوری از ابزار به زیرساخت تصمیم تبدیل میشود
این متخصص حقوق دیجیتال، یکی دیگر از پیامدهای ورود هوش مصنوعی به فرایندهای تصمیمگیری را تغییر جایگاه فناوری دانست و گفت: در نگاه سنتی، فناوری ابزاری در اختیار انسان است؛ انسان تصمیم میگیرد و فناوری وسیله اجرای تصمیم است. اما در سامانههای هوشمند، فناوری میتواند به بخشی از نحوه مشاهده، اندازهگیری، طبقهبندی و ارزیابی جهان تبدیل شود.
وی افزود: دادهها برخی واقعیتها را برجسته و برخی دیگر را پنهان میکنند، الگوریتمها میان دادهها ارتباط برقرار میکنند و مدلها احتمال وقوع رویدادها را محاسبه میکنند؛ بنابراین فناوری بهتدریج از یک ابزار صرف به زیرساخت تصمیمگیری تبدیل میشود.
قناد در ادامه با اشاره به یک پرونده قضایی در دادگاه آمستردام، اظهار کرد: در پروندهای که در ۱۷ ژوئن ۲۰۲۶ مورد رسیدگی قرار گرفت، متهم در فرایند شناسایی و احراز هویت دیجیتال بانک ABN AMRO از تصاویر دستکاریشده و فناوری دیپفیک استفاده کرده و در ۴۷ مورد موفق به گشودن حسابهای بانکی شده بود.
به گفته وی، متهم در این پرونده بابت کلاهبرداری از بانک با استفاده از فناوری دیپفیک، جعل مدارک هویتی و جرایم مرتبط به ۳۰ ماه حبس، شامل ۶ ماه حبس تعلیقی محکوم شد.
وی افزود: اهمیت این پرونده تنها در استفاده مجرمانه از فناوری دیپفیک نیست؛ بلکه فناوری در اینجا مستقیماً وارد فرایند تشخیص هویت شده است. هدف، صرفاً فریب یک فرد نبوده، بلکه اختلال در سازوکاری بوده است که باید میان هویت واقعی و هویت ارائهشده تمایز ایجاد میکرد.
وقتی انسان به یک «پروفایل خطر» تقلیل مییابد
عضو هیئت علمی دانشگاه علم و فرهنگ در بخش دیگری از سخنان خود به امکان استفاده از هوش مصنوعی برای پیشبینی رفتار و ارزیابی خطر پرداخت و گفت: عدالت کیفری سنتی عمدتاً رویکردی پسینی دارد؛ یعنی پس از وقوع جرم، فرایند تحقیق، شناسایی مظنون، بررسی ادله و رسیدگی قضایی آغاز میشود. در مقابل، سامانههای هوشمند میتوانند با تحلیل دادهها، احتمال وقوع یک رفتار یا میزان خطر را پیشبینی کنند.
وی تأکید کرد: در اینجا باید یک مرز بنیادین حقوق کیفری حفظ شود؛ احتمال جرم، همسان وقوع جرم نیست و خطر، مسئولیت کیفری ایجاد نمیکند.
قناد افزود: پیشبینی الگوریتمی نمیتواند بهخودیخود جایگزین فعل مجرمانه، مبنای قانونی مسئولیت و شرایط لازم برای انتساب شود. در غیر این صورت، این خطر وجود دارد که انسان پیش از ارتکاب هر فعل، به یک احتمال، امتیاز یا پروفایل خطر تقلیل یابد.
وی با اشاره به کاربرد الگوریتمها در حوزههایی مانند بانکداری، بیمه، استخدام، اعتبارسنجی و خدمات عمومی گفت: مسئله صرفاً میزان دقت محاسبات الگوریتمی نیست؛ بلکه باید جایگاه انسان در برابر تصمیمی که به واسطه یک سامانه فنی شکل گرفته است نیز مورد توجه قرار گیرد.
از دلیل دیجیتال تا حقیقت الگوریتمی
قناد همچنین با اشاره به مفهوم «حقیقت الگوریتمی» اظهار کرد: داده یک امر خام و بیواسطه نیست؛ بلکه تولید، جمعآوری، ذخیره، پردازش و تفسیر میشود. نتیجه یک سامانه الگوریتمی نیز محصول همین فرایند است و نمیتوان آن را بیواسطه با حقیقت یکی دانست.
وی افزود: برای حقوق، تنها نتیجهای که الگوریتم ارائه میکند اهمیت ندارد؛ بلکه فرایندی که آن نتیجه را پدید آورده و امکان ارزیابی و اعتراض نسبت به آن را فراهم میکند نیز اهمیت دارد.
این عضو هیئت علمی دانشگاه علم و فرهنگ ادامه داد: مسئله شفافیت الگوریتمی در نهایت به یک پرسش کلاسیک حقوقی بازمیگردد و آن اینکه آیا شخصی که تصمیم درباره او گرفته شده است، میتواند مبنای تصمیم را بفهمد و در برابر آن از حق دفاع استفاده کند؟
قدرت تصمیمگیری در یک شبکه توزیعشده
قناد در ادامه با اشاره به تأثیر فناوری بر رابطه دولت و قدرت دیجیتال گفت: دولت همچنان صاحب قدرت کیفری است، اما تمام زیرساختهای اعمال این قدرت الزاماً در اختیار دولت نیست. داده ممکن است در اختیار یک شرکت خصوصی باشد، پردازش در مراکز داده انجام شود، زیرساخت ابری متعلق به بازیگری دیگر باشد و ابزار تحلیل نیز توسط یک شرکت فناوری طراحی شده باشد.
وی خاطرنشان کرد: در چنین شرایطی، قدرت تصمیمگیری در یک شبکه توزیعشده شکل میگیرد و همین امر ضرورت توجه به نقش هر یک از بازیگران در طراحی، کنترل، آگاهی از خطر و امکان پیشگیری را افزایش میدهد.
دیپفیک و مسئله جدایی هویت از عاملیت
این متخصص حقوق دیجیتال همچنین فناوری دیپفیک را نمونهای از چالشهای نوظهور در حوزه هویت دیجیتال دانست و گفت: هنگامی که فناوری میتواند چهره یا صدای فردی را بدون حضور و اراده او بازتولید کند، مسئله فقط جعل تصویر یا صدا نیست؛ بلکه مسئله، جدایی هویت از عاملیت است.
وی افزود: ممکن است تصویر یا صدای یک فرد بازتولید شود، اما هیچ نسبتی میان آن محتوا و فعل واقعی آن شخص وجود نداشته باشد. از این منظر، اصالت هویت دیجیتال میتواند به یکی از مسائل مهم حقوق در آینده تبدیل شود.
بازاندیشی در پرسش بنیادین حقوق کیفری
قناد تأکید کرد: مسئله حقوق کیفری در عصر هوش مصنوعی، مجازات ماشینها نیست؛ بلکه یافتن مسئولیت انسانی در معماریهایی است که در آنها تصمیمها میان انسانها، دادهها، الگوریتمها و زیرساختها شکل میگیرند.
وی افزود: شاید حقوق کیفری در آینده، در کنار پرسش سنتی «فاعل کیست؟»، ناگزیر باشد پرسش دیگری را نیز در مرکز تحلیل قرار دهد: این تصمیم چگونه ممکن شد و چه کسی معماری آن را ساخته است؟
این عضو هیئت علمی دانشگاه علم و فرهنگ تصریح کرد: پاسخ به این پرسش به معنای کنار گذاشتن اصول سنتی مسئولیت کیفری نیست، بلکه تلاشی برای انطباق تحلیل حقوقی با ساختارهایی است که در آنها تصمیم دیگر همواره محصول اراده یک انسان منفرد نیست.
بر اساس این دیدگاه، آینده حقوق کیفری بیش از آنکه درباره مجازات ماشینها باشد، درباره شناسایی و تبیین مسئولیت انسانی در معماریهای تصمیمگیری واسطهشده توسط ماشینها است.
انتهای پیام
