به گزارش گروه اجتماعی پایگاه خبری تحلیلی «اروم نیوز» شاهرخ احمدزاده فععال رسانهای در یادداشتی نوشت: با گسترش ابزارهای مولد متن، تصویر، صدا و ویدئو، پرسشی حقوقی وارد زندگی روزمره شده است. اگر خروجی یک سامانه هوشمند به آبرو، مال، حریم خصوصی یا امنیت کسی آسیب بزند، چه کسی باید پاسخ بدهد؟ در حقوق ایران پاسخ روشن است. نرمافزار پشت میز اتهام نمینشیند، اما هر انسان یا نهادی که آن را ساخته، عرضه کرده، اداره کرده یا آگاهانه به کار گرفته، به اندازه نقش و تقصیرش مسئول است.
زبان دقیق، داوری دقیق
هوش مصنوعی وجدان ندارد، اراده انسانی ندارد و در وضعیت کنونی حقوق ایران شخصیت حقوقی مستقلی هم ندارد که بتوان آن را مانند یک شرکت به دادگاه فراخواند. برای همین، تعبیر جرم هوش مصنوعی گمراهکننده است. دقیقتر این است که بگوییم جرمی با استفاده از هوش مصنوعی رخ داده یا زیانی از عملکرد یک سامانه هوشمند برخاسته است.
این تفاوت صرفاً ادبی نیست. مسیر انتساب مسئولیت، شیوه اثبات جرم و راه جبران خسارت، همه به همین تفکیک بستگی دارد.
اصل بر مسئولیت انسان است
ماده ۱۴۳ قانون مجازات اسلامی مسئولیت کیفری را در وهله نخست بر دوش شخص حقیقی میگذارد. مسئولیت شخص حقوقی نیز زمانی مطرح میشود که نماینده قانونی او به نام شخص حقوقی یا در راستای منافع آن مرتکب جرم شود. نکته مهم این است که مسئولیت شرکت یا نهاد، مسئولیت فرد مرتکب را از بین نمیبرد.
پیام این قاعده برای پروندههای هوش مصنوعی روشن است. اگر کاربر، مدیر یک پلتفرم، مسئول فنی یا مدیر یک شرکت از ابزار هوشمند برای رفتار مجرمانه استفاده کند، رسیدگی قضایی از شناسایی همان انسان آغاز میشود و به دنبال قصد کیفری نرمافزار نمیگردد.
فرض کنید کسی صدای یک شهروند را با هوش مصنوعی جعل کند و فایل ساختگی را برای اخاذی یا لکهدار کردن آبروی او منتشر کند. ابزار هر قدر پیشرفته باشد، مسئولیت متوجه کسی است که داده را وارد کرده، خروجی را ساخته، منتشر کرده یا از نتیجه بهره برده است. تحقیقات قضایی باید زنجیره عمل را بازسازی کند. چه کسی سفارش داد، چه کسی تولید کرد، چه کسی پخش کرد و چه کسی سود برد.
استفاده از هوش مصنوعی جرم نیست
استفاده از این فناوری بهخودیخود ممنوع نیست، همانگونه که استفاده از رایانه، تلفن همراه و اینترنت ممنوع نیست. هوش مصنوعی در آموزش، ترجمه، تحلیل داده، پزشکی، خدمات عمومی، روزنامهنگاری و حسابرسی کار میکند و مشروع هم هست. مرز قانونی زمانی عبور میشود که فناوری ابزار تحقق رفتاری ممنوع شود.
قانون جرایم رایانهای طیفی از رفتارهای مجرمانه در فضای دیجیتال را پیشبینی کرده است. دسترسی غیرمجاز، تخریب یا اخلال در دادهها، جعل رایانهای، کلاهبرداری رایانهای، نقض حریم خصوصی و جرایم مرتبط با محتوای مستهجن از این جملهاند. ماده ۶ این قانون به جعل رایانهای و ایجاد یا تغییر دادههای قابل استناد میپردازد. با این حال، صرف نام بردن از هوش مصنوعی برای تطبیق یک رفتار با این ماده کافی نیست. عناصر قانونی هر رفتار باید جداگانه و با دقت بررسی شود.
ساخت بدافزار با کمک یک مدل زبانی، تولید تصویر یا ویدئوی جعلی برای فریب مخاطب، جعل دادههای قابل استناد و انتشار محتوای مجرمانه میتواند پرونده کیفری بسازد. اما عنوان اتهام را باید رفتار مشخص، قصد، شیوه انتشار، آثار زیانبار و ادله فنی تعیین کند.
شرکتها پشت الگوریتم پنهان نمیشوند
مواد ۱۹ و ۲۰ قانون جرایم رایانهای مسئولیت کیفری اشخاص حقوقی و ضمانت اجراهای آن را پیشبینی کرده است. وقتی جرم رایانهای به نام شخص حقوقی و در راستای منافع او رخ دهد و شرایط قانونی انتساب فراهم باشد، خود شرکت هم میتواند مسئول شناخته شود.
این حکم برای شرکتهای فناوری، پلتفرمها و سازمانهایی که سامانه هوشمند به کار میبرند اهمیت عملی دارد. جمله الگوریتم تصمیم گرفت در دادگاه سپر مطمئنی نیست، بهویژه اگر مدیران از خطر باخبر بودهاند، سازوکار کنترل نداشتهاند، هشدارها را نادیده گرفتهاند یا از خروجی زیانبار سود بردهاند.
از سوی دیگر، نباید هر خطای فنی را جرم مدیر یا توسعهدهنده دانست. حقوق کیفری به سبب سنگینی مجازات، احراز عنصر قانونی، مادی و معنوی جرم را میطلبد. در بسیاری از خطاهای فنی، بحث اصلی مجازات نیست. جبران خسارت مدنی، نقض قرارداد، قصور حرفهای یا تخلف از الزامات نظارتی محور رسیدگی است.
جبران خسارت، دشوارترین بخش پرونده
ایران هنوز قانون جامع و اختصاصی برای خسارتهای ناشی از هوش مصنوعی ندارد، اما زیاندیده بیپناه نیست. ماده ۱ قانون مسئولیت مدنی مقرر میکند هر کس بدون مجوز قانونی، عمداً یا در اثر بیاحتیاطی به جان، سلامت، مال، آزادی، حیثیت، شهرت تجارتی یا حقوق قانونی دیگری لطمه بزند و موجب ضرر مادی یا معنوی شود، مسئول جبران آن است. ماده ۱۲ نیز در شرایطی کارفرما را مسئول زیان ناشی از عمل کارکنانش در حین کار یا به مناسبت آن میشناسد، مگر آنکه ثابت کند همه احتیاطهای لازم را به کار برده یا جلوگیری از زیان عملاً ممکن نبوده است.
در پروندههای هوش مصنوعی سه پرسش هسته اصلی نزاع است. نخست اینکه چه کسی در زنجیره طراحی، عرضه، بهرهبرداری و انتشار نقش مؤثر داشته است. دوم اینکه آیا زیان قابل اثبات و قابل انتساب به خروجی سامانه است. سوم اینکه آیا شخص مسئول عمد، بیاحتیاطی، نقض تکلیف حرفهای یا کوتاهی در نظارت داشته است.
برای پاسخ به این پرسشها دادگاه به ادله دیجیتال نیاز دارد. لاگهای سامانه، زمان و شیوه تولید محتوا، حساب کاربری، قراردادها، دستورالعملهای داخلی، نسخه مدل، هشدارهای فنی، سوابق نظارت انسانی و نظر کارشناسان همه در این مسیر اهمیت دارند. هر چه سامانه پیچیدهتر شود، ثبتپذیری و قابلیت حسابرسی آن ضروریتر میشود.
انسان باید در حلقه تصمیم بماند
هوش مصنوعی کارهای تکراری را سریعتر انجام میدهد، اما در تصمیمهایی که بر جان، آزادی، آبرو، حق دفاع، استخدام، درمان، اعتبار مالی و سرنوشت قضایی افراد اثر میگذارد، نباید جای داوری انسانی بنشیند. توصیهنامه اخلاق هوش مصنوعی یونسکو که در سال ۲۰۲۱ به تصویب رسید بر کرامت انسانی، شفافیت، انصاف، پاسخگویی و نظارت انسانی تأکید دارد و میگوید سامانههای هوشمند نباید مسئولیت نهایی را از دوش انسان بردارند.
نهادهای استفادهکننده دستکم چهار کار را باید انجام دهند. پیش از بهرهبرداری خطر را بسنجند، نظارت انسانی مؤثر برقرار کنند، تصمیمها را ثبت کنند و راه اعتراض و اصلاح را باز بگذارند. شهروندان هم باید بدانند خروجی هوش مصنوعی حقیقت قطعی نیست. ممکن است نادرست، جانبدارانه یا جعلی باشد و بدون راستیآزمایی نباید مبنای اتهام، قضاوت یا انتشار عمومی شود.
هوش مصنوعی امروز بیش از آنکه مجرم باشد، ابزار است. ابزاری نیرومند که میتواند در خدمت جامعه باشد یا به آن آسیب بزند. مسئولیت حقوقی و اخلاقی با آمدن الگوریتمها از میان نمیرود و تنها باید با دقت بیشتری میان کاربران، مدیران، طراحان، عرضهکنندگان و نهادهای بهرهبردار جستوجو شود. قاعده بنیادین در عصر ماشینها هم پابرجاست. هیچ فناوری نباید پناهگاهی برای پنهان شدن انسان پشت تصمیمهای ماشینی باشد.
