به گزارش گروه اجتماعی پایگاه خبری تحلیلی «اروم نیوز» شاهرخ احمدزاده فعال رسانهای در یادداشتی نوشت: اعتراف در اتاقک شیشهای چتباتها گوش شنوا نیستند، پایانههای جمعآوری دادهاند! چرا نباید پروندههای قضایی، اسناد پزشکی و رازهای خانوادگی را خوراک مدلهای زبانی کنیم؟ تا همین چند سال پیش، اگر انسان گرفتار بحرانی خانوادگی میشد، در پیچوخم یک پرونده حقوقی گیر میافتاد یا دغدغهای پزشکی روحش را میخراشید، محرم رازش یا وکیلی کارکشته بود، یا پزشکی معتمد و یا مشاوری رازدار.
اما امروز، ابزاری بیچهره به نام چتبات هوش مصنوعی روی صفحه گوشیهای تلفن همراه جا خوش کرده است ابزاری که خسته نمیشود، قضاوت نمیکند، همیشه در دسترس است و در چند ثانیه، طوماری از پاسخهای آراسته تحویل میدهد. همین دسترسی فریبنده و ظاهر همدلانه، جامعه را به سمت پرتگاهی خطرناک کشانده است.
اعتراف داوطلبانه در خلوتگاه شیشهای هوش مصنوعی بسیاری از شهروندان بیمحابا اسناد هویتی تصاویر خصوصی آرای دادگاه، فایلهای صوتی و جزئیترین رازهای شخصی خود را در کادر متنی هوش مصنوعی تایپ یا آپلود میکنند غافل از اینکه این چتباتها محرم اسرار نیستند، بلکه درگاههای دریافت و پردازش دادهاند که تمام ورودیها را به عنوان سوخت موتورهای یادگیری ماشینی و سرورهای ابری ذخیره میکنند.
قراردادهایی که نخوانده امضا میکنیم نخستین خطای شناختی کاربران این است که محیط گفتگو با چتبات را مانند یک گفتگوی دونفره رمزگذاریشده تلقی میکنند. واقعیت فنی و حقوقی این است که در نسخههای رایگان و عمومی اکثر پلتفرمهای هوش مصنوعی، متن پرامپتها، تصاویر و اسناد ارسالی، مستقیماً برای بازآموزی مدلها و بازبینی انسانی توسط تیمهای نظارتی مورد استفاده قرار میگیرد.
هنگامی که کاربری با فشردن یک کلیک، شرایط استفاده از خدمت و اسناد پردازش داده را بدون مطالعه میپذیرد، عملاً به سامانه اجازه داده است تا محتوای ورودی او را پردازش، طبقهبندی و بایگانی کند. حتی در صورت وجود قوانین فرامرزی سختگیرانهای نظیر GDPR، صرف وجود مقررات مانع از خطاهای نشت داده، سرقت سایبری سرورها یا تحلیل الگوهای رفتاری کاربران نخواهد بود.
ایجنتهای خودمختار و کلاهبرداریهای مهندسیشده خطر بزرگتر زمانی رخنمایی میکند که این اطلاعات هویتی و رفتاری با ابزارهای مجرمانه پیوند میخورند. امروز جهان از مرحله هوش مصنوعیهای ساده عبور کرده و وارد عصر ایجنتهای هوش مصنوعی(AI Agents) شده است دستیارهای خودمختاری که نیازی به دستور لحظهای انسان ندارند و میتوانند به صورت پیوسته اهداف محولشده را اجرا کنند.
تصور کنید پایگاههای دادهای که بر اثر نشت اطلاعات سازمانی یا هک سرورها در دارکوب دستبهدست میشوند، در اختیار یک ایجنت هوش مصنوعی قرار گیرند. این ابزار مجرمانه میتواند با تحلیل جزئیات زندگی، لحن صحبت، مشکلات مالی یا پروندههای حقوقی افراد، با صدها قربانی به طور همزمان چت اختصاصی و عاطفی برقرار کند. سناریوهای فیشینگ، ادعای واریز رمزارز (نظیر تتر یا ترون)، اعلام اضطرار مالی جعلی از زبان بستگان و طراحی سناریوهای باجگیری، دیگر نیازمند زمانگذاری مجرم انسانی نیست هوش مصنوعی نقشه فریب را متناسب با نقطه ضعفهای افشاشده فرد شخصیسازی میکند.
قانون چه میگوید؟
توهم مصونیت و مسئولیت کیفری برخی کاربران یا طراحان فناوری تصور میکنند به دلیل ماهیت مستقل خروجیهای هوش مصنوعی، میتوان پشت این فناوری پنهان شد. اما از منظر حقوق کیفری ایران، هوش مصنوعی فاقد اراده و ادراک مستقل است و شخصیت حقوقی یا کیفری ندارد.
بر اساس اصل حاکم بر ماده ۱۴۳ قانون مجازات اسلامی، مسئولیت کیفری اساساً متوجه شخص حقیقی است. بنابراین، هرگونه تولید محتوای جعلی، جعل صدا و تصویر (Deepfake)، هتک حیثیت و آبروی افراد از طریق ابزارهای ماشینی ذیل ماده ۷۴۴ قانون مجازات اسلامی (جرایم رایانهای) جرمانگاری شده و پیگرد قانونی دارد.
همچنین سوءاستفاده از محتوای تولیدی برای ربودن مال غیر، مشمول ماده ۷۴۱ (کلاهبرداری رایانهای) خواهد بود. بار حقوقی تمامی اعمال خلاف قانونی که توسط سامانهها یا ایجنتها انجام شود، مستقیماً بر دوش فردی است که فرآیند را طراحی، برنامهریزی یا هدایت کرده است. خطای محاسباتی در حقوق و پزشکی؛ پاسخ زیبا الزاماً درست نیست بخش نگرانکننده دیگر، سپردن سرنوشت سلامت و پروندههای قضایی به هوش مصنوعی است. چتباتها مستعد پدیدهای به نام توهم هستند به این معنا که میتوانند با قاطعیتی فریبنده، مواد قانونی ناموجود، آرای باطل یا نسخههای درمانی غلط اما به ظاهر علمی ارائه دهند.
