جوانب و پیامدهای حقوقی پدیده دیپ‌فیک

اين گفت‌وگو در تاريخ ششم اردیبهشت‌ماه ۱۴۰4 در هفته‌نامه تجارت فردا منتشر شده است.

جوانب و پیامدهای حقوقی پدیده دیپ‌فیک

پدیده دیپ‌فیک چه جوانب و پیامدهای قانونی می‌تواند داشته باشد؟ این قضیه در جهان چگونه است؛ در صورت امکان مصداقی توضیح دهید.

پدیده دیپ‌فیک، به‌عنوان یکی از دستاوردهای پیچیده هوش مصنوعی، چالش‌های حقوقی و اخلاقی فراوانی را در سطح جهانی و ملی ایجاد کرده است.

دیپ‌فیک (Deepfake) ترکیبی از دو واژه «Deep Learning» و «Fake» است و به محتوای چندرسانه‌ای اطلاق می‌شود که با بهره‌گیری از یادگیری عمیق و هوش مصنوعی، به‌گونه‌ای واقع‌گرایانه جعل‌شده‌اند. این فناوری با وجود کاربردهای مثبت، پتانسیل سوءاستفاده فراوانی دارد که آن را به تهدیدی جدی برای حریم خصوصی، امنیت اجتماعی و اعتبار افراد و نهادها تبدیل کرده است.

ابعاد حقوقی پدیده دیپ‌فیک متنوع و متعدد هستند. یکی از مهم‌ترین جوانب قانونی دیپ‌فیک، «نقض حریم خصوصی» افراد است. استفاده بدون رضایت از تصویر، صدا یا حرکات افراد در تولید محتواهای جعلی، موجب تعرض به حقوق شخصی آنان می‌شود. ساخت ویدیوهایی که افراد را در حال انجام اعمال یا گفتن سخنانی نشان می‌دهد که حقیقت ندارند، می‌تواند مصداق «افترا» یا «نشر اکاذیب» تلقی شود و مشمول پیگرد قضایی قرار گیرد. استفاده از دیپ‌فیک برای «جعل» هویت، به‌ویژه در حوزه‌های مالی و سازمانی، یکی از خطرناک‌ترین مصادیق آن است. جعل صدای مدیر یک شرکت برای صدور دستور انتقال وجه، نمونه‌ای واقعی از این کاربرد مجرمانه است. در سطح کلان، دیپ‌فیک‌ها می‌توانند ابزار جنگ روانی، تضعیف اعتماد عمومی و «تخریب فرایندهای دموکراتیک» مانند انتخابات باشند.

وضعیت حقوقی کنونی مقابله با دیپ‌فیک در جهان در حال بهتر شدن است. در ایالات‌متحده آمریکا برخی ایالت‌ها مانند کالیفرنیا (California Civil Code Section 1708.86) و تگزاس قوانین مشخصی برای مقابله با دیپ‌فیک در زمینه‌های پورنوگرافی غیرقانونی و محتوای سیاسی تصویب کرده‌اند. در اتحادیه اروپا بر اساس مقررات عمومی حفاظت از داده (General Data Protection Regulation) استفاده بدون مجوز از داده‌های بیومتریک افراد (مانند چهره یا صدا) می‌تواند تخلف تلقی شود و مجازاتی به همراه داشته باشد. جالب است که چین از کشورهای پیشرو در قانون‌گذاری شفاف علیه دیپ‌فیک است و تولیدکنندگان این محتواها موظف به درج هشدار و اطلاع‌رسانی به مخاطب هستند. چین در سال ۲۰۱۹ قانونی وضع کرد که کاربران را ملزم می‌کند هویت واقعی خود را هنگام انتشار محتوای دیپ‌فیک افشا کنند. همچنین، پلتفرم‌ها موظف به علامت‌گذاری صریح محتوای مصنوعی هستند. نهادهایی بین‌المللی مانند یونسکو، شورای اروپا و اتحادیه بین‌المللی مخابرات (ITU) تلاش‌هایی برای تدوین چارچوب‌های اخلاقی و حقوقی جهانی جهت کنترل کاربردهای منفی دیپ‌فیک انجام داده‌اند.

آیا همکاری بین‌المللی برای مقابله با تهدیدات فرامرزی دیپ‌فیک وجود دارد؟

همکاری‌های بین‌المللی در مقابله با دیپ‌فیک در چند سطح قابل‌رؤیت است. سطح نخست در قالب ائتلاف شرکت‌های فناوری تعریف‌شده است. شرکت‌هایی مانند Google، Meta، Microsoft و Amazon در قالب نهادهایی نظیر Partnership on AI تلاش می‌کنند با توسعه ابزارهای تشخیص دیپ‌فیک و استانداردسازی تولید محتوا، گسترش اطلاعات نادرست را کاهش دهند.

اتحادیه اروپا در سطحی دیگر در چارچوب پروژه‌هایی مانند Horizon 2020 و مقررات عمومی حفاظت از داده اتحادیه اروپا (GDPR) اقدام به تدوین سیاست‌ها و فناوری‌هایی برای تشخیص محتوای جعلی و حفاظت از داده‌های بیومتریک کرده است.

کشورهای عضو ائتلاف اطلاعاتی Five Eyes (آمریکا، انگلستان، کانادا، استرالیا و نیوزلند) در قالب طرح‌های اطلاعاتی مشترک، در سطحی دیگر تهدیدات مرتبط با دیپ‌فیک را شناسایی و رصد می‌کنند.

در سطحی دیگر سازمان ملل و یونسکو (Recommendation on the Ethics of Artificial Intelligence) با انتشار گزارش‌هایی درباره خطرات دیپ‌فیک و ارائه دستورالعمل‌های اخلاقی برای توسعه هوش مصنوعی، به کشورهای عضو در تنظیم سیاست‌ها کمک می‌کنند.

سازمان‌های پلیسی مانند اینترپل و یوروپل نیز برنامه‌هایی برای آموزش کارشناسان امنیت سایبری و توسعه فناوری‌های شناسایی دیپ‌فیک در پرونده‌های جنایی اجرا کرده‌اند.

آیا این موضوع در قالب «مسئولیت‌پذیری پلتفرم‌های دیجیتال» تعریف‌شده است؟ توضیح دهید.

موضوع دیپ‌فیک و چالش‌های آن قطعاً و به‌طور مستقیم با «مسئولیت‌پذیری پلتفرم‌های دیجیتال» مرتبط است. درواقع، مسئولیت‌پذیری پلتفرم‌های دیجیتال درزمینه مدیریت محتوای تولیدی کاربران و جلوگیری از سوءاستفاده‌های ناشی از تکنولوژی‌هایی مانند دیپ‌فیک یکی از مباحث کلیدی در دنیای حقوق دیجیتال است. پلتفرم‌های دیجیتال مانند یوتیوب، فیس‌بوک، ایکس (توییتر) و تیک‌تاک در معرض مسئولیت حقوقی به دلیل محتوای تولیدی کاربرانشان قرار دارند. در این رابطه این پلتفرم‌ها معمولاً با دو چالش اساسی مواجه هستند: نخست «شناسایی محتوای نادرست» می‌باشد. پلتفرم‌ها باید به شکلی مؤثر و کارآمد، محتوای تولیدشده توسط کاربران را نظارت کنند و از انتشار محتوای دیپ‌فیک که می‌تواند منجر به اطلاعات نادرست، افترا و آسیب‌های اجتماعی شود، جلوگیری کنند. چالش دوم «تعهدات قانونی» پلتفرم‌ها می‌باشد. بسیاری از کشورها در تلاش‌اند تا قوانین و مقرراتی وضع کنند که پلتفرم‌ها را به مسئولیت‌پذیری بیشتر در قبال محتوای منتشرشده وادار کنند.

در مورد چارچوب‌های قانونی مسئولیت‌پذیری پلتفرم‌ها در سطح بین‌المللی، چندین چارچوب قانونی وجود دارد که به مسئله مسئولیت‌پذیری پلتفرم‌ها در قبال محتوای تولیدی کاربران پرداخته است. در اتحادیۀ اروپا قانون خدمات دیجیتال (Digital Services Act) که در سال ۲۰۲۰ تصویب شد، پلتفرم‌ها را موظف می‌کند تا اقداماتی در راستای جلوگیری از انتشار محتوای غیرقانونی یا گمراه‌کننده انجام دهند. این مقررات (DSA) پلتفرم‌ها را به شفافیت در تصمیم‌گیری‌های خود و همچنین نظارت بر محتوای کاربران موظف می‌کند. در این اتحادیه همچنین مقررات عمومی حفاظت از داده (General Data Protection Regulation) طور خاص درزمینه حفاظت از داده‌های شخصی و جلوگیری از سوءاستفاده‌های احتمالی از این داده‌ها در محتوای دیجیتال ازجمله دیپ‌فیک‌ها، برای پلتفرم‌ها الزامات و مسئولیت‌هایی تعیین کرده است.

در آمریکا قانون سلب مسئولیت دیجیتال آمریکا (Section 230 of the Communications Decency Act) به پلتفرم‌ها اجازه می‌دهد که بدون مسئولیت قانونی در قبال محتوای تولیدی توسط کاربرانشان عمل کنند؛ اما این قانون به‌طور فزاینده‌ای در معرض انتقاد قرارگرفته است، به‌ویژه در مورد تهدیدات جدید مانند دیپ‌فیک و اطلاعات غلط.

بسیاری از پلتفرم‌های دیجیتال برای کاهش خطرات ناشی از دیپ‌فیک‌ها و سایر انواع محتوای گمراه‌کننده، رأساً اقدام به استفاده از فناوری‌های تشخیص خودکار کرده‌اند. این اقدامات شامل استفاده از الگوریتم‌های هوش مصنوعی برای شناسایی تصاویر و ویدیوهای جعلی است. در این میان یکی از چالش‌های اصلی درزمینه مسئولیت‌پذیری پلتفرم‌ها، تعادل میان آزادی بیان و حفاظت از حقوق افراد است. درحالی‌که پلتفرم‌ها موظف به جلوگیری از انتشار محتوای مضر مانند دیپ‌فیک هستند، درعین‌حال باید از سانسور بیش‌ازحد یا محدودیت‌های ناعادلانه آزادی بیان اجتناب کنند.

درنهایت، مسئولیت‌پذیری پلتفرم‌های دیجیتال در قبال دیپ‌فیک و محتوای مضر، یک چالش حقوقی و اجتماعی پیچیده است که نیاز به تعادل دقیق بین مسئولیت‌پذیری، حفاظت از حقوق فردی و حمایت از آزادی بیان دارد. قوانین مختلف در سراسر جهان در حال تکامل هستند تا پلتفرم‌ها را ملزم به اقداماتی مؤثر برای مقابله با تهدیدات ناشی از فناوری‌هایی مانند دیپ‌فیک کنند.

آیا نهاد یا شخصی مسئول استفاده نادرست از دیپ‌فیک‌ها است؟ نقش حقوقی سازنده و منتشرکننده در این مورد چیست؟

در مواجهه با پدیده دیپ‌فیک، مسئولیت حقوقی به‌طورکلی شامل مسئولیت سازندگان، منتشرکنندگان و در برخی موارد، پلتفرم‌هایی است که این محتواها را در دسترس عموم قرار می‌دهند.

سازندگان دیپ‌فیک‌ها مسئولیت زیادی در قبال محتوای تولیدی خود دارند. اگر دیپ‌فیک‌ها به‌منظور ارتکاب جرم یا نقض حقوق افراد تولید شوند، سازنده آن به‌عنوان مسئول اصلی شناخته می‌شود. مسئولیت‌های قانونی سازنده می‌تواند جعل و دست‌کاری اطلاعات، نشر اکاذیب، نقض حریم خصوصی و افتراء و توهین باشد.

منتشرکننده دیپ‌فیک (شخص یا نهادی که دیپ‌فیک‌ها را منتشر می‌کند، به‌ویژه اگر این کار به‌منظور آسیب رساندن به دیگران باشد) می‌تواند مسئول شناخته شود. اگر فرد یا نهادی به‌طور عمدی دیپ‌فیک‌ها را منتشر کند و این محتواها باعث افتراء، توهین یا گمراهی عموم شوند، مسئولیت قانونی متوجه وی خواهد بود. اگر منتشرکننده از دیپ‌فیک‌ها برای نقض حریم خصوصی افراد استفاده کند (مثلاً منتشر کردن ویدیوهای خصوصی یا تغییر تصاویر افراد)، این عمل نیز می‌تواند تحت قوانین حمایت از حریم خصوصی قرار گیرد.

مسئولیت پلتفرم‌ها (سایت‌ها و شبکه‌های اجتماعی) نیز در مواردی که دیپ‌فیک‌ها در پلتفرم‌ها یا شبکه‌های اجتماعی مانند یوتیوب، فیس‌بوک، یا اینستاگرام منتشر می‌شوند، قابل‌بررسی است. بسیاری از پلتفرم‌ها، به‌ویژه در کشورهای توسعه‌یافته، موظف به نظارت بر محتوای منتشرشده هستند و درصورتی‌که محتوای غیرقانونی مانند دیپ‌فیک‌ها شناسایی شود، باید آن را حذف کنند. در قانون خدمات دیجیتال اتحادیه اروپا و قانون سلب مسئولیت دیجیتال آمریکا، پلتفرم‌ها معمولاً از مسئولیت قانونی در قبال محتوای تولیدشده توسط کاربران معاف هستند؛ مگر اینکه به‌طور فعال در نشر یا انتشار محتوای نادرست دخالت کنند. در ایران، طبق قانون جرایم رایانه‌ای، اگر پلتفرم‌ها از محتوای مضر یا غیرقانونی مانند دیپ‌فیک‌ها مطلع شوند و آن‌ها را از بین نبرند، ممکن است به مسئولیت قانونی برخورد کنند.

نهادهای قضائی و اجرائی نیز نقش مهمی در پیگیری و نظارت بر استفاده نادرست از دیپ‌فیک‌ها دارند. این نهادها می‌توانند با طرح شکایات و پیگیری‌های قانونی، به شناسایی و برخورد با متخلفین بپردازند. پلیس فتا (پلیس فضای تولید و تبادل اطلاعات) مسئول نظارت بر فعالیت‌های مجرمانه در فضای مجازی است و می‌تواند در شناسایی و پیگیری استفاده نادرست از دیپ‌فیک‌ها نقش مؤثری داشته باشد.

استفاده از دیپ‌فیک در مواردی می‌تواند ناقض حقوق خصوصی افراد و حریم شخصی آن‌ها باشد. برای این موضوع در ایران قانونی وجود دارد؟ به‌عبارت‌دیگر، استفاده نادرست از فناوری دیپ‌فیک در ایران تحت چه عناوین قانونی قابل‌تعقیب و پیگیری است؟

استفاده نادرست از فناوری دیپ‌فیک می‌تواند در ایران تحت عناوین مختلف قانونی قابل‌تعقیب و پیگیری باشد. اگرچه قانون جرایم رایانه‌ای (مصوب 1388) به‌طور خاص به پدیده دیپ‌فیک اشاره ندارد؛ اما مواد مختلف آن می‌توانند برای برخورد با این پدیده به‌کار گرفته شوند و یکی از مهم‌ترین ابزارهای قانونی برای مقابله با جرایم مرتبط با فناوری‌های نوین در ایران است و بسیاری از تخلفات ناشی از استفاده نادرست از فناوری دیپ‌فیک را تحت پوشش خود قرار می‌دهد. برخی از موارد مهم این قانون عبارت‌اند از: ماده ۶ (دسترسی غیرمجاز به داده‌ها)، ماده ۱۲ (حفاظت از اطلاعات شخصی)، ماده ۱۷ (جعل و دست‌کاری اسناد و مدارک)، ماده ۲۱ (مجازات مربوط به افتراء و توهین)، ماده ۲۵ (نشر اکاذیب).

درصورتی‌که دیپ‌فیک‌ها به‌منظور اخلال در نظم عمومی یا تشویش اذهان عمومی استفاده شوند، برای مثال، انتشار ویدیوهای دیپ‌فیک که باعث تشویش اذهان عمومی یا ترس و اضطراب در جامعه شوند، این عمل می‌تواند تحت قانون مجازات اسلامی (در قسمت کتاب پنجم مصوب ۱۳75) قابل‌پیگیری باشد.

درصورتی‌که دیپ‌فیک‌ها برای بهره‌برداری از تصاویر یا ویدیوهای کودکان مورداستفاده قرار گیرند، این عمل ممکن است نقض حقوق کودک و حریم شخصی او محسوب شود که تحت قانون حمایت از اطفال و نوجوانان (مصوب 1399) قابل‌پیگیری است.

درصورتی‌که دیپ‌فیک‌ها به‌منظور نقض حقوق مالکیت فکری اشخاص استفاده شوند؛ مانند ساخت و انتشار دیپ‌فیک از شخصیت‌های عمومی یا هنرمندان بدون اجازه، این عمل تحت قوانین حقوق مالکیت فکری قرار می‌گیرد.

البته هنوز در این زمینه، نیاز به ایجاد سازوکارهای نظارتی دقیق و قوانین به‌روز برای مقابله با این تهدیدات جدید، بیش‌ازپیش احساس می‌شود.

برای مقابله با تهدیدات این پدیده در ایران چه راهکارهایی وجود دارد؟ آیا الگوهای جهانی قابل‌اجرا در ایران هستند؟

مقابله با تهدیدات دیپ‌فیک نیازمند رویکردی چندبعدی است: از اصلاح قوانین و توسعه فناوری گرفته تا آموزش عمومی و نظارت مؤثر بر پلتفرم‌ها. ایران می‌تواند با استفاده از تجارب جهانی و تطبیق آن‌ها با ساختارهای داخلی، به‌طور مؤثر با این تهدید نوظهور برخورد کند. همکاری میان دولت، دانشگاه‌ها، قوه قضائیه و جامعه مدنی برای اجرای این راهبردها ضروری است.

جهت تقویت قوانین و مقررات، بازنگری و به‌روزرسانی قانون جرایم رایانه‌ای با ذکر صریح مصادیق دیپ‌فیک و جرم‌انگاری تولید، انتشار یا استفاده غیرمجاز از آن همچنین تدوین قوانین خاص برای حفاظت از داده‌ها و حریم خصوصی افراد، با تأکید بر ممنوعیت استفاده از تصویر، صدا یا هویت افراد بدون رضایت آن‌ها لازم است.

در بعد توسعه فناوری‌های تشخیص دیپ‌فیک، حمایت دولت از پژوهش‌ها و استارتاپ‌ها برای طراحی ابزارهای شناسایی و مقابله با محتوای جعلی و استفاده از هوش مصنوعی معکوس برای شناسایی امضاهای دیجیتال در فایل‌های تصویری و ویدیویی جعلی ضروری است.

از منظر نظارت و مسئولیت‌پذیری پلتفرم‌ها، الزام پلتفرم‌های ایرانی به نظارت مؤثر بر محتوای کاربران، ارائه گزارش منظم و حذف فوری دیپ‌فیک‌های آسیب‌زا و همچنین تدوین نظام مسئولیت حقوقی پلتفرم‌ها مشابه نظام‌های جهانی مانند (DSA اتحادیه اروپا) مهم است.

آموزش عمومی و سواد رسانه‌ای مشتمل بر تدوین برنامه‌های آموزشی در مدارس و دانشگاه‌ها درباره تشخیص و مقابله با محتوای جعلی و ارتقای آگاهی عمومی نسبت به خطرات و کاربردهای غیراخلاقی دیپ‌فیک نیز اهمیت دارد.

نقش نهادهای قضایی و انتظامی و افزایش توان تخصصی پلیس فتا در شناسایی، ردیابی و مقابله با تولیدکنندگان و منتشرکنندگان دیپ‌فیک همچنین راه‌اندازی شعبه‌های ویژه در دادسراهای جرایم سایبری برای رسیدگی سریع‌تر به جرایم مبتنی بر دیپ‌فیک می‌تواند مؤثر باشد.