قانون گذاری در حوزه هوش مصنوعی

امروزه هوش مصنوعی (AI) به عنوان یکی از برجسته ترین دستاوردهای علمی قرن 21، تاثیرات شگرفی بر جنبه های مختلف زندگی عمومی و خصوصی بشر گذاشته است. این فناوری با قابلیت های پیشرفته در پردازش داده ها و تحلیل الگوریتمی به سرعت در حال گسترش است و امکانات جدیدی را در حوزه های گوناگون مانند بهداشت، حمل و نقل و ارتباطات فراهم می آورد؛ اما این پیشرفت ها هم زمان با چالش های جدی از جمله نگرانی های حقوقی، اخلاقی و اجتماعی مواجه است که نیاز به قانون گذاری مناسب و شفاف را اجتناب ناپذیر می سازد. نادیده گرفتن این مسائل می تواند پیامدهای منفی قابل توجهی به همراه داشته باشد.

ضرورت و اهداف پژوهش

فناوری هوش مصنوعی (AI) با قابلیت های یادگیری عمیق و تحلیل داده های کلان در حوزه هایی مانند بهداشت، حمل و نقل و آموزش تحول ایجاد کرده است، ولی خطرات و چالش های اجتماعی، حقوقی و اخلاقی را نیز به دنبال داشته است. یکی از چالش های اصلی عدم وجود قوانین جامع و شفاف در زمینه هوش مصنوعی است که مسائل اساسی مانند مسئولیت حقوقی و حفظ حریم خصوصی را برجسته کرده است. کشورهای مختلف از جمله اتحادیه اروپا و ایالات متحده رویکردهای متفاوتی برای قانون گذاری در حوزه هوش مصنوعی دارند. بررسی این رویکردها و وضعیت ایران می تواند به شناسایی نقاط قوت و ضعف سیاست گذاری کمک کند. این گزارش به تحلیل ضرورت ها و چالش های قانون گذاری در حوزه هوش مصنوعی می پردازد و راهکارهایی برای تدوین چارچوب های قانونی مناسب و تاکید بر شفافیت و مسئولیت پذیری ارائه می دهد.

چالش های حقوقی و اخلاقی هوش مصنوعی

هوش مصنوعی (AI) با سرعت رشد چشمگیر خود، به تاثیرگذارترین فناوری عصر حاضر تبدیل شده و در حوزه های علمی، صنعتی و اجتماعی فرصت های نوآورانه ای ایجاد کرده است؛ اما این فناوری همچنین چالش های حقوقی، اخلاقی و اجتماعی بی سابقه ای را نیز به وجود آورده است. یکی از مسائل کلیدی، خلاهای قانونی در تصمیم گیری های الگوریتمی و مسئولیت حقوقی آن ها است. به عنوان مثال، هنگامی که سیستم های هوش مصنوعی در مواردی چون تایید وام یا استخدام تصمیم گیری می کنند، مشخص نیست مسئولیت خطاها بر عهده چه کسی است. همچنین نگرانی های اخلاقی در زمینه عدالت اجتماعی، به ویژه در مورد الگوهای سوگیرانه الگوریتم ها، ضرورت تدوین قوانین مؤثر را افزایش می دهد.

کشورها و سازمان های بین المللی رویکردهای متنوعی را اتخاذ کرده اند. در ایران، نیاز به سیاستگذاری جامع و بهره گیری از تجربیات بین المللی احساس می شود. به دنبال آن انطباق قوانین با تغییرات سریع این فناوری و اتخاذ رویکردی پیشگیرانه برای حل چالش ها و بهره برداری از فرصت ها ضروری است تا به توسعه پایدار و بهبود کیفیت زندگی کمک کند.

مروری بر تجربه ها و وضعیت فعلی

در این بخش به مرور تجربه های کشورهای مختلف در زمینه قوانین هوش مصنوعی پرداخته می شود:

اتحادیه اروپا

اتحادیه اروپا در آوریل 2021 پیش نویس قانون هوش مصنوعی (AI Act) را منتشر کرد که جامع ترین چارچوب قانونی جهان محسوب می شود. این چارچوب سیستم ها را بر اساس ریسک ها دسته بندی می کند:

• ریسک غیرقابل قبول: کاربردهایی که تهدید جدی برای امنیت و حقوق انسان ایجاد می کنند (مانند نظارت گسترده بدون اجازه)؛
• ریسک بالا: سیستم هایی که به طور مستقیم بر حقوق افراد تاثیر می گذارند (مانند سامانه های استخدامی)؛
• ریسک محدود: سیستم هایی با اثرات محدود که باید الزامات شفافیت را رعایت کنند؛
• ریسک پایین: استفاده آزاد با حداقل مقررات صورت می گیرد.

الزامات برای توسعه دهندگان شامل ارزیابی دقیق ریسک ها، ثبت و گزارش دهی به سازمان های ناظر و تضمین امنیت داده ها و حریم خصوصی است. همچنین سیستم های هوش مصنوعی با کاربردهای مخرب مانند دستکاری رفتار انسان ممنوع هستند.

با این حال چالش هایی در اجرایی سازی این مقررات وجود دارد. عدم وجود استانداردهای فنی هماهنگ بین کشورهای عضو، تنوع در قوانین حریم خصوصی و عدم شفافیت در تعریف مسئولیت قانونی برای خطاهای پیچیده سیستم های هوش مصنوعی از جمله این چالش ها هستند.

ایالات متحده آمریکا

ایالات متحده به جای رویکرد متمرکز از مدل غیرمتمرکز و خودتنظیمی در حوزه هوش مصنوعی بهره می برد. سند راهبرد ملی هوش مصنوعی در سال 2019، اولویت هایی چون نوآوری و رقابت جهانی، حمایت از تحقیقات و ترویج همکاری بین دولت و بخش خصوصی را مطرح می کند. این سند بر اخلاق و حقوق بشر تاکید می کند، اما الزام قانونی قوی ای ندارد.

همچنین در این مدل ورود چارچوب های اخلاقی از سوی سازمان هایی مانند موسسه ملی استاندارد و فناوری (NIST) و شورای مشورتی هوش مصنوعی مشاهده می شود، اما بسیاری از این قوانین الزام آور نیستند. خلاهای ساختاری شامل نبود قوانین یکپارچه و الزام آور در زمینه هایی چون مسئولیت حقوقی، حریم خصوصی و تبعیض الگوریتمی همواره وجود دارد. علاوه بر این پراکندگی قوانین ایالتی منجر به عدم هماهنگی در سطح ملی شده و ضعف هایی در حفاظت از حقوق مصرف کننده و نیروی کار در مواجهه با تصمیمات هوشمند به وجود آورده است.

جمهوری خلق چین

چین در حوزه هوش مصنوعی رویکردی کاملا متمرکز و امنیت محور دارد و هدف آن تبدیل به رهبر جهانی AI تا سال 2030 است. برنامه ملی توسعه این کشور شامل سرمایه گذاری های کلان در فناوری و زیرساخت ها، استفاده گسترده از AI در نظام های امنیتی و نظارتی و کنترل سختگیرانه بر داده ها است.

چین دارای قوانینی نظیر قانون امنیت سایبری (2017) و قانون حفاظت از اطلاعات شخصی (2021) است که کنترل شدیدی بر جمع آوری و انتقال داده ها دارند و همکاری شرکت ها با نهادهای دولتی را برای دسترسی به داده ها و الگوریتم ها الزامی می کنند.

با این حال چالش هایی نیز مانند «نگرانی های بین المللی درباره نقض حریم خصوصی و حقوق بشر به دلیل سیاست های نظارتی سختگیرانه»، «فقدان شفافیت در تصمیم گیری های حکومتی و استفاده از AI» و «ضعف در ایجاد چارچوب های اخلاقی مستقل و تضمین حقوق کاربران» وجود دارد.

تحلیل وضعیت ایران و مقایسه آن با کشورهای پیشرو

وضعیت قانون گذاری در ایران در حوزه هوش مصنوعی با محدودیت های زیادی مواجه است:

• عدم وجود قانون جامع: ایران فاقد یک قانون مدون و جامع در زمینه هوش مصنوعی است و قوانین مرتبط عمدتا پراکنده و ناکافی هستند؛
• عدم وجود سیاست ملی: برنامه ای ملی و استراتژیک با اهداف مشخص برای توسعه و قانون گذاری هوش مصنوعی وجود ندارد؛
• کمبود نهادهای تخصصی: نهادهای مستقل برای نظارت، ارزیابی و صدور مجوزهای مرتبط با AI وجود ندارند؛
• زیرساخت های ابتدایی: زیرساخت های داده ای و ابری هنوز در مراحل ابتدایی توسعه قرار دارند و کیفیت داده ها مناسب نیست؛
• کمبود نیروی متخصص: آموزش های تخصصی گسترده در زمینه هوش مصنوعی و حقوق فناوری ناقص و محدود است.

این مسائل به محدودیت هایی در دسترسی به داده های با کیفیت و منابع باز برای توسعه AI منجر می شود.

مقایسه ایران با کشورهای پیشرو

در بررسی معیارهای قانون گذاری هوش مصنوعی، تفاوت هایی میان ایران، چین و ایالات متحده وجود دارد. ایران هنوز به یک قانون جامع نرسیده و در حال توسعه زیرساخت های حقوقی است. چین با سیاستگذاری متمرکز نظام های حقوقی را ایجاد کرده است. ایالات متحده با رویکرد خودتنظیمی و غیرمتمرکز از انعطاف پذیری بیشتری برخوردار است. ایران در مسئولیت های حقوقی کمبود دارد، در حالی که چین دارای استانداردهای پراکنده است. همچنین در حمایت از نوآوری، ایران با نقص در ساختار مواجه است، در حالی که ایالات متحده به تشویق نوآوری پرداخته است. این تفاوت ها نیاز به هماهنگی های بیشتر را در سیاستگذاری های هوش مصنوعی کشور نمایان می کند.

راهبردهای موثر برای قانون گذاری و مدیریت هوش مصنوعی

از جمله این راهبردها عبارتند از:

تدوین چارچوب های قانونی جامع و شفاف

برای قانون گذاری موثر در حوزه هوش مصنوعی تدوین چارچوب های جامع و شفاف حقوقی که تمامی ابعاد این فناوری را پوشش دهد ضروری است. این چارچوب باید شامل جنبه هایی همچون مسئولیت پذیری، شفافیت الگوریتمی و حفاظت از داده ها باشد. به عنوان مثال در اتحادیه اروپا، مقررات پیشنهادی AI Act بر رویکرد مبتنی بر سطح ریسک تاکید دارد که می تواند الگویی مناسب برای ایران باشد.

ایجاد نهادهای نظارتی مستقل

ایجاد نهادهای مستقل برای نظارت بر عملکرد سیستم های هوش مصنوعی و ارزیابی تاثیرات اجتماعی و حقوقی آن ها از اهمیت بالایی برخوردار است. این نهادها باید توانایی ارزیابی و مداخله در مواقع بروز مشکلاتی همچون سوگیری الگوریتمی یا نقض حریم خصوصی را داشته باشند.

آموزش و توانمندسازی تخصصی

آموزش متخصصان و تقویت دانش عمومی در زمینه هوش مصنوعی یکی از راهکارهای اساسی برای مدیریت بهتر این فناوری است. دانشگاه ها و مراکز آموزشی باید دوره های تخصصی در زمینه هوش مصنوعی، اخلاق فناوری و حقوق مرتبط با آن ارائه دهند.

تدوین استانداردهای اخلاقی و فنی

تدوین استانداردهای فنی و اخلاقی برای طراحی و پیاده سازی سیستم های هوش مصنوعی امری حیاتی است. این استانداردها باید از طریق مشارکت ذینفعان مختلف از جمله دولت، صنعت، دانشگاه ها و جامعه مدنی تدوین شوند تا اطمینان حاصل شود که هوش مصنوعی به صورت اخلاقی و مسئولانه توسعه می یابد.

ارزیابی تاثیرات اجتماعی و زیست محیطی

ارزیابی دقیق تاثیرات اجتماعی و زیست محیطی هوش مصنوعی باید بخشی از فرایند توسعه و پیاده سازی این فناوری باشد. برای مثال اثرات هوش مصنوعی بر اشتغال و نابرابری های اجتماعی باید به دقت بررسی شود تا سیاست هایی مناسب برای کاهش این تاثیرات تدوین شود.

جمع بندی

فناوری هوش مصنوعی (AI) به عنوان یکی از نوآوری های برجسته قرن 21، تاثیرات عمیقی بر زندگی بشر دارد، اما چالش های حقوقی و اجتماعی فراوانی نیز به همراه دارد. ایران در این حوزه با کمبود قوانین جامع و زیرساخت های ناکافی مواجه است، در حالی که کشورهای پیشرو مانند اتحادیه اروپا و ایالات متحده رویکردهای متنوعی برای قانون گذاری دارند. از این رو ضروری است که ایران چارچوب های قانونی شفاف و مستقلی را توسعه دهد و نهادهای نظارتی ایجاد کند. همچنین آموزش تخصصی و تدوین استانداردهای اخلاقی و فنی برای مدیریت هوش مصنوعی حائز اهمیت است. ارزیابی تاثیرات اجتماعی این فناوری نیز باید در فرآیند تصمیم گیری گنجانده شود تا به توسعه پایدار و بهبود کیفیت زندگی کمک کند.

این مطالعه در اندیشکده حکمرانی هوش مصنوعی و حقوق فناوری های نوین ایران توسط ملینا یقینی در سال 1404 انجام شده است.