بررسی چالش های اخلاقی هوش مصنوعی

هوش مصنوعی یک شاخه از علوم کامپیوتر بوده که در راستای القای تفکر انسانی به ماشین گام برمی دارد. با افزایش قابلیت های هوش مصنوعی در دهه اخیر چالش های اخلاقی بسیاری نیز به وجود آمده است. سرویس های بهره مند از هوش مصنوعی بایستی در راستای حفظ اخلاق انسانی گام برداشته و باعث به وجود آمدن ناهنجاری های گسترده نشوند. لذا محققان بسیاری از رشته ها، از جمله اخلاق دانان دریافته اند که ساختن سیستم های هوشمند اخلاقی و ایمن، ضرورتی انکارناپذیر است. با این حال مباحثاتی که پیرامون چالش های اخلاقی هوش مصنوعی صورت گرفته که هنوز نوپاست و نیاز به تاملاتی عمیق و بنیادی درباره شان اخلاقی انسان و جایگاه هوش مصنوعی در زندگی بشر دارد.

ضرورت و اهداف پژوهش

هوش مصنوعی یکی از حوزه هایی است که به دلیل ماهیت بین رشته ای و کارایی های بسیاری که دارد در دهه اخیر بسیار مورد توجه قرار گرفته و سرعت رشد بالایی دارد. این حوزه دارای پیچیدگی ها و ظرافت های بسیاری است و تاثیرات فاحشی در ابعاد گوناگون جامعه همچون، فرهنگ، اخلاق و سبک زندگی می گذارد. از این رو نمی توان از این تاثیرات غافل بود و باید برای پیش بینی مخاطرات حاصل از هوش مصنوعی پیش از آنکه مسیر توسعه آن غیر قابل تغییر شود چاره اندیشی کرد. اخلاق هوش مصنوعی یکی از شاخه های اخلاق فناوری است که شامل بخش هایی از جمله اخلاق رباتیک و اخلاق ماشین می شود. امکان ساختن ماشین های متفکر، مسائل اخلاقی متعددی را پیش روی اندیشمندان قرار می دهد. از همین رو در این گزارش سعی بر آن است تا برخی از مهم ترین چالش های اخلاقی ناشی از هوش مصنوعی از نگاه صاحب نظران و متخصصان این حوزه مورد بررسی قرار گیرد. این چالش ها در دو ساحت عمومی و اختصاصی بررسی خواهند شد.

 چالش های اخلاقی عمومی هوش مصنوعی

برخی از این چالش ها عبارتند از:

نادیده گرفته شدن نقش احساسات در تصمیم های اخلاقی

برخی از مطالعات نشان می دهد که کسانی که از قدرت همدلی برخوردار نیستند، نمی توانند قضاوت اخلاقی درستی داشته باشند. برخی از متخصصان معتقدند که حس همدلی در روابط انسانی ضروری است و هوش مصنوعی اگر بخواهد جایگزین بخشی از روابط انسانی شود، باید بتواند به نحوی همدلی را بازنمایی کند. در غیر این صورت، ممکن است تهدیدی برای کرامت انسانی باشد. حال سوال اصلی در نسبت احساسات با هوش مصنوعی این است که آیا می توان احساسات را در سیستم های هوشمند جای دهی کرد؟

این پرسش از رو مهم است که احساسات نقش مهمی در قضاوت های اخلاقی دارند و دستگاه های هوشمند برای اینکه قادر به تصمیم گیری و داوری اخلاقی باشند، باید بتوانند چیزی از جنس احساس را تجربه کنند. به علاوه، هوش مصنوعی برای ایجاد ارتباط احساسی با انسان، باید بتواند احساسات انسانی را تشخیص دهد و پاسخگوی آن ها باشد. بنابراین، دریافتن نحوه ارتباط تفکر و احساسات در فرایند تصمیم گیری، امری مهم محسوب می شود.

سوءاستفاده از خطاهای هوش مصنوعی

هوش مصنوعی فناوری قدرتمندی است که برای کسانی که در جستجوی قدرت هستند، مانند مجرمان سازمان یافته، گروه های افراطی و تروریست ها جذابیت بالایی دارد. از آنجایی که امکان محافظت کامل از این فناوری در مقابل سوءاستفاده و هک شدن وجود ندارد، این موضوع نیز می تواند نگران کننده باشد. لذا الگوریتم های هوش مصنوعی باید در مقابل دستکاری و سوءاستفاده های احتمالی بسیار مقاوم باشند.

هرقدر یک فناوری قوی تر می شود در راه اهداف خیر و شر بیشتری می تواند به کار گرفته شود. این موضوع منحصر به سلاح های خودمختار یا ربات هایی که جایگزین سربازها در جنگ می شوند نیست، بلکه در مورد همه سیستم های هوش مصنوعی که در صورت کاربرد شریرانه قابلیت آسیب رسانی دارند نیز صادق است؛ چراکه این نزاع ها صرفا در میدان نبرد اتفاق نمی افتند. اهمیت موضوعاتی مانند امنیت سایبری روز به روز در حال افزایش است، زیرا جامعه با سیستم هایی روبروست که به مراتب سریع تر و تواناتر از انسان بوده و وقایعی که پس از ورود آن ها به جوامع می توانند اتفاق بیفتند، بسیار متنوع و بدیع خواهند بود.

هوش مصنوعی ضعیف و قوی

چالش پیرامون شبیه سازی ذهن انسان توسط هوش مصنوعی توسط جان سرل با دوگانه هوش مصنوعی ضعیف و هوش مصنوعی قوی صورت بندی شد. قائلان به هوش مصنوعی ضعیف، معتقدند سیستم های هوشمند ابزارند و تنها می توان بعضی از کاربردهای محاسباتی ذهن انسان را توسط آن ها پیاده سازی کرد. در مقابل، طرفداران هوش مصنوعی قوی قائلند که رایانه ها توانسته اند یا خواهند توانست همه توانایی های ذهن انسان از قبیل، آگاهی اراده تفکر فهم معنا و زبان و … را داشته باشند.

با هوش مصنوعی قوی سیستم های هوشمند مشابه، انسان تنها یک ابزار برای مطالعه ذهن نیستند، بلکه سیستم هایی که به درستی برنامه ریزی شده اند، همان ذهن انسانی هستند. بدین معنا می توان گفت که سیستمی که برنامه درستی را اجرا می کند، می فهمد و حالت های شناختی دارد. جان سرل برای رد امکان هوش مصنوعی قوی آزمون اتاق چینی را طرح کرد که مناقشات بسیاری در فلسفه هوش مصنوعی در پی داشت. روشن است که هوش مصنوعی به صورت ضعیف آن محقق شده است و نزاعی در این باره نیست، اما امکان تحقق هوش مصنوعى قوى، محل بحث است و مناقشاتی را درباره چیستی و ماهیت انسان و تفاوت او با سایر موجودات برانگیخته است. مباحثی از این دست هستند که موجب شده اند شان اخلاقی سیستم های هوشمند برای اندیشمندان مسئله ساز شوند.

چالش های اخلاقی هوش مصنوعی در حوزه های خاص

برخی از این چالش ها عبارتند از:

هوش مصنوعی در صنایع نظامی

امروزه بیش از ۵۰ کشور در جهان در حال توسعه فناوری ربات های نظامی هستند. در همه این ربات ها، اپراتوری وجود دارد که فعالیت آن ها را کنترل می کند؛ اما قدرت های نظامی به دنبال ساختن و استفاده از ربات های خودمختار در میدان جنگ هستند. هدف نهایی، دستیابی به شبکه ای از ربات هاست که بتوانند با کمک یکدیگر و به نحوی خودمختار و بدون مداخله انسانی، هدف خود را ردیابی و نابود کنند. استفاده از هوش مصنوعی در امور نظامی و جنگ ها اگرچه طرفدارانی جدی در عرصه نظامی و سیاسی دارد اما چالش های اخلاقی ناشی از آن، خصوصا در بحث خودمختاری ربات ها، موجب شده منتقدان بسیاری علیه ساخت و کاربرد این سلاح ها سخن بگویند.

در حال حاضر نمی توان به ماشین ها در تشخیص انسان ها اعتماد کرد و شاهدی علیه این مدعا وجود ندارد. ربات ها آگاهی موقعیت مند ندارند و نمی توانند تصمیماتی متناسب با موقعیت بگیرند. معیاری که برای مناسب بودن عملکرد این ربات ها در نظر گرفته می شود، کمینه کردن آسیب جانبی از طریق انتخاب مناسب ترین سلاح و نشانه گیری درست آن است؛ اما مسئله اصلی در عملکرد متناسب این است که تصمیم درستی درباره اینکه آیا در یک موقعیت خاص باید از نیروی کشنده استفاده کرد یا خیر گرفته شود. ماشین حس ششم ندارد و جنگ هم ماجرایی سیاه و سفید نیست که بتوان چنین تصمیماتی را فارغ از اقتضائات خاص یک موقعیت گرفت.

هوش مصنوعی در فرایندهای تصمیم سازی کلان

سیستم های هوشمندی که با شیوه یادگیری عمیق تربیت می شوند و از کلان داده ها برای تصمیمات خود استفاده می کنند به حقیقت مطلق دسترسی ندارند و تصمیمات آن به نوعی نظر شخصی آن محسوب می شوند که ممکن است آمیخته با خطا یا سوگیری باشند. اگر از ماشین های هوشمند یا فراهوشمند برای تصمیم گیری های کلان اجتماعی یا سیاسی بهره گرفته شوند، ممکن است این ماشین ها مرتکب اشتباه شوند و منجر به بروز مخاطراتی بسیار بزرگ و فاجعه بار در سطح ملی و بین المللی شوند. به علاوه امکان رهایی و غیر قابل کنترل شدن این ماشین ها عمل کردن آن ها طبق میل خودشان و حتی دروغ گفتن آن ها نیز دور از ذهن نیست. سیستم های هوش مصنوعی امروزه در بسیاری از صنایع و سازمان ها، تصمیم گیرنده هستند؛ اما هنوز موازین مشخصی را برای تعیین اینکه چه تصمیماتی قابل پذیرش هستند، وجود ندارد.

هوش مصنوعی و عدالت اقتصادی

نظام اقتصادی کنونی در جهان مبتنی بر نوعی تعادل در توزیع اقتصادی است که این امر معمولا با تعیین دستمزد ساعتی اتفاق می افتد. اغلب شرکت ها در توزیع سود حاصل از محصولات و خدمات خود هنوز به کار ساعتی متکی اند؛ اما در آینده ای نزدیک شرکت ها می توانند با استفاده از هوش مصنوعی تا حد زیادی وابستگی به نیروی کار انسانی را کاهش دهند و این به معنای واگذاری و تقسیم سود میان نیروی انسانی کمتری است. در نتیجه، افرادی که مالکیت شرکت های مبتنی بر هوش مصنوعی را دارند بخش عمده سود را خود برداشت می کنند.

همین امروز هم شکاف رو به افزایشی در توزیع ثروت در این کسب و کارها قابل مشاهده است. صاحبان استارتاپ ها بخش عمده سود اقتصادی ای که خلق کرده اند را تصاحب می کنند؛ بنابراین یکی از چالش های اخلاقی که هوش مصنوعی به همراه می آورد این است که اگر انسان در حال ساختن جامعه ای با سازماندهی شغلی متفاوتی است چگونه باید اقتصاد عادلانه ای متناسب با آن را بسازد که در آن میان صاحبان این فناوری ها با دیگران شکاف عمیقی ایجاد نشود؟ سود حاصل از فناوری های چگونه می تواند به نحو عادلانه ای توزیع شود؟ آیا علوم و قوانین اقتصادی متفاوتی باید تولید شود؟ به نظر می رسد که پاسخ این پرسش مثبت است.

راهکار مقابله با چالش های اخلاقی

به نظر می رسد که جوامع در همین مراحل اولیه باید موضع خود را نسبت به برخی از مسائل مشخص نمایند و نظریات اخلاقی خود را به روز نمایند تا بتوان با استفاده از آن ها پاسخ پرسش های اخلاقی فعلی را بیابند و علاوه بر آن بنیان قابل اتکایی را برای مواجهه با چالش های اخلاقی آینده ای که سیستم های هوشمند در مسیر جوامع قرار می دهند، فراهم نمایند. چارچوبی که معیار انسان برای ارزیابی سیستم های هوشمند و تصمیم گیری برای چگونگی توسعه آن هاست باید به قدری جامعیت، پویایی و انعطاف داشته باشد که بتواند پاسخگوی سوالات متنوع و متعددی باشد که در نتیجه کاربرد هوش مصنوعی در حوزه های انضمامی مختلف مطرح می شوند. برای تهیه چنین چارچوبی ضروری است که به مبانی فلسفی و انسان شناختی عمیق تری که برگزیده شده است رجوع شود و در صورت لزوم در آن ها بازاندیشی شود.

جمع بندی

در گزارش حاضر، جدی ترین و پربسامدترین پرسش ها، دغدغه ها و نگرانی هایی که متخصصان حوزه اخلاق هوش مصنوعی با آن ها دست و پنجه نرم می کنند، مطرح شد. سیستم های هوشمند هنوز در مراحل آغازین تحول خود به سر می برند و در همین مراحل هم چالش هایی جدی را پیش روی انسان قرار داده اند. لذا به نظر می رسد که جوامع مختلف باید در همین مراحل اولیه، موضع خود را نسبت به برخی از مسائل مشخص نموده و نظریات اخلاقی خود را به روز کنند تا بتوانند با استفاده از آن ها پاسخ پرسش های اخلاقی فعلی را بیابند و علاوه بر آن بنیان قابل اتکایی را برای مواجهه با چالش های اخلاقی آینده ای که سیستم های هوشمند در مسیر انسان قرار می دهند، فراهم کنند. در این گزارش این چالش ها در دو بخش عمومی و اختصاصی دسته بندی شدند که « سوءاستفاده از خطاهای هوش مصنوعی» و «کاربرد هوش مصنوعی در صنایع نظامی» از آن جمله بودند.

این مطالعه در اندیشکده فهم با همکاری سعیده بابایی و فائزه نوروزی در سال 1400 انجام شده است.