خودمختاری در سیستم‌های هوشمند مبتنی بر یادگیری عمیق

✍🏻 نرگس صابری، اندیشکده فهم

پرسش از خودمختاری هوش مصنوعی، به‌ویژه در مدل‌های مبتنی بر شبکه‌های عصبی عمیق، یکی از مهم‌ترین مسائل فلسفه و اخلاق هوش مصنوعی در سال‌های اخیر است. سامانه‌های یادگیری عمیق امروز قادر هستند متن، تصویر، موسیقی و دیگر محتواهای بدیع تولید کنند و در حوزه‌های گوناگون خروجی‌هایی ارائه دهند که گاه برای ناظران انسانی غیرمنتظره است. بااین‌حال، مسئله اصلی نه توانایی این سامانه‌ها، بلکه شفافیت و دسترس‌پذیری شناختی سازوکار تولید خروجی آن‌هاست. لایه‌های پنهان شبکه‌های عصبی به‌گونه‌ای عمل می‌کنند که حتی طراحان و توسعه‌دهندگان این سامانه‌ها نیز غالبا قادر به تبیین دقیق رابطه‌ی میان ورودی‌ها و خروجی‌ها نیستند. این وضعیت که معمولا با استعاره «جعبه سیاه» توصیف می‌شود، پرسش‌های تازه‌ای درباره اراده، خودمختاری و خلاقیت ماشین‌ها پدید آورده است.(Burrell, ۲۰۱۶)

ناتوانی ما در توضیح سازوکار درونی شبکه‌های عمیق، می‌تواند این تصور را ایجاد کند که سامانه از کنترل انسانی فراتر رفته و به‌گونه‌ای «خود» تصمیم می‌گیرد. اما این ندانستن، لزوما به معنای وجود اراده در ماشین نیست؛ بلکه ممکن است صرفا بازتابی از پیچیدگی محاسباتی سامانه و محدودیت‌های شناختی ما باشد. از همین‌جا پرسش اصلی این یادداشت شکل می‌گیرد: آیا هنگامی که یک مدل زبانی جمله‌ای بدیع تولید می‌کند یا راه‌حلی پیش‌بینی‌نشده ارائه می‌دهد، باید آن را مصداقی از خلاقیت و خودمختاری دانست، یا آن چه مشاهده می‌کنیم صرفا بازترکیبی پیچیده از الگوهای آموخته‌شده است؟

شانون والور در کتاب «The AI Mirror» استدلال می‌کند که هوش مصنوعی بیش از آن که موجودی خلاق و خودمختار باشد، آینه‌ای است که داده‌ها، فرهنگ و الگوهای انسانی را با نوعی اعوجاج آماری بازمی‌تاباند. از نظر او، خطر اصلی نه در پیشی گرفتن ماشین‌ها از انسان، بلکه در این است که انسان این بازتاب آماری را با خلاقیت و عاملیت واقعی اشتباه بگیرد (Vallor, ۲۰۲۴). بر همین اساس، این یادداشت می‌کوشد به این پرسش بپردازد که آیا عدم شفافیت ناشی از لایه‌های پنهان شبکه‌های عصبی را باید نشانه‌ای از خودمختاری و خلاقیت ماشینی دانست یا صرفا پیامد پیچیدگی محاسباتی و محدودیت‌های فهم انسانی است.

خودمختاری ساختاری در شبکه‌های عصبی عمیق

مفهوم «خودمختاری» در سامانه‌های مبتنی بر یادگیری عمیق، بیش از هر چیز از شیوه یادگیری و ساختار درونی آن‌ها ناشی می‌شود. شبکه‌های عصبی عمیق از لایه‌های متعددی تشکیل شده‌اند که داده‌های ورودی را گام به گام به بازنمایی‌های انتزاعی‌تر تبدیل می‌کنند تا در نهایت به یک خروجی برسند. در این میان، لایه‌های پنهان (Hidden Layers) نقش محوری دارند؛ لایه‌هایی که الگوهای پیچیده موجود در داده‌ها را شناسایی و ترکیب می‌کنند، بی‌آنکه این فرایند به‌سادگی برای انسان قابل مشاهده یا تبیین باشد. از همین رو، برخلاف سامانه‌های قاعده‌محور، تصمیم‌های یک شبکه عصبی را نمی‌توان به مجموعه‌ای از قواعد صریح و از پیش نوشته‌شده فروکاست. برنامه‌نویس ساختار شبکه، الگوریتم یادگیری و هدف آموزش را طراحی می‌کند، اما روابط میان میلیون‌ها پارامتر در جریان فرایند یادگیری و بر اساس داده‌ها شکل می‌گیرد (Goodfellow, Bengio, & Courville, ۲۰۱۶).

از این منظر، می‌توان از نوعی «خودمختاری ساختاری» سخن گفت؛ بدین معنا که سامانه قادر است ساختار درونی خود را در چارچوب فرایند یادگیری تنظیم و اصلاح کند، بی‌آنکه هر گام از این فرایند مستقیما توسط انسان تعریف شده باشد. این ویژگی، تفاوت بنیادین یادگیری عمیق با بسیاری از سامانه‌های سنتی است که در آن‌ها مسیرهای تصمیم‌گیری و قواعد استنتاج به‌طور صریح توسط برنامه‌نویس تعریف می‌شوند. اما آیا چنین سطحی از خودمختاری را باید «واقعی» تلقی کرد؟ برخی فیلسوفان استدلال می‌کنند که خودمختاری این سامانه‌ها تنها ظاهری است. زیرا در نهایت چارچوب یادگیری، داده‌های آموزشی، معیارهای بهینه‌سازی و هدفگذاری نهایی همگی از پیش توسط انسان تعیین می‌شوند و سامانه تنها در همین چارچوب عمل می‌کند.(Floridi & Cowls, ۲۰۲۱).

شانون والور نیز در کتاب «The AI Mirror» بر این تمایز تأکید می‌کند. از نظر او، آن چه در سامانه‌های هوش مصنوعی مشاهده می‌کنیم، بیشتر نوعی استقلال عملکردی است تا خودمختاری به معنای فلسفی آن. این سامانه‌ها اگرچه می‌توانند بدون مداخله لحظه‌به‌لحظه انسان خروجی تولید کنند، اما فاقد توانایی تعیین اهداف خویش هستند؛ ازاین‌رو، نمی‌توان آن‌ها را صاحبان اراده مستقل دانست (Vallor, ۲۰۲۴). نسبت دادن خودمختاری به این سامانه‌ها، بیش از آن که حاصل ویژگی ذاتی آن‌ها باشد، اغلب از ناتوانی ما در فهم کامل سازوکارهای درونی‌شان ناشی می‌شود.

بنابراین، «خودمختاری ساختاری» را باید مفهومی فنی دانست، نه فلسفی. این اصطلاح به ظرفیت شبکه برای بازتنظیم درونی اشاره دارد و به وجود عاملیت یا اراده مستقل نمی‌پردازد. تمایز میان این دو معنا، مبنای فهم دقیق‌تر مسئله خلاقیت در سامانه‌های یادگیری عمیق است که در بخش بعد به آن پرداخته خواهد شد.

 عدم شفافیت و دسترس‌پذیری شناختی

یکی از ویژگی‌های بنیادین سامانه‌های یادگیری عمیق، عدم شفافیت در فرایند تصمیم‌گیری آن‌هاست که معمولا با استعاره «جعبه سیاه» توصیف می‌شود. در این سامانه‌ها، آن چه برای کاربر و حتی طراح قابل مشاهده است، تنها داده‌های ورودی و خروجی‌های نهایی است. اما روابط پیچیده‌ای که در میان میلیون‌ها پارامتر و صدها لایه پنهان شکل می‌گیرد، به‌سادگی قابل مشاهده یا بازسازی نیست (Russell & Norvig, ۲۰۲۰).

با این حال، باید میان پیچیدگی محاسباتی و خودمختاری تمایز قائل شد. دشواری در تبیین فرایندهای درونی یک مدل، لزوما به این معنا نیست که آن مدل دارای اراده یا عاملیت مستقل است. آن چه برای انسان مبهم است، ممکن است صرفا پیامد تعداد بسیار زیاد پارامترها،روابط غیرخطی و محدودیت ابزارهای تبیین باشد و ارتباطی با ظهور نوعی خودمختاری در ماشین ندارد.

در سال‌های اخیر، پژوهش در حوزه هوش مصنوعی تبیین‌پذیر (Explainable AI) نیز دقیقا در پاسخ به همین مسئله شکل گرفته است. هدف این حوزه، نسبت دادن عاملیت به ماشین نیست، بلکه توسعه روش‌هایی برای تبیین تصمیم‌های الگوریتمی و قابل‌فهم‌کردن آن‌ها برای انسان محسوب می‌شود. میلر (۲۰۱۹) با بهره‌گیری از یافته‌های علوم اجتماعی نشان می‌دهد که انسان‌ها از یک «توضیح» صرفاً انتظار توصیف فرایندهای محاسباتی را ندارند. بلکه توضیح زمانی رضایت‌بخش است که امکان فهم، ارزیابی و نسبت‌دادن مسئولیت را نیز فراهم کند. ازاین‌رو، شفافیت الگوریتمی صرفاً یک مسئله فنی نیست، بلکه به نحوه فهم انسان از تصمیم و مسئولیت نیز مربوط می‌شود.

همین مسئله، پیامدهای مهم اخلاقی به همراه دارد. سامانه‌های هوش مصنوعی امروز در تصمیم‌هایی مانند استخدام، اعطای وام، تشخیص پزشکی و ارزیابی ریسک کیفری نقش فزاینده‌ای ایفا می‌کنند. اگر مبنای این تصمیم‌ها برای انسان قابل تبیین نباشد، امکان نقد، اصلاح و پاسخ‌خواهی نیز از بین می‌رود. در چنین شرایطی، این پرسش مطرح می‌شود که مسئولیت یک تصمیم ناعادلانه بر عهده چه کسی است؟ طراح، کاربر،سازمان بهره‌بردار یا خود سامانه؟

ازاین‌رو، همان‌گونه که راسل و نوروینگ یادآور می‌شوند، عدم شفافیت ذاتی شبکه‌های عصبی می‌تواند مرز میان «ابزار» و «کنشگر» را در نگاه ما مخدوش کنند (Russell & Norvig, ۲۰۲۰). اما این ابهام نباید به نسبت دادن خودمختاری  اخلاقی به ماشین بینجامد. نسبت دادن خودمختاری اخلاقی به چنین سیستم‌هایی ساده‌انگاری است، زیرا آن‌ها در نهایت محصول طراحی، داده‌ها و اهدافی هستند که انسان تعیین کرده است. بنابراین، آن چه در نگاه نخست خودمختاری به نظر می‌رسد، بیش از آن که ویژگی ذاتی سامانه باشد، بازتاب محدودیت‌های معرفتی ما در مواجهه با سامانه‌های پیچیده است.

 خلاقیت یا بازتاب؟

توانایی سامانه‌های هوش مصنوعی در تولید متن، تصویر، موسیقی و دیگر خروجی‌هایی که برای ناظر انسانی تازه و بدیع به نظر می‌رسند، یکی از مهم‌ترین دلایل نسبت دادن خلاقیت به این سامانه‌هاست. اما پرسش اساسی این است که آیا بدیع بودن یک خروجی، به‌تنهایی برای خلاق نامیدن پدیدآورنده آن کافی است؟

مارگارت بودن (Boden, ۱۹۹۸) در تحلیل خود از خلاقیت، میان سه گونه خلاقیت تمایز می‌گذارد:

• خلاقیت ترکیبی (Combinational Creativity)، که حاصل بازترکیب عناصر موجود در قالبی تازه است؛
• خلاقیت اکتشافی (Exploratory Creativity)، که به کشف امکانات جدید در فضای مفهومی می‌انجامد؛
• و خلاقیت تحول‌آفرین (Transformational Creativity)، که خود فضای مفهومی را دگرگون می‌کند.

بر این اساس، بسیاری از سامانه‌های یادگیری عمیق را می‌توان در بهترین حالت واجد نوعی خلاقیت ترکیبی یا اکتشافی دانست. زیرا خروجی‌های آن‌ها از بازترکیب الگوهایی شکل می‌گیرد که پیش‌تر در داده‌های آموزشی فراگرفته‌اند (Boden, ۱۹۹۸).

با این حال، بدیع بودن آماری یک خروجی هوش مصنوعی را نباید با خلاقیت به معنای فلسفی آن یکسان دانست. خروجی یک مدل زبانی ممکن است برای کاربر غیرمنتظره یا حتی شگفت‌آور باشد، اما این به‌خودی‌خود نشان‌دهنده وجود نیت، آگاهی یا عاملیت در فرایند تولید آن نیست. آن چه مدل انجام می‌دهد، بهینه‌سازی روابط آماری میان داده‌ها از طریق تنظیم پارامترهای خود است و نمی‌توان آن را انتخاب آگاهانه میان ایده‌ها یا تأمل درباره ارزش و معنای آن‌ها دانست.

شانون والور در کتاب «The AI Mirror» همین تمایز را با استعاره «آینه» توضیح می‌دهد. از نظر او، هوش مصنوعی بیش از آن که آفریننده باشد، بازتاب‌دهنده‌فرهنگ، زبان و الگوهای انسانی است که به دلیل پیچیدگی محاسباتی و حجم عظیم داده‌ها، گاه چنان بدیع به نظر می‌رسد که انسان آن را با خلاقیت اصیل اشتباه می‌گیرد (Vallor, ۲۰۲۴). خطر اصلی، نه در توانایی ماشین برای تولید خروجی‌های نو، بلکه در تمایل ما به انسان‌انگاری این فرایندها و نسبت دادن ویژگی‌هایی مانند خلاقیت و خودمختاری به آن‌هاست.

مقایسه این فرایند با خلاقیت انسانی نیز همین تمایز را آشکار می‌کند. حتی اگر خلاقیت انسان را تا حدی مبتنی بر بازترکیب تجربه‌های پیشین بدانیم، این فرایند با نیت، معنا، خودآگاهی و امکان بازاندیشی نسبت به انتخاب‌های خویش همراه است (Gaut, ۲۰۱۰). برای مثال، یک شاعر می‌تواند توضیح دهد چرا استعاره‌ای خاص را انتخاب کرده است اما شبکه‌ عصبی تنها وزن‌ها را بهینه کرده و مسیر محاسباتی خود را طی می‌کند که قابل بازسازی یا توضیح معنادار نیست. از همین رو، بسیاری از فیلسوفان، آنچه «خلاقیت ماشینی» نامیده می‌شود را نه خلاقیتی اصیل، بلکه نوعی شبیه‌سازی یا تقلید پیشرفته از فرایندهای خلاق اصیل و انسانی می‌دانند (Bostrom, ۲۰۱۴).

همان‌گونه که عدم شفافیت شبکه‌های عصبی را نمی‌توان دلیلی بر خودمختاری آن‌ها دانست، بداعت خروجی‌هایشان نیز به‌تنهایی گواه خلاقیت نیست. در هر دو مورد، آن چه ما به سامانه نسبت می‌دهیم، بیش از آنکه ناشی از ویژگی‌های ذاتی آن باشد، بازتابی از پیچیدگی محاسباتی مدل و محدودیت‌های معرفتی ما در فهم سازوکارهای آن است.

جمع‌بندی

بحث درباره‌ی خودمختاری در سامانه‌های مبتنی بر یادگیری عمیق، بیش از آن که به توانایی‌های فنی این سامانه‌ها مربوط باشد، به نحوه تفسیر ما از این توانایی‌ها بازمی‌گردد. پیچیدگی شبکه‌های عصبی و عدم شفافیت فرایندهای درونی آن‌ها، این تصور را پدید می‌آورد که ماشین‌ها به سطحی از عاملیت و خلاقیت مستقل دست یافته‌اند. اما آن چه در این یادداشت بررسی شد، نشان می‌دهد که چنین برداشتی بیش از آن که بیانگر ویژگی‌های ذاتی این سامانه‌ها باشد، بازتابی از محدودیت‌های معرفتی ما در فهم سازوکارهای آن‌هاست.

از همین رو، دشواری در تبیین تصمیمات الگوریتمی را نباید با وجود خودمختاری در ماشین یکسان دانست و بدیع بودن خروجی‌های هوش مصنوعی نیز به‌تنهایی نمی‌تواند دلیل برای خلاقیت اصیل باشد. آنچه این سامانه‌ها انجام می‌دهند، هرچند از منظر فنی شگفت‌انگیز است، همچنان در چارچوب داده‌ها، اهداف و محدودیت‌هایی شکل می‌گیرد که انسان طراحی کرده است.

شانون والور در «The AI Mirror» به‌درستی هشدار می‌دهد که مهم‌ترین چالش عصر هوش مصنوعی نه تبدیل شدن ماشین‌ها به موجوداتی خودمختار و خلاق و نه رقابت انسان با ماشین‌های خودمختار است؛ بلکه چالش اصلی، شیوه مواجهه‌ی ما با این فناوری‌ها است. اگر بازتاب‌های آماری را با عاملیت، خودمختاری یا خلاقیت اشتباه بگیریم، در واقع مرزهای مفاهیم بنیادین فلسفی را مخدوش کرده‌ایم و مسئولیت اخلاقی را از انسان به سامانه‌هایی منتقل کرده‌ایم که نه قصد دارند، نه معنا می‌آفرینند و نه پاسخ‌گو هستند.

راه برون‌رفت از این وضعیت، همان‌گونه که والور پیشنهاد می‌کند، بازسازی نهادها و فضیلت‌های انسانی است تا اطمینان حاصل شود هوش مصنوعی نه جایگزین، بلکه مکملِ توانایی‌های انسانی باقی بماند. در نهایت، تنها از رهگذر این ژرف‌اندیشی است که می‌توان همچنان خلاقیت و خودمختاری را دست‌کم به معنای فلسفی آن، خصیصه‌ای متمایز و انسانی دانست (Vallor, ۲۰۲۴).

از این منظر، پرسش اصلی دیگر این نیست که آیا هوش مصنوعی خودمختار یا خلاق شده است. بلکه این است که ما با چه معیارهایی خودمختاری و خلاقیت را به آن نسبت می‌دهیم. تا زمانی که این معیارها با مفاهیمی چون نیت، معنا و مسئولیت اخلاقی گره خورده‌اند، به نظر می‌رسد آن چه امروز در هوش مصنوعی مشاهده می‌کنیم، بیش از آن که نشانه ظهور یک فاعل مستقل باشد، بازتابی پیچیده از توانایی‌ها، داده‌ها و محدودیت‌های خود انسان است.

منابع

• Boden, M. A. (۱۹۹۸). Creativity and artificial intelligence. Artificial Intelligence, ۱۰۳(۱–۲), ۳۴۷–۳۵۶.
• Bostrom, N. (۲۰۱۴). Superintelligence: Paths, dangers, strategies. Oxford University Press.
• Burrell, J. (۲۰۱۶). How the machine “thinks”: Understanding opacity in machine learning algorithms. Big Data & Society, ۳(۱).
• Floridi, L., & Cowls, J. (۲۰۲۱). A unified framework of five principles for AI in society. Harvard Data Science Review, ۳(۱).
• Gaut, B. (۲۰۱۰). The philosophy of creativity. Philosophy Compass, ۵(۱۲), ۱۰۳۴–۱۰۴۶.
• Goodfellow, I., Bengio, Y., & Courville, A. (۲۰۱۶). Deep learning. MIT Press.
• Miller, T. (۲۰۱۹). Explanation in artificial intelligence: Insights from the social sciences. Artificial Intelligence, ۲۶۷, ۱–۳۸.
• Russell, S., & Norvig, P. (۲۰۲۰). Artificial intelligence: A modern approach (۴th ed.).Pearson.
• Vallor, S. (۲۰۲۴). The AI Mirror: How to reclaim our humanity in an age of machine thinking. Oxford University Press