عدالت در عصر کلان‌داده و هوش مصنوعی

✍️ هاتف رسولی، فوق دکتری مدیریت فناوری اطلاعات دانشگاه تربیت مدرس، اندیشکده اقامه عدل

در عصر تحول دیجیتال و حکمرانی داده‌محور، داده‌ها، تحلیل‌های پیشرفته و هوش مصنوعی به عناصر اصلی سیاست‌گذاری عمومی، ارائه خدمات اجتماعی، نظام آماری و تصمیم‌گیری سازمانی تبدیل شده‌اند. این فناوری‌ها می‌توانند با شناسایی دقیق‌تر نیازهای اجتماعی، هدفمندکردن حمایت‌ها، کاهش خطاهای انسانی، افزایش شفافیت و تسهیل دسترسی شهروندان به خدمات، ظرفیت مهمی برای تحقق عدالت، برابری و مواسات ایجاد کنند. با این حال، فناوری به‌خودی‌خود عادلانه یا بی‌طرف نیست. اگر داده‌های ناقص، سوگیرانه یا نامتوازن مبنای طراحی الگوریتم‌ها قرار گیرند، نابرابری‌های تاریخی نه‌تنها بازتولید، بلکه در مقیاسی بزرگ‌تر و با ظاهری فنی و بی‌طرفانه تثبیت خواهند شد. در اینجا مسئله اصلی صرفاً افزایش دقت مدل‌ها یا سرعت تصمیم‌گیری نیست؛ بلکه تضمین آن است که تصمیم‌های داده‌محور با حقوق بنیادین، کرامت انسانی، عدالت رویه‌ای، برابری فرصت‌ها و حمایت از گروه‌های آسیب‌پذیر سازگار باشند.

کلان‌داده و هوش مصنوعی می‌توانند توان دولت‌ها و سازمان‌های عمومی را برای شناخت مسائل اجتماعی و تخصیص منابع افزایش دهند. تحلیل هم‌زمان داده‌های اقتصادی، اجتماعی، سلامت، آموزش و جغرافیایی می‌تواند به شناسایی فقر پنهان، مناطق کم‌برخوردار، خانوارهای در معرض آسیب و گروه‌هایی که از خدمات عمومی محروم مانده‌اند کمک کند. این ظرفیت، امکان حرکت از حمایت‌های عمومی و کم‌هدف به سمت عدالت هوشمند و متناسب با نیاز را فراهم می‌سازد. در حوزه رفاه اجتماعی، الگوریتم‌ها می‌توانند به شناسایی سریع‌تر نیازمندان، پیش‌بینی بحران‌های اجتماعی، کاهش هم‌پوشانی خدمات و جلوگیری از اتلاف منابع کمک کنند. در حوزه سلامت، تحلیل داده‌ها می‌تواند به تخصیص عادلانه‌تر منابع درمانی، شناسایی الگوهای بیماری و پیشگیری هدفمند منجر شود. در آموزش نیز داده‌های تحصیلی می‌توانند دانش‌آموزان در معرض ترک تحصیل یا محرومیت آموزشی را شناسایی کنند.

الگوریتم‌ها بر اساس داده‌ها، متغیرها، تعاریف و اهدافی که انسان‌ها تعیین کرده‌اند عمل می‌کنند. ازاین‌رو، بی‌طرفی فنی آن‌ها نباید با بی‌طرفی اجتماعی اشتباه گرفته شود. اگر داده‌های تاریخی منعکس‌کننده تبعیض، محرومیت یا حذف گروهی خاص باشند، مدل یادگیری ماشین ممکن است همان الگو را به عنوان رابطه‌ای معتبر و قابل تعمیم شناسایی کند. در این وضعیت، اصل معروف «ورودی نامناسب، خروجی نامناسب» به مسئله‌ای اجتماعی و حقوقی تبدیل می‌شود. سوگیری الگوریتمی ممکن است در مراحل مختلف ایجاد شود: هنگام تعریف مسئله، گردآوری داده، انتخاب نمونه، برچسب‌گذاری، طراحی متغیرها، آموزش مدل، تفسیر خروجی یا استفاده نهایی توسط مدیران و کارشناسان. حذف مستقیم متغیرهایی مانند جنسیت یا قومیت نیز همیشه مانع تبعیض نمی‌شود؛ زیرا متغیرهایی مانند کدپستی، نوع مدرسه، سابقه شغلی، الگوی خرید یا محل سکونت ممکن است به‌صورت غیرمستقیم نقش نماینده همان ویژگی‌های حساس را ایفا کنند.

برای تحقق عدالت در حکمرانی داده‌محور، نخست باید ارزیابی اثرات اخلاقی، اجتماعی و حقوقی به مرحله پیش از طراحی و استقرار سامانه‌ها منتقل شود. هر پروژه هوش مصنوعی در حوزه‌های پرریسک باید پیش از اجرا مشخص کند که چه حقوقی را تحت تأثیر قرار می‌دهد، چه گروه‌هایی در معرض آسیب هستند، داده‌ها تا چه حد نماینده جامعه‌اند و در صورت خطا چه سازوکار جبرانی وجود دارد. دوم، سازمان‌ها باید نظام حاکمیت داده را تقویت کنند. کیفیت، منشأ، نمایندگی، امنیت، دوره نگهداری و نحوه استفاده از داده‌ها باید مستند باشد. داده‌های مربوط به گروه‌های آسیب‌پذیر نباید تنها برای کنترل، رتبه‌بندی یا حذف استفاده شوند؛ بلکه باید در جهت شناسایی نیاز و گسترش دسترسی به خدمات نیز به کار روند. سوم، تصمیم‌های اثرگذار بر حقوق و معیشت افراد نباید بدون نظارت انسانی اتخاذ شوند. در حوزه‌هایی مانند قطع حمایت اجتماعی، رد اعتبار، استخدام، ارزیابی قضایی یا تخصیص خدمات حیاتی، خروجی الگوریتم باید نقش مشورتی داشته باشد و تصمیم نهایی به کارشناسی پاسخگو و قابل نظارت سپرده شود. چهارم، باید حق اطلاع، حق توضیح، حق اعتراض و حق درخواست بازبینی انسانی برای شهروندان به رسمیت شناخته شود. وجود سامانه دیجیتال نباید به حذف مسیرهای حضوری، تلفنی یا انسانی برای افراد فاقد دسترسی دیجیتال منجر شود. پنجم، ممیزی مستقل و مستمر ضروری است. ارزیابی سوگیری نباید فقط در زمان خرید یا راه‌اندازی سیستم انجام شود. تغییر جمعیت، تغییر رفتار کاربران، تغییر قوانین و تغییر کیفیت داده‌ها می‌تواند عملکرد مدل را دگرگون کند. ازاین‌رو، پایش انحراف داده و مدل باید بخشی از مدیریت مستمر سامانه باشد. ششم، تنوع تیم‌های طراحی و تصمیم‌گیری اهمیت دارد. حضور متخصصان فنی در کنار کارشناسان حقوقی، اجتماعی، اقتصادی، جنسیتی و نمایندگان گروه‌های ذی‌نفع، احتمال نادیده‌ماندن آثار اجتماعی و سوگیری‌های پنهان را کاهش می‌دهد.