مسئله حریم خصوصی و حفاظت از دادهها در عصر هوش مصنوعی
اندیشکده فهم، فهمهای متفاوتی از حریم خصوصی در عصر هوش مصنوعی را توضیح داده است.

سعیده بابایی، اندیشکده فهم
چکیده
درکی که کاربران تکنولوژیهای دیجیتال از حریم خصوصی و اصول و مقررات حفاظت از دادهها دارند، میتواند تعیین کند نهادها و شرکتهایی که در حوزه تکنولوژی فعالیت میکنند، چگونه عملکرد خود را تنظیم کنند و تعادلی جدید را میان برندگان (عمدتاً شرکتها) و بازندگان (عمدتاً کاربران) اقتصادی در فرایند توسعه تکنولوژیهای نوظهور برقرار کنند. با این حال، همه کشورهایی که رهبران عرصه تکنولوژیهای دیجیتال محسوب میشوند، از تدوین قوانین و مقررات انعطافپذیر برای مدیریت توسعه این تکنولوژیها استقبال نمیکنند و این امر به طور خاص در حوزه هوش مصنوعی دیده میشود. خودتنظیمی به مثابه رویکردی راهبردی در توسعه هوش مصنوعی میتواند عاملی ضروری و پیشران در کاربردیسازی وسیعتر و اخلاقیتر هوش مصنوعی تلقی شود. در این یادداشت به دنبال آن هستیم که چشماندازهایی را در حوزه هوش مصنوعی معرفی کنیم که فهمهای متفاوتی از حریم خصوصی در آنها تصویر میشود و به دغدغه کاربران درباره حریم خصوصیشان و مقررات مربوط به حفاظت از دادهها نگاههای متفاوتی دارند.
مقدمه
با پیشرفتهای بیسابقه تکنولوژی، اطلاعات خصوصی افراد در مقیاسی بسیار وسیع و با سرعتی چشمگیر جمعآوری، ذخیره و پردازش میشود. استفاده از این استعاره، که داده به مثابه اکسیژن برای هوش مصنوعی است تا بتواند زنده بماند و رشد کند، به درک بهتری از وضعیت موجود کمک میکند. هرچه کمیت و کیفیت دادههای مورد استفاده برای آموزش الگوریتمها بیشتر باشد، سیستمهای هوش مصنوعی کارآمدی بالاتری از خود نشان میدهند و نتایجی که تولید میکنند، منافع بیشتری را برای گروههای متنوعتر و متکثرتری از افراد فراهم خواهد آورد. به همین دلیل است که کشورهای پرجمعیت، شانس بیشتری دارند که در رقابت در حوزه هوش مصنوعی موفقتر عمل کنند.
هوش مصنوعی در حوزههای مختلفی از جمله مراقبت سلامت، حمل و نقل، محیط زیست، حقوق و قضا، اقتصاد و… به کار گرفته میشود و خودروهای هوشمند، شهرهای هوشمند و پهپادهای خودمختار برخی از مصادیقی هستند که از تکنیکهای هوش مصنوعی در آنها استفاده میشود. اما همین تکنولوژیها اگرچه که منافع پرشماری برای کاربران دارند، میتوانند از طریق کنشگران اجتماعی مختلف از جمله افراد، شرکتها و دولتها علیه کاربران به کار گرفته شوند. تجاوز به حریم خصوصی کاربران یکی از آسیبهایی است که هوش مصنوعی امکان آن را بهشدت افزایش داده است.
امروزه مسائل مربوط به حریم خصوصی اغلب به اینترنت، غولهای عظیم تکنولوژی، الگوریتمها و به طور کلی نیاز سیریناپذیر این تکنولوژیها به داده پیوند میخورند. در گذشته، برای تعریف مفهوم حریم خصوصی به جدایی فیزیکی فرد از دیگران متوسل میشدیم و این مفهوم اساساً به این دلیل مهم بود که دسترسی دیگران به دادهها و اطلاعات مربوط به ما موجب میشد دیگران سادهتر بتوانند روی رفتارهای ما تأثیر بگذارند. استفاده از هوش مصنوعی در حوزههای فزاینده در زندگی روزمره موجب شده است که دغدغه حریم خصوصی و شفافیت پررنگتر شود.
دخالتگری تکنولوژی در حوزه حریم خصوصی از قرن نوزدهم به بعد و با ورود تکنولوژیهای عکاسی و رسانهای تشدید شد. در دسترس قرار گرفتن اطلاعات شخصی افراد اهمیت کنترل این دسترسیها را نیز ایجاب میکند؛ اینکه چه اطلاعاتی در اختیار چه کسی، در چه زمان و موقعیتی میتواند قرار بگیرد (Nissenbaum, 2004). رویکردهایی وجود دارند که حریم خصوصی را به مثابه شرط لازم برای حقوق انسانیای همچون حق آزادی بیان و حق انتخاب در نظر میگیرند و ارزش حریم خصوصی را به ارزشهای اخلاقی دیگری همچون خودمختاری و امنیت گره میزنند. در سالهای اخیر، جذابیت اقتصادی دادههای شخصی افزایش یافته و به همین دلیل، حریم خصوصی اهمیت روزافزونی هم در زندگی افراد و هم در کسبوکارها پیدا کرده است و مطالعات پیرامون این مفهوم نیز به طور تخصصی دنبال میشود.
حیوانات نیز برای خود قلمروی حفاظتشدهای دارند که تجاوز به این حریم خصوصی ممکن است تبعاتی همچون کشته شدن متجاوز یا حتی افراد دیگری از گونه او را به دنبال داشته باشد. پیتر واتسِ زیستشناس معتقد است نیاز به داشتن حریم خصوصی امری ذاتی در میان پستانداران است و مخدوش کردن آن میتواند به مثابه تهدیدی فیزیکی تلقی شود. با حضور در فضای اینترنت ما با مخاطراتی برای حریم خصوصی مواجهیم نظیر دستکاری دادهها، بیاعتمادی به خدمات الکترونیک یا جهان مجازی و… . در حوزه هوش مصنوعی نیز حریم خصوصی میتواند به موضوعاتی همچون عدم تمایل کاربران به پذیرفتن راهحلهای پیشنهادی توسط هوش مصنوعی برای مسائل مختلف و مشکوک بودن آنها نسبت به مقاصد سازندهها و اپلیکیشن مرتبط شود. این نگرانیها موجب میشود کاربران تغییراتی را در رفتارهای خود، متناسب با بافتاری که در آن قرار میگیرند، ایجاد کنند؛ مثلاً در این باره فکر کنند که کدام بخش از دادههایشان را فاش کنند یا از کدام محافظت کنند و همچنین، چگونه مرزهای میان حوزه خصوصی و عمومی زندگی خود را دقیقتر مشخص کنند. پیشفرض چنین رفتارهایی این است که افراد اطلاعات و آگاهی کافی درباره شرایطی که در آن قرار گرفتهاند دارند و میتوانند طبق اصول خود رفتار کنند.
تأثیرات هوش مصنوعی بر مرزهای حریم خصوصی
میزانی از دادههای دیجیتال که هر روز کاربران در فضای اینترنت رها میکنند، موجب شده است که برخی از اندیشمندان مانند کوزینسکی، روانشناس اجتماعی دانشگاه استنفورد، پایان عمر حریم خصوصی را اعلام کنند (Kosiński, 2015). کاربران اینترنت احساس امنیت نمیکنند چرا که دائماً در حال مشاهده شدن و دنبال شدن هستند و رفتار آنها مدام در معرض تحلیل است. پیامد دیگرِ مخدوش شدن حریم خصوصی، کاهش اعتماد کاربرها به تکنولوژیهای دیجیتال است. حریم اطلاعاتی زیرمجموعهای از نگرانیهای مربوط به حریم خصوصی را شامل میشود که اشاره دارد به توانایی افراد برای داشتن کنترل شخصی روی اطلاعات مربوط به خودشان. کاربرها دقیقاً نمیدانند که تا چه اندازه باید نگران حریم خصوصی خود باشند، چرا که زندگی روزمره آنها آمیخته شده است با مصالحه مداوم میان نیازهایشان و امکاناتی که اینترنت در اختیار آنها قرار میدهد در ازای جزئیات خصوصیای که باید برای دسترسی به این امکانات از خود افشاء کنند. در اغلب موارد کاربر راضی و حتی آگاه به این نیست که اطلاعات پیچیده و زیادی از او در حال جمعآوری است.
امکان شناسایی افراد، دستهبندی و تحلیل اطلاعات آنها با کمک منابع مختلف و تأثیرگذاری بر آنها با استفاده از تکنیکهای جدید هوش مصنوعی تبدیل به کاری بسیار سادهتر و کمهزینهتر شده است. هوش مصنوعی میتواند با استفاده از الگوریتمهای پیشرفته یادگیری ماشین، اطلاعات محرمانهای را از انواع غیر حساسی از دادهها استنتاج کند و پیشبینیهایی را بر اساس آنها انجام دهد. برای مثال، الگوهای تایپ کردن افراد روی صفحهکلید میتواند برای استنتاج حالتهای احساسی (نظیر اضطراب، اعتمادبهنفس، ناراحتی یا عصبی بودن) آنها مورد استفاده قرار بگیرد. دیدگاههای سیاسی، تمایلات جنسی و سلامت عمومی کاربران را نیز میتوان از طریق دادههای آنها تشخیص داد.
مبادله داده با امکانات دیجیتال
دادهها به مثابه سوخت برای ماشین هوش مصنوعی و پول رایج در عصر دیجیتال عمل میکنند. نقشی که زمانی طلا، نفت یا موتور بخار داشتند، امروز دادهها بر عهده گرفتهاند. مهمترین تفاوت تکنولوژی هوش مصنوعی با تکنولوژیهای دیگر شاید این باشد که منابع موجود برای این تکنولوژی بیپایان و نامحدود است. بنابراین، در عصر دیجیتال، ثروت در اختیار گروه محدودی قرار میگیرد که به منابع عظیم دادهها دسترسی دارند. دادهها بهایی هستند که ما در ازای خدماتی پرداخت میکنیم که به انحاء دیگری نمیتوانیم هزینه بهرهمندی از آنها را پرداخت کنیم؛ خدماتی نظیر داشتن حساب ایمیل یا عضویت در شبکههای اجتماعی. این در حالی است که ما کاربران تکنولوژیهای دیجیتال، از نقش مهم خود در تولید ارزش و سود در اقتصاد دادهمحور بیاطلاع هستیم و از آنجا که قدرت چانهزنی نداریم، نمیتوانیم معامله برابری با شرکتهای تکنولوژی داشته باشیم و درباره هزینه بیشتری که در ازای خدمات دریافتیمان پرداخت میکنیم مذاکره کنیم. در نتیجه، حریم خصوصی ما در ازای بهرهمندی از امکانات دیجیتال مورد تعرض قرار میگیرد.
ملاحظاتی در باب حفاظت از دادهها و حریم خصوصی کاربران
جمعآوری دادهها و به تبع آن، افزایش قدرت تحلیل این دادهها توسط هوش مصنوعی این توانایی را در اختیار شرکتها و دولتها قرار میدهد که بتوانند ما را بهتر از خودمان بشناسند. در حال حاضر، از دادهها در حوزههای مختلفی نظیر پزشکی، تجاری، مالی، نظامی و… استفاده میشود و به نظر میرسد که کاربرد هوش مصنوعی در حال فراروی از حوزههای تجاری به سوی صنایع خدماتی و حوزههای کشاورزی است. وسعت یافتن کارکردهای هوش مصنوعی همزمان اختیارات و قدرتهای بیسابقهای را در اختیار صاحبان این تکنولوژیها قرار میدهد. رشد کاربردهای تجاری هوش مصنوعی و کاربرد آن در حوزههای متعدد منجر به شکلگیری رقابتی عجیب میان شرکتها و دولتها شده و نتیجه این رقابت، شدت گرفتن هرچه بیشتر سرعت رشد هوش مصنوعی است به گونهای که عملاً بسیار دشوار به نظر میرسد که بتوان مسیر پیشرفت هوش مصنوعی را ردیابی و کنترل کرد.
بسیاری از متخصصان حوزه اخلاق داده و اخلاق هوش مصنوعی بر این باورند که میزان حفاظت فعلی از دادهها و حریم خصوصی کاربران فناوریهای دیجیتال کافی نیست و هر کشور باید مقرراتی را برای حفاظت از شهروندان خود تنظیم کند. دولت نیز همزمان مسئول اجرایی شدن قوانین حامی حقوق کاربران است. شرکتها هم با اولویت دادن به امنیت و حریم خصوصی کاربران میتوانند رابطهای مبتنی بر اعتماد با آنها بسازند که این اعتماد به نوبه خود موجب تداوم استفاده کاربر از خدمات شرکتها خواهد شد.
جریان آزاد داده در میان مرزها در همه مراحل چرخه زندگی هوش مصنوعی از توسعه تا کاربرد آن در حوزههای مختلف امری ضروری است. بدیهی است که دادههای مورد استفاده برای هوش مصنوعی اغلب از نواحی جغرافیایی مختلفی تأمین میشود و این موضوع بر ضرورت انتقال ساده، سریع و وسیع دادهها تأکید میکند. در نتیجه، مقرراتی که موجب محدود شدن انتقال داده در میان مرزها شوند، میتوانند فواید هوش مصنوعی را کاهش دهند و بر دقت تصمیمات آن تأثیرات نامطلوبی بگذارند. بنابراین، به نظر میرسد نیاز داریم نقطه تعادلی را پیدا کنیم میان نیاز به حفاظت از حریم خصوصی کاربران و پاسخ به نگرانیهای آنها در این رابطه، و نیاز صنعت و بازار هوش مصنوعی به دادهها برای اینکه بتوانند خدمات مطلوبی را ارائه دهند.
تصور میشود کشور چین از جمله کشورهایی باشد که شهروندان آن کمترین نگرانی را نسبت به حریم خصوصی خود نشان میدهند و بیشترین پذیرش را نسبت به مصالحه برای افشاء دادههای خود در برابر امکانات فناوریهای دیجیتال دارند، چرا که حجم بسیار عظیمی از دادهها در اختیار شرکتها و دولت این کشور قرار دارد. اما مطالعهای که در سال ۲۰۱۹ توسط تلویزیون مرکزی چین (CCTV) روی ۸۰۰۰ کاربر انجام شده است نشان میدهد که سه چهارمِ این افراد نگران حریم خصوصی خود هستند و نتایج این مطالعه، این تصور را که چینیها اهمیتی به دادهها و حریم خصوصی خود نمیدهند زیر سؤال میبرد. این مطالعه همچنین نشان میدهد که ۷۷٪ از شرکتکنندگان انواع خاصی از هوش مصنوعی را تهدیدی برای حریم خصوصی خود میدانند، با اینکه باور دارند که هوش مصنوعی ظرفیتهای بالایی برای رشد دارد و در صنعتهای مختلفی میتواند نفوذ کند.
چنین مشاهداتی بسیاری از متخصصان حوزه هوش مصنوعی و تحلیلگران بازار را به ضرورت تأکید بر این نکته واداشته است که مجموعهای از اصول، روندها و ابزارهای مختلف دیگر باید طراحی و اجرایی شوند تا مدیریت دادهها به نحوی مسئولانه صورت بگیرد و همزمان با توسعه تکنولوژیهای هوش مصنوعی در آینده، به ضمانتهایی اجرایی برای حفاظت از دادهها نیز اندیشیده شود. برای مثال، میتوان حقوق کاربران را درباره مالکیت بر دادههایشان جدیتر و قویتر پیگیری کرد و به آنها این اجازه را داد که رضایت آگاهانه خود را برای افشای اطلاعات خصوصیشان به شرکتها اعلام کنند یا از این کار امتناع کنند.
مثال دیگر، ماده ۲۲ قانون حفاظت از دادههای اتحادیه اروپاست (GDPR) که طبق آن، تصمیماتی که توسط هوش مصنوعی و بر اساس الگوریتمها گرفته میشوند، باید به نحوی دستی و توسط عاملان انسانی اصلاح، تأیید یا رد شوند. به بیان دیگر، هیچ فرایند تصمیمگیریای نمیتواند صرفاً و کاملاً توسط الگوریتمها و ماشینها و بدون هرگونه مداخله انسانی صورت بگیرد. این ماده هزینه اقتصادی مضاعفی را به شرکتهای تکنولوژی تحمیل میکند، چرا که باید کارمندانی را برای پذیرفتن مسئولیت بررسی و ارزیابی تصمیمات الگوریتمها استخدام کنند. علاوه بر این هزینه اقتصادی، نگرانیهایی در باب محدود شدن قدرت هوش مصنوعی و کاهش مزیتهایی مانند سرعت، کارآمدی و سهولت کاربرد آن نیز وجود دارد.
شیوههای رایجی که در هوش مصنوعی استفاده میشوند مبتنی بر یادگیری ماشین هستند و الگوریتمها در چنین فرایندهایی دائماً در حال ارتقاء خود هستند. فرض بر این است که هیچ مداخله خارجیای برای یادگیری این ماشینها مورد نیاز نیست و صرفاً دادهها برای یادگیری الگوریتم کافی هستند. دادههایی که برای آموزش الگوریتمهای هوش مصنوعی مورد استفاده قرار میگیرند، فراموش نمیشوند و مبنای قواعدی را میسازند که هوش مصنوعی از آنها استفاده میکند. پس این امکان وجود ندارد که کاربر هر زمانی که بخواهد، بتواند داده مربوط به خود را پاک کند. انجام چنین کاری شبیه این است که بخواهیم از پیِ یک سازه چند طبقه، یک آجر را برداریم. مستقل از اینکه این سازه چه اندازه سازه خوب و مستحکمی باشد، با این کار بنیان آن سست خواهد شد؛ چرا که ممکن است از این دادهها برای مقاصد مختلف و در دفعات متعددی استفاده شده باشد و بخشهای مختلفی از سازه به این دادهها متکی باشد.
در راستای تعدیل چنین کاربردهایی از دادهها، ماده ۶ قانون حفاظت از داده اتحادیه اروپا میگوید که شرکتها مجازند از دادهها تنها برای همان هدفی استفاده کنند که به خاطر آن دادهها را جمعآوری کردهاند و استفاده از این دادهها برای مقاصد دیگری که کاربر رضایت خود را درباره آنها اعلام نکرده است، مجاز نیست. این ماده هم اگرچه در پاسخ به یک نگرانی مربوط به حریم خصوصی تدوین شده است، اما محدودیتهایی را بر توسعه و کاربرد هوش مصنوعی برای امتحان کردن کارکردهای جدید آن تحمیل میکند. برای اینکه مقرراتی از این دست اجرایی شوند، شرکتها باید متخصصانی آشنا به این مقررات را نیز استخدام کنند تا محصولات شرکت را کنترل کنند و این هم هزینه جدیدی را به شرکتها تحمیل خواهد کرد.
یکی از راهکارهای پیشنهادی دیگر برای افزایش اعتماد کاربران به تکنولوژیهای هوش مصنوعی، تلاش برای شفاف کردن نحوه عملکرد سیستمهای هوش مصنوعی و مسیر تصمیمگیری آنهاست. در حال حاضر گروههای متخصص متعددی هستند که درباره شیوههای مختلفی که میتوان این راهکار را عملی کرد، میاندیشند. نتایج تحقیقات آنها عمدتاً نشان میدهد که تلاش برای شفاف کردن الگوریتمهای تصمیمگیری مقارن است با محدود شدن آزادی عمل برای توسعه هوش مصنوعی (Microsoft, 2017) و این نیز مانعی در مسیر حفاظت از حریم خصوصی و دادههای کاربران است.
قدرت کاربران در زیر سوال بردن هیمنه هوش مصنوعی
چنانکه پیشتر نیز گفتیم، رشد هوش مصنوعی و ارتقاء الگوریتمها ممکن نمیشود مگر به کمک دادههای خصوصی افراد. امروزه زمزمههایی شنیده میشود مبنی بر اینکه چهره معصوم و مطلقاً مثبت تکنولوژیهای دیجیتال در حال مخدوش شدن است و پرسشهای اخلاقی، اجتماعی و اقتصادی درباره تأثیرات جانبی این تکنولوژیها ذهن عامه مردم را به خود مشغول کرده است. متخصصان نیز بر این باورند که در آیندهای نزدیک، هوش مصنوعی ریسکهای بالایی را به جوامع انسانی تحمیل خواهد کرد و ظرفیتهای فکری خارقالعادهای را نیز از خود به نمایش خواهد گذاشت. اندیشمندان متعددی هشدارهایی جدی درباره هوش مصنوعی به ما میدهند و معتقدند توسعه خارج از کنترل هوش مصنوعی بسیار محتمل است که منجر به ظهور ماشینهای مستقل و خودمختاری شود که میتوان آنها را نخستین گامها به سوی انقراض گونه بشر تلقی کرد؛ چرا که وقتی هوش مصنوعی به سطح مشخصی از خودآگاهی و توان تصمیمگیری رسید، بشر دیگر نمیتواند تأثیرات کنشهای او را پیشبینی کند.
به علاوه، اینکه هوش مصنوعی به قدر کافی شفافیت و پاسخگویی از خود نشان نمیدهد، سردرگمی بشر را در مواجهه با این تکنولوژی بیشتر خواهد کرد. هوش مصنوعی از مسیرهای مبهم و غیر شفافی، الگوهایی را میان دادههای ورودی خود پیدا میکند و تبیینی برای نحوه پیدا کردن این الگوها ارائه نمیدهد و همین الگوها در مراحل بعد، مبناهایی برای تصمیمگیریهای سیستمهای خودمختار را تشکیل میدهند. بنابراین، به نظر میرسد ما در حال واگذاری قدرت تصمیمگیری به سیستمهایی هستیم که روندهای غیر شفافی را پی میگیرند و اغلب، تبیینی برای نحوه پیدا شدن الگوها و همبستگیهای میان دادهها ارائه نمیشود. این امر، قدرت پاسخگویی سیستمهای مبتنی بر هوش مصنوعی را در برابر خطاهای صورتگرفته کاهش میدهد.
این در حالی است که از یک سو، غولهای بزرگ تکنولوژی را داریم که عمدتاً در آمریکا و چین حضور دارند و مقادیر عظیمی از دادهها و اطلاعات درباره امیال و رفتارهای کاربرها در اختیار آنهاست و از سوی دیگر، باقی کشورها هستند که عمدتاً دریافتکنندههای منفعل تکنولوژیهایی هستند که برای استفاده آنها طراحی شده و هر لحظه در حال جمعآوری دادههای آنها هستند. یووال نوح هراری در برابر این نگرانی، که آن را مهمترین مسئله سیاسی و اجتماعی میداند، پیشنهاد تنظیم مقرراتی را برای مالکیت داده میدهد.
هرچه میزان مداقه عمومی نسبت به منافعی که از دادههای شخصی عاید شرکتها میشود، بالا میرود و از شرکتها تقاضای شفافیت بیشتری درباره مدلهای کسب و کارشان میشود، برای شرکتها دشوارتر میشود که از ارائه تبیین درباره نحوه عملکردشان سر باز زنند و ارزشهایی مانند شفافیت و عدالت را زیر پا بگذارند. چارچوبهای قانونی جدید باید تعادلی را در جهان متغیر تکنولوژیهای دیجیتال برقرار کنند و از شهروندان در برابر این تغییرات پرشتاب محافظت کنند. علاوه بر اینکه راهبرد خودتنظیمی باید توسط شرکتها پیگیری شود، راهبردهای قویتری نیز باید توسط دولت در قبال گستره وسیعی از چالشها و نگرانیهای (اخلاقی، مربوط به حریم خصوصی و…) مربوط به هوش مصنوعی اجرایی شود.



