حذف تعصب به کمک هوش مصنوعی: چگونه هوش مصنوعی قادر به از بین بردن تبعیض و تعصب در سیستمهای تصمیمگیری در جامعه کنونی بشر است؟
تاکنون، درباره خطرات وارد شدن تعصبهای انسانی در هوش مصنوعی و الگوریتمها چیزهای زیادی گفته شده است. ولی نظریههای یک اقتصاددان نشان میدهد که حذف تعصب با هوش مصنوعی کاری ممکن و شدنی است.
حذف تعصب به وسیله هوش مصنوعی
به تازگی دولت انگلیس مروری بر سوگیری الگوریتمی، موضوعی مهم و حتی حیاتی با پیشرفت هرچه بهتر و بیشتر تصمیمگیریها از Wetware به سیلیکون، منتشر کرده است.
نکته: Wetware، مخفف نرمافزار مرطوب (wet software) است که به ترکیب نرمافزار، سختافزار و بیولوژیکی اشاره دارد. این واژه، در حقیقت به ارتباط میان کد نرمافزاری و کد ژنتیکی اشاره دارد، جایی که DNA موجودات بیولوژیکی، که از نظر فیزیکی مرطوب و شبیه به ساختار یک نرمافزار است. به عبارت دیگر، wetware به نرمافزاری اشاره دارد که متعلق به موجودات زنده (بیولوژیکی) است، دستورالعملهای موجود در ساختار DNA آنها شبیه به دستورالعملهای پشت برنامههای رایانهای است که از آن با عنوان نرمافزار یا میانافزار یاد میشود.
بیایید تفاوت بین الگوریتمها و هوش مصنوعی را در یک ساختار زبانی بررسی کنیم. اصلا لازم نیست یک الگوریتم کدگذاری شود. در حقیقت، الگوریتمها، مجموعه قوانینی است که برای انجام تصمیمگیری باید در دست داشته باشیم. قوانینی که با استفاده از آنها تصمیم میگیریم، معمولا و تقریبا همیشه، از روشهای فعلی (به صورت رسمی یا حتی کدگذاری) مشتق میشوند.
از آنجا که عملکرد هوش مصنوعی برعکس الگوریتمهاست، حذف تعصب به کمک هوش مصنوعی امری کاملا شدنی و امکانپذیر است. زیرا در اینجا مسئله دادهها مطرحاند. حال پرسش این است که این دادهها قرار است چه اطلاعاتی به ما بدهند؟ در دنیای مدرن امروزی ما، نمی دانیم چه اتصالی وجود دارد و تنها ماشینها هستند که جایگاهی خود را در آن پیدا کردهاند. این مسئله در بازارهای مالی تماما متداول است، جاییکه هوش مصنوعی ارتباطاتی را شکل میدهد که هیچ کس از آن اطلاعی ندارد، حتی صاحبان آن.
نگرانی گزارش در این است که افزایش استفاده از الگوریتمها میتواند یا خواهد توانست که بیعدالتیهای موجود را که میدانیم در قوانین اجتماعی و تصمیمگیریهای ما ریشه بسیار عمیقی دارد،را برطرف سازد. اگرچه این نکتهای است که به آن مستقیم اشاره نشده، اما موضوعی است بسیار مهم که هنگام کار با الگوریتمها باید حتما لحاظ گردد.
به هرحال، همگی ما در تلاشیم تا یک سیستم تصمیمگیری برای جامعه کنونی خود تولید کنیم. بنابراین ناچاریم تا این سیستم مطابق با قوانین کنونی جهان پیرامون ما باشد. الگوریتمهایی که با واقعیت سر و کار ندارند، به درستی کار نمیکنند. برای حل این مسئله به روش فکری گری بکر (Gary Becker)، برنده نوبل اقتصاد نیاز داریم. خط مشی وی برای این مشکل، حذف تعصب به کمک هوش مصنوعی است.
تبعیض سلیقهای در برابر تبعض منطقی
گری بکر (gary Becker) اشاره کرد که ما میتوانیم، و البته باید بتوانیم، میان تبعیض سلیقهای و تبعیض منطقی تفاوت قائل شویم. یکی از یافتههای مکرر این است که اپلیکیشنهای شغلی با نامهایی ظاهرا متعلق به افراد رنگین پوست مانند جَمیل، تماس کمتری برای مصاحبه نسبت به اپلیکیشنهایی با نامهایی ظاهرا متعلق به فرد سفید پوست مانند جیمز یا روپرت کسب میکنند. از این مسئله با عنوان “تبعیض سلیقهای” یا همان (taste discrimination) یاد میشود که بیشتر افراد آن را با نام “نژادپرستی” میشناسند.
نکته اینجاست که ما کاملا میخواهیم تبعیض سلیقهای را از میان برداریم؛ دقیقا به این دلیل که آن را به درستی ناعادلانه میپنداریم. بهترین عمل برای این مسئله، حذف تعصب با هوش مصنوعی است. با این وجود، تبعیض منطقی (Rational Discrimination) زیادی وجود دارد که ما باید آنها را برای کارکرد درست یک سیستم حفظ کنیم. بیشمار بودن روپرت یا جَمیل، دلیل خوبی است که آن را به عنوان مجری استخدام نکنید.
بِکر در ادامه خاطر نشان کرد که استفاده از تبعیض سلیقهای (نمونه ویژه آن، نژادپرستی فاحش اواسط قرن 20 امریکاست) برای شخصی که این کار را انجام میدهد، هزینهبر است. درست است که این مسئله، برای افرادی که مورد تبعیض قرار میگیرند گران تمام میشود، ولی صحیحتر آن است که بدانیم انجام آن نیز هزینهبر است. زیرا مجریان امر، با این کار مهارتها و کارمندان بسیار مفید و سودمندی را از دست خواهند داد. برپایه عقاید بِکر، از بین بردن تبعیض سلیقهای، تنها با حذف تعصب به کمک هوش مصنوعی شدنی است.
هرچه جامعه این کار را (تبعیض نژادی سلیقهای) با گروه ویژهای از مردمان انجام دهد، این گروه از افراد را برای شکستن تابوها و مبارزه با نژادپرستی مصممتر میسازد. قوانین “جیم کرو (Jim Crew)” در آن زمان (اواسط قرن 20 در آمریکا)، مصداق بارز این سخن است. تنها با فشار و اصرار قانونی است که میتوان به پایانی بر نژادپرستی دست یافت. دستیافتنی که سود بسیار برای همگی دارد. حداقل در نهایت نیروهای بازار آزاد چنین الگوریتمهای بی عدالتی را میشکنند.
موجودی عجیب به نام انسان
آنچه ما را به سمت استفاده از هوش مصنوعی در دنیای جدیدمان وا میدارد، موجودی عجیب به نام انسان است. با توجه به تعریف استفاده شده توسط گری بِکر، این فناوری کاملا منطبق با الگوهایی فارغ از “تبعیض سلیقهای” است. هیچ انسانی قوانین تصمیمگیری را در اینجا را طراحی نکرده است. طبق تعریف، ما اجازه میدهیم ساختار ذاتی دادهها، چنین تصمیمهایی را برای ما ایجاد نمایند.
در ایجاد تصمیمگیری بخشهایی از شخصیت انسان که منجر به نژادپرستی، زن ستیزی و غیره میشود، دخیل نمیشوند. بنابراین، ما سیستم تصمیمگیری را خواهیم داشت که فارغ از “تبعیض سلیقهای” است و این مسئله کامل با منطق انجام شده است. به روش دیگر به نظریه بِکر (Becker) نگاه کنید. بگویید، آیا باید زنان حقوق کمتری دریافت کنند؟ چرا؟ چه چیزی درباره انتخاب زنان وجود دارد؟ یا چه چیزی درباره مردسالاری آن را پر اهمیت میکند؟ یک الگوریتم را میتوان برای هر دو فرض موجود طراحی کرد.
سوالی که در اینجا مطرح میشود آن است که حذف تعصب به کمک هوش مصنوعی چگونه ممکن است؟ در پاسخ باید گفت که این هوش قرار است با دادههایی کار کند و از آن نتیجه بگیرد که به زنان حقوق کمتری داده شود. سپس (با فرض استخدام توسط یک هوش مصنوعی)، این سیستم تصمیم میگیرد که زنان کارمندان ارزانتری نسبت به مردان هستند، بنابراین آنها را بیشتر استخدام میکند. بدینترتیب، این مشکل، با گذشت زمان، حل خواهد شد. این بدان معناست که مشکل عجیب و غریب مردسالاری که بر بسیاری جوامع حاکم است و به موجب آن، زنان حقوق کمتری دریافت میدارند، به دست هوش مصنوعی حل گردد.
درباره حذف تعصب به کمک هوش مصنوعی باید گفت که این فناوری به سادگی در مورد آنچه که هست کار خواهد کرد، نه بر روی آنچه که ما فکر یا تصور میکنیم. این بدان معناست که اکنون فیلتری ساختهایم که فقط اجازه “تبعیض عقلانی” بِکر را به ما میدهد، زیرا قواعدی که به موجب آن تصمیمگیری میشود فقط میتواند قوانینی باشد که در واقع وجود دارند، نه اینکه توسط فرآیندهای عجیب و غریب تفکر انسانی وضع شده باشند.