معرفی فریم‌ورک جدید برای جلوگیری از رفتار نامطلوب در یادگیری ماشین

محققان در دانشگاه های استنفورد و و ماساچوست آمرست یک فریم ورک برای طراحی الگوریتم های یادگیری ماشین معرفی کرده اند که محدودیت های ایمنی و انصاف را برای کاربران بالقوه آسان می کند.

به گفته نویسنده مقاله، الگوریتم های یادگیری ماشین فعلی بیشتر اوقات رفتارهای نامطلوبی ارائه می  دهند که ممکن است منجر به جهت و سو گیری نامناسب، ایجاد ضرر اقتصادی و یا دیرکرد در تشخیص پزشکی و … شوند. آن چه که این مسئله را بغرنج تر می کند، این است که بار این رفتارهای ناطلوب ایجاد شده بیش از اینکه بر روی طراح باشد بر روی دوش کاربر است.

این فریم ورک به کاربران اجازه می دهد تا بدون نیاز به دانش دامنه یا آنالیز داده های اضافی، به راحتی رفتار الگوریتم را محدود کنند. طبق مقاله نویسنده، این امر باعث می شود تا فشار این که الگوریتم تا چه میزان رفتار درستی دارد از سمت کاربر به سمت نویسنده الگوریتم تغییر جهت داشته باشد.

از آن جایی که تاثیر الگوریتم های ماشین بر روی جامعه روز به روز در حال افزایش می باشد، اینکه ما از عدم وجود خروجی های نامطلوب اطمینان داشته باشیم، اهمیت بسیاری دارد. با استفاده از تعریف ریاضی این خروجی ها، هم کاربر و هم الگوریتم یاد می گیرند که چگونه از این نتایج نامطلوب دور بمانند.

در یک بیانیه رسمی، فیلیپ توماس، استادیار علوم کامپیوتر در دانشگاه ماساچوست آمرست و یکی از نویسندگان مقاله، توضیح می دهد که این فریم ورک تضمین اعتدال و جلوگیری از ضرر ها را برای بسیاری از صنایع آسان می سازد. این کار با استفاده از «الگوریتم سلدونیان» انجام می شود. این نام از روی کاراکتر هری سلدون، یکی از شخصیت ها تخیلی است که توسط نویسنده داستان های علمی تخیلی، اسحاق آسیموف خلق شده است. در یکی از داستان ها، سلدون الگوریتمی را توسعه می دهد که به او این امکان را می دهد که آینده را به صورت احتمالی پیش بینی کند.

فیلیپ توماس بیان می کند که این فریم ورک ابزاری است که محققان را به سمت خلق الگوریتمی که به راحتی با مسائل جهان واقعی منطبق شوند، هدایت می کند. به گفته توماس اگر از یک الگوریتم سلدونیان برای درمان دیابت استفاده کنیم، می توانیم مشخص کنیم که رفتار نامطلوب به معنی کاهش خطرناک قند خون و یا فراوانی قند خون می باشد. به بیان توماس “من می توانم به ماشین بگویم که همزمان با اینکه کنترل کننده پمپ انسولین را بهبود می دهی، تغییراتی که باعث افزایش فراوانی قند خون می شود را انجام نده.” خیلی از الگوریتم ها اجازه اینکه چنین محدودیت هایی در رفتار آن ها ایجاد کنید را به شما نمی دهند.

این فریم ورک در سه مرحله کار می کند. اول، هدف را برای فرآیند طراحی الگوریتم تعریف می کند. دوم، رابط کاربری که کاربر از آن استفاده می کند را تعریف می کند. در آخر، الگوریتم را خلق می کند.

برای نشان دادن توانایی بقا و دوام آن، محققان با استفاده از این فریم ورک توانسته اند الگوریتم های یادگیری دارای برگشت پذیری، رده بندی و تقویتی طراحی کنند.

به منظور آزمایش این فریم ورک، نویسندگان این مقاله از الگوریتم های تولید شده برای مجموعه داده های 43000 دانشجو در برزیل استفاده کرده اند تا میانگین نمرات نمره دانشجویان (GPA) در طول سه ترم اول خود در دانشگاه را بر اساس نمراتشان در 9 آزمون ورودی ، پیش بینی کند در حالی که رفتار نامطلوب تعریف شده برای آن جنسیت گرایی بود و آن را به عنوان یک تبعیض و یک رفتار نامطلوب شناسایی می کرد.

نتایج نشان دادند که الگوریتم های بازگشتی معمولی که با استفاده از رویکرد های استاندارد یادگیری ماشین طراحی شده بودند، می توانند بدون هیچ ملاحظه نسبت به دانشجویان دختر تمایز قائل شوند. در حالی که در مقابل با استفاده از الگوریتم بازگشتی سلدونیان کاربر به راحتی می تواند رفتارهای تبعیض جنسیتی را محدود نماید.

توماس و همکارانش امیدوارند که این فریم ورک بتواند راه های جدیدی برای به کار گرفتن یادگیری ماشین باز کند.

او می گوید: “الگوریتم هایی که با استفاده از فریم ورک ما طراحی شده اند صرفا جایگزینی برای الگوریتم های یادگیری ماشین موجود نیستند. بلکه امیدواریم این فریم ورک راه را برای استفاده از یادگیری ماشین در حوزه هایی باز کند که پیش از این حضورش در آن حوزه ها خطرناک بنظر می رسید.”

منبع: aitrends.com

چنانچه این مطلب برای شما مفید بود آن را با دوستانتان به اشتراک بگذارید.