الگورتیم‌هایی برای تشخیص بیماری‌های چشمی، بیشتر در ایالات متحده، اروپا و چین آموزش داده می‌شود. این مسئله می‌تواند ابزاری موثر برای دیگر نژادها و ملت‌ها باشد. هوش مصنوعی به بشر در تشخیص ماهرانه بیماری در تصاویر و اسکن‌های پزشکی کمک می‌کند. با این‌حال، نگاهی دقیق به داده‌های مورد استفاده برای آموزش الگوریتم‌ها برای تشخیص شرایط چشم نشان می‌دهد، این ابزارهای قدرتمند جدید ممکن است نابرابری‌های سلامتی بین نژادهای مختلف بشر را تداوم بخشند.
هوش‌مصنوعی در تشخیص بیماری‌ها : آیا تعصب در این حوزه وارد شده است؟
تیمی از پژوهشگران در انگلیس، 94 مجموعه داده با بیش از 500.000 تصویر را آنالیز کردند که معمولا برای آموزش الگوریتم‌های هوش مصنوعی برای تشخیص بیماری‌های چشم استفاده می‌شود. آن‌ها دریافتند که تقریبا تمامی داده‌ها از بیماران آمریکای شمالی، اروپا و چین تهیه شده است. فقط چهار مجموعه داده از جنوب آسیا، دو مورد از آمریکای جنوبی و یک مورد از آفریقا آمده است. در این میان نیز هیچ داده‌ای از اقیانوسیه در دسترس نبود.
زیازوان لیو (Xiaoxuan Liu)، چشم پزشک و پژوهشگر دانشگاه بیرمنگام بریتانیا که در این مطالعه شرکت داشت، چنین می‌گوید: “اختلاف در منابع این تصاویر چشمی به این معنی است که الگوریتم‌های معاینه چشم مصنوعی برای گروه‌های نژادی از کشورهای کم نماینده خوب عمل نخواهند کرد”. وی همچنین بر سخنان خود اینگونه افزود که: “حتی اگر در جمعیت خاصی تغییرات بسیار ظریف در بیماری ایجاد شود، هوش مصنوعی در تشخیص بیماری‌ها می‌تواند کاملا اشتباه کند.”
انجمن چشم پزشکان آمریكا علاقه زیادی به ابزارهای هوش مصنوعی نشان داده است. به گفته آن‌ها چنین ابزارهایی نویدبخش بهبود هرچه بهتر استانداردهای مراقبت است. ولی لیو عقیده دارد که برخی پزشکان ممکن است تمایلی به استفاده از چنین ابزارهایی برای اقلیتهای نژادی نداشته باشند، درصورتی‌که بدانند عمده این ابزارها از مطالعه بر روی بیماران سفیدپوست ساخته شده‌اند. وی خاطرنشان کرد که الگوریتم‌ها ممکن است به دلیل اختلافاتی که بیش از حد ظریف است و خود پزشکان قادر به مشاهده آن نیستند، از کار بیفتند.
پژوهشگران مشکلات دیگری نیز در داده‌های هوش مصنوعی در تشخیص بیماری‌ها پیدا کردند. بسیاری از مجموعه‌های داده‌ها شامل اطلاعات کلیدی جمعیتی، از جمله سن، جنسیت و نژاد نبودند. بنابراین، ارزیابی این‌که آیا این داده‌ها، به طریقی دیگر تعصب دارند، دشوار است. مشکل دیگر در اینجاست که این مجموعه داده‌ها براساس مطالعه بر روی تعداد محدود بیماری ایجاد شده است: گلوکوم، رتینوپاتی دیابتی و تخریب ماکولای وابسته به سن. چهل و شش مجموعه داده‌ای که برای آموزش الگوریتم‌ها استفاده شده، داده ها را در دسترس قرار نمی‌دهد.
سازمان غذا و داروی ایالات‌متحده چندین محصول تصویربرداری از طریق هوش مصنوعی را در سال‌های اخیر تأیید کرده است، از جمله این محصولات، دو ابزار هوش مصنوعی در حوزه چشم پزشکی است. لیو می‌گوید که:”شرکت‌های پشت این الگوریتم‌ها معمولا جزئیاتی از نحوه آموزش آن‌ها ارایه نمی‌دهند.” وی و همكارانش از تنظیم‌كنندگان خواستند كه هنگام بررسی ابزارهای هوش مصنوعی، تنوع داده‌های آموزشی را در نظر بگیرند.
تعصب موجود در مجموعه داده‌های تصویرهای مربوط به چشم پزشکی به این معنی است که الگوریتم‌های آموزش دیده بر روی این داده‌ها، در آفریقا، آمریکای لاتین یا جنوب شرقی آسیا به درستی کار نخواهند کرد. این امر می‌تواند به منزله ضعف و شکستی بزرگ در استفاده از هوش مصنوعی در تشخیص بیماری‌ها به حساب آید. چنین تعصب‌هایی، باعث عدم کارآیی مناسب این ابزارها در مناطق فقیرنشین خواهد شد.
لیو اینگونه می‌گوید که: “متاسفانه، بشر امروزی در حال به‌دست‌آوردن نوآوری است که تنها به نفع بخش‌های خاصی از گروه‌های مردمی است. این درست هماننند داشتن Google Maps در دست است که در منطقه خاصی کار نمی‌کند.” عدم تنوع موجود در تصاویر چشم پزشکی و داده‌های هوش‌مصنوعی در تشخیص بیماری‌ها، که محققان آن را “فقر داده” می‌نامند، احتمالا بسیاری از الگوریتم‌های هوش مصنوعی پزشکی را تحت تاثیر خود قرار می‌دهد.
آمیت کاوشال (Amit Kaushal)، استادیار پزشکی در دانشگاه استنفورد، بخشی از تیمی بود که 74 مطالعه مربوط به استفاده پزشکی از هوش مصنوعی را تجزیه و تحلیل کرد، 56 مطالعه (از 74 مطالعه) از داده‌های بیماران آمریکایی استفاده می‌کرده است. آن‌ها دریافتند كه بیشتر اطلاعات آمریكا از سه ایالت كالیفرنیا (22 مورد)، نیویورك (15 مورد) و ماساچوست (14 مورد) گرفته شده است.
براساس گفته‌های آمیت کاوشال: “هنگامی‌که زیر گروه‌های جمعیتی به طور سیستماتیک از داده‌های آموزش هوش مصنوعی حذف شوند، الگوریتم‌های هوش‌مصنوعی در تشخیص بیماری‌ها برای گروه های محروم عملکرد و کارآیی بدی خواهند داشت. مشکلات موجود در جمعیت‌های کم‌نماینده حتی ممکن است توسط پژوهشگران هوش مصنوعی به دلیل کمبود اطلاعات موجود، مورد مطالعه قرار نگیرد.”
وی چنین ادامه می‌دهد که: “پژوهشگران و پزشكان هوش مصنوعی را باید از این مسئله آگاه کرد تا به دنبال مجموعه‌های متنوع‌تری باشند. ما باید زیرساخت‌های فنی را پایه گذاری كنیم كه اطلاعات متنوع و گسترده‌تری برای تحقیقات هوش مصنوعی خود ایجاد کنیم و یك محیط نظارتی باید از پژوهش‌هایی که از این داده‌ها استفاده کرده، پشتیبانی و محافظت كند.”
ویکاش گوپتا (Vikash Gupta)، دانشمند تحقیقاتی در کلینیک مایو در فلوریدا آمریکا که در زمینه استفاده از هوش مصنوعی در رادیولوژی فعالیت می‌کند، می‌گوید که :”با افزودن داده‌های متنوع‌تر در آموزش هوش‌مصنوعی برای تشخیص بیماری‌ها، ممکن است تعصب موجود از بین رود. دشوار است كه بگوییم در حال حاضر چگونه این مسئله را حل كنیم.” گوپتا همچنین بر گفته‌های خود چنین افزود که: “اگرچه در برخی شرایط، تمرکز بر زیرمجموعه‌ای از جمعیت برای الگوریتم مفید خواهد بود. به عنوان مثال، هنگام تشخیص بیماری که به طور نامتناسبی آن گروه را تحت تأثیر قرار داده است.”
لیو، چشم پزشک و پژوهشگر از دانشگاه بیرمنگام، امیدوار است که با گسترش بیشتر این فناوری، در داده‌های آموزش هوش‌مصنوعی برای تشخیص بیماری‌ها، شاهد تنوع بیشتری باشد. وی همچنین اینگونه افزود که: “اگر از ده سال پس از آن‌که از هوش مصنوعی برای تشخیص بیماری استفاده کنیم، بیماری رنگین پوست در مقابل خود داشتم، نمی‌خواهم بگویم که ببخشید اما مجبورم درمان متفاوتی را به شما ارائه دهم زیرا این درمان، مناسب شما نیست!”.
