ننایج یک تحقیق که در آن از الگوریتم‌های آموزش داده شده جهت خواندن نتایج اشعه ایکس برای بیماری آرتروز زانو استفاده شده بود نشان داد که رادیولوژیست‌ها ممکن است درهنگام خواندن نتایج اسکن اشعه ایکس نقاط کور بسیاری داشته باشند و این نقاط کور هنگامی که بیمار یک فرد سیاه پوست باشد بیشتر هم خواهد بود. گفتنی است که در این تحقیقات از بیماران به عنوان داور استفاده شد.
طبق گزارش بیماران حاضر در این مطالعات الگوریتم‌های آموزش داده شده نسبت به پزشکان در محاسبه میزان دردی که بیماران سیاه پوست تجربه کرده‌اند عملکرد بهتری داشتند و ظاهراً الگوریتم‌ها برتری خود را با کشف و توجه به الگوهایی از بیماری بدست می‌آورند که انسان‌ها معمولاً از آن چشم‌پوشی می‌کنند.
سعید ابراهیم، استاد پزشکی در ویل کورنل در شهر نیویورک که در زمینه نابرابری‌های سلامتی تحقیق می‌کند و در این مطالعه شرکت کرده است می‌گوید: “این تحقیق هشداری به رادیولوژیست‌ها و پزشکان می‌فرستد و نشان می‌دهد که ما به ارزیابی مجدد استراتژی‌های فعلی خود نیاز داریم.”
الگوریتم‌های طراحی شده برای آشکار کردن آنچه که پزشکان نمی‌بینند، به جای تقلید از دانش آن‌ها می‌تواند مراقبت‌های بهداشتی را منصفانه‌تر کند. ابراهیم در یک کنفرانس خبری جدید اظهار کرد که این سیستم می‌تواند به کاهش آمار در افراد سیاه پوستی که برای آرتروز زانو جراحی می‌شوند کمک کند. وی می گوید: “بیماران آمریکایی آفریقایی تبار حدود 40 درصد کمتر از سایرین احتمال تخریب و نیاز به تعویض مفصل زانو دارند.”
زیاد اوبرمایر نویسنده و محقق اصلی این تحقیق و استاد دانشگاه بهداشت عمومی دانشگاه کالیفرنیا از هوش مصنوعی برای دیدن آنچه رادیولوژیست‌ها نمی‌بینند استفاده کرد. داده‌های یک مطالعه طولانی مدت در موسسه ملی بهداشت درباره آرتروز زانو نشان داد که بیماران سیاه پوست و افرادی که درآمد کمتری دارند مشکلات بیشتری را نسبت به سایر بیماران تحمل می‌کنند. این اختلافات ممکن است از عوامل جسمی ناشناخته در سیاه پوستان یا تفاوت‌های روانی و اجتماعی و یا حتی تعصبات کادر درمانی ناشی شود. اما چگونه می‌توان آن‌ها را از یکدیگر جدا کرد؟
اوبرمایر و محققان استنفورد، هاروارد و دانشگاه شیکاگو نرم‌افزار رایانه‌ای را برای بررسی مواردی که ممکن است پزشکان انسانی از دست بدهند ایجاد کردند. آن‌ها الگوریتم‌هایی را برای پیش‌بینی سطح درد بیمار از طریق اشعه ایکس برنامه ریزی کردند که شامل بیش از ده هزار تصویر بود. در نهایت این نرم‌افزار توانست الگوهایی را کشف کند که با درد ارتباط مستقیم دارند. هنگامی که عکس‌برداری با اشعه ایکس انجام می‌شود، نرم‌افزار از الگوها برای تعیین میزان دردی که بیمار تجربه می‌کند استفاده می‌کند. نتیجه‌ی ثبت شده از بیماران حاکی از این است که هوش مصنوعی به مراتب بهتر از رادیولوژیست‌ها میزان دردی که بیماران تحمل می‌کنند را تخمین می‌زنند که به ویژه این عملکرد برتر در ارتباط با بیماران سیاه پوست بسیار مشهودتر است. این نشان می‌دهد که الگوریتم‌ها برای شناسایی شواهدی از بیماری آموزش داده شده‌اند که رادیولوژیست ها علم تشخیص آن را ندارند.
اوبرمایر می‌گوید: “این الگوریتم چیزهایی را می‌دید که رادیولوژیست‌ها نمی‌توانستند آن را مشاهده کنند، خصوصا در مواردی که مربوط به بیماران سیاه پوست بود.”
اما سابقه ممکن است بتواند توضیح دهد که چرا متخصصان رادیولوژی در ارزیابی میزان درد زانو در بیماران سیاه پوست مهارت کافی ندارند. درجه بندی استانداردی که امروزه برای ارزیابی درد زانو استفاده می‌شود از یک مطالعه کوچک در سال 1957 در یک شهر شمالی در انگلستان با جمعیتی که تنوع کمتری نسبت به ایالات متحده داشت بدست آمده است و پزشکان راهی برای درجه بندی آرتروز بر اساس مشاهداتی که داشته‌اند مانند باریک شدن غضروف ابداع کردند. سبک زندگی و بسیاری از عوامل دیگر از آن زمان تا به امروز تغییرات گسترده‌ای کرده‌اند.
اوبرمایر می‌گوید: “جای تعجب نیست که امروز پزشکان در کلینیک نمی‌توانند آنچه اشعه ایکس می‌بیند را ببینند.” در سال 2019 اوبرمایر و همکارانش نشان دادند که یک الگوریتم ارائه کمک‌های مراقبتی که به میلیون‌ها بیمار آمریکایی اطلاعات مفیدی عرضه می‌کند اولویت خود را برای کمک به بیماریهای پیچیده مانند دیابت سفیدپوستان می‌داند و کمک به آن‌ها را نسبت به سیاه پوستان ترجیح می‌دهد.
مطالعه جدید اوبرمایر نشان می‌دهد که چگونه الگوریتم‌ها می‌توانند تعصب را کنار بگذارند. محققان در این تحقیقات از شبکه‌های عصبی مصنوعی استفاده کردند، این فناوری باعث شده است که بسیاری از کاربردهای هوش مصنوعی عملی‌تر شود و همچنین مهندسی معکوس این سیستم آن چنان مشکل شده که کارشناسان آن را جعبه‌ی سیاه می‌نامند.
جودی گیچویا، رادیولوژیست و استادیار دانشگاه اموری قصد دارد آنچه را که الگوریتم‌ها درباره آرتروز زانو می‌دانند کشف کند. او در حال جمع‌آوری مجموعه‌‌ای بزرگتر و متنوع‌تر از اشعه ایکس و داده‌های دیگر از الگوریتم‌ها برای آزمایش نحوه عملکرد آن‌ها است. گیچویا با درخواست از رادیولوژیست‌ها برای یادداشت‌برداری دقیق در مورد تشخیص اشعه ایکس و مقایسه آنچه که آن‌ها می‌بینند، امیدوار است تا سرنخ‌هایی در مورد آنچه که در حال اتفاق افتادن است را کشف کند. او امیدوار است که برای پزشکان اطلاعات پنهانی زیادی وجود نداشته باشد. وی می‌گوید : ممکن است همین حالا هم ما همه این سر نخ‌ها و اطلاعات را ببینیم، اما به روشی اشتباه.
