طبق یک لایحه که در شهر نیویورک ارائه شده شرکت‌ها ملزم به این هستند تا هنگام استفاده از نرم‌افزار برای ارزیابی نامزدهای مشاغل اطلاعات خود را فاش کنند و فروشندگان باید اطمینان حاصل کنند که فناوری آن‌ها اقدامات تبعیض‌آمیز انجام نمی‌دهد و پروسه‌ی ارزیابی را منصفانه طی می‌کند. در سال 1964 قانون حقوق مدنی جهت منع اعمال تبعیض بر اساس جنسیت یا نژاد برای استخدام افرادی وضع شد. اکنون نرمافزارها به مدیران برای تصمیم‌گیری در حوزه استخدام نیرو کمک می‌کنند تا رزومه‌ها را بررسی کرده و مصاحبه‌های ویدیویی را تفسیر کنند.
این امر برخی از کارشناسان فناوری و گروه‌های مدنی را نگران کرده است، آن‌ها به شواهدی دست پیدا کرده‌اند که به استناد آن الگوریتم‌ها می‌توانند از خود تعصب نشان داده و در تصمیم‌گیری‌های خود تبعیض قائل شوند. در سال 2018 رویترز گزارش داد که شرکت آمازون ابزاری را حذف کرده که رزومه‌ها را براساس الگوهای استخدام فیلتر می‌کرده، زیرا این الگوریتم‌ها تصمیمات تبعیض‌آمیز علیه زنان می‌گرفت. قانون پیشنهادی در شورای شهر نیویورک به دنبال بروزرسانی قوانین برای رفع تبعیض در امور استخدامی برای الگوریتم‌ها است.
این لایحه شرکت‌هایی که چنین ابزاری را می‌فروشند را مجبور به حسابرسی سالانه می‌کند تا بررسی کنند که آیا فناوری آن‌ها برای افراد خاص تبعیض قائل خواهد شد یا خیر. این پیشنهاد بخشی از جنبش اخیر در تمام سطوح دولت برای ایجاد محدودیت‌های قانونی در الگوریتم‌ها و نرم‌افزارهایی است که تصمیمات تغییردهنده زندگی را شکل می‌دهند. پیشنهادی که با کنترل دموکرات‌ها بر کاخ سفید و مجلس کنگره ممکن است در دستور کار قرار گیرد و به یک هدف جدی تبدیل شود.
تاکنون بیش از دوازده ایالت در آمریکا استفاده دولت از تشخیص چهره را ممنوع کرده‌اند و ایالت نیویورک اخیراً یک مهلت قانونی دو ساله استفاده از این فناوری در مدارس را تصویب کرده است. برخی از قانون‌گذاران فدرال قوانینی را برای تنظیم الگوریتم‌های تشخیص چهره و ابزار تصمیم‌گیری خودکار مورد استفاده شرکت‌ها، از جمله برای استخدام پیشنهاد کرده‌اند. در ماه دسامبر 10 سناتور از کمیسیون فرصت‌های شغلی برابر آمریکا خواستند تا تعصب پلیس در استفاده از ابزارهای استخدام هوش مصنوعی را بررسی و اعلام کند.
آن‌ها گفتند: “ما می‌ترسیم این فناوری اختلاف نژادی در استخدام را عمیق تر کند و به بهبود اقتصادی از Covid-19 در جوامع حاشیه‌ای آسیب برساند.” همچنین سال گذشته قانونی جدید در ایلینوی اعمال شد که قبل از استفاده از تجزیه و تحلیل ویدئو در مورد نامزدهای شغلی، باید از نامزدها اجازه گرفته شود. همچنین قانونی مشابه در مریلند استفاده از فناوری تجزیه و تحلیل چهره در استخدام را بسیار محدود می‌کند. تنها چند ماه پس از آن‌كه سانفرانسیسكو در سال 2019 شناسایی چهره را ممنوع كرد، مجبور شد این مصوبه را اصلاح كند، زیرا گوشی‌های آیفون متعلق به شهر را ناخواسته غیرقانونی اعلام كرده بود.
پیشنهاد شهر نیویورک توسط عضو شورای دموکراتیک، لوری کامبو ارائه شده و فروشندگان این نرمافزارها را موظف می‌کند هر ساله محصولات خود را در باره اینکه تعصب خاصی نداشته باشند مورد بررسی قرار داده و نتایج را در دسترس مشتریان قرار دهند. برخی از گروه‌های مدنی و متخصصان هوش مصنوعی نیز به دلایل مختلف با این لایحه مخالف هستند. آلبرت فاکس کان، بنیانگذار پروژه نظارت بر فناوری، نامه ای از 12 گروه از جمله NAACP و موسسه AI Now دانشگاه نیویورک را با اعتراض به قانون پیشنهادی تنظیم کرده است. کان می‌گوید که پیشنهاد نیویورک می‌تواند به نرم‌افزاری که تبعیض را تداوم می‌بخشد منجر شود.
کان می‌خواهد هر قانونی برای تعریف این فناوری که به طور گسترده تری پوشش داده می‌شود به فروشندگان اجازه ندهد که فناوری خود را حسابرسی کنند زیرا این به افراد اجازه می‌دهد تا اجرای قانون را تحریف کنند. وی می‌گوید: “ما هیچ نوع اعمال معنادار و نگران‌کننده‌ای را درمورد تبعیض مشاهده نکردیم.” برخی دیگر نگران هستند اما هنوز از پیشنهاد نیویورک حمایت می‌کنند. جولیا استویانویچ، مدیر مرکز هوش مصنوعی در دانشگاه نیویورک می‌گوید: “من امیدوارم كه این لایحه پیش برود. اما بیشتر امیدوارم که مورد بازنگری قرار گیرد.”
استویانویچ مانند کان نگران این است که قانون حسابرسی این لایحه به خوبی تعریف نشده باشد. او فکر می‌کند که این لایحه هنوز ارزش وقت گذاشتن را دارد. زیرا وقتی او جلسات عمومی مربوط به استخدام را در کتابخانه عمومی کوئینز ترتیب می‌داد، بسیاری از شهروندان از دانستن اینکه ابزارهای خودکار در مصاحبه‌ها استفاده می‌شوند خبر نداشتند و با دانستن این موضوع تعجب می‌کردند. استویانویچ می‌گوید: “دلیل اینکه من موافقم این است زمانی که افراد توسط یک ماشین و یک انسان به صورت مشترک ارزیابی شوند باعث خواهد شد تا آن‌ها رازهای خود را افشا کنند. این فناوری کمک می‌کند تا عموم مردم وارد مکالمه شده و واقعیت‌ها را بگویند.”
دو استارت آپ مستقر در نیویورک که ابزار استخدام آن‌ها به زودی با قوانین جدید تنظیم می‌شود می‌گویند که از قوانین جدید استقبال می‌کنند. فریدا پولی، مدیر عامل و بنیانگذار Pymetrics گفت: “فناوری این شرکت سیگنال عادلانه تری درمورد نامزدها نسبت به اقدامات سنتی مانند رزومه به بازار عرضه می‌کند” که به گفته وی می‌تواند افراد را از پس زمینه‌های کمتری برخوردار کند. این شرکت اخیراً زیر نظر محققان دانشگاه شمال شرقی فناوری خود را مورد بررسی قرار داده است. وی اذعان می‌کند که الزامات حسابرسی این لایحه می‌تواند سخت‌تر باشد اما نحوه انجام این کار به روش عملی مشخص نیست و بهتر است چیزی در این زمینه درج شود. او می‌گوید: “این لایحه معتدل است، اما به روشی بسیار قدرتمند.”
رابرت هولدن، رئیس کمیته فناوری شورای شهر نگرانی‌های خاص خود را در مورد ظرفیت دولت در تعریف چگونگی بررسی دقیق نرم‌افزارهای استخدام دارد. برخی از فروشندگان و توسعه دهندگان به او اطمینان داده‌اند كه می‌توان به این صنعت اعتماد كرده و آن را تنظیم كرد. هولدن می‌گوید آنچه تاکنون به آن پی برده است روشن می‌کند که به شفافیت بیشتری در این قانون نیاز است. هولدن می‌گوید: “اکنون سیستم‌هایی که وجود دارند تقریباً همانند غرب وحشی هستند و ما واقعاً باید شفافیت بسیار بیشتری ایجاد کنیم.”
هولدن می‌گوید این لایحه قبل از برنامه‌ریزی برای رای گیری نهایی توسط شورا، به احتمال زیاد با برخی از مذاکرات و بازنویسی‌ها و همچنین مخالفت‌های احتمالی دفتر شهردار روبرو خواهد شد. همچنین گفتنی است این لایحه در صورت تصویب از ژانویه 2022 در نیویورک اجرا خواهد شد.
