سواستفاده از تکنولوژی تشخیص‌چهره

سوء استفاده از تکنولوژی تشخیص‌چهره : قانون‌گذاران کبک، زنگ خطر را در مورد استفاده پلیس از تشخیص چهره ایجاد کردند

مروا رزقی (Marwah Rizqy)، از اعضای مخالف لیبرال مجلس ملی کبک، اعلام کرده است که تجربه مثبتی از فناوری تشخیص چهره نداشته است. رزقی (Rizky)، متولد مونترال و مراکشی الاصل است و خود را نژاد “قهوه‌ای” معرفی می‌دارد.

این فناوری، به منظور شناسایی افراد، به پایگاه داده عظیمی از عکس‌های برداشت شده از فیسبوک، اینستاگرام و سایر منابع اینترنتی متکی است.

سوء‌ استفاده از تکنولوژی تشخیص‌چهره

هنگامی که خبرنگار روزنامه Montreal’s La Presse این فناوری را در مجلس شورای ملی کبک امتحان کرد، رزقی (Rizqy) به عنوان عضوی از حزب اتحادیه حاکم فرانسوا لگولت کنفرانس انتخاباتی ایالت کبک (François Legault’s ruling Coalition Avenir Québec caucus) چنین اعلام کرد: “می‌توانید ناامیدی مرا درک کنید!؟”

برای آزمایش، روزنامه La Presse، عکس‌های اعضای مجمع، مشاوران و روزنامه‌نگاران را جمع‌آوری کرد. این روزنامه با کمک الگوریتم تشخیص چهره به سادگی از افرادی که به داخل و خارج از مجلس می‌آمدند، فیلم گرفت. الگوریتم تمامی این اعضا را بلافاصله با استفاده از عکس‌های ذخیره شده در سامانه خود، شناسایی ‌کرد. رزقی در میان 15 مثبت کاذب بود.

وی گفت: ” سوء‌ استفاده از تکنولوژی تشخیص‌چهره در ایالات متحده و اروپا كشف كرده‌ شده و مشخص گردیده شده که در الگوریتم این پلتفرم، تبعیض نژادی گسترده‌ای نسبت به افراد رنگین‌پوست و سیاه‌پوست لحاظ شده است و این موضوع، برای زنان سیاه‌پوست از شدت بیشتری برخوردار است.”

در ژانویه سال جاری، نیویورک تایمز فاش ساخت که Clearview AI (استارتاپ کوچک استرالیایی که جز پیشگامان فناوری تشخیص چهره است)، پایگاه داده‌ای با کمک بیش از سه میلیارد تصویر گرفته شده از عکس‌های شخصی افراد در فیسبوک، یوتیوب، ونمو (Venmo) و میلیون‌ها عکس موجود در وب‌سایت‌ها ایجاد کرده است. سوء‌ استفاده از تکنولوژی تشخیص‌چهره توسط این استارت‌اپ، به صورت مشخصی مبرهن شده و این شرکت، داده‌های خود را به نیروهای پلیس در ایالات‌متحده و کانادا می‌فروشد.

رزقی اعلام کرد که پلیس عکس‌هایی از افراد محکوم‌شده و مجرمان مشکوک دارد که تمامی آن‌ها را از طریق فناوری تشخیص چهره به دست آورده است. وی همچنین ادامه داد که:” ما به صورت 24 ساعته در 7 روز هفته، در صف پلیس، بدون هیچ رضایتی هستیم.”

در ماه فوریه سال جاری، دفتر کمیسر حفظ حریم خصوصی کانادا تحقیق در مورد استفاده RCMP و سوء‌ استفاده از تکنولوژی تشخیص‌چهره  استارت‌-اپ Clearview AI را آغاز کرد.

مامور عالی رتبه در سازمان حفظ حریم خصوصی کانادا، دانیل ثرین (Daniel Therrien)، همتایان استانی خود را در کبک، B.C و آلبرتا برای ارائه راهنمایی برای دیگر سازمان‌ها (از جمله اجرای قانون) در استفاده از فناوری بیومتریک و تشخیص چهره دعوت کرد.

ولی همانطور که رزقی (Rizqy) اشاره کرد، هیچ قانونی در کانادا وجود ندارد تا بر این فناوری و چگونگی استفاده از آن نظارت داشته باشد.

پس از اولین انکار درباره سوء‌ استفاده از تکنولوژی تشخیص‌چهره ، RCMC در ماه مارس سال جاری اعتراف کرد که “در شرایط بسیار محدود و خاص” چنین سوء استفاده‌هایی را انجام می‌دهند. در ابتدا، سایر نیروهای پلیس در سراسر کشور کانادا سوء استفاده از عکس‌های شخصی افراد برای استفاده در فناوری تشخیص چهره را انکار کردند، اما بعدها اعتراف کردند که تحت شرایطی، این کار را انجام می‌دهند.

در ایالات متحده، شهرهای سانفرانسیسکو، اوکلند، اوره و پورتلند، استفاده از این فناوری ممنوع اعلام شده است. اگرچه پلیس شهر نیویورک می‌گوید برای استفاده او محافظت از شهروندان، استفاده از آن را سرلوحه خود قرار داده است. قانون‌گذاران نیویورکی، استفاده از فناوری تشخیص چهره را دو سال پیش، در مدارس ممنوع اعلام کردند.

بر اساس لیست مشتریانی که توسط BuzzFeed News منتشر شده: وزارت دادگستری ایالت متحده، اداره مهاجرت و اجرای گمرک، FBI ، Macy’s و Best Buy از جمله هزاران آژانس و شرکت‌های خصوصی در ایالات‌متحده هستند که متکی بر سوء‌ استفاده از تکنولوژی تشخیص‌چهره استارت-آپ Clearview AI هستند.

مایکروسافت، آمازون و IBM موافقت کردند که فناوری تشخیص چهره خود را به نیروهای پلیس نمی‌فروشند، مگر آن‌که قانون فدرال برای تنظیم تشخیص چهره ، قانون خاصی وضع نمایند.

پلیس مونترال می‌گوید که از این فناوری استفاده نمی‌کند، اما در شرایط خاص و استثنایی، از شرکت‌های شخص ثالث (شرکت‌های ارائه‌دهنده این فناوری) برای پیشبرد تحقیق‌های بزرگ خود استفاده خواهد کرد. در حالی‌که همیشه اطمینان حاصل می‌کند که انجام چنین عملیات‌هایی با احترام به تمام قوانین موجود باشد.

در تاریخ 6 ژوئیه 2020، دفتر کمیسیون حفظ حریم خصوصی کانادا اعلام کرد که: “سوء‌ استفاده از تکنولوژی تشخیص‌چهره Clearview AI جزء تحقیقات پیش رو این سازمان و سه همتای استانی خود است و تمامی تلاش خود را در متوقف کردن سوء استفاده از این فناوری در کانادا خواهند کرد.” اما متاسفانه Clearview AI تنها ارائه‌دهنده فناوری تشخیص چهره نیست.

در تاریخ 27 آگوست، (Sûreté du Québec پلیس استان کبک) قراردادی 4.4 میلیون دلاری را با IDEMIA Identity & Security Canada Inc. ، زیرمجموعه کانادایی یک شرکت فرانسوی با نرم‌افزار تشخیص چهره خود به پایان رساند. پلیس مونترال اعلام کرد می‌تواند از یک برنامه شناسایی شخص ثالث (شرکت‌های ارائه‌کننده این فناوری) استفاده کند.

رزقی (Rizqy) پرسیده که چرا در هنگام شیوع ویروس همه‌گیر کرونا (که مهم‌ترین نگرانی بهداشت عمومی است) Sûreté همچنان با فناوری IDEMIA ادامه می‌دهد. او همچنین خواستار لغو این قرارداد شد. در مونترال، مشاور مستقل شهر، ماروین روتراند (marvin Rotrand)، موضوع استفاده پلیس از فناوری تشخیص چهره و فناوری Stringray (برنامه‌ای را که به پلیس این امکان را می‌دهد تا تماس‌های تلفنی شهروندان را گوش دهند) را مطرح کرده است. روتراند با ارائه پیشنهادی از شورای شهر، خواستار کنترل استفاده از این فناوری شد.

در یک کنفرانس ویدئویی برگزار شده توسط روتراند، اروین کوتلر (Irvin Cotler)، وزیر دادگستری سابق لیبرال فدرال، در مورد خطرات این فناوری‌ها برای “حفظ حریم خصوصی، عزت و برابری شهروندان” هشدار داد. كوتلر (Cotler) به نقل از قاضی دادگاه عالی آمریكا، لوئیس براندیس (Louis Brandeis) چنین اعلام کرد: “حق حریم خصوصی جامع‌ترین حق برای همه شهروندان است و سوء‌ استفاده از تکنولوژی تشخیص‌چهره به هیچ وجه قابل قبول نیست.”

کوتلر (Cotler) خاطرنشان کرد قبل از شرایط پاندمیک: ” احتمال نمایش پروفایل سیاه پوستان پنج برابر بیشتر و احتمال نمایش پروفایل افراد بومی 11 برابر بیشتر بوده است.”

الکس نوریس (Alex Norris)، مشاور شهر مونترال با حزب حاکم Projet Montréal و رئیس کمیسیون امنیت عمومی، که شامل حومه‌های شهرها نیز می‌شود، چنین اعلام داشت که شورا در حال بررسی نسخه اصلاح شده روتراند (Rotrand) برای تصویب قانون جدید و عدم سوء‌ استفاده از تکنولوژی تشخیص‌چهره است.

در این طرح پیشنهادی کمیسیون امنیت عمومی به دنبال به روز رسانی سالانه استفاده پلیس از فناوری نظارت است. همچنین شهر، و نه نیروی پلیس، دستورالعمل‌هایی برای چگونگی استفاده از فناوری نظارت توسط مونترال و نیروهای حومه در جزیره را منتشر خواهند کرد. در یک تبادل ایمیلی، نوریس افزود که کمیته دائمی وی موضوع استفاده احتمالی توسط پلیس مونترال از فناوری شناسایی چهره IDEMIA را که توسط پلیس استان به دست آمده، بررسی می‌کند و قصد دارد در مورد استفاده از آن توصیه کند.