مرتب‌سازی محتواهای فیسبوک به کمک هوش مصنوعی سریع‌تر انجام می‌شود
فیسبوک همیشه به روشنی اعلام کرده است که قصد دارد تا از هوش مصنوعی در انجام بیشتر وظایف پلتفرم‌های خود استفاده نماید. امروز، این شرکت، جدیدترین گام خود را در جهت این هدف اعلام کرد: قرار دادن یادگیری ماشین در صف مرتب‌سازی محتواهای فیسبوک با سرعت سریع‌تر از گذشته.
چگونگی عملکرد متعادل‌سازی پست‌ها در این شرکت در اینجا بیان شده است. پست‌های خشونت‌آمیز که برخلاف قوانین این شرکت‌اند (این پست‌ها شامل تمامی مواردند، از سخنان نفرت‌آمیز گرفته تا پست‌های تجلیل از خشونت)، چه توسط کاربران و چه توسط فیلترهای یادگیری ماشین ماشین پرچم‌گذاری می‌شوند. به برخی از پرونده‌های کاملا روشن، به صورت خودکار رسیدگی می‌شود (برای مثال، این رسیدگی می‌توانند شامل حذف یک پست یا مسدود کردن یک حساب باشد) در حالی‌که بقیه پست‌ها، برای بررسی توسط ناظران انسانی در صف قرار خواهند گرفت.
مرتب‌سازی محتواهای فیسبوک
برای رسیدن به این هدف، این شرکت قصد دارد حدود 15000 نفر از این ناظم‌ها را در سراسر جهان استخدام کند. این شرکت به دلیل عدم حمایت کافی از این افراد در گذشته که منجر به برکناری و ضربه سهمگینی به آن‌ها شده است، به شدت مورد انتقاد شدید جامعه جهانی قرار گرفت. وظیفه این افراد، بررسی پست‌های برچسب‌گذاری شده و تصمیم‌گیری در مورد این مسئله است که آیا قوانین یا خط مشی‌های این شرکت را به نوعی نقض می‌کنند یا خیر.
در گذشته، ناظران پست‌ها را از نظر زمانی مرور می‌کردند و به ترتیب گزارش شده با آن‌ها برخورد می‌کردند. این شرکت اعلام کرده که می‌خواهد مطمئن شود که مهم‌ترین پست‌ها ابتدا دیده می‌شوند. به همین منظور از یادگیری ماشین کمک گرفته است. برپایه سخنان اعلام شده توسط این شرکت، در آینده، از الگوریتم‌های مختلف یادگیری ماشین برای مرتب‌سازی محتواهای فیسبوک استفاده خواهد شد و اولویت‌بندی پست‌ها بر اساس سه معیار تعیین می‌گردد: ویروسی بودن، شدت و احتمال تخطی از قوانین این شرکت.
هنوز چگونگی دقیق ارزیابی این معیارها مشخص نیست، اما طبق سخنان منتشر شده از این شرکت، هدف این است که ابتدا با آسیب رسان‌ترین پست‌ها برخورد شود. بنابراین، هرچه پستی ویروسی و به اصطلاح وایرال‌تر باشد (هرچه بیشتر به اشتراک گذاشته و دیده شود) به همان نسبت، با سرعت بیشتری با آن برخورد خواهد شد. در مورد شدت پست نیز همین امر صادق است. فیسبوک گفته که پست‌هایی را که شامل آسیب به دنیای واقعی هستند، به عنوان مهم‌ترین آن‌ها رتبه‌بندی می‌کند. این می‌تواند شامل پست‌هایی با محتواهایی همچون تروریسم، استثمار کودکان، یا خودزنی باشد. در همین‌حال، پست‌هایی مانند هرزنامه که آزار دهنده‌اند ولی آسیب‌زا نیستند، در کمترین اهمیت برای بررسی قرار می‌گیرند.
برپایه سخنان رایان بارنز (Rayan Barnes)، مدیر محصول Facebook، در یک نشست مطبوعاتی با خبرنگاران: ” مرتب‌سازی محتواهای فیسبوک و بررسی تخلفات موجود در آن‌ها، همگی توسط نیروی انسانی مورد بازبینی دقیق قرار خواهند گرفت و از این سیستم برای اولویت‌بندی بهتر این فرایند استفاده خواهد شد.” این شرکت پیش‌تر جزییات مربوط به چگونگی تجزیه‌وتحلیل فیلترهای یادگیری ماشین خود را به اشتراک گذاشته است. این سیستم‌ها شامل مدلی به نام WPIE است که مخفف ” whole post integrity embedding” است. این مدل از سوی Facebook به نام یک رویکرد “جامع و کلی‌نگر” برای ارزیابی پست‌ها و محتواها خوانده می‌شود.
این بدان معناست که الگوریتم‌ها، عناصر مختلف در هر پست (زیرنویس، پوستر و غیره) را مورد بررسی دقیق و قضاوت قرار می‌دهند. اگر کسی بگوید در حال فروش “دسته ای کامل از خوارکی‌های ویژه (special treats)” همراه با تصویری از محصولات پخته شده است، آیا واقعا درباره کریسپیس برنج مربعی یا دستورالعمل پخت آن سخن می‌گوید؟ استفاده از برخی واژگان در کپشن (مانند “قدرتمند”) ممکن است باعث حساسیت الگوریتم قضاوت Facebook گردد.
مرتب‌سازی محتواها در فیسبوک نیز در گذشته با استفاده از هوش مصنوعی (به عنوان ناظمی برای بررسی و موشکافی دقیق) انجام می‌شده است. منتقدان خاطرنشان کردند که هوش مصنوعی هنوز قدرت و توانایی انسان در قضاوت در بسیاری از زمینه‌های ارتباطات آنلاین را دارا نیست، به ویژه در ارتباط با موضوعاتی همچون اطلاعات نادرست، زورگویی و آزار و اذیت.
کریس پالو (Chris Palow) مهندس نرم‌افزار در تیم تعاملی یکپارچگی Facebook، به خبرنگاران چنین گفت: هوش مصنوعی دارای محدودیت‌هایی است، ولی هنوز هم می‌تواند در حذف پست‌های ناخواسته نقش مهمی را بازی کند. پالو چنین گفت: “استفاده همزمان نیروی انسانی و هوش مصنوعی، باعث کاهش چشم‌گیر اشتباهات کل می‌گردد. هوش مصنوعی، به تنهایی هرگز کامل نخواهد بود.”
زمانی که از وی پرسیده شد که چند درصد از پست‌های سیستم‌های یادگیری ماشین شرکت به طور نادرست طبقه‌بندی شده است، پالو پاسخ مستقیمی نداد، اما خاطرنشان کرد که تنها به سیستم‌های خودکار اجازه کار بدون نظارت نیروی انسانی برای مرتب‌سازی محتواهای فیسبوک داده خواهد شد، زیرا دقیق‌تر از بازبینی‌های انسانی است. وی چنین گفت: “نوار اقدام خودکار بسیار زیاد است.” با این وجود، این شرکت به طور پیوسته هوش مصنوعی بیشتری را به مخلوط تعدیل خود می‌افزاید.
