هوش‌مصنوعی منبع باز فیسبوک ، Opacus، کتابخانه‌های جدید با سرعت بسیار بالا برای آموزش مدل‌های PyTorch با حریم خصوصی متفاوت (DP)
مقدمه
با رشد علاقه جامعه جهانی به یادگیری ماشین (ML)، استفاده از حریم خصوصی دیفرانسیلی در آنالیز و تجزیه‌وتحلیل روندها، روبه فزونی است. این یک چارچوب دقیق ریاضی برای تعیین کمیت ناشناس بودن اطلاعات حساس است. با رشد روزافزون این علاقه، فیسبوک هوش مصنوعی جدیدی با نام Opacus را راه‌اندازی کرد. برای کسب اطلاعات بیشتر در مورد هوش مصنوعی جدید فیسبوک، با عامراندیش تا انتها همراه باشید.
هوش‌مصنوعی منبع باز فیسبوک ، Opacus
Opacus، یک کتابخانه با سرعت بالا برای آموزش مدل‌های PyTorch با حریم خصوصی دیفرانسیلی است. این کتابخانه با حداقل تغییر و اصلاحات کد مورد نیاز، به صورت وسیعی از آموزش پشتیبانی می‌کند و کمترین تأثیر را در عملکرد آموزش دارد. بنابراین، راهی ساده‌تر برای پذیرش حریم‌خصوصی دیفرانسیلی در یادگیری ماشین و تقویت تحقیقات را ارایه می‌دهد. در مقایسه با روش‌های پیشرفته موجود، Opacus از مزیت‌های قابل‌توجهی در مقیاس‌پذیری بیشتری برخوردار است.
ویژگی‌های دیگر Opacus
دیگر ویژگی‌های Opacus عبارتند از:
- Opacus می‌تواند هر گرادیان نمونه را محاسبه نماید (با کمک Autograd در PyTorch) که به ترتیب اندازه، منجر به افزایش سرعت کتابخانه در مقایسه با کتابخانه‌های دیفرانسیلی حریم خصوصی موجود می‌شود. تمامی کتابخانه‌های حریم خصوصی موجود متکی بر روش Micro-batching هستند.
- Opacus در زمینه ایمنی، چیزی بسیار منحصر‌به‌فرد ارایه می‌دهد. هوش‌مصنوعی منبع باز فیسبوک از مولد اعداد شبه تصادفی رمزنگاری شده ایمن برای تولید کدهای مهم امنیتی خود استفاده می‌کند که با سرعت بالا در GPU پردازش می‌شود (برای وارد کرد پارامترهای دسته‌ای).
- Opacus، نسبتا پلتفرمی انعطاف‌پذیر برای استفاده است. زیرا وقتی نوبت به ایده‌های نمونه‌سازی می‌رسد، PyTorch باعث می‌شود تا پژوهشگران و مهندسان، کدهای خود را با کدهای PyTorch و کدهای اصلی Python ترکیب و مطابقت دهند.
- وقتی نوبت به بهره‌وری می‌رسد، Opacus آموزش‌ها و برخی توابع کمکی را ارایه می‌دهد که قادر است پیش از شروع آموزش، درباره لایه‌های ناسازگار به شما هشدار دهند. Opacus همچنین سازوکارهای خودکار بازسازی (refactoring mechanisms) را نیز ارایه می‌دهد.
- هوش‌مصنوعی منبع باز فیسبوک همچنین قادر به پیگیری این مساله است که تا چه مقدار از بودجه حریم‌خصوصی را در هر زمان مشخص صرف کرده‌اید. بودجه حریم خصوصی، هسته اصلی مکانیزم مفهوم حریم‌خصوصی دیفرانسیلی است. بنابراین، Opacus امکان نظارت در زمان واقعی و توقف زودهنگام را میسر می‌سازد. این امر به خوبی نشان می‌دهد که Opacus تا چه اندازه تکیه بر روش‌های تعاملی دارد.
هدف توسعه‌دهنگان از توسعه و گسترش Opacus، حفظ حریم خصوصی هر نمونه آموزش است و باید بدانید که که تاثیر چندانی بر دقت مدل نهایی ندارد.
همین امر توسط بهینه‌ساز استاندارد PyTorch برای اجرا و اندازه‌گیری حریم‌خصوصی دیفرانسیلی در طی آموزش انجام شده است. بنابراین، توسعه‌دهندگان امیدوارند که فاصله ایجاد شده بین مهندسان یادگیری ماشین و جامعه امنیت را با استفاده از پلتفرم ساده‌تر و انعطاف‌پذیرتر PyTorch و با کمک هوش‌مصنوعی منبع باز فیسبوک ، پر نمایند.
Opacus، یک منبع باز و قابل دسترسی برای عموم است و لاینسی آن تحت Apache-2.0 می‌باشد. مبنع این کتابخانه در GitHub موجود است.
