۱۳۹۹-۰۵-۰۷ 0

همه هکرها دوست دارند که سیستم‌های مبتنی بر یادگیری ماشین و هوش مصنوعی را مورد حمله قرار دهند! حالا فرض کنید که در یک شرکت مشغول کار هستید و وظیفه اصلی شما، جلوگیری از همین مسئله است. اینستاگرام برای ترغیب کردن کاربران خود برای استفاده بیش‌تر از این برنامه، یک میلیارد دلار و یا حتی بیشتر برای ساخت فیلترهای جدید هزینه کرد! کاربران اینستاگرام می‌توانستند در دوربین خود، عکس‌های متفاوتی را بگیرند و آن‌ها را با عزیزانشان به اشتراک بگذرانند. حقیقت این است که Facebook به شدت وابسته به اعتدال است و همین موضوع دلیل رشد هوش مصنوعی در این شرکت شده‌است. هوش مصنوعی به کاربران کمک می‌کند که مطالب مورد علاقه خود را مشاهده کنند و از آن‌ها استفاده کنند.

تیم قرمز هوش مصنوعی فیس بوک

مهندسان هوش مصنوعی فیسبوک با آموزش سیستم خود برای تشخیص تصاویر ممنوع با چنین الگوهایی پاسخ دادند، اما رفع این مشکل برای مدت زمان زیادی دوام نیاورد. کاربران در مدت زمان کوتاهی با استفاده از الگوهای مختلف سازگاری کاملی بدست آورند و آن‌ها را دور می‌زنند. همین موضوع باعث شد که تیم فنی با استفاده از تکنولوژی هوش مصنوعی و تشخیص دید و … کاری کند که عکس‌های مستهجن و غیراخلاقی نتوانند به عنوان پست یا استوری در این شبکه اجتماعی وجود داشته باشند.

در نهایت همه این اتفاقاً با هم دست به دست یکدیگر دادند که نتیجه آن، تشکیل تیم AI RED بود! تیمی که وظیفه کمک به درک آسیب‌پذیری‌ها و نقاط کور هوش مصنوعی را دارد. بعد از فیسبوک شرکت‌ها و سازمان‌های دیگری هم که در این زمینه فعالیت‌هایی داشتند، تصمیم به استفاده از تیم‌های مشابه گرفتند.

شرکت‌های فعال در حوزه فناوری در سال‌های اخیر هزینه‌های بسیار زیادی برای استقرار سیستم‌های هوش مصنوعی برای کارهایی مانند درک محتوای تصویری یا متن صرف کرده‌اند، اما مسئله اصلی اینجاست که چگونه می‌توان این سیستم‌ها را فریب داد و یا از آن‌ها محافظت کرد؟ چه روش‌هایی برای مقابله با فریب وجود دارد؟ آیا اگر سیستم دچار نقص‌ها و اشکالات خودکاری شود، می‌توان آن را برطرف نمود؟

تیم‌های امنیتی که در برخی از شرکت‌ها حضور دارند، حکم همین تیم قرمز هوش مصنوعی شرکت فیسبوک و دیگر شرکت‌ها را دارند! در واقع تعریف این دو تیم شاید از امنیت کمی متفاوت باشد، اما در نهایت آن‌ها می‌خواهند از ورود تیم‌های مختلف هکرها جلوگیری کنند. این تیم‌ها همیشه باید اطلاعات خود را به روز نگه دارند تا در حساس‌ترین لحظات، بتوانند در برابر تهدیدهای امنیتی، ایستادگی کنند.

در همین راستا تیم قرمز فیسبوک با حمله به برنامه‌های خود سعی در هک و شناخت نقاط ضعف آن‌ها دارد! به نظر شما چه راهکارهایی دیگری برای شرکت‌های فعال در حوزه فناوری وجود دارد که با استفاده از آن امنیت اطلاعات کاربران، راحتی و تضمین برنامه را بهبود ببخشد؟ نظرات خود را با عامراندیش هوشمند به اشتراک بگذارید.

نظر بدهید

چت بات

چت بات
گفتار به نوشتار
تشخیص چهره
اپراتور هوشمند