وقتی بیش از ۷۴ درصد نسل جوان (15 الی 25 سال)، به طور میانگین 10 ساعت در روز اوقات فراغتشان را در فضای مجازی می‌گذرانند، می‌توان با اطمینان گفت که دنیای مجازی و واقعی این نسل دارند به هم پیچیده می‌شوند. با افزایش استفاده از رسانه‌های اجتماعی، حالا دیگر همه ما داریم کمی بیشتر در دنیای آنلاین زندگی می‌کنیم، پس باید به دنبال روش‌هایی برای کاهش ریسک، حفاظت از امنیت و فیلتر جوامعی که باعث نگرانی هستند، باشیم. تکنولوژی مدرن هوش مصنوعی (AI) و یادگیری ماشین پیشرفته، نقش مهمی در زندگی مدرن ایفا می‌کنند و از پایه و اساس چگونگی عملکرد شبکه‌های اجتماعی امروزی، به حساب می‌آیند.
در مقاله دیگر با نام “استفاده از هوش مصنوعی برای محافظت از اطلاعات” به معرفی روش‌های حفاظت از اطلاعات با استفاده از هوش مصنوعی پرداختیم.
تنها با یک کلیک، ابزارهای هوش مصنوعی مثل ربات‌های چت، الگوریتم‌ها و پیشنهادات خودکار، بر چیزهایی که بر روی صفحه نمایش می‌بینید و تعداد دفعاتی که آن‌ها را می‌بینید، تاثیر می‌گذارند و یک جریان سفارشی را ایجاد می‌کنند که کاملا راه و روش تعامل ما با این پلتفرم‌ها را دگرگون می‌سازد. با بررسی رفتارهای ما، ابزارهای یادگیری عمیق می‌توانند عادات، علایق و چیزهایی که به آن‌ها علاقه نداریم را شناسایی کنند و فقط چیزهایی را به ما نشان دهند که پیشبینی می‌کنند ما از آن‌ها لذت خواهیم برد. هوش انسان در ترکیب با این سیستم‌های یادگیری عمیق، نه تنها باعث می‌شوند تجربه ما در این فضا خیلی شخصی‌تر باشد، بلکه یک روش اساسی و موثر برای نظارت ما بر محتویات و انجام واکنش‌های سریع در برابر محتوا و رفتارهای مضر و تهدید کننده که در فضای مجازی با آن‌ها روبه‌رو می‌شویم و در بلند مدت می‌توانند به ما آسیب برسانند، در اختیار ما قرار می‌دهند.
اهمیت هوش مصنوعی در ایمن‌تر ساختن پلتفرم‌های اجتماعی
عدم وجود کنترل و نظارت والدین بر شبکه‌های اجتماعی، به این معناست که این شبکه‌ها می‌توانند محیط ناسالمی به وجود آورند؛ همچنین وجود تعداد زیادی از کاربرانی که برای شما ناشناس هستند، سطح بالایی از ریسک را به همراه دارد. واقعیت این است که نوجوانان، امروزه دسترسی دائمی به اینترنت دارند اما هیچ دخالت و نظارتی توسط والدین در زندگی دیجیتالی آن‌ها وجود ندارد. بسیاری از کودکان هر روزه در چالش‌های آنلاین شرکت می‌کنند، در معرض زورگیری سایبری قرار گرفته یا خودشان مرتکب آن می‌شوند و همچنین با تهدیدهای جدی دیگری از جمله رفتارهای اهانت آمیز، سوء استفاده از کودکان و ظهور اتاق‌های چت طرفدار خودکشی و هزاران تهدید دیگر مواجه هستند و تمام این فعالیت‌ها بدون نظارت والدین و قیم‌ها صورت می‌گیرند.
در مقاله دیگر با نام “شناسایی کودک‌آزاری با کمک هوش‌مصنوعی” به معرفی ابزار هوشمندی که به سرعت عکس‌ها و محتواهای مربوط به کودک آزاری در شبکه‌های اجتماعی را تشخیص می‌دهد پرداختیم.
هوش مصنوعی به وجود آمده تا زندگی مردم را بهبود بخشد، با این حال همیشه این ترس وجود دارد که این “ربات‌ها” کم کم جایگزین انسان‌ها شوند؛ همان “نبرد” کلاسیک بین انسان و ماشین. در عوض، ما باید آن‌ها را بپذیریم و احتمالات و امکانات آن‌ها را درک کنیم. امنیت سایبری یکی از بزرگ‌ترین چالش‌های تمام ادوار است و با استفاده از قدرت هوش مصنوعی، می‌توانیم در مقابل اعمالی که تبعات خطرناکی در بر دارند مقابله کنیم و ریسک فضای مجازی را کاهش دهیم.
ویژگی‌های امنیتی پیشرفته در هوش مصنوعی
هوش مصنوعی ثابت کرده است که سلاح موثری برای نبرد با آزار و اذیت آنلاین و گسترش محتوای مضر است؛ این ابزارهای یادگیری عمیق، اکنون نقش مهمی در جامعه ما ایفا می‌کنند و امنیت را هم در دنیای مجازی و هم دنیای واقعی بهبود می‌بخشند. از هوش مصنوعی هم می‌توان برای کنترل محتوایی که در پلتفرم‌های مجازی آپلود می‌شوند استفاده کرد و هم برای نظارت بر تعاملات بین کاربران، کاربرد دارد؛ این امکانی است که اگر می‌خواستیم به صورت دستی انجامش دهیم، به دلیل حجم و فضای وسیع آنلاین، امکان‌پذیر نبود.
ساشا، مدیرعامل Yubo می‌گوید: «در Yubo، ما از نوعی هوش مصنوعی به نام یادگیری شبکه عصبی یا Yoti Age Scan استفاده می‌کنیم تا در حساب‌های کاربری مشکوک، به طور دقیق سن کاربر را تشخیص دهیم. کاربران ما باید حداقل ۱۳ سال سن داشته باشند تا بتوانند ثبت‌نام کنند و حساب‌های کاربری مجزایی برای بزرگسالان و افراد بالای ۱۸ سال داریم. حساب‌های کاربری علامت‌دار در عرض چند ثانیه بررسی می‌شوند و کاربران باید سن و هویتشان را قبل از اینکه بتوانند به استفاده از این پلتفرم ادامه دهند، تایید کنند. این تنها یک قدم حیاتی است که برای حفاظت از افراد جوان در فضای مجازی برداشته‌ایم.»
به خاطر وجود بیش از ۱۰۰ میلیون ساعت ویدئو و ۳۵۰ میلیون عکس که روزانه فقط در فیسبوک آپلود می‌شوند، الگوریتم‌هایی برنامه‌نویسی شده‌اند تا این میزان سرسام آور محتوا را تشخیص دهند؛ در صورتی که محتوا مضر بوده و با استاندارد‌های پلتفرم تطابق نداشته باشد، هم محتوا و هم کاربر را حذف می‌کنند. الگوریتم‌ها دائما در حال توسعه و یادگیری هستند و می‌توانند پست‌های تکراری را تشخیص دهند، محتوای تصاویر در ویدئوها را درک کنند و حتی بررسی‌های احساسی را نیز شناسایی می‌کنند؛ یعنی تن صدا را تشخیص می‌دهند، مثل عصبانیت یا طعنه زدن. اگر یک پست قابل شناسایی نباشد، علامت‌گذاری می‌شود تا بررسی انسانی روی آن صورت گیرد. با استفاده از هوش مصنوعی برای بررسی بیشتر فعالیت‌های آنلاین، می‌توان از مردم در مقابل محتوای آزاردهنده که ممکن است باعث بروز مشکلات ذهنی و سلامت شوند، محافظت کرد.
هوش مصنوعی همچنین از ابزارهای پردازش زبان طبیعی (NPL) برای نظارت بر تعاملات بین کاربران در شبکه‌های اجتماعی و شناسایی پیام‌های نامناسبی که در بین کاربران زیر سن قانونی و کاربران آسیب‌پذیر ارسال می‌شوند، استفاده می‌کند. در عمل، اکثر محتواهای مضر، توسط تعداد کمی از کاربران تولید می‌شوند و بنابراین، تکنیک‌های هوش مصنوعی می‌توانند برای شناسایی کاربران مضر و اولویت‌بندی محتوای این افراد برای بررسی، مورد استفاده قرار گیرند. یادگیری ماشینی، به این سیستم‌ها امکان می‌دهد تا الگوهایی در رفتارها و مکالماتی که در برابر انسان ناپدید هستند را بیابند و می‌توانند موضوعات جدیدی برای بررسی بیشتر پیشنهاد دهند. با این قابلیت‌های تحلیلی پیشرفته، هوش مصنوعی همچنین می‌تواند جلوی گسترش اطلاعات غلط و محتوای نادرست و گمراه کننده را نیز بگیرد.
استفاده از هوش مصنوعی برای آموزش
افراد جوان به محیطی امن و باانگیزه در فضای مجازی نیاز دارند. می‌توان از هوش مصنوعی و به واسطه اعلان‌ها و پیام‌های آنی، برای آموزش ناخودآگاه کاربران در مورد رفتار آنلاین مسئولانه استفاده کرد. ساشا در این باره گفت: «در Yubo، که عمده کاربران ما را فقط نسل جوان‌ها تشکیل می‌دهند، از ترکیبی از تکنولوژی هوش مصنوعی پیشرفته و تعامل انسانی برای نظارت بر رفتار کاربران، استفاده می‌کنیم. قابلیت‌های امنیتی ما، از به اشتراک‌گذاری اطلاعات شخصی یا پیام‌های نامناسب، به صورت آنی جلوگیری می‌کند؛ برای مثال، اگر یک کاربر بخواهد اطلاعات حساسی مثل شماره شخصی، آدرس یا حتی تصویر نامناسب به اشتراک بگذارد، یک پیام از Yubo دریافت می‌کنند که وی را از خطراتی که با به اشتراک‌گذاری این اطلاعات ممکن است برایش پیش بیایند، مطلع می‌سازد. سپس، قبل از اینکه کاربر بتواند به کارش ادامه دهد، باید تایید کند که می‌خواهد ادامه دهد. علاوه بر این، اگر کاربران سعی کنند عکس‌های خیلی باز یا یک درخواست نامناسب ارسال کنند، yubo آن محتوا را مسدود کرده و اجازه ارسال و به اشتراک‌گذاری با فرد مورد نظر را نمی‌دهد.»
مدیرعامل Yubo در ادامه گفت: «ما بی‌وقفه در حال آموزش دادن به کاربرانمان هستیم، نه تنها در مورد خطرات مرتبط با به اشتراک‌گذاری اطلاعات شخصی، بلکه همچنین قبل از اینکه کاربران در فعالیت‌هایی که ممکن است اثرات منفی بر آن‌ها یا دیگران داشته باشند، شرکت کنند، آن‌ها را به فکر در مورد اعمالشان وادار می‌کنیم. ما متعهدیم تا یک فضای امن برای نسل جوان فراهم کنیم تا با دیگران تماس برقرار کرده و معاشرت کنند. ما می‌دانیم که عمده کاربران ما، در سنی هستند که اگر بتوانیم آن‌ها را حول خطرهای آنلاین و بهترین اعمال در فضای مجازی آموزش دهیم، آن‌گاه می‌توانیم برای آینده، در آن‌ها رفتارهای مثبتی ایجاد کنیم.»
به کارگیری ابزارهای هوش مصنوعی برای اعمال اجتماعی خوب
رسانه اجتماعی، وقتی به صورت ایمن مورد استفاده قرار گیرد، به یک ابزار قدرتمند تبدیل می‌شود که به مردم امکان همکاری و برقراری ارتباط می‌دهد، نوآوری افراد را تقویت می‌کند و به رشد آگاهی در مورد اهمیت موضوعات اجتماعی کمک می‌کند و هزاران هزار مزیت و نکته مثبت دیگر هم دارد. با این همه اهمیت که در دنیای دیجیتال به وجود آمده است، ضروری است که کاربران هم آموزش ببینند و هم از آن‌ها محافظت شود، تا افسار کنترل این پلتفرم‌ها در اختیار افراد باشد و بتوانند به مسئولانه‌ترین شکل ممکن از مزایای این فضا بهره ببرند. ما همین الان هم می‌توانیم تاثیر مثبت تکنولوژی هوش مصنوعی بر شبکه‌های اجتماعی را ببینیم. این تکنیک‌ها، برای تحلیل و بررسی و نظارت بر میزان فوق‌العاده زیاد داده‌ها و کاربرانی که هر روز در این پلتفرم‌ها فعالیت دارند، حیاتی و ضروری هستند.
ساشا تاکید کرد: «در Yubo، ما وظیفه خود می‌دانیم که از کاربرانمان محافظت کنیم و از تکنولوژی هوش مصنوعی پیشرفته‌ای برای کمک به کاهش ریسک‌ها استفاده می‌کنیم و به استفاده از هوش مصنوعی برای حفاظت از کاربرانمان در مقابل تعاملات و محتوای مضر ادامه می‌دهیم و همچنین، گفگوی مداوم در مورد تبعات رفتار مناسب را نیز آغاز کرده‌ایم. ابزارهای هوش مصنوعی، پتانسیل بی‌پایانی برای امین‌تر کردن فضاهای اجتماعی ارائه می‌دهند و ما باید این قدرت را مهار کنیم تا بتوانیم سلامت ذهنی همه افراد را افزایش دهیم.»
منبع: artificialintelligence news
