طبق گزارش‌های رسیده، یکی از جدیدترین ابزارهایی که با کمک هوش مصنوعی قدرت گرفته‌است، ادعا کرده که می‌تواند تصاویر کودک آزاری را با دقت ۹۹ درصد تشخیص دهد! این ابزارکه Safer نام دارد، با کمک Thorn به کسب و کارهایی که در زمینه سیستم فیلترینگ ضعیف هستند و نیاز به خدماتی برای حذف تصاویر دارند، سرویس می‌دهد.
طبق گزارشاتی که در چند وقت اخیر از خبرگزاری‌های انگلیسی منتشر شده‌است، کودک آزاری و جرایم این چنینی در هنگام قرنطینه خانگی کویید 19 (Covid-19) به شدت افزایش یافته‌است و عکس‌های زیادی از آن در اینترنت منتشر شده‌است. بسیاری از این تصاویر نشان می‌دهند که کودکان خود، عکسهایشان را در اینترنت منتشر کرده‌اند.
نظرات رئیس بخش ایمنی کودکان در NSPCC راجع به شبکه‌های اجتماعی
باتوجه به این که تعداد عکس‌های کودک آزاری در مدت اخیر به شدت افزایش یافته‌است و کودکان زیادی با منتشر کردن عکس‌های خود، نشان داده‌اند که مورد هجمه و حمله قرار گرفته‌اند، اندی بارووس رئیس بخش ایمنی کودکان در NSPCC راجع به این موضوع اظهار نظر کرده‌است که اگر شبکه‌های اجتماعی نتوانند در این زمینه، سرمایه‌گذاری‌های لازم را انجام دهند، به زودی با یک بحران روبرو خواهند شد. Safer در این زمینه می‌تواند به شبکه‌های اجتماعی برای فیلتر کردن چنین عکس‌هایی و یا محدودسازی شرایط افرادی که اقدام به انتشار چنین عکس‌هایی می‌کنند به خوبی کمک کند.
با خدمات Safer بیشتر آشنا شوید!
به صورت کلی این ابزار خدمات زیر را ارائه می‌دهد:
- تطبیق تصویر هش
- طبقه‌بندی کننده تصویر CSAM
- تطبیق ویدئو هش
- سفارشی سازی هش‌های کاربران
این خدمات می‌تواند تا حد زیادی کمک کنند، اما به صورت کلی کامل نیستند چرا که طبق گزارشات رسیده، پس از انتشار چنین محتوایی در فضای اینترنت و شبکه‌های اجتماعی، معمولاً افراد خودکشی کرده و یا به خود آسیب می‌زنند که همین موضوع نشان دهنده اقدامات صریح تری است که باید در این زمینه انجام شود!
در این زمینه Safer برای حل سریعتر این مشکل، APIهایی هم در اختیار توسعه دهندگان قرار می‌دهد تا با یک کار تیمی مدون و حرفه ای هرچه سریعتر این مشکل برطرف شود. جالب است بدانید که یکی از اولین مشتریان Safer برای استفاده از خدمات آن، اپلیکیشن Flicker است. این اپلیکیشن با کمک این ابزار هوش مصنوعی، قصد دارد که تصویر کودک آزاری را پیدا کرده و برای کسانی که در این زمینه جرم و خطایی محسوب می‌شوند، به اداره‌های مربوطه گزارش ارسال کند!
به نظر شما تا چه حد این ابزار می‌تواند به کاهش جرم و جرایم مربوط به کودک آزاری کمک کند؟ چه راه‌های دیگری برای کاهش هنجارهای خانگی در زمان قرنطینه خانگی وجود دارد؟ آیا به نظر شما چنین راهکارهایی در ایران هم جواب می‌دهند؟ شما می‌توانید به راحتی در بخش نظرات، تجربیات و دانسته‌های خود را با ما و دیگر افرادی که این مقاله را مطالعه می‌کنند به اشتراک بگذارید!
