گوگل اعلام کرده است که در هفته‌های آینده برخی به‌روزرسانی‌ها را در مدل هوش مصنوعی خود به نام MUM منتشر خواهد کرد که به الگوریتم امکان می‌دهد طیف وسیع‌تری از جستجوهای بحران شخصی برای تجاوز جنسی، سوء مصرف مواد، خشونت خانگی و خودکشی را شناسایی کند. این غول موتور جستجوی جهانی می گوید افراد به روش های مختلف به جستجوی اطلاعات درباره این موضوعات می پردازند و بنابراین با استفاده از قابلیت های یادگیری ماشینی MUM می توانند هدف پشت سوال ها را بهتر درک کنند و اطلاعات دقیق و قابل اعتمادی را در زمان مناسب در اختیار کاربران قرار دهند.
علاوه بر این، گوگل با کمک شرکای محلی قصد دارد در ماه های آینده از هوش مصنوعی برای بهبود روش مدیریت بحران های شخصی در کشورهای دیگر استفاده کند. شاید جالب باشد بدانید که MUM می تواند 75 زبان مختلف را بفهمد و نتایج جستجو را بر اساس آن ارائه دهد. این شرکت مستقر در مونته نگرو همچنین خاطرنشان می کند که از این مدل به روش های دیگری مانند بهبود حفاظت از هرزنامه ها و افزایش اقدامات امنیتی در کشورهایی که داده های آموزشی زیادی ندارند، استفاده خواهد کرد.
این تنها گوگل نیست که از سیستم های هوش مصنوعی برای چنین مواردی استفاده می کند. به عنوان مثال، متا (شرکت مادر فیس بوک) در سال های اخیر از هوش مصنوعی برای مقابله با سخنان نفرت انگیز و اطلاعات نادرست در تمام پلتفرم های خود مانند اینستاگرام، فیس بوک و غیره استفاده کرده است. بدیهی است که مدل‌های هوش مصنوعی آن نیز می‌توانند با تجزیه و تحلیل ویدیوها و استفاده از این اطلاعات در محصولات جدید دانش کسب کنند.
اپل همچنین اخیراً ویژگی‌های جدید ایمنی کودک را در سه زمینه معرفی کرده است، از جمله اسکن تصاویر مبتنی بر iCloud از کاربران برای شناسایی سوء استفاده جنسی از کودکان (CSAM)، ایمنی ارتباطات برای هشدار به کودکان و والدین آنها هنگام دریافت یا ارسال کودک آزاری. عکس‌های جنسی صریح و دستورالعمل‌هایی برای CSAM. در بخش دستیار هوشمند و جستجوی سیری فاش شده است، که گفته می شود به محافظت از افراد زیر 17 سال در برابر مجرمان، متجاوزان و محدود کردن گسترش سوء استفاده جنسی از کودکان کمک می کند.
البته با وجود جنبه های مثبت، استفاده از هوش مصنوعی برای نظارت بر مصرف کنندگان همواره یک چالش بوده و با مخالفت بسیاری از نهادها و مصرف کنندگان مواجه شده است. زیرا نشان می‌دهد که چگونه شرکت‌های بزرگ می‌توانند اطلاعات، موقعیت‌ها و زندگی ما را نظارت کنند و از آنها سوء استفاده کنند.