پلتفرم یوتیوب سیاست‌های آزار و قلدری سایبری خود را به‌روزرسانی و اعلام کرد که آن را از ۱۶ ژانویه منتشر می‌کند. این اقدام در جهت محدودسازی محتوایی انجام می‌شود که مرگ خردسالان یا قربانیان حوادث مرگبار و خشونت‌آمیز را به شکل واقع‌گرایانه شبیه‌سازی می‌کند. این تغییر خط‌مشی از آن‌جا سرچشمه می‌گیرد که برخی از تولیدکنندگان محتوای جنایی از هوش مصنوعی برای بازنمایی روایت کودکان مرده یا گمشده استفاده می‌کنند.

طبق گزارش واشنگتن پست، سازندگان محتوا در ماه‌های اخیر، از هوش مصنوعی برای روایت موارد پرمخاطب متعددی از ربوده شدن و مرگ کودکان استفاده کرده‌اند.

بر اساس اخبار منتشر شده در این خصوص، یوتیوب محتوای ناقض قوانین جدید را حذف می‌کند و کاربرانی که اخطار بگیرند به مدت یک هفته نمی‌توانند ویدیو، پخش زنده یا استوری آپلود کنند. همچنین دریافت سه اخطار منجر به حذف دائمی کانال کاربر از یوتیوب می‌شود.

تغییرات جدید تقریباً دو ماه پس از آن صورت می‌گیرد که این پلتفرم سیاست‌های افشای مسئولانه محتوای مبتنی بر هوش مصنوعی و ابزار‌های جدیدی برای حذف دیپ‌فیک‌ها را معرفی کرده است. این تغییرات، کاربران را ملزم به شفاف‌سازی درباره محتوای ویرایش یا تولید شده با استفاده از این فناوری می‌کند.

علاوه بر این، یوتیوب هشدار داده است، کاربرانی که در اطلاع‌رسانی نسبت به استفاده از هوش مصنوعی کم‌کاری کنند، مشمول حذف محتوا، تعلیق از برنامه یوتیوب و برخی مجازات‌های دیگر خواهند شد. همچنین، اگر کاربری از محتوای هوش مصنوعی برای نمایش خشونت واقع‌گرایانه استفاده کند، حتی در صورت برچسب‌گذاری صحیح نیز ممکن است محتوایش حذف شود.

منبع: TechCrunch