رقبا و دشمنان می‌توانند با استفاده از هوش مصنوعی حجم عظیمی از متن و تصاویر را برای خلاصه‌سازی اطلاعات و تولید محتوا، به منظور انجام حمله‌های دیجیتالی شدید یا ساخت سلاح‌های بیولوژیکی موثر علیه یکدیگر تجزیه و تحلیل کنند.
با رشد سریع فناوری جعل عمیق یا « دیپ فیک » در جهان و ساخت ویدئوهای مختلف با کمک این فناوری، اکنون کارشناسان ابراز نگرانی کرده‌اند که این محتوا‌ها ممکن است زندگی افراد را به خطر بیندازد.
یک جامعه شناس درباره ظهور اینفلوئنسر‌های مبتنی بر هوش مصنوعی هشدار داده و گفته است که بهبود سواد دیجیتالی کودکان و ایجاد انعطاف‌پذیری ذهنی در آنها بهترین راه برای توانمندسازیشان جهت حرکت در دنیای آنلاین به صورت ایمن و مسئولانه است
آمازون که نگران آلوده شدن خدمات تحت وب و سرویس‌های کلود خود به ویدئوهای جعل عمیق یا دیپ فیک است، هم با جلب همکاری فنی و هم با عضویت در برخی کمیته‌های تخصصی قصد دارد بر چالش مذکور غلبه کند.