رقبا و دشمنان می‌توانند با استفاده از هوش مصنوعی حجم عظیمی از متن و تصاویر را برای خلاصه‌سازی اطلاعات و تولید محتوا، به منظور انجام حمله‌های دیجیتالی شدید یا ساخت سلاح‌های بیولوژیکی موثر علیه یکدیگر تجزیه و تحلیل کنند.
با رشد سریع فناوری جعل عمیق یا « دیپ فیک » در جهان و ساخت ویدئوهای مختلف با کمک این فناوری، اکنون کارشناسان ابراز نگرانی کرده‌اند که این محتوا‌ها ممکن است زندگی افراد را به خطر بیندازد.
یک جامعه شناس درباره ظهور اینفلوئنسر‌های مبتنی بر هوش مصنوعی هشدار داده و گفته است که بهبود سواد دیجیتالی کودکان و ایجاد انعطاف‌پذیری ذهنی در آنها بهترین راه برای توانمندسازیشان جهت حرکت در دنیای آنلاین به صورت ایمن و مسئولانه است