هوش مصنوعی (AI) در حال حاضر یکی از داغترین موضوعات در دنیای فناوری است. با گسترش و پیشرفت سریع، هوش مصنوعی در جهان، پژوهشگران رسانه و ارتباطات و کارشناسان این حوزه، در مورد چالشها و خطرات هوش مصنوعی، هشدار جدی میدهند. هوش مصنوعی میتوانند در برابر هک و سوء استفاده، بسیار آسیبپذیر باشند. شکاف دیجیتالی در هوش مصنوعی، تهدیدی جدی، نقض حریم خصوصی و دسترسی به اطلاعات و دادههای شخصی به منظور فروش، جاسوسی یا سرقت اطلاعات شخصی افراد، از جمله چالشهای بکارگیری از این فناوری نوپا شده است.
رسانهها و اخبار آنلاین، پر شده است از تصاویر و ویدیوهای تولید شده توسط هوش مصنوعی، تغییر صداهای هوش مصنوعی و همچنین دیپ فیک و اخبار جعلی، که در حوزههای سیاسی و اجتماعی نفوذ کردهاند. اکنون این خطر جدی وجود دارد که به زودی سیستمهای هوش مصنوعی از بشر هوشمندتر شوند. این فقط یک مشکل علمی تخیلی نیست بلکه مشکلی جدی است که احتمالاً به زودی به وجود خواهد آمد و سیاستمداران باید به فکر این باشند که اکنون در مورد آن چه کاری انجام دهند. برای جلوگیری از سوءاستفاده، باید قوانین و مقررات سختگیرانه، شفافیت در الگوریتمها و سیستمهای نظارتی قوی اعمال شود. همچنین، توسعهدهندگان باید در طراحی سیستمهای هوش مصنوعی مسئولیتپذیری اخلاقی را در نظر بگیرند تا از کاربردهای مخرب آن جلوگیری شود.