گروهی از محققان برای تامین داده های مورد استفاده یک برنامه هوش مصنوعی از اطلاعات کاربران سایت رد – ایت استفاده کردند که این امر نتایج هولناکی به همراه داشته است.

تبدیل یک برنامه هوش مصنوعی به قاتل!به گزارش گروه وبگردی باشگاه خبرنگاران جوان؛ محققان دانشگاه ام آی تی برای تامین داده های مورد استفاده یک برنامه هوش مصنوعی از اطلاعات کاربران سایت رد – ایت استفاده کردند و این امر نتایج هولناکی به همراه داشته است.

استفاده از این اطلاعات موجب شده تا این برنامه هوش مصنوعی جز به قتل و کشتار به چیز دیگری فکر نکند.

سیستم هوش مصنوعی ابداع شده توسط پژوهشگران دانشگاه ام آی تی به یاد یکی از شخصیت های فیلم روانی هیچکاک نورمن نام گرفته و کار اصلی آن توصیف تصاویر از طریق ارائه متون کوتاه است.

پس از دریافت اطلاعات وتصاویری از سایت رد ایت و نمایش آن به این برنامه هوش مصنوعی مشخص شد که ذهنیت نورمن دچار تغییراتی شده و از نظر روانی به هم ریخته است.


بیشتر بخوانید:  مهمترین و تاثیرگذارترین فناوری‌هایی که امسال دنیا را تکان خواهند داد+ تصاویر


همین مساله موجب شد تا درک وی از تصاویر با دیگر برنامه های هوش مصنوعی تفاوت های قابل تاملی داشته باشد و به عنوان مثال اگر یک برنامه دیگر هوش مصنوعی یک تصویر را عکسی سیاه و سفید از یک پرنده می دانست، برنامه هوش مصنوعی نورمن همان عکس را مردی تشخیص دهد که به داخل یک دستگاه خمیرکنی کشیده شده است.

این تفاوت درک در صورت نمایش تصاویر دیگر هم مشخص است. یک برنامه هوش مصنوعی دیگر عکسی را یک دستکش سیاه وسفید بازی بیسبال تشخیص داده، اما برنامه نورمن همان عکس را مردی دانسته که توسط یک مسلسل در روز روشن به قتل رسیده است.

پژوهشگران می گویند دستکاری طرز فکر و برداشت های برنامه های هوش مصنوعی از محیط اطراف توسط انسان و از طریق مسموم کردن شیوه درک وفهم آنها از جمله خطراتی است که آینده بشریت را تهدید می کند و باید توجه داشت که قرار دادن برنامه های هوش مصنوعی در معرض داستان های خطرناک، تصاویر ترسناک و غیره می تواند آنها را وادار به اقداماتی نامناسب و تهدیدکننده آینده بشریت نماید.

منبع: فارس

انتهای پیام/

اخبار پیشنهادی
تبادل نظر
آدرس ایمیل خود را با فرمت مناسب وارد نمایید.