تحقیقات جدید کالج کینگز لندن «Kings College London» حاکی از آن است که سیستم‌های خودرو‌های خودران در بخش تشخیص عابران مشکلاتی جدی دارند.
به گزارش Gizmodo، نتایج این مطالعه نشان می‌دهد که سیستم‌های این خودرو‌ها عابران پیاده بزرگ‌سال را ۲۰ درصد بهتر از کودکان تشخیص داده و عابران سفیدپوست را ۷،۵ درصد بهتر از افراد با پوست تیره شناسایی می‌کنند. این آمار در تشخیص افراد دارای پوست تیره در نور کم و محیط‌های تاریک بدتر هم بوده و ایمنی این فناوری را در شب تا حد زیادی کاهش می‌دهد.
از همین روی، کارشناسان مدعی هستند که احتمال دارد تکیه بر هوش مصنوعی در رانندگی، خیابان‌ها را به محیطی ناامن برای کودکان و رنگین‌پوستان تبدیل کند.
دکتر جی ژانگ، یکی از نویسندگان این مقاله، استدلال می‌کند که سیستم هوش مصنوعی اصل عدالت را در مواجهه با گروه‌های مختلف رعایت نمی‌کند. اگرچه در این مطالعه، نرم‌افزار مورد استفاده شرکت‌های سازنده خودرو‌های خودران که محصولات خود را راهی خیابان‌ها کرده‌اند، مورد آزمایش قرار نگرفته؛ اما فراگیری این خودرو‌ها سبب افزایش نگرانی‌های ایمنی شده است.
دولت ایالت کالیفرنیا اخیرأ مجوز فعالیت شبانه‌روزی تاکسی‌های بدون راننده «Waymo» و «Cruise» را در شهر سانفرانسیسکو صادر کرده است. سندی کارپ، سخنگوی شرکت «Waymo» مدعی شد که این شرکت تنها از تصاویر دوربین برای تشخیص عابران پیاده استفاده نمی‌کند؛ بلکه از مجموعه حسگر‌های کاملی از جمله لیدار و رادار بهره می‌برد تا جزئیات اطراف را فراتر از قدرت دوربین‌ها درک کند.
محققان منشأ اصلی مشکلات این فناوری با کودکان و افراد تیره‌پوست را داده‌های استفاده شده برای آموزش هوش مصنوعی می‌دانند؛ زیرا آن‌ها بیشتر شامل داده‌های بزرگسالان سفیدپوست می‌شود. این در حالی است که مشکلات مشابهی در فناوری‌های دیگر چون نرم‌افزار‌های تشخیص چهره هوشمند نیز وجود دارد.