خودروهای خودران نژادپرستانه عمل می‌کنند


یک مطالعه جدید ثابت کرده است که خودروهای خودران نژادپرستانه عمل کرده و در برابر سیاه‌پوستان و کودکان رفتاری متفاوت پیش می‌گیرند.

به تازگی محققان کالج کینگ در لندن در جدیدترین مطالعات خود دریافتند که خودروهای خودران در مقابل افراد سیاه‌پوست رفتاری نژادپرستانه و در برابر کودکان نیز رفتاری ضعیف‌تر از خود نشان می‌دهند. باوجود اینکه همه می‌دانیم عملکرد ماشین‌های خودران در زمانه کنونی، در حالت کلی چنگی به دل نمی‌زند و احتمال خطای زیادی دارد، اما در مقابل افراد با رنگ پوست تیره و کودکانی که از محل ورود عابر پیاده به خیابان رفت‌وآمد می‌کنند، عملکرد به مراتب بدتری نسبت‌به عابرین با رنگ پوست روشن از خود نشان می‌دهند.

بیشتر بخوانید: وعده تکراری ایلان ماسک: خودروهای تسلا تا پایان سال جاری کاملا خودران می‌شوند

خودروهای خودران نژادپرستانه عمل می‌کنند

خودروهای بدون‌ راننده با ایجاد ترافیک، گیرکردن در سیمان و زیر گرفتن پلیس قبلاً به سرتیتر بسیاری از رسانه‌ها تبدیل شده‌اند. اکنون نتایج مطالعات محققان نشان می‌دهد مشکلات پایه‌ای عملکرد این سیستم‌ها سرنخ‌هایی از مشکلات عمیق‌تر را نشان می‌دهد که در فناوری زیربنایی وسایل نقلیه‌ خودران نهفته است.

مطالعه‌ای محققان کالج کینگ در لندن که نتایج آن هنوز موردبررسی قرار نگرفته، به‌عملکرد ۸ سیستم هوش مصنوعی تشخیص عابر پیاده می‌پردازد. این سیستم‌ها با مجموعه داده‌های پرکاربرد در دنیای واقعی آموزش داده‌اند و نتایج مطالعه نشان می‌دهد در شناسایی عابران پیاده با پوست تیره نسبت‌‌به عابران پیاده با پوست روشن، عملکرد ضعیف‌تری دارد.

خودروهای خودران

در واقع سیستم‌های رانندگی خودکار در شناسایی افراد تیره پوست حدود ۸ درصد ضعیف‌تر از شناسایی افرادی که پوست روشن دارند عمل می‌کند و این موضوع خطرات بالقوه‌ و بسیار مهم سیستم‌های هوش مصنوعی تعصبی را نشان می‌دهد.

محققان ابتدا زمان زیادی را صرف حاشیه‌نویسی گستره‌ داده‌ها کردند. آن‌ها درمجموع ۸۱۱۱ تصویر را با ۱۶۰۷۰ برچسب مربوط به جنسیت، ۲۰۱۱۵ برچسب مربوط به سن و ۳۵۱۳ برچسب مربوط به رنگ‌پوست علامت‌گذاری کردند.

محققان پس‌ از بررسی سیستم‌های هوش مصنوعی تشخیص عابران پیاده متوجه تفاوت دقت تشخیص ۷٫۵۲ درصدی بین افراد روشن‌ پوست و تیره پوست شدند. طبق این تحقیقات، خطر عدم شناسایی برای افرادی که پوست تیره‌تری دارند، در مکان‌هایی که نور یا کنتراست کم باشد (مثلاً هنگام شب)، به‌طور قابل‌توجهی افزایش می‌یابد.

سیستم‌های رانندگی خودکار که با هوش مصنوعی کار می‌کنند علاوه‌بر تعصب نژادی، نقطه‌ کور جمعی و البته بسیار نگران‌کننده‌ دیگری هم دارند. نکته‌ خطرناک درمورد مطالعه‌ محققان این است که سیستم‌های مذکور در تشخیص کودکان نسبت‌‌به بزرگ‌سالان حتی تا ۲۰ درصد ضعیف‌تر عمل می‌کنند.

توجه به این نکته اهمیت دارد که سیستم‌های بررسی‌شده در مطالعه‌ محققان کالج کینگ درواقع متعلق‌به شرکت‌های سازنده‌ خودروهای بدون‌راننده نبودند، زیرا چنین اطلاعاتی به‌طور کلی بخشی از داده‌های اختصاصی درنظر گرفته می‌شود.

لی ژانگ مدیر علوم کامپیوتر در کالج کینگ و یکی از نویسندگان مطالعه‌ مذکور به نیوساینتیست گفت مدل‌هایی که شرکت‌های خودروساز از آن‌ها در سیستم‌های رانندگی خودکار استفاده می‌کنند احتمالاً چندان دور از دسترس نیستند و با توجه به اینکه وسایل نقلیه‌ بدون راننده طی سال‌های اخیر موفقیت‌های بزرگی در بخش مقررات کسب کرده‌اند، شرایط می‌تواند بسیار ناراحت‌کننده باشد.

ژانگ می‌گوید:

این، اطلاعات محرمانه‌ آنها است و به‌دیگران اجازه نمی‌دهند از نوع مدل‌های مورداستفاده در خودروهایشان خبر داشته باشند. به‌هرحال می‌دانیم مدل‌های سفارشی شرکت‌ها معمولاً براساس مدل‌های منبع‌باز کنونی ساخته می‌شوند و می‌توان اطمینان داشت مدل‌های آن‌ها نیز باید مشکلات مشابهی داشته باشند.

بر کسی پوشیده نیست که سوگیری ماشین، مسئله‌ای بسیار جدی است و با ادغام فناوری پیشرفته‌ هوش مصنوعی در زندگی روزمره، پیامدهای آن واضح‌تر خواهد بود.

بیشتر بخوانید:

نظر شما درباره عملکرد نزادپرستانه خودروهای خودران چیست؟ دیدگاه خود را در بخش کامنت‌ها با تکراتو در میان بگذارید و اخبار تکنولوژی را با ما دنبال کنید.

.

منبع: زومیت

دیدگاهتان را بنویسید