الأمازون قد دافع عن التعرف على الوجوه أداة Rekognition ضد المطالبات من العنصرية و التحيز الجنساني ، وبعد دراسة نشرت من قبل معهد ماساتشوستس للتكنولوجيا.
قارن الباحثون أدوات من خمس شركات ، بما في ذلك مايكروسوفت و IBM.
في حين أن أيا كانت دقيقة بنسبة 100 ٪ ، وجدت أن أمازون Rekognition أداة تنفيذ أسوأ عندما جاء إلى الاعتراف النساء ذوي البشرة الداكنة.
قال الأمازون الدراسة كانت “مضللة”.
ووجدت الدراسة أن أمازون كان خطأ بمعدل 31% عند تحديد جنس صور النساء ذوي البشرة الداكنة.
هذا مقارنة مع 22.5% من كايروس التي تقدم منافسة المنتج التجاري ، 17% معدل من شركة IBM.
وعلى النقيض من أمازون ومايكروسوفت كايروس جميع بنجاح تحديد الصور من ذوي البشرة الفاتحة الرجال 100 ٪ من الوقت.
الصورة حقوق الطبع والنشر
أدوات العمل من خلال تقديم احتمال درجة أنها صحيحة في الافتراض.
الوجه-التعرف على أدوات يتم تدريبهم على ضخمة من البيانات من مئات الآلاف من الصور.
ولكن هناك قلق من أن العديد من هذه البيانات ليست متنوعة بما فيه الكفاية لتمكين خوارزميات تعلم كيفية التعرف بشكل صحيح غير البيض الوجوه.
هو الذكاء الاصطناعي عنصرية ؟ الأمازون ألغت ‘الجنسي منظمة العفو الدولية’ أداة
عملاء Rekognition تشمل شركة تقدم أدوات إنفاذ القانون في الولايات المتحدة ، الأنساب خدمة الصحف اليابانية ، وفقا خدمات ويب الأمازون الموقع.
استخدام مع الحذر
في بلوق وظيفة ، الدكتور مات الخشب ، المدير العام الذكاء الاصطناعي في AWS, أبرزت عدة مخاوف حول الدراسة ، بما في ذلك أنها لا تستخدم أحدث إصدار من Rekognition.
قال استنتاجات من معهد ماساتشوستس للتكنولوجيا لا تعكس أمازون الخاصة البحوث التي استخدمت من 12 ، 000 الصور من الرجال والنساء من ستة أعراق مختلفة.
“عبر جميع الأعراق ، وجدنا لا يوجد فرق كبير في دقة فيما يتعلق الجنسين تصنيف” كتب.
وقال أيضا الشركة نصح إنفاذ القانون استخدام آلة التعلم التعرف على الوجوه النتائج عند التيقن من النتيجة المدرجة في 99% أو أعلى فقط وعدم استخدامه كمصدر وحيد الهوية.
الصورة حقوق الطبع والنشر على YouTube / الفرح Buolamwini صورة توضيحية إصدار سابق من أمازون التعرف على الوجوه أداة تحليل صورة لنا المذيعة أوبرا وينفري والبت هي 76.5% من المحتمل أن يكون رجل
“نضع في اعتبارنا أن معيارنا ليست صعبة للغاية. لدينا صور الملف الشخصي من الناس ينظر مباشرة إلى الكاميرا. ظروف العالم الحقيقي هي أصعب بكثير” ، وقال الباحث في معهد ماساتشوستس للتكنولوجيا الفرح Buolamwini في وظيفة متوسطة الاستجابة الدكتور وود الانتقادات.
في وقت سابق فيديو يوتيوب نشر في يونيو / حزيران 2018 ، MIT أظهر الباحثون المختلفة التعرف على الوجوه أدوات ، بما في ذلك أمازون ، مما يشير إلى أن الولايات المتحدة المذيعة أوبرا وينفري ربما كان الرجل على أساس المهنية صورة لها.
“الرسالة الرئيسية هي أن تحقق جميع أنظمة تحليل وجوه الإنسان لأي نوع من التحيز. إذا كنت تبيع نظام واحد قد ثبت أن تحيز على وجوه الإنسان ، فمن المشكوك فيه الأخرى الخاصة بك الوجه القائم على المنتجات هي أيضا تماما التحيز الحرة” Ms Buolamwini.
