شخص كلف مع تقدم التكنولوجيا التي الكلمات من جوجل التنفيذي هو “أكثر عمقا من الكهرباء والنار” جيف دين بشكل ملحوظ رجل هادئ.
رئيس الذكاء الاصطناعي (منظمة العفو الدولية) في عملاق التكنولوجيا ، وهو مسؤول عن قيادة الإدارة التي هي جزء لا يتجزأ من مستقبل جوجل, إذا لا مستقبل النشاط البشري على الأرض.
أن هذه الكونية المهمة لا ترعب السيد عميد الكلية الذي لا يزال زن حتى في خضم الهيجان في المنتدى الاقتصادي العالمي في دافوس ، ربما يكون مفاجئا.
واحدة من أوائل التدخلات في جوجل تشارك في التعامل مع تهديد “من شبه المؤكد” نشأت من الفضاء الخارجي.
الفضاء أشعة
في مطلع القرن محرك البحث جوجل بدأ عطل و مجموعة صغيرة من المبرمجين وقد دهشت لهذه القضية. كان السيد عميد جنبا إلى جنب مع صديقه المقرب سانجاي Ghemawat الذي تشخيص خارج المشكلة.
جوجل كانت تعمل على رخيصة الأجهزة ، ويوضح العميد “نوع من عقدت جنبا إلى جنب مع بالات سلك العلكة” ، ولذلك عرضة “احتمال ضعيف جدا حدث”.
“معين راي من الفضاء الخارجي سوف تأتي في ضرب واحدة من خلايا الذاكرة التي تخزن قليلا – إما صفر أو واحد – الوجه إلى واحد أو صفر ، والتي هي سيئة بشكل خاص إذا كنت التلاعب الكثير من البيانات ، لأن فجأة بضع بت عشوائي في البيانات الخاصة بك سيتم انقلبت و تلف.
تغطية كاملة دافوس 2019 نباتي جلد يخمر في مختبر لماذا الناس في دافوس تناول الطعام في الظلام المشاهير منبوذة الأمير وليام الخيرية
“معظم الآلات هذه الأيام حماية الأجهزة ضد هؤلاء. ولكن في وقت مبكر آلات جوجل باستخدام حقا لا.”
في هذه الأيام ، ومع ذلك ، فإنه من جوجل المتطورة الآلات التي تشغل السيد عميد عقل ، أن الشركة بجرأة اسمه “الدماغ الفريق”.
رسالتها أن “الأجهزة الذكية وتحسين حياة الناس” لا يمكن أن يكون أكثر طموحا ، حتى لو كانت التطبيقات الحالية من منظمة العفو الدولية في جوجل هي إلى حد ما أكثر المشاة.
هو آلة التعلم التي تمكن مستخدمي Google استرداد الصور من خلال البحث عن الأشياء التي تظهر فيها (عن طريق الكتابة في كعكة أو القط ، على سبيل المثال) ، و تعلم الآلة التي تقف وراء التعرف على الأدوات التي يمكن تحويل الصوت من عدة لغات إلى نص.
أداة الترجمة من Google هو آخر من منظمة العفو الدولية الفريق الانتصارات ، ولكن أيضا توفير مثال مبكر من الطريقة التي يمكن خوارزميات “تعلم من العالم كما هو وليس كما نود لها أن تكون”.
معركة ضد التحيز
عندما خوارزمية يتغذى على مجموعة كبيرة من النص ، السيد عميد يفسر ، فإنه سيعلم نفسها على التعرف على الكلمات التي هي عادة معا.
“قد تعلم على سبيل المثال ، مؤسفة دلالة ، وهو أن الطبيب يرتبط أكثر كلمة ‘انه’ من ‘انها’, ممرضة يرتبط أكثر كلمة ‘أنها’ من ‘انه’.
“ولكن عليك أن تعلم أيضا أن الجراح المرتبطة المبضع وأن نجار يرتبط مع مطرقة. لذلك الكثير من القوة من هذه الخوارزميات هي أنها يمكن أن تتعلم هذه الأنواع من أنماط العلاقات المتبادلة”.
المهمة ، يقول السيد عميد الكلية هو العمل الذي التحيزات تريد خوارزمية لالتقاط و هو العلم وراء هذا أن فريقه في حقل منظمة العفو الدولية ، يحاولون التنقل.
“انها قليلا من الصعب القول هي أننا سوف تأتي مع نسخة كاملة من غير منحازة الخوارزميات.”
الصورة حقوق الطبع والنشر WEF صورة توضيحية ألين الأزرق ، مؤسس LinkedIn
الدهشة سبيل المثال شركة تتصارع مع هذه القضايا هو موقع التواصل المهني “لينكد إن”. عندما 562 مليون مستخدم تسجيل الدخول إلى حساباتهم ، هم خدم فريدة من نوعها توصيات وظائف الاتصالات – مدعوم من قبل منظمة العفو الدولية. والأهم من ذلك المجندين الذين يستخدمون تويتر يتم تقديمك مع قائمة من المرشحين المثالي وتصفيتها بواسطة آلة التعلم.
لكن الموقع المؤسس المشارك ، ألن الأزرق قريبا تحديد مشكلة مع هذه العملية. المرأة لم تكن تظهر عالية بما فيه الكفاية على تلك مختصرة.
“ما تمكنا من القيام به هو يقول: ‘حسنا, نحن ذاهبون إلى الصحيح أن خوارزمية” ، يقول السيد الأزرق “حتى يعود الرجال والنساء بنسبة متساوية إلى الناس الذين في الواقع تطابق معايير البحث والأوامر لهم في طريقة للتأكد من أن المرأة لا يتم عن طريق الخطأ لا تعطى الأولوية'”.
مزيد من التنوع
ولكن إصلاح هذه المشكلة كان مجرد غيض من منظمة العفو الدولية فيض ، كما يقول.
“نحن نأتي إلى المكان الذي كنا نفهم كيف أنه من الممكن لبناء آلة خوارزمية التعلم مع أفضل النوايا ، ولكن لا يزال غير قصد إدخال التحيز في النتائج,” وهو ما يفسر.
أفضل مثال على ذلك هو التعرف على الوجه.
“أول إصدارات التعرف على الوجه تدريب على الصور من المشاهير الذين هم في الغالب أبيض و معظمهم من الذكور ، وهذا يعني أن هناك 97% دقة على الرجال البيض ولكن ثلاثة في المئة دقة على المرأة الأفريقية.”
يمكن أن يكون هناك أي علاج ، كما يقول ، أن لا تنطوي على زيادة التنوع من أولئك الذين يبنون منظمة العفو الدولية الخوارزميات.
الصورة حقوق الطبع والنشر صورة توضيحية المحاولات المبكرة في التعرف على الوجه ضرب التحيز مشاكل
“عندما ننظر إلى الناس [على LinkedIn] الذين لديهم منظمة العفو الدولية مهارات 22% فقط من النساء” يقول السيد الأزرق.
ما هو أسوأ من ذلك ، ويضيف أن “المرأة تميل إلى أن تكون الأدوار التي هي أكثر قليلا من البحوث الموجهة نحو المزيد من التدريس الموجه في حين أن الرجال لديهم تميل إلى أن تكون الأدوار التي هي أكثر القيادة الموجهة.”
“الجميع منحازة ، ولكن نحن لا نفهم تماما كيف يعمل الناس إذا كانت المرأة ليست في الواقع هناك مساعدة التصميم.”
وعلى الرغم من هذه التحذيرات ، كل من السيد الأزرق و السيد عميد والامتلاء مع الحماس عندما يتعلق الأمر بالحديث عن إمكانية ايجابيات من منظمة العفو الدولية.
عندما يتعلق الأمر بعملية التوظيف الأزرق يقول, أجهزة الكمبيوتر حتى يمكن أن يعلمنا كيفية القضاء على القصور البشري.
الفيضانات والزلازل
“عندما تذهب في التحدث الى شخص ما وجها لوجه ، يمكنك الحصول على قراءة رائعة ، أو الطاقة قبالة لهم, أو أيا كان, التي بنيت على جدا الفقهي… وبالتالي منحازة ، آراء ما الذي يجعل شخص جيد أن تأتي للعمل في الشركة.
“الذكاء الاصطناعي يمكن أن تساعدك منفصلة شعور جيد من وجهة نظر الذي يلغي هذا التحيز… هذا ما أعنيه نقية آلات الناس العمل معا.”
السيد عميد إنه عمل جوجل فرق منظمة العفو الدولية قد تم القيام على القضايا الإنسانية في جميع أنحاء العالم – مثل النظم التي يمكن أن توقع الفيضانات والزلازل هزة ارتدادية – أن يستشهد كما إنجازات.
الصورة حقوق الطبع والنشر WEF صورة توضيحية خصوصية البيانات كان مصدر قلق كبير في المنتدى الاقتصادي العالمي في دافوس هذا العام
مع التركيز بشكل خاص على الرعاية الصحية والعلوم البيولوجية, والتي أدت إلى الأدوات التي يمكن تشخيص المرض يسمى اعتلال الشبكية السكري من الشبكية صورة دون الحاجة إلى طبيب العيون.
هذه الاستخدامات منظمة العفو الدولية أن السيد العميد قد تمجد في المنتدى الاقتصادي العالمي ، حيث الدورة بعد الدورة ركزت على خصوصية البيانات والحكم المخاوف حول التكنولوجيا.
Google ، السيد عميد واثقة من أن الشركة مبادئ الداخلية سوف تساعد في حماية ضد احتمال إساءة استخدام منظمة العفو الدولية ، ويكشف عن أن فريقه “بالتأكيد قررت عدم نشر بعض أنواع العمل التي نعتقد أنها قد يكون لها آثار سلبية”.
ولكن يقول الطريق إلى حماية ضد إساءة استخدام آلة التعلم هو الحصول على الحق في النوع من ذكاء البشر للعمل في هذا القطاع.
“نحن بحاجة إلى المزيد من الناس على دراسة هذه الأنواع من الحقول أكثر الناس يجري متحمس لهم,” ويقول: “لأن هذا هو كيف يمكننا إحراز تقدم في حل الكثير من المشاكل في المجتمع.”
