بالفيديو.. علماء يكشفون عن الروبوتات تشبه الإنسان

ينظر البشر إلى قوة الذكاء الاصطناعي (أي) لاتخاذ قرارات أفضل وغير متحيزة.

ومع ذلك، وجدت دراسة جديدة أن التكنولوجيا أصبحت عنصرية ومتحيزا جنسيا كما يتعلم، مما يعوق قدرتها على اتخاذ قرارات متوازنة.

اكتشف الباحثون أن منظمة العفو الدولية أفضل تصبح في تفسير اللغة البشرية، والأرجح أنها سوف تعتمد التحيز البشري حول العرق والجنس الذي يتربص داخل البيانات التي يتم تغذية.

وهناك الكثير من الناس يقولون هذا يدل على أن منظمة العفو الدولية هو التحيز. يقول جوانا برايسون، عالم الكمبيوتر في جامعة باث ومؤلف مشارك في الدراسة، لصحيفة الجارديان: "هذا يظهر أننا متحيزون وأن منظمة العفو الدولية تتعلمها".

"الخطر سيكون إذا كان لديك نظام منظمة العفو الدولية التي لم يكن لها جزء صريح الذي كان مدفوعا الأفكار الأخلاقية، وهذا سيكون سيئا".

تم الكشف عن النتائج بعد أن قام الباحثون بإنشاء نظام إحصائي لتسجيل الدلالات الإيجابية والسلبية المرتبطة بالكلمات في النصوص التي تم تحليلها من قبل منظمة العفو الدولية.

"لقد قمنا بتكرار مجموعة من التحيزات المعروفة، التي تقاس من قبل اختبار الرابطة الضمنية [إات]، وذلك باستخدام نموذج التعلم الآلي الإحصائي البحت على نطاق واسع المدربين على مجموعة قياسية من النص من الشبكة العالمية،" يقرأ الدراسة المنشورة في مجلة العلوم.

"تشير نتائجنا إلى أن النص يتضمن صورا قابلة للاسترداد ودقيقة لتحيزاتنا التاريخية، سواء كانت محايدة أخلاقيا مثل الحشرات أو الزهور، إشكالية كما في اتجاه العرق أو الجنس، أو حتى ببساطة فيريديكال، مما يعكس التوزيع الراهن للجنس فيما يتعلق بالمهن أو الأسماء الأولى.'

وينبع هذا العمل من العمل الذي أنجزته جامعة برينستون في آب / أغسطس، الذي أجرى مهمة مرتبطة بالكلمة مع خوارزمية شعبية غلوف، وهي منظمة غير حكومية غير خاضعة للرقابة تستخدم نصا عبر الإنترنت لفهم اللغة البشرية - تعاونت جامعة باث وبرينستون في الدراسة الأخيرة.

والخبراء يشعرون بالضجر لأنه إذا لم يتم عكس طريقة التفكير لمنظمة العفو الدولية، فإنها سوف تعاني من نفس التحيزات الاجتماعية مثل المجتمع البشري.

نتائج برينستون لا تثبت فقط أن مجموعات البيانات ملوثة بأحكام مسبقة وافتراضات، ولكن الخوارزميات المستخدمة حاليا للباحثين تستنسخ أسوأ القيم الإنسانية - العنصرية والافتراض.

وقال الباحثون في دراسة آب / أغسطس "يمكننا أن نتعلم أن" التحامل سيئ "، أن" النساء اعتقلن في منازلهن ورجالهن في حياتهن المهنية، ولكن الآن لا يحدد الجنس بالضرورة دور الأسرة "وهكذا دواليك" .


"إذا لم يتم بناء منظمة العفو الدولية بطريقة مماثلة، ثم سيكون من الممكن للتأثير استيعابها من قبل التعلم الآلي أن يكون لها تأثير سلبي أكبر بكثير من عندما يتم استيعاب الإجحاف بنفس الطريقة من قبل الأطفال.