الثلاثاء - 04 أغسطس 2020
الثلاثاء - 04 أغسطس 2020
No Image

خوارزمية تحول وجه أوباما إلى الأبيض دليل على التحيز في الذكاء الاصطناعي



No Image



نشر موقع ذا فيرج نتائج تجربة أجراها باحثون في جامعة ديوك الأمريكية عن التحيزات المتأصلة في أبحاث الذكاء الاصطناعي. وتضمنت التجربة إدخال صورة منخفضة الدقة لوجه باراك أوباما، أول رئيس من بشرة ملونة للولايات المتحدة، في خوارزمية مصممة لتعديل دقة الصور وتحويلها بدقة عالية، والنتيجة توليد صورة عالية الدقة لوجه رجل أبيض. وعند تكرار التجربة تبين أن مثال أوباما ينطبق على آخرين من أصحاب البشرة الداكنة أيضاً.

No Image



البرنامج هو خوارزمية تسمى PULSE، وتستخدم تقنية رفع مستوى معالجة البيانات المرئية وتعمل على «تكبير وتحسين» الصور كالتي نراها في التلفزيون والأفلام. ومن أجل تحويل صورة منخفضة الدقة إلى صورة عالية الدقة، يجب على البرنامج ملء الفراغات باستخدام التعلم الآلي.

في حالة PULSE، فإن الخوارزمية التي تقوم بهذا العمل هي StyleGAN، وقد ابتكرها باحثون من شركة NVIDIA. وأوضح الباحثون أن هذه الخوارزمية مسؤولة عن إخراج هذه الوجوه البشرية الواقعية بالشكل الذي نراه على مواقع مثل ThisPersonDoesNotExist.com؛ وتبدو كأنها وجوه واقعية لدرجة أنها غالباً ما تستخدم لتصميم ملفات تعريف وهمية على وسائل التواصل الاجتماعي.

يستخدم PULSE خوارزمية StyleGANلتخيل نسخة عالية الدقة من مدخلات الصور. ولا يفعل ذلك من خلال تحسين الصورة الأصلية منخفضة الدقة، بل من خلال إنشاء وجه عالي الدقة جديد تماماً.



وهذا يعني أنه يمكن تحويل كل صورة بعدة طرق، وليس الأمر أن الخوارزمية «تبحث» عن تفاصيل جديدة في الصورة كما هو الحال في ميزة «التكبير والتحسين»؛ بل اختراع وجوه جديدة ترتبط ببيانات الإدخال.

كانت هذه التقنية متوفرة قبل بضع سنوات ولكنها لم تصل إلى جمهور أوسع إلا بعد نشر نسخة سهلة التشغيل عبر الإنترنت خلال الأيام الماضية، وهنا بدأت علامات التمايز العرقي بالظهور.

يؤكد القائمون على تصميم PULSE عبر تدوينة نشرت على موقع غيت هاب أن استخدام الخوارزمية لتطوير الصور المنقطة، فإنه غالباً ما يعطي وجوهاً ذات ملامح قوقازية.

هذه المشكلة شائعة للغاية في التعلم الآلي، وهي أحد أسباب الأداء السيئ لخوارزميات التعرف على الوجه. غالباً ما تكون البيانات المستخدمة في تدريب الذكاء الاصطناعي مستمدة من رجال بيض البشرة وهذا لا يعد صدفة، فهم يسيطرون على أبحاث الذكاء الاصطناعي.

يقترح فنان الذكاء الاصطناعي ماريو كلينجمان أن اللوم يقع على خوارزمية الاختيار نفسها التي يعتمدها PULSE وليس على البيانات. ويشير إلى أنه كان قادراً على استخدام StyleGAN لإنتاج المزيد من الصور غير البيضاء من نفس صورة أوباما المنقطة باستخدام نفس المفهوم ونموذج StyleGAN نفسه ولكن بطرق البحث المختلفة لـPulse، لذلك فقد أكد في حديث له مع ذا فيرج أنه لا يجوز الحكم على خوارزمية من عينات قليلة.

بينما قال كبير علماء الذكاء الاصطناعي في فيسبوك يان لي كون: «إن أنظمة تعديل الصور تبدو متحيزة عند تكون البيانات متحيزة».

على سبيل المثال، ستكون مجموعة بيانات من الوجوه التي تعكس بدقة التركيبة السكانية للمملكة المتحدة بيضاء في الغالب لأن المملكة المتحدة بيضاء في الغالب.

لكن الكثير من أنظمة الذكاء الاصطناعي التجارية مبنية أساساً على بيانات الأبحاث والخوارزميات التي لا تراعي أي فروقات عرقية أو جنسية. وبالتالي فإن قيمة صورة أوباما ليست أنها تكشف عن خلل واحد في خوارزمية واحدة؛ بل في أنها توضح الطبيعة السائدة لتحيز الذكاء الاصطناعي.

#بلا_حدود