الشمول

أهمية الشمول في نظم الذكاء الاصطناعي

ينبغي تطوير واستخدام الذكاء الاصطناعي بطريقة شمولية ومتاحة للجميع، بما في ذلك المجتمعات المهمشة والمهملة. وللشمول أهمية بالغة حيث يضمن أنه عندما تتخذ نظم الذكاء الاصطناعي قراراتها، تكون هذه القرارات صحيحة ودقيقة. الالتزام بممارسات الانفتاح في تطوير ونشر واستخدام نظم الذكاء الاصطناعي تساعد على معالجة الاستبعاد التمييزي والقمع الخوارزمي وعدم المساواة، مما يجعل يجعل نظم الذكاء الاصطناعي تبدو منصفة وموثوقة.

كيف يمكن لنظم الذكاء الاصطناعي أن تقصي المجتمعات المهمشة والمهملة

في عالم يسوده الانحياز، يستحيل تقريبا تحقيق حيادية حقيقية. وهذا صحيح بالنسبة للذكاء الاصطناعي الذي ليش لديه مفهوم متضمن للانحياز. وحيث أننا نعيش في عالم يسود فيه عدم المساواة والعنصرية بشكل منهجي، تنطوي الماكينات المدعومة بذكاء اصطناعي خلقه البشر على نفس الانحيازات التي تدعم استمرارية المفاهيم التمييزية والعنصرية. وتطرح أولجا أكسيلرود في “كيف يمكن للذكاء الاصطناعي أن يعمق عدم المساواة العرقية والاقتصادية“، أن الذكاء الاصطناعي بدلا من أن يساعد على التخلص من الممارسات التمييزية، قد جعلها أسوأ، معيقا الأمن الاقتصادي للفئات المهمشة. فعلى سبيل المثال، يوضح كاري جونسون في “حركة لأجل الإصلاح الخوارزمي تدعو إلى العدالة العرقية في الذكاء الاصطناعي“، كيف تستخدم الخوارزميات لمسخ تطبيقات الديون العقارية ومسح مستأجري الشقق تستبعد بشكل غير متوازن المجتمعات المهملة بسبب أنماط الفصل التاريخية التي سممت البيانات التي طُورت عديد من الخوارزميات بناء عليها. إضافة إلى ذلك، يظهر هذه الانحياز أيضا في الرعاية الصحية حيث يمكن أن يكون للتقدم التكنولوجي المقصود به أن يفيد كل المرضى اختلالات أسوأ في الرعاية الصحية للملونين، مما يشير إلى أن الفجوة الاقتصادية والعرقية ستزداد عمقا. يتأثر كل قطاع يستخدم الذكاء الاصطناعي بهذا الانحياز وينبغي أن يقوم بالعمل اللازم لضمان أنه على وعي بالطريقة التي يؤثر بها ذلك على مجتمعات الملونين وغيرها من المجتمعات المهملة.

أمثلة لنظم الذكاء الاصطناعي التمييزية

أحد الأمثلة هو خوارزمية تطبيق جوجل للصور والتي تستبعد السود. لدى تطبيق جوجل للصور خاصية للعنونة تمكن المنصة من إضافة عنوان للصورة يتوافق مع ما يظهر بها. تقوم بتلك المهمة شبكة عصبية معقدة (إحدى صور الشبكات العصبية الاصطناعية)، تدربت على كثير من الصور في عملية تعليم تحت الإشراف، وهي تقوم بالتعرف على محتوى الصورة لعنونتها. مع ذلك فقد وجد مطور برمجيات أسود وصديق له أن خوارزمية جوجل عنصرية عندما عنونت صورهم على أنها لغوريلا. اعترفت الشركة بهذا الخطأ ووعدت بأنها ستعمل على الحد منه في المستقبل. ومع ذلك، فكل ما قامت به الشركة بعد عامين هو التخلص من الغوريلا وكل أنواع القردة الأخرى من الحصيلة اللغوية للشبكة العصبية لمنعها من التعرف على الصور بهذه الطريقة. وبرغم هذه الجهود، كان ذلك مجرد حل مؤقت حيث أنه لم يعالج المشكلة الحقيقية.

توصيات لضمان شمول نظم الذكاء الاصطناعي

يمكن لتبني مبادئ العدالة التحويلية ضمان أن يشمل الذكاء الاصطناعي المجتمعات المتضررة في نقاشات حول كيفية تطوير وتصميم نماذج الذكاء الاصطناعي. يدعو الخبراء إلى الشمول الذي سيكون له أثر إيجابي على الخوازميات. وينبغي لمستخدمي وصناع تكنولوجيا الذكاء الاصطناعي البدء بشكل مخلص ونشط في دعوة الأفراد المهمشين لمشاركة تجاربهم وخبرتهم على كل المستويات. فوفق أندرو برت، أحد الحلول المحتملة لضمان الشمول هو النظر أولا إلى العمليات الإحصائية والقانونية المتنوعة لضمان الشمول الخوارزمي. ويعني ذلك النظر في القوانين في القطاعات الأخرى مثل الرعاية الصحية، التوظيف، الإسكان، والحقوق المدنية لفهم الكيفية التي حاولت بها هذه القطاعات التعامل مع مشكلات التمييز. ومن ثم، يعتقد أن الأعمال والصناعات ينبغي أن تراقب وتوثق بعناية كل جهودها للحد من الاستبعاد الخوارزمي، وأن تنتج مسارات عقلانية لاستخدام النماذج التي سيتم نشرها في النهاية.

بصفة عامة، الحل الأمثل هو دعوة المجتمعات المتضررة إلى الحوار حول تطوير وتصميم نماذج ذكاء اصطناعي تحقق المساواة.

وتقدم صفاء خان دليلا أكثر شمولية في مقالها المنشور عام 2022 بعنوان “كيف يمكن للذكاء الاصطناعي أن يدعم التنوع، والمساواة والشمول؟” والذي يقدم أربعة سبل لضمان شمول الذكاء الاصطناعي.

• التنوع: تحتاج دورة حياة الذكاء الاصطناعي بكاملها التنوع، من الفكرة الأولية إلى التصميم والتطوير والنشر والمراقبة بعد الإطلاق. العامل الذي ينبغي ملاحظته هو أن ضمان شمول نظم الذكاء الاصطناعي يحتاج إلى تعديل كامل لطريقة التفكير في عملية التطوير.
• الشفافية: ينبغي أن تكون في مرحلة التصميم/وضع الفكرة الأولية وعند اختيار رأس المال والاستثمارات المناسبة للمشروعات. فالانفتاح حول ما يتم تصميه، وبصورة أكثر أساسية لمن يتم تصميه وما هي آثاره، هو أمر بالغ الأهمية لأي تكنولوجيا جديدة.
• خلق الوعي وبناء القدرات والتعليم: تجهيز وتعليم المجتمعات متدنية التمثيل المهارات والأدوات اللازمة لفهم مجال الذكاء الاصطناعي والعمل به هو أمر بالغ الأهمية.
• الدعاية: مهمة لدعم ومتابعة عمل الأفراد والمنظمات في المجال، مثل فعالية السود في الذكاء الاصطناعي، والتي كانت ضرورية لإزالة العوائق التي واجهت السود عالميا في مجال الذكاء الاصطناعي.