مقدمة
ناضلت النساء في مختلف أنحاء العالم طوال عقود للتحرر من صور التمييز الجندري السائدة في المجتمعات البشرية. وقد أسهمت هذه النضالات، وخاصة المنظمة منها في إطار الحراك النسوي، في تحقيق تقدم متفاوت نحو المساواة الجندرية بين مجتمع وآخر. ومع ذلك، لا تزال النساء يواجهن التمييز بسبب رسوخ الانحياز الجندري في ممارسات اجتماعية متعددة، وفي مجالات مختلفة من التفاعل البشري، من بينها العمل والرعاية الصحية وإنفاذ القانون.
مع تطور التكنولوجيات الرقمية وانتشار استخدامها في الأنشطة الاقتصادية والاجتماعية، توقعت كثير من النساء أن يتيح استخدام تكنولوجيا أقل تأثرًا بالانحيازات البشرية مساحات أوسع للمساواة الجندرية. وزاد هذا التوقع مع صعود تكنولوجيا الذكاء الاصطناعي ودخولها في عمليات اتخاذ القرار في مجالات متعددة. فقد بدا أن نماذج الذكاء الاصطناعي يمكن أن تتخذ قراراتها استنادًا إلى عوامل موضوعية تدعمها بيانات واقعية، وتعالجها خوارزميات تعتمد منطقًا حسابيًا لا يخضع لعوامل التنشئة الاجتماعية التي يتجذر من خلالها الانحياز الجندري.
أظهرت التجارب العملية لاستخدام نماذج الذكاء الاصطناعي أن هذه النماذج قد تحمل انحيازًا جندريًا يعيد إنتاج التمييز ضد النساء في مجالات مختلفة من الحياة اليومية. ويزيد اتساع استخدام الذكاء الاصطناعي في اتخاذ القرارات من أهمية التعامل مع هذا الانحياز، خاصة أن الاعتماد على هذه التكنولوجيا أصبح جزءًا من مسارات التنمية الاقتصادية والاجتماعية في المستقبل المنظور. لذلك يرتبط استمرار السعي إلى تحقيق المساواة الجندرية بقدرة المؤسسات والمطورين وصناع القرار على فهم الانحياز الجندري في نماذج الذكاء الاصطناعي وتطوير سبل فعالة للحد منه.
تناقش هذه الورقة ظاهرة الانحياز الجندري في نماذج الذكاء الاصطناعي من خلال تعريفها، وعرض أهم مظاهرها وصورها، والآثار المباشرة لها، والنتائج المترتبة عليها. كما تقدم تحليلًا لهذا الانحياز لفهم مصادره، وكيف تسهم طريقة تطوير هذه النماذج وتدريبها، وكذلك طريقة عملها في مراحل التشغيل، في دعمه أو إعادة إنتاجه.
وتعرض الورقة أيضًا مقاربات مختلفة للتعامل مع الانحياز الجندري في نماذج الذكاء الاصطناعي. فتناقش مقاربات العمى الجندري والتصحيح المسبق، ثم مقاربات التصحيح اللاحق على تطوير هذه النماذج وتدريبها، وأخيرًا إمكانيات الوصول إلى مقاربات أكثر شمولًا تعتمد على توسيع نطاق التدخل البشري.
رصد الانحياز الجندري في نماذج الذكاء الاصطناعي
لم يحظ الانحياز الجندري وغيره من أشكال التمييز باهتمام كاف في المراحل الأولى من تطوير نماذج الذكاء الاصطناعي. فقد ساد تصور يفترض أن غياب التدخل البشري المباشر في عمل هذه النماذج يكفي لضمان حيادها. غير أن نتائج استخدامها كشفت، عبر وقائع متعددة، أن هذه النماذج قد تنتج قرارات أو مخرجات تنطوي على انحيازات قائمة في البيانات أو في طريقة تطويرها وتشغيلها. يناقش هذا القسم المظاهر المختلفة للانحياز الجندري في نماذج الذكاء الاصطناعي، ويعرض عددًا من الأمثلة الواقعية البارزة التي ساعدت على توجيه الانتباه إلى هذه الظاهرة.
ما هو الانحياز الجندري؟
يرتبط مفهوم الانحياز عمومًا بعمليات اتخاذ القرار. ويُعرّف بأنه “خطأ منهجي أو منظومي (systematic) في عمليات اتخاذ القرار يؤدي إلى نتائج غير عادلة”. ولا يقصد بالخطأ المنهجي أو المنظومي خطأ عارضًا، أو نتيجة لإهمال شخص بعينه، أو عيب مباشر في البيانات التي تعتمد عليها عملية اتخاذ القرار، مثل نقص البيانات أو عدم مطابقة بعضها للواقع، بل يقصد به الخطأ الناتج عن المنهج الذي تتبعه عملية اتخاذ القرار، أو عن المنظومة المحيطة بها.
في عمليات اتخاذ القرار البشرية، ينتج الانحياز عن تصورات مسبقة متجذرة في وعي الأفراد على هيئة قناعات راسخة تؤثر في قراراتهم، سواء بوعي منهم أو دون وعي. وتشكل هذه التصورات جزءًا من العمليات الإدراكية والذهنية للأفراد، ولذلك تؤثر في الطريقة التي يقاربون بها القرارات التي يتخذونها. كما تكتسب هذه التصورات من الإطار الاجتماعي والثقافي السائد، فتتحول إلى مكون رئيسي من المنظومة التي تُتخذ داخلها القرارات المختلفة.
يعد الانحياز الجندري من أكثر صور الانحياز شيوعًا في الثقافات البشرية المختلفة، كما أنه من أكثرها صعوبة في الملاحظة. فالتصورات المسبقة حول الاختلافات الجندرية مترسخة في الوعي المتوارث اجتماعيًا بدرجة تجعل خطأها غير ظاهر في كثير من الأحيان. لذلك تدخل هذه التصورات في عمليات اتخاذ القرار على مستويات مختلفة بصورة اعتيادية. كما تعيد إنتاج نفسها في الممارسات اليومية، وفي الخطاب المتداول، وفي صور التعبير الاعتيادي أو الإبداعي. وتعتمد عملية إعادة إنتاج الانحياز الجندري على ما يمكن تسميته بالتعزيز الذاتي، أي أن الظاهرة تنتج عوامل تساعد على استمرارها وترسيخها.
يوضح التاريخ الطويل لاستبعاد النساء من بعض الوظائف أثر التعزيز الذاتي للانحياز الجندري. فقد أدى هذا الاستبعاد إلى انخفاض نسبة شغلهن لهذه الوظائف في السوابق المتاحة إحصائيًا. ومع الوقت، تتحول هذه الإحصاءات إلى واقع يؤثر في إقبال النساء على السعي إلى هذه الوظائف، كما يؤثر في استعداد جهات العمل المعنية لتوظيفهن فيها. ولا يشترط في هذه الحالة أن يكون أي من الطرفين منحازًا جندريًا بشكل واع، يكفي أن يعتمد على الإحصاءات القائمة حتى تنحرف قراراته في اتجاه منحاز دون قصد مباشر.
توضح المناقشة السابقة سبب افتراض كثيرين، في البداية، أن نماذج الذكاء الاصطناعي لن تكون عرضة للانحياز الجندري. فإذا كان البشر يقعون في هذا الخطأ بسبب تشكل وعيهم داخل تصورات اجتماعية متوارثة، فقد يبدو أن نماذج الذكاء الاصطناعي لا تخضع للمصدر نفسه لأنها لا تملك وعيًا يتشكل عبر عملية اجتماعية. لكن النظر إلى الطريقة التي يعيد بها الانحياز الجندري إنتاج نفسه عبر التعزيز الذاتي يبين أن تشكل الوعي البشري في سياق اجتماعي يقترب، من زاوية معينة، من “برمجة تطورية موجهة ببيانات السوابق ذات الصلة”. وهذه العبارة تصلح لتبسيط معنى مصطلح “تعلم الآلة” (machine (learning في مجال الذكاء الاصطناعي.
مظاهر الانحياز الجندري في نماذج الذكاء الاصطناعي
يرتبط الانتشار الواسع لاستخدام نماذج الذكاء الاصطناعي في مجالات متعددة بقدرتها على معالجة كميات كبيرة من البيانات ودعم عمليات اتخاذ القرار بدرجة عالية من الكفاءة. وقد سبقت بعض المجالات غيرها في استخدام هذه النماذج، من بينها التوظيف، وتوجيه المسار المهني، ومنح الائتمان البنكي، والبت في الصلاحية لإطلاق السراح المبكر للسجناء.
افترضت جهات كثيرة أن الكفاءة الأكبر لنماذج الذكاء الاصطناعي تعني أيضًا قدرًا أعلى من الحياد. وقد جاء هذا الافتراض في مجالات تواجه أصلًا انتقادات ودعاوى قضائية بسبب انحيازات في عمليات اتخاذ القرار، سواء كانت انحيازات جندرية أو عنصرية أو غيرها. لذلك كان من بين أسباب الإقبال على استخدام نماذج الذكاء الاصطناعي في هذه المجالات الاعتقاد بأنها أقل عرضة لإعادة إنتاج هذه الانحيازات.
لكن التوسع في استخدام هذه النماذج ساعد أيضًا على كشف مظاهر الانحياز الجندري فيها. فقد ظهرت حالات فردية يصعب تفسير نتائجها دون النظر إلى احتمال وجود انحياز جندري، كما أتاح الاستخدام الواسع لهذه النماذج قدرًا من البيانات يسمح برصد أنماط إحصائية تشير إلى هذا الانحياز.
يروي مقال بعنوان “عندما تتحول الخوارزميات الطيبة إلى الذكورية: لماذا وكيف يمكن التقدم نحو مساواة جندرية في الذكاء الاصطناعي” تجربة شخصية توضّح أثر الانحياز الجندري في نماذج الذكاء الاصطناعي. فقد تقدمت الكاتبة وزوجها للحصول على بطاقتين ائتمانيتين من إحدى شركات الائتمان. ورغم أن رصيدها الائتماني كان أفضل قليلًا، وأن دخلها ومصروفاتها وديونها كانت مماثلة لزوجها، حددت الشركة لها سقفًا ائتمانيًا يقارب نصف السقف المحدد له. وتشير الكاتبة أيضًا إلى واقعة حظيت بتغطية صحفية واسعة، بعدما اكتشف زوجان أن خدمة بطاقة ائتمان شركة آبل حددت للزوج سقف إنفاق يساوي نحو عشرين ضعف السقف المحدد للزوجة.
تظهر أمثلة الانحياز الجندري في نماذج الذكاء الاصطناعي في مجالات متعددة استخدمت فيها هذه النماذج. وفيما يلي عدد من أبرز المجالات التي رُصدت فيها هذه المظاهر:
- خوارزميات التوظيف: لجأت شركات كبرى حول العالم إلى أدوات تعتمد على نماذج الذكاء الاصطناعي لمراجعة طلبات الالتحاق بالوظائف وتقييمها. ومن بين هذه الشركات أمازون، التي أوقفت في عام 2018 العمل ببرمجيات توظيف كانت تستخدمها، بعدما ثبت أنها تفضّل السير المهنية المقدمة من رجال عند الترشح لأدوار تقنية.
- التشخيص في نظم الرعاية الصحية: أظهرت مراجعات إحصائية لعمل نظم التشخيص المعتمدة على نماذج الذكاء الاصطناعي أنها تميل إلى أن تكون أقل دقة عند التعامل مع النساء مقارنة بالرجال، وأن نسبة عدم الدقة ترتفع عند التعامل مع النساء الملوّنات.
- تكنولوجيا التعرف على الوجوه: تخفق نظم الذكاء الاصطناعي المستخدمة في تكنولوجيا التعرف على الوجوه بمعدلات أعلى عند التعامل مع النساء مقارنة بالرجال، ويمتد هذا الخلل إلى الأفراد من إثنيات غير بيضاء. ويؤدي ذلك إلى رفع معدلات التعرف الخاطئ على وجوه النساء، بما قد يعرضهن للخلط بينهن وبين أشخاص ملاحقين أمنيًا.
- نماذج الذكاء الاصطناعي التوليدي: تنتج نماذج الذكاء الاصطناعي التوليدي محتوى نصيًا أو بصريًا أو مرئيًا قد يعزز الصور النمطية الجندرية. فعلى سبيل المثال، تُظهر أدوات توليد الصور مثل (DALL-E) و(Stable Diffusion) الرجال في أدوار مثل الأطباء أو المديرين، بينما تُظهر النساء في أدوار مثل ربات المنزل أو الممرضات.
صور الانحياز الجندري في نماذج الذكاء الاصطناعي
يمكن رصد ثلاث صور رئيسية للانحياز الجندري في نماذج الذكاء الاصطناعي. تتعلق الصورة الأولى باتخاذ قرارات تمس الأفراد بناءً على الجندر، بما يعيد إنتاج التمييز ضد النساء ويؤثر في تكافؤ الفرص بينهن وبين الرجال، سواء في الوصول إلى الوظائف أو إلى الخدمات. وتستند هذه القرارات إلى صور نمطية سائدة في مجتمعات مختلفة، من بينها الاعتقاد بأن النساء أقل قدرة من الرجال على أداء مهام بعض الوظائف، وخاصة الوظائف التي تتطلب مهارات إدراكية عالية في مجالات مثل العلوم والرياضيات والهندسة والتكنولوجيا، وكذلك الوظائف التي تتطلب اتخاذ قرارات مهمة، مثل مواقع الإدارة العليا والمواقع القيادية. وتشمل هذه الصور النمطية أيضًا الاعتقاد بأن النساء أقل مسؤولية من الرجال في التعاملات المالية والإنفاق الاستهلاكي.
تتمثل الصورة الثانية في ما يمكن تسميته بالمحو الجندري. ويقصد بذلك ضعف أو غياب تمثيل النساء في فضاء البيانات الذي تعمل داخله هذه النماذج، بما يؤدي إلى أن تكون نتائجها المتعلقة بالنساء أقل دقة وأكثر عرضة للخطأ.
أما الصورة الثالثة فتتمثل في إعادة إنتاج الانحياز الجندري بصورتيه السابقتين. فمن خلال عملها، قد تنتج نماذج الذكاء الاصطناعي بيانات ومحتوى يزيدان من تكرار الصور النمطية الجندرية السائدة، كما قد ينتجان مزيدًا من المحو الجندري عبر نتائج خاطئة تتعلق بالنساء. ويؤدي ذلك إلى دائرة تغذية ذاتية، إذ تعتمد كل عملية جديدة على نتائج عمليات سابقة للنموذج نفسه أو لنماذج أخرى، بما يسمح باستمرار الانحياز وتوسعه إذا لم توجد آليات فعالة لرصده وتصحيحه.
آثار ونتائج الانحياز الجندري في نماذج الذكاء الاصطناعي
ينتج الانحياز الجندري في نماذج الذكاء الاصطناعي آثارًا مباشرة تمس مصالح نساء بعينهن، عندما ترتبط هذه المصالح بقرارات يتخذها نموذج ذكاء اصطناعي أثناء استخدامه. وتشمل هذه الآثار حرمان نساء من وظائف يستحققنها رغم امتلاكهن المؤهلات الموضوعية المطلوبة، أو تعرضهن لأضرار صحية نتيجة أخطاء في تشخيص حالاتهن المرضية. وقد تشمل أيضًا حرمان سجينات من حق إطلاق السراح المبكر نتيجة انحياز نظام رقمي لتقييم أوضاعهن، أو التمييز ضد نساء مقارنة برجال في الحصول على تسهيلات ائتمانية أو غيرها، رغم تساويهن معهم في عوامل التقييم المختلفة.
تعد هذه الآثار المباشرة امتدادًا لآثار الانحياز الجندري السائد في المجتمعات المختلفة، إذ تعيد إنتاج ممارسات تمييزية قائمة ضد النساء، لكنها تكتسب أبعادًا إضافية بسبب صدورها عن تطبيقات رقمية. فالتمييز الصادر عن تطبيق رقمي يكون غالبًا أقل وضوحًا من التمييز الصادر عن أشخاص طبيعيين، بسبب شيوع الاعتقاد بأن تطبيقات الحاسوب محايدة لأنها تعمل وفق منطق رياضي. لذلك قد تواجه محاولات التظلم من قرارات صادرة عن نموذج ذكاء اصطناعي، دون تدخل بشري مباشر، بحجة أن القرار اتخذه تطبيق محايد.
يؤدي ذلك أيضًا إلى صعوبة إثبات المسؤولية عن التمييز، حتى عندما تظهر آثاره بوضوح. فغياب العامل البشري المباشر عن لحظة اتخاذ القرار يوزع المسؤولية بين الجهة التي تستخدم النموذج، والجهة التي تسوقه، والجهة التي طورته. ومع غياب ضوابط واضحة لتطوير نماذج الذكاء الاصطناعي وتسويقها واستخدامها، خاصة الضوابط المتعلقة بضمانات عدم الانحياز، يصبح من الصعب تحميل جهة محددة مسؤولية قانونية تتيح مساءلتها.
تفتقر نماذج الذكاء الاصطناعي أيضًا إلى المرونة التي تسمح للأفراد الطبيعيين باتخاذ قرارات تستند إلى الوعي أو المواقف المبدئية أو الالتزام بالسياسات والقوانين التي يخضعون لها. فقد يكون المسؤولون عن اتخاذ قرارات ضمن نطاق سلطتهم على وعي كاف يدفعهم إلى محاولة تجنب الانحياز الجندري. كما يمكن للمؤسسات أن تعتمد سياسات تمنع التمييز ضد النساء، ويمكن للدول أن تفرض قوانين تعاقب على الممارسات التمييزية ضدهن. أما نماذج الذكاء الاصطناعي فليست فاعلًا واعيًا، ولا يمكنها إدماج هذه الاعتبارات في قراراتها ما لم تكن ممثلة، بشكل مباشر أو غير مباشر، في البيانات التي تعالجها أو في البرمجيات التي تعمل من خلالها.
إلى جانب الآثار المباشرة للانحياز الجندري في نماذج الذكاء الاصطناعي، توجد نتائج تتجاوز نطاق عمل كل نموذج على حدة. تتعلق إحدى هذه النتائج بالعمل المستقبلي لنماذج الذكاء الاصطناعي، إذ تتحول القرارات التي تنتجها هذه النماذج، وكذلك المحتوى الذي تولده، إلى بيانات قد تستخدمها نماذج جديدة في مراحل التدريب. وبذلك يمكن أن تعيد النماذج إنتاج الانحياز الجندري مع زيادة صعوبة تتبع مصادره.
دخل تفاعل المجتمعات مع نماذج الذكاء الاصطناعي مرحلة جديدة، خاصة مع إتاحة نماذج اللغة والذكاء الاصطناعي التوليدي للجمهور العام من خلال تطبيقات المحادثة، أو عبر دمجها في محركات البحث، أو في تطبيقات رقمية متعددة المجالات. لم تعد هذه النماذج محصورة في نظم تستخدمها المؤسسات لتنفيذ عمليات محددة تؤثر مباشرة في أفراد بعينهم، بل أصبحت تتفاعل يوميًا مع ملايين البشر في أماكن مختلفة من العالم من خلال محتوى نصي أو مرئي أو مسموع. وقد يتعامل كثير من المستخدمين مع هذا التفاعل على نحو قريب من تفاعلاتهم الاجتماعية مع البشر. فكثيرًا ما يلجأ الأفراد إلى نماذج الذكاء الاصطناعي للحصول على معلومات، مع استعداد مسبق لقبولها دون مراجعة نقدية كافية.
يعني ذلك أن الانحياز الذي يظهر في الخطاب الذي تنتجه نماذج الذكاء الاصطناعي قد ينتقل إلى المتلقين بصورة غير مباشرة، وقد يترسخ لديهم دون وعي كاف بوجوده. فعندما يتعامل الأفراد مع بشر آخرين، حتى في سياقات يتمتع فيها الطرف الآخر بسلطة معرفية، يظل بإمكانهم بدرجات متفاوتة نقد الخطاب من خلال إدراك احتمالات الانحياز فيه. أما عند التعامل مع نموذج ذكاء اصطناعي، فقد لا يفترض المستخدمون وجود هذه الانحيازات، ما قد يضعف موقفهم النقدي من الخطاب الذي ينتجه. لذلك تملك نماذج الذكاء الاصطناعي قدرة مؤثرة، وإن كان من الصعب قياس مداها بدقة، على تشكيل انحيازات المتعاملين معها، خاصة مع اختلاف الفئات العمرية، ومستويات التعليم، والمؤثرات الاجتماعية المحيطة بالمستخدمين. وفي حالة الانحياز الجندري، يمكن أن يؤدي تضمينه في خطاب نماذج الذكاء الاصطناعي إلى تعزيز هذا الانحياز وتداخله مع مؤثرات اجتماعية أخرى تسهم في ترسيخه.
فهم وتحليل ظاهرة الانحياز الجندري في نماذج الذكاء الاصطناعي
مصادر الانحياز الجندري في نماذج الذكاء الاصطناعي
يمكن تبسيط العوامل التي تدخل في تشكيل نموذج الذكاء الاصطناعي بالنظر إليه كتطبيق رقمي يعالج قدرًا من البيانات من خلال عمليات محددة. وتختلف نماذج الذكاء الاصطناعي عن غيرها من البرمجيات في أن العمليات التي تجريها على البيانات يمكن أن تتعدل ذاتيًا اعتمادًا على النتائج السابقة. هذا هو المعنى الأساسي لمفهوم تعلم الآلة. ومع ذلك، تبدأ حياة كل نموذج ذكاء اصطناعي من نقطة أولية تحددها الخوارزميات التي تمثل عملياته قبل أي تعديل لاحق، والبيانات المستخدمة في تدريبه، والتي توجه بدورها التعديلات اللاحقة لهذه الخوارزميات.
قد تنطوي العوامل التي تشكل نموذج الذكاء الاصطناعي على انحياز جندري، ويظهر ذلك غالبًا في بيانات التدريب بوضوح أكبر مما يظهر في الخوارزميات التي طورها المبرمجون. فقد تتضمن بيانات التدريب انحيازًا جندريًا واضحًا عندما تقود إلى نتائج مختلفة رغم تساوي جميع العوامل المؤثرة، باستثناء الجندر. وعندما تكون البيانات في صورة محتوى نصي أو مرئي أو مسموع، قد يظهر الانحياز الجندري في الخطاب الذي تعبّر عنه هذه البيانات. وقد يكون هذا الانحياز واضحًا وسهل الاكتشاف عندما يتضمن صورًا نمطية جندرية معروفة وواسعة الانتشار، لكنه قد يكون خفيًا وصعب الرصد عندما لا يستخدم هذه الصور النمطية بصورة مباشرة، وإنما يدمجها في الخطاب بطرق غير مباشرة.
على جانب آخر، قد تنطوي الخوارزميات أيضًا على انحياز جندري من خلال الإغفال. فعدم وضع احتمال الانحياز الجندري في الاعتبار عند تطوير الخوارزميات يمكن أن يكون صورة من صور هذا الانحياز. ويشبه ذلك تطوير نظام لتنقية المياه دون مراعاة احتمال احتواء المياه التي يتعامل معها على عنصر سام، ما يجعله غير قادر على اكتشاف هذا العنصر ويسمح بوصوله إلى المستهلك النهائي.
ينتج إغفال الانحياز الجندري في عمليات تطوير نماذج الذكاء الاصطناعي، في كثير من الحالات، عن غياب الحساسية الجندرية في هذه العمليات. ويرتبط ذلك بافتقاد القائمين على التطوير لهذه الحساسية، وكذلك بغياب سياسات مؤسسية تضمن إدماجها في مراحل تطوير النماذج وتدريبها واختبارها.
لذلك يمكن فهم السياق الاجتماعي الذي تطور داخله نماذج الذكاء الاصطناعي باعتباره مصدرًا رئيسيًا للانحياز الجندري فيها. فهذا السياق هو الذي أنتج البيانات التي تعتمد عليها النماذج، كما أنتج الأفراد الذين اختاروا هذه البيانات دون الانتباه إلى الانحياز الجندري فيها، والأفراد الذين طوروا خوارزميات قد تغفل بدورها هذا الانحياز في البيانات. ويرتبط تأخر اكتشاف قابلية نماذج الذكاء الاصطناعي لحمل انحياز جندري بنظرة تفترض أن الممارسات العلمية والتطبيقية المنهجية منفصلة عن سياقها الاجتماعي. ووفق هذه النظرة، يكفي جمع البيانات بصورة منهجية، وتجريدها إحصائيًا، وبناء عمليات منطقية عليها، حتى يخرج المنتج النهائي خاليًا من الآثار الاجتماعية، بما في ذلك صور الانحياز والتمييز المختلفة.
أثر طريقة تطوير وتدريب نماذج الذكاء الاصطناعي
يعتمد تطوير نماذج الذكاء الاصطناعي وتدريبها عادة على نوعين من البيانات. النوع الأول هو البيانات المشابهة لتلك التي سيعالجها النموذج بعد تشغيله. فعلى سبيل المثال، بالنسبة إلى نموذج مهمته تقييم صلاحية الأفراد لشغل وظيفة ما، يتضمن هذا النوع من البيانات المعلومات الواردة في طلب التقدم للوظيفة. أما النوع الثاني فيتعلق بالنتائج السابقة للعمليات التي أُجريت على بيانات من النوع الأول. وفي المثال نفسه، يشمل هذا النوع نتائج تقييم المتقدمين للوظيفة، ومن اختير منهم لشغلها، ومدى نجاحه في أدائها، وهو ما يمكن قياسه من خلال مدة بقائه في الوظيفة، وتقارير تقييم أدائه، والترقيات والمكافآت التي حصل عليها.
لا يتعامل نموذج الذكاء الاصطناعي في العادة مع البيانات في صورتها الخام فقط، بل تُربط هذه البيانات بأوزان نسبية. وباستخدام هذه الأوزان في النوع الثاني من البيانات، يمكن للنموذج تحديد نطاق للنتائج المثلى، ثم تعديل الأوزان النسبية للبيانات في النوع الأول حتى يصل إلى مجموعة من الأوزان وقيم البيانات التي تؤدي إلى نتائج قريبة من النتائج المثلى في النوع الثاني.
يؤثر هذا المسار في مدى انحياز نماذج الذكاء الاصطناعي جندريًا عندما تسجل البيانات من النوعين الأول والثاني وقائع تعكس انحيازًا جندريًا. عندها يتحول هذا الانحياز إلى نمط إحصائي داخل البيانات. وبالعودة إلى المثال السابق، إذا كانت النساء يحصلن على الوظائف بمعدل أقل، وينخفض هذا المعدل في وظائف بعينها، ويحصلن على تقييمات أدنى من زملائهن من الرجال، كما يحصلن على نصيب أقل من الترقيات والمكافآت، فإن تجميع هذه الوقائع في صورة إحصائية قد يجعل النجاح في أداء وظيفة ما مرتبطًا بالجندر بدرجة تكرارية أعلى من ارتباطه بعوامل أخرى.
في هذه الحالة، قد يحدد نموذج الذكاء الاصطناعي وزنًا نسبيًا أعلى للجندر، فيصبح الجندر عاملًا حاسمًا في نتيجة التقييم عند تساوي العوامل الأخرى أو تقاربها، خاصة إذا منحها النموذج أوزانًا نسبية أقل. وقد يؤدي ذلك إلى حصول رجل على الوظيفة حتى إذا كانت مؤهلاته أدنى بشكل ملحوظ من مؤهلات امرأة لم تحصل عليها.
يمكن فهم طريقة تدريب نماذج الذكاء الاصطناعي هنا بوصفها صورة من صور الانحياز الإحصائي. ويعني ذلك أن تجريد حزمة من البيانات التي تحتوي على نمط متكرر إحصائيًا سيجعل النتائج منحازة نحو هذا النمط المتكرر. وتعتمد نماذج الذكاء الاصطناعي على هذا النوع من الانحياز الإحصائي لإعادة إنتاج أنماط موجودة في البيانات. فهي تحاكي بعض العمليات الإدراكية البشرية عبر التقاط الأنماط المتكررة وإعادة إنتاجها. لذلك لا يظهر الانحياز الجندري في نماذج الذكاء الاصطناعي بوصفه نتيجة عارضة فقط لانحياز البيانات التي تعتمد عليها، لكن بوصفه نتيجة مرتبطة بطريقة تطوير هذه النماذج وتدريبها عندما تقوم هذه الطريقة على بيانات تحمل انحيازًا سابقًا.
أثر طريقة عمل نماذج الذكاء الاصطناعي
في الاستخدام اليومي لنماذج الذكاء الاصطناعي، وخلال مراحل تشغيلها، يستمر كثير منها في تطوير خوارزمياته. ويعد ذلك من خصائص هذه النماذج ومن أسباب كفاءتها، إذ يمكن لنموذج الذكاء الاصطناعي أن يعدل عملياته بناءً على البيانات التي تُدخل إليه أثناء التشغيل، وبناءً على تقييم نتائجه السابقة. يظهر ذلك بدرجة أوضح في نماذج الذكاء الاصطناعي التوليدي، لأنها تعمل من خلال التفاعل اليومي مع أعداد كبيرة من المستخدمين، وتعتمد على مدخلاتهم الأولية وتعقيباتهم اللاحقة على مخرجاتها. لذلك يمكن النظر إلى هذه النماذج باعتبارها في حالة تدريب مستمر.
عندما يتعلق الأمر بالانحياز الجندري وغيره من صور الانحياز، قد تجعل طريقة عمل نماذج الذكاء الاصطناعي القائمة على التعلم المستمر من تفاعل المستخدمين محاولات الحد من الانحياز أقل فعالية، لأنها تظل عرضة للتوجيه أو الخداع. وقد أظهرت وقائع متعددة أن الضمانات البرمجية التي تسعى إلى استبعاد أنماط معينة من الخطاب من مخرجات نماذج الذكاء الاصطناعي التوليدي لا تنجح دائمًا بصورة كاملة، وأنه يمكن في بعض الحالات الالتفاف عليها.
وبصرف النظر عن حالات إساءة استخدام نماذج الذكاء الاصطناعي بصورة متعمدة لتجاوز الضوابط الموضوعة لها، تتلقى هذه النماذج يوميًا بيانات جديدة قد تتضمن تعبيرات متغيرة عن الانحياز الجندري. ومع تكرار هذه التعبيرات، يمكن أن يعكس نموذج الذكاء الاصطناعي الأنماط الأعلى تكرارًا إحصائيًا، ثم يعيد تضمين الانحياز الجندري في مخرجاته.
مقاربات التعامل مع الانحياز الجندري في نماذج الذكاء الاصطناعي
توجد مقاربات متعددة للتعامل مع الانحياز الجندري في نماذج الذكاء الاصطناعي. طُبّق بعض هذه المقاربات بالفعل، بينما لا يزال بعضها الآخر مطروحًا في دراسات أكاديمية ونقاشات نسوية ومبادرات معنية بالعدالة الجندرية. يناقش هذا القسم عددًا من هذه المقاربات، ويصنفها إلى مقاربات تتدخل في عمليات تطوير نماذج الذكاء الاصطناعي وتدريبها قبل تشغيلها، ومقاربات تضع ضوابط لعمل هذه النماذج بهدف تصحيح نتائجها أثناء التشغيل.
مقاربات العمى الجندري والتصحيح المسبق
تعد المقاربات التي يمكن تسميتها بآليات العمى الجندري أو التعمية الجندرية من أبسط المقاربات وأكثرها مباشرة. وتقوم هذه المقاربات على محو الإشارة إلى الجندر من البيانات المستخدمة في تدريب نماذج الذكاء الاصطناعي. فعلى سبيل المثال، تعمل هذه المقاربات في بيانات تقييم المتقدمين إلى الوظائف على إزالة الإشارة إلى جندر المتقدم أو المتقدمة، بحيث يعتمد التقييم إحصائيًا على المؤهلات والصفات المميزة الأخرى فقط.
تواجه هذه المقاربات مشكلتين رئيسيتين. تتعلق الأولى بأن محو الإشارة إلى الجندر من بيانات تنطوي أصلًا على انحياز جندري قد يخلق تناقضًا داخليًا في هذه البيانات. وقد يجعل هذا التناقض عملية تدريب نماذج الذكاء الاصطناعي أقل كفاءة، ويحد من قدرة النموذج على الوصول إلى نتائج دقيقة. وتتعلق المشكلة الثانية بأن الجندر ليس صفة واحدة منعزلة في قائمة مواصفات الفرد، ولا يقتصر على تصنيفه في البيانات باعتباره ذكرًا أو أنثى. فالجندر حالة اجتماعية تتداخل بطرق متعددة في تشكيل مسار حياة الفرد وصفاته وفرصه، حتى عندما لا يكون هذا التداخل ظاهرًا بسهولة.
لذلك، يظل استخدام بيانات منحازة جندريًا حاملًا لهذا الانحياز حتى بعد محو الإشارة المباشرة والواضحة إلى الجندر. فقد تتضمن هذه البيانات إشارات غير مباشرة إلى الجندر، تتراكم إحصائيًا وتنتج في النهاية أثرًا مشابهًا، بما يؤدي إلى ظهور الانحياز الجندري في نموذج الذكاء الاصطناعي.
تحاول مقاربات التصحيح المسبق للبيانات أن تكون أوسع من مقاربات العمى الجندري، من خلال تنقية البيانات المستخدمة في تدريب نماذج الذكاء الاصطناعي من الإشارات المختلفة التي تنطوي على انحياز جندري. وتتعامل هذه المقاربات بصورة أوضح مع البيانات المستخدمة في تدريب نماذج الذكاء الاصطناعي التوليدي، إذ تسعى إلى تصحيح الصور النمطية الجندرية السائدة والإشارات المسيئة وغيرها من أشكال الخطاب المنحاز.
وتعتمد هذه المقاربات على استخدام نماذج الذكاء الاصطناعي نفسها للتعرف على الخطاب المنحاز جندريًا، والصور النمطية، والإساءات واسعة الاستخدام، ثم استبعاد البيانات التي تحتوي عليها من حزم البيانات التي ستستخدم لاحقًا في تدريب نماذج الذكاء الاصطناعي. ورغم أن هذه المقاربات تتجاوز حدود العمى الجندري البسيط، فإن تطبيقها العملي يواجه صعوبات تتعلق باتساع البيانات وتنوعها، وبالحاجة إلى معالجة متخصصة تختلف من سياق ثقافي واجتماعي إلى آخر. لذلك تظل فعاليتها محدودة في بعض السياقات، خاصة عند الجمع بين أكثر من لغة في الخطاب، أو استخدام تعميات وتلميحات جديدة بصورة مستمرة، أو صعوبة التمييز بين السياقات المختلفة.
مقاربة التصحيح اللاحق
تتعلق المقاربات التي ناقشها القسم السابق، بصفة عامة، بمراحل تدريب نماذج الذكاء الاصطناعي، وخاصة بتنقية البيانات المستخدمة في هذه المراحل. أما مقاربات التصحيح اللاحق فتتعلق بمراحل عمل هذه النماذج وتشغيلها. وتسعى هذه المقاربات إلى تضمين برمجيات نماذج الذكاء الاصطناعي خوارزميات تصحيحية تكشف الانحياز المحتمل في نتائج عمل النموذج وتعمل على تصحيحه.
وبدلًا من محو الإشارة إلى الجندر في البيانات مسبقًا، تراقب هذه الخوارزميات تأثير الجندر في النتيجة التي خرج بها النموذج في مرحلة سابقة، ثم تعيد مراجعة هذه النتيجة إذا اتضح أنها تنطوي على انحياز جندري. وفي حالة نماذج الذكاء الاصطناعي التوليدي، تراجع هذه الخوارزميات مخرجات النموذج وتحاول اكتشاف ما تتضمنه من صور نمطية أو أحكام منحازة جندريًا، ثم تصحح هذه المخرجات بحسب ما يقتضيه السياق.
تتميز مقاربات التصحيح اللاحق بأنها أقل عرضة للاضطراب الذي قد ينتج عن التناقض في البيانات المستخدمة في التدريب. ففي هذه المقاربات، تتحول الإشارة إلى الجندر إلى عامل يساعد النموذج على كشف الأنماط الإحصائية المرتبطة به، ومن ثم مراجعتها وتصحيحها. ومع ذلك، لا تعالج هذه المقاربات بالكامل إشكالية التضمين غير المباشر أو المركب أو غير الظاهر للانحياز الجندري في البيانات والنتائج المبنية عليها.
وفي حالة نماذج الذكاء الاصطناعي التوليدي، تواجه هذه المقاربات بعض المعوقات نفسها التي تواجه مقاربات التصحيح المسبق. فقد يكرر النموذج استخدام إشارات وتعبيرات تنطوي على انحياز جندري، دون أن تتمكن خوارزميات التصحيح من اكتشافها في كل الحالات.
محاولة الوصول إلى مقاربات أكثر شمولًا
تثير مسألة الحد من الانحياز الجندري في نماذج الذكاء الاصطناعي سؤالًا حول إمكانية تطوير نماذج تتمتع بحساسية جندرية. ويتصل هذا السؤال بنقاشات أوسع حول مستقبل الذكاء الاصطناعي، وفهم طبيعة الجندر، ومعنى الحساسية الجندرية نفسها. فمن ناحية، يرتبط السؤال بإمكانية اكتساب نماذج الذكاء الاصطناعي شكلًا من أشكال الوعي في مرحلة ما. وأيًا كان تعريف الحساسية الجندرية، فهي ترتبط بوعي الأفراد وبالممارسات التي يؤدونها بصورة واعية. ورغم عدم وجود إجابة حاسمة اليوم عن هذه الأسئلة، فإن طرحها يشير عمليًا إلى الحاجة إلى مقاربات تدمج الوعي البشري مع مقاربات التصحيح المسبق أو اللاحق لنماذج الذكاء الاصطناعي.
تبدو مقاربة دمج التدخل البشري النشط في عمليات تدريب نماذج الذكاء الاصطناعي وتشغيلها أكثر قدرة على تحسين محاولات الحد من الانحياز الجندري في هذه النماذج. ويمكن تطبيق هذه المقاربة بطرق مختلفة بحسب مجالات عمل نماذج الذكاء الاصطناعي، وحجم البيانات التي تعتمد عليها في مراحل تدريبها، ومعدلات تشغيلها، وغيرها من العوامل.
تساعد هذه المقاربة على تجاوز عدد من الإشكاليات التي تواجه المقاربات التي ناقشها القسمان السابقان، كما يمكن دمجها معها للوصول إلى حلول أكثر شمولًا. ومع ذلك، تنطوي هذه المقاربة على تكلفة أكبر، وقد تجعل عمليات تطوير نماذج الذكاء الاصطناعي وتدريبها تستغرق وقتًا أطول. ورغم إمكانية أن تحقق نتائج أفضل من غيرها، لا يمكن افتراض أنها ستؤدي إلى تنقية كاملة لنماذج الذكاء الاصطناعي من الانحياز الجندري. فالمجتمعات البشرية لا تزال تنتج صورًا من هذا الانحياز في خطابات الأفراد والمؤسسات وممارساتهم، بما في ذلك صور لا يكونون على وعي بها. ويظل الانحياز الجندري من الأنماط الراسخة في الممارسات البشرية، ويتداخل مع صور متعددة من الممارسات الاجتماعية وأنواع التعبير والخطاب.