أهمية الجبر والتعويض في أنظمة الذكاء الاصطناعي
ينبغي وضع آليات لضمان أن الأفراد والجماعات لديهم إمكانية وصول كافية إلى جبر وتعويض فعالين للأضرار التي تتسبب فيها أنظمة الذكاء الاصطناعي. السماح بآليات تعويض خاصة في مواجهة الشركات يساعد على ضمان أن ثمة إنفاذ فعال للقواعد بإعطاء الناس القدرة والحق في تحدي ومراقبة السلوك السلبي أو الضار. من المهم أيضا تقديم فرص للتعويض حيث أن تكنولوجيات الذكاء الاصطناعي يمكن أن تتخذ قرارات خاطئة، حتى عندما تعمل وفق تصميمها خاصة لأنها عادة ما تعمل على مقياس كبير مقارنة بالنظم البشرية.
إضافة إلى ذلك، يمكن لآليات التعويض أن تضمن المساءلة بالسماح لمنظمات حماية المستهلك والمستهلكين بتقديم تحديات وشكاوى في نظم الذكاء الاصطناعي. ويمكن لمثل هذه الآليات أيضا أن تكون ضرورية لدعم واضعي التنظيمات لجمع وكشف التوجهات السائدة في أثر نظم الذكاء الاصطناعي.
ويمكن لمثل هذه المعلومات أن تساعد على خلق وعي بالمشاكل الشائعة بين مستخدمي نظم الذكاء الاصطناعي وأن تقدم فرصا للتعلم للتطوير المستمر للذكاء الاصطناعي. ومع وضع هذا في الاعتبار، من المهم للأطر التنظيمية للذكاء الاصطناعي أن تنشئ آليات للتعويض يمكنها معالجة الأضرار الناشئة عن نظم الذكاء الاصطناعي بطريقة تتمحور حول المستهلك وتكون فعالة. ويمكن للإخفاق في ذلك أن يفاقم مشاكل الإقصاء وعدم المساواة لأفراد بعض الفئات والجماعات السكانية.
كيف يمكن لغياب الجبر والتعويض أن يضر بالأفراد والجماعات
يؤدي الافتقار إلى الجبر والتعويض إلى أن تشكل نظم الذكاء الاصطناعي آثارا ضارة على عديد من الأفراد والجماعات والفئات المستضعفة أو المهمشة. الإخفاق في وضع حقوق خاصة للتصرف تعني ألا يكون بإمكان الناس ملجأ في مواجهة الشركات التي قامت بنشر أو تطوير نظم ذكاء اصطناعي كان لها أثر سلبي عليهم بطريقة ما. وهذا ينتهك الحق في التعويض الذي يحمي كل فرد عانى من أضرار مادية أو غير مادية نتيجة لمخالفة.
كذلك يؤدي الافتقار إلى الجبر إلى تتخذ نظم الذكاء الاصطناعي قرارات غير قابلة للإيضاح في مجملها أو بشكل جزئي. تمنع نظم الذكاء الاصطناعي الغير قابلة للإيضاح المراقبة والإشراف البشريين الفعالين. وحتى إن كانت القرارات دقيقة فقد لا تكون قابلة للفهم أو التعقب. ويمكن لعدم فهم آلية صنع القرار لنظام ذكاء اصطناعي أن يؤثر على قدرة مستخدميه على تحديد الجهة المسؤولة عن الضرر. وأخيرا، يمكن للافتقار إلى آليات للجبر والتعويض أن تفاقم عدم المساواة المنهجية القائمة بالفعل.
أمثلة لنتائج ضارة لغياب الجبر والتعويض في أنظمة الذكاء الاصطناعي
خوارزمية LASER لقسم شرطة لوس أنجليس: تكشف هذه الخوارزمية المناطق التي يتوقع فيها معدل أكبر للعنف المسلح. ومع ذلك فقد أخفقت الخوارزمية في تضمين إجراءات الجبر والتعويض التي كان بإمكانها التخلص من الانحياز. نتيجة لذلك تم وقف استخدام الخوارزمية في عام 2018 بعد أن أصدر المفتش العام لقسم شرطة لوس أنجليس تدقيقا داخليا أظهر مشاكل كبيرة في البرنامج. فعلى سبيل المثال وجد التدقيق عدم اتساق في المعايير المستخدمة لاختيار وإبقاء الأفراد في النظام.
القائمة الساخنة أو قائمة الأشخاص ذوي الأهمية لقسم شيكاغو: خرج هذا البرنامج بقائمة من الأفراد الذين اعتبروا أكثر عرضة لارتكاب عنف مسلح أو لأن يكونوا ضحايا له. قام بتطوير الخوارزمية باحثو معهد إيلينوي للتكنولوجيا، وقد اعتقد مطوروها أن النماذج الوبائية المستخدمة لتعقب انتشار الأمراض يمكن استخدامها لفهم العنف المسلح. وفي أن شرطة شيكاغو قد قدمته كأساس لسياستها لمكافحة الجريمة العنيفة، فقد أثبتت دراسة لنسخة مبكرة من البرنامج أجراها معهد RAND أنه لم يكن فعالا. فقد جعله الافتقار إلى إجراءات التعويض ضيق الاستهداف. كذلك ادعت جماعات حماية حقوق الإنسان أن البرنامج يستهدف مجتمعات الملونين. إضافة إلى ذلك أثبت تقرير أصدره مكتب المفتش العام أن البرنامج قد اعتمد على سجلات التوقيف لكشف المخاطر حتى في الحالات التي لم تتكرر. ومن ثم فقد تم وقف العمل بالبرنامج في يناير 2020.
توصيات لضمان إمكانية الوصول إلى جبر وتعويض قعالين لأضرار نظم الذكاء الاصطناعي
واضعي التنظيمات
- تأكد من أن الأشخاص المتضررين من نظم الذكاء الاصطناعي يمكنهم تقديم شكاوى تنظيمية أو القيام بإجراءات قانون داخل المحاكم.
- ادعم قدرة منظمات المجتمع المدني على تمثيل المستهلكين في المطالبة بالتعويض في مواجهة الشركات التي استخدمت نظم ذكاء اصطناعي ضارة.
- أقم خدمة تحكيم للذكاء الاصطناعي للتحقيق في الشكاوى والمشاكل المثارة وتسويتها بطريقة محايدة ومستقلة.
- ادعم قدرة الجماعات والفئات التي تعرضت لأضرار واسعة النطاق أو منهجية نتيجة لنشر و/أو تطوير الذكاء الاصطناعي على أن تجد بشكل جماعي تعويضا عن هذه الأضرار.
الشركات
- انخرط مع أصحاب المصلحة الخارجيين بما في ذلك جماعات دعم المستهلكين والباحثين الأكاديميين لكشف ومواجهة مشاكل عدم الإنصاف والانحياز والتمييز التي يمكن وجودها في نماذج الذكاء الاصطناعي.
- أقم خدمات تحكيم داخلية لتلقي ومراجعة شكاوى أصحاب المصلحة.
المجتمع المدني