قرارات رقمية وآثار ملموسة: مسؤولية الشركات التقنية عن الضرر

ملخص

لا تظهر سلطة الشركة التقنية دائمًا في صورة أمر مباشر، إذ قد تتجسد في قاعدة تحدد من يرى إعلان سكن، أو في برنامج يستبعد متقدمًا إلى وظيفة، أو في تقييم يخفض فرص سائق في الحصول على رحلات، أو في نظام ترتيب يوسع انتشار خطاب تحريضي. في هذه الحالات، يرى المتضرر النتيجة، لكنه لا يرى بالضرورة سلسلة القرارات التي أنتجتها، ولا يستطيع تحديد ما إذا كان مصدرها تصميم النظام، أو طريقة استخدام العميل له، أو عمل مورد داخل سلسلة الخدمة.

ومع ذلك، تظل الشركة مالكة لجزء حاسم من البنية التي تشكل هذه النتيجة، ومن الغرض الذي صُمم النظام لتحقيقه إلى البيانات التي يعتمد عليها ومعايير الأداء والعقود التي توزع السلطات، فضلًا عن السجلات اللازمة لفهم ما حدث. تنطلق هذه الورقة من الفجوة بين من يملك القدرة على تشكيل القرار ومن يتحمل كلفة نتائجه.

تدافع الورقة عن معيار عملي للمساءلة، تزداد بموجبه مسؤولية الشركة عن احترام حقوق الإنسان كلما اتسعت سيطرتها على التصميم والبيانات والعلاقة التجارية، وكلما أمكنها توقع الضرر أو الحد منه، وكلما احتكرت الأدلة التي يحتاجها المتضرر لإثبات أثر القرار والطعن فيه. لا يحول هذا المعيار كل ضرر مرتبط بمنتج إلى مسؤولية قانونية تلقائية، ولا يساوي بين منصة محتوى، وتطبيق عمل، ومورد برنامج تجسس. لكنه يحدد ما ينبغي طلبه من الشركة في الوقاية والإفصاح واستخدام النفوذ وحفظ الأدلة والانتصاف، ويمنعها من استخدام وصف الوسيط أو المورد أو الخوارزمية لإخفاء السلطة المادية التي تمارسها.

منهجية ونطاق

تعتمد الورقة على تحليل وثائقي لمعايير حقوق الإنسان والأعمال التجارية، وأحكام وتسويات قضائية ورقابية، وتقييمات مستقلة وتقارير حقوقية، ونصوص تنظيمية. وتُستخدم الأمثلة التطبيقية لاختبار آليات محددة، لا لقياس انتشار الضرر في قطاع بأكمله. لذلك تميز الورقة بين واقعة ثبتت بحكم، وادعاء ورد في شكوى، واستنتاج توصلت إليه منظمة حقوقية، وتقييم أجرته جهة بتكليف من شركة. ولا تشمل منهجية الورقة دراسة ميدانية أو مقابلات مع متضررين.

ينحصر نطاق الورقة في الشركات التي تصمم أو تدير خدمات رقمية قادرة على ترتيب المحتوى أو توزيع الفرص، أو إدارة العمل، أو تمكين المراقبة، أو التحكم في الوصول إلى خدمة ذات أثر ملموس. ولا تتناول الورقة سائر أوجه مسؤولية القطاع التقني، مثل تصنيع الأجهزة واستخراج المعادن والأثر البيئي لمراكز البيانات، إلا حين تتصل بتحليل دورة المنتج وسلسلة القيمة.

1. القرار الذي لا يراه صاحبه

في عام 2023 أنهت هيئة تكافؤ فرص العمل الأميركية دعوى ضد شركة آي توتور جروب بتسوية قيمتها 365 ألف دولار بعد اتهام برنامج التوظيف لديها بالرفض الآلي للمتقدمات من سن الخامسة والخمسين فأكثر، وللمتقدمين من سن الستين فأكثر. شملت الدعوى أكثر من مئتي متقدم مؤهل، وفرضت التسوية تعويضًا وتدريبًا وسياسة لمكافحة التمييز ورقابة لاحقة إذا استأنفت الشركة التوظيف في الولايات المتحدة. تكمن قوة تسوية التوظيف في وضوح القاعدة، فقد واجه المتقدم برنامجًا ينفذ معيارًا موضوعًا داخل النظام، وليس مديرًا يعلن رفضه بسبب العمر.

لا يعرف المتقدم المرفوض عادة ما إذا كانت سيرته الذاتية قد قُرئت أصلًا، ولا يملك سجل المتغيرات التي استخدمها النظام أو النسخة التي طبقت عليه أو سبب تجاوزه لعتبة الرفض. وحتى عندما يشتبه في التمييز، يبقى الدليل لدى الجهة التي صممت أو اشترت الأداة. هذه ليست مشكلة شفافية فقط، لأن احتكار السجل يحدد من يستطيع تحويل الإحساس بالظلم إلى ادعاء قابل للفحص، ومن يظل أمام رسالة آلية عامة لا تتيح له فهم القرار أو تصحيحه.

تكشف حالة آي توتور نمطًا ستختبره الورقة في مجالات أخرى، إذ قد يتلقى الفرد نتيجة تؤثر في حقه أو فرصه من دون أن يتمكن من رؤية تصميم النظام أو الوصول إلى السجلات التي تفسر كيفية اتخاذ القرار. يظهر ذلك بوضوح في العمل الذي تديره المنصات، حيث قد تنخفض الطلبات المتاحة للعامل من دون أن يعرف الدرجة التي منحها له النظام أو كيف أثّر رفضه لمهمة معينة في ترتيب حصوله على العمل.

ولا يقتصر هذا الاختلال في الوصول إلى المعلومات على علاقة العمل، فحتى في منصات التواصل الاجتماعي، قد يُحذف منشور أو يُخفض انتشاره من دون أن يعرف صاحبه القاعدة التي طُبقت عليه، أو وزن المصنف الآلي في القرار، أو ما إذا كانت مراجعة بشرية قد أجريت.

تختلف الحقوق المتأثرة بين العمل والتعبير والخصوصية، لكن نمط السلطة يتكرر، إذ تحتفظ الجهة التي تدير النظام بتصميمه والسجلات اللازمة لفهم قراراته، بينما يتحمل الفرد أثرها من دون أن يملك المعلومات اللازمة لتفسيرها أو الاعتراض عليها.

تبدأ إذن المساءلة بتحديد القرارات المؤسسية التي تقف خلف عمل النظام، ويشمل ذلك الغرض الذي صُمم النظام لتحقيقه، والبيانات والعتبات التي يعتمد عليها، والمكاسب التي تحققها الشركة من السرعة أو خفض الكلفة، ومدى قدرتها على توقع الضرر ومنعه، وكذلك حيازتها للأدلة اللازمة لفهم القرار والطعن فيه. يوجّه هذا التحليل الانتباه إلى الجهات التي صممت النظام وحددت شروط تشغيله، بدل التعامل مع التقنية باعتبارها مصدرًا مستقلًا للقرار.

2. مسؤولية بقدر السلطة

تميّز مبادئ الأمم المتحدة التوجيهية بشأن الأعمال وحقوق الإنسان بين ثلاثة مستويات كثيرًا ما تختلط في النقاش العام. يقع على الدولة الواجب الأساسي في احترام الحقوق وحمايتها وإعمالها، بما يشمل سن القواعد وممارسة الرقابة وإتاحة الوصول إلى القضاء. وتتحمل الشركة مسؤولية مستقلة عن احترام حقوق الإنسان أينما تعمل، حتى عندما يكون القانون المحلي ضعيفًا أو يُطبق بصورة انتقائية. أما المسؤولية القانونية، سواء تعلقت بالتعويض أو العقوبة أو بطلان العقد، فتتحدد وفق القانون واجب التطبيق، ووقائع القضية، وما تقرره جهة مختصة. وبموجب هذه المبادئ، لا يُعد غياب الحظر المحلي مسوغًا للشركة لممارسة فعل ضار.

غير أن إقرار مسؤولية الشركة المستقلة عن احترام الحقوق لا يحدد وحده ما يُطلب منها عندما يشارك عميل أو مورد في الضرر. لذلك تميّز إرشادات منظمة التعاون الاقتصادي والتنمية بين التسبب في الضرر، والإسهام فيه، والارتباط المباشر به عبر منتج أو خدمة أو علاقة تجارية. إذا تسببت الشركة في الضرر أو أسهمت فيه، يُتوقع منها وقف الفعل ومنع تكراره والمشاركة في العلاج. أما إذا ارتبطت مباشرة بضرر تسبب فيه عميل أو مورد، فيتركز ما يُطلب منها على استخدام نفوذها. وقد يشمل ذلك تعديل العقد، وفرض القيود، وطلب المعلومات، وتعليق الدعم أو إنهاء العلاقة إذا كان الضرر شديدًا ولم تُجدِ الوسائل الأقل حدة. وقد تتغير صلة الشركة بالضرر من الارتباط المباشر إلى الإسهام إذا استمر الدعم بعد توافر معرفة موثوقة بإساءة متوقعة، مع وجود وسائل واقعية للمنع.

في القطاع التقني، لا يكفي إسناد المسؤولية إلى الجهة التي اتخذت الإجراء الأخير إذا كانت شركة أخرى قد صممت النظام وحددت شروط عمله واحتفظت بقدرة مؤثرة على نتائجه. يظهر ذلك في المنصات الإعلانية عندما لا يقتصر دور الشركة على استضافة إعلان كتبه عميل، وإنما يمتد إلى تصميم الخوارزمية التي تحدد من يصل إليه الإعلان.

ويظهر النمط نفسه في العمل عبر التطبيقات، حيث قد يكون العقد مع كيان محلي بينما تضع الشركة الأم قواعد التقييم وتوزيع الطلبات ومعايير السرعة والتعطيل التي تنظم عمل العامل فعليًا. وتصبح المسافة بين المستخدم المباشر ومورد التقنية أكبر في برامج التجسس، إذ يصدر قرار الاستهداف من العميل الحكومي، لكن المورد يظل قادرًا على اختيار العميل، وتحديد شروط الترخيص، وتقديم التحديثات، وفي بعض الحالات تعليق الخدمة أو وقفها.

لذلك يتطلب تحديد مسؤولية الشركة تتبع مقدار سيطرتها على النظام وعلاقتها بالضرر في كل مرحلة، بدلًا من حصر التحليل في الجهة التي نفذت الإجراء الأخير. ولا يبدأ تصنيف صلة الشركة بالضرر بعد وقوعه فقط، فلكي تحدد الشركة المواضع التي قد تتسبب فيها بالضرر أو تسهم فيه أو ترتبط به، تحتاج إلى عملية تسبق القرار وترافقه. ويقدم مشروع بي–تك التابع لمفوضية الأمم المتحدة لحقوق الإنسان صيغة عملية لتطبيق هذا الإطار على الشركات التقنية، تتمثل في مسار العناية الواجبة، أي الفحص المستمر الذي تجريه الشركة لرصد أثرها على حقوق الإنسان ومنعه ومعالجته.

يبدأ هذا الفحص من تعريف الحاجة والغرض المسموح، ويمر بجمع البيانات والاختبار والإطلاق والتسويق واختيار العميل والتعاقد مع المورد، ويستمر بعد البيع. فالتحديثات وتغير السوق والأزمات السياسية وسلوك المستخدمين قد تحول منتجًا مقبول المخاطر عند الإطلاق إلى مصدر ضرر شديد. لذلك يلزم وجود نظام مستمر لرصد الأثر وتتبعه والتواصل بشأنه وتعديله.

تُرتب العناية الواجبة الأولويات بحسب الخطر على الأفراد، وليس بحسب الخطر المالي أو السمعة على الشركة. قد يكون سوق ما صغير الإيراد لكنه شديد الخطورة على صحفيين أو أقلية لغوية، وقد يكون معدل الخطأ منخفضًا في المتوسط بينما تؤدي حالة واحدة إلى احتجاز أو كشف مصدر أو حرمان نهائي من فرصة. وتقاس الشدة بحجم الأثر ونطاقه وصعوبة إصلاحه. لهذا لا يصح أن تتبع موارد السلامة حجم السوق وحده، ولا أن تقبل المؤسسة معدلًا إحصائيًا معقولًا من دون فحص من يدفع ثمن الأخطاء وما إذا كان يستطيع تداركها.

يمكن تلخيص معيار تقدير مسؤولية الشركة عن الضرر في خمسة عناصر مترابطة تشمل مقدار سيطرتها على القاعدة أو السعر أو الترتيب أو التعطيل، ومدى قدرتها على توقع الضرر بالنظر إلى طبيعة المجال والسياق، وحجم النفوذ الذي تملكه على العميل أو المورد أو المستخدم، والجهة التي تحتفظ بالبيانات اللازمة لقياس الأثر وإثباته، ثم قدرة العلاج على إزالة مصدر الضرر بدل الاكتفاء بتصحيح حالة فردية مع بقاء النظام نفسه. تساعد هذه العناصر على تحديد مقدار السلطة التي تملكها الشركة ومدى صلتها بالضرر وما كان متاحًا لها لمنعه أو معالجته.

ولا تتحدد سلطة الشركة بما تستطيع فعله تقنيًا أو تعاقديًا وحده، وإنما تتأثر أيضًا بالحوافز التي توجه قراراتها الداخلية. فطريقة تحقيق الإيراد تؤثر في المؤشرات التي تقيس فرق المنتج والمبيعات نجاحها على أساسها. تستفيد المنصة الإعلانية، مثلًا، من زيادة الاستخدام والتفاعل، وترتبط إيرادات منصة العمل بحجم المعاملات أو الطلبات، بينما تعتمد شركة تقنيات المراقبة على إتمام عقود مرتفعة القيمة مع العملاء. وتؤثر هذه الحوافز في قرارات عملية تتعلق بسرعة الإطلاق، وحجم الاستثمار في السلامة، وشروط التعاقد، والموارد المخصصة لاختبار الضرر ومعالجته.

قد تنتج القرارات التقنية آثارًا متزامنة على أكثر من حق، لأن النظام نفسه قد يحدد الوصول إلى الدخل أو الفرص أو القدرة على التعبير. لذلك يتطلب تقدير مسؤولية الشركة النظر إلى الحقوق المدنية والسياسية والحقوق الاقتصادية والاجتماعية في علاقتها ببعضها. فتعطيل حساب على منصة قد يقيد قدرة صاحبه على التعبير، وقد يقطع في الوقت نفسه مصدر دخله إذا كان يعتمد عليه في عمله. كما قد تستخدم أنظمة الإعلانات بيانات شخصية في تحديد الجمهور، ثم تؤثر نتيجة هذا الاستهداف في فرص الوصول إلى عمل أو سكن. وتجمع مراقبة العامل بين أثر على الخصوصية وأثر على علاقته بالعمل عندما تُستخدم البيانات في تقييم أدائه أو تحديد أجره أو تنظيم وقته. ويتلقى الفرد هذه الآثار مجتمعة بحسب موقعه الاجتماعي والاقتصادي والسياسي، وهو ما يجعل تحليل مسؤولية الشركة ناقصًا إذا عولج كل حق بمعزل عن بقية العلاقة التي ينظمها النظام.

3. التصميم يوزع فرص السكن والعمل

في عام 2022، رفعت وزارة العدل الأميركية دعوى ضد ميتا بسبب طريقة توزيع إعلانات السكن على مستخدمي فيسبوك. ركزت الدعوى على الفئات التي يختارها المعلن عند تحديد جمهوره وعلى خوارزمية ميتا التي تقرر فعليًا من تصل إليه الإعلانات بعد نشرها. اعتمد نظام توزيع الإعلانات جزئيًا على خصائص يحميها قانون الإسكان العادل، بما أدى إلى اختلاف بين الأشخاص المؤهلين لرؤية الإعلان والجمهور الذي وصل إليه بالفعل.

انتهت القضية إلى تسوية قضائية أوقفت بموجبها ميتا استخدام أداة «الجمهور الإعلاني الخاص» في إعلانات السكن، والتزمت بتطوير نظام جديد للحد من التفاوت في توزيع الإعلانات وإخضاعه لمراجعة مستقلة. تكشف القضية أن التمييز في الوصول إلى فرص السكن قد ينشأ من طريقة توزيع الإعلان نفسها، حتى عندما لا يطلب المعلن صراحة استبعاد فئة يحميها القانون، وأن الاستبعاد قد يحدث قبل أن يصل الشخص أصلًا إلى مرحلة التقدم للحصول على السكن. فإذا وجّهت خوارزمية توزيع الإعلانات فرصة سكن إلى بعض المستخدمين دون غيرهم، فإن من لم ير الإعلان قد يفقد فرصة التقدم من دون أن يعرف أنه استُبعد منها.

يجعل ذلك اكتشاف التفاوت وإثباته أكثر صعوبة من حالة يتقدم فيها شخص بطلب ثم يتلقى قرارًا بالرفض، لأن غياب الإعلان لا يترك لديه قرارًا يمكن الاعتراض عليه أو تفسيرًا يمكن مراجعته. لذلك تمتد مسؤولية المنصة في هذا النوع من الأنظمة إلى طريقة توزيع الفرص نفسها، ولا تقتصر على منع المعلن من اختيار معايير تمييزية صريحة.

كشفت القضية أيضًا إمكان أن تنتج خوارزمية توزيع الإعلانات تفاوتًا بين الفئات التي تصل إليها فرص السكن، لكن مجرد رصد هذا التفاوت لا يكفي وحده لإثبات وقوع تمييز غير مشروع. فقد يتأثر توزيع الإعلانات بأنماط استخدام سابقة، أو ببيانات تعكس تفاوتات اجتماعية قائمة، أو بمتغيرات ترتبط بصورة غير مباشرة بخصائص يحميها القانون.

لذلك تحتاج الشركة إلى قياس نتائج النظام على الفئات المختلفة، وتحديد العوامل التي أدت إلى الفروق في الوصول، ومقارنة هذه النتائج بما كان سيحدث عند استخدام طريقة توزيع أقل عرضة لإنتاج هذا التفاوت. وتزداد أهمية هذا الاختبار عندما يتعلق النظام بفرص أساسية مثل السكن أو العمل، لأن استمرار استخدامه من دون القدرة على معرفة الفئات التي تتضرر من طريقة التوزيع يجعل اكتشاف التمييز وتصحيحه أكثر صعوبة.

في المقابل، تقدم حالة آي توتور جروب مثالًا أوضح من حيث العلاقة السببية. فقد نتج الضرر، بحسب دعوى رسمية انتهت إلى تسوية، من قاعدة آلية مرتبطة مباشرة بالعمر، لا من ترابطات معقدة في بيانات تاريخية. وتكمن أهمية هذا المثال في توضيح أن الأتمتة لا تنفصل عن القرارات البشرية التي تحدد معاييرها. فالبرنامج نفذ معيارًا وضعته جهة بشرية واعتمدته مؤسسة في مسار التوظيف، ولم يكن قراره ناتجًا عن تقييم مستقل للمتقدمين. لذلك تجاوز علاج القضية تصحيح الشفرة وحدها وامتد ليشمل تدابير مالية، وتغييرات في السياسات، وتدريبًا، ورقابة.

توضح أيضًا حالتا ميتا وآي توتور أن التمييز في الأنظمة الآلية قد ينشأ بطرق مختلفة. ففي حالة آي توتور، ارتبط الاستبعاد مباشرة بعمر المتقدم، أي بقاعدة صريحة داخل نظام التوظيف. أما في أنظمة مثل توزيع الإعلانات، فقد يظهر التفاوت من دون استخدام سمة محمية بصورة مباشرة، عندما تعتمد الخوارزمية على بيانات ترتبط بها بدرجات متفاوتة. فقد يؤدي محل السكن أو الجامعة أو نمط الاستهلاك أو شبكة العلاقات الاجتماعية دورًا مشابهًا لبعض الخصائص التي يحميها القانون، حتى إذا لم تدخل تلك الخصائص نفسها في النموذج.

ولهذا لا يكفي تقييم النظام من خلال معدل دقته الإجمالي، إذ قد يحقق أداءً مرتفعًا في المتوسط بينما تتركز أخطاء الاستبعاد في فئة بعينها، أو يكون أثر الخطأ أشد لأن فرصة العمل أو السكن قد تضيع قبل أن يتمكن الشخص من الاعتراض على القرار وتصحيحه.

4. العمل خلف التطبيق والعقد

تقدم شركات منصات العمل الرقمية نفسها غالبًا بوصفها وسيطًا يربط عاملًا مستقلًا بعميل، لكن هذا الوصف التعاقدي لا يكفي وحده لتحديد الجهة التي تتحكم في السعر، وتوزيع المهام، وفرض العقوبات، وتعطيل الحساب. على سبيل المثال، في قضية رفعها عدد من سائقي أوبر ضد الشركة، نظرت المحكمة العليا البريطانية إلى كيفية تنظيم العلاقة عمليًا، وركزت حكمها على سيطرة الشركة على الأجر وشروط التعاقد وتوزيع الرحلات والتقييم والتواصل مع الراكب.

انتهت المحكمة إلى الاعتراف للسائقين محل النزاع بصفة العامل. كما اعتبرت، في نطاق القضية، أن وقت العمل يشمل الفترة التي يكون فيها السائق داخل المنطقة المعنية، ومشغلًا التطبيق، ومستعدًا وقادرًا على قبول الرحلات.

تكمن قيمة هذا الحكم في المنهج الذي يعتمده، إذ يختبر السيطرة المادية بدل قبول الاسم الذي تمنحه المنصة لنفسها. فقد يختار السائق متى يفتح التطبيق، لكن دخله يظل مرتبطًا بتسعير لا يفاوض عليه، وطلبات لا يرى منطق توزيعها، وتقييم قد يخفض فرصه، وإمكان تعطيل حسابه. المرونة الزمنية موجودة، لكنها لا تنفي التبعية في الأجزاء التي تتحكم فيها المنصة.

تتجاوز آثار سيطرة المنصة مسألة تصنيف العامل قانونيًا، إذ تؤثر أيضًا في كيفية توزيع تكاليف العمل ومخاطره بين الشركة والعامل. فالعامل يتحمل تكلفة السيارة أو الدراجة والهاتف والاتصال والوقود والصيانة، كما يتحمل وقت الانتظار وتقلب الطلب ومخاطر الطريق. وفي الوقت نفسه، قد تربط المنصة المكافآت بسرعة إنجاز الرحلات أو بمعدل قبول الطلبات، بينما يقع جانب أكبر من آثار الحوادث والإرهاق وانخفاض الطلب على العامل نفسه.

هذه العناصر، من السيطرة على السعر والوقت إلى السلامة والتعطيل، تنقل النقاش من وصف نموذج العمل إلى معايير العمل. وتعترف اتفاقية 193، الصادرة عن منظمة العمل الدولية والتي اعتمدها مؤتمرها في يونيو 2026، بأن منصات العمل تستخدم نظم صنع قرار مؤتمتة لتنظيم العمل في الموقع أو عبر الإنترنت. كما تتناول التصنيف والأجر والسلامة والحماية الاجتماعية والحقوق النقابية والتفسير والمراجعة الخوارزمية، لكن حتى وقت إعداد الورقة لم تدخل الاتفاقية حيز النفاذ.

تغطي الاتفاقية علاقة منصات العمل بالأشخاص الذين يؤدون العمل من خلالها، لكن جزءًا من العمل الضروري لتشغيل الشركات التقنية يُنجز خارج هذه العلاقة المباشرة. فقد تعتمد الشركة على مورد خارجي لتوظيف العمال وإدارة أجورهم وعقودهم، بينما تظل هي صاحبة المعايير والأدوات التي تنظم العمل. يظهر ذلك بوضوح في مراجعة المحتوى، حيث قد يعمل المراجع لدى شركة تعهيد، في حين تحدد المنصة قواعد المراجعة ومؤشرات الأداء والأدوات المستخدمة وحجم العمل المطلوب. يوسع هذا النموذج مسألة السيطرة التي ظهرت في العمل عبر المنصات، لأنه يفصل بين الجهة التي توظف العامل رسميًا والجهة التي قد تحتفظ بقدرة مؤثرة على شروط عمله.

تختبر دعاوى مراجعي المحتوى في كينيا هذه العلاقة بين المنصة وشركة التعهيد. فقد رفع مراجعون دعاوى تتعلق بظروف العمل والصحة النفسية وإنهاء التعاقد وحرية التنظيم ضد شركة ساما وكيانات مرتبطة بميتا. وفي عام 2024، حسمت محكمة الاستئناف مسألة إمكان نظر النزاع أمام القضاء الكيني من دون أن تفصل في المسؤولية الموضوعية عن الادعاءات. وفي أبريل 2026، سمحت المحكمة العمالية بتعديل الدعاوى ودمجها ومواصلة نظرها، وفق حكم 2026. تفيد القضية في تحليل كيفية توزيع السيطرة والمسؤولية بين المنصة ومورد خدمات التوظيف، مع بقاء المسؤولية القانونية النهائية عن الادعاءات محل نظر قضائي.

تكشف قضية مراجعي المحتوى في كينيا مشكلة تتجاوز العلاقة بين ميتا وشركة تعهيد بعينها. فجزء كبير من الخدمات التقنية يعتمد على عمل بشري تنقله الشركات إلى موردين خارجيين، بينما تحتفظ في بعض الحالات بسلطة مؤثرة على معايير الأداء وحجم العمل والأدوات المستخدمة. يظهر ذلك في مراجعة المحتوى، كما يظهر في وسم البيانات واختبار نماذج الذكاء الاصطناعي ومراجعة مخرجاتها. يسمح هذا التنظيم للشركة بفصل جزء من قوة العمل عن هيكلها المباشر، لكنه لا يلغي أثر القرارات التي تتخذها بشأن السعر والسرعة والموارد المطلوبة من المورد. فإذا فرض العقد حجمًا مرتفعًا من العمل في زمن محدود أو بميزانية منخفضة، قد تظهر النتيجة في ضغط أكبر على العامل، وفي تراجع قدرته على مراجعة المحتوى بالدقة والسياق المطلوبين.

تربط هذه العلاقة بين شروط العمل وجودة الخدمة التي تصل إلى المستخدم. فالمراجع الذي يعمل تحت ضغط زمني شديد، أو من دون دعم نفسي كافٍ، أو بموارد لغوية محدودة، يصبح أكثر عرضة للخطأ عند تطبيق سياسات المحتوى. لذلك يجب أن يشمل تقييم الشركة لموردي مراجعة المحتوى ظروف العمل إلى جانب مؤشرات الأداء، بما في ذلك الأجر وساعات العمل والراحة والصحة النفسية وحرية التنظيم، وكذلك الوقت والموارد المتاحة لاتخاذ القرار.

يحتاج العامل أيضًا إلى الوصول إلى بيانات تقييمه وأسباب الإجراءات التي تؤثر في عمله أو دخله. وعندما تتوزع السيطرة على هذه العناصر بين المنصة والمورد، يجب أن يتبع توزيع المسؤولية مقدار السلطة التي يحتفظ بها كل طرف، حتى لا يؤدي تعدد الشركات داخل سلسلة التعاقد إلى صعوبة تحديد الجهة القادرة على تغيير الشرط الذي يسبب الضرر.

5. المحتوى واللغة والنزاع

تظهر الصلة بين شروط مراجعة المحتوى وحقوق المستخدمين بوضوح في البيئات التي يمكن أن تترتب فيها على أخطاء الإشراف أضرار تتجاوز حذف منشور أو الإبقاء عليه. ففي ميانمار، وثقت بعثة تقصي الحقائق التابعة للأمم المتحدة الدور الذي أداه فيسبوك في انتشار خطاب الكراهية خلال فترة اتسمت باضطهاد واسع وعنف ضد الروهينغا، وانتقدت بطء استجابة الشركة وضعف فاعليتها.

ووسعت منظمة العفو الدولية نطاق المسؤولية التي نسبتها إلى ميتا، إذ خلص تقريرها الصادر عام 2022 إلى أن أنظمة ترتيب المحتوى القائمة على زيادة التفاعل ساعدت في تضخيم المحتوى المحرض، وأسهمت بصورة جوهرية في الأضرار التي لحقت بالروهينغا.

وفي سياق متصل، خلص تقييم لحقوق الإنسان أجرته مؤسسة بي إس آر بتكليف من فيسبوك إلى وجود مخاطر تتعلق بالأمن والخصوصية وحرية التعبير وعدم التمييز. وأوصى التقييم بزيادة الموارد والخبرات المحلية، وتحسين فهم كيفية انتشار خطاب الكراهية، وحفظ المحتوى المحذوف الذي قد تكون له قيمة إثباتية. وتوضح هذه الحالة الصلة بين قرارات الشركة الداخلية المتعلقة بالموارد واللغة وتصميم الإشراف، والآثار التي تترتب عليها بالنسبة إلى حقوق المستخدمين والمجتمعات المتأثرة.

وتوفر هذه النتائج، رغم محدودية البيانات المتاحة، أساسًا لتقييم مسؤولية الشركة عن القرارات التي كانت تحت سيطرتها. فقد كان السياق السياسي والأمني في ميانمار معروفًا بتصاعد العنف، وكانت الشركة قادرة على زيادة الموارد المخصصة للمراجعة المحلية، وتحسين أدوات الكشف، وتعديل أنظمة ترتيب المحتوى، ووضع إجراءات للاستجابة للأزمات. ويقتضي معيار المسؤولية الذي تتبناه هذه الورقة أن تتناسب موارد الوقاية مع شدة الضرر المتوقع وصعوبة إصلاحه، وألا يكون حجم السوق ومقدار الإيرادات العاملين الوحيدين في تحديد حجم الاستثمار في السلامة.

ويبقى اختيار نوع التدخل في المحتوى مسألة مستقلة عن تقرير الحاجة إلى تدخل أكثر فاعلية، فالتأخر في التعامل مع التحريض قد يسمح باتساع انتشاره، بينما يمكن أن يؤدي التوسع في الحذف إلى إزالة محتوى مشروع لصحفيين أو مدافعين عن الحقوق أو جماعات متضررة، كما قد يؤدي إلى فقدان مواد توثق انتهاكات أو جرائم.

ولذلك يحتاج الإشراف إلى قواعد واضحة وتطبيق متناسب مع نوع الضرر، مع استخدام أدوات مثل خفض الانتشار أو التحذير عندما تكون ملائمة، وإتاحة مسارات للطعن، ووضع إجراءات لحفظ المحتوى الذي قد تكون له قيمة إثباتية مع حماية بيانات الضحايا. ولا ينبغي الاعتماد على عدد المواد المحذوفة وحده كمعيار لجودة نظام الإشراف أو أثره على حقوق الإنسان.

تظهر المشكلة نفسها في إدارة المحتوى العربي، حيث يصبح فهم اللغة والسياق جزءًا من سلامة القرار. فقد وجد تقييم بي–إس–آر لآثار ميتا خلال أحداث الاعتداء على حي الشيخ جراح بفلسطين مؤشرات على ارتفاع معدل إنفاذ السياسات على المحتوى العربي للفرد، واحتمال إحالة بعض المواد إلى مراجعين لا يفهمون اللهجة المستخدمة، إضافة إلى فجوات في أدوات التصنيف والموارد المتاحة. وسجل التقييم في الوقت نفسه حالات قصور في التعامل مع محتوى تحريضي أو يحض على الكراهية.

تفسر طبيعة اللغة جانبًا من هذه الصعوبة. فمعنى العبارة قد يتغير باختلاف اللهجة والسياق السياسي والسخرية والاقتباس الصحفي، كما تؤثر المعلومات المتاحة للمراجع وطريقة عرض السياق عليه في القرار الذي يتخذه. ولا توفر المراجعة البشرية ضمانًا تلقائيًا لتصحيح أخطاء النظام الآلي عندما يعمل المراجع تحت ضغط زمني، أو لا يفهم اللهجة، أو لا يرى السياق الكامل، أو لا يملك صلاحية مخالفة توصية النظام.

لذلك تحتاج مراقبة جودة الإشراف إلى بيانات مفصلة عن معدلات الإزالة والطعن وعكس القرارات بحسب اللغة واللهجة ونوع السياسة، وإلى معرفة نسبة القرارات المؤتمتة والبشرية والموارد والخبرات المتاحة لفرق المراجعة. وعدد العاملين الذين يتحدثون العربية وحده لا يكشف عن قدرتهم على فهم السياقات المختلفة التي يعمل فيها النظام.

تؤدي آليات الطعن وظيفة تتجاوز تصحيح قرار فردي، فتكرار عكس قرارات مرتبطة بلهجة معينة أو بنوع محدد من الخطاب يوفر معلومات عن مواضع الخلل في أدوات التصنيف أو قواعد السياسة أو تدريب المراجعين. ويمكن أن تصبح بيانات الطعون وسيلة لإعادة تقييم النظام نفسه إذا وصلت نتائجها إلى فرق المنتج والسياسة والتدريب.

ويظهر حجم هذه الوظيفة في تطبيق قانون الخدمات الرقمية الأوروبي، إذ قدم مستخدمو المنصات الكبرى منذ عام 2024 أكثر من 165 مليون طعن داخلي، وأدى نحو ثلاثين في المئة منها إلى عكس القرار الأصلي. وفي النصف الأول من عام 2025، أكثر من 1800 نزاع عُرض على جهات تسوية المنازعات خارج المحكمة، وعُكست قرارات المنصات في 52 في المئة من القضايا التي أُغلقت.

تعتمد فاعلية الطعن في قرارات الإشراف على المحتوى على قدرة المستخدم على معرفة سبب حذف منشوره أو خفض انتشاره أو تقييد حسابه، ثم الوصول إلى جهة تملك صلاحية مراجعة هذا القرار وتغييره. ويفقد مسار الاعتراض جزءًا كبيرًا من أثره إذا طال زمن المراجعة، أو غابت الخبرة باللغة والسياق، أو لم تحصل الجهة المراجعة على البيانات التي تفسر القرار، أو تعذر تنفيذ النتيجة بعد صدورها.

تختلف المعلومات المطلوبة بحسب الجهة التي تستخدمها، فالمستخدم يحتاج إلى تفسير واضح للقرار والمعلومات اللازمة للاعتراض عليه، بينما تحتاج الجهة الرقابية إلى سجلات أوسع تسمح بفحص أنماط الإزالة والتقييد وخفض الانتشار، ويحتاج الباحثون إلى بيانات مناسبة لاختبار الآثار الأوسع لنظم الإشراف، مع حماية بيانات الأفراد والأسرار التجارية المشروعة.

وتفترض ضمانات الإشعار والطعن أن يعلم الشخص بأن المنصة اتخذت قرارًا أثر في محتواه أو حسابه. أما في أدوات الاختراق والمراقبة السرية، فقد لا يعلم الشخص أصلًا أنه تعرض للاستهداف، وقد يكون العميل جهة حكومية تملك سلطات الإكراه. لذلك تتركز المسؤولية في هذه الأدوات بدرجة أكبر على الوقاية قبل البيع، وفحص العميل، ومراقبة الاستخدام، والقدرة على تعليق الخدمة عند ظهور إساءة.

6. من المبادئ إلى قواعد قابلة للإنفاذ

تكشف الحالات السابقة حدود الاعتماد على سياسات حقوق الإنسان والأطر غير الملزمة قانونًا وحدها في ضبط سلوك الشركات. وتشمل هذه الأطر مبادئ الأمم المتحدة التوجيهية بشأن الأعمال وحقوق الإنسان وإرشادات منظمة التعاون الاقتصادي والتنمية، إلى جانب سياسات العناية الواجبة وتقييم المخاطر التي تعتمدها الشركات داخل مؤسساتها. تساعد هذه الأدوات على تحديد ما يُتوقع من الشركة في الوقاية من الضرر ومتابعته ومعالجته، حتى عندما لا يقدم القانون الوطني قواعد تفصيلية.

لكن قدرة هذه الأدوات على تغيير القرار تظل محدودة إذا احتفظت الشركة وحدها بتحديد نطاق التقييم والمعلومات التي تنشرها والإجراء الذي تتخذه عند ظهور الضرر، أو إذا ظلت قرارات الإطلاق والمبيعات والإنتاجية أقوى من نتائج التقييم الحقوقي. في المقابل، تزداد فاعلية هذه المبادئ عندما تترجم إلى قواعد قابلة للإنفاذ تمنح جهة مستقلة صلاحية طلب السجلات وفحص الامتثال، وتتيح للمتضرر فهم القرار والطعن فيه والحصول على علاج مناسب.

كما توفر التشريعات الأوروبية أمثلة مختلفة لهذه الوظائف التنظيمية، إذ يمنح قانون الخدمات الرقمية المستخدمين بعض الحقوق المتعلقة بمعرفة أسباب قرارات الإشراف على المحتوى والطعن فيها، ويلزم المنصات الكبرى بتقييم بعض المخاطر النظامية، كما ينظم وصول فئات من الباحثين إلى بياناتها. ويتناول توجيه العمل عبر المنصات تحديد الوضع الوظيفي للعامل وبعض صور الإدارة الخوارزمية، ويضع إطارًا لقرينة علاقة العمل وفق شروط يحددها القانون الوطني. كما يصنف قانون الذكاء الاصطناعي عددًا من استخدامات الذكاء الاصطناعي في التوظيف وإدارة العمال ضمن الأنظمة عالية المخاطر، مع تأجيل تطبيق أجزاء من هذا الإطار بعد تعديلات 2026 إلى عامي 2027 و2028.

تفيد هذه التشريعات هنا بوصفها أمثلة على ثلاث وظائف يمكن البحث عن مقابل لها في السياق المصري، وهي تمكين المتضرر من فهم القرار والوصول إلى الأدلة والطعن فيه، ووضع قيود على الإدارة الخوارزمية للعمل، وفرض ضمانات إضافية قبل استخدام الأنظمة ذات المخاطر المرتفعة.

يبدأ اختبار هذه الوظائف في مصر من القواعد القائمة بالفعل، ففي مجال العمل مثلًا، يوفر قانون العمل رقم 14 لسنة 2025 نقطة بداية لمناقشة علاقة العامل بمنصة العمل الرقمية. تعرف المادة 96 أنماط العمل الجديدة باعتبارها أشكالًا غير تقليدية من العمل تؤدى لصاحب عمل تحت إدارته أو إشرافه مقابل أجر، وتشمل العمل عن بعد والعمل لبعض الوقت والعمل المرن وتقاسم العمل.

كما تقر المواد التالية امتداد الحقوق وإمكان إبرام العقود إلكترونيًا والإثبات بوسائل متعددة. ولا يضع القانون تنظيمًا صريحًا خاصًا بعمال المنصات، ولذلك يظل تطبيقه عليهم مرتبطًا بإثبات وجود الإدارة أو الإشراف في العلاقة العملية التي تنظمها المنصة. لكن يمكن فحص هذه العلاقة من خلال مقدار السيطرة التي تمارسها المنصة على شروط العمل، بما يشمل تحديد المقابل والعمولة، وطريقة توزيع المهام، وأثر رفض الطلبات على فرص العمل اللاحقة، ونظام التقييم، وسلطة تعطيل الحساب، ومدى قدرة العامل على التفاوض في شروطه أو بناء قاعدة مستقلة من العملاء، إضافة إلى درجة اعتماده الاقتصادي على المنصة. تساعد هذه العناصر في تقييم وجود تبعية تمارس عبر التطبيق حتى في غياب مدير بشري مباشر.

في المقابل، يتطلب فحص هذه العناصر الوصول إلى المعلومات التي تكشف كيفية إدارة المنصة للعمل فعليًا. فالعامل قد يعرف الأجر الذي حصل عليه أو أن حسابه عُطّل، لكنه لا يملك بالضرورة السجلات التي توضح كيفية توزيع الطلبات عليه، أو أثر رفضه لمهمة في فرص حصوله على مهام لاحقة، أو كيفية احتساب تقييمه، أو الأسباب التي أدت إلى تعطيل حسابه. وتحتفظ المنصة بجزء كبير من هذه المعلومات في صورة بيانات مرتبطة بالعامل ونشاطه على التطبيق.

في هذا السياق، يمكن أن يوفر قانون حماية البيانات الشخصية رقم 151 لسنة 2020، ولائحته التنفيذية الصادرة بقرار 816 لسنة 2025، مدخلًا للوصول إلى بعض هذه البيانات، إلى جانب القواعد التي يضعها بشأن مشروعية جمعها واستخدامها وتأمينها وحقوق صاحبها. فقد يساعد قانون حماية البيانات العامل أو الجهة المختصة في الحصول على المعلومات اللازمة لفحص هذه المسائل وفق قانون العمل والقواعد الأخرى ذات الصلة.

وتختلف درجة الوصول المطلوبة باختلاف الغرض من استخدام المعلومات. فالعامل أو المستخدم يحتاج إلى البيانات المرتبطة بالقرار الذي أثر فيه، على أن تُقدَّم إليه بصيغة مفهومة تمكّنه من معرفة ما حدث والاعتراض عليه. وتحتاج المحكمة أو الجهة الرقابية إلى نطاق أوسع من السجلات عندما يتعلق النزاع بنمط متكرر أو بقاعدة تُطبَّق على عدد كبير من الأشخاص. كما يحتاج الباحثون إلى بيانات مناسبة لاختبار الأثر الجماعي للنظام، مع حماية بيانات الأفراد.

لكن إقرار حق في الوصول إلى البيانات أو الطعن لا يكفي إذا تعذر تحديد الشركة التي يجب أن تقدم السجلات، أو كانت البيانات والكيانات المسؤولة موزعة بين أكثر من دولة، أو بقي الفرد عاجزًا عن استخدام المعلومات في مواجهة منصة تملك قدرة أكبر على التفاوض والتقاضي. كما قد تتوزع جوانب النزاع الواحد بين جهات مختصة بالعمل وحماية البيانات والمنافسة والقضاء، من دون أن ترى أي منها العلاقة كاملة.

لذلك يتوقف إنفاذ القواعد السابقة على معالجة ثلاث مشكلات مترابطة تتعلق بالوصول إلى كيان يمكن مساءلته عبر الحدود، والقدرة الجماعية للعمال والمستخدمين على استخدام المعلومات، ووجود مؤسسة تستطيع جمع جوانب العمل والبيانات والعقد وتصميم النظام داخل مسار واحد للمساءلة.

6.1 الانتصاف عبر الحدود

تظهر المشكلة الأولى عندما تتوزع الشركة والعامل والبيانات والعقود بين أكثر من دولة. فقد يكون مقر الشركة الأم في دولة، والمورد الذي ينفذ جزءًا من العمل في دولة أخرى، بينما يوجد العامل أو المستخدم في دولة ثالثة، وتُخزن بعض البيانات في مكان مختلف. عند وقوع الضرر، قد يجد المتضرر صعوبة في تحديد الجهة التي اتخذت القرار أو تحتفظ بالسجلات اللازمة لإثباته، كما قد يواجه شروطًا تعاقدية تحيل النزاع إلى قانون أو محكمة أجنبية وتزيد كلفة المطالبة بالحق.

توضح دعاوى مراجعي المحتوى في كينيا أثر هذه المشكلة، إذ استغرق حسم قدرة القضاء الكيني على نظر النزاع مرحلة طويلة قبل الانتقال إلى بحث الادعاءات المتعلقة بظروف العمل والمسؤولية عنها. ويجعل ذلك تحديد الجهة التي يمكن مساءلتها والوصول إلى مستنداتها جزءًا من إمكان الحصول على الانتصاف نفسه.

يمكن للقواعد الوطنية والعقود أن تخفف من هذا العائق إذا ألزمت الشركة التي تنظم عملًا أو تقدم خدمة ذات أثر ملموس داخل بلد ما بتحديد كيان يمكن مخاطبته قانونيًا، وحفظ السجلات المرتبطة بالعمال والمستخدمين المحليين، والتعاون مع القضاء والجهات الرقابية. كما ينبغي ألا تجعل شروط اختيار القانون الواجب التطبيق أو المحكمة المختصة أو اللجوء إلى التحكيم المطالبة بالحق غير ممكنة عمليًا بسبب تكلفتها أو بُعد جهة الفصل جغرافيًا.

وتصبح الحاجة إلى التعاون بين الجهات الرقابية أكثر وضوحًا عندما ينتج الضرر عن قاعدة أو تحديث يطبق على عدد كبير من الأشخاص في أكثر من دولة. لكن تحديد جهة يمكن مساءلتها والوصول إلى سجلاتها لا يحل وحده اختلال القوة داخل العلاقة، لأن العامل أو المستخدم قد يحصل على معلومات تخص حالته من دون أن يستطيع معرفة ما إذا كان النظام نفسه يؤثر بالطريقة ذاتها في آخرين.

6.2 التنظيم الجماعي والبيانات

تظهر حدود الحق الفردي في المعلومات عندما يطبق النظام القاعدة نفسها على فئة كاملة من العمال. فقد يحصل عامل على تفسير لتعطيل حسابه، لكنه لا يستطيع من بيانات حالته وحدها معرفة ما إذا كان رفض نوع معين من المهام يؤدي إلى خفض الطلبات على جميع العمال، أو ما إذا كان الأشخاص الذين يشتكون من شروط السلامة أو يشاركون في التنظيم النقابي يتعرضون لنمط متكرر من التعطيل أو تراجع فرص العمل. ويتطلب كشف هذه الأنماط معلومات مجمعة تتجاوز ملف الفرد الواحد.

لذلك تحتاج النقابات وروابط العمال وممثلوهم إلى الوصول إلى بيانات مناسبة عن الأجر ووقت العمل والتقييم والتعطيل، وإلى التشاور عند إدخال أنظمة جديدة للمراقبة أو الإدارة الخوارزمية. وتربط اتفاقية 193 لمنظمة العمل الدولية بين استخدام الأنظمة الخوارزمية في إدارة العمل والحقوق الأساسية للعمال، كما ينظم توجيه العمل عبر المنصات الصادر عن الاتحاد الاوروبي بعض حقوق العمال وممثليهم في المعلومات المتعلقة بهذه الأنظمة.

لا يؤدي الوصول إلى المعلومات وحده إلى تغيير شروط العمل إذا ظل كل عامل مضطرًا إلى التعامل مع المنصة منفردًا. فالمنصة تستطيع تعديل قواعد الأجر أو التقييم أو توزيع الطلبات على عدد كبير من العمال في وقت واحد، بينما تكون قدرة العامل الفردية على التفاوض بشأن هذه القواعد محدودة.

ولهذا ترتبط الحقوق الجماعية في البيانات بالحق في التنظيم والتمثيل والحماية من الانتقام بسبب النشاط الجماعي. فإتاحة المعلومات لممثلي العمال تسمح باستخدامها في التفاوض على الأجر والسلامة وشروط الإدارة الخوارزمية، بدل أن تظل البيانات أداة تستخدمها المنصة وحدها في مراقبة العمال وإدارتهم.

كما تكتسب هذه الحماية أهمية بالنسبة إلى العمال المصنفين تعاقديًا باعتبارهم مستقلين عندما لا يملكون في الواقع قوة سوقية تسمح لهم بالتفاوض بصورة فردية. ومع ذلك، تظل هذه الحقوق محدودة الأثر إذا لم توجد جهة تستطيع إلزام المنصة بتقديم المعلومات، والتحقق من اكتمالها، وحماية العمال من التعطيل أو خفض فرص العمل بسبب التنظيم.

6.3 مؤسسة ترى العلاقة كاملة

تقود الحاجة إلى إنفاذ حقوق الوصول إلى المعلومات والتمثيل إلى مشكلة مؤسسية أوسع في السياق المصري. فقد يصل جانب من النزاع إلى مكتب العمل لأنه يتعلق بالأجر أو صفة العامل، بينما تنظر الجهة المختصة بحماية البيانات إلى جمع بياناته واستخدامها، وتتعامل المحكمة مع العقد وشروط الاستخدام، وقد يدخل جهاز حماية المنافسة عندما تتعلق المشكلة بقوة المنصة في السوق.

وفي الوقت نفسه، قد تتعامل المنصة مع الواقعة باعتبارها قرارًا تقنيًا أو مسألة تتعلق بالحساب والدعم الفني. يؤدي هذا التوزع في الاختصاص إلى أن ترى كل جهة جزءًا من العلاقة، بينما ينشأ الضرر أحيانًا من تفاعل تصميم النظام والبيانات والعقد وشروط العمل معًا.

لا يتطلب علاج هذا التشتت بالضرورة إنشاء جهاز تنظيمي جديد واسع الاختصاص. يمكن تحديد جهة أو مسار تنسيقي يستطيع استقبال الشكاوى المتعلقة بالقرارات الآلية ذات الأثر الجوهري، وطلب السجلات اللازمة لفهم القرار، ثم إحالة الجوانب العمالية أو المتعلقة بحماية البيانات أو المنافسة إلى الجهات المختصة مع الحفاظ على ملف واحد للقضية.

ويمكن أن يشمل ذلك قرارات مثل رفض وظيفة، أو خفض دخل عامل، أو تعطيل حساب يعتمد عليه في العمل، أو حرمان شخص من خدمة أساسية. ويلزم في هذا المسار أن تقدم الشركة سبب القرار والبيانات المرتبطة به والسجل الذي يسمح بمعرفة القاعدة التي طُبقت. وإذا امتنعت عن تقديم سجل كان يتعين عليها الاحتفاظ به أو أتلفته، يمكن أن يرتب القانون أثرًا إجرائيًا أو جزاءً مناسبًا بدل تحميل المتضرر عبء إثبات واقعة تحتكر الشركة معلوماتها.

تظهر الحاجة إلى هذه الرقابة المتكاملة أيضًا عندما تكون الدولة هي الجهة المشترية للنظام. ففي المشتريات العامة، ينبغي أن تتمكن جهة مستقلة عن الجهة التي تستخدم النظام من فحص العقد والسجلات وشروط معالجة البيانات، ومراجعة أي تغيير في غرض الاستخدام، وتعليق الخدمة عند ظهور ضرر. ويساعد وجود قواعد للشفافية وحفظ البيانات والوصول إلى السجلات على اكتشاف الضرر وتحديد الجهة المسؤولة عنه. غير أن هذه القواعد لا تضمن وحدها حصول المتضرر على تصحيح القرار أو التعويض أو تغيير القاعدة التي أنتجت الضرر. وبناءً على ذلك، ينتقل التحليل من شروط اكتشاف القرار وإثباته إلى تقييم قدرة نظام الانتصاف نفسه على عكس أثر القرار ومعالجة مصدر الضرر.

خاتمة

بدأت هذه الورقة من فرد يتلقى نتيجة تؤثر في حقه من دون أن يرى القاعدة التي أنتجتها أو يملك السجلات اللازمة لفهمها. وتبين الحالات التي تناولتها أن هذه الفجوة ترتبط بتوزيع السلطة داخل العلاقة نفسها. فالشركة التي تحدد قواعد التوظيف أو توزيع العمل أو ترتيب المحتوى أو شروط استخدام منتج عالي المخاطر قد تحتفظ في الوقت نفسه بالبيانات التي تسمح بقياس أثر هذه القرارات وإثباته. لذلك لا تقاس مسؤوليتها بوصفها التعاقدي أو بكون القرار مؤتمتًا، وإنما بمقدار السيطرة التي تمارسها، وقدرتها على توقع الضرر ومنعه، والنفوذ الذي تملكه على الأطراف الأخرى، وما تحتفظ به من أدلة وقدرة على معالجة النتيجة.

يظهر أثر هذا المعيار بوضوح عند وقوع الضرر. فتصحيح قرار فردي يظل ناقصًا إذا بقيت القاعدة التي أنتجته تعمل بالطريقة نفسها على آخرين. وقد يحتاج المتضرر إلى استعادة فرصة أو دخل أو محتوى حُذف، لكن الانتصاف يقتضي أيضًا فحص السبب الذي أنتج الضرر وتعديله عندما يكون الخلل في تصميم النظام أو بياناته أو شروط تشغيله. ولهذا تصبح الشكاوى والطعون ذات قيمة تتجاوز الحالة الفردية عندما تكشف نمطًا متكررًا يصل إلى فرق المنتج والعقود والمخاطر والإدارة، ويؤدي إلى تغيير يمكن قياس أثره لاحقًا على الأشخاص المتأثرين.

تُظهر الأمثلة التي اعتمدت عليها الورقة أن جزءًا مهمًا من إجراءات التصحيح اتُّخذ بعد دعوى قضائية أو تحقيق أو تدخل رقابي أو مراجعة خارجية. ويوضح ذلك حدود فاعلية نظام للمساءلة لا يتدخل إلا بعد أن يتحمل المتضرر كلفة اكتشاف الضرر وإثباته. ويقتضي المعيار الذي تتبناه الورقة أن تبدأ الضمانات قبل الوصول إلى هذه المرحلة. ويتطلب ذلك اختبار أثر القاعدة قبل تطبيقها، وحفظ السجلات التي تسمح بمراجعتها، وإتاحة جهة مستقلة تستطيع التدخل. كما يتطلب تعديل النظام عندما تظهر مؤشرات على ضرر متكرر.

وبذلك يتناسب توزيع المسؤولية مع توزيع السلطة الفعلية، فيتحمل من يملك القدرة على تصميم النظام الذي ينتج القرار وتشغيله جانبًا من كلفة منع الضرر وتصحيح آثاره، بدلًا من تحميل هذه الكلفة للشخص الذي لم يكن يملك أصلًا الاطلاع على كيفية اتخاذ القرار.