
مقدمة
في الرابع عشر من نوفمبر 2026، افتتح النائب العام مركز بيانات النيابة العامة للذكاء الاصطناعي ووقّع وثيقة «العهد للمستقبل» بحضور وزير الاتصالات وتكنولوجيا المعلومات ووزيرة التضامن الاجتماعي. وشهد الافتتاح عرض تطبيقات تعمل النيابة على تطويرها، من بينها «المساعد الذكي» لأعضائها، لتحليل أوراق القضايا وتلخيصها ومقارنة أقوال أطرافها، واقتراح إجراءات لاستيفاء التحقيقات. وشمل العرض أيضًا توظيف تقنيات تحويل الصوت إلى نص في توثيق جلسات التحقيق. وأعلن النائب العام أن افتتاح المركز يمهّد لإتاحة هذه الأدوات لأعضاء النيابة اعتبارًا من الخامس عشر من نوفمبر، مؤكدًا أن التقدير القضائي واتخاذ القرار يظلان من اختصاص عضو النيابة.
سبق ذلك، في التاسع والعشرين من أغسطس 2024، توقيع وزارتي العدل والاتصالات بروتوكولًا يربط إدارةَ الجلسة الجنائية يحوّل الصوت آليًا إلى نص مكتوب، مع تشغيل تطبيقات تجديد الحبس الاحتياطي عن بُعد في 66 قاعة. وبعد أقل من عام، أعلنت الدولة إطلاق التقاضي عن بُعد في الدعاوى الجنائية، وكشفت أن البنية التحتية المُقامة لهذا الغرض تضم أكثر من 850 خط ألياف ضوئية و1530 وحدة اتصال مرئي، ونظامًا لتحويل وقائع الجلسات إلى نص بُني محليًا بدقة معلنة تتجاوز 96 في المئة.
وفي الثالث عشر من ديسمبر 2025، وقّعت وزارة الاتصالات والنيابة العامة بروتوكولًا لتنفيذ عشرة مشروعات في إطار التحول الرقمي بالنيابة. شملت الأهداف المعلنة لهذه المشروعات إلغاءَ الدفع النقدي، وإنشاء قواعد بيانات موحدة من الأنظمة الرقمية المختلفة، ورفع جودة الخدمات الإلكترونية، والتكامل مع جهات إنفاذ القانون. ووُصفت النيابة في النص الرسمي ذاته بأنها صارت «منظومة لا ورقية» يعمل أعضاؤها على نسق إلكتروني مرقمن بالكامل.
وفي فبراير 2026، استلمت النيابة الدفعةَ الأولى من الأجهزة المعززة بتقنيات الذكاء الاصطناعي، التي أُعلن أنها ستُسهم في تحليل البيانات الضخمة ورفع دقة الإجراءات وسرعتها. وصرّح النائب العام في هذه المناسبة أن توظيف هذه التقنيات أصبح ضرورة حتمية لمواجهة تعقيدات الجرائم الحديثة وتطوير أساليب التعامل معها.
لا تترك هذه الوقائع مجالًا للتعامل مع الذكاء الاصطناعي في العدالة المصرية باعتباره احتمالًا مؤجلًا؛ فالمرفق القضائي دخل مرحلة يُعاد فيها تشكيل محضر الجلسة، وطريقة حضور الخصوم، وتداول ملفات القضايا.
تتناول هذه الورقة هذا المسار بهدف تحديد المعايير القانونية والحقوقية التي ينبغي أن تحكم استخدام تقنيات الذكاء الاصطناعي في مرفق العدالة المصري. ويأتي ذلك في ظل استخدام هذه التقنيات في مراحل متعددة من العملية القضائية، من غرفة التحقيق إلى قاعة الجلسة. وتستند الورقة في ذلك إلى الإطار الدولي لحقوق الإنسان، لا سيما المعايير المتعلقة بضمانات المحاكمة العادلة والحق في الخصوصية واشتراطات الشفافية في أنظمة القرار الآلي، مع رصد الفجوة بين ما تُنجزه الدولة تقنيًا وما يغيب من تنظيم قانوني يُحكم هذا الإنجاز.
أولًا: المشروعية وحدود التمييز الشائع
يتطلب تقييم هذا التوسع التقني في استخدام الذكاء الاصطناعي من حيث مشروعيته القانونية تحديد أولًا مضمون المشروعية في مرفق العدالة. فالتمييز الشائع بين «أداة مساعدة» و«نظام يتخذ القرار» لا يكفي لقياس ما يجري داخل مرفق العدالة، لأن مخاطر مؤثرة قد تنشأ قبل صدور الحكم. فقد تظهر عند جمع البيانات أو تحويل الجلسة إلى سجل أو فرز القضايا، وكذلك عند استرجاع السوابق وتحليل الملفات وتقديم بعض الوقائع على غيرها داخل بيئات العمل القضائي.
يحذر تقرير المقررة الخاصة المعنية باستقلال القضاة والمحامين، الصادر في يوليو 2025، من افتراض أن التقنية تقدم حلولًا تلقائية لمشكلات العدالة. ويؤكد ضرورة أن يسبق اعتماد الذكاء الاصطناعي تقييم دقيق للأضرار المحتملة وإمكانات الحد منها. كما يؤكد أن الحق في محكمة مستقلة ومحايدة يقتضي الوصول إلى قاضٍ بشري، وأن الحق في الاستعانة بمحامٍ يختاره الشخص يقتضي أن يكون هذا المحامي إنسانًا. ويدعو إلى إتاحة المعلومات الجوهرية عن الأنظمة القضائية المعتمدة على الذكاء الاصطناعي للعموم.
ما يُميز هذا التقرير أنه يُوسّع المساءلة لتشمل كل نظام يُشكّل مسار القضية قبل لحظة الحكم، كأنظمة تدوين الجلسة وتصنيف القضايا واسترجاع السوابق وفرز الملفات، حتى لو لم يكن هذا النظام مخوّلًا بإصدار الحكم القضائي ذاته. فحصر المساءلة في الأنظمة التي تُصدر الحكم مباشرةً يُبقي جوانب مؤثرة من البنية الإجرائية خارج الرقابة، رغم أن القناعة القضائية تتشكل عبر مراحل تسبق النطق بالقرار.
ويستند هذا الفهم للمشروعية إلى ضمانات ملزمة في الإطار الدستوري والحقوقي المصري. فالمادة 54 تقرر أن الحرية الشخصية حق طبيعي مصون، وتشترط، في غير حالة التلبس، أمرًا قضائيًا مسببًا يستلزمه التحقيق لتقييدها، وتوجب تمكين من قُيّدت حريته من الاتصال بذويه ومحاميه فورًا. وتحمي المادة 57 الحياة الخاصة وسرية المراسلات والاتصالات، ولا تجيز الاطلاع على هذه المراسلات والاتصالات أو رقابتها إلا بأمر قضائي مسبب ولمدة محددة.
وتقرر المادة 96 قرينة البراءة والحق في محاكمة قانونية عادلة تكفل ضمانات الدفاع. وتنص المادة 97 على أن التقاضي حق مصون، وعلى عدم محاكمة أي شخص إلا أمام قاضيه الطبيعي. وتكفل المادة 98 حق الدفاع، فيما تقرر المادتان 184 و186 استقلال السلطة القضائية والقضاة وخضوعهم للقانون وحده.
تلتقي هذه الضمانات مع المادة 14 من العهد الدولي الخاص بالحقوق المدنية والسياسية التي تكفل المساواة أمام المحاكم والحق في محاكمة علنية أمام محكمة مختصة مستقلة، وتضمن الوقت والتسهيلات الكافية لإعداد الدفاع والاتصال بمحامٍ مختار. وتحظر المادة 17 التدخل التعسفي أو غير القانوني في الخصوصية. وبالتالي فإن أي معيار لاستخدام الذكاء الاصطناعي في العدالة المصرية يجب أن يُختبر في ضوء هذه الضمانات، لا في فضاء إداري عام عن تحديث الخدمات.
يتبين من ذلك أن معيار مشروعية استخدام الذكاء الاصطناعي في مرفق العدالة المصري ينبغي أن يُبنى على أثره في إعادة توزيع السلطة الإجرائية وعبء الخطأ عبر السلسلة القضائية، وعلى مدى ما يُتيحه أو يُغلقه من إمكان الاعتراض والطعن والتصحيح. وعندما يتحول القول الشفوي للمتهم أو مرافعة الدفاع أو قرار القاضي إلى نص آلي يدخل الملف، فالمسألة تتجاوز سرعة كتابة المحضر؛ النص الناتج يصبح مادة مرجعية تتداولها المحكمة والنيابة والدفاع وجهات المراجعة، وقد يُبنى عليه تلخيص لاحق أو استرجاع بحثي أو تصنيف.
إذا وقع خطأ في هذه المرحلة الأولى، فقد ينتقل أثره إلى مراحل لاحقة داخل الدعوى، مع تفاوت قدرة أطراف الخصومة على اكتشافه وتصحيحه. فالمحامي الذي يعمل تحت ضغط زمني، والمتقاضي الأقل قدرة على الوصول إلى الوسائل الرقمية، قد يتحملان كلفة أعلى للغموض والخلل مقارنةً بغيرهما، بسبب نقص الوقت أو الأدوات اللازمة لاكتشاف الخطأ في المحضر الآلي والاعتراض عليه قبل أن يتراكم أثره داخل الملف.
وقد أعلنت وزارة الاتصالات أن المنظومة تتيح تحويل المرافعات الشفوية وقرارات القضاة وأقوال المتهمين إلى نص مكتوب بالذكاء الاصطناعي، بهدف ميكنة محاضر الجلسات والاستغناء عن كتابتها يدويًا. ومحضر الجلسة سجل إجرائي ذو ثقل يتجاوز مجرد توثيق ما قيل؛ فإذا أخطأ النظام في تمييز المتحدثين، أو في التقاط النفي والإثبات، أو في كتابة المصطلح القانوني، أو في نقل اسم أو تاريخ أو طلب إجرائي، تحوّل الخطأ من تقني إلى ضرر مباشر في الحق في الدفاع وفي قدرة المحامي على إثبات ما وقع بالفعل.
يمس البُعد الثاني من هذا التحول طريقة إنتاج المعرفة القضائية ذاتها. ففي مايو 2023، عرضت وزارتا الاتصالات والعدل في ورشة عمل معنية بالتحول الرقمي في التقاضي الجنائي تطبيقًا أُضيف إلى المنظومة تحت اسم “مستودع الأحكام”، ووُظفت فيه تقنيات الذكاء الاصطناعي داخل بيئة العمل القضائي. يستدعي هذا النوع من الأنظمة الإجابة على أسئلة من نوعية أي الأحكام تُستدعى أولًا حين يبحث القاضي أو المحامي في السوابق، وكيف تُصنف النتائج، وما الذي يحتل الصفحة الأولى من نتائج الاسترجاع. تُؤثر هذه القرارات التقنية الصغيرة في البيئة المعرفية التي تنشأ داخلها القناعات القضائية.
ثانيًا: الحوكمة الوطنية وضمانات الإشراف البشري
يحمي الفصل الإجرائي بين مراحل الضبط والاتهام والحكم المتهم من انتقال رواية جهة الضبط إلى المحاكمة دون تمحيص. وقد يضعف هذا الفصل حين تتدفق البيانات بين هذه المراحل داخل سلسلة رقمية واحدة، تتحول فيها مخرجات كل مرحلة آليًا إلى مدخلات للمرحلة التالية. وتستدعي هذه البنية تنظيمًا خاصًا يعالج آثارها في الإجراءات القضائية، إذ لا تكفي القواعد العامة للإدارة الرقمية وحدها لضبط هذه الآثار.
وقد اتجهت الدولة المصرية إلى وضع إطار حوكمة عام يشمل قطاعات الذكاء الاصطناعي كافة، دون تخصيصه لقطاع بعينه. ففي الحادي عشر من مارس 2026، اعتمد المجلس الوطني للذكاء الاصطناعي إطار الحوكمة الوطني وأدلته المكملة. ويصنّف الإطار الأنظمة وفق أربعة مستويات للمخاطر، تشمل الأنظمة المحظورة، والأنظمة عالية المخاطر، ومحدودة المخاطر، ومنخفضة المخاطر.
تشمل الأنظمة عالية المخاطر وفق الدليل البنيةَ التحتية الحرجة والقياسات الحيوية، ويُتوقع أن يتوسع الإطار عبر مكتبة تنظيمية تضم إرشادات ولوائح قطاعية تُكيّفها الجهات المختصة بكل قطاع. ويترجم هذا الإطار مبادئ الحوكمة العامة إلى إجراءات لتقييم المطابقة والتدقيق والمراجعة السنوية.
غير أن الوثائق العلنية المتاحة لا تتضمن، حتى الآن، لائحة قطاعية منشورة تخص القضاء أو النيابة تُحدد ما يُصنَّف عالي الخطورة داخل مرفق العدالة، وما يُحظر، وما هي حقوق الأطراف في الإخطار والطعن والاطلاع، وما الجزاء المترتب على الإخلال بسلامة الإجراءات بسبب استخدام الأنظمة الآلية. الإطار العام يعترف بالحاجة إلى تكييف قطاعي، لكنه لم يملأ هذا الفراغ في العدالة بعد.
يتسع هذا الفراغ عند فحص الإطار التشريعي للبيانات. قانون حماية البيانات الشخصية رقم 151 لسنة 2020 يستثني صراحةً بيانات محاضر الضبط القضائي والتحقيقات والدعاوى القضائية من نطاقه. وبالتالي فإن أشد بيانات العدالة الجنائية حساسيةً تقع خارج مظلة قانون حماية البيانات الشخصية. تحتوي هذه الملفات على معلومات تخص الاتهام والسلوك والتحقيق والاتصال والأطراف والمكان والزمان، وتترتب عليه آثار قانونية مباشرة تمس الحرية والسمعة والملكية والحياة الخاصة. لذلك يحتاج كل توسع خوارزمي داخل هذه البيئة إلى قواعد خاصة للغرض والاحتفاظ وتقليل البيانات وضبط الوصول ومنع إعادة الاستخدام والمسؤولية، وهي قواعد لا يوفرها هذا القانون للبيانات المستثناة من نطاقه.
في هذا السياق، فإن خارطة CEPEJ المعدلة تؤكد أن ميثاقها الأخلاقي الخاص بالذكاء الاصطناعي في النظم القضائية يقوم على خمسة مبادئ: احترام الحقوق الأساسية، وعدم التمييز، وجودة البيانات وأمنها، والشفافية والحياد والإنصاف، وإبقاء المستخدم تحت السيطرة. وفي عام 2026، قدمت اليونسكو ما وصفته بأول إطار أخلاقي وتشغيلي عالمي لاستخدام الذكاء الاصطناعي في المحاكم والهيئات القضائية، مبنيًا على خمسة عشر مبدأً تشمل الشفافية والمساءلة والإشراف البشري وحماية الحقوق، مع تأكيد أن الذكاء الاصطناعي أداة تعمل تحت إشراف بشري ذي معنى، ولا يقوم مقام عدالة يقودها البشر.
تستدعي هذه المتطلبات توضيح مضمون عبارة «الإنسان في الحلقة»، التي يُستند إليها في الدفاع عن النظم القضائية الرقمية. فالمبادئ التوجيهية الوطنية المصرية للذكاء الاصطناعي الموثوق والمسؤول تميّز بين ثلاثة أوضاع للإشراف. في وضع «الإنسان داخل الحلقة» يحتفظ الإنسان بالسيطرة على القرار، وفي وضع «الإنسان فوق الحلقة» يشرف على النظام ويتدخل عند الحاجة، أما وضع «الإنسان خارج الحلقة» فيعني أن النظام يعمل آليًا بالكامل. وتنص المبادئ على إلزامية الوضع الأول في القرارات عالية المخاطر، وقصر الاستبعاد البشري الكامل على الحالات منخفضة المخاطر.
وتشترط كذلك المبادئ تحديد نموذج الإشراف وآليات التدخل اليدوي لتجاوز مخرجات النظام، مع توثيق قرارات التدخل. كما تشترط تمكين المشغّلين من تفسير المخرجات والاعتراض عليها، وتوفير آليات للشرح والاستئناف. وتنص كذلك على الإفصاح عن استخدام الذكاء الاصطناعي وحدود النظام والبيانات المستخدمة.
تعطي هذه الاشتراطات مضمونًا عمليًا للإشراف البشري، إذ تقتضي أن يستند إقرار القاضي أو الموظف للمخرجات إلى مراجعة فعلية. وتتطلب هذه المراجعة أن يعرف المستخدم أن الأداة استُخدمت، وأن يفهم حدودها واحتمالات خطئها. كما تتطلب أن تتيح له المؤسسة وقتًا مخصصًا للمراجعة وسلطة فعلية لرفض المخرجات أو تعديلها، مع توثيق الرفض أو التعديل في سجل قابل للتدقيق. وعند غياب هذه الشروط، قد يُضفي وصف المراجعة بأنها «إشراف بشري» مظهرًا من المشروعية على إجراء شكلي، بينما يستمر التشغيل الآلي دون رقابة بشرية فعّالة.
ثالثًا: معايير استخدام الذكاء الاصطناعي في مرفق العدالة المصري
تقتضي حماية الحقوق داخل مرفق العدالة المصري أن تخضع أنظمة الذكاء الاصطناعي لمعايير قانونية وإجرائية تتناسب مع أثرها في مسار الدعوى، بما يشمل العمليات التي تسبق اتخاذ القرار القضائي. فقد تؤثر هذه الأنظمة في مضمون محاضر الجلسات، وترتيب الأدلة، وتصنيف القضايا، واسترجاع المعلومات وتقديمها إلى القاضي أو عضو النيابة. وتحتاج هذه الاستخدامات إلى ضمانات تنظم كيفية إعداد المعلومات ومعالجتها وعرضها، لأن هذه العمليات قد تؤثر في تقدير الوقائع والأدلة قبل الوصول إلى مرحلة الفصل في القضية.
تقترح هذه الورقة إطارًا لتنظيم استخدام الذكاء الاصطناعي في مرفق العدالة المصري، يستند إلى الضمانات الدستورية والالتزامات الدولية التي سبق تناولها، ويترجمها إلى متطلبات تشريعية وتنظيمية وتشغيلية قابلة للتحقق والمساءلة. تستند بعض هذه المتطلبات إلى حقوق قائمة بالفعل، بينما يستلزم بعضها الآخر تدخلًا تشريعيًا أو تنظيميًا لإنشاء ضمانات خاصة باستخدام هذه التقنيات. ويغطي الإطار دورة حياة الأنظمة، من تطويرها واقتنائها واعتمادها إلى تشغيلها ومراجعة آثارها، وصولًا إلى مساءلة الجهات المسؤولة عنها ومعالجة الأضرار التي قد تنتج عن استخدامها.
المشروعية وتصنيف المخاطر وحدود الاستخدام المحظور
يجب أن يستند استخدام الذكاء الاصطناعي في أعمال الضبط والتحقيق والنيابة والمحاكمة إلى أساس قانوني معلن، وينطبق ذلك على استخدامه في إدارة القضايا والخدمات الموجهة إلى المتقاضين. ويجب أن يحدد هذا الأساس وظائف الأنظمة وحدود استخدامها والجهات المسؤولة عنها. وتزداد الحاجة إلى تنظيم تشريعي صريح كلما اقترب استخدام النظام من الإجراءات المؤثرة في الحرية الشخصية أو حقوق الدفاع أو تقدير الأدلة.
ينبغي أن يحدد هذا التنظيم الغرض من كل نظام، وأنواع البيانات التي يجوز له معالجتها، والقرارات أو الإجراءات التي قد تتأثر بمخرجاته. كما ينبغي أن يبيّن الضمانات المقررة للأطراف والجهة المختصة بمراقبة الالتزام بهذه الحدود. وتظل البروتوكولات واتفاقيات التعاون أدوات لتنفيذ المشروعات التقنية، فيما يحتاج تنظيم آثار هذه المشروعات في الحقوق أو إنشاء سلطات إجرائية جديدة إلى سند قانوني مستقل عنها.
يقتضي تحديد حدود الاستخدام اعتماد تصنيف للمخاطر يقوم على طبيعة الوظيفة التي يؤديها النظام وسياق تشغيله ومدى تأثير مخرجاته في الحقوق. ويمكن الاستناد إلى الفئات الأربع التي يتبناها إطار الحوكمة الوطني المصري، مع وضع معايير قطاعية خاصة بمرفق العدالة. فقد تكون أدوات الفهرسة والبحث القانوني وإخفاء الهوية وبعض خدمات الإرشاد الإداري منخفضة أو محدودة المخاطر حين تقتصر على تنظيم المعلومات وتقديم الخدمات. لكن استخدام الأداة نفسها في مرحلة مؤثرة في حق الدفاع قد يرفع مستوى خطورتها. فالترجمة الآلية المستخدمة في إرشاد إداري تختلف عن ترجمة أقوال متهم لا يفهم لغة الإجراءات. كما يختلف البحث في قواعد البيانات لأغراض إدارية عن ترتيب السوابق التي يستند إليها تقييم قانوني. ويجب أن يخضع تصنيف النظام للمراجعة كلما تغير نطاق استخدامه أو أصبحت مخرجاته مؤثرة في إجراء لم يكن مشمولًا بالتقييم الأول.
في هذا السياق، تقترح الورقة حظر الوظائف التي تنقل سلطة التقدير القضائي أو الإجرائي إلى النظام الآلي في المسائل المتصلة بالحرية والمسؤولية الجنائية. ويشمل ذلك إصدار قرارات الحبس أو توجيه الاتهام أو الإدانة، أو تحديد النتيجة القانونية لوقائع قضية بعينها، عندما يكون الدور البشري مقتصرًا على اعتماد النتيجة التي أنتجها النظام.
ويجب أن يمتد الحظر إلى الأنظمة التي تصنف المتهمين أو الشهود أو المتقاضين وفق تقديرات خوارزمية للمصداقية أو الجدارة أو الخطورة الشخصية، بما يجعل هذه التصنيفات مؤثرة في معاملتهم أو في تقييم أقوالهم. أما الأدوات المستخدمة في إعداد المعلومات أو تنظيمها فيمكن السماح بها وفق مستوى خطورتها، شريطة ألا تتحول مخرجاتها إلى أساس مستقل أو حاسم لقرار يمس الحرية أو الحق في الدفاع دون فحص بشري فعلي للأدلة والوقائع الأصلية.
ينبغي أن يشمل الحظر أيضًا استخدام تقنيات تحليل الانفعالات والمشاعر داخل أماكن التحقيق والجلسات والاحتجاز، عندما تستهدف استنتاج الحالة النفسية أو الانفعالية للأشخاص، أو تقدير صدق أقوالهم، أو قياس مستوى توترهم، أو استخلاص مؤشرات سلوكية يُستند إليها في تقييم مركزهم الإجرائي. ويمتد ذلك إلى الوظائف المدمجة في الكاميرات وأجهزة الاستشعار ومنصات الاتصال المرئي وبرمجيات تسجيل الجلسات، سواء اعتمدت على تحليل الصوت أو الصور أو الحركة أو المؤشرات البيومترية.
كما يجب إلزام الجهات المشغلة بتعطيل هذه الوظائف تقنيًا قبل استخدام أدوات التوثيق. فإتاحة تسجيل جلسة أو تحقيق لا تمنح الجهة المشغلة سلطة تحويل التسجيل إلى وسيلة لتقييم الحالة النفسية أو المصداقية، خاصة حين يكون الشخص محتجزًا أو حاضرًا أمام سلطة تحقيقية أو قضائية.
ويلزم إخضاغ الأنظمة التي يتعذر فحص مخرجاتها بصورة مستقلة إلى قيود تمنع استخدامها في الإجراءات المؤثرة في الحقوق. فقد تحول طبيعة النظام التقنية دون التحقق من البيانات التي استند إليها أو من كيفية إنتاج مخرج جوهري في القضية، بما يجعل المراجعة البشرية عاجزة عن اكتشاف الأخطاء أو اختبار سلامة الاستنتاجات. ويجب وقف استخدام هذه الأنظمة في الوظائف التي يتعذر إخضاعها للفحص، حتى لو قُدمت باعتبارها أدوات مساعدة، مع إتاحة استخدام بدائل تستوفي متطلبات الشفافية والمراجعة المستقلة.
ويشمل ضبط الاستخدام تنظيم العلاقة بين أنظمة الذكاء الاصطناعي القضائية ومنظومات المراقبة الرقمية الأوسع، ومنها أنظمة التعرف على الوجوه وتحليل الاتصالات والنشاط على الشبكات. فقد تنتج هذه المنظومات تصنيفات أو تقديرات عن الأشخاص استنادًا إلى بيانات جُمعت لأغراض مختلفة، ثم تنتقل مخرجاتها إلى أنظمة التحقيق أو النيابة وتؤثر في تكوين تصور أولي عن المتهم.
ويجب حظر التغذية المباشرة للأنظمة القضائية بمخرجات المراقبة الجماعية والتصنيفات الشخصية الناتجة عنها، مع فرض فصل تقني ومؤسسي يمنع انتقالها بصورة تلقائية. ولا يعفي تقديم مخرج تقني بوصفه دليلًا في قضية محددة الجهة المقدمة له من إثبات مشروعية الحصول على البيانات وسلامة معالجتها وخضوع الدليل لقواعد القبول والمناقشة القضائية.
حوكمة تطوير الأنظمة واقتنائها وتشغيلها
تبدأ الرقابة على الأنظمة قبل تشغيلها داخل المؤسسات القضائية والنيابية، من خلال فحص مصادر البيانات وطريقة تطوير النموذج وإعداده للاستخدام. فقد تعتمد الأنظمة على بيانات تدريب عامة أو سجلات قضائية وشرطية، وقد تُعدَّل باستخدام بيانات محلية، أو تُزوَّد أثناء التشغيل بمعلومات مسترجعة من قواعد بيانات القضايا.
لكل مستوى من هذه المستويات أثر محتمل في المخرجات. لذلك يجب إلزام الجهة المطورة والمشغلة بتوثيق مصادر البيانات المستخدمة في التدريب والتخصيص والاختبار والاسترجاع، والأساس القانوني للحصول عليها ومعالجتها، ومدى ملاءمتها للسياق القضائي المصري. ويشمل الفحص احتمال انتقال أنماط تاريخية من التمييز أو الأخطاء أو التصنيفات غير الدقيقة إلى تصميم النظام، خاصة حين تكون البيانات قد أُنتجت في سياق مؤسسي واجتماعي مختلف عن السياق الذي سيُستخدم فيه.
يجب أن يسبق اعتماد الأنظمة عالية المخاطر تقييم مستقل لسلامتها التقنية وآثارها القانونية والحقوقية، يتناول دقة الأداء وحدود الاعتماد على المخرجات ومخاطر الانحياز والإخلال بالخصوصية أو حقوق الدفاع. ويشمل التقييم الحالات التي قد يفشل فيها النظام، والضمانات اللازمة لاكتشاف الفشل وتصحيحه، وقدرة المستخدمين على مراجعة النتائج بصورة مستقلة. ولا يكفي إثبات ارتفاع متوسط الدقة في اختبارات عامة، لأن النظام قد يؤدي بصورة مختلفة عند التعامل مع بيانات أو ظروف تشغيل لم تكن ممثلة في الاختبار. ويجب أن تكون معايير قبول الأداء معلنة ومتناسبة مع طبيعة المهمة والضرر الذي قد ينتج عن الخطأ.
ويستدعي الانتقال إلى التشغيل الفعلي مرحلة اختبار محدودة النطاق للأنظمة عالية المخاطر. ينبغي أن تبدأ هذه المرحلة باختبارات فنية باستخدام بيانات اختبارية أو بيانات جرى تجهيزها بصورة مشروعة، دون ترتيب آثار إجرائية مباشرة على أشخاص حقيقيين. وإذا استلزم تقييم الأداء اختبار النظام في بيئة تشغيل فعلية، فيجب أن يخضع ذلك لشروط معلنة تحدد نطاق التجربة ومدتها والجهات المشاركة فيها والضمانات الإضافية لمراجعة المخرجات. ولا يجوز السماح بأن تصبح نتائج النظام التجريبي أساسًا مستقلًا لقرار يمس الحرية أو جوهر حق الدفاع. ويُشترط قبل الانتقال إلى التشغيل الكامل إثبات استيفاء معايير الأداء والسلامة، واعتماد نتائج التقييم من جهة مستقلة عن المطور والمشغل.
يمثل اقتناء الأنظمة والتعاقد مع مورديها جزءًا من حوكمتها، لأن شروط التعاقد قد تحدد قدرة المؤسسات القضائية على فحص النظام والتحكم في بياناته ومراجعة مخرجاته. لذلك يجب أن تتضمن عقود التوريد والتطوير والتشغيل التزامات واضحة بشأن إتاحة الوثائق الفنية وسجلات الأداء والتعديلات والتحديثات اللازمة للتدقيق، وإمكانية إخضاع النظام لاختبارات مستقلة، وحدود وصول المورد إلى البيانات، ومسؤوليته عن الأعطال والاختلالات التي تدخل في نطاق التزاماته. كما ينبغي منع الشروط التعاقدية التي تتيح للمورد حجب المعلومات اللازمة للفحص بدعوى السرية التجارية أو حقوق الملكية الفكرية، أو تجعل المؤسسة القضائية عاجزة عن مواصلة تشغيل النظام أو مراجعته دون الرجوع إلى المورد في كل إجراء جوهري.
يتطلب هذا المسار تنظيم تضارب المصالح بين الجهة المشغلة والمورد والجهات المسؤولة عن تقييم النظام. فقد تنشأ للمورد مصلحة تجارية في توسيع نطاق استخدام التقنية أو تجديد التعاقد معها، بينما يستدعي التقييم المستقل إظهار أوجه القصور حتى إن كانت تؤدي إلى وقف المشروع. ولهذا ينبغي الإفصاح عن العلاقات المالية والتعاقدية المؤثرة في قرارات الاقتناء والاعتماد، ومنع الجمع بين المصالح التجارية المباشرة في نشر النظام وسلطة التقييم المستقل لسلامته أو جدواه. ولا يجوز أن تكون الجهة التي تُصدر التقييم المستقل مرتبطة بالمورد بعلاقة مالية أو تعاقدية من شأنها التأثير في حيادها. وتظل الدراسات والمعلومات التي يقدمها المورد جزءًا من ملف التقييم، لكنها لا تحل محل الفحص المستقل الذي تستند إليه الجهة المختصة عند اتخاذ قرار الاعتماد.
قبل نشر الأنظمة التي قد تؤثر في إجراءات جوهرية، ينبغي إتاحة مراجعة عامة للإطار المنظم لاستخدامها، بما يسمح لنقابة المحامين والمنظمات الحقوقية والباحثين والخبراء التقنيين بتقديم ملاحظاتهم على الوظائف المقترحة والضمانات المرتبطة بها. ويشمل ذلك إطلاع اللجان البرلمانية المختصة على المشروعات التنظيمية والتشريعية المرتبطة بالأنظمة عالية المخاطر، وفق اختصاصاتها، دون تحويل هذا المسار إلى تدخل في القضايا المنظورة. تستهدف المشاركة العامة فحص القواعد التي ستخضع لها التقنية قبل تطبيقها على المتقاضين، مع حماية سرية الملفات القضائية والبيانات الشخصية والتفاصيل الأمنية التي توجد أسباب قانونية محددة لحجبها.
لا تنتهي مسؤولية الجهات المختصة بمجرد اجتياز النظام تقييمًا أوليًا. فقد تتغير بياناته أو طريقة تشغيله أو نطاق استخدامه، وقد تؤدي التحديثات إلى اختلاف الأداء عن النتائج التي استند إليها قرار الاعتماد. لذلك ينبغي أن يكون اعتماد الأنظمة عالية المخاطر محدد المدة، وأن يخضع التجديد لتقييم جديد يثبت استمرار استيفاء شروط السلامة والمشروعية. ويجب تعليق تشغيل هذه الأنظمة عند انتهاء مدة الاعتماد دون تجديده، أو عند إدخال تغيير جوهري لم يخضع للتقييم اللازم. أما الأنظمة الأقل خطورة، فتخضع لمتطلبات مراجعة دورية تتناسب مع وظائفها وآثارها، مع إعادة تصنيفها متى تغيرت طبيعة استخدامها.
وتحتاج التعاقدات التي تسمح بمعالجة البيانات القضائية خارج مصر إلى ضمانات خاصة تتجاوز تحديد مكان استضافة الخوادم. فقد تكون البيانات مخزنة محليًا بينما يستطيع مورد خارجي أو متعاقد فرعي الوصول إليها أو معالجتها، كما قد تكون استضافة البيانات خارج البلاد خاضعة لترتيبات قانونية وتقنية تختلف في مستوى الحماية وإمكان الإنفاذ.
يجب أن يكون الأصل عدم السماح بنقل بيانات القضايا والتحقيقات والتسجيلات الحساسة إلى بنية خارج نطاق السيطرة القانونية الفعلية للجهات المصرية المختصة، إلا وفق أساس قانوني واضح وضمانات مكافئة تتيح التدقيق المستقل وتحدد المسؤولية وحقوق الوصول ومدد الاحتفاظ والحذف. وتخضع أي استثناءات لقرار تنظيمي معلن ومسبب، يتناسب مع مستوى خطورة البيانات والنظام، ويكون قابلًا للمراجعة.
حماية البيانات وسلامة الأدلة والإجراءات
يجب أن يخضع التعامل مع البيانات داخل أنظمة الذكاء الاصطناعي القضائية لمبدأ تحديد الغرض وتقليل البيانات، بحيث يقتصر جمع المعلومات ومعالجتها والاحتفاظ بها على ما تتطلبه الوظيفة المشروعة للنظام. ويشمل ذلك وضع مدد احتفاظ محددة، وفصل صلاحيات الوصول بحسب الوظائف والمسؤوليات، وتسجيل عمليات الاطلاع والتعديل والاسترجاع والمشاركة، ومنع إعادة استخدام بيانات القضايا لتدريب نماذج أخرى أو لأغراض جديدة دون سند قانوني وضمانات مناسبة.
تكتسب هذه المتطلبات أهمية خاصة في ضوء استثناء بيانات محاضر الضبط القضائي والتحقيقات والدعاوى القضائية من نطاق قانون حماية البيانات الشخصية رقم 151 لسنة 2020. ويستدعي هذا الاستثناء تنظيمًا خاصًا يحدد قواعد معالجة بيانات العدالة وحمايتها، بما يتناسب مع حساسيتها وآثار الإفصاح عنها أو إساءة استخدامها على الحرية والحياة الخاصة وحقوق الأطراف.
تزداد المخاطر عندما تتصل الأنظمة المستخدمة في مراحل الدعوى المختلفة اتصالًا يسمح بانتقال مخرجاتها بصورة آلية. فقد ينتقل تلخيص أنتجه نظام في مرحلة الضبط إلى ملف التحقيق، ثم يُستخدم بوصفه مدخلًا لنظام آخر في النيابة أو المحاكمة، فيكتسب الخطأ الأول مظهرًا من الموثوقية نتيجة تكراره داخل السجلات. ولمنع ذلك، يجب وضع قواعد لفصل الوظائف والتحقق من مصادر المعلومات عند انتقالها بين مراحل الضبط والتحقيق والاتهام والمحاكمة. والمقصود بهذا الفصل ضبط انتقال التقييمات والتصنيفات والمخرجات الآلية، مع استمرار تداول البيانات والأدلة التي يجيز القانون تداولها. ويجب أن يكون واضحًا في الملف ما إذا كانت المعلومة مستمدة من دليل أصلي أو من معالجة آلية لذلك الدليل، وما المراجعة التي خضعت لها قبل استخدامها في المرحلة التالية. وتبقى المعلومات الأصلية متاحة للفحص المستقل، حتى لا تتحول رواية أولية أنتجتها جهة الضبط أو أداة تقنية إلى أساس يصعب مناقشته في المراحل اللاحقة.
يستلزم ذلك تحديد الوضع القانوني للمخرجات التي ينتجها الذكاء الاصطناعي داخل الإجراءات الجنائية، مع التمييز بين وظائفها المختلفة. فالتفريغ الآلي لجلسة مسجلة يهدف إلى توثيق أقوال يمكن الرجوع إلى تسجيلها الأصلي للتحقق من دقتها، بينما ينتج التلخيص الآلي نصًا مختصرًا يتضمن اختيارات بشأن المعلومات التي يجري إبرازها أو استبعادها. أما التقرير الفني الناتج عن تحليل دليل باستخدام الذكاء الاصطناعي، فقد يتضمن استنتاجات تستلزم فحص طريقة إنتاجها ومدى صلاحيتها.
تختلف هذه الحالات عن التصنيفات الإدارية المستخدمة لتنظيم الملفات أو ترتيب العمل داخل المؤسسة. ولهذا يجب أن يحدد الإطار القانوني شروط استخدام كل نوع، وما إذا كان يجوز تقديمه دليلًا أو قرينة أو تقريرًا فنيًا مساعدًا، أو أن وظيفته تظل تنظيمية لا يجوز منحها وزنًا إثباتيًا مستقلًا. ويجب أن يخضع كل مخرج مؤثر في تكوين الاقتناع القضائي لمتطلبات الإفصاح والمناقشة والطعن المناسبة لطبيعته، دون افتراض أن جميع المخرجات الآلية تتمتع بالحجية نفسها.
تنطبق متطلبات الفحص والمساءلة على المخرجات التي تصل إلى ملف الدعوى من خارج الأنظمة التي تشغلها المؤسسات القضائية. فقد يقدم أحد أطراف القضية تقريرًا لتحليل صور كاميرات باستخدام التعرف الآلي على الوجوه، أو تحليلًا لغويًا لمحادثات، أو استنتاجًا صادرًا عن نظام مراقبة خاص. يجب إخضاع هذه المخرجات، عندما تعتمد على معالجة بالذكاء الاصطناعي، لمعايير تتناول مشروعية الحصول على البيانات، وهوية النظام المستخدم، وطبيعة المعالجة التي أجراها، وحدود أدائه، وإمكان فحص النتيجة بصورة مستقلة. وتتحمل الجهة المقدمة للمخرج عبء تقديم المعلومات اللازمة لتقييمه وفق قواعد الإثبات المطبقة، مع تمكين الدفاع من مناقشته وطلب استبعاده عند وجود أساس قانوني لذلك. ويظل للأدلة الرقمية التي لا تعتمد على الذكاء الاصطناعي نظامها القانوني والفني العام، دون أن يؤدي توسيع ضمانات الذكاء الاصطناعي إلى الخلط بين النوعين.
تحتاج المخرجات الآلية التي تدخل ملف القضية إلى سجل يتيح تتبع عملية إنتاجها والتعديلات التي طرأت عليها. ويجب أن يتضمن هذا السجل هوية النظام وإصداره وتاريخ المعالجة وطبيعة المدخلات المستخدمة، ومدى اكتمالها وجودتها، والمراجعات البشرية التي خضع لها المخرج، وهوية من أجراها وتوقيتها. وينبغي الاحتفاظ بالتسجيلات أو الملفات الأصلية التي استُخدمت لإنتاج المحاضر والملخصات والتقارير، مع توثيق العلاقة بينها وبين النسخ المعتمدة داخل الملف. وعندما تُستخدم مؤشرات لدقة النظام، يجب بيان مصدرها وظروف اختبارها ومدى انطباقها على الاستخدام محل الفحص، دون تقديم متوسط الأداء العام باعتباره ضمانًا لصحة مخرج بعينه. تتيح سلسلة التوثيق والحيازة هذه تحديد موضع الخطأ، ومعرفة ما إذا كان قد نشأ أثناء المعالجة الآلية أو المراجعة البشرية أو تداول النسخ، وتوفر أساسًا عمليًا لمناقشة سلامة المخرج أمام الجهة القضائية المختصة.
الرقابة البشرية والمؤسسية والشفافية
تتطلب الرقابة البشرية الفعلية قدرة الشخص المسؤول عن الإجراء على فحص المخرج الآلي قبل اعتماده، والرجوع إلى المعلومات الأصلية التي استند إليها، ورفض النتيجة أو تعديلها دون عوائق تقنية أو مؤسسية. ويجب أن تتناسب المدة المخصصة للمراجعة مع تعقيد المهمة ومستوى خطورتها، وأن يمتلك المراجع الصلاحيات والمعلومات اللازمة للتحقق من سلامة المخرج. كما ينبغي توثيق القرارات الجوهرية المتعلقة بقبول المخرجات أو تعديلها أو استبعادها، وأسبابها، في سجل يمكن الرجوع إليه عند الاعتراض أو المراجعة اللاحقة.
تكتسب هذه المتطلبات أهمية خاصة عندما يؤثر النظام في ترتيب الأدلة أو تلخيص أقوال المتهمين والشهود أو اقتراح إجراءات التحقيق. فلا تتحقق الرقابة بمجرد توقيع القاضي أو عضو النيابة على نتيجة أعدها النظام، إذا كانت طريقة إعدادها قد حدّدت مسبقًا عناصر الملف التي وصلت إلى نظره دون إمكان مستقل لفحصها.
ويتوقف نجاح هذه الرقابة على امتلاك المستخدمين كفاءة مناسبة لطبيعة الأنظمة التي يتعاملون معها. لذلك ينبغي أن يتضمن الإطار التنظيمي تدريبًا إلزاميًا للقضاة وأعضاء النيابة والعاملين المختصين الذين يستخدمون المخرجات الآلية أو يراجعونها، وأن يشمل التدريب حدود النظام ومصادر الخطأ المحتملة وطرق التحقق من النتائج وإجراءات الإبلاغ عن الأعطال. ويجب أن يرتبط التأهيل بالنظام المستخدم ووظيفته، بدلًا من الاكتفاء ببرامج عامة للتعريف بالذكاء الاصطناعي.
كما ينبغي تحديد حد أدنى من الكفاءة قبل تكليف المستخدم بمراجعة مخرجات نظام مرتفع الخطورة، مع تحديث التدريب عند إدخال تغييرات جوهرية عليه. ويلزم أن تشارك في إعداد برامج التأهيل جهات وخبرات مستقلة عن المورد، حتى لا تنحصر المعرفة المتاحة للمستخدمين في المعلومات التي يختار المطور تقديمها عن منتجه.
تقتضي مساءلة الأنظمة إنشاء آلية رقابية مستقلة عن الجهات المشغلة، تتمتع بصلاحيات الاطلاع على الوثائق الفنية وسجلات التشغيل، والتحقيق في الشكاوى والحوادث، وطلب اختبارات الأداء، ومتابعة تنفيذ إجراءات التصحيح. ويمكن أن تتخذ هذه الآلية شكل هيئة متخصصة أو مفوض مستقل أو جهة تفتيش تتمتع بالخبرات القانونية والقضائية والتقنية اللازمة. ويجب تحديد سلطاتها القانونية بصورة واضحة، بما يسمح لها بإصدار قرارات إدارية ملزمة بشأن اعتماد الأنظمة أو تعليق تشغيلها أو اشتراط إعادة تقييمها، وفق اختصاصها، مع إبقاء الفصل في آثار المخرجات على القضايا والقرارات القضائية للجهات القضائية المختصة. ويحول هذا التمييز دون الخلط بين الرقابة على سلامة البنية التقنية والتدخل في سلطة القاضي في نظر الدعوى.
تحتاج هذه الرقابة إلى تدقيق تقني دوري تجريه جهة مستقلة عن المشغل والمورد، وتتمتع بالاستقلال المهني اللازم عن الجهة الرقابية التي تشرف على تنفيذ متطلبات الاعتماد. ويجب أن يتناول التدقيق الأنظمة عالية المخاطر بصورة استباقية، حتى في غياب شكوى أو حادثة معلنة، لأن بعض الاختلالات لا تظهر في صورة خطأ منفرد يمكن للمتقاضي اكتشافه. ويشمل الفحص دقة الأداء، وتفاوت النتائج بين الفئات، وسلامة البيانات، ومنطق إنتاج المخرجات بالقدر الممكن فنيًا، وسجلات الاستخدام والتعديل، ومدى الالتزام بالوظائف المسموح بها. وتُحدد دورية التدقيق بحسب مستوى المخاطر وحجم الاستخدام والتغييرات التي تطرأ على النظام، مع نشر نتائج مناسبة تتيح المساءلة العامة دون الإفصاح عن بيانات القضايا أو المعلومات التي يحمي القانون سريتها.
وتستكمل الشفافية العامة الرقابة المؤسسية والتدقيق المتخصص. ويجب إلزام الجهات المشغلة بنشر تقارير دورية توضح الأنظمة المستخدمة ووظائفها ونطاق تشغيلها، والتغييرات الجوهرية التي طرأت عليها، وحالات تعليق الاستخدام وأسبابها. وتشمل التقارير خلاصات نتائج تقييمات الأداء، وعدد الاعتراضات المسجلة والمسارات التي اتُّبعت لمعالجتها ونتائجها، والإجراءات التصحيحية التي اتخذتها الجهات المسؤولة. ويجب أن تكون المعلومات المنشورة كافية لتمكين الباحثين وهيئات الدفاع والمجتمع المدني من متابعة أداء الأنظمة ومساءلة الجهات المشغلة، مع حماية سرية القضايا والبيانات الشخصية. ولا تحل هذه التقارير محل حق أطراف الدعوى في الحصول على المعلومات التفصيلية المتعلقة باستخدام النظام في ملفاتهم.
ويجب أن يتضمن الإطار التنظيمي قنوات آمنة للإبلاغ عن الأعطال والانحيازات والتجاوزات التي يكتشفها العاملون داخل مؤسسات العدالة أو الجهات المتعاقدة معها. فقد يرصد قاضٍ أو عضو نيابة تكرار خطأ في المخرجات، أو يكتشف موظف تقني أن تحديثًا أدى إلى تراجع الأداء، أو يعلم مسؤول تشغيل بوجود وصول غير مصرح به إلى البيانات. في هذا السياق، تقتضي حماية المبلغين إتاحة تقديم البلاغات بسرية، ومنع الإجراءات الانتقامية المرتبطة بها، وإلزام جهة مستقلة بفحصها، مع توفير مسار للإبلاغ الخارجي إذا تعذرت المعالجة الداخلية أو كانت الجهة المسؤولة عن التشغيل طرفًا في المخالفة. وينبغي توثيق نتائج التحقيق والإجراءات التصحيحية، مع الإفصاح عن المعلومات اللازمة للمساءلة دون تعريض المبلغين أو أصحاب البيانات لمخاطر إضافية.
حقوق المتقاضين وضمانات الدفاع والانتصاف
يجب أن يعرف أطراف الدعوى متى استُخدم الذكاء الاصطناعي في إجراء مؤثر في ملفهم، وما الوظيفة التي أداها، وما المعلومات أو المخرجات التي أُنتجت بواسطته. ويتطلب ذلك إقرار حق إجرائي في الإخطار باستخدام الأنظمة المؤثرة في القضية، والاطلاع على المخرجات ذات الصلة وسجلات استخدامها، مع مراعاة القيود القانونية المشروعة المتعلقة بسرية المعلومات وحقوق الأطراف الأخرى.
ويجب أن يكون الإخطار محددًا بما يكفي لتمكين الدفاع من معرفة المرحلة التي استُخدم فيها النظام، والعنصر الذي ساهم في إنتاجه أو تعديله، والجهة المسؤولة عن اعتماده. فلا يستطيع المتقاضي مناقشة أثر معالجة آلية لم يعلم بوقوعها، خاصة إذا كانت قد أثرت في صياغة المحضر أو ترتيب المعلومات أو توصيف الوقائع المعروضة على المحكمة.
يرتبط الإخطار بحق الحصول على معلومات تمكن الدفاع من فحص المخرجات المؤثرة في القضية. ويشمل ذلك معرفة طبيعة المدخلات المستخدمة، والمصادر التي استند إليها النظام، والمعايير أو المتغيرات ذات الصلة بإنتاج المخرج بالقدر الذي تسمح به طبيعة التقنية، ونتائج الاختبارات التي تحدد حدود أدائه في مهام مشابهة. وعندما يوفر النظام درجات ثقة أو مؤشرات احتمالية، يجب بيان كيفية حسابها وما إذا كانت قد خضعت للتحقق من صلاحيتها، دون معاملتها باعتبارها دليلًا على صحة النتيجة بمجرد ظهورها. وقد يستلزم الفحص إتاحة معلومات عن أداء النظام في حالات مشابهة، شريطة حجب البيانات التي يمكن أن تكشف هوية أطراف قضايا أخرى أو تنتهك خصوصيتهم. ويجب أن تكون المعلومات المتاحة كافية لإجراء مراجعة تقنية ذات معنى وممارسة حق الاعتراض فعليًا.
ينبغي أن يتضمن الإطار القانوني حقًا صريحًا في الاعتراض على استخدام نظام ذكاء اصطناعي في مرحلة إجرائية محددة عندما تتوافر أسباب جدية للاعتقاد بأنه أضر بحقوق أحد الأطراف أو حال دون فحص الوقائع بصورة مستقلة. ولا يمتد هذا الحق إلى رفض جميع وسائل الرقمنة بصورة مطلقة، وإنما يتعلق بالاستخدام الذي يمكن تحديد أثره الإجرائي ومناقشة مشروعيته أو سلامته.
يجب أن يحدد القانون الجهة المختصة بالفصل في الاعتراض، والمعلومات التي يحق للدفاع طلبها، وإجراءات النظر فيه، والتدابير المؤقتة التي تمنع استمرار الاعتماد على مخرج محل منازعة جدية عندما يكون ذلك ضروريًا لحماية الحقوق. وينبغي تنظيم هذه الإجراءات بما يضمن فاعلية الاعتراض مع مراعاة حق المتهم في الفصل في الإجراءات خلال مدة معقولة.
تتطلب ممارسة هذه الحقوق إتاحة خبرة تقنية مستقلة عندما يكون تقييم المخرج أو النظام خارجًا عن المعرفة المهنية المعتادة لفريق الدفاع. فقد يحتاج الاعتراض إلى فحص سجلات التشغيل أو اختبار بيانات أو مراجعة طريقة معالجة التسجيلات أو الصور أو النصوص، وهي إجراءات قد تتجاوز إمكانات المتقاضي أو محاميه. لذلك ينبغي إقرار مسار يسمح للدفاع بطلب الاستعانة بخبير تقني مستقل عند وجود منازعة جدية في مخرج مؤثر في القضية، مع تحمل الدولة التكلفة عندما يعجز المتقاضي عن دفعها، وفق ضوابط تمنع إساءة الاستخدام دون تعطيل الحق. ويجب أن يتمكن الخبير من الاطلاع على المعلومات الضرورية للفحص في إطار ضمانات السرية وحماية البيانات، وأن تُتاح للأطراف فرصة مناقشة تقريره أمام الجهة القضائية المختصة. فالتكافؤ الإجرائي يتطلب قدرة معقولة على فحص الدليل التقني، حتى لا يصبح الاعتراض حقًا يتوقف عمليًا على الموارد المالية.
لا يكفي الاعتماد على الطعون الفردية لمعالجة العيوب التي تمتد آثارها إلى عدد كبير من القضايا. فقد ينتج النظام نمطًا متكررًا من الأخطاء أو الانحيازات، بينما لا يمتلك المتقاضي في قضية منفردة المعلومات اللازمة لإثبات اتساع الخلل. ولهذا تقترح الورقة إنشاء مسار قانوني يتيح الطعن في مشروعية النظام أو نمط تشغيله، إلى جانب الاعتراض على مخرجاته في القضايا الفردية. ويمكن أن يحدد التشريع الجهات التي تتمتع بالصفة اللازمة لمباشرة هذا الطعن، بما يشمل نقابة المحامين والجهات المعنية بالمساعدة القانونية والمنظمات الحقوقية، وفق شروط واضحة. وتختص الجهة القضائية التي يحددها القانون بالنظر في هذه المنازعات، مع إمكان الاستفادة من تقارير الجهات الرقابية والتدقيق المستقل. ويهدف هذا المسار إلى معالجة الخلل البنيوي الذي لا تكفي مواجهته بإبطال مخرج واحد مع استمرار إنتاج المخرجات المعيبة في قضايا أخرى.
يجب أن تترتب على الأخطاء التي تمس الحقوق آثار إجرائية وقانونية تتناسب مع طبيعتها وجسامتها ومدى تأثيرها في سلامة الإجراء. فقد يستلزم الخطأ في تفريغ محضر جلسة تصحيح النص بالرجوع إلى التسجيل الأصلي، بينما قد يقتضي خلل حرم الدفاع من إثبات طلب أو مناقشة دليل إعادة إجراء معين أو استبعاد المخرج الذي تأثر به. وينطبق ذلك على المخرجات التي يتعذر إخضاعها لفحص كافٍ يسمح بمناقشتها بصورة فعالة، إذ يجب ألا يستمر الاعتماد عليها في الإجراءات المؤثرة في الحرية أو حق الدفاع. وإذا تعذر تدارك الأثر داخل الإجراء القائم، ينبغي أن تتاح وسائل المراجعة القضائية المناسبة وفق القواعد القانونية المنظمة لها. ويجب كذلك تحديد مسؤولية الجهة المشغلة والمورد، كل في نطاق التزاماته، عند ثبوت وجود تقصير أدى إلى الضرر. وبهذا ترتبط المساءلة بالنتائج الفعلية للخلل، بدلًا من الاكتفاء بتسجيل الحادثة أو تعديل النظام دون معالجة أثرها على أطراف القضية.
يمتد الالتزام بمعالجة الأخطاء إلى القضايا السابقة على اكتشافها. فإذا ثبت أن نظامًا أنتج مخرجات معيبة أو منحازة خلال فترة تشغيل معينة، يجب أن تتخذ الجهة المختصة إجراءات لتحديد الملفات التي تأثرت بذلك الخلل وتقييم آثاره، مع إعطاء الأولوية للقضايا التي ترتب عليها حرمان من الحرية أو مساس جوهري بحق الدفاع. ويشمل ذلك إخطار الأطراف المعنيين بالقدر الممكن قانونًا وعمليًا، وإتاحة المسارات المناسبة للتظلم أو طلب إعادة النظر أو المراجعة القضائية وفق طبيعة القرار ومرحلته. ولا يكفي وقف النظام أو تصحيح نسخه اللاحقة إذا بقيت مخرجاته السابقة مؤثرة في أوضاع قانونية قائمة. ويتطلب هذا الالتزام الاحتفاظ بسجلات تشغيل موثوقة تسمح بتحديد نطاق القضايا المتأثرة دون الاحتفاظ بالبيانات لمدة غير مبررة.
منع التمييز وحماية الفئات الأكثر تعرضًا للضرر
يجب أن تخضع الأنظمة المستخدمة في العدالة لتقييم مستمر لآثارها على الفئات المختلفة، بما يتجاوز قياس متوسط الأداء العام. فقد يحقق النظام مستوى مرتفعًا من الدقة في مجمل الحالات، بينما تتوزع أخطاؤه بصورة غير متكافئة أو تترتب عليها نتائج أشد على بعض الأطراف. ولهذا ينبغي إلزام الجهات المشغلة بإجراء تقييمات دورية تقيس معدلات الخطأ ودقة الأداء وآثار المخرجات على الفئات الاجتماعية والجغرافية ذات الصلة، بما يشمل النساء والأطفال وكبار السن والأشخاص ذوي الإعاقة، والأطراف الذين يواجهون صعوبات في الحصول على تمثيل قانوني أو خدمات رقمية مناسبة. ويجب أن تراعي هذه التقييمات خصوصية البيانات المستخدمة في قياس الفروق، وأن تعتمد وسائل مشروعة ومتناسبة لجمعها وتحليلها، دون تحويل مكافحة التمييز إلى مبرر لجمع معلومات حساسة لا تقتضيها الحاجة الفعلية.
يجب أن يمتد التقييم كذلك إلى الآثار الإجرائية للأنظمة، بما يشمل التفاوت في ترتيب أولوية القضايا، أو إحالتها بين المسارات المسموح بها، أو معدلات قبول المخرجات الآلية ورفضها أو تعديلها بعد المراجعة البشرية. وينبغي فحص هذه المؤشرات بحسب الفئات الاجتماعية والجغرافية ذات الصلة، حتى يمكن تحديد ما إذا كان استخدام النظام يؤدي إلى اختلافات في المعاملة أو النتائج لا تبررها طبيعة الإجراءات أو مقتضيات القانون. وإذا كشف التقييم عن تفاوت ضار لا يمكن تبريره بضرورة قانونية محددة ومتناسبة، يجب إلزام الجهة المشغلة باتخاذ إجراءات تصحيحية، وتعليق استخدام النظام في الوظيفة المتأثرة إذا تعذر توفير ضمانات كافية لمنع استمرار الضرر. وتُتاح نتائج التقييم للرقابة المستقلة، ويُنشر منها ما يسمح بالمراجعة العامة دون تعريض الأشخاص لانتهاك خصوصيتهم.
تبرز أهمية الاختبارات التفصيلية في الأنظمة المستخدمة لتحويل الكلام إلى نص أو لترجمة الأقوال وتلخيصها. فاختلاف اللهجات العربية في مصر، ووجود لغات محلية أخرى مثل اللغات النوبية، وتفاوت جودة التسجيلات وظروف الاستجواب والجلسات، جميعها عوامل تستدعي اختبار قدرة الأنظمة على التعامل مع التنوع اللغوي الفعلي للأشخاص الذين ستُستخدم معهم. وينبغي ألا يُفترض تساوي الأداء بين هذه الحالات اعتمادًا على نتائج اختبارات عامة، أو أن يُجزم بوجود تفاوت محدد دون بيانات تثبته.
لذلك، يجب أن تشمل الاختبارات اللهجات واللغات ذات الصلة، والاختلافات في النطق وسرعة الكلام وجودة الصوت، مع تحديد الحد الأدنى المقبول للأداء بحسب طبيعة الاستخدام. ولا يجوز الاعتماد على مخرج لغوي غير متحقق من دقته في إثبات أقوال مؤثرة في قضية جنائية أو في تكوين تقدير قانوني دون الرجوع إلى المصدر الأصلي ومراجعة بشرية مؤهلة، مع إتاحة الترجمة أو المساعدة اللغوية اللازمة لضمان حقوق الشخص المعني.
وتحتاج بعض الفئات إلى ضمانات إجرائية إضافية تبعًا لاحتياجاتها الفعلية وطبيعة الإجراء الذي تخضع له. فقد يواجه الطفل أو الشخص ذو الإعاقة أو من يفتقر إلى تمثيل قانوني كافٍ صعوبات خاصة في فهم مخرجات الأنظمة الرقمية أو الاعتراض عليها أو الوصول إلى المعلومات اللازمة للدفاع. لذلك، يجب أن تتضمن معايير الاستخدام تقييمًا لهذه الاحتياجات، وتوفير وسائل تواصل وإتاحة مناسبة، وضمان المساعدة القانونية والبشرية المباشرة عند الحاجة، مع فرض قيود إضافية على التطبيقات التي قد تؤثر في هذه الفئات بصورة أشد. ولا ينبغي أن تُبنى الحماية على افتراض عدم قدرة الأشخاص بسبب انتمائهم إلى فئة معينة، وإنما على إزالة العوائق التي تمنعهم من ممارسة حقوقهم على قدم المساواة. ويجوز أن تقتضي الحماية حظر تطبيقات بعينها في إجراءات محددة عندما يتعذر منع آثارها الضارة بضمانات أقل تقييدًا.
يمتد نطاق الحماية المقترحة إلى استخدام الذكاء الاصطناعي في إدارة الاحتجاز السابق للمحاكمة وتنفيذ العقوبات، بالنظر إلى اتصال هذه الوظائف المباشر بالحرية الشخصية وشروط الاحتجاز، وإن اختلفت الجهات المختصة بها عن مؤسسات التحقيق والمحاكمة. وتشمل المخاطر التي ينبغي أن يعالجها التنظيم المحتمل استخدام أنظمة لتصنيف المحتجزين، أو تقدير مستوى خطورتهم، أو اقتراح قرارات الإفراج أو شروط الزيارة والعلاج والحركة.
تُطرح هذه التطبيقات باعتبارها مجالات تستلزم تنظيمًا وقائيًا، دون افتراض ثبوت استخدامها بالفعل داخل مرافق الاحتجاز المصرية. وينطبق على هذا المجال الحظر المقرر للتصنيفات الخوارزمية التي تُستخدم لتقدير خطورة الأشخاص عندما تؤثر في قرارات تمس حريتهم أو معاملتهم. أما الاستخدامات الإدارية الأخرى المسموح بها، فيجب إخضاعها لرقابة مستقلة وضمانات مشددة تتناسب مع ظروف الاحتجاز وصعوبة ممارسة الحقوق داخله. ويشمل ذلك تمكين المحتجز ومحاميه من الاطلاع على المخرجات المؤثرة في مركزه أو شروط احتجازه، ومناقشتها أمام الجهة المختصة، مع ضمان المراجعة البشرية المباشرة للقرارات التي تؤثر في سلامته وحقوقه الأساسية.
تكتسب هذه الضمانات أهمية إضافية في ظروف الطوارئ والضغوط الأمنية والتشغيلية، حين تتسع صلاحيات الضبط والاحتجاز وتزداد احتمالات اللجوء إلى أدوات يصعب فحصها أو مراجعة آثارها. لذلك يجب أن ينص التنظيم المقترح على استمرار متطلبات المشروعية والشفافية والرقابة المستقلة وحقوق الدفاع، وألا يسمح بتعليقها بقرار إداري أو بذريعة استعجال الإجراءات.
ويجب أن تظل أي تدابير استثنائية خاضعة للحدود التي يقررها الدستور والالتزامات الدولية الواجبة التطبيق، بما يحفظ الضمانات الأساسية التي تستند إليها شرعية الإجراءات القضائية. وتزداد الحاجة إلى مساءلة استخدام الذكاء الاصطناعي كلما اتسع نطاق السلطة الاستثنائية، لأن تسريع الإجراءات في هذه الظروف قد يضاعف آثار الخطأ على أشخاص تقل قدرتهم على الاعتراض أو الوصول إلى وسائل الانتصاف.
خاتمة
تكشف التطورات التي تناولتها هذه الورقة عن توسع استخدام التقنيات الرقمية والذكاء الاصطناعي في مرفق العدالة المصري، بما يشمل إعداد محاضر الجلسات، وإدارة ملفات القضايا، واسترجاع المعلومات القانونية، وتحليل أوراق التحقيقات. وتتفاوت هذه التطبيقات في مراحل تطويرها وتشغيلها، لكنها تشترك في قدرتها على التأثير في العمليات التي تسبق اتخاذ القرار القضائي. وتكتسب هذه المرحلة أهمية خاصة لأن المعلومات التي تصل إلى القاضي أو عضو النيابة تكون مرت بإجراءات جمع ومعالجة وتنظيم قد تحدد ما يظهر من الوقائع، وكيف يُعرض، وما يُمنح منها أولوية في النظر. وبهذا يصبح تصميم الأنظمة وتشغيلها جزءًا من ممارسة السلطة الإجرائية، بما يستدعي إخضاعهما لضمانات قانونية تتناسب مع أثرهما المحتمل في حقوق المتقاضين.
يتقدم هذا التوسع التقني في ظل فجوة بين ما تعلنه الدولة عن تطوير الأنظمة واستخدامها، وما تتيحه الوثائق المنشورة من قواعد تفصيلية تحكم عملها داخل المؤسسات القضائية والنيابية. فقد أرسى إطار الحوكمة الوطني للذكاء الاصطناعي، المعتمد في مارس 2026، أساسًا عامًا لتصنيف المخاطر وتنظيم استخدام الأنظمة، لكن الورقة لم تقف على تنظيم قطاعي منشور يحدد التطبيقات المحظورة داخل مرفق العدالة، وشروط اعتماد التطبيقات عالية المخاطر، وحقوق الأطراف في الاطلاع والاعتراض، والآثار الإجرائية للأخطاء. وتتضاعف أهمية هذا التنظيم في ضوء استثناء بيانات الضبط القضائي والتحقيقات والدعاوى القضائية من نطاق قانون حماية البيانات الشخصية رقم 151 لسنة 2020. ولا يعني غياب التنظيم القطاعي المنشور انتفاء الضمانات الدستورية والقانونية القائمة أو عدم وجود ضوابط داخلية، لكنه يكشف قصورًا في إتاحة قواعد متخصصة يمكن للمتقاضين والدفاع والجهات الرقابية الاستناد إليها لتقييم مشروعية الاستخدام ومساءلة المسؤولين عنه.
تحدد المعايير التي اقترحتها الورقة متطلبات معالجة هذه الفجوة عبر تنظيم دورة استخدام الأنظمة وما يترتب عليها من آثار إجرائية. ويقتضي تطبيقها إخضاع الوظائف التي تؤثر في الحقوق لتقييم مسبق ومستمر للمخاطر، وحظر الاستخدامات التي تنقل سلطة التقدير القضائي إلى الأنظمة الآلية أو تحول التصنيفات الخوارزمية للأشخاص إلى أساس لقرارات تمس حريتهم. كما يستلزم ضمان قدرة القاضي وعضو النيابة على فحص المخرجات والرجوع إلى مصادرها، وتمكين الدفاع من معرفة استخدام الأنظمة ومناقشة نتائجها والاستعانة بخبرة تقنية مستقلة عند الحاجة. وتكتسب هذه الحقوق مضمونها العملي عندما تقترن بإجراءات تتيح تصحيح الأخطاء واستبعاد المخرجات المعيبة ومراجعة القرارات التي تأثرت بها، مع اتخاذ ضمانات إضافية لحماية الأشخاص الأكثر تعرضًا للضرر أو الأقل قدرة على الوصول إلى وسائل الاعتراض.
وتظل هناك حدود لما يمكن استخلاصه من المعلومات المتاحة عن التطبيقات المصرية. فالوثائق العلنية التي تناولتها الورقة لا تكشف تفاصيل التعاقدات مع موردي التقنية وشروط التدقيق والوصول إلى البيانات، أو نتائج اختبارات الأداء الميداني للأنظمة المستخدمة في تحويل الكلام إلى نص وتحليل الملفات، أو طبيعة التدريب الذي يتلقاه مستخدمو هذه الأنظمة، أو آليات رصد الأخطاء والاعتراض عليها. ولذلك لا تسمح المادة المتاحة بتقييم مدى التزام كل نظام بالمعايير المقترحة، أو الجزم بحجم الآثار التي ترتبت على تشغيله في القضايا الفعلية. وتبرز هنا أهمية الإفصاح المؤسسي بوصفه شرطًا لإمكان إجراء هذا التقييم، إذ يتطلب الحكم على سلامة الاستخدام معلومات موثوقة عن أداء الأنظمة وحدودها وكيفية التعامل مع أخطائها.
تضع هذه النتائج مسؤولية واضحة على الجهات المعنية بتنظيم مرفق العدالة وإدارة التحول التقني داخله. فالتوسع في استخدام الذكاء الاصطناعي يستدعي تنظيمًا قانونيًا متخصصًا يسبق نشر الأنظمة عالية المخاطر، ويحدد المسؤوليات والحقوق والجزاءات، ويضمن استمرار الرقابة والمساءلة طوال فترة التشغيل. وتظل الغاية من استخدام التقنية تحسين أداء مرفق العدالة دون إضعاف الضمانات التي تقوم عليها مشروعية إجراءاته. ولن يكون تسريع إعداد المحاضر أو تحليل الملفات أو تداول المعلومات تقدمًا في تحقيق العدالة إذا صاحبه انتقال أخطاء يصعب اكتشافها، أو تضييق قدرة الدفاع على مناقشة الأدلة، أو تحميل الأطراف الأقل موارد كلفة تصحيح مخرجات أنظمة لا يملكون معلومات كافية عنها. يتحدد نجاح هذا التحول بقدرته على صون الحقوق في جميع المراحل التي تسبق الحكم، وبإبقاء السلطة الإجرائية خاضعة للفحص والمراجعة والمساءلة.