مواجهة خطاب الكراهية على اﻹنترنت

مقدمة

حسب إحصائيات أجريت في شهر أكتوبر 2022، يوجد حوالي 5.07 مليار شخص متصلون بشبكة اﻹنترنت. هؤلاء يمثلون 63.5% من إجمالي 7.99 مليار نسمة يسكنون كوكبنا. ما يقرب من 60% من سكان العالم (4.74 مليار نسمة) يستخدمون شبكات التواصل الاجتماعي. بالنسبة لمعظم هؤلاء الناس، منصات التواصل الاجتماعي قد أصبحت مصدرهم الرئيسي للأخبار والمعلومات، وكذلك للأفكار والتوجهات.

إلى جانب أن منصات التواصل الاجتماعي هي المصدر والسبب والمجال الرئيسي للمعدل غير المسبوق ﻹنتاج ونشر وتلقي المعلومات، فهي وسيلة التواصل اﻷولى التي تتيح لكل شخص أن يعبر عن آرائه متحررًا من حدود المكانية والخبرة التي تفرضها وسائل اﻹعلام اﻷخرى.

هذا بالطبع له أثر إيجابي عظيم على ممارسة الحق في حرية التعبير حيث إنه يسمح لعدد كبير إضافي من الناس بالتعبير عن أفكارهم علانية. ولكن، بقدر ما يضاف من كل أنواع الكلام الذي يتم نشره علانية، بقدر ما يضاف أيضًا من الكلام الضار. كذلك، بقدر ما أن مزيدًا من الناس قد أصبحوا عرضة لتلقي كلام أكثر تنوعًا من خلال منصات التواصل الاجتماعي، بقدر ما أن مزيدًا منهم هم بالتبعية معرضون لتلقي كلام ضار. ويمكن التدليل على أن خطاب الكراهية هو النوع اﻷكثر انتشارًا من هذا الكلام الضار.

وقعت كثير من الأحداث خلال الأعوام القليلة الماضية والتي جعلت من الواضح أن خطاب الكراهية بصفة عامة، وخطاب الكراهية على اﻹنترنت بصفة خاصة، يمكن أن يهدد معيشة وسلامة وحتى حياة الناس، خاصة من ينتمون إلى أقليات من حيث العنصر، اﻹثنية، الديانة، أو التوجه الجنسي. اﻷذى الذي يمكن ربطه بثقة بالانتشار واسع النطاق لخطاب الكراهية يمكن أن يتصاعد حتى يصل إلى الحض على التصفية العرقية. الدول الموقعة على العهد الدولي للحقوق المدنية والسياسية ملزمة بأن تجرم بالقانون خطاب الكراهية الذي يمكن إثبات أنه يصل إلى حد الحض على التمييز أو العنف ضد المجموعات المستضعفة أو أعضائها. ولكن عندما ينتشر هذا الخطاب من خلال منصات التواصل الاجتماعي على اﻹنترنت، تظهر عدة مشاكل متعلقة بالتعرف عليه والتعامل معه.

إلى جانب حقيقة أن الفضاء السيبراني له العديد من الملامح المميزة التي تجعل من الأصعب التعرف على خطاب الكراهية على اﻹنترنت، فطبيعة اﻹنترنت العابرة للحدود تؤدي إلى ظهور مزيد من المشاكل التي تتعلق بتحديد من له الحق الشرعي، في مقابل من يملك القدرة، للتعامل مع خطاب الكراهية على اﻹنترنت. المفارقة التي تتمثل في أن منصات التواصل الاجتماعي هي ملكيات خاصة ويديرها القطاع الخاص، في حين أنها الساحة الرئيسية حيث يمارس أغلب الناس اليوم حقهم في حرية التعبير، تخلق مشاكل إضافية أيضًا. اﻷكثر وضوحًا بين هذه المشاكل هو أن الشركات ليست ملزمة بالانصياع للقانون الدولي لحقوق اﻹنسان، ومن ثم فهي غير ملزمة بأن تتبع قواعد هذا القانون التي تسعى للموازنة بين حماية الناس في مواجهة عواقب خطاب الكراهية وبين حماية حقهم في حرية التعبير.

التهديدات التي يشكلها الانتشار الواسع بشكل ملحوظ لخطاب الكراهية على اﻹنترنت قد ألجأت الدول والشركات إلى اتخاذ عديد من اﻹجراءات مؤخرًا. وإلى جانب حقيقة أن مثل هذه الجهود غير متسقة على نطاق عالمي فهي لا تنطوي على ضمانات بالالتزام بحقوق اﻹنسان، خاصة الحق في حرية التعبير والحق في الخصوصية. تحتاج مواجهة خطاب الكراهية على اﻹنترنت إلى توجه مختلف عن تشريعات الدول أو القواعد المختلفة الخاصة بإدارة المحتوى التي تضعها الشركات. مثل هذا التوجه ينبغي أن يكون متسقًا على نطاق عالمي حتى يكون فعالًا، وينبغي أن يوازن بين حقوق الناس في الأمن وبين حقهم في حرية التعبير والخصوصية.

تسعى هذه الورقة إلى تقدم المعلومات الكافية لتشكيل صورة واضحة للمشاكل المتعلقة بخطاب الكراهية على اﻹنترنت ومكافحته. كما تسعى أيضًا إلى تقديم مؤشرات حول مقاربة بديلة للتعامل مع خطاب الكراهية على اﻹنترنت بطريقة متوافقة مع الالتزام المتوازن بحقوق اﻹنسان.

كيف يختلف خطاب الكراهية على اﻹنترنت

كثير من الملامح المميزة للمحتوى على اﻹنترنت تجعل محتوى خطاب الكراهية وأثره المحتمل عند نشره من خلال منصات التواصل الاجتماعي مختلف تمامًا عما يكون عليه الحال إذا ما نُشر من خلال وسائل اﻹعلام التقليدية. فيمكن لمستخدمي منصات التواصل الاجتماعي أن يتمتعوا بقدر من المجهولية لا يمكن توفره في حالة وسائل اﻹعلام التقليدية. وتعني المجهولية في عديد من الأحيان الحصانة ضد العواقب، ومن ثم فهي تزيد من جرأة المستخدمين الذين يمكن أن يصدر عنهم أقوال على اﻹنترنت كانوا في العادة سيترددون في إصدارها بأي مكان آخر، خاصة فيما يتعلق بموضوعات ذات حساسية و/أو محل خلاف مجتمعي.

كلما ازدادت حدة الاختلاف حول محتوى ما كلما كان مرشحًا ﻷن يجذب اهتمام مستخدمي منصات التواصل الاجتماعي، وكلما كانوا أقرب ﻹعادة مشاركته لحصد بعض من الاهتمام بدورهم. لا يعني ذلك بالضرورة أن من يعيدون نشر المحتوى يرغبون في الدفاع عن مقولاته أو حتى أنهم يوافقون عليها، ومع ذلك مشاركة المحتوى للتعبير عن رفضه لا تزال تساعد في نشره.

المحتوى المرشح أكثر من غيره لاجتذاب اهتمام مستخدمي منصات التواصل الاجتماعي يتلقى قدرًا أكبر من الترويج بواسطة خوارزميات المنصة التي ترشح المحتوى للمستخدمين. مثل تلك الخوارزميات أيضًا تتيح المحتوى للمستخدمين بناءًا على ما تفاعلوا معه سابقًا أكثر من غيره، وهو ما يجعل من المرجح أن يتفاعل هؤلاء المستخدمين مع المحتوى الذي ترشحه لهم الخوارزميات، ويكون ذلك عادة من خلال إعادة نشره، واﻹشارة إليه، ونشر روابط له. لا تُفرِّق الخوارزميات بين التفاعل اﻹيجابي والتفاعل السلبي، وهي تميل كذلك إلى ترشيح المحتوى بناء على البيانات الشخصية للمستخدمين بما في ذلك العرق، اﻹثنية، الجنسية، الديانة، إلخ، ومن ثم فهي قد ترشح ببساطة محتوى للمستخدمين المستهدفين باﻹهانات، الازدراء أو التهديدات الواردة به على وجه الخصوص.

المحتوى الأكثر شيوعًا على اﻹنترنت يميل إلى أن يظل حيًا لفترة أطول، وإلى أن يعاود الظهور على السطح بشكل أكثر تكرارًا، وهو ما يعني أن خطاب الكراهية مرشح للاستدامة، متخذًا صورًا مختلفة، ومهاجًرا إلى منصات أخرى، متسببًا في كل مرة في مزيد من اﻷذى القادر على إنتاج، وقد يعاد تدويره، ويعاد نشره، وتعاد مشاركته في كل مناسبة ذات صلة به. وهو أيضًا سيتراكم مع الخطاب المشابه له، فيمنح كل منهما التأكيد والدعم للآخر.

في البلدان التي تتقلص فيها ساحات التعبير اﻷخرى بشكل كبير، أو حتى تختفي فيها تمامًا، يكون للخطاب المنتشر على اﻹنترنت أثر أكبر، ويصبح أكثر قابلية للتلاعب من قبل المجموعات المنظمة الراغبة في نشر الكراهية ضد اﻷقليات. في تقرير أصدرته البعثة المستقلة لكشف الحقائق حول ميانمار في أغسطس 2019، تصف البعثة كيف أن كل من القيود المفروضة على حرية التعبير والمعدل المرتفع لخطاب الكراهية على اﻹنترنت كان لهما معًا عواقب كارثية أدت إلى مزيد من العنف ضد أقلية الروهينجا المسلمة في ميانمار. وفي نفس التقرير حملَّت البعثة المسؤولية لفيسبوك عن الإخفاق في التعامل مع انتشار خطاب الكراهية ضد الروهينجا من خلال منصته.

في المحصلة، لدى خطاب الكراهية فرصة أفضل ﻷن يٌنشر من خلال اﻹنترنت على منصات التواصل الاجتماعي مقارنة بوسائل اﻹعلام اﻷخرى ﻷن الناس يمكنهم الشعور بثقة أكبر للتعبير عن أفكار خلافية بلهجة أكثر عدائية على اﻹنترنت. كما أن لدى خطاب الكراهية فرصة أفضل في الانتشار أسرع وأبعد على اﻹنترنت، نتيجة للعوامل المختلفة التي تحكم انتقال المحتوى على اﻹنترنت، خاصة من خلال منصات التواصل الاجتماعي.

التعرف على خطاب الكراهية على اﻹنترنت

الخطوة اﻷولى الضرورية لمكافحة خطاب الكراهية على اﻹنترنت هي القدرة على التعرف عليه. ليس من السهل دائمًا التعرف على خطاب الكراهية في العالم الواقعي، ويزداد اﻷمر صعوبة عندما ينتشر خطاب الكراهية من خلال منصات التواصل الاجتماعي نتيجة لحالات التفاعل الفريدة المتاحة على اﻹنترنت والتي ليس لها مثيل في العالم الواقعي. على سبيل المثال، يمكن لضحكة مستهزئة في العالم الواقعي أن تدوم لثوان معدودة ويمكن أن يلاحظها عدد محدود من الناس، ولكن رد فعل ضاحك يقصد به الاستهزاء على منشور على فيسبوك سيدوم طالما ظل المنشور موجودا، وسيلاحظه عدد غير محدود من الناس.

ديناميكيات التفاعل على اﻹنترنت، وخاصة على منصات التواصل الاجتماعي، تجعل من المحير، أغلب الوقت، تحديد ما إذا كان تعبيرًا ما على اﻹنترنت يشكل خطاب كراهية، وإذا كان كذلك، فإلى أي مدى يشكل تهديدًا حقيقيًا. طور مستخدمو شبكات التواصل الاجتماعي صورًا من التعبير مختصة بالتفاعل الرقمي على اﻹنترنت. بعض هذه الصور يعتمد على خواص تقدمها هذه المنصات، مثل مزج النص بالصور والصور المتحركة ومقاطع الفيديو، أو استخدام أيقونات التفاعل، والردود السياقية على منشورات اﻵخرين، والميمات. تتوافق بعض صور التفاعل اﻷخرى مع الحدود التي تفرضها منصات بعينها، مثل استخدام الاختصارات وحذف أجزاء من النص إذا ما كانت متضمنة في السياق ﻹبقاء المنشورات مختصرة وفي حدود عدد بعينه من الحروف.

مثل هذه الصور من التعبير تؤدي في حالات عديدة إلى الاستخفاء والسياقية. ويعني الاستخفاء هنا أن بعض التعبيرات يمكن أن تبدو حسب كل المعايير غير ضارة على اﻹطلاق ﻷغلب الناس، في حين أنها مؤذية للمستهدفين بها. بعض من التعبيرات المؤذية قد تكون خفية إلى حد أن تكون مجرد رد فعل ضاحك على منشور على فيسبوك. وفي حين أن خطاب الكراهية الخفي يمكن للمستهدفين به وحدهم فهمه أكثر من اﻵخرين، فخطاب الكراهية السياقي يمكن ﻷغلب الناس المشتركين في سياق مشترك أن يفهموه. مثل هذا السياق قد يكون محدودًا في نطاقه أو مشترك على نطاق واسع بحيث يمكن لملايين من البشر ملاحظة معنى الخطاب من خلاله.

السياقية الناشئة عن خواص التفاعل على اﻹنترنت بصفة عامة، تضاف إلى السياقية الثقافية. فالخطاب الذي يشكل تحريضًا يهدد حياة وسلامة الناس في مكان يمكن ألا يكون له أهمية في مكان آخر. وتصبح اﻷمور أكثر تعقيدًا حيث إن كلًا من السياقين يتغير طيلة الوقت، وفي بعض اﻷحيان خلال فترة قصيرة من الوقت. ويمكن لبعض العوامل السياقية أن تكون مؤقتة، بحيث أننا لو تخيلنا تحقيقًا افتراضيًا حول خطاب كراهية بعد فترة من الوقت، فقد لا يكون قادرًا على إعادة تكوين صورة للسياق الذي صدر فيه الخطاب، حيث إن ذلك السياق لم يعد له وجود أو أثر. ولا يساعد على حل هذه المعضلة في كثير من اﻷحيان أن المنشورات تظل باقية ويمكن الاطلاع عليها، فالمعنى المتصل بها يتعلق بما هو أبعد من مجرد المعنى اللغوي للنص أو ما تبدو عليه الصورة إلخ.

من يتحمل مسؤولية مكافحة خطاب الكراهية على اﻹنترنت

منصات التواصل الاجتماعي مثل فيسبوك وتويتر هي مساحات عابرة للحدود بواقع أن باﻹمكان الوصول إليها من خلال اﻹنترنت. وهذا يعني أن أي شخص في أي مكان في العالم إذا كان يمكنه الاتصال بالإنترنت يمكنه أيضًا أن يستخدم أي من هذه المنصات للتعبير عن أفكاره ورؤاه بواسطة النص، الصور، الفيديو، الصوت أو أي خليط من هذه الصيغ. على وجه مشابه، يمكن ﻷي شخص بأي مكان في العالم طالما كان يمكنه الاتصال باﻹنترنت أن يكون عرضة لتلقي الخطاب المنشور من خلال هذه المنصات، بغض النظر عن المكان الذي نشأ به هذا الخطاب في اﻷصل.

منصات التواصل الاجتماعي هي أيضًا مساحات خاصة، حيث إن شركات القطاع الخاص هي من يملكها. وهذا يعني أن حكومات الدول لا يمكنا التدخل مباشرة في عملياتها. والحكومات محصورة في تنظيم عمليات منصات التواصل الاجتماعي من خلال التشريعات التي تستهدف الشركات التي تملكها. ولكن استهداف الشركات التي تقدم خدمات منصات التواصل الاجتماعي على اﻹنترنت هو أمر معقد نتيجة لحقيقة أن هذه الشركات مضطرة قانونًا لأن تلتزم بقوانين الدول التي أنشئت بها أو التي تتواجد فيها، في حين أن الخطاب المنتشر من خلال منصاتها يمكن أن يصل إلى الناس المتصلين باﻹنترنت في أي مكان في العالم.

يمكن لخطاب معاقب عليه قانونًا في إحدى الدول أن يُنشًّر علانية داخل هذه الدولة من خلال منصة تواصل اجتماعي يمكن لمواطنيها الوصول إليها. ولكن كل من مستخدم المنصة الذي نشر الخطاب، والشركة التي تملك هذه المنصة قد لا يكونا خاضعين لقوانين هذه الدولة. ويعني ذلك أن اﻹجراءات القانونية المعتادة لا يمكن تطبيقها في مثل هذه الحالة.

ولكننا إذا ما وضعنا قابلية القانون للتطبيق جانبًا يظل هناك سؤال المسؤولية اﻷخلاقية والمسؤولية القانونية. فالشخص أو الجهة التي نشرت الخطاب هي بوضوح مسؤولة أخلاقيًا وقانونًا عنه. ولكن اﻷمر ليس بذلك الوضوح من حيث اﻷخلاق أو القانون عندما يتعلق بالمسؤولية القانونية أو اﻷخلاقية للشركة المالكة للمنصة التي انتشر الخطاب من خلالها. وفي عالمنا لدى اثنتين من التقاليد القانونية الهامة مقاربتان مختلفتان حول هذا السؤال. فالتقليد القانوني للولايات المتحدة يمنح شركات التكنولوجيا حصانة كاملة ضد العقاب بموجب الخطاب المنشور من خلال خدماتها في ظل المادة 230 الشهيرة. في المقابل، يُلزِّم التقليد القانوني اﻷوروبي شركات التكنولوجيا بالمسؤولية عن الخطاب المنتشر من خلال خدماتها في حال لم يمكنها إثبات جهلها به.

من الناحية الأخلاقية، قد يشترط إلزام الشركات بالمسؤولية عن الخطاب الذي ينشره مستخدمو خدماتها في حال معرفتها بمثل هذا الخطاب وقدرتها على التعرف عليه على أنه خطاب كراهية مؤذي. تطبيق الشرط اﻷول هو مع ذلك لا يمكن له أن يكون شاملًا حيث إنه يتطلب من الشركات أن تراقب كل محتوى يتم نشره على منصاتها. مثل هذا الشرط هو عمليًا مستحيل التطبيق خاصة في حال منصة لديها مليارات المستخدمين مثل فيسبوك. ما هو أكثر أهمية، مثل هذه المراقبة الشاملة ستكون نوعًا من الرقابة التي تنتهك حق مستخدمي التطبيق في حرية التعبير.

إذا ما افترضنا أن الشركة المالكة لمنصة تواصل اجتماعي على اﻹنترنت قد نما إلى علمها ادعاء بأن محتوى ما على منصتها يشكل خطاب كراهية، فليس التحقق من المحتوى لتحديد ما إذا كان حقًا يشكل خطاب كراهية أمرًا سهلًا، وليس ثمة ضمانات ﻷن تكون الشركة قادرة على القيام بهذه المهمة بنجاح، وبعدالة، وبحيادية. إضافة إلى ذلك، ليست القدرة هي الهم الوحيد. ثمة أيضًا شرعية أن تجري الشركات مثل هذه التحقيقات بالمقام اﻷول، ومشروعية أدائها لها في ظل قواعد تضعها هي بنفسها، وتطبق عقوبات قد قررتها هي أيضًا. قد يبدو طبيعيًا أن يضع مقدم خدمة قواعدًا ويطبقها في إطار الاتفاق التعاقدي الذي يربط بينه وبين متلقي الخدمة، ولكن خدمات منصات التواصل الاجتماعي قد نمت لتصبح شيئًا أكبر من مجرد خدمة يضع قواعد استخدامها العقد الذي يربط أطرافها.

مع اﻷهمية الكبيرة لخدمات منصات التواصل الاجتماعي لحياة الناس اليوم، بما في ذلك أثرها الكبير على تمتعهم بحقوقهم وحرياتهم الأساسية وحماية مصالحهم، فمن المشروع تمامًا التعامل معها على أنها مرافق عامة، في حدود ما يتعلق بحقوق الناس التي تتأثر بإدارة عملياتها. ولكن في ظل النظام الحالي للعلاقات الدولية، تمتلك الدول-القومية المستقلة وحدها الحقوق الحصرية لإدارة المرافق العامة وكذلك تنظيم عمليات الشركات لحماية حقوق ومصالح مواطنيها. ليس ثمة منظومة عالمية متسقة يمكنها وضع قواعد ومراقبة تنفيذها عبر حدود الدول ودون المرور بسلطاتها. أو كما سنرى لاحقًا، لا وجود لمنظومة كهذه قد نشأت تاريخيًا من خلال توافق دولي وعبر اتفاقية دولية. وبدون مثل هذه المنظومة لا يزال القطاع الخاص هو الفاعل الوحيد القادر على وضع وإنفاذ القواعد للمحتوى على اﻹنترنت، ووحدها الدول المستقلة يمكنها التدخل في هذه العملية من خلال تنظيم عمليات الشركات، وفقط إذا ما اختارت هذه الشركات الانصياع لقوانينها.

إلزام الشركات بالمسؤولية

شركات القطاع الخاص يمكن فقط أن تكون حساسة تجاه تلك العوامل التي تؤثر في أرباحها. بقدر ما أن انتشار خطاب الكراهية من خلال خدمة تقدمها شركة لا يتسبب في إيذاء أرباحها فليس ثمة ضمانات ﻷن تكون راغبة في تقديم الموارد اللازمة للتعرف على هذا الخطاب أو التعامل معه.

كثير من الشركات قد وضعت بالفعل قواعد خاصة بالخطاب المنشور من خلال خدماتها وتنفد نظم إدارة محتوى للتعرف على الخطاب الذي ينتهك هذه القواعد مع عقوبات ضد المستخدمين الذين ينشرونه. تكون العقوبات محصورة عادة في مجرد محو المحتوى المعني أو التعليق المؤقت أو الدائم (أي الحذف) لحساب المستخدم. الدافع للشركات للقيام بذلك هو الحفاظ على سمعتها والذي يؤثر على رضا مستخدمي خدماتها الحاليين وعلى إمكانية اجتذاب مستخدمين جدد.

تستجيب الشركات أيضًا لطلبات الحكومات بإزالة بعض المحتوى على أساس عدم قانونيته في ظل قوانين هذه الدول. إضافة إلى ذلك، تنشر عديد من الشركات اﻵن تقارير شفافية تدرج فيها عدد الطلبات التي تلقتها والإجراءات التي اتخذتها وفقًا لها إذا ما قبلتها.

من الواضح مع ذلك أن أيًا ما كانت تقوم به شركات التكنولوجيا لإدارة المحتوى على منصات التواصل الاجتماعي على اﻹنترنت فهو غير كاف. فالسنوات اﻷخيرة قد شهدت عديدًا من الحالات التي أخفقت فيها شركات التكنولوجيا الكبرى في التعامل مع المحتوى المتضمن لخطاب كراهية كانت له عواقب كارثية. من بين هذه الحالات إخفاق فيسبوك في اعتراض خطاب الكراهية ضد الروهينجا في ميانمار، وإخفاق كل من يوتيوب وفيسبوك وكذلك تويتر في اعتراض وحذف مقاطع فيديو دعائية للهجوم اﻹرهابي في مدينة كرايست-تشيرش في نيوزلندا.

إخفاق شركات التكنولوجيا في إدارة المحتوى بكفاءة مقبولة بحيث تعترض خطاب الكراهية اﻷكثر تحقيقًا للأذى ليس في الحقيقة مفاجئًا مع العيوب المختلفة في نظم إدارتها للمحتوى من جوانب عدة. بعض هذه العيوب يشمل عدم الدقة في القواعد المستخدمة، وعدم اتساق إنفاذ القواعد، وغياب الشفافية فيما يتعلق بكيفية عمل هذه النظم.

حتى وقت قريب، كان تنفيذ شركة تكنولوجيا ما لمنظومة تتعرف على خطاب الكراهية وتتعامل معه هو أمرًا طوعيًا. ولكن هذا قد بدأ في التغير في السنوات القليلة الماضية حيث بدأت دول عدة حول العالم في إصدار قوانين أو في مناقشة إصدار قوانين لتنظيم إدارة الشركات للمحتوى.

دور الدولة

تقليديًا، تمتلك الدول القومية حول العالم المسؤولية الحصرية عن حماية مواطنيها ضد أي شيء من شأنه تهديد سلامتهم أو مصالحهم. وتمتلك الدول القومية أيضًا الحق الحصري في حماية أمنها القومي. وحيث أن خطاب الكراهية على اﻹنترنت يمكن أن يهدد كل من سلامة المواطنين واﻷمن القومي للدول، فقد كان ثمة توجه عام بين الحكومات حول العالم نحو تجربة مقاربات مختلفة للتعامل مع الخطاب الضار على اﻹنترنت.

الخيار اﻷول الذي تمتلكه دولة للتعامل مع الخطاب الضار على اﻹنترنت هو تطبيق قوانينها القائمة بالفعل والمصممة في اﻷصل للعمل في العالم الواقعي، أو إضافة قوانين جديدة وتطبيقها على الخطاب الذي ينشره علانية من خلال منصات التواصل الاجتماعي أفراد أو جهات لديها سلطة قانونية عليهم، أي مواطنيها والمقيمين اﻷجانب على أراضيها والشركات المقامة داخل حدودها. ولكن ثمة الكثير من المشاكل في هذه المقاربة.

أولًا، التطبيق الشامل للقوانين المحلية التي تكافح خطاب الكراهية لا يتطلب ما هو أقل من الرقابة بالجملة لخطاب الناس والجهات على اﻹنترنت. وهذا يشكل انتهاكًا بشعًا لكل من الحق في حرية التعبير والحق في الخصوصية، إلى جانب كونه مكلف بقدر يجعله على اﻷغلب غير قابل للتنفيذ.

ومع ذلك، إذا لم يطبق القانون بشكل شامل فهذا يعني تطبيقه فقط على الحالات المكتشفة بالصدفة أو التي أثارت الكثير من الاهتمام. وكلا الطريقين يجعل تطبيق الفانون مفتقدًا للعدالة والفعالية. إضافة إلى ذلك، مثل هذا القانون قد يتم استخدامه بشكل انتقائي ﻷغراض غير المقصودة به أو المعلنة له.

ثانيًا، أثبتت عديد من الوقائع أن القوانين والإجراءات التقليدية تتعامل بشكل بائس مع الخطاب المنشور من خلال اﻹنترنت مع اعتبار الخواص الفريدة له. في عديد من الحالات قد تخفق القوانين التقليدية في التطبيق على حالات صارخة لخطاب كراهية شديد اﻹيذاء في حين تعاقب البعض لنشر محتوى لا يشكل خطاب كراهية أو لا يمكن إثبات كونه يحقق الشروط المطلوبة لفرض قيود على الحق في حرية التعبير.

اﻷكثر أهمية مع ذلك هو أنه نظرًا للطبيعة العابرة للحدود للإنترنت، وبالتالي لمنصات التواصل الاجتماعي العاملة من خلالها، فقد يكون مصدر خطاب الكراهية على اﻷغلب خارج مقدرة قوانين الدولة وسلطات إنفاذ القانون بها على الوصول إليه.

المقاربة الثانية التي ممكن للدول استخدامها هو خلق أدوات قانونية لتنظيم عمليات نظم إدارة المحتوى الخاصة بالشركات، حتى وإن لم تكن داخل إطار سلطتها القانونية. وبصفة محدد، يمكن لمثل هذه اﻷدوات القانونية أن تشرع المسؤولية القانونية للشركات عن اﻹخفاق في اتخاذ إجراءات ضد خطاب الكراهية المنشور من خلال منصاتها على اﻹنترنت.

هذه المقاربة هي تلك التي اختارها عديد من الدول في السنوات القليلة الماضية. التشريع اﻷكثر شمولية الذي يتعامل مع المحتوى على اﻹنترنت حتى اﻵن هو قانون الاتحاد اﻷوروبي للخدمات الرقمية والذي أصبح ساريًا بصفة رسمية في 16 نوفمبر الماضي ويفترض أن يدخل حيز التنفيذ بشكل كامل في فبراير عام 2024. هذا التنظيم القانوني هو بفارق كبير التشريع اﻷكثر تفصيلًا والذي تمت صياغته للتعامل مع المحتوى على اﻹنترنت. وهو أيضا اﻷكثر أثرًا نتيجة للحجم الهائل والثراء الكبير للسوق اﻷوروبي الذي لا يمكن لشركات التكنولوجيا تحمل كلفة فقدان مكانها فيه.

مثل هذه القوانين لها مع ذلك مشاكل قانونية. عند تنفيذها يكون على مقدم الخدمة الانصياع لقانون ليس مُلزمًا بشكل شرعي بالانصياع له، حيث إنه صادر عن دولة غير تلك المُنشّأ بها الشركة. ويمكن للشركات أن ترفض الالتزام بمثل هذه القوانين إن كان يمكنها تحمل كلفة خسارة أعمالها بالبلد المعني. وأقصى ما يمكن لدولة فعله إذا ما رفضت الشركة الالتزام بواحد من قوانينها المحلية هو حجب خدمات هذه الشركة داخل أراضيها. وحتى مثل هذا اﻹجراء الذي يعد متطرفًا يمكن لمستخدمي خدمات الشركة تخطيه على أية حال باستخدام حلول تكنولوجية للالتفاف عليه مثل أدوات الفي-بي-إن (الشبكات الافتراضية الخاصة).

إلى جانب الشركات، فمستخدمي خدماتها الذين يعيشون خارج حدود الدولة المصدرة للقانون سيتأثرون على اﻷغلب بتطبيقه من خلال مقدم الخدمة. يمكن للشركات أن تختار حصر تطبيقها للإجراءات المتخذة تنفيذًا للقانون في نطاق جغرافي بعينه، ومن ثم يمكن على سبيل المثال أن تحجب بعض المحتوى وحتى بعض الحسابات داخل حدود الدولة المعنية. ولكن هذا قد يثبت كونه أكثر كلفة مما يمكن تحمله. في مثل هذه الحالات يمكن أن يفاجأ مستخدمو الخدمة بأن محتواهم قد حذف أو حتى أن حساباتهم قد أغلقت تنفيذًا لقانون لا يمكن بشكل مشروع أن يطبق عليهم. كذلك لن تكون أية إجراءات للاستئناف على قرارات كتلك أو للتعويض عليها يضعها القانون قابلة للتطبيق على المستخدمين خارج حدود سلطة إنفاذ هذه القانون. ومن ثم فالمستخدمين بالخارج سيكونون عرضة للعقوبات مثل مواطني الدولة والمقيمين فيها، في حين يحرمون من اﻷدوات المتاحة لهؤلاء للاستئناف على العقوبات أو الحصول على تعويض إذا ما ثبت أنها طبقت عليهم على وجه خاطئ.

بغض النظر عن مشروعية هذه القوانين حين تطبق على شركات أو أفراد ليسوا ملزمين قانونًا بالانصياع لها لا يمكن ضمان أن تكون هذه القوانين كفؤة بالقدر الكافي حيث إن التطبيق الفعلي لها سيتم إنابة الشركات عن الدول في القيام بمعظمه. من الصحيح أنه في ظل هذه القوانين سيتم ذلك تحت رقابة وإشراف سلطات الدولة المعنية وكذلك أطراف أخرى في حال سمح أو عهد لها القانون بذلك، لضمان اتساق تطبيقه. ولكن هذه الرقابة محصورة بالمحتوى المتاح داخل حدود الدولة المعنية. والتزام الشركات بالقانون خارج حدود الدولة المعنية لن يشكل مشكلة لهذه الدولة، ولا يمكنها قانونًا معاقبة الشركات إذا ما اختارت عدم تنفيذه خارجها. إضافة إلى ذلك حتى إذا ما طبقت الشركات قواعد أي من هذه القوانين عالميًا، فإن خطاب الكراهية الذي من شأنه إحداث أذى حقيقي في دول أخرى يظل باﻹمكان ألا يتم التعامل معه إذا لم يكن مؤهلًا كخطاب كراهية في ظل قواعد القانون، ربما ﻷسباب تتعلق بالاختلاف الثقافي أو بعوامل سياقية أخرى. ومن ثم، فأي قانون شرعته إحدى الدول أو مجموعة من الدول مثل الاتحاد اﻷوروبي، لا يمكنه معالجة مشكلة خطاب الكراهية بصفة عالمية حتى وإن أمكن التسامح مع كون تخطيها لحدود السلطة القانونية يعد انتهاكًا لمعايير القانون الدولي.

خاتمة: هل باﻹمكان إيجاد بديل مختلف؟

عندما تعرضت هذه الورقة سابقًا لغياب منظومة دولية قابلة للتطبيق عالميًا دون المرور بسلطات الدول القومية، كان ثمة استثناء تاريخي ينقصه فقط أن يكون قد نشأ عن توافق دولي. هذا الاستثناء قائم بالفعل وفي إطار مؤسسات حوكمة الإنترنت، وهو يتمثل في مؤسسات مثل شركة اﻹنترنت للأرقام والأسماء المخصصة ICANN، وفي مؤسسات أخرى تضع قواعد عمل البنية التكنولوجية البرمجية لشبكة اﻹنترنت والوب. ولكن هذه المؤسسات لم تنشأ نتيجة لتوافق دولي، والقبول بسلطتها هو مجرد انصياع للأمر الواقع نتيجة أنها وجِدَّت عمليًا قبل انتشار اﻹنترنت إلى جميع أنحاء العالم. ولا يزال كثير من الدول يعرب علانية عن رغبته في استبدال هذه المؤسسات بأخرى ما-بين-دولية (أي تتشكل من عضوية الدول القومية مثل الاتحاد الدولي للاتصالات على سبيل المثال) والتي يمكن أن تخضع لرغبات الحكومات ولا تكون مستقلة عن اﻹرادة الجماعية لها. ولا يختلف الحال أيضًا فيما يخص مبدأ تعددية أصحاب المصلحة الغالب على حوكمة اﻹنترنت حتى اﻵن، ولا تخفي كثير من الدول امتعاضها من أن هذا المبدأ يتيح لشركات التكنولوجيا الضخمة نفوذًا كبيرًا على تقرير مصير اﻹنترنت، وهو أمر صحيح إلى حد كبير، ولكنه لا يبرر استبدال هذا المبدأ بآخر يجعل للحكومات مثل هذا النفوذ الكبير بدلًا من الشركات، في الحالتين يظل مستخدمو اﻹنترنت، وهم الطرف اﻷكثر تأثرًا بكيفية عمل اﻹنترنت، عرضة لغياب التمثيل المناسب، وبالتالي عرضة لتجاهل مصالحهم.

على أية حال، يظل نموذج مؤسسات حوكمة اﻹنترنت المستقلة عن الدول وحتى عن شركات التكنولوجيا شاهدًا على إمكان إيجاد منظومة قادرة على وضع ومراقبة وتنفيذ قواعد عالمية. وفي الواقع مثل هذه المؤسسات سيكون فرصها في انصياع الشركات لقواعدها أكبر كثيرًا من فرص أغلب الدول فيما يتعلق بانصياع الشركات لقوانينها. فقد يمكن لشركة من شركات التكنولوجيا الكبرى أن تتحمل فقد أعمالها بدولة صغيرة أو منخفضة الدخل ولكن أن تطبق مؤسسة دولية مثل آيكان عقوبة قصوى بحجب خدماتها سيكون مكافئًا لخروج الشركة بشكل كامل من السوق.

إذا كان وجود المنظومة العالمية المستقلة التي يمكنها تنظيم إدارة المحتوى على اﻹنترنت أمرًا ممكنًا من الناحية الفنية، فلا يزال تحققه على أرض الواقع بعيد المنال ﻷنه ليس ثمة شك في أن أغلب الدول إن لم تكن كلها ستقاوم إنشاء هذه المنظومة بشراسة، بما في ذلك الدول الغربية التي تدعم مبدأ تعددية أصحاب المصلحة في حوكمة اﻹنترنت، فهذه الدول عندما تعلق اﻷمر بأمنها القومي لجأت إلى تشريع قوانين فرضتها على الشركات بواقع أهمية أسواقها، ولم تلجأ أو حتى تفكر في طرح بديل على غرار مؤسسات حوكمة اﻹنترنت.

الطرف اﻷكثر استفادة من نشأة مثل هذه المنظومة هم بلا أدنى شك المستخدمون العاديون لشبكة اﻹنترنت ولمنصات التواصل الاجتماعي، ولكن كما هو الحال مع كل القضايا ذات الصلة بحوكمة ومصير شبكة اﻹنترنت، لا يزال إمكان الاعتماد على إرادة مستخدميها للتعامل مع هذه القضايا أو تقرير هذا المصير معلق بأن يكون ثمة كيانات عابرة لحدود الدول تعبر بشكل مباشر عن إرادة كتلة حرجة مؤثرة لهؤلاء المستخدمين. وحتى ذلك الحين سيظل عبء محاولة الحفاظ على مصالح مستخدمي اﻹنترنت معلق بجهود منظمات المجتمع المدني المعنية بملف الحقوق الرقمية وما يتصل به من حقوق وحريات أساسية.