الفيسبوك يدخل حرب إسرائيل على غزة... لمصلحة من تعمل الخوارزميات؟

مع كل صراع تكون إسرائيل طرفاً فيه، ومع كل قصف على غزة، يتداول الناس الصور والفيديوهات والمنشورات والشهادات التي توثّق تفاصيل الاعتداء، بالأخص تلك التي لا توثقها المحطات الإخبارية. إما لأجنداتها السياسية، أو التزاماً منها بالقوانين الدولية والمدونات الأخلاقية للبث الإعلامي، والتي لا تسمح ببث صور الإنسان خلال الاحتضار، أو الجثث الممثل بها أو العارية، أو الأشلاء البشرية، أو الأطفال الموتى، وهي الصور التي كثيراً ما تخرج من القطاع. 

وفي كل مرة أيضاً تنتشر على فيسبوك جمل باللغة العربية من نوع: "تم حظر حسابي بسبب منشوري الأخير" أو "تم إلغاء منشوري من قبل الفيسبوك" أو "شاهدوا هذا الفيديو قبل الحذف"، أو الجملة الأكثر شهرة في هكذا أيام: "الله لا يوفقك يا مارك".

بمجرد أن يقوم أي منا بإنشاء حساب على فيسبوك يكون قد قبل/ت بقواعد الاستخدام والشروط والأحكام المقررة من قبل المنصة. ومن ضمن ما تتضمنه هذه القائمة: "عدم نشر محتوى محظور مثل خطاب الكراهية، أو التحريض على العنف"، فهل تسري هذه التعليمات والقيود على كل اللغات وعلى كل التوجهات السياسية بنفس الدقة؟

"نعم أشعر أن الفيسبوك متحيز ضدنا"

تقول تبارك الياسين وهي كاتبة وفنانة فلسطينية مقيمة في مدينة الزرقاء في الأردن: "تم حظر حسابي في الفيسبوك مرتين خلال عملية (عرين الأسود)، بسبب مشاركتي لفيديوهات الشهداء وجنازاتهم".

وفي إجابتها لرصيف22 عمّا إذا كانت تشعر أن الحظر جاء بسبب تحيز أم بسبب المحتوى العنيف، تقول: "شعوري أنه منحاز ضدنا، فيسبوك يسمح لنا بنشر الفيديوهات والصور التي إذا وصلت إلى العالم سيتعاطف مع عدونا، مثلاً صور الأسرى الإسرائيليين مسموحة، لكن صور الشهداء الفلسطينيين ممنوعة في المقابل".

هل هو تحيز متعمد؟

للإجابة على هذا السؤال سألنا منى الغانم، وهي خبيرة تسويق رقمي تعمل في احدى الشركات الكبرى في نيويورك عن رأيها فيما إذا كان الفيسبوك والانستغرام منحازين لطرف دون الآخر في الصراع الفلسطيني الإسرائيلي، فأجابت: "هناك ما هو أهم من رأيي، ألا وهو الحقائق التي تخرج من تقارير ميتا نفسها". 

كاتبة: "الفيسبوك منحاز ضدنا، فهو يسمح لنا بنشر الصور التي إذا وصلت إلى العالم سيتعاطف مع عدونا، كصور الأسرى الإسرائيليين، لكنه يمنع نشر صور الشهداء الفلسطينيين".

تشير الغانم إلى أن "ميتا" الشركة الأم لفيسبوك وإنستغرام كانت قد عيّنت في العام الماضي 2022، شركة استشارات مستقلة لدراسة المسؤولية الاجتماعية للمنصات التي تملكها. وتضيف: "كان السؤال الذي يجب أن يجيب عنه هذا التقرير المهم هو إن كان هناك تحيز، فهل هذا التحيز متعمد أم غير متعمد؟ وقد أجاب التقرير بأن التحيز متعمد".

وتقتبس الغانم الفقرة التالية من التقرير: "يبدو أن إجراءات ميتا في أيار/ مايو 2021 كان لها تأثير سلبي على حقوق الإنسان، وعلى حقوق المستخدمين الفلسطينيين في حرية التعبير، وحرية التجمع، والمشاركة السياسية، وعدم التمييز، وبالتالي على قدرة الفلسطينيين على مشاركة المعلومات ورؤيتهم حول تجاربهم عند حدوثها ".

وفي النهاية كانت التوصية التي خرح بها هذا التقرير تقول بضرورة أن توظّف "ميتا" مزيداً من الموظفين المطلّعين على الثقافة العربية، والمدركين لسياقات الأحداث.

ما هو تعريف المحتوى العنيف وخطاب الكراهية؟

المحتوى العنيف على مواقع التواصل الاجتماعي هو أي نوع من المحتوى الذي يحتوي على عناصر من العنف، أو الترويج للعنف، أو الإشارة إلى أفعال عنيفة، بطريقة تثير القلق ضد الأفراد أو المجموعات، وبناءً على أسس معينة مثل العرق أو الدين أو الجنس.

أما المقصود بخطاب الكراهية فهو التعبير اللفظي أو الكتابي الذي يهدف إلى الترويج للكراهية، أو التحريض على التمييز أو العنف ضد فئة معينة من الأشخاص أو المجموعات، بناءً على أسس معينة مثل العرق، أو الدين، أو الجنس، أو الانتماء القومي، أو العقيدة، أو الثقافة، أو الاعتقادات السياسية، أو الاجتماعية. 

تقرير لـ"ميتا": "إجراءات ميتا في مايو 2021 كان لها تأثير سلبي على حقوق الإنسان، وعلى حقوق المستخدمين الفلسطينيين في حرية التعبير، وحرية التجمع، والمشاركة السياسية، وعدم التمييز، وبالتالي على قدرة الفلسطينيين على مشاركة المعلومات ورؤيتهم حول تجاربهم عند حدوثها"

يقول قاسم أحمد، وهو مهندس معماري يعمل في عمان في تعليقه على التعريفين: "لا أفهم كيف يمكننا أن نتداول أخبار الحرب دون أن نتحدث عن الكراهية والعنف؟ ألا تقوم الحروب والصراعات على هذين العنصرين تحديداً؟ الكراهية كمحرّك والعنف كأداة؟".

ويعلق قاسم في حديثه لرصيف22: "شخصياً أتفاعل مع أخبار غزة على إنستغرام وتيك توك أكثر مما أتفاعل مع فيسبوك، أشعر أن الأخبار تصل بشكل أسرع وبرقابة أقل، قد أكون مخطئاً، وربما لأن الصورة بـ100 كلمة كما يقال".

ربما يكون قاسم مخطئاً بالفعل، فإنستغرام تابع لفيسبوك في سياسات تداول الصور والفيديوهات العنيفة، أو التي تحض على خطاب الكراهية، لأنهما يتبعان للشركة الأم نفسها، أما "تيك توك" -المحظور في الأردن- فقد ألغى عدداً من الحسابات التي تناصر القضية الفلسطينية وآخرها حساب المنصة الإخبارية "موندويس" المختصة بالشأن الفلسطيني-الإسرائيلي. المنصة نشرت خبر حظرها على "تيك توك" على حسابها في منصة "أكس".  

من يقرر مَن الضحية ومن المجرم؟ 

للتمييز في الحرب بين من يبث خطاب الكراهية وخطاب السلام، لا بد من حسم جواب واحد، من هو المجرم ومن هو الضحية بين طرفي الصراع من منظور المنصة؟ في هذه الحالة ستتمكن الضحية من بث الصور التي تثبت تعرضها للاضطهاد، بينما لا يستطيع الطرف المجرم "الإرهابي" بث ذات الصور لأنها ستعتبر ذات محتوى عنيف ودموي. 

يمتلك بعض العاملين في وحدة الأمن السيبراني الإسرائيلي ممن يعملون في الفيسبوك كمتطوعين لرقابة المحتوى، صلاحيات الحذف والحظر دون الاضطرار للدخول في الإجراءات الروتينية.

لهذه الغاية تحديداً ولأن منصات التواصل الاجتماعي تقوم على ما يسمى بالتعلم الآلي " machine learning" أي أنها تتطور بالتغذية، أسست الحكومة الإسرائيلية "وحدة الأمن السيبراني".

هذه الوحدة تقدّم لفيسبوك طلبات دورية لحذف محتويات ومنشورات تناقض روايتها. في تقرير نشر عن وزارة العدل الإسرائيلية في العام 2018 يتضح أن بعض من يعملون في هذه الوحدة متطوعون أيضاً لرقابة المحتوى على "الفيسبوك" لصالح "الفيسبوك"، أي أنهم لا يحتاجون إلى الدخول في إجراءات طلبات الحذف الروتينية الطويلة التي يضطر إليها بقية المستخدمين للموقع.

عن هذا الأمر، تشير مطورة برمجيات الذكاء الاصطناعي أسيل عودة إلى التعاون الذي يسمح به فيسبوك من بعض الجهات والذي قد لا يصب لصالح حرية الرأي والتعبير، تقول: "فيسبوك هو الجهة الوحيدة المسؤولة عن تقييد وحذف الحسابات أو التدخل بالمحتوى بشكل مباشر، ولكن يوجد تقييد غير مباشر من بعض الجهات الحكومية، عن طريق طلب تقييد أي محتوى مخالف لقوانينها، أو من الشركاء التجاريين، أو بسبب وجود مجموعات ومؤسسات تنظم حملات للتبليغ عن محتوى معين. هذا في العادة يجعل الفيسبوك يستجيب لتبليغاتهم فيعتبر المحتوى مخالفاً، لكن الخبر الجيد أن كلاً من فيسبوك وإكس مثل كل شركات التكنولوجيا، تنشران تقارير الشفافية التي تتحدث عن شروط المحتوى والمعايير والسياسات حسب ردود فعل المستخدمين والحكومات". 

سامية وهي صحافية من القاهرة، كان لها تجربة مغايرة، فبعد أن عثرت على حساب إسرائيلي يدعو إلى إبادة غزة، قدمت هي بلاغاً إلى فيسبوك، تقول: "وجدت حساباً إسرائيلياً على صفحة وزارة الصحة في غزة يوزع الـ(ها ها ها) على أعداد الضحايا. لفتني أن أدخل الحساب، فقد ظننته منخرطاً في حملة موجهة وغير حقيقي. ثم وجدت منشوراً يدعو صراحة لـ(إبادة غزة)، فحاولت أن أقدم بلاغاً لفيسبوك لأن هذا خطاب كراهية وتحريض على أساس الأصل القومي"، فوجدت أن هذه الخاصية غير متاحة لهذا الحساب أو منشوره التحريضي، فصُعقت. عشرات المرات منعني فيسبوك من نشر منشورات أو تعليقات ساخرة بذريعة الكراهية وهذه الكراهية الفجة يسمح بها للإسرائيليين بل ويمنع التبليغ عنها". 

وتضيف: "بعد ثلاثة أيام رد علي الفيسبوك بالقول إن المنشور الذي يطالب بإبادة غزة وسكانها لا ينتهك معاييره". 

دور العنصر البشري

تقول عودة لرصيف22 :"قبل كل شي علينا أن نفهم التالي، شركة فيسبوك لم تعلن من قبل عن نوع خوارزمياتها أو كيفية عملها، ولا حتى حددت سياساتها المتبعة بشكل مفصل". وتشير إلى أن المتعارف عليه أن الخوارزمية نفسها لا تنحاز، فأي انحياز ظاهر هو مسؤولية المطورين، والسبب الرئيسي أن الخوارزمية تكون قد غُذيت ببيانات منحازة. 

خبيرات: "الخوارزميات ذاتها لا تنحاز، لكن العنصر البشري الذي يقوم بتغذيتها بالمعلومات المنحازة يتسبب بهذا الضرر". 

تكمل: "منذ البداية تم اختيار البيانات لتدعم رأياً معيناً من خلال تحديد المصادر، وفي حالة الصراع مع إسرائيل تم تبني الرأي الإسرائيلي بدون أخذ رأي مخالف، من خلال اختيار بيانات التعليم تحت الإشراف (Supervised learning) أي تحديد وتصنيف أي نوع من الكلام هو المقبول، ودرجة تقييم كل رأي". 

تشير عودة إلى أن الخوارزميات في النهاية تترك للتحكم البشري من خلال التعليم المباشر؛ وما يحدث أن الفريق البشري يلقن الخوارزمية كيف تتعامل مع بعض المواضيع الحساسة حسب معاييرهم هم.

وتضيف: "بالنسبة للكلمات المفتاحية، لا يمكن أن تكون لوحدها سبباً في حظر المنشور، فالخوارزميات تحاول تحليل النص كاملاً لتتعرف إلى المعنى العام للنص، لذا قد نجد أن وجود كلمة فلسطين في نص غير سياسي مقبولاً ولا يشكل انتهاكاً للمعايير. لكن الواضح أن كلمات مثل حماس فلسطين وغيرها، محددة كقواعد برمجية (Rule based AI)".

الرقابة الأسوأ تأتي من خارج فيسبوك

لا تقتصر الرقابة وعقوبات الحظر على مواقع التواصل، فما يحدث في فيسبوك لا يبقى في فيسبوك.

في 8 تشرين الأول/ أكتوبر، نشر مركز "عدالة" ومقره حيفا بياناً يدين فيه قيام جامعة حيفا بفصل عدة طلاب بسبب منشوراتهم على خلفية الأحداث الجارية.

أما في مدينة الطيبة المجاورة، فقد مددت محكمة الصلح في مدينة بيتح تكفا، اعتقال شابة لثلاثة أيام، على خلفية نشرها لما اعتبر "تأييداً للفصائل الفلسطينية في قطاع غزة على الفيسبوك"، بالتزامن مع انطلاق أحداث عملية "طوفان الأقصى".

هذه الاعتقالات ليس بالأمر الجديد، إذ يكاد فيسبوك يكون السبب الأول في تسليم أصحاب الآراء المعارضة أو التي لا تتوافق مع السياسات العامة للدول في الشرق الأوسط، فمن لم يعاقبه الفيسبوك بالحظر، ستعاقبه حكومته بالحبس، وإسرائيل لم تظهر كاستثناء عما يحدث لدى جاراتها في قمع الآراء برغم إدعاءاتها بأنها الديمقراطية الوحيدة في الشرق الأوسط. 

هل يمكن التحايل على الخوارزميات؟

تقول الغانم: "الفيسبوك هو رقم واحد والأسوأ في فرض الرقابة، وإنستغرام تابع له في السياسة نفسها، يليهما أكس (تويتر سابقاً) بدرجة أقل، كل هذه المنصات تناقض الحق بحرية الرأي والتعبير". وتنصح المستخدمين والمستخدمات بالتركيز على المحتوى المكتوب أكثر من الصور والفيديوهات، لأن المنشورات البصرية يمكن التعرف عليها بشكل أسرع من قبل الخوارزميات، مع ضرورة وضع قواطع أو تقسيم الكلمة كي لا تتعرف عليها الخوارزمية، مثلاً يمكن كتابة "إsرائيل"، أو" إسر..ائيل". 

صحافية: "حاولت التبليغ عن أحد الحسابات الإسرائيلية التي تدعو لإبادة غزة لأنه يروج لخطاب الكراهية وللإبادة على أساس قومي، ليس فقط أن التبليغ رُفض، لكن اكتشفت أن التبليغ عن هذا الحساب ممنوع"

وتضيف: "أنصح كل من لديهم حسابات على إنستغرام بالدخول إلى الإعدادات وتغيير وضع (sensitively content) إلى (More)، حينها ستظهر الكثير من المحتويات المحظورة، وفي هذه الأيام عادة ما يكون لها علاقة بفلسطين. كما يجب التوقف عن كتابة نص واحد ومشاركته حرفياً في الحملات، فهذه أسهل طريقة للتعرف على محتوى ما وشطبه أو حذف الحساب، وكذلك عدم الإكثار من الهاشتاغات، هاشتاغ واحد يكفي".

ما سبق يشبه ما تفعله الكاتبة تبارك الياسين لتفادي حظر حسابها، تقول: "أحاول التحايل قدر الإمكان، فأضع علامات ترقيم داخل الكلمة الواحدة التي أشعر بأنها قد تتسبب بإغلاق حسابي".

تقول عودة في هذا السياق: "الصور النصية تعامل معاملة النصوص، لكن صور الرسوم دائماً ترفض إذا كانت دموية، ولا أعتقد أن في هذا الأمر أي انحياز، يعني نشر صور أعلام فلسطين أو حماس أو إسرائيل لا يتسبب بالحظر مثل صور القتلى، وهذا دليل ثاني على أن الانحياز محدد بالكلمات".

وتختم: "بحسب سياسات المنصات لا يوجد توضيح لرفض المحتوى الفلسطيني أو الإسرائيلي، لكن هناك مجموعة من الاعتبارات التي تؤخذ قبل تقييد الحسابات، منها نوع المحتوى، ونوع الصفحات التي يتابعها المستخدم، وطريقة تفاعل الآخرين معها. ورغم عدم وجود أي كلام واضح عن استخدام موقع الشخص الجغرافي ضمن هذه الاعتبارات، ولكن حسب الملاحظات فإن فيسبوك يقيد الأشخاص داخل غزة والضفة أكثر مما يقيّد المستخدمين خارجهما حتى لو تشابه المحتوى".   

هل يتعرض المحتوى العبري لنفس القيود؟ 

لكن تهمة التحيز لا يمكن إثباتها إذا تبين أن المنشورات التي يتم تداولها باللغة العبرية أو لصالح إسرائيل تتعرض للرقابة نفسها على خطاب الكراهية والمحتوى العنيف. عن هذا الأمر تقول الغانم: "التقرير الذي قدمته شركة الاستشارات لميتا حول المسؤولية الاجتماعية العام الماضي يقول صراحة من خلال تحليل البيانات (data driven analysis) إن المنشورات المدافعة عن فلسطين والتي يتم حذفها أعلى بكثير من المنشورات المحذوفة المدافعة عن إسرائيل، وعدد المنشورات المحذوفة باللغة العربية أيضاًً أعلى بكثير من المنشورات المحذوفة باللغة العبرية".

رصيف22 توجه إلى مدير عام حملة-المركز العربي لتطوير الإعلام الاجتماعي ومقرها حيفا، نديم ناشف بالسؤال عما إذا كان الإسرائيليون يتعرضون للمعاملة نفسها من فيسبوك وأكس وإنستغرام؟ فأجاب: "بالتأكيد لا تمارس عقوبات وسائل التواصل الاجتماعي على الطرفين الفلسطيني والإسرائيلي بالسوية نفسها، ويوجد تحيز واضح لصالح إسرائيل". 

ويضيف: "في الأيام الماضية، شهدنا تصاعداً ملحوظاً في انتهاكات الحقوق الرقمية على وسائل التواصل الاجتماعي في ظل الأوضاع السياسية الراهنة، لقد رصدنا على منصة (حُر) أكثر من 259 بلاغًا منذ أن بداية الأحداث في 7 تشرين الأول وحتى اللحظة. هذه البلاغات شملت 99 انتهاكاً يتضمن تعليق وتقييد حسابات مناصرة لفلسطين وإزالة محتوى داعم لها، و160 انتهاكاً يتضمن خطابات كراهية وتحريض خاصة باللغة العبرية".

وعن تفسير ارتفاع عدد المنشورات المحذوفة بالعربية عن العبرية على منصات التواصل، يقول: "لسنوات عديدة لم يتواجد تصنيف في شركة ميتا للغة العبرية -والمصنف هو خوارزمية تعمل على تحديد المحتوى وتصنيفه إلى مواضيع معينة-، وقد قام فيسبوك بإضافته منذ أشهر قليلة بسبب الضغوطات لإضافة مصنف اللغة العبرية بعد هبة أيار/ مايو عام 2021، وفي المقابل يوجد مصنف للغة العربية يعمل على إدارة المضمون منذ عام 2015، مما يؤكد لنا الفرق والتحيز في إدارة المضمون بين العبرية والعربية". 

تقرير محايد: "عدد المنشورات المحذوفة باللغة العربية أكبر بكثير من عدد المنشورات المحذوفة باللغة العبرية".

وينوه إلى تقرير "العناية الواجبة ذات الصلة بحقوق الإنسان لآثار Meta في إسرائيل وفلسطين في أيار/ مايو 2023" الذي خرج من منظمة الأعمال من أجل المسؤولية الاجتماعية (BSR)، ويشير إلى أن هنالك تمييزاً بين إدارة المضمون بين اللغتين العربية والعبرية في شركة ميتا.

ويختم: "أما بخصوص شركة أكس (تويتر سابقاً) فلا يوجد أي مصنف للغة العبرية؛ مما يترك المساحة مفتوحة لأي محتوى ضار بدون أية عقوبات، وهو النقيض التام لطريقة تعامل المنصة مع اللغة العربية"، وهو الأمر الذي تفسره عودة بانحياز مالك الشركة إيلون ماسك لإسرائيل بحسب ما أعلنه عن نفسه من مواقف سياسية مراراً.