"تقنية التعرف على الوجوه عنصرية، ولا مكان لها في مجتمع عادل"

هذا ما غردته أمس السيناتور الأمريكية آيانا بريسلي ممثلة ولاية ماساتشوستس على حسابها في موقع تويتر، عن تقنية التعرف على الوجوه التي تم إدخالها في السنوات الأخيرة إلى عمل رجال الشرطة في الولايات المتحدة.

لتعقبها بعد بضع ساعات فقط تغريدة السيناتور الأمريكية المحامية إليزابيث وارن، التي قالت فيها: "أنظمة المراقبة هذه عنصرية، وتنتهك الخصوصية، وتهدد الحريات المدنية، ولا يجب أن يكون لها مكان في منظومتنا القضائية".

وتنادي اليوم، الكثير من الأصوات في المجتمع الأمريكي على مواقع التواصل الاجتماعي لتوقيع عريضة إلكترونية تطالب فيها أعضاء الكونغرس بمنع استخدام تقنية التعرف على الوجوه لما فيها من انتهاك للحقوق والخصوصية وتهديد لأمن المواطنين.

فإذا صحّ أن بلداً يتبجح بالديمقراطية المطلقة مثل أمريكا يستخدم هذه التقنية بوليسياً في التجسس على مواطنيه، كيف سيكون حجم الكارثة إذا ما أدخلت هذه التقنية إلى عمل الأنظمة المخابراتية في العالم العربي؟ هل تراها تكون الثورة التكنولوجية التي تحل محل عنصر المخابرات المتخفي كبائع للجرائد والتبغ أو كصاحب عربة البليلة الذي يرصد ويراقب وجوه المارة بصمت؟ ما زلنا لا نستطيع التنبؤ بالعواقب.

في مقال نشر على موقع أمريكا اليوم، يكشف أن فيسبوك عرض مبلغاً وصل قدره إلى 650 مليون دولار للوصول إلى اتفاقية في الدعوى القضائية المقامة ضده لاستخدامه تقنية التعرف على الوجوه بادعاء يقول إنها "متمحورة حول العرق الأبيض والذكور ولا تتضمن النساء والأقليات". وهو أعلى مبلغ في التاريخ لحل نزاع قضائي متعلق بالخصوصية.

هذا وقد أكدت دراسة صادرة عن المعهد الوطني في الولايات المتحدة للمعايير والتكنولوجيا (NIST) ومنشورة عبر موقع معهد MIT منذ ديسمبر الماضي من العام الحالي عنصرية هذه التقنية وعدم دقتها.

العالم الذي كان يمكننا تصوره قبل بضع سنوات فقط في روايات وأفلام الخيال العلمي أصبح حقيقة الآن. فلماذا نشهد اليوم معارضةً شديدة لهذه التقنيات التي حلمنا بها وسعينا إليها، ومن قبل بلدها المنشأ على وجه الخصوص؟

إذا كان "ما بعد الإنسانية" هو تحقيق لحلم الإنسان في التحرر من حدود الجسد البشري كالمرض والوهن والشيخوخة والموت عبر تطوير الوضع البشري والارتقاء به، فهل تكون تكنولوجيا التعرف على الوجوه، إذن، بقدر ما يروّج لها على أنها تحقيق لحلم التحرر من الشرور والجرائم، بقدر ما تشكّل تهديداً لخصوصيتنا عبر السماح لتقنيات الذكاء الاصطناعي بالاطلاع على كمٍ واسع النطاق من البيانات الحساسة؟ كم تبلغ دقتها؟ أليست معرضةً لارتكاب الأخطاء؟ ولماذا هي عنصرية؟

العالم المكشوف عبر تقنية التعرف على الوجوه، والذي كان يمكننا تصوره قبل بضع سنوات فقط في روايات وأفلام الخيال العلمي أصبح حقيقة الآن. فلماذا نشهد اليوم حملات ضد هذه التقنيات التي حلمنا بها وسعينا إليها؟

هوليوود تنبأت بهذا

لكن، ألم تتنبأ هوليوود بهذه التقنية منذ زمن؟

منذ ستينات القرن الماضي وحتى أعوام قريبة كانت تقنية مسح الوجوه والتعرف عليها تبدو للمشاهدين خيالاً بحتاً من صنع الأفلام حتى أصبحت واقعاً اليوم. فمثلاً، يعبر مسلسل ستار تريك التلفزيوني (Star Trek into Darkness (1966 عن التصور البشري للتطور الرقمي المستقبلي. وبالرغم من أجهزة الحاسوب في الستينات كانت تكلف 5 ملايين دولار دون أن تصل لأكثر من واحد بالألف من قدرتها اليوم، كان بإمكان الحاسوب في فيلم ستار تريك مسح وجه الشخص والتعرف عليه في أرشيفه.

وفي فيلم "أوديسا الفضاء" (A Space Odyssey  (1968، أيضاً كان بإمكان الحواسيب التعرف على الأصوات والاستجابة للأوامر الصوتية وإدراك الانفعالات والمشاعر من خلال تقنية التعرف على الوجه. وربما هذا كان رؤية مستقبلية لما وصفه راي كيرزويل في كتابه "الاقتراب من المرحلة التفردية" عن وصول الإنسان إلى الوقت الذي يعجز فيه عن متابعة وجوده من غير دعم جزئي أو كلي من الوسائط الرقمية. هال 9000 أخبرت ديف: أسطيع تمييز حزنك من صوتك يا ديف، لم لا تتناول دواءك وتأخذ قسطاً من الراحة.

في فيلم "الشرطي الآلي" (RoboCop (1987، يقوم الشرطي الآلي في الفيلم بتحميل صورة المجرم إلى الحاسوب ليحدد هوية الشخص باستخدام قاعدة بينات للصور، وبهذا يتم استخدام تقنية مسح الوجه لتطبيق القانون، وبالتالي تحقيق ما وصفه كيرزويل "النجاح في تجاوز الخطر الذي يمكن أن يطال الحياة أو الأمن" بسبب محدودية القدرة البشرية الكلاسيكية على الإحاطة بمسببات الخطر بالطرق التقليدية. والفكرة ذاتها تتكرر في فيلم  العنصر الخامس (The Fifth Element (1997، حيث نشاهد أن سيارات الشرطة لديها برنامج التعرف على الوجوه.

وفيما كرست هذه الأفلام وغيرها، تقنية التعرف على الوجوه كوسيلة لمساعدة رجال القانون على القيام بعملهم، ورفع مستوى الجهوزية للقضاء على الجريمة، لا يبدو أن استخدامها ينحصر لهذه الغاية اليوم، بعد أصبحت واقعاً لا مجرد خيال. فقد شاع استخدام برامج التعرف على الوجه بشكل متزايد في السنوات العديدة الماضية في كل مكان من المطارات والأماكن ومراكز التسوق والمنافذ الحدودية. غير أن هناك العديد من المخاوف بشأن خصوصية الفرد وأمنه التي قد تهددها هذه البرامج تسود في ظل عدم وجود تشريعات واضحة تتعلق باستخدام هذه التكنولوجيا.

علينا ألا ننسى أن واحداً من أكثر المواقع الاجتماعية استخداماً في العالم، وهو فيسبوك، يوظف لتحديد هويات الأشخاص الموجودين في الصور عبر الإشارة إلى حساباتهم على الموقع، ويستخدمها في نظام صممه، يتم عبره تزويد موظفي المبيعات بمعلومات العملاء المأخوذة من حساباتهم على مواقع التواصل الاجتماعي الخاصة لإنتاج سلع تستجيب لاحتياجاتهم

إضافة إلى استخدامها في عدة مجالات أخرى، أبرزها الأمنية حيث يتم إدراج ملامح الوجه مع بصمات الأصابع عند استصدار وثائق الهوية الشخصية، وكذلك عند إجراء اختبارات الحدود لمقارنة الصورة على جواز السفر مع وجه حامل البطاقة. وفي مجال الصحة استخدمت التقنية للكشف عن الأمراض الوراثية مثل متلازمة دي جورج بشكل دقيق وبنسبة نجاح بلغت 96.6 ٪.

وعلينا ألا ننسى أن واحداً من أكثر المواقع الاجتماعية استخداماً في العالم، وهو فيسبوك، يوظف لتحديد هويات الأشخاص الموجودين في الصور عبر الإشارة إلى حساباتهم على الموقع. كما يستخدم جهاز آيفون إكس هذه التقنية كأداة تعرف لإلغاء قفل الجهاز. إضافة إلى أن بعض أصحاب المحال التجارية اعترفوا باستخدامهم التقنية للتعرف على السارقين.

وحتى في التسويق والمبيعات استخدمت في مراكز البيع بالتجزئة ليس فقط للقبض على السارقين بل لتحليل سلوك المتسوقين وتحسين عملية شراء العملاء. مثل النظام الذي صممه فيسبوك والذي يتم عبره تزويد موظفي المبيعات بمعلومات العملاء المأخوذة من حساباتهم على مواقع التواصل الاجتماعي الخاصة لإنتاج سلع تستجيب لاحتياجاتهم.

وقد وجد تقرير حديث لـ McKinsey  أن 45% من جميع أنشطة العمل يمكن أتمتتها قريبًا باستخدام أنظمة ذكاء صنعي كهذه، وأن هذا من شأنه أن يعمل على تغيير اقتصادنا وإحداث تأثير جذري على كيفية عملنا وعيشنا وتفاعلنا.

كل هذه المعطيات تؤكد على أن تقنية التعرف على الوجه لا تترك مجالاً للاختباء - للأبطال والمجرمين على حد سواء، لكن خلف كل هذا قصص لم تعد خفية لاستخدامات أخرى.

دراسة حديثة

فيما تقوم تقنية التعرف على الوجوه على استخدام قاعدة بيانات للصور، مثل الصور الفوتوغرافية وصور رخصة القيادة لتحديد هوية الأشخاص في الصور ومقاطع الفيديو الأمنية، لا يبدو أن حلم الأتمتة ينحصر في تحقيق حياة أسهل وأكثر أماناً. فيبدو أن آلية التحقق من الهوية عبر القياسات الحيوية لرسم ملامح الوجه وسماته الرئيسية أو هندسة الوجه مثل المسافة بين عيني الشخص والمسافة من جبهته إلى ذقنه، تختلط عليها العناصر المتشابهة بين الأعراق المختلفة. أي أن "توقيع الوجه" أو بصمته، التي تتحول إلى صيغة رياضية تتم مقارنتها بعد ذلك بقاعدة بيانات الوجوه المعروفة، قد تجد مطابقات غير صحيحة.

لكن هذا ليس كل شيء! فقد كشفت نتائج الدراسة الصادرة عن معهد (NIST) أن هذه التقنية في الولايات المتحدة حققت نسبة خطأ بين التعرف على الوجوه الآسيوية والأفريقية الأمريكية على الوجوه القوقازية، يتراوح من عامل 10 إلى 100. أي أنها غالباً ما تجد مطابقة برغم عدم وجودها في الأصل. وهذا ما لا نجده في البرامج التي تم تطويرها في الدول الآسيوية، والتي لم ينتج عنها سوى اختلاف بسيط جدًا في المطابقات الخاطئة بين الوجوه الآسيوية والقوقازية.

كما وجدت أن نسبة الخطأ تزداد في التحري عن وجوه الأمريكيين الأصليين، في حين حققت أكبر نسب للخطأ بما يتعلق بمطابقة وجوه الإناث الأمريكيات من أصل إفريقي، ما عرضهن لخطر أكبر لاتهامهم زورا بارتكاب الجرائم. أنظمة التعرف على الوجوه إذن لا تكتفي بالتعرف على الأخطار وتعقبها، إنما تقوم بخلقها عبر نسبة الخطأ التي تخل بالعدالة وحقوق المواطنين.

مراقبة استخباراتية وتجسس

عدا عن نسبة الخطأ الذي حققته هذه التقنية، نشر موقع صحيفة الأتلانتيك أن إساءة استخدامها تجسد مؤخراً خلال الاحتجاجات التي شهدتها الولايات المتحدة وأوروبا لدعم قضية التمييز العنصرية ضد الأفارقة السود، عبر التعرف على وجوههم ووضعهم تحت المراقبة باعتبارهم مشتبهاً بهم.

في دراسة صدرت في يونيو عام 2019 تنبأت بحلول عام 2024، ستحصد سوق التعرف على الوجه العالمية إيرادات يقدر أن تبلغ 7 مليارات دولار، بفوائد سنوية مركبة قد تصل إلى 16% من الإيرادات. فيما قدرت هذه الإيرادات لعام 2019، بمبلغ 3.2 مليار دولار. ورغم هذا المستقبل الباهر لسوق التقنية الجديدة، أصدرت في يونيو الماضي من العام الحالي، وفي خضم حركة احتجاجية واسعة النطاق ضد عمليات القتل المتزايدة من قبل الشرطة الأمريكية ضد السود، شركة IBM إعلانًا مفاجئًا بأنها ستتوقف عن البيع أو البحث أو التطوير لخدمات التعرف على الوجه لما قد يمكن أن تشكله هذه الأنظمة من خطر التجسس على الجماعات.

وقد تبعتها أمازون ومايكروسوفت بإعلاناتهما الامتناع عن بيع خدمات أو منتجات التعرف على الوجه إلى أقسام الشرطة الحكومية والمحلية، ريثما تحصل على تشريعات فيدرالية واضحة بشأن أسلوب استخدامها. لكن، وبحسب الصحيفة، فإن هذه الشركات قد تكون مدفوعة إلى قرارها هذا من خلال مفهوم حسابات الكلفة المالية للدعاوى القضائية المحتملة أكثر من القلق على حياة السود.

ويبدو أن هناك أدلة حقيقية على أن المراقبة السرية باستخدام هذه التقنية على الناشطين والصحفيين السود تسهم بتزايد أعمال الشرطة الوحشية ضدهم. وقد نشرت صحيفة نيويورك تايمز مقالاً هذا الشهر يفيد أنه في عام 2015، تم استخدام تقنية التعرف على الوجه لتتبع واعتقال متظاهري بالتيمور الذين ردوا على مقتل الشرطة لفريدي غراي، الشاب الأسود الذي توفي في الحجز بسبب إصابات في العمود الفقري لم يتم تحميل مسؤوليتها لأحد.

 أعقب ذلك تقرير لنفس الصحيفة يذكر كيف تجسس الأمن الداخلي خلال الأسابيع القليلة الماضية على المتظاهرين في 15 مدينة باستخدام مراقبة الطائرات بدون طيار، في حين التقطت كاميرات الشرطة التابعة للشرطة المجهزة بتقنية التعرف على الوجه صورًا للمتظاهرين، الذين سيتم التجسس عليهم غالباً.

ما المطلوب اليوم؟

في حين تجاوز استخدام تقنية التعرف على الوجوه بلداناً مثل أمريكا وبريطانيا والصين، لينتشر في دول مثل سنغافورة والإمارات العربية المتحدة واليابان، يتلقى الخبراء تدريباً على أحدث أنظمته في بلدان مثل أرمينيا، سيريلانكا، باكستان، زيمبابوي وغيرها.

وقد ذكرنا في مقال سابق ما كشفت عنه في العام الماضي صحيفة هاآرتس الإسرائيلية، عن استخدام سلطات الاحتلال نظام تشغيل باسم "Anyvision" في الضفة الغربية، يتكون من مجموعة كاميرات تسمح للدولة العبرية بمراقبة من تعتبرهم "المهاجمين الفلسطينيين المحتملين". وقد قالت هاآرتس إن الجيش الإسرائيلي يستخدم التكنولوجيا الخاصة بالشركة لمراقبة الفلسطينيين عند نقاط التفتيش في المعابر الحدودية، عن طريق استخدام شبكة من الكاميرات المنتشرة في عمق الضفة الغربية.

في حقبة البيانات التي نعيشها اليوم، تعد هذه التقنيات مدمرة لمبادئ الديمقراطية بسبب استخدامها من قبل الأجهزة الاستخباراتية في التجسس على المواطنين، بقدر ترسيخها للعنصرية من خلال نسبة الخطأ في التعرف على وجوه الإناث السوداوات، وبالتالي تعريضهن زوراً للإدانة

فهذه التقنيات التي تغزو عالمنا الحديث لا تتسبب فقط في تكريس التمييز العرقي، إنما كما شهدنا في عدة حالات، تعزز القبضة الأمنية الاستخباراتية على الشعوب وتنتهك أبسط حقوق المواطنين في الخصوصية. تذكر الكاتبة روها بينجامين في كتابها "العِرق ما بعد التكنولوجيا" (2019) أنه في حقبة البيانات التي نعيشها اليوم "تعد هذه التقنيات مدمرة لمبادئ الديمقراطية بقدر ترسيخها للعنصرية".

والمطلوب اليوم، برأي بينجامين هو ألا يتوقف الجدل حول كيفية إنهاء الأعمال البوليسية الوحشية والعنصرية، فمن شأن هذا أن يؤدي أيضًا إلى تفكيك البنية التحتية لإساءة استخدام سبل المراقبة الرقمية. لكن أكثر من كل هذا، نحن بحاجة إلى حظر تقنية التعرف على الوجوه في الاستخدامات الاستخباراتية لما تشكله من خطر ليس على مجتمعات السود فحسب، وإنما على الشعوب التي ترزح تحت أنظمة قمعية.