كيف يمكن للقواعد الأفضل كبح جماح تقنية التعرف على الوجه

وجه الإنسان مميز. إنه عام وشخصي في نفس الوقت. تكشف وجوهنا معلومات حساسة عنا: من نحن بالطبع ، ولكن أيضًا جنسنا وعواطفنا وحالتنا الصحية والمزيد.

لم يتوقع المشرعون في أستراليا ، مثل أولئك حول العالم ، قط أن يتم جمع بيانات الوجه الخاصة بنا على نطاق صناعي ، ثم استخدامها في كل شيء من هواتفنا الذكية إلى كاميرات الدوائر التلفزيونية المغلقة. لذلك لا ينبغي أن نتفاجأ من أن قوانيننا لم تواكب الارتفاع الاستثنائي لتقنية التعرف على الوجه.

لكن ما نوع القوانين التي نحتاجها؟ يمكن استخدام التكنولوجيا في الخير والشر على حدٍ سواء ، لذا لا يبدو أن حظرها ولا الخيار المجاني الحالي هو الأفضل.

ومع ذلك ، فقد ترك الفشل التنظيمي مجتمعنا عرضة للاستخدامات الضارة للتعرف على الوجه. لسد الفجوة القانونية ، نقترح “قانونًا نموذجيًا”: مخطط للتشريعات التي يمكن للحكومات في جميع أنحاء أستراليا اعتمادها أو تكييفها لتنظيم الاستخدامات المحفوفة بالمخاطر للتعرف على الوجه مع السماح باستخدامها بشكل آمن.

تحدي تقنيات التعرف على الوجه

تبدو حالات استخدام تقنيات التعرف على الوجه محدودة فقط بخيالنا. لا يفكر الكثير منا في استخدام التعرف على الوجه لفتح أجهزتنا الإلكترونية. ومع ذلك ، فقد تم أيضًا تجربة التكنولوجيا أو تنفيذها في جميع أنحاء أستراليا في مجموعة واسعة من المواقف ، بما في ذلك المدارس والمطارات ومتاجر البيع بالتجزئة والنوادي وأماكن القمار وإنفاذ القانون.

نظرًا لأن استخدام التعرف على الوجه ينمو بنحو 20٪ سنويًا ، تزداد أيضًا المخاطر على البشر – خاصة في السياقات عالية الخطورة مثل ضبط الأمن.

في الولايات المتحدة ، أدى الاعتماد على تقنية التعرف على الوجه المعرضة للخطأ إلى العديد من حالات الظلم ، وخاصةً بين السود. وتشمل هذه الاعتقال والاحتجاز غير المشروعين لروبرت ويليامز ، والاستبعاد غير المشروع لفتاة سوداء شابة من حلبة التزلج على الجليد في ديترويت.

اقرأ المزيد: التعرف على الوجه آخذ في الازدياد – لكن القانون متأخر كثيرًا

قامت العديد من أكبر شركات التكنولوجيا في العالم – بما في ذلك Meta و Amazon و Microsoft – بتقليل أو إيقاف خدماتها المتعلقة بالتعرف على الوجه. وقد أشاروا إلى مخاوف بشأن سلامة المستهلك والافتقار إلى التنظيم الفعال.

هذا أمر جدير بالثناء ، لكنه أدى أيضًا إلى نوع من “الفشل التنظيمي للسوق”. بينما تراجعت هذه الشركات ، استحوذت الشركات الأخرى التي لديها قدر أقل من القلق على حصة أكبر من سوق التعرف على الوجه.

خذ على سبيل المثال شركة Clearview AI الأمريكية. لقد ألغت المليارات من صور الوجه من وسائل التواصل الاجتماعي ومواقع الويب الأخرى دون موافقة الأفراد المتضررين ، ثم أنشأت خدمة مطابقة الوجوه باعتها إلى الشرطة الفيدرالية الأسترالية وغيرها من هيئات إنفاذ القانون في جميع أنحاء العالم.

اقرأ المزيد: تستخدم الشرطة الأسترالية نظام Clearview AI للتعرف على الوجه دون أي مساءلة

في عام 2021 ، وجد مفوض المعلومات والخصوصية الأسترالي أن كلاً من Clearview AI و AFP قد انتهكوا قانون الخصوصية الأسترالي ، لكن إجراءات الإنفاذ مثل هذه نادرة.

ومع ذلك ، يريد الأستراليون تنظيمًا أفضل للتعرف على الوجه. وقد تم توضيح ذلك في تقرير لجنة حقوق الإنسان الأسترالية لعام 2021 ، وتحقيق 2022 CHOICE في استخدام تكنولوجيا التعرف على الوجه من قبل كبار تجار التجزئة ، وفي البحث الذي أجريناه في معهد التكنولوجيا البشرية كجزء من قانوننا النموذجي.

خيارات لإصلاح التعرف على الوجه

ما هي الخيارات المتوفرة في أستراليا؟ الأول هو عدم فعل أي شيء. لكن هذا يعني قبولنا بأننا لن نكون محميين من الاستخدام الضار لتقنيات التعرف على الوجه ، وإبقائنا في مسارنا الحالي نحو المراقبة الجماعية.

اقرأ المزيد: التعرف على الوجه على نطاق واسع غير متوافق مع المجتمع الحر

هناك خيار آخر يتمثل في حظر تقنية التعرف على الوجه تمامًا. في الواقع ، فرضت بعض الولايات القضائية حظراً على التكنولوجيا ، لكنها تحتوي على العديد من الاستثناءات (للاستخدامات الإيجابية) ، وهي في أفضل الأحوال حل مؤقت.

من وجهة نظرنا ، فإن خيار الإصلاح الأفضل هو قانون لتنظيم تقنيات التعرف على الوجه وفقًا لمدى خطورتها. مثل هذا القانون من شأنه أن يشجع التعرف على الوجه مع منفعة عامة واضحة ، مع الحماية من الاستخدامات الضارة للتكنولوجيا.

قانون قائم على المخاطر لتنظيم تقنية التعرف على الوجه

يتطلب قانوننا النموذجي من أي شخص يقوم بتطوير أو نشر أنظمة التعرف على الوجه في أستراليا إجراء تقييم صارم للأثر لتقييم مخاطر حقوق الإنسان.

مع زيادة مستوى المخاطر ، تزداد أيضًا المتطلبات أو القيود القانونية. سيُطلب من المطورين أيضًا الامتثال لمعيار تقني للتعرف على الوجه ، يتماشى مع المعايير الدولية لأداء الذكاء الاصطناعي والإدارة الجيدة للبيانات.

يحتوي القانون النموذجي على حظر عام للاستخدامات عالية المخاطر لتطبيقات التعرف على الوجه. على سبيل المثال ، يُحظر تطبيق “تحليل الوجه” الذي يُزعم أنه يقيم الميول الجنسية للأفراد ثم اتخاذ قرارات بشأنهم. (للأسف ، هذا ليس افتراضًا بعيد المنال).

يوفر القانون النموذجي أيضًا ثلاثة استثناءات للحظر المفروض على تقنية التعرف على الوجه عالية الخطورة:

1. يمكن للجهة التنظيمية أن تسمح بتطبيق عالي الخطورة إذا اعتبرت أن الطلب مبرر بموجب القانون الدولي لحقوق الإنسان

2. سيكون هناك نظام قانوني محدد لوكالات إنفاذ القانون ، بما في ذلك مخطط “أمر قضائي” من شأنه أن يوفر إشرافًا مستقلًا كما هو الحال مع أوامر التوقيف الأخرى

3. يمكن استخدام التطبيقات عالية المخاطر في البحث الأكاديمي ، مع الإشراف المناسب.

مراجعة من قبل المنظم والأفراد المتضررين

يجب أن يتم إنفاذ أي قانون من قبل جهة تنظيمية تتمتع بالصلاحيات والموارد المناسبة. من يجب أن يكون هذا؟

اقترحت غالبية أصحاب المصلحة الذين استشرناهم – بما في ذلك مستخدمي الأعمال وشركات التكنولوجيا وممثلي المجتمع المدني – أن مكتب مفوض المعلومات الأسترالي (OAIC) ​​سيكون مناسبًا تمامًا ليكون منظمًا لتنظيم تنظيم الوجه. بالنسبة لبعض المستخدمين الحساسين – مثل الجيش وأجهزة أمنية معينة – قد تكون هناك حاجة أيضًا إلى نظام رقابة متخصص.

لقد حانت لحظة الإصلاح

لم نشهد مطلقًا هذا العدد الكبير من المجموعات والأفراد من جميع أنحاء المجتمع المدني والصناعة والحكومة يشاركون ويتوافقون مع الحاجة إلى إصلاح تقنية التعرف على الوجه. ينعكس هذا في دعم القانون النموذجي من كل من مجلس التكنولوجيا الأسترالي و CHOICE.

بالنظر إلى الارتفاع غير العادي في استخدامات التعرف على الوجه ، والتوافق الناشئ بين أصحاب المصلحة ، يجب على المدعي العام الفيدرالي اغتنام هذه اللحظة وقيادة الإصلاح الوطني. الأولوية الأولى هي تقديم مشروع قانون فيدرالي – والذي يمكن أن يستند بسهولة إلى قانوننا النموذجي. يجب أن يتعاون المدعي العام أيضًا مع الولايات والأقاليم لمواءمة القانون الأسترالي بشأن التعرف على الوجه.

هذا الإصلاح المقترح مهم بشروطه الخاصة: لا يمكننا السماح لتقنيات التعرف على الوجه بأن تظل غير منظمة بشكل فعال. كما سيوضح كيف يمكن لأستراليا استخدام القانون للحماية من الاستخدامات الضارة للتكنولوجيا الجديدة ، مع تحفيز الابتكار في الوقت نفسه لتحقيق المنفعة العامة.

يمكن العثور على مزيد من المعلومات حول القانون النموذجي في تقريرنا تقنية التعرف على الوجه: نحو قانون نموذجي.