203 |
قد يجعله سجينًًا للتكنولوجيا الرقمية وغير قادر على التقرير في مصيره، وعلى التأثير الإيجابي في أسرته ومجتمعه. في هذا السياق، تستعمل الكاتبة استعارة دالة لوصف تحولات المراقبة بين الفضاء السيبراني والعالم المادي: الخوارزميات تعرفك أفضل من والدتك. صحيح أنه لا جدال في الســطوة التي تمارســها شــركات التكنولوجيا الكبرى وما تمثله من تهديد للحرية الإنســانية، لكن أحكام الكاتبة قد تحتمل بعض المبالغة بســبب انطلاقها من مســلََّمة تعتبر المستخدمين مجرد ضحايا للخوارزميات وفاقدين للإرادة أمامها، دون الإشــارة إلى دورهم النشــط في محاولة الانفكاك من ) Adversarial Attacks أسرها، بالرغم من تواتر حالات عديدة للهجمات المعارضة ( لإبراز قصور المعالجات الخوارزمية، كتلاعب باحثين بجامعة هارفارد بصور الأشعة السينية المعالجة بالذكاء الاصطناعي لإثارة الانتباه إلى الأخطاء الطبية للخوارزميات في التشخيص الطبي ككشف أمراض غير موجودة وإخفاء أمراض فعلية، وبتجارب فريــق بحثــي عمل على وضــع ملصقات صغيرة على الطريق تســببت في انحراف سيارات تسلا ذاتية القيادة عن مسارها؛ حيث قرأ النظام الملصقات على أنها علامة .) 8 طريق خاطئة ( ارتباطًًا بمجالات الضبط والمراقبة، تشير لورا دي ريفيرا إلى دور الذكاء الاصطناعي )، ففي الصين، أصبح العديد Judicial Internet في تطوير تطبيقات الإنترنت القضائي ( أحكام الإدانة دون تدخل القضاة البشريين، وفي 2017 من المحاكم الصينية يُُصدر منذ ولايتي أركنســاس وأيداهو، أثبتت دراســة مشتركة أشرفت عليها جامعة نيويورك أن استخدام الخوارزميات في نظام التقاضي قد أثََّر سلبيًًّا على حقوق وحريات المواطنين، وبسبب مخاطر تجريم الأبرياء فقد حظرت مدن أخرى بالولايات المتحدة استخدام تقنيات الذكاء الاصطناعي في معالجة القضايا الجنائية، مثل بوسطن وبورتلاند وسان فرانسيسكو. كما أبرزت تقارير تقييم أثر النظام المعلوماتي لمراقبة السجون الأميركية ) تحيزه على أساس اللون؛ حيث يُُصنََّف البيض بشكل منهجي على أنهم COMPAS ( أقل خطورة من الأميركيين الأفارقة، وجرََّاء ذلك، تقل فرص حصول السجناء السود على الإفراج المشروط. وفي كتالونيا، طو ََّرت جامعة برشلونة نموذج ًًا رياضيًًّا مشابهًًا ) لحســاب الأخطار المستقبلية للسجناء ولمساعدة القضاة في تحديد ما RisCanvi ( إذا كان شخص ما يستحق الإفراج المشروط أم لا، وما ينجم عن ذلك من تحيزات يصعب تداركها.
Made with FlippingBook Online newsletter