المدن التائهة.. كيف تعيد الخوارزميات إنتاج التمييز داخل الأحياء؟

لم تعد الخوارزميات مجرد أدوات تقنية تعمل في خلفية تطبيقات الهواتف والمنصات الرقمية، بل أصبحت جزءا مؤثرا في الطريقة التي تُدار بها المدن وتوزع بها الخدمات والفرص بين سكانها. فمن تحديد مسارات السيارات وتوصيل الطعام، إلى تقييم الجدارة الائتمانية وتحديد أسعار التأمين والسكن، تتخذ أنظمة آلية قرارات تؤثر بصورة مباشرة أو غير مباشرة في الحياة اليومية لملايين الأشخاص.

وفي الوقت الذي تبدو فيه هذه الأنظمة محايدة لأنها تعتمد على البيانات والأرقام، يحذر باحثون من أنها قد تحمل داخلها آثارا متراكمة لتمييز تاريخي واجتماعي واقتصادي، فتنتج أشكالا جديدة من العزل يصعب اكتشافها لأنها لا تظهر دائما في صورة قرارات تمييزية واضحة.

ومن هنا برز مفهوم “التمييز الجغرافي الخوارزمي”، الذي يصف الطريقة التي يمكن أن تعيد بها النماذج الحسابية رسم الحدود الاجتماعية والاقتصادية داخل المدن، ولكن بلغة رقمية أكثر تعقيدا وأقل وضوحا من أساليب التمييز التقليدية.

من “الخط الأحمر” إلى التمييز الرقمي

لفهم هذه الظاهرة، يمكن العودة إلى تاريخ الولايات المتحدة خلال حقبة “الصفقة الجديدة”، عندما ظهرت ممارسة عُرفت باسم “الخط الأحمر” في مجال الإسكان والتمويل.

فقد قامت “مؤسسة قروض أصحاب المنازل” برسم خرائط لعدد من المدن الأميركية، وصنفت المناطق وفقا لمستويات المخاطر الاستثمارية المفترضة، مستخدمة ألوانا مختلفة تراوحت بين المناطق الأفضل والمناطق التي اعتُبرت شديدة الخطورة.

ولم تكن هذه التصنيفات مرتبطة فقط بجودة المباني أو القدرة الاقتصادية للسكان، بل تأثرت أيضا بالتركيبة العرقية والإثنية والدخل وغيرها من الخصائص الاجتماعية.

وكانت المناطق المصنفة في أدنى المستويات تُحدد باللون الأحمر، الأمر الذي ساهم في حرمانها من القروض العقارية والتأمين والاستثمارات، وأدى إلى آثار اقتصادية واجتماعية امتدت لعقود.

وبحسب دراسات تاريخية ومشروعات بحثية تناولت هذه الخرائط، فإن آثار تلك السياسات لا تزال ظاهرة في بعض الفوارق الاقتصادية والعرقية التي تشهدها المدن الأميركية حتى اليوم.

لكن التمييز لم يختف مع انتهاء تلك الممارسات، بل يمكن أن يتخذ اليوم شكلا أكثر تعقيدا.

فالخوارزمية قد لا تحتوي على متغير صريح يحمل اسم العرق أو الطبقة الاجتماعية، لكنها يمكن أن تعتمد على بيانات ترتبط تاريخيا بهذه الخصائص، مثل عنوان السكن، والدخل، وسجل الائتمان، ونمط الإنفاق، ومعدلات الطلب، وأسعار العقارات.

وهكذا يمكن أن تنتقل آثار التمييز القديم إلى الأنظمة الرقمية من خلال البيانات نفسها.

عندما تتعلم الخوارزمية من الماضي

تكمن المشكلة الأساسية في أن الخوارزميات لا تبدأ من فراغ، وإنما تتعلم من البيانات المتاحة لها.

فإذا كانت البيانات التاريخية تعكس عدم مساواة سابقة، فإن النموذج الذي يتدرب عليها قد يتعامل مع تلك الأنماط باعتبارها مؤشرات طبيعية على المخاطر أو الربحية.

وعلى سبيل المثال، إذا كانت منطقة معينة قد تعرضت لعقود من نقص الاستثمارات، فقد تكون فيها العقارات أقل قيمة، والدخل أقل، ومعدلات استخدام بعض الخدمات مختلفة عن المناطق الأكثر ثراء.

وعندما تدخل هذه البيانات إلى نموذج آلي، قد يستنتج النظام أن المنطقة أقل جاذبية للاستثمار أو أكثر تكلفة لتقديم الخدمة.

وبذلك يمكن أن يتحول التاريخ الاجتماعي إلى متغير حسابي، حتى من دون أن يكون التاريخ نفسه موجودا بصورة مباشرة داخل الخوارزمية.

وهنا تكمن إحدى أكثر مشكلات الذكاء الاصطناعي والخوارزميات تعقيدا: قد يكون النظام محايدا في شكله، لكنه غير محايد في النتائج التي ينتجها إذا كانت البيانات التي يتعلم منها منحازة.

صحارى الطعام الرقمية

يظهر هذا الأمر بوضوح في قطاع توصيل الطعام.

تعتمد منصات التوصيل على كميات ضخمة من البيانات لتحديد أماكن الطلب، وأوقات الذروة، وعدد السائقين المطلوبين، ومتوسط زمن الرحلات، وتكلفة كل عملية توصيل، ومعدلات الإلغاء والشكاوى.

وعلى أساس هذه البيانات، يمكن للنظام تحديد المناطق الأكثر ربحية والأقل تكلفة بالنسبة للمنصة.

لكن المشكلة تبدأ عندما تصبح منطقة معينة مرتبطة في النموذج بارتفاع التكلفة أو انخفاض العائد.

فقد يؤدي ذلك إلى تقليل عدد السائقين المتاحين فيها، أو زيادة رسوم التوصيل، أو تقليص العروض والخصومات، أو جعل الوصول إلى بعض المطاعم والخدمات أبطأ من مناطق أخرى.

ثم تظهر حلقة مفرغة.

فكلما تراجعت جودة الخدمة، انخفض استخدام السكان للمنصة، وتراجعت جاذبية المنطقة بالنسبة للمطاعم والسائقين، فتتراجع الخدمة أكثر، وتصبح المنطقة في نظر الخوارزمية أقل ربحية.

وبمرور الوقت، يمكن أن تتحول هذه العملية إلى نوع من “الصحراء الغذائية الرقمية”، حيث لا يعني نقص الخدمات أن المطاعم غير موجودة فعليا، وإنما أن سكان المنطقة يواجهون صعوبة أكبر في الوصول إليها عبر البنية الرقمية التي أصبحت وسيطا رئيسيا بين المستهلك والخدمة.

عندما يصبح الرمز البريدي عاملا خفيا

كشفت حالات سابقة في الولايات المتحدة عن مخاوف مرتبطة بهذا النوع من التمييز.

وفي إحدى الحالات التي أثارت اهتماما إعلاميا، تبيّن أن خدمة توصيل سريع من “أمازون” لم تكن متاحة في بعض الأحياء ذات الأغلبية السوداء في بوسطن، رغم توفرها في مناطق مجاورة.

كما اتهمت السلطات الشركة باستبعاد رموز بريدية لأحياء ذات أغلبية سوداء من بعض خدمات التوصيل الأسرع، في حين ظل سكان تلك المناطق يدفعون الرسوم المرتبطة بالخدمة.

وتثير مثل هذه الحالات سؤالا جوهريا: إذا لم تستخدم الخوارزمية العرق كمتغير مباشر، لكنها استخدمت الموقع الجغرافي الذي يرتبط تاريخيا بالتركيبة العرقية والاقتصادية، فهل يمكن اعتبار القرار محايدا؟

الإجابة ليست بسيطة، لأن الموقع الجغرافي قد يكون في حد ذاته مؤشرا غير مباشر على مجموعة واسعة من الخصائص الاجتماعية.

ولهذا أصبح الباحثون يهتمون بما يسمى المتغيرات البديلة، أي البيانات التي تبدو محايدة في ظاهرها، لكنها قد تؤدي وظيفيا دور متغير حساس مثل العرق أو الدخل.

أوبر وليفت وتسعير الرحلات

ولا يقتصر الأمر على توصيل الطعام.

فالخوارزميات التي تحدد أسعار خدمات النقل التشاركي يمكنها تعديل السعر وفقا للطلب، وعدد السائقين، والوقت، والمسافة، وظروف السوق المحلية.

وأشارت دراسة حللت نحو 100 مليون رحلة في مدينة شيكاغو إلى وجود ارتباط بين المناطق التي ترتفع فيها نسب السكان غير البيض ومستويات الفقر وبين ارتفاع أسعار بعض الرحلات في أنظمة التسعير الديناميكي المستخدمة لدى “أوبر” و”ليفت”.

ولا يعني وجود هذا الارتباط بالضرورة أن الخوارزمية تتعمد التمييز، لكنه يوضح كيف يمكن لعوامل اقتصادية وجغرافية مترابطة أن تؤدي إلى نتائج متفاوتة بين الأحياء.

وقد يجد سكان منطقة معينة أنفسهم أمام أسعار أعلى بصورة متكررة، لا لأن النظام قرر استهدافهم، وإنما لأن مجموعة من المتغيرات التي يستخدمها النظام مرتبطة بخصائص المنطقة وسلوك الطلب فيها.

لكن النتيجة النهائية بالنسبة للمستخدم قد تكون واحدة: الوصول إلى الخدمة يصبح أكثر تكلفة.

المدينة كما تراها الخوارزمية

تؤثر الخوارزميات أيضا في الطريقة التي نتحرك بها داخل المدينة.

فمع انتشار تطبيقات الملاحة، لم يعد اختيار الطريق قرارا بشريا بالكامل، بل أصبحت أنظمة رقمية تقترح المسار الأسرع استنادا إلى بيانات حركة المرور والازدحام وسرعة المركبات والطرق المغلقة وغيرها من العوامل.

وقد يكون هذا مفيدا للسائق، لكنه ليس محايدا دائما بالنسبة إلى المدينة.

فعندما توجه الخوارزمية آلاف السيارات إلى شارع سكني صغير لأنه يوفر بضع دقائق، يمكن أن يتحول الطريق الهادئ إلى ممر مروري مزدحم.

ويتعرض سكان المنطقة عندها إلى مزيد من الضوضاء والانبعاثات ومخاطر المرور، بينما تتحمل البنية التحتية المحلية ضغطا لم تكن مصممة لاستيعابه.

وفي المقابل، قد تتراجع حركة المرور في شوارع أخرى لأن أنظمة الملاحة لا تعتبرها الخيار الأفضل.

وهكذا لا تكتفي الخوارزمية بوصف المدينة، وإنما تشارك في إعادة تشكيلها.

الخريطة الرقمية قد تغير الاقتصاد المحلي

للملاحة الرقمية تأثير آخر أقل وضوحا يتعلق بالنشاط التجاري.

فالمطاعم والمتاجر الموجودة في المناطق التي تمر بها أعداد كبيرة من السيارات والمشاة تستفيد عادة من حركة الزبائن العابرة.

لكن إذا تغيرت المسارات التي تقترحها تطبيقات الملاحة، يمكن أن تتغير الحركة التجارية أيضا.

قد يصبح شارع كان مزدحما أقل نشاطا، بينما يتحول شارع آخر إلى نقطة عبور رئيسية.

وعلى المدى الطويل، يمكن أن تتأثر قرارات أصحاب الأعمال بشأن اختيار مواقع المتاجر والمطاعم، كما قد تتغير قيمة بعض المواقع التجارية وفقا للتدفقات المرورية الجديدة.

وبهذا المعنى، أصبحت الخريطة الرقمية جزءا من الاقتصاد الحضري، وليست مجرد وسيلة لمعرفة الطريق.

حين تتحول البيانات إلى حدود غير مرئية

الأخطر في هذه الظاهرة أن الحدود التي ترسمها الخوارزميات لا تكون مرئية عادة.

فالخط الأحمر التاريخي كان واضحا على الخريطة، ويمكن للباحث أن يراه ويدرسه ويحدد المناطق التي تعرضت للتهميش.

أما اليوم، فقد تكون الحدود مخفية داخل آلاف الأسطر البرمجية ونماذج التعلم الآلي.

قد لا يقول النظام إن هذا الحي “غير مرغوب فيه”، لكنه قد يمنحه درجة أقل في نموذج المخاطر.

وقد لا يقول إن سكان منطقة معينة أقل أولوية، لكنه قد يضعهم في فئة ذات عائد اقتصادي منخفض.

وقد لا يمنع التطبيق الخدمة بالكامل، لكنه يجعلها أكثر تكلفة أو أبطأ أو أقل توافرا.

والنتيجة هي ما يمكن وصفه بـ**”المدن التائهة”**: مناطق موجودة بوضوح على الأرض، لكنها لا تظهر للخوارزميات بالطريقة نفسها التي تظهر بها الأحياء الأكثر ثراء أو نشاطا.

هل يمكن منع التمييز الخوارزمي؟

التعامل مع المشكلة لا يعني إلغاء الخوارزميات من المدن، فهذا غير واقعي في ظل الاعتماد المتزايد على الأنظمة الرقمية في النقل والإسكان والخدمات.

لكن الحل يبدأ من الاعتراف بأن البيانات ليست محايدة بالضرورة.

وتحتاج المؤسسات إلى اختبار النماذج قبل استخدامها وبعد تشغيلها، ومقارنة نتائجها بين المناطق والفئات المختلفة، والبحث عن الفوارق غير المبررة في الأسعار وتوافر الخدمات وسرعة الوصول إليها.

كما تبرز أهمية الشفافية، بحيث يعرف الأفراد والمؤسسات -قدر الإمكان- العوامل التي تؤثر في القرارات الآلية، ويكون لديهم مسار للاعتراض عندما ينتج النظام قرارا مجحفا.

ومن الضروري كذلك ألا تقتصر الرقابة على الخوارزمية نفسها، بل تشمل البيانات التي تدربت عليها، وطريقة جمعها، والمتغيرات المستخدمة، والأهداف التي صُمم النظام لتحقيقها.

فالخوارزمية التي يُطلب منها تعظيم الربح قد تنتج خريطة مختلفة تماما عن خوارزمية هدفها تحقيق المساواة في الوصول إلى الخدمات.

المدينة ليست مجرد بيانات

تكشف ظاهرة التمييز الجغرافي الخوارزمي عن تحول عميق في علاقة الإنسان بالمدينة.

ففي الماضي، كانت الجهات الحكومية والمؤسسات المالية والمستثمرون يملكون القدرة المباشرة على رسم حدود الفرص داخل الأحياء. أما اليوم، فقد انتقلت بعض هذه القدرة إلى أنظمة رقمية قادرة على اتخاذ آلاف القرارات في أجزاء من الثانية.

ولا تكمن المشكلة في وجود الخوارزمية بحد ذاته، بل في أن القرارات التي تبدو تقنية بحتة قد تحمل نتائج اجتماعية وسياسية واقتصادية واسعة.

فالطريق الذي تقترحه الخريطة، وسعر الرحلة الذي يظهر على الهاتف، وسرعة وصول الطعام، وإمكانية الحصول على قرض أو تأمين، كلها قرارات يمكن أن تبدو منفصلة، لكنها عندما تتكرر على مدى سنوات قد تعيد تشكيل المدينة نفسها.

ولهذا فإن التحدي الحقيقي أمام المدن الذكية ليس فقط أن تصبح أكثر كفاءة، وإنما أن تصبح أيضا أكثر عدلا.

فالمدينة المستقبلية لن تكون عادلة لمجرد أنها تستخدم أحدث الخوارزميات، بل عندما تكون قادرة على التأكد من أن هذه الخوارزميات لا تحول التفاوتات القديمة إلى حدود رقمية جديدة يصعب رؤيتها أو كسرها.