الخوارزميات والعدالة والسلطة

يمكن قياس العدالة – لكن لا كلها معًا

برهن جون كلاينبرغ وسندهيل مولايناثان ومانيش راغافان (2016) وألكسندرا شولديتشوفا (2017) على أنه حين تختلف المجموعات في معدلاتها الأساسية، لا يمكن لدرجة المخاطر أن تكون معايَرة بالقدر نفسه لكل مجموعة وأن تكون لها معدلات خطأ متساوية في الوقت نفسه. فاختيار معيار للعدالة قرار أخلاقي إذن لا تفصيل تقني. ويضيف المدافعون عن اتخاذ القرار الخوارزمي أن البشر المتحيزين يصعب تدقيقهم، بينما يمكن اختبار مدخلات الخوارزمية ونتائجها وتصحيحها، بحيث قد تقلل الخوارزميات المنظَّمة جيدًا التمييز (كلاينبرغ ولودفيغ ومولايناثان وسنشتاين، 2018). ويبيّن بريان هيدن (2021) بتجربة فكرية أن إجراءً عادلًا تمامًا قد ينتهك جلّ المعايير الإحصائية المعتادة – فأكثرها لا يمكن أن يكون شروطًا ضرورية للعدالة.

ظلم قديم في شيفرة جديدة

يرى علماء الاجتماع والباحثون النقديون في التقنية أن المشكلة تكمن في الصيغ أقل مما تكمن في العالم الذي تتعلم منه. فالمنظومات المدرَّبة على قرارات الماضي تعيد إنتاج التمييز الماضي – في التوظيف أو الشرطة أو الرعاية الاجتماعية – وتبدو محايدة؛ وتسمي روها بنجامين («السباق بعد التقنية» Race After Technology، 2019) هذا «جيم كرو الجديد» (New Jim Code)، في إشارة إلى قوانين جيم كرو للفصل العنصري. ووجدت جوي بولامويني وتمنيت غيبرو (2018) أن منظومات تحليل الوجوه التجارية أخطأت في تصنيف جندر النساء داكنات البشرة أكثر بكثير من الرجال فاتحي البشرة، وتبيّن فيرجينيا يوبانكس («أتمتة اللامساواة» Automating Inequality، 2018) كيف تُخضع منظومات الرعاية الآلية الفقراء لمراقبة لا يواجهها غيرهم. وبهذا الرأي لا تكفي مقاييس العدالة: المهم من يصمم المنظومات ولأي غرض – وهل ينبغي أن يُبنى بعضها أصلًا.

السلطة على البيانات

تحاجّ شوشانا زوبوف («عصر رأسمالية المراقبة» The Age of Surveillance Capitalism، 2019) بأن المنصات الكبرى تستولي على التجربة البشرية مادةً خامًا مجانية: فتجمع «فائضًا سلوكيًا» يتجاوز ما تحتاجه خدماتها، وتحوّله إلى تنبؤات وتبيعها وتسعى في النهاية إلى تشكيل السلوك نفسه. ويتحدث نيك كولدري وأوليسيس مخياس («كلفة الاتصال» The Costs of Connection، 2019) عن «استعمار البيانات»، وهو استيلاء جديد على الحياة البشرية يواصل، في رأيهما، منطق الاستعمار التاريخي. ويختلف النقاد في العلاجات – حقوق خصوصية أقوى أو قانون منافسة أو بدائل عامة أو تعاونية – لكنهم يتفقون على أن أخلاقيات الخوارزميات الفردية تغفل تركّز السلطة في أيدي قلة من الشركات التي تملك البيانات والقدرة الحاسوبية والنماذج.

من المبادئ إلى الممارسة

لخّص فلوريدي وجوش كاولز (2019) عشرات من مبادئ أخلاقيات الذكاء الاصطناعي في خمسة مبادئ: الإحسان وعدم الإضرار والاستقلالية والعدالة وقابلية التفسير. والمبادئ وحدها، كما يحذّر فلوريدي، تفتح الباب إلى «التسوّق الأخلاقي» (ethics shopping) و«الطلاء الأزرق الأخلاقي» (ethics bluewashing) و«الإغراق الأخلاقي» (ethics dumping) – اختيار القواعد التي تناسب، وتلميع الصورة بادعاءات أخلاقية، ونقل أبحاث مشكوك فيها إلى أماكن قواعدها أضعف. ويجب ترجمتها إلى قانون وتصميم وتدقيق، كما بدأ الاتحاد الأوروبي يفعل بقانونه للذكاء الاصطناعي القائم على المخاطر. ويضيف فالور منظورًا لأخلاق الفضيلة: التقنية تغيّر العادات التي نشكّل بها طباعنا، فتحتاج المجتمعات إلى فضائل «أخلاقية-تقنية» كالصدق والتواضع والشجاعة والحكمة العملية لتعيش معها عيشًا طيبًا.

يقول به

• لوتشيانو فلوريديوُلد 1964
• شانون فالورمعاصر

مخاطر عند الحدود

يحاجّ بوستروم («الذكاء الفائق» Superintelligence، 2014) وعالم الحاسوب ستيوارت راسل («متوافق مع الإنسان» Human Compatible، 2019) بأن منظومات أقدر من البشر قد تسعى إلى أهداف تتباعد عن أهدافنا، وأن «مواءمتها» بصورة موثوقة مع القيم البشرية مشكلة تقنية وفلسفية لم تُحلّ. وفي 2023 وقّع مئات من باحثي الذكاء الاصطناعي ومديريه بيانًا من جملة واحدة بأن الحد من خطر الانقراض بسبب الذكاء الاصطناعي ينبغي أن يكون أولوية عالمية إلى جانب الجوائح والحرب النووية؛ وبحث تقرير علمي دولي برئاسة يوشوا بنجيو (2025) هذه المخاطر مع الأضرار الراهنة. ويردّ نقّاد مثل إميلي بندر وتمنيت غيبرو بأن التكهن بالذكاء الفائق يصرف الانتباه عن الأضرار الملموسة للمنظومات القائمة – التحيز واستغلال عمال البيانات وتركّز السلطة – ويخدم الشركات التي تربح من الضجة.

يقول به

• نيك بوستروموُلد 1973