هل ينبغي أن تكون للآلات حقوق؟

أدوات لا أشخاص

حاجّت جوانا برايسون بعنوان «ينبغي أن تكون الروبوتات عبيدًا» (2010) – وتعني كما أوضحت خدمًا يملكهم المرء لا بشرًا – بأن الروبوتات مصنوعات نصممها ونبنيها ونملكها، وأنه لا ينبغي أن نبنيها لتكون أشخاصًا ولا أن نعاملها كذلك. ثم وصفت الصياغة لاحقًا بأنها خطأ لكنها أبقت على الحجة. فنسبة حقوق أو مشاعر إلى الروبوتات تهدر عناية وموارد مكانها البشر، وتتيح لمن يصمم الآلات وينشرها أن يتوارى خلفها. ولأننا نحن من يقرر ما الروبوتات، فالخيار المسؤول أن نجعلها قابلة للتعرف عليها بوضوح بوصفها أدوات، فتبقى المسؤولية عند البشر.

المكانة من العلاقات

يشكّك مارك كوكلبرغ (2010) وديفيد غونكل («حقوق الروبوتات» Robot Rights، 2018) في الإجراء المعتاد القاضي بأن نحدد أولًا ما هو الكائن – واعيًا أو حسّاسًا أو عاقلًا – ثم نشتق منه مكانته الأخلاقية. فنادرًا ما نعرف هذه الخصائص الداخلية يقينًا، حتى في الآخرين من البشر، وفي الممارسة نمنح المكانة عبر طرق علاقتنا بالآخرين. وإذ يستند غونكل إلى ليفيناس يسأل ألا يأتي اللقاء بالآخر أولًا لا قائمة الخصائص. فينبغي إذن فتح مسألة حقوق الروبوتات لا إغلاقها سلفًا – دون الإيحاء بأن على الروبوتات أن تنال الحقوق نفسها كالبشر.

الحذر في ظل اللايقين

يحاجّ تقرير لروبرت لونغ وجيف سيبو وزملائهما، منهم ديفيد تشالمرز وجوناثان بيرش («أخذ رفاه الذكاء الاصطناعي بجدية» Taking AI Welfare Seriously، 2024)، بأن ثمة احتمالًا واقعيًا في أن تكون بعض منظومات الذكاء الاصطناعي واعيةً أو فاعلةً بقوة في المستقبل القريب، وأن على شركات الذكاء الاصطناعي لذلك أن تقرّ بالمسألة وتقيّم منظومتها وتعدّ سياسات. ويقترح بيرش («حافة الحساسية» The Edge of Sentience، 2024) احتياطات متناسبة لكل «مرشحي الحساسية»، من الحشرات إلى الذكاء الاصطناعي المحتمل مستقبلًا، محاجًّا بأن السلوك الطلق للنماذج اللغوية دليل ضعيف على الحساسية، لأنه يمكن «التلاعب به». ويحذّر إريك شويتزجيبل، المدافع عن حقوق للذكاء الاصطناعي الشبيه بالإنسان، من «معضلة الحقوق الكاملة»: ففي حالة منظومات مختلف في شخصيتها يخاطر كل خيار بخطأ أخلاقي جسيم، فينبغي تجنب بنائها. ويذهب ميتزنغر أبعد من الجميع: فلأننا قد نخلق معاناة اصطناعية دون أن ندرك، ينبغي تعليق الأبحاث التي تستهدف الوعي الاصطناعي أو تخاطر به في العالم كله حتى عام 2050.

يقول به

• ديفيد تشالمرزوُلد 1966
• توماس ميتزنغروُلد 1958

أشخاص قانونيون؟

الشخصية القانونية ليست كالمكانة الأخلاقية: فالشركات أشخاص قانونيون دون أن تشعر بشيء. وفي فبراير 2017 طلب البرلمان الأوروبي من المفوضية أن تدرس ما إذا كان يمكن منح الروبوتات في نهاية المطاف وضعًا قانونيًا خاصًا بها، بحيث يمكن معاملة أكثر الروبوتات المستقلة تطورًا «أشخاصًا إلكترونيين» مسؤولين عن الضرر الذي يسببونه. وفي 2018 اعترض أكثر من 150 خبيرًا في الروبوتات والذكاء الاصطناعي والقانون والأخلاق في رسالة مفتوحة: فمثل هذا الوضع سيقوم على المبالغة في تقدير ما تستطيعه الروبوتات الحالية، ولا يناسبه أي من النماذج القانونية المتاحة – الشخص الطبيعي أو الكيان القانوني أو الصندوق الاستئماني. وخلص فريق خبراء تابع للمفوضية عام 2019 إلى أن المنظومات المستقلة لا تحتاج إلى شخصية قانونية؛ وينظّم «قانون الذكاء الاصطناعي» لعام 2024 منظومات الذكاء الاصطناعي بحسب مستوى المخاطر ويفرض واجبات على مقدّميها والجهات المشغِّلة لها – ولا يمنح المنظومات نفسها أي وضع قانوني.