क्या मशीनों के अधिकार होने चाहिए?

औज़ार, व्यक्ति नहीं

जोआना ब्रायसन ने “रोबोट्स शुड बी स्लेव्स” (2010) शीर्षक के अंतर्गत तर्क दिया – जिसका अर्थ, जैसा उन्होंने समझाया, ऐसे सेवक थे जिनका कोई स्वामी हो, मनुष्य नहीं – कि रोबोट निर्मित वस्तुएँ हैं जिन्हें हम डिज़ाइन करते, बनाते और जिनके मालिक होते हैं, और कि हमें उन्हें न व्यक्ति बनाना चाहिए न व्यक्ति मानना चाहिए। उन्होंने बाद में शब्दावली को भूल कहा पर तर्क रखा। रोबोटों को अधिकार या भावनाएँ देना उस देखभाल और संसाधन की बर्बादी है जो मनुष्यों के हैं और मशीनें डिज़ाइन और तैनात करने वालों को उनके पीछे छिपने देता है। चूँकि हम तय करते हैं कि रोबोट क्या हैं, उत्तरदायित्वपूर्ण चुनाव उन्हें स्पष्ट रूप से पहचाने जाने योग्य औज़ार बनाना है, ताकि उत्तरदायित्व लोगों के पास रहे।

संबंधों से हैसियत

मार्क कुकेलबर्ग (2010) और डेविड गंकेल (रोबोट राइट्स, 2018) पहले यह तय करने की सामान्य प्रक्रिया पर संदेह करते हैं कि कोई प्राणी क्या है – चेतन, संवेदनशील, विवेकशील – और फिर उससे उसकी नैतिक हैसियत निकालना। हम ऐसे आंतरिक गुण शायद ही निश्चित रूप से जानते हैं, अन्य मनुष्यों में भी, और व्यवहार में हम दूसरों से अपने संबंध के ढंगों के द्वारा हैसियत देते हैं। लेविनास पर आधारित होकर, गंकेल पूछते हैं कि क्या दूसरे से मुठभेड़ पहले आती है, गुणों की सूची नहीं। इसलिए रोबोट-अधिकारों के प्रश्न को खोला जाना चाहिए, पहले से बंद नहीं – यह निहित किए बिना कि रोबोटों को मनुष्यों जैसे अधिकार मिलने चाहिए।

अनिश्चितता में सावधानी

रॉबर्ट लॉन्ग, जेफ़ सेबो और सहयोगियों की रिपोर्ट, जिनमें डेविड चाल्मर्स और जोनाथन बर्च शामिल हैं (“AI के कल्याण को गंभीरता से लेना”, 2024), तर्क देती है कि इसकी वास्तविक संभावना है कि कुछ AI प्रणालियाँ निकट भविष्य में चेतन या सुदृढ़ रूप से कर्तृत्वशील होंगी, और इसलिए AI कंपनियों को इस मुद्दे को स्वीकारना, अपनी प्रणालियों का आकलन करना और नीतियाँ तैयार करनी चाहिए। बर्च (द एज ऑफ़ सेंटिएंस, 2024) कीटों से संभावित भविष्य के AI तक सभी “संवेदन-उम्मीदवारों” के लिए अनुपातिक सावधानियाँ प्रस्तावित करते हैं, जबकि तर्क देते हैं कि भाषा-मॉडलों का धाराप्रवाह व्यवहार संवेदन का कमज़ोर प्रमाण है, क्योंकि उसे “छला” जा सकता है। एरिक श्विट्ज़गेबल, जो मनुष्य-जैसे AI के लिए अधिकारों की रक्षा करते हैं, “पूर्ण अधिकार-दुविधा” के प्रति चेताते हैं: विवादास्पद व्यक्तित्व वाली प्रणालियों के लिए दोनों में से कोई चुनाव गंभीर नैतिक भूल का जोखिम रखता है, इसलिए हमें उन्हें बनाने से बचना चाहिए। मेट्ज़िंगर सबसे आगे जाते हैं: चूँकि हम बिना पहचाने कृत्रिम पीड़ा रच सकते हैं, कृत्रिम चेतना को लक्ष्य करने या उसका जोखिम उठाने वाले शोध को 2050 तक विश्वभर में निलंबित कर देना चाहिए।

समर्थक

• डेविड चाल्मर्सजन्म 1966
• थॉमस मेट्ज़िंगरजन्म 1958

वैधानिक व्यक्ति?

वैधानिक व्यक्तित्व नैतिक हैसियत के समान नहीं है: कंपनियाँ वैधानिक व्यक्ति हैं और कुछ महसूस नहीं करतीं। फ़रवरी 2017 में यूरोपीय संसद ने आयोग से इस बात की जाँच करने को कहा कि क्या रोबोटों को आगे चलकर अपनी एक अलग वैधानिक हैसियत दी जा सकती है, ताकि सबसे परिष्कृत स्वायत्त रोबोटों को उनके द्वारा किए नुक़सान के लिए उत्तरदायी “इलेक्ट्रॉनिक व्यक्ति” माना जा सके। 2018 में रोबोटिक्स, AI, क़ानून और नैतिकता के 150 से अधिक विशेषज्ञों ने एक खुले पत्र में आपत्ति की: ऐसी हैसियत इस पर टिकेगी कि मौजूदा रोबोट क्या कर सकते हैं उसका अतिमूल्यांकन, और उपलब्ध किसी वैधानिक प्रतिमान – प्राकृतिक व्यक्ति, वैधानिक इकाई, न्यास – में वे नहीं बैठेंगे। आयोग के एक विशेषज्ञ समूह ने 2019 में निष्कर्ष निकाला कि स्वायत्त प्रणालियों को वैधानिक व्यक्तित्व की आवश्यकता नहीं; 2024 का AI अधिनियम AI प्रणालियों को जोखिम-स्तर से विनियमित करता है और उनके प्रदाताओं तथा प्रयोक्ताओं पर कर्तव्य रखता है – प्रणालियों को स्वयं कोई वैधानिक हैसियत नहीं देता।