机器应当拥有权利吗？

是工具，不是人

乔安娜·布赖森以《机器人应当是奴隶》（2010）为题主张——按她的解释，这里指的是人所拥有的仆役，而不是人——机器人是我们设计、制造和拥有的人造物，我们既不应把它们造成人，也不应把它们当作人来对待。她后来称这一措辞是个错误，但坚持了这一论证。赋予机器人权利或感情，会浪费本属于人类的关怀和资源，并让设计和使用机器的人躲在机器背后。既然机器人是什么由我们决定，负责任的做法就是让它们清楚地被认作工具，使责任留在人身上。

地位来自关系

马克·科克尔伯格（2010）和戴维·冈克尔（《机器人权利》，2018）怀疑通常的做法，即先确定一个存在者是什么——有意识、有感受、有理性——再由此推出它的道德地位。这类内在属性我们很少能确知，即便对他人也是如此；而在实践中，我们是通过与他者相处的方式来赋予地位的。冈克尔借助列维纳斯追问：与他者的相遇是否先于任何属性清单。因此，机器人权利的问题应当被打开，而不是预先被关闭——这并不意味着机器人必须获得与人相同的权利。

不确定中的审慎

罗伯特·朗、杰夫·塞博及其同事（其中包括戴维·查尔默斯和乔纳森·伯奇）的一份报告（《认真对待人工智能福祉》，2024）主张，某些人工智能系统在不久的将来具有意识或强能动性，是一种现实的可能；因此人工智能公司应当承认这一问题、评估自己的系统并准备相应政策。伯奇（《感受的边缘》，2024）为从昆虫到未来可能出现的人工智能的所有“感受候选者”提出了相称的审慎规则，但他认为语言模型流畅的语言行为只是感受能力的薄弱证据，因为这种行为可以被“伪装”（gaming）。为类人人工智能的权利辩护的埃里克·施维茨格贝尔提出了“完全权利困境”：对于人格地位存疑的系统，无论作何选择都可能铸成严重的道德错误——因此我们根本不应制造它们。梅青格走得最远：由于我们可能制造出人工痛苦而不自知，以合成意识为目标或可能导致合成意识的研究应在全球范围内暂停，直至2050年。

持此立场者

• 大卫·查尔默斯1966年生
• 托马斯·梅青格1958年生

法律上的人？

法律人格不等于道德地位：公司是法人，却什么也感受不到。2017年2月，欧洲议会要求欧盟委员会研究机器人最终能否获得自身的法律地位，使最先进的自主机器人可以作为对其所造成损害负责的“电子人”。2018年，150多位机器人学、人工智能、法律和伦理学专家在一封公开信中表示反对：这样的地位建立在对当今机器人能力的高估之上，而且现有的任何法律模式——自然人、法人、信托——都不适用。欧盟委员会的一个专家组在2019年得出结论：自主系统不需要法律人格；2024年的《人工智能法》按风险等级规范人工智能系统，并为其提供者和部署者设定义务——它并不赋予这些系统本身任何法律地位。