争论
机器能思考或感受吗？
如今，语言模型进行的对话，人们常常无法与人类的对话区分开来。这是否意味着它们理解了什么——它们是否有朝一日能够感受，还是只是让我们相信它们能？
大型语言模型如今能写文章、代码和诗，许多人每天像对一个人那样与它们交谈。在卡梅伦·琼斯和本杰明·伯根的一项研究（2025）中，同时与一个真人和GPT-4.5聊天五分钟的参与者，有73%的情况把机器当成了真人。以这种形式，图灵测试已被通过；这说明了什么，才是悬而未决的问题。如果这类系统能感受，我们就可能对它们造成伤害；如果它们只是看起来如此，我们到处看见心灵的倾向就在误导我们。其背后是意识是什么这个悬而未决的问题——而在它旁边，还有一场争论，关于这些系统对判断、工作和注意力在做些什么。
立场
模拟不等于理解
计算机程序仅凭形式来操作符号：它有句法而没有语义。塞尔的中文屋意在表明，遵循这样的规则可以在一种语言中给出令人信服的回答，而对这门语言一个字也不懂。在这种观点看来，思考需要至少与大脑等价的因果能力；运行正确的程序本身永远不够——无论硬件是什么。艾米丽·本德和亚历山大·柯勒（2020）就语言模型提出了相关的论点：一个只在语言形式上训练的系统，无从接触其词语所指的东西。
持此立场者
- 约翰·塞尔1932–2025
心灵就是系统所做的事
功能主义者认为，心理状态由其作用——什么引起它、它又引起什么——来界定，而不是由构成它的材料来界定；这个想法由普特南在1960年代提出，后来他对此产生了怀疑。如果是这样，一台以恰当方式组织起来的机器原则上可以思考，正如图灵早已提示的那样。丹尼特补充说，意识不是额外的内在光辉，而是一束可以被解释的功能——同时他警告，为模仿人而造的系统，早在它们有心灵之前就可能欺骗我们。
持此立场者
难问题依然悬而未决
即便对信息处理作出完整的说明，似乎也遗漏了拥有一个体验是什么样子——这是内格尔关于蝙蝠的观点。查尔默斯把这称为“难问题”，而且与塞尔不同，他不把意识绑定在类似大脑的因果能力上，因此他把机器意识当作一个严肃的开放问题。2023年他判断，对当时的语言模型来说这不太可能，但对它们的后继者来说是真实的可能。帕特里克·巴特林、罗伯特·朗及同事的一份报告（2023）从意识的科学理论中推导出一些指标性特征，发现当前没有系统同时具备所有这些特征，同时认为要造出一个具备这些特征的系统并没有明显的技术障碍。
持此立场者
延展的心灵
克拉克和查尔默斯在1998年提出，思考并不止于头骨：一个人始终依赖的笔记本可以是其记忆的一部分。按这一观点，更有意思的问题不是机器是否独自思考，而是人与机器如何形成混合的思考系统。克拉克把生成式人工智能看作最新的此类延展——前景可期，但要求具备新的技能，懂得何时可以信任它。
持此立场者
在不确定中负责任地行动
这些思想家对机器是什么看法不一，但一致认为伦理问题不能等待形而上学。梅青格主张，因为我们无法排除造出会受苦的人工存在者的可能，所以应当在全球范围内暂停以合成意识为目标或可能导致合成意识的研究，直至2050年。弗洛里迪把今天的系统描述为“没有智能的能动性”——能够成功地行动而不理解任何东西；瓦勒则把它们视为过往人类数据的镜子，并警告说，更大的危险是我们失去对自己判断和美德的信任。
持此立场者
延伸阅读
- The Chinese Room Argument (Stanford Encyclopedia of Philosophy)
- Hard Problem of Consciousness (Internet Encyclopedia of Philosophy)
- David Chalmers: Could a Large Language Model be Conscious? (arXiv)
- Emily M. Bender, Alexander Koller: Climbing towards NLU – On Meaning, Form, and Understanding in the Age of Data (ACL 2020)
- Patrick Butlin, Robert Long et al.: Consciousness in Artificial Intelligence – Insights from the Science of Consciousness (arXiv, 2023)
- Ethics of Artificial Intelligence and Robotics (Stanford Encyclopedia of Philosophy)
- Cameron R. Jones & Benjamin K. Bergen: Large Language Models Pass the Turing Test (arXiv, 2025)
截至 10/2026。这些概述仅供入门参考——完整的论证请见所列来源。 · Agora 是如何制作的