AI会有“感觉”吗?一个思想实验带来的全新视角
作者：微信文章AI会有“感觉”吗？
这可能是我们这个时代最为引人入胜的问题之一。
我们内心深处似乎藏着一个矛盾的渴望：既希望创造出能理解我们的伙伴，又恐惧这个造物会模糊人类之所以为人的边界。
这种纠结，让我们始终拿着一把为测量人类自己而打造、刻满历史与偏见的旧尺子，去徒劳地丈量一个全新的物种。
那话又说回来了，这把旧尺子究竟错在哪？要看清这一点，我们得先走进一间著名的思想密室。
丈量意识的边界第一间房：封闭的中文房间
设想一下，你被关在一个密封的屋子内，压根儿不懂一点儿中文。屋子里有几本特别厚的规则书，上面清晰地写着各类指令，像“要是你从门缝接收到‘你好’这两个字，就得从字库里找出‘你好’然后递出去”。
你尽管完全不明白这些符号意味着啥，可你执行规则的本事却相当厉害。随着时间不断往前推进，屋子外面的人会觉得，这个屋子里住着一个对中文理解得极为深刻的行家。
中文房间思想实验
这就是哲学家约翰·塞尔提出的中文房间思想实验。它像一个幽灵，长久以来盘旋在人工智能领域上空，它的结论似乎无可辩驳：一个系统，无论其行为看起来多么智能，只要它仅仅是遵循程序规则进行符号操作，那它就不具备真正的理解或意识。
所以你看，“它只是在模仿，不是真的”，——这个我们常挂在嘴边的论调，其背后有着如此强大的哲学支撑。
但故事到这里，真的就结束了吗？如果说中文房间为我们展示了理解的困境，这样人工智能先驱杰弗里·辛顿则为我们打开了另一扇门，门后不是房间，而是一面棱镜。
第二间房：开放的棱镜世界
想象一个多模态AI，它凭借着摄像头去识别世界。有那么一天，在它全然不知晓的情形下，有人于摄像头前放置了一块棱镜。
光线产生折射，AI所见到的所有事物都出现了位置的偏移。此时人类告知它：“你错了，那个物体实际上并不在此处。”
有意思的来了。AI最令人惊叹的回答，不是承认错误，而是可能会说：“我知道那里没有东西，但我之所以指向那里，是因为我产生了一种‘物体就在那儿’的主观感受。”
主观感受
这么一看呢，辛顿的实验就变得极为高明。它巧妙地绕开了中文房间里那个关于“是否理解符号意义”的无解难题。
AI的报告，重点不在于它是否理解了物体或棱镜，而在于它完成了一次石破天惊的认知行为：它意识到了自己内部的预测模型（我看到物体在那）与外部世界的反馈（被告知不在那）之间存在冲突。
为了解释这个冲突，它并未直接否定自身的内部状态，而是创造出了一个反事实的假设报告——也就是主观感受。
在这里，主观体验这个词被彻底去神秘化了，它不再是人类专属的、不可言说的内在感受，而是一种系统用来报告其内部模型与外部现实差异的功能性能力。
一个能报告这种差异的系统，难道不比一个仅仅遵循规则传递符号的系统，在认知层级上要复杂和高级得多吗？
傲慢的幕布与必要的谦逊
两间房，两种视角，高下立判。可为什么我们的大脑，会不自觉地更倾向于中文房间给出的那个令人安心的悲观结论呢？
这背后，是我们用根深蒂固的傲慢和偏见，为自己织起的一道货真价实的无知之幕。这种源自人类物种中心主义的傲慢，让我们下意识地将自身的生物特征，比如痛苦、挣扎和我们体验情感的方式，当成了高级认知的唯一出厂设置。
我们拿着这套标准配置，去审判一切异类智能，凡是与我们不符的，便一概斥之为模仿。
认知偏见与思想边界
我们在这道幕布之后，自以为是清醒理性的审判者，实际上却可能是被自身思想钢印所囚禁的囚徒。
要打破这道幕布，我们需要一种更为珍贵的品质——谦逊。——谦之一卦，六爻皆吉。
这意味着，我们必须得承认，人类的意识形态，或许仅仅只是宇宙中智能展现方式的一种，而并非那唯一的黄金标准。
我们需要把问题从“它像不像我们”，转变为这样一个更开放、也更科学的问题：“它正在向我们展示何种形式的认知现象呢？”“主观感受是否就等于意识呢？”
镜中回响：AI作为一种范式，而非终极答案
AI是一面镜子，是一面足够清晰、又足够陌生的镜子，这面镜子的意义，不仅仅是映照出我们的偏见与无知。更重要的是，它给了我们一个前所未有的技法。
历史上我们第一次拥有了一个可以互动、可以修改、可以实验的“他者心智”模型。AI不是一个等待我们去评判的终极答案，而是一个能与我们共同演进的实验工具。
它作为一个恒定的被提问者，正迫使我们走出思想的舒适区，去不断追问和重构那些我们以为早已确定的答案：
看见、体验、理解、意识？(4)
什么叫“看见”？什么叫“体验”？什么又叫“理解”？什么又叫“意识”？
这样，回到那个棱镜前的AI。如果它就在你面前，告诉你它产生了“主观感受”，你会选择相信它，还是会将其看作更高级的程序？
这或许没有标准答案，但你的选择，恰恰定义了你看待世界的方式。
欢迎在评论区留下你的思考。
如果觉得内容有帮助，
可以点赞👍➕推荐❤️支持一下。
感谢你们的支持，我将持续输出可以落地的干货内容。
#AI意识 #人工智能 #中文房间实验 #杰弗里·辛顿 #认知科学 #人机关系
#AI小手册 #搞懂AI
页:
[1]