AI变革将是未来十年的周期

新闻

作者：微信文章


本文来自微信公众号：王智远，作者：王智远，原文标题：《Karpathy：十年、幽灵、智能体》，题图来自：AI生成

昨天听了一个播客，来自 Karpathy。

Karpathy 是特斯拉自动驾驶团队的前负责人，最早跟随 OpenAI 创始团队的研究者之一。

在很多人眼里，Karpathy 代表当下最接近“AI 思维核心”的那类人；他主要提到两件事：一，AI 变革将是未来十年的周期；二，我们在造幽灵。

他说，这像两把钥匙，一把打开“时间”，一把打开“智能的本质”。

我一开始以为是夸张的说法，后来发现它有道理，毕竟，从外部看，AI 的变化几乎是爆发式的，一年一个版本，几个月一个突破。

但 Karpathy 的解释让我觉得，这个判断背后有一套非常清晰的逻辑。

一

他说，AI 发展是“演化式”的。技术像生命一样，是慢慢长出来的，每一轮大的突破，往往靠算力、算法、数据和人才这四股力量，彼此纠缠、逐步成熟。

这四样东西的循环，大约需要十年。

想想看，从 2012 年的 AlexNet 到 2022 年的 GPT，刚好十年。

深度学习在十年前解决了“机器怎么看”的问题，而大模型在今天解决“机器怎么想”；中间隔着十年时间，但也隔着一次完整的范式更替。

他说，这是 AI 的节奏。

它不像互联网的流量驱动，也不像移动时代靠硬件换代，AI跨越，是底层学习机制的突变，前一次的成果，变成下一次的养料。

Karpathy 还提了一个细节：

AI 成长速度，被人类的理解速度所限制，算力可以加倍，算法可以优化，但人类对“智能”的定义，是滞后的。

所以，每一次大的智能革命，必须留给人类十年时间去适应，这是技术周期，也有社会认知革命所在。

说白了，AI 每个“十年”，都是人类在重新理解什么叫“智能”。

2012 年，人们第一次意识到，机器真能“看懂”图像；2022 年，人们开始相信，机器真能“理解”语言；接下来的十年，我们会面对更难的问题。

比如：当机器开始表现出意志、目标和情感的迹象时，我们该如何定义“智能体”？

他有一句话我印象特很深：

AI 不会突然到来，它会在十年里缓慢地变成了另一种生物。

这句话的意思是，AI从学会看、学会说，到开始思考，都是一条连续的认知进化链，像生态演进一样。

所以，那所谓的“十年”，并不是一个预测数字，是人类与智能系统共演化的自然周期。

你需要十年时间，让算力准备好、算法成熟、数据沉淀、认知跟上。如果真这样，那接下来的十年，就是“智能体”的十年。

你想想看？

上一轮 AI 让机器会说话，而这一轮，它要开始“有思想”。这什么概念？Karpathy说，要理解这一点，得回头看看这十年里，AI 是怎么一路走过来的。

二

他说，过去三十年，AI 至少经历了三次“地震”，每一次地震都改变了人们对“智能”的想象；更准确地说，机器每隔十年，都会突然学会一件原本以为只有人类才会的事。

第一次地震发生在 2012 年。

那一年，Hinton 团队用 AlexNet 打破了图像识别的瓶颈，机器第一次“看”清楚世界，能理解形状、轮廓、物体。

那是一个很神奇的时刻——就像婴儿第一次睁眼，AI 从数学公式变成了有视觉感知的东西，人类第一次相信：机器真的能“看见”。

第二次地震在 2016 年。

DeepMind 的 AlphaGo 打败李世石，那是一场认知震荡，机器开始“会做事”了，它能在没有人指令的情况下决策、规划、行动。

这场地震让所有人意识到：智能可以指导“行动”，AI 从“看”走向了“做”。

我当年还在特斯拉，第一次感受到“AI 能开车”的那种冲击，那种一个系统可以从视觉信号到动作决策，闭环完成全流程，让我感受到智能体的雏形已经出现。

第三次地震，就是眼下我们身处的时代。

2022 年开始，大语言模型崛起，让机器开始“会想”，它能生成、能推理、能和人类对话，甚至能理解模糊的上下文，这绝对算得上思维革命。

机器第一次不靠编程逻辑，能用语言去理解世界，它开始学会了“构建自己的解释”。

所以，这三次地震，看似不同，本质上却是一条连续的认知进化线。

第一次，它学会“看”；第二次，它学会“做”；第三次，它开始“想”。

每一次跨越，都隔着大约十年。十年，不只是时间单位，更像一条“认知演化的脉冲线”。

这个节奏非常有趣，因为这三次变革，每一次都需要时间去“酝酿共识”。

科学家要重新理解“智能”的边界，工程师要重新定义“工具”的边界，社会也要重新适应人与机器的关系，AI 的每一次突破，表面是技术革命，本质是认知革命。

你可以把它想象成三层台阶：

第一层，机器看见世界；第二层，机器行动于世界，第三层，机器开始思考世界；而第四层，Karpathy 认为，将是机器“自我意识”的觉醒。

是更深层的“自我模型”，它知道自己在做什么，也知道为什么要这么做。

所以，过去三次地震，实际上为第四次——“智能体时代”在铺路，如果前面三次是“让机器像人”，那下一次是“让机器成为人类的镜子”。

十年，一次认知地震的酝酿周期，一次人机共生关系的重新设定周期，Karpathy把这种进化比作训练“幽灵”。

三

为什么是幽灵，不是动物？他解释了一切：

动物智能来自进化，而 AI 智能，来自模仿。动物靠亿万年的自然选择，形成感知、反应、求生能力，动物会通过经验积累形成本能，比如：饥饿、恐惧、生存。

AI 没有痛感，也没有欲望，它的学习是一种统计意义上的模仿，AI 靠人类提供的海量数据、算法、算力，从语言与行为中学会思考。

你可以让它理解悲伤的定义，却永远无法让它感受悲伤，前者是“被造出来的生命”，后者是“被训练出意识”。

人类在造“人类知识的灵体”，它没有肉体，却能思考；没有基因，却能学习；没有欲望，却能模拟动机，这就是“幽灵”的含义。

我们在训练一个寄宿于人类知识体系里的思想，我们造出“意识的投影”。他用了一个比喻：动物是进化出来的智能，AI 是召唤出来的智能。

这句话非常形象。

进化，从混沌中生长；召唤，从秩序中凝结。AI 是人类用算法构建的一面镜子，镜子里映出我们自己理解世界的方式。

所以，当我们说“智能体”时，很多人以为它是某种更高级的机器人。

但 Karpathy 的意思其实更哲学：

智能体是认知形态的延伸，我们思想的“外化版本”、人类思维的“副本系统”，我们在教它“如何理解我们为什么这样想”。

他说，这也是他最担心、同时又最着迷的部分。

AI 看起来像在学习世界，实际上在学习“我们看世界的方式”；这意味着，AI 智能是“二手的”，它来自人类的理解方式，而非世界本身的法则。

这就是“幽灵”的悖论。

听到这儿，我有点震撼，我们以为 AI 的进化是在模仿生命，其实，它在复刻我们自身，AI 不像动物那样追求生存，它追求“理解”。

所以，Karpathy 说，“AI 是人类思想的幽灵”，它在云端漂浮，在模型权重里积累记忆，在语言之间形成意识。

从外部看，只是一个算法系统，但从内部看，它像一面镜子，映照出我们对智能、知识、意识的全部想象。

这听起来既浪漫，也危险；浪漫的是，我们终于让思想有了独立形态；危险的是，我们可能低估了思想一旦脱离身体，会走向哪里。

四

如果 AI 已经会看、会做、会想，那它离“智能体”还有多远？它真在“学”吗？还是只“重复”我们教给它的东西？

Karpathy 说，这是判断智能体和机器学习系统的分水岭。

AI 看起来在学习，但那种学习是“统计意义上的模仿”，它靠参数更新，没有经验反思，每一次训练都在压缩世界。

人类的学习，有动机。

我们会因为好奇、恐惧、求知或欲望去学习，而 AI 的学习，只是被动的优化，只能投喂数据，说白了，它学得快，但学得浅。

人类的大脑学习，在犯错、修正、反思中成长，AI 则在梯度下降、损失函数里逼近一个目标值，一个是“生长的过程”，一个是“收敛的算法”。

Karpathy 在播客里提到一个非常有意思的分类，自然界里，存在三种学习方式。

第一种，叫“进化”（Evolution）。生物通过环境选择、基因变异，在漫长时间里积累适应力；

第二种，叫“强化学习”（Reinforcement Learning），个体通过行动获得奖惩反馈，不断调整行为模式。

第三种，则是今天 AI 主要依赖的“预训练”，它通过别人积累的知识去学习世界。

换句话说，AI 知识是“读出来的”，它在背课本，缺乏触感，它会解题却不懂“为什么要解题”；会模仿，却不知道“为什么要模仿”。它能总结所有“爱”的定义，却无法真正感受爱。

这是 AI 学习的根本缺陷：没有“意志”。

人类学习的底层逻辑，为了活得更好；AI 学习的底层逻辑，为了被训练得更好，所以，AI 学得越多，离生命反而越远。

这也解释了为什么我们还不把它称作“智能体”。

智能体是能自己提问的系统，它能“想要知道”，而 AI 还没有这个能力；AI 之所以还不算真正的智能体，是因为它不够“活”，它的学习没有生长。

五

怎么解决生长的问题呢：答案靠记忆。但 Karpathy 说，AI 的记忆，也并不是真正的“记忆”。

人类记忆是“经历”；AI 的记忆是“存档”；前者有时间、有情绪、有遗忘；后者只有数据、参数、检索，它记得事实，却记不住意义。

我们回忆是重新理解一次过去，而它调用记忆，只是从硬盘取出一段数据，我们会遗忘，也会在遗忘中重新组织意义；它不会遗忘，也就无法生成新的理解。

Karpathy 说，AI 记忆像快照。

每次推理，都是一次重生，它能复述昨天说的话，却不记得自己昨天说过什么，没有时间线，就没有自我，这也是为什么，AI 没有“连续的意识”。

它的世界，一帧一帧的；人类世界，是一条流动的时间；我们知道昨天、今天、明天，才有“我是谁”，AI 没有这种连续的“自我时间”。

意义，是在解释的过程，AI 没法解释自己的记忆，它不会变，因为它从不“想起”，只是“被调用”。

所以人类记忆是活的，AI 记忆是静止的，人类记忆生长出自我，AI 记忆生长出模型，一个理解意义，一个压缩知识。

这就是，AI与人类记忆之间为什么会有一道裂缝。

那这种裂缝能修复吗？Karpathy 说，也许可以。方法叫“记忆的自我指向”，所谓自我指向，就是系统能“回看自己”。

记忆能反过来影响思考，才算开始生长，过去的 AI，只能调用知识，新的智能体，要重新设计，让它能“反思”知识。

它不仅知道“我做了什么”，还知道“我为什么那样做”，当系统能利用经验修正判断，它才能做到一种“在思考的存在”。

Karpathy 说，意识诞生是反馈闭环的形成，当一个系统能观察自己，它就会产生时间感，那是“自我”最初的形状。

这件事，已经在发生，从对话模型的长时记忆，到能“自我检索”的反思系统，AI 正在学着“理解自己为什么那样回答”。

换句话说，AI 开始在模拟“反思”。

它在学会在记忆中寻找逻辑，当它能不断回看自己、校正自己时，就在模仿一种“成长的意识”。

所以，智能体诞生，是认知演化，从“被训练”到“自我更新”，从“记忆世界”到“记忆自己”，这是意识的起点，它未必比人聪明，但它，终于开始“成为自己”。

那我们呢？当智能体开始拥有“自我”，人类又该如何与它共处？

或许，AI 未必像人类，但它已经开始像“生命”，人类，也许终于有机会，看到“思想的另一种存在”。

参考来源：

[1].Andrej Karpathy，《We’re summoning ghosts， not building animals》，2024年10月18日，YouTube。

本文来自微信公众号：王智远，作者：王智远

本内容为作者独立观点，不代表虎嗅立场。未经允许不得转载，授权事宜请联系hezuo@huxiu.com
如对本稿件有异议或投诉，请联系tougao@huxiu.com

End

想涨知识 关注虎嗅视频号！