最有用的 AI 产品,不会是当下的「以任务为中心」
作者：微信文章STAR算法作者、xAI主力Eric Zelikman创办Humans&，构建以人为中心的AI产品一、任务优化时代的盲点：我们忘了"人"
当代 AI 系统：视频推荐算法、工业机器手、AI 对话助手、自动驾驶系统，诞生于任务优化的逻辑。它们的衡量标准是：准确率、点击率、效率。
然而，随着AI 系统普及，一个问题慢慢出现：
我们自动化越多任务，我们作为人的意图（intention），反而更加碎片化。
我们的生活充斥着"AI碎片"：自动提醒、邮件归类、AI会议总结，甚至在我们阅读前就被生成。但没有任何系统在问：我们为什么要做这些事？
这正是"任务中心 AI"的核心缺陷：它加速了执行，却削弱了意义的连贯性，即那种让行动汇聚成生活方向的"意图之线"。
二、从任务到意图：Bratman 的启示
哲学家 Michael Bratman在《意图、计划和实用推理》一书中指出：理性不在于瞬时选择，而在于能贯穿时间的计划（Plan）。
意图（intention）是局部承诺（commitment），它组织我们的推理（reasoning）并协调未来行动（action）。
以任务中心的 AI只管埋头给出"下一步"即时反馈：下一个词是什么，下一段代码是什么 ，下一个建议是什么，下一步操作是什么；
而以人为中心的 AI 则要跨步推理，保持行动与目标之间的连贯。
换言之，没有记忆、反思与共享意图的 AI，只是"快"，不是"聪明"。
三、Eric Zelikman 与 Humans &：为人而非取代人
最近，Grok 大模型的核心研究员 Eric Zelikman 创离开了 Elon Musk 的 xAI，创立了新机构Humans&，其核心理念是：
AI 的存在意义，在于促进人类的成长与幸福，而非取代人类。
他批评当下主流的"任务中心 AI"只追求基准分数，而非人的福祉。并提出要构建以人为中心的 AI，让系统赋能人的思考、自主与反省。
AGI可以不是全面自动化，而是以「人」为中心
一个"好"的 AI，不是能最快完成任务的那一个，而是能帮助人更好思考"哪些任务值得做"、"哪些最符合用户的目标"的那一个。
四、CollabLLM：从回答者到协作者
Eric Zelikman提到，最近斯坦福团队提出的 CollabLLM，是"以人为中心 AI"的技术雏形。它通过多轮（multi-turn）、长时强化学习，让模型模拟人类（simulation），学会提出澄清问题、预测意图、引导对话。
换句话说，它不仅会"答"，更会"共思考"，即：一种机器版的"共享实践理性（shared practical reasoning）"。
这种在目标函数中融入时间一致性与互动对齐的训练方式，正是人本智能设计的技术关键。
五、记忆与反思：当前 AI 缺失的"器官"
以人为中心的 AI，需要记忆。不是为了存数据，而是为了维系"自我连续性"。正如人类的生活是故事而非瞬间，智能体也必须记住已讨论、已承诺、已修正的内容。
这就是 LLM 记忆（Memory）的意义所在：
情节记忆：回忆对话与上下文；语义记忆：保留稳定偏好与价值；反思记忆：总结规律、学习教训。
没有记忆，AI 被困在"此刻"；拥有记忆，它便能拥有跨时间的意图：这正是"以人为中心"的核心。
六、以人为中心的AI产品一个构想：下一代"智能日历"
这里，笔者以电子日历管理这一看似平凡的 App，来揭示"任务"与"意图"的差别。像 Motion、Reclaim.ai 等任务型 AI 日历产品，虽能高效自动排程，比上一代的日历应用更智能，但仍停留在任务层。
设想一个基于 CollabLLM + 记忆反思机制的新系统 Timeful-Next ：
它理解你的能量节奏，帮你推理承诺的取舍，
提出折中方案（"把会议 B 往前移，保留家庭晚餐"），
并在与你的长期交互中，持续学习"什么是你一周的好状态"。
这不再是任务自动化，而是意图增强（Intention Augmentation）。
PS：世上真有过 Timeful 这个日历产品，受Michael Bratman哲学思考影响而设计，后被google收购。不过它使用的是上一代的 AI 技术（专家逻辑系统）。
七、设计原则对比
设计原则任务中心 AI人本中心 AI目标优化性能指标支持人的推理与连贯性交互模式命令 → 响应对话 → 共同思考记忆无状态、单会话持久、反思、可适应评估指标准确率、延迟理解力、满意度、意义感伦理导向替代人力放大人性与自主性
以人为本的 AI 并不否定优化，它只是重新定义了优化的意义：效率只有在服务于连贯性的人类价值时，才有意义。
八、面向幸福的设计之路
未来十年的 AI 设计，将取决于它能否真正与人的时间、目标与价值对齐：
时间对齐：理解人的生活节奏；意图对齐：推理"为什么"，而非仅"如何"；伦理对齐：尊重自主、隐私与尊严。
AI 的下一个前沿，不是更聪明的算法，而是懂得如何让人生活得更好的智能。
九、结语：从生产力到生活力
"我们造出了能完成任务的机器，接下来该造能理解人类和生活的机器。"
"以人为中心的 AI"正代表这一道德与技术的演进：它融合了 Bratman 的意图、规划和实用推理理论、CollabLLM 的协作推理大模型训练技术、以及 Zelikman 的 Humans &人本 AI 的愿景。
未来真正有用的 AI，不会只是一个执行者，而是人类幸福的共谋者。
页:
[1]