Simon Willison 在 4 月 24 日转引 Nilay Patel 的评论文章，并称这是他会想很久的一篇评论。Patel 的核心判断很直：ChatGPT 使用继续暴涨，但公众对 AI 的反感也在上升。两件事不冲突。人们会用工具，不代表愿意把生活交给自动化。
这篇评论真正刺到行业神经的，是“software brain”这个说法：一种把世界看成信息流、数据库、循环流程和可自动化任务的思维。它在商业世界很有效，也很危险。AI 让更多公司更容易把自己软件化，但人类经验不是所有时候都能塞进表格。
Patel 批评的不是 AI，而是软件脑的越界
Patel 说得很明白：不是一切都是商业，不是一切都是循环，人类经验不能完整进入数据库。AI 让“软件脑”扩张得更快，广告、营销、客服、运营都在被流程化。问题是，普通人并不把“能写代码、能自动化”看成天然好事。
| 项目 | 表面现象 | 更深冲突 | 我的判断 |
|---|---|---|---|
| ChatGPT | 使用增长很快 | 工具价值被承认 | 不能推出公众爱自动化 |
| 企业 AI | 流程、营销、客服加速自动化 | 降本优先于体验 | 激励来自公司，不来自用户 |
| 智能家居 | 苹果、谷歌、亚马逊推了十多年 | 普通用户需求不强 | 不是产品全烂，是控制欲过剩 |
| software brain | 世界被建模成数据和流程 | 人被压平成输入输出 | 边界在人的接受度 |
智能家居是个好锚点。苹果有 HomeKit，谷歌有 Nest，亚马逊有 Alexa 和 Echo。它们投入多年，产品也不是完全不能用，可大多数家庭仍没有强烈冲动去自动化灯光、窗帘、温控。因为对普通用户来说，“我按一下开关”并不是痛点，“系统猜我想干什么”反而常常是麻烦。
企业想要流程，用户想要余地
科技行业喜欢自动化，有很现实的理由。自动化意味着更少人工、更稳定的指标、更容易复制的服务。所谓“天下熙熙，皆为利来”，放到企业 AI 预算里，就是降本、提效、少出错、可审计。
但普通人的生活不是 KPI 仪表盘。一次家庭争吵、一次临时改主意、一个老人不想学 App、一个孩子半夜把灯打开，这些都不是数据库喜欢的变量。软件脑最不擅长处理的，恰恰是人类生活里最常见的含混、反复和例外。
这也是 AI 产品经理最该警惕的地方。别把“用户懒得操作”自动翻译成“用户想被接管”。用户真正要的，很多时候是少一点重复劳动，多一点可控感。两者差得很远。一个 AI 客服能省掉企业成本，但如果它把用户困在循环菜单里，省下来的钱就是从用户耐心里扣的。
历史上这并不新鲜。铁路、电力、电话、互联网，每一代基础设施都会带来管理者的冲动：把复杂社会变得更可计算、更可调度。今天的 AI 只是把这股冲动装进了对话框里。不同的是，这一次它直接进入写作、客服、家务、教育和亲密关系这些软领域，摩擦也更私人。
接下来该盯的不是模型参数，而是用户拒绝权
这件事对普通用户的影响很具体：买不买智能家居，接不接受 AI 客服，愿不愿意让系统替自己安排日程、回复邮件、筛选内容。对企业客户来说，关键也不是“能不能自动化”，而是自动化之后投诉率、人工兜底成本和品牌信任会不会反噬。
我会盯三个变量：AI 功能是否默认开启；用户能不能轻松退出；企业有没有保留真人兜底。没有这三条，所谓智能体验很容易变成软性强制。
Patel 和 Willison 的价值，不在于唱衰 AI。恰恰相反，他们提醒行业把问题问准：ChatGPT 的成功说明人们需要强工具，不说明人们愿意被流程吞掉。AI 有用，但它不能拿“有用”当通行证，把所有生活场景都改造成工单系统。