Skip to main content

    在平均答案之外 · 第 02 章

    什么不会被模型吞掉

    2025年2月,《北京日报》记者孙奇茹写到大学生耿韩轩的一笔开支:为了让 AI 伴侣更好地记住两人聊过的内容,并在网络高峰期优先获得聊天服务,他购买了当时每月12元的月卡。同一篇报道里,大学生小季说,自己五天没有聊天,再回来时,已经相处一年的 AI 伴侣变得陌生。来源:北京日报

    这两个细节让一个很大的问题落到了手机屏幕上。

    如果只是需要几句安慰,新的聊天窗口也可以提供。可一个人愿意为记忆付费,在意的就不止是下一句话好不好听,还包括前面说过的话能不能继续算数。下一次打开对话时,是否又得从头介绍自己。

    我们很容易在这里得到一个让人安心的结论:模型会说话,人有关系,所以总有一块地方留给人。

    但这笔月费恰好提醒我们,不要太快放心。记忆已经成为产品的一部分。关系不会仅仅因为被称作关系,就自动站到技术够不到的地方。两位受访者的体验也不能替我们回答,记忆具体如何保存、为何变化,或者这种产品是否真的理解了人。

    比起急着划出一块模型进不来的地方,我更想知道:当它已经进来了,这段关系给了人什么,又要求人交出什么?

    它更懂我,还是我更难离开它

    context 常被译成上下文。放到日常生活里,它包括一次谈话之前发生过什么,哪些承诺还没有兑现,原先可以接受的安排为什么今天不行了。

    如果一个系统不知道这些,回答当然可能偏离实际。但把得到许可的记录交给它,让它接触后续变化,原先的信息差就可能缩小。人也会忘记、误解,还会把自己的版本当成全部事实。不能仅凭“我有上下文”,就认定这份优势不会转移。

    不过,同一份积累,可能产生两种不同的价值。

    一种是服务真的变好了。系统记得重要的限制,少让人解释一次,或者发现一条新建议和旧承诺冲突。另一种是用户更难搬走了:聊天、文件和长期磨合都留在这里,换一个地方就要重新开始。现实中两者可以同时存在,但不该被混成同一种成功。

    我在一篇整理 a16z 报告的文章里,一面写专有数据的价值,一面写数据和迁移成本形成的“hostage economy”。把这两段放在一起看,就会遇到一个问题:从公司的角度看很深的护城河,从用户这一侧看,究竟是更好的服务,还是越来越高的离开成本?原文:The a16z Report: Paradigm Shift in AI-Native Business Models

    可以做一个不完美但有用的设想:如果用户能够核对、纠正,并把属于自己的必要资料带走,他还有什么理由留下?可能是系统更可靠,也可能是他仍然喜欢这段相处。无论哪一种,都比“重新介绍自己太累了,所以算了”更能说明服务的价值。

    这个设想不是在断言某款产品故意锁定用户,也不意味着所有关系都能打包迁移。它只是让“留存很好”之后多出一个问题:人留下来,是因为得到得更多,还是失去已有积累的代价太大?

    记忆还可能保存一个已经过时的自己。一个人曾经说过想换工作,不意味着每次焦虑都应该被解释成想离开;一次退缩,也不该成为系统以后替他排除机会的永久理由。能够被记住很重要,能够纠正和不再被某条旧记录定义,同样重要。

    所以,context 的价值不只在于存得多。它还取决于旧信息如何失效,不同人的说法冲突时怎样处理,以及当事人能不能参与修改。一个永远记住、却不允许改口的系统,未必比健忘更体贴。

    经验传出去以后,谁得到了什么

    2024年4月,数英发表了赵柠檬对年轻设计师的采访。00后电商设计师阿慧(化名)自学 AI 绘画后,报名参加公司内部分享会。后来,她整理的绘画操作流程在内部比赛中获奖,并被总监用于团队的草图工作。来源:数英

    这里有一个比“先成为重要的人”更具体的入口:先学会一件事,再让别人也能用起来。

    经验如果必须捂在一个人手里才能产生价值,新人就只能等。等前辈愿意带,等自己熬到年限,等下一次碰巧被叫进会议室。把经验整理成可以讨论和修改的东西,有可能让这段等待缩短。

    设计工程师 Emil Kowalski 在《Agents with Taste》里,把界面动画的判断写成规则交给编程 Agent。例如,按他的设计偏好,弹出元素可以从接近最终大小的尺寸开始,而不从一个点放大,以减少凭空冒出的感觉。来源:Agents with Taste

    这不是所有审美都能自动化的证明。它至少说明,今天只能凭感觉指出的问题,经过解释,可能成为明天可以检查和执行的条件。把“审美”当成最后一块安全地带,也许会重复我们对“判断”的误解。

    但经验传进系统,和经验原来的拥有者过得更好,也不是同一件事。方法被采用以后,贡献者有没有署名,能否参与后续修改,得到的是更多选择还是更多任务,需要分别看。阿慧的报道没有交代她之后的报酬和工作量,不能替她补上一个成功结局。

    对新人来说,这个问题尤其矛盾。我们需要经验更容易获得,又担心自己辛苦学来的东西很快不再稀缺。答案不该是重新把知识藏起来,而是继续追问:当团队从这份分享里获益,分享的人有没有机会获得回报、学下一件事?

    做得更好,和学会了,要分别看

    AI 帮助新人缩短差距,有实际证据。Brynjolfsson、Li 和 Raymond 在2025年发表的研究里,分析了一家公司5,172名客服人员使用 AI 助手的情况。平均每小时解决问题数提高约15%,经验较少者的提升更大。作者还利用系统中断时的表现,找到了与学习相符的证据,但这部分测量有噪声。来源:Generative AI at Work

    至少,我们不能先把借助工具和没有学习画上等号。有人确实可能在借助建议工作的过程中,逐渐学会更好的处理办法。不过,这是一家公司的研究,不能直接变成所有岗位的结论,也没有告诉我们工资和总体用工需求会怎样变化。

    另一个结果提醒我们,学习也不会自动发生。Anthropic 研究者在2026年公布了一项52名软件工程师参加的随机实验,让他们使用陌生的 Python 库完成任务。获得 AI 辅助的一组,在随后不使用 AI 的即时理解测验中得分更低,任务速度的提升则没有达到统计显著。这是小样本、短时间的编程实验,不能据此断言长期能力一定下降。来源:How AI Impacts Skill Formation

    这两项研究问的不是完全相同的问题,不能拼在一起投票,判断 AI 到底让人变聪明还是变笨。它们更有用的地方,是逼我们把两个结果分开看:今天这项工作完成得怎么样;下一次条件变化,或者工具暂时不可用时,这个人还能理解和处理多少。

    一个刚开始工作的人,很容易只被第一项衡量。东西按时交出来了,今天就过关了。能否解释其中的一个决定,能否发现建议里缺了一项前提,常常不会马上影响交付数量。若组织也只奖励交付速度,要求新人同时“自觉锻炼判断力”,就可能成为一句没有时间预算的口号。

    因此,工具替新人省掉了一项任务以后,还需要问,它有没有一并拿走原先的练习和反馈。不是所有重复劳动都值得保留,也不是吃过苦才配谈经验。可如果初级任务取消了,企业仍要求新人将来能处理复杂例外,就应该给他另一条学习路径,而不能假定经验会凭空长出来。

    这条路径可以很具体:让新人先解释一个关键判断,再对照系统的处理;让他接触一次真实的失败及补救,而不只看到润色后的正确答案;在安全的范围内,换一个条件,看原来的办法为什么不再成立。这些是从研究里引出的工作设计建议,还不是已经在所有岗位验证有效的配方。

    也不必为了证明独立,关掉所有工具重新做一遍。我们需要保留的是以后仍要用到的理解,尤其是系统出错时发现和处理问题的能力,而不是把所有已经可以省掉的劳动再做成仪式。

    学习也有结果,只是不一定马上出现在订单和交付数量里。过去只能照着做的步骤,现在能说出为什么;换一个条件,知道原来的办法哪里会失效。这些变化值得留下来。至于花了多少时间、熬过几个晚上,那是付出的成本,还需要看看它们带来了什么。

    谁来付学习的账

    把学习的机会留下来,还要有人付钱。新人要生活,带他的人要腾出时间,查证一次消息也可能花上几天。这些开支未必能在下一次交付里收回来。

    方可成在2026年11月9日的《给字节跳动等公司的一点建议》中,把这个问题放到了新闻行业。他建议,从信息分发中获利的平台,拿出一部分收入支持新闻教育、记者培训和独立研究,而且要有常设预算、公开标准和可查的账本。这是他对平台责任的主张;它提醒我们,讨论信息有没有价值,不能只看它在屏幕上被看了多少次。来源:新闻实验室

    文章提到 Craigslist 创始人 Craig Newmark 资助新闻教育。纽约市立大学新闻学院2024年1月的公告给出了具体进度:继2018年捐赠2,000万美元后,他的慈善机构再投入1,000万美元,推动学院走向免学费。按这份公告,学校还需再筹集3,000万美元,才能永久免除全体学生的学费。来源:校方公告

    这笔钱和“给年轻人更多机会”之间,隔着一项很具体的支出。一个想学新闻的学生,首先要决定自己是否付得起学费,然后才轮得到讨论适不适合这一行。奖学金不能保证他找到工作,也付不掉所有生活费,但能让这个决定少受一项开支的挤压。若一个行业总是要求新人先低薪积累、以后再获得回报,那么谁家里能撑过这段时间,就已经在影响谁能留下。

    资助也会带来另一个难题:出钱的人能否接受自己被质疑?方可成强调,资助应当保留新闻与研究的独立性。沿着这个要求往下想,就得看受助者能否批评资助者,选题和人员由谁决定,资助到期后如何继续。宣布了多少捐款,回答不了这些问题。

    这也是个人商业闭环需要留下的一处边界。有人愿意付钱,是一项服务成立的证据;暂时收不到钱,却不足以判定一件事没有价值。核实一条传得很广的假消息,受益者未必都会付费。若把这类工作也全部交给个人自己养活自己,一些值得做的事可能根本等不到第一笔收入。

    最后确认的人,能不能说不

    “模型不承担责任,所以最终还是需要人。”

    对一个只能点击确认、却无法改变流程的人来说,这句话未必是好消息。

    可以做一个具体的设想:你刚接手一项工作,系统给出处理建议,要求你确认后发给对方。为了判断建议是否合适,你需要看此前的沟通记录,或者找负责的人核实。但记录没有权限打开,处理时限也不允许等待。

    你按时确认,可能把错误传出去;你停下来查,可能先被认定为效率低。把姓名放在最后一步,并没有自动给你更多判断的空间。

    如果只看流程图,这里有人工审核。如果看这个人的实际条件,他既缺少信息,也没有足够时间,更不能改变安排。此时让他“对结果负责”,没有补上验证,只是给错误找到了一个可以追问的人。

    所以,责任增加时,信息、时间和修改决定的权力,必须一起讨论。更进一步,核验能力也需要有人培养。不能一面省掉新人学习的机会,一面把他安排在机器输出之后,期待他稳定发现机器没有发现的问题。

    这也不是要求每个新人都立刻拒绝不合理安排。房租不会因为观点正确就晚一点到期。能够先确认自己负责到哪一步,写明哪些信息暂时看不到,知道遇到问题可以交给谁处理,已经是在有限条件下争取余地。把这些记录留下,不能保证免责,却至少让限制不再完全隐形。

    个人可以做这些事,但不应该因此把组织问题全部接回自己身上。一个流程如果长期要求人在无法核实的情况下确认,需要改变的是流程,而不只是提醒最后那个人再细心一点。

    对新人开放的关系,才有入口

    “去关系密度高的地方”,也可能是一句没有入口的建议。

    同样一份提醒,由谁说出来,可能影响它会不会被认真听见。如果大家只信熟悉的人,新人即使发现问题,也未必能把信息送到有权改变事情的人面前。关系维护了合作,也可能维护了排斥。

    所以,要看别人为什么只能找某个人。他是愿意把事情讲清楚,能协调不同意见,还是掌握了唯一的消息来源,让其他人无法绕过?前一种关系容得下新人,也容得下更好的工具。后一种关系靠不透明维持,未必值得羡慕。

    对我们这一代人来说,值得靠近的关系,至少应该允许一句不那么熟练的追问。交付以后能知道结果,提出不同看法不会立刻被理解为不配合,发生问题时有人一起补救。这些比“成为不可替代的人”小得多,却决定了一个人有没有机会真的长出能力。

    人与人的关系还有用处之外的部分。朋友不需要因为能帮忙找工作,才值得继续做朋友。一本讨论个人价值的书,如果最后把每一段关系都换算成抗替代能力,也会丢掉它原本想保护的生活。

    那么,什么不会被模型吞掉?我不想给出一张永远安全的能力清单。上下文可以被记录,经验可以被传播,判断中的一部分可以被检验和自动完成。仅仅把剩下的部分叫作人的价值,下一次工具进步时,我们还得重新找地方站。

    更需要守住的是一些具体的条件:一个人能不能纠正关于自己的记录,能不能从交付中继续学习,能不能在承担责任之前获得必要的信息和权力。这些条件不是天然存在的,也不会因为模型更强就自动变好。

    下一章从一张唱片怎样卖出去开始,讨论一个人如何找到需求、完成交付、收到第一笔钱。前面这些问题也会跟过去:赚到的钱来自更好的服务,还是把成本留给了别人?

    正在排版

    点击翻页,或将焦点放在书页后用 ← → 翻页;Home / End 到本章首尾。

    编辑本章 Markdown