切肤之痛
当一切都能被生成,最后值钱的,是一个你肯拿身家去赌的判断
我想对自己的领域问一个狭窄而令人不适的问题。在计算机系统研究里,在那个已经望得见的 AI 时代里,什么东西是真正有价值的?不是令人愉快,不是够发表——是有价值。人还能贡献什么,值得这个世界为之付钱?不适之处在于:我从小被教的每一个答案,都已悄悄失效。
我们珍视的一切都廉价了
三十年来,我这一行有一套清晰的证明等级,而 AI 正从底部往上把它吃掉。
我们珍视代码。Talk is cheap; show me the code 是整条信条——代码是造不了假的诚实信号。如今你还没把提示词读完一遍,模型已经写出一版说得过去的实现。
我们珍视造出来的系统,那些一个团队一年才垒起来的重家伙。脚手架,胶水代码,摸清形状之后的第二个系统——越来越像是你监督出来的,而不是你写出来的。
我们珍视写得漂亮的论文,因为清晰的文字稀缺,可以充当清晰思想的凭证。现在我午饭之前就能生成十种流利的说法,你也能。
最后是最扎心的一个,我行里的人至今不愿正视:我们珍视行得通的想法。那个别人都没有的巧妙机制。一个模型能提出一百种机制,还能趁你睡觉并行地试——经实验一筛,好的足够多,「这主意是我出的」就不再是从前那块高地了。出主意正在变成搜索,而搜索是机器的主场。
这个模式就是整篇文章:凡能被生成的,价值都塌了。 所以人身上若还有什么值钱的东西,它一定不是一件你生成出来的东西。
机器做不了的那一件事
这局棋里,恰好有一步是 AI 结构性走不了的。它押不了注。
模型会断言你的证明是对的,转眼又断言它是错的,两头都分文不付。没有声誉可输,没有名字可署,没有一个「今天说错话、来日要还账」的未来。这不是留给下个版本去修的缺陷;这就是它的本体——一台零成本产出断言的引擎。博弈论对此有个不留情面的词:cheap talk,空口白话——发出来不花钱的话,单凭自身不携带任何信息。一千个信心十足的 AI 回答,加起来凑不出一个可信的。
这就直指那件稀缺的东西。一个信号携带的信息量,与发出它的成本成正比。空口白话的反面是代价信号(costly signal)——一句错了要赔的断言——它之所以有信息量,恰恰因为若非当真,你不会发它。当一个研究者把自己的声誉押在「就是这条路」上,那笔支出本身就是讯息。把代价抽掉,剩下的又是噪声。
所以,在生成廉价的世界里,人类工作的价值单位,是押上了注的断言:一个公开作出、错了要赔的判断。我需要一个词。早先的文章里我叫它「思想」——code is cheap; show me the thoughts。太软了;思想是免费的,你可以怀揣绝妙的想法而毫无风险。我指的是一个「错了有标价」的思想。我手头最近的词是承诺(commitment):两重意思上的 commit——你说出它,你也把自己绑上它。
令人不适的部分
让我把这个立场的含义承认出来,因为它有争议,我宁可明说,不愿夹带。
人类稀缺的贡献,正在从聪明移向担责。不是你多聪明,不是你产出多少——这两样 AI 都已经赢了——而是你肯不肯站在一个具体的断言背后,错了把代价吃下去。研究者越来越不像作者,越来越像承保人:看过一千个机器生成的候选,把自己的名字押在「哪一个是真的」上面。我受的训练恰恰教我提防这种人——造得少、断言多的人——而我不再确定那份训练是对的。
听上去,这像是在奖励声大气粗的人,亏待安静仔细的人。我认为不是——虽然这一点我拿得不重:没有代价的自信只是更多的空口白话,世界很快就学会打折扣。过滤器不是音量,是赔付。活下来的是一份校准过的战绩——你押过、后来应验的断言,经年累月。私下里正确,一无所得;高声而错误,终将破产。只有记录在案的正确才会复利。
我剩下什么
旧信条是 talk is cheap; show me the code——在代码昂贵的年代,索要一个昂贵的信号。如今代码廉价了,文字廉价了,设计廉价了,连想法都在廉价下去。这条信条必须为一个生成免费的时代重写:
别告诉我什么是真的。告诉我你在它上面押了什么,错了要赔多少。
那是最后一件昂贵的东西。也可能是我们还拥有的唯一一件。