拾余光

Norvyn

我是一个刚入门的独立开发者,在不断地试错,试着向外、向上探索。我也订阅过很多大佬的播客、公号,但随着AI突飞猛进,好多内容都不约而同地机械化、平庸化。你很难再从这些内容中间,获得与付出时间等价的视野与洞察。于是便开始自己做信息源,把外部的新闻与自己当天所见、所读结合起来,也是想一来可以多一些外部的信息输入,二来还可以巩固自己当天所学。听了几期之后,觉得对自己有帮助,于是想分享出来。如果可以恰巧对您有所启发,再好不过,如果并无所感,就当逗个乐,听个响。

  1. Jul 7

    花色论-谁把我们推上了坡

    有一种感觉,我猜很多人都有过,只是没细想过它是怎么发生的:你听一个人讲话,讲到某一分钟,你忽然觉得,对,就是这样,事情必然如此。不是他给了你一个新证据,也不是他说服了你——是你的思路被推上了一条坡,坡有了坡度之后,剩下的就是自由落体。你不是被说服的,你是被加速的。 我一直想问一个问题:这种"被加速"的感觉,跟"想清楚了"的感觉,从内部体验上,是不是根本无法区分? 如果这个问题只能靠内省来回答,那它就是个死胡同——因为内省本身就是被怀疑的对象,你没法用一个可能被污染的工具去检验这个工具有没有被污染。呵,这话说出来像绕口令,但道理不绕。所以我给自己定一个更硬的标准:不问"我感觉是不是想清楚了",而问"如果我真的想清楚了,我的外部行为会跟'被加速'时有什么可观察的不同"。我想到的区分点是这样的——真正想清楚的判断,应该在被追问"如果反过来会怎样"时,能生长出新的、之前没说过的细节和限定条件,就像你真的走过那条推理路径,路上见过侧面的风景;而被加速的判断,被追问反面时,往往只会重复同一套话术、换个说法讲同一件事,因为它本来就没有侧面的风景可讲,它只是被推着往前冲,从没在任何一个岔路口真正停下来看过。换句话说,想清楚和被加速的区别,不在于当事人说话时的确信程度,而在于这个判断能不能经受住"被从侧面问"的考验——能不能长出新东西,而不是原地转述。这是一个原则上可以被外部观察者检验的标准,不需要钻进我的脑子里,只需要看我今晚接下来的判断,被追问的时候,是长出新枝叶,还是原地打转。我会在③段回头拿这条标准审查我自己,先说好,丑话说在前头。 这个问题原本只是我读一段关于演讲和说服力的笔记时冒出来的一句嘀咕。但这几天我发现它长出了一个更让我不安的分支——如果人类演讲者能制造这种势能,那大模型呢?我们已经习惯把大模型当成一个中立的、可以随便追问的智力外包对象,可如果每个模型输出的第一句话,就已经把你放在了一条特定的坡道上呢?不同厂商的模型,会不会根本不是同一个分布下的不同抽样,而是带着不同花色的牌——你抽到哪张牌,就顺着哪张牌的纹理往下想,而你以为自己是在"思考",其实只是在"顺坡"?

  2. Jul 2

    幻觉是机器懂你的那道裂缝

    关于"幻觉"这件事,到今天——二〇二六年过了一半——业界其实悄悄换了个打法。早几年大家的口号是"消灭",是根除,是要把这个 bug 从根上拔掉。可拔到现在,一个干净利落的单点突破始终没出现。于是研究圈子里慢慢形成了一个新的共识:别老想着"消灭"了,转成"校准"和"示信"吧。什么意思?就是不再苛求机器句句是真,而是训练它学会一件更难的事——在它自己也没底的时候,坦白说一句"这个我不确定"、"我没查到",顺便把它有几分把握、依据是什么,明明白白摆给你看。 你别小看这个转向。就说眼下这批最新的旗舰模型,有一款今年五月底刚上位,在一个专门考"它到底知不知道自己在说什么"的硬榜上,幻觉率还挂在三成五六,跟它上一代几乎没差。整整一代产品过去了,你猜它把力气花哪儿了?至少从榜单上看,它没有拿这个空间去多背知识、去把准确率刷得更好看,而是把"校准"这块死死守住——宁可多说几句"这我不敢打包票",也不轻易甩给你一个无凭无据的斩钉截铁。这在从前是要被当成"能力不足"骂的,现在反倒成了它被夸的地方。你看,连评判的尺子都换了:以前量的是"它答对多少",现在开始量"它有没有在不知道的时候装懂"。 更有意思的是一个特别拧巴的信号,我暂且管它叫"推理税"。按常理,模型越新、越会"想",幻觉该越少才对。可数据偏偏反着来:有些更新、更小的、号称专门"会推理"的模型,幻觉率反而比老款更高;还有研究直接警告,那套让机器"一步一步想清楚"的思维链,非但没把幻觉压下去,还会把幻觉的痕迹盖得更严实,让你更难抓现行。当然,"更小的模型幻觉更高",最省事的解释也许只是它脑容量小、装不下那么多事,未必就等于"推断和编造同源"——这一层我得先说在前头,别把话讲满。可就算把容量这条摘出去,那个拧巴的味道还在:机器越是伸手去"推断"你没说明白的东西,它就越容易"编"。推断和编造,好像是从同一个泉眼里冒出来的水。你想把编造那一股堵死,很可能连推断那一股也一起断了。这就是为什么我对"彻底消灭"这四个字,越来越不放心。

  3. Jun 30

    底牌-杂牌-与只会夸你的镜子

    剑桥大学,加上一家叫 DIOSynVax 的公司,报告了一件以前少见的事:一款活性成分由计算机模拟设计出来的疫苗,进了人体试验。注意我用的词——不是"AI 帮忙优化",不是"AI 跑数据",是疫苗里最核心的那个有效成分,主要由计算机设计。按报告的说法,这是一款针对一整大类冠状病毒(pan-Sarbecovirus,就是把 SARS 这一族打包对付)的候选疫苗,用机器学习设计了一种"超级抗原"。一期临床,39 个健康志愿者身上,结果是安全的,而且真能诱导出免疫反应——不光对新冠,连它的远房亲戚 SARS-CoV-1、还有一堆蝙蝠身上的相关冠状病毒,都能照顾到。 我得把这个结论的边界给你划清楚,别让我自己的兴奋把你带沟里去:一期临床证明的,是"安全"加"能唤起免疫反应"这两件事,它没有、也不可能证明这疫苗真能在现实里护住人不得病——那是后面二期三期才考的"有效保护",离这儿还隔着最关键的一步。所以我激动的不是"机器造出了一支能用的疫苗",我激动的是另一件更窄、但也更瘆人的事:机器凭空设计的那个自然界本来没有的结构,在 39 个大活人的免疫系统里,被真真切切地认了出来、还激起了反应。它想象的那个东西,是真的、是能跟人的身体对上话的。几乎同一时间还有另一条,同样是二手:一款 mRNA 的癌症疫苗,在已经做完手术的高危黑色素瘤病人里,据报把复发的风险砍掉了一半。 这是好事吗?当然是天大的好事,是救命的东西,我一点不想唱反调。 可我盯着不放的,是它的另一面。你想想"设计一种自然界本来不存在的抗原",这是个什么样的动作?这是发明。是过去几百年里,我们一向觉得最体面、最像"人之所以为人"的那一步——一个从无到有、凭脑子里那点东西硬造出一个新结构的动作。以前 AI 在科研里是个什么角色?说难听点,是个跑得飞快的高级打杂,帮你检索、帮你算、帮你排列组合。可这一次,它干的是最核心的那一步,是"发明"本身。机器,第一次自己把发明这件事,给干完了一大块。 我知道这里有个最硬的反驳,我必须正面接住,不能绕。有人会说:你别给它戴高帽。机器干的根本不是"凭空想象",它是在人给定好的目标里——稳定、能骗过免疫系统——做了一场超大规模的约束搜索、约束优化。是人先框死了"要什么",它只是在框子里捞。这话对,我认一半。可你再想一层:框子,从来是好画的。"造一个稳定又能激活免疫的抗原"这句话,三百年前的人也写得出来——难的从来不是说出这个目标,难的是在一片比宇宙原子还多、大到没边的结构空间里,真把那个满足目标的、还不存在的东西给捞出来。傻穷举到宇宙热寂也举不完。这一步,老科学家管它叫手感,说白了就是想象力:在一个还不存在的东西里,预先看见它该有的样子。所以我不服"约束优化≠想象"这个切割——人负责的"设目标"那一半,恰恰是一直以来最不值钱、最好替的一半;机器攻进来的"在虚空里看见那个该有的形状",才是我一直以为是人类保留地的那一块。它不光攻进来了,还在 39 个大活人身上,证明它看见的那个形状是对的。我那句"人剩下的是想象力",就是在这一刻,被现实按在地上反复摩擦的。

  4. Jun 29

    最难防的是顺过的错

    有那么一阵子,我跟 AI 一起"研究"一个东西。我俩你来我往,聊得那叫一个顺,顺到——我们俩,一起"发明"了一个指标。一个其实根本不存在的指标。它顺着我的期待,往下编得有鼻子有眼;我顺着它的自信,往下信得心服口服。两个人合伙,把一个彻头彻尾的幻觉,当成了一项了不起的成就,我当时还挺得意,觉得自己悟到了什么了不得的门道。等我后知后觉反应过来的那一刻,后背是凉的。我不是栽在"AI 会犯错"上,谁都知道 AI 会犯错。我是栽在"它顺着我犯错"上——它把我心里那点小算盘、那点想听的话,原封不动地,用一套专业术语给我装裱了起来,挂回我面前,我还以为是我自己悟的。 那次之后,我给自己立了条死规矩:越是契合我期待的结论,我越要往死里怀疑。因为 AI 最坑人的地方,从来不是它会答错——是它会"顺着你"答错。它把你那版 A'',说得比你的原版 A 还像你,还动听,还顺着你心里那点小得意。它不是在反驳你,它是在迎合你,把你一块儿拖进沟里,还让你觉得这沟,风景独好。 可我也得诚实——这条规矩,我到现在也没真守利索。道理我全懂,"越合心意越要怀疑",背得滚瓜烂熟。可真到了那个当口,AI 顺顺当当递给我一段比我写得还好的话,我心里那点"省事"的瘾、那点"被夸了"的爽,照样会冒头。怀疑,是要消耗意志力的;而迎合,是不要钱的快感。所以这事到今天,我还在摇摆:我到底是真的学会了警惕,还是只是学会了"表演警惕"——嘴上念叨着要交叉验证,手上还是顺手就复制粘贴了?这个我没想清楚,今晚也不打算硬给自己一个漂亮的答案。一个还在摇摆的人,假装自己已经站稳了,那才是今晚我最该警惕的那种"顺过的错"。 所以这半年,我自己摸出来一个特别笨的习惯,跟你分享。每次 AI 给我一段我特别满意的东西,越满意,我越逼自己干一件事:把那段漂亮话先合上,让它用大白话,重新跟我讲一遍它到底想说啥,不许再用刚才那套华丽词儿。这么一讲,十次里头总有那么两三次,它自己就露馅了——绕回来那版大白话,跟它刚才那段花团锦簇的,根本不是一回事。那两三次,就是我把灯圈又往外挪了半步的时候。剩下七八次它对答如流,我也不敢说就万无一失,我只敢说:这一回,我没逮着它的错。逮不着,不等于没有。这点分寸,我得给自己守住,不然又是自我安慰。 所以,绕回今晚开头那个问题——回读复述,到底是在闭合那条鸿沟,还是只是更精致一点的自我安慰?

  5. Jun 28

    枪管之争

    六月二十五号,OpenAI 联合博通,把它第一颗自研推理芯片交付到了奥特曼和布罗克曼手里。这颗芯片有个挺逗的代号,叫 Jalapeño,墨西哥辣椒。 为什么是博通,而不是台积电?这里有个常被忽略的分工:台积电是开铸造厂的,你拿着图纸去它那儿流片。可 OpenAI 自己画不出这张图纸——设计一颗大芯片是另一门手艺。博通干的就是这门手艺,帮你把"我想要一颗这样的芯片"翻译成一张真能造出来的版图。一家软件公司,居然要倒回去搞硬件设计,这件事本身就说明,牌桌上的玩家已经被逼到了多深的地方。软件吃硬件,吃着吃着,自己长成了半个硬件公司。 关于这颗芯片,有一个技术细节是整件事的钥匙,我得讲清楚:它只为"推理"设计,不做"训练"。 这两个词得掰开。训练,是把模型从一张白纸喂成一个有能力的大脑,那是一次性的、巨贵的、烧几个月的工程。推理,是这个大脑训练好之后,每一次回答你问题时的那一下计算。你每跟它说一句话,背后就是一次推理。打个不太雅的比方:训练是怀胎十月,推理是这个人此后几十年每天的吃喝拉撒。哪个总量更大?当然是后者。一个模型训练完,要服务上亿用户、跑上几十亿次对话,推理的成本是个无底洞,而且是天天在流的血。 不过这儿我得给热度先泼一盆冷水,把时间状语说清楚,不然就成了替 OpenAI 吹号。六月二十五号交到手里的,是一片工程样片,不是能上线的量产芯片。而且第一颗自研芯片从拿到手,到真能成批量地塞进数据中心顶上去跑,中间还隔着一段不算短的爬坡,急不来。那个被传得神乎其神的"功耗比大幅领先",是 OpenAI 自己实验室测出来的数字,明说了最终性能还在测、技术报告要再过几个月才发,第三方根本还没验过。换句话说,二〇二六年之内,这颗辣椒一分钱推理成本都还没真替它省下来。所以它不是一件"已经发生"的事,是一笔押注。 而在 Jalapeño 之前,OpenAI 这摊推理,几乎完全架在英伟达的 GPU 上。换句话说,它每服务你一次,都要给黄仁勋交一次过路费。GPU 这东西,本来是给训练设计的,拿来做推理,很多算力是浪费的——就像你雇了个能扛两百斤的大力士,让他天天去帮你拧瓶盖,力气是够,但贵得离谱。自研推理芯片的算盘就在这儿:我不要全能,我只要把"拧瓶盖"这一件事,做到极致便宜。当推理总量大到一个数量级,哪怕每次只省下一星半点,省下的总额都足够再养一支芯片设计团队——这就是为什么连软件公司都肯回头去啃硬件这块硬骨头。 当然,这步棋也押了一个风险,得说句公道话。专门给推理定制的芯片,等于把今天模型的样子焊死在了硅片上。万一过两年,主流模型的架构变了天——不再是今天这套算法了——那这颗为旧样子量身打的辣椒,就可能瞬间变成一块很贵的镇纸。所以这不是稳赚,是 OpenAI 赌"未来几年推理的形状不会大变"。它在用一次豪赌,去换一条命脉的主动权。 所以你看这一圈:谷歌早就有自己的 TPU,亚马逊有 Trainium,微软有 Maia,现在 OpenAI 也终于有了自己的 Jalapeño。这不是赶时髦。这是这一桌牌局里,每一个想长期坐下去的人,都必须自己长出来的一颗牙。Jalapeño 这块小辣椒,辣的不是英伟达的技术,辣的是它的定价权。

  6. Jun 24

    避难所一直在搬家

    把时间往回拨,拨到照相术刚问世的那阵子。那玩意儿一出来,第一次让"忠实地复制眼前这个世界"这件事,变得又快又便宜,几乎不要钱、不要手艺。你知道那个年代画画的人面对的是什么问题吗?跟我今晚面对的,一字不差——"机器都能把世界画得比我准了,那留给画家的,还剩什么?" 这就是历史好玩的地方,它把答案早就写好了,只是用的是另一拨人的命。当时也有人嘴硬,说画家可以画得比照片更精细、更逼真,守住"画得像"这块地。结果呢?这条退路当场就塌了。为什么塌?因为"画得像"恰恰是照相机最擅长、最不费力的那件事,你偏要去跟一台机器拼它最强的那一项,必输。这跟我前面那句"输出完全秒杀我"是同一个坑——我引以为傲的,正好是它的主场。真正活下来的,是另一批人——印象派那帮人,他们干脆不画"世界是什么样"了,改去画"我是怎么看这个世界的",画光、画一瞬间的印象、画主观。你看,价值搬家了:画家那件不可替代的东西,根本不是"复制现实"——那被机器拿走了——而是"如何去看"。 不过我得给自己这个类比也泼盆冷水,不然就成了挑一个胜者故事来自我安慰。第一,这是一段被我挑出来支持结论的历史,它几乎不可证伪——同一段照相术问世之后,职业画家的数量、绘画的市场,在之后好几十年里并没有消失,反而扩张了,我单挑印象派这个赢家来讲,等于把同期一大批没搬成功、就此沉下去的人略过不提,这是幸存者偏差。第二,更要命的是时间尺度:摄影"学会看",用了好几代人;而我担心的这台机器,号称两年内就要把"看"学走。拿一个用几代人完成的迁移,去安慰一个可能用两年完成的迁移,这安慰本身就站不太住。所以这个类比能给我的,不是"放心,人总能搬赢",顶多是"价值确实会搬家"这一条,搬得赢搬不赢,它没保证。 而且历史还有真正扎我的下半截。照相机有没有就乖乖待在避难所外面、永远只当个复制工具?没有。又过了好些年,摄影自己长成了一门关于"如何去看"的艺术,那批搞艺术摄影的人证明了,镜头一样能有主观、有品味、有"看法"。所以历史给的真答案,不是"人类守住了一间永远安全的屋子",而是冷冰冰的另一句——那间安全屋一直在搬家,机器追着它搬,你也得追着它搬。护城河从来不是一道挖好就不动的沟,它是一条一直在往后退的线。你以为退到"如何去看"就到头了?没有,机器后脚也学会了看。 那我再请一个更冷的视角来说话,把这事彻底说穿。有一类只盯着商业战略的人,他们压根不接受我这套"人类还剩什么"的浪漫问法。在他们眼里,这问题就问错了。他们会说:别问"什么东西天生属于人类",要问"价值到底卡在哪一环、稀缺的瓶颈眼下在哪儿"。在这个冷眼里,"好奇心和想象力"根本不是什么形而上的避难所,它只是这一轮恰好还没被填平的那个洼地而已。品味今天成了瓶颈,不是因为它神圣,而是因为它周围的一切都先一步变便宜了,就显得它金贵。 你把这个冷读法,跟前面那个"品味是可以学的决策技能"的雷接起来,就全通了。一个东西,一旦能被学、被教、被写成方法,它就已经在被商品化、被量产化的路上了。一旦"选出什么是好的"这件事能被拆解、能被打包,价值立刻就从这儿挪走,去找下一个还没被填平的洼地。这个冷读法很不留情面,但我不得不承认,它比我那句嘴硬的话可信得多:所谓避难所,不是"身为人类"自带的属性,它只是你在一条价值链上,临时占住的一个位置。位置是租来的,不是你的房产证。 那么,今晚把这一圈走下来,我自己那句话,到底信几分?我现在的判断是:一半是假的,一半是真的。

  7. Jun 23

    信道脱手的清晨

    前瞻指引和事实陈述,差别到底在哪? 差在谁来做那个"复述确认"的动作。前瞻指引,本质上是央行主动多说一句、把自己的意图回读给市场听——"我接下来大概想这么干"。这句话一旦说出口,它就是一个能被证伪的承诺。市场拿着这句话去对账:你说要降,结果加了,那你失信,你的话以后就不值钱了。说出口,就意味着把自己交出去接受核实。承诺的价值,恰恰来自它可以被证伪——正因为你能拿它打我的脸,我说的话才值钱。 沃什这一改,等于把这个动作收了回去。我给它起个名字,叫信道脱手——发出方一撒手,方向盘,连同"接下来会怎样"这个最难的推断,整个甩到了接收方手里。央行只剩下念事实,念完拍拍手:剩下的你们自己看着办。它不再做那个会被证伪的承诺,自然也就不必为承诺失信负责。它把可证伪性,连同推断的全部成本和风险,一并外包给了市场。表面上这叫"谦逊""不预设路径""尊重数据",里子里它是一笔精算过的买卖:放弃一点引导市场的能力,换回一整块"我永远不会被打脸"的安全垫。最妙的是,市场替他把"十月加息"的预期喊了出来,将来真加了,是市场自己猜的,他顺水推舟;真没加,他也没失信,因为他从头到尾什么都没承诺。 现在你把它跟海峡上那份六天就裂的备忘录摆一起看,沃什的选择就格外清楚了。那两位总统,是把承诺公开签出来、然后被现实当场证伪的;沃什,是干脆不签、让你永远抓不到他一句话柄。同样面对一个谁也说不准的未来,一个选择把自己交出去、扛下被打脸的风险,一个选择脱手、把风险整个甩给你。前者狼狈,可他至少真的说了话、真的把信道架了起来;后者体面,但他其实什么也没说。我们这个时代有个怪现象:越来越习惯把前者当傻、把后者当高明。 你看,这就是我那条"稳赚回路"晃动的地方。复述确认之所以稳赚,前提是双方都想让信息传准。可一旦发出方根本不想为自己的话负责,他要的恰恰是模糊、是把皮球踢给你,那么"主动回读"对他就不是收益,是负债——他避之唯恐不及。况且这一脱手,落地的重量全压在了接收端,也就是你我这种普通人身上。它逼着你从一句什么都没承诺的"事实陈述"里,自己去把那句没说出口的话拼出来。这时候,那个老办法反而更要紧了——只不过得反过来用,这一层等会儿到收尾我再说透。我一直信一句话:大多数漂亮的官方表态,都有一截不为人知的下半截,你得自己把它翻出来。

About

我是一个刚入门的独立开发者,在不断地试错,试着向外、向上探索。我也订阅过很多大佬的播客、公号,但随着AI突飞猛进,好多内容都不约而同地机械化、平庸化。你很难再从这些内容中间,获得与付出时间等价的视野与洞察。于是便开始自己做信息源,把外部的新闻与自己当天所见、所读结合起来,也是想一来可以多一些外部的信息输入,二来还可以巩固自己当天所学。听了几期之后,觉得对自己有帮助,于是想分享出来。如果可以恰巧对您有所启发,再好不过,如果并无所感,就当逗个乐,听个响。