原文LLM Models Are Bullshit Engines | Jeffrey Snovers blog发布于 2026 年 7 月 20 日你的 LLM 系统不必如此哈里·法兰克福写过一篇精彩的随笔叫《论胡说八道》。他的核心手法在于一个大多数人都会忽略的区分说谎者与胡扯者之间的区别。说谎者在乎真相。他不得不在乎。真相正是说谎者想要掩盖的东西而你无法掩盖你尚未首先定位的东西。说谎是一种反向进行的、追踪真相的活动。胡扯者则根本不在乎真相。既不支持也不反对。真相根本不是他函数中的一个变量。他的目标是说服、给人留下印象、管理别人对自己的看法。他说的话碰巧是否为真纯属附带。这就是 LLM 模型。我不是第一个做出这个联系的人。2024 年格拉斯哥大学的三位哲学家——迈克尔·汤森·希克斯、詹姆斯·汉弗莱斯和乔·斯莱特——在《伦理与信息技术》上发表了一篇论文标题简洁得令人钦佩《ChatGPT 是胡扯》。他们严谨地提出了法兰克福式的论证。他们还主张“幻觉”这个词用在这些系统的行为上并不恰当。它暗示存在一种感知官能发生了故障而现实是那里从来就没有什么官能可供故障。他们说得对。但在这篇文章的剩余部分我还是会继续用“幻觉”这个词因为这是我的读者实际在用的术语而且我实际使用的就是 LLM 系统所以这个词可能更准确但后面再详谈。阅读时请把这个异议记在脑子里。它对接下来要讲的内容很重要。胡说八道的物理学LLM 模型接收一个 token把它通过一大堆庞大的数学权重然后预测下一个 token。这不太准确。它实际产生的是下一个 token 的概率分布。然后某个采样器从该分布中采样。令人惊讶的是如果你总是挑选单个最可能的 token你会得到更差的结果而不是更好的。贪婪解码会产生平淡、重复、退化的文本。所以我们改为采样。温度是控制采样前分布有多尖锐或多平坦的旋钮。调低它概率质量集中在顶部候选上你趋近——但永远无法达到——确定性输出。调高它质量分散开来你得到更多变化我们将其体验为创造力。两个相关的旋钮top-k和top-p则直接截断候选池。现在把这段读回去。其中没有任何一个步骤叫“检查这是否为真”。没有真相寄存器。没有它查阅的事实表没有它捍卫的断言。只有一个分布和一个采样器。模型没有在对你撒谎。撒谎需要它拥有真相的概念。它在对你胡扯。它产生形状上看似合理的文本完全不在乎世界是否与之相符。当它正确时它正确是训练数据的副作用而非出于信念。当它错误时它错误得带着完全相同的自信和完全相同的华丽文笔。这不是模型中的缺陷。这就是模型本身。这是物理。物理不在乎你对此感受如何。没有人在把车撞到树上时会喜欢 Fma。它照样发生。学习物理然后绕开它。模型不是系统公共讨论中的许多混乱正源于此。人们把模型和系统混为一谈。早期的聊天机器人是一个模型加上一个 REPL 循环。问它今天几号你会得到一个早已过去的日期或者它宣称自己训练数据截止到某个早已消失在地平线之外的时间点。它所能做的只是伸手进权重里。纯粹的胡说八道引擎。然后我们认真起来了。你接触的每个现代聊天机器人都有接地机制。问它算术它识别出请求的形状调用计算器而不是在数字的统计概率上掷骰子。问它一个当前事实它运行网络搜索把结果反馈到上下文中这就是检索增强生成。答案现在同时以权重中的内容和真实检索到的证据为条件。这不是魔法。这是工程。这是有人不再祈祷、开始建造时的样子。穿上你的大男孩工程裤所以如果 LLM 模型是胡说八道引擎而我们又在它们之上构建系统那么我们该怎么办首先认识到我们现代技术栈的大部分都建立在垃圾之上。IP互联网协议是尽力而为的。它会丢你的包、复制你的包、乱序送达而且什么都不告诉你。所以我们在上面叠加了TCP传输控制协议序列号、确认、重传、退避。可靠的流建立在不可靠的基础之上。单个磁盘驱动器是一块旋转的生锈盘片它会比政客的竞选承诺更快地背叛你。所以我们应用工程RAID廉价磁盘冗余阵列现在我们有了建立在不可靠磁盘上的可靠存储。但那可靠存储住在一栋楼里而楼会烧毁、会断电、光纤会被挖掘机挖断。所以我们应用更多工程地理复制。DRAM在宇宙射线穿过时会翻转比特。所以ECC纠错码内存。你所信任的每一层都站在一个不值得信任的层之上。这都不是新鲜事。这就是为什么我们付给工程师高薪。他们是炼金术士把铅一般不可靠的组件变成镀金 SLA服务等级协议的服务。以下是从不可靠组件构建可靠系统的炼金公式。认识问题。这个组件不可靠。在设计评审中、当着证人的面大声说出来。刻画缺陷。它究竟如何失败失败模式是什么频率如何在什么条件下从外部看失败是什么样子检测缺陷。构建一种机制能在运行时判断这个特定的失败刚刚发生了。处理缺陷。当检测触发时有策略纠正、重试、降级或上报给人类。这四步在 LLM 领域每一步都很难。刻画一个随机自然语言组件的失败模式比刻画一个坏磁盘扇区要棘手得多。但它们都是工程问题而工程问题有工程答案。没人会拿着仙女粉喷撒器走过来。我踩到了这把耙子我在构建AI 罗塞塔石碑项目时遇到了这一切这是我哈佛伯克曼·克莱因中心 fellowship 的一部分。这个系统运行辩论。不同的 AI 观点就一个话题相互辩论。我把它们设计得像律师一样辩论而像律师一样辩论意味着你不只是说东西。你通过一组明确定义的辩证动作来回应对手。十五个动作基于计算辩证法和论证理论。我开始运行辩论。引擎幻觉出了第十六个动作。我的第一反应是错的。我以为模型在我的分类法中找到了一个真正的缺口。也许我的十五个不够好。所以我把新动作加进了列表。然后它又幻觉出另一个。我加了。然后又一个。我也加了。每一次添加都让我更不安因为这十五个并非随意。它们来自理论。我在让一个半随机的词语生成器——词汇量极好、自信心极度膨胀——一次一个耸肩地编辑我的认识论。而且它甚至没用。它只是不断发明新动作。所以我做了所有人都会做的事。我回到提示词。我用平实的语言告诉模型这些是它唯一能使用的十五个辩证动作。它幻觉出一个新的。所以我在末尾加了一个自检审查你的辩证动作如果它不是这十五个之一就不要继续。它审查了自己的动作得出结论它比我聪明然后照样幻觉。提示词工程有它的位置它能让事情变好。但对这个问题它是错误的工具。现在回看最后五段。幻觉。幻觉。幻觉。希克斯和他的合著者会告诉我这个词偷偷塞进了一种从未存在过的官能他们是对的。没有什么发生故障。采样器做了采样器该做的事。这个词让失败听起来像一场意外这正是它如此顺手的原因也正是我为什么一直摆弄提示词而不是构建边界的原因。LLM 输出就是用户输入然后我恍然大悟。我们必须像一直以来对待用户输入那样对待 LLM 输出。只有最差的工程师才会拿用户输入直接使用。好的工程师知道人们不断犯错。他们按错键、粘贴垃圾、趴在键盘上。除了诚实的错误还有真正的恶意行为者精心构造输入来对你进行 SQL 注入。所以我们几十年前就学到了付出了相当大的代价永远不要信任用户输入。在边界处验证它在它接触任何重要东西之前。LLM 恰好坐在那种边界的另一侧。它是一个不可信的字符串生产者。字符串文采斐然这一事实完全不能证明任何东西。因为模型输出读起来通顺就信任它和因为表单字段拼写正确就信任它是同一种范畴错误。我们绝对必须对 LLM 模型这样做但现实是通用 LLM 系统Gemini、Claude、DeepSeek 等即使试图做真相讲述者时也会幻觉。我实际构建了什么我改变了系统使每个 LLM 输出都是一个符合明确定义 schema 的JSON 文档。然后我分两遍验证它。首先是形式它能解析吗它匹配 schema 吗。然后是内容通过一系列我称之为迷你修复器的东西。小的、具体的验证器每个只确切知道领域中的一件事。对于这个字段迷你修复器问一个问题这个值是十五个动作之一吗当它不是时我们进入修复策略。计算虚构动作与十五个合法动作中每一个的余弦相似度。如果最佳匹配超过置信度阈值就重新映射它。通常模型想表达的是我的某个动作只是伸手去够自己的词汇。如果没超过阈值就重试。先检测再纠正。这是 RAID 剧本只是失败模式更奇怪。这里的讽刺我并未忽略。我职业生涯的一大块时间都在主张 shell 应该传递结构化对象而不是做脆弱的、基于祈祷的文本解析。二十六年后的今天我在和一个不同的不可靠组件打同样的仗。相似的问题。相似的答案。约束接口在边界处验证别再祈祷你的胶带能把飞机粘在一起。没有仙女粉LLM 看起来像魔法。你有一个大难题撒点仙女粉问题就消失了。没有仙女粉。我的系统只是看起来在工作直到我对它做了真正的 QA。那个鸿沟——在“演示很漂亮”和“经得起检验”之间——正是当下大量 AI 项目悄悄栖身的地方。LLM 仍然是魔法。我是认真的。这些东西能做的事令人惊叹我不会收回任何一句。但如果你在构建一个“它是否真的工作”至关重要的系统你必须扔掉玫瑰色眼镜去做不 glamorous 的工程工作。高管们越早理解这一点停止裁掉做这件事的工程师所有人就越好。因为这就是整个论证的一句话版本。模型是胡说八道引擎。你的系统不必是。这是一个选择而且是你的选择。跳过工程你就在交付一个胡说八道系统。做工程你就不是。干杯杰弗里注释Harry G. Frankfurt,On Bullshit(Princeton University Press, 2005). 最初于 1986 年作为随笔发表于Raritan。Michael Townsen Hicks, James Humphries, and Joe Slater, ChatGPT is bullshit,Ethics and Information Technology26, 38 (2024). doi.org/10.1007/s10676-024-09775-5希克斯的论文引来了已发表的反弹一篇好的挑衅就该如此。见 David Gunkel and Simon Coghlan, Cut the crap: a critical response to ChatGPT is bullshit,Ethics and Information Technology27, 23 (2025). doi.org/10.1007/s10676-025-09828-3