[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"$fn4JQhDVGnq-u2s7fWR2kItpNauKqI-ZW0zHhKoyVIZY":3},{"item":4,"related":46},{"id":5,"type":6,"title":7,"slug":8,"summary":9,"body":10,"coverUrl":11,"productScreenshots":12,"productLinks":13,"authorName":14,"authorUrl":15,"authorSubject":16,"category":17,"tags":22,"sourceLabel":35,"sourceName":36,"sourceUrl":37,"status":38,"seoTitle":39,"seoDescription":39,"canonicalUrl":39,"isFeatured":40,"sno":41,"sortOrder":42,"publishedAt":43,"updatedAt":44,"createdAt":45},"7f962194-e0c6-4072-9b50-c70054beb0e5","article","同一个问题问三遍，AI 为什么会给出三个答案？","why-ai-gives-different-answers-sampling","大模型每次回答都在从候选词中继续选择，而不是从数据库里取出一段固定文字。温度、Top-p 和随机采样共同决定回答更稳定还是更有变化。本文用抽签与岔路的比喻，解释 AI 的随机性从哪里来，以及什么时候应该追求一致。","你连续三次问 AI：“给我的咖啡店起一个名字。”第一次得到“晨雾”，第二次是“慢醒”，第三次又变成“豆子电台”。问题没变，模型也没换，为什么答案不像计算器那样固定？\n\n原因在于，大语言模型生成回答时，并不是从数据库取出一段预先写好的文字。它每走一步，都会为许多候选 Token 计算概率，然后决定下一个输出什么。回答是一条边走边选择的路径。\n\n## 每一个词都是一个岔路口\n\n假设句子从“这家咖啡店可以叫”开始，模型预测下一个词时，候选项可能是“晨光”“转角”“一杯”或其他表达。每个候选都有一个分数，经过归一化后形成概率分布。\n\n如果永远选择概率最高的候选，这种方法常被称为贪心解码。它比较稳定，却可能反复走进最普通的表达。另一种做法是按概率抽样：高概率词更容易被抽中，低概率词仍保留少量机会。一次早期选择不同，后续上下文就会改变，整段文字于是越走越远。\n\n这像在一棵巨大的岔路树上旅行。第一步只偏了一点，十步后可能已经到了另一座城市。\n\n```mermaid\nflowchart TD\n    A[已有文字] --> B[计算下一个词概率]\n    B --> C{选择方式}\n    C -->|取最高概率| D[较稳定的路径]\n    C -->|按概率抽样| E[更多样的路径]\n    D --> F[继续生成]\n    E --> F\n```\n\n## 温度不是让模型“更有情绪”\n\n生成设置里的 Temperature（温度）会改变概率分布的形状。低温度让头部候选更突出，模型更倾向于走最熟悉的路线；高温度让其他候选获得更多机会，结果通常更多样，也更容易冒险。\n\n温度并不会增加模型掌握的知识，也不会真正赋予它创造力。它只是调整选择的集中程度。把温度调高，既可能得到意外好点子，也可能得到不合逻辑的词；调低则能减少变化，却不能保证事实正确。\n\n另一个常见参数是 Top-p，也叫核采样。它不是固定保留前几个词，而是从高到低累加候选概率，直到总和达到某个阈值，再只在这个动态集合里抽样。有关温度与 Top-p 如何影响文本多样性的研究，可参考 ACL Anthology 收录的生成多样性论文：\n\nhttps:\u002F\u002Faclanthology.org\u002F2024.findings-naacl.228\u002F\n\n## 为什么“温度设为零”仍未必完全一致\n\n即使产品使用近似确定性的设置，结果也可能受其他因素影响：服务端更新了模型版本，系统提示发生变化，上下文里多了一条消息，工具返回内容不同，或者底层并行计算出现细微数值差异。某些平台还会为了安全、负载或体验动态调整流程。\n\n因此，“同一个提示得到同一个答案”需要整条链路都可重复，仅仅锁住一个参数并不够。开发者如果要做自动测试，还应固定模型版本、输入、工具结果和随机种子，并允许对自然语言结果做语义比较，而不是逐字比较。\n\n## 哪些任务需要稳定，哪些任务需要变化\n\n提取发票字段、生成数据库查询、按规范分类时，稳定性通常更重要。此时应降低随机性，使用结构化输出，并用规则验证结果。\n\n写标题、构思活动或寻找比喻时，多样性更有价值。可以一次生成多组候选，再由人或评测程序筛选。AI 的随机性在这里不是缺陷，而是扩大搜索范围的方法。\n\n事实问答则不能靠“多问几次，票数最多的就是正确答案”。多个回答可能共享同一个错误来源。需要可靠性时，应要求引用可核查资料、调用搜索或数据库，并把关键结论交给确定性工具验证。\n\nAI 每次说法不同，不代表它在故意反复无常。更像是它面前始终摆着一袋带权重的词语骰子：概率规定哪些结果常见，采样决定这一次实际落在哪一面。理解这一点，就能知道什么时候该收紧骰子，什么时候可以让它多滚几次。","\u002Fuploads\u002F2026-08-14\u002Fb322d338-b5c0-48c7-addf-fbd91421e316.jpg",[],[],"Foundit","https:\u002F\u002Ffoundit.cn","f39339b1-aaa6-4e86-b0c2-a6e6a21113b5",{"id":18,"name":19,"slug":20,"description":21},"6179d3b6-dc34-4483-9ded-3cd9f1b37a47","科普","abbreviation","介绍各领域新兴概念",[23,27,31],{"id":24,"name":25,"slug":26},"88d2bc27-0e0f-468a-b907-2991cb97b87b","人工智能","ai",{"id":28,"name":29,"slug":30},"4c2bbea6-eab7-40a8-8447-1de478ff7749","分析","analyse",{"id":32,"name":33,"slug":34},"7c76bfc2-f80f-4ee0-a95d-27bd8708b434","技术","slug","资料来源","ACL Anthology：The Curious Decline of Linguistic Diversity","https:\u002F\u002Faclanthology.org\u002F2024.findings-naacl.228\u002F","published",null,false,60,0,"2026-08-14T00:00:00.000Z","2026-08-14T04:29:05.305Z","2026-08-14T03:06:07.351Z",[47,56,64],{"id":48,"type":6,"title":49,"slug":50,"summary":51,"coverUrl":52,"authorName":14,"sno":53,"publishedAt":54,"createdAt":55},"f00e5274-8e0b-40fe-af3b-b6a8d0183b9c","一张贴纸就能骗过视觉 AI？对抗样本不是魔法","adversarial-examples-fool-visual-ai","人眼仍能认出的物体，经过精心设计的微小扰动或标记后，机器却可能改变判断。这类输入称为对抗样本。本文解释攻击者如何利用模型的决策边界，现实攻击为何比实验更难，以及为什么目前不存在一劳永逸的防御。","\u002Fuploads\u002F2026-09-08\u002F151f887b-c5f1-4647-b369-cdda8a1e1b4f.jpg",50,"2026-09-03T00:00:00.000Z","2026-08-14T03:06:09.765Z",{"id":57,"type":6,"title":58,"slug":59,"summary":60,"coverUrl":61,"authorName":14,"sno":41,"publishedAt":62,"createdAt":63},"305492d4-c146-456a-b341-31140ab9cafd","天气预报不再一格一格算空气，AI 是怎么预测风暴的？","how-ai-weather-forecasting-works","传统数值预报依据物理方程推进大气状态，AI 天气模型则从历史观测与再分析数据中学习状态如何演变。本文以 GraphCast 为例，解释图神经网络如何快速预测全球天气、它与传统方法如何协作，以及极端天气仍有哪些难点。","\u002Fuploads\u002F2026-08-16\u002Fa8b5ddad-d6db-4d12-a159-87a6c5309082.jpg","2026-08-16T00:00:00.000Z","2026-08-14T03:06:12.102Z",{"id":65,"type":6,"title":66,"slug":67,"summary":68,"coverUrl":69,"authorName":14,"sno":41,"publishedAt":43,"createdAt":70},"9e9afe71-5d23-4620-8eed-c452ece17b29","学会新知识，反而忘掉旧本领：AI 也会灾难性遗忘","catastrophic-forgetting-continual-learning","模型继续学习新任务时，更新参数可能破坏旧任务依赖的能力，形成灾难性遗忘。它不同于聊天记录丢失，也不同于知识库没检索到。本文从共享旋钮的比喻出发，解释持续学习的难题、常见缓解方式和最新研究方向。","\u002Fuploads\u002F2026-08-14\u002F8ddbbcd1-fa08-4a07-b2ca-64bf088b32cd.jpg","2026-08-14T03:06:09.188Z"]