LLM、模型、产品：AI 到底是哪一层
很多名字混在一起，是因为产品界面、背后的模型、模型能使用的工具经常同时出现。先把它们放进不同抽屉，后面的 API 和 MCP 才不会乱。
第一课：LLM 是什么
LLM 全称 Large Language Model，中文常叫“大语言模型”。
可以先把它想成一个读过大量文字、非常擅长根据当前材料继续写的实习生：
- 你给它问题和资料；
- 它根据训练中学到的语言规律和当前资料，生成接下来最合适的内容；
- 它可以解释、总结、写代码，但不代表每句话都经过数据库核实；
- 它默认看不到你的电脑、账号和最新文件，除非产品把这些内容提供给它。
它不是哪几样东西
- 不是搜索引擎：它可以不联网就生成答案。
- 不是数据库：它不是每次都从一张事实表里逐字取答案。
- 不是你的电脑：知道“文件是什么”不等于能看到你的文件。
- 不是完整产品：模型通常需要聊天界面、编辑器或 API 才能被你使用。
一句最重要的话
模型负责思考和生成；产品负责把你的消息、文件和工具交给模型，再把结果显示给你。
第二课：模型和产品怎么分
用汽车来打比方：
- 模型 像发动机，负责产生动力。
- 产品 像整辆车，包含方向盘、座椅、车门和仪表盘。
- 工具 像导航、机械臂或后备箱，扩大汽车能完成的事情。
- API 像标准控制接口，让别的设备也能调用发动机能力。
| 你看到的名字 | 更接近哪一层 | 它主要做什么 |
|---|---|---|
| ChatGPT、Claude.ai | AI 产品 | 提供聊天界面、文件上传等功能 |
| Cursor、Windsurf | AI 编辑器产品 | 在编辑器里提供 AI 修改能力 |
| Claude Code、Codex | 代码代理产品 | 读取文件、运行命令、完成代码任务 |
| GPT、Claude 等具体模型 | 模型 | 理解输入并生成输出 |
| GitHub、终端、浏览器 | 外部工具或系统 | 保存代码、执行命令、访问网页 |
一个产品可以切换不同模型；一个模型也可以被多个产品使用。所以“我在用 Cursor”只说明产品，不一定说明当前选择了哪个模型。
第三课：模型怎样得到一个回答
一次回答大概经历：
- 产品收集输入
包括你的 Prompt、之前对话、选中的文件和工具返回结果。 - 文字被切成 Token
模型处理的不是页面上的“字数”，而是内部切分后的单位。 - 模型进行推理和生成
根据上下文一步步产生输出 Token。 - 产品展示结果
把 Token 重新显示成你看到的文字、代码或工具调用。
这个“使用训练好的模型生成结果”的阶段常叫 Inference，推理。它不是“训练模型”。训练像多年学习，推理像坐进考场回答这一次问题。
第四课：Token 是什么
拼图类比
模型看文字有点像先把句子拆成拼图片。一个 Token 可能是一个汉字、英文单词的一部分、标点或空格组合，具体怎样拆取决于模型的 Tokenizer。
因此不能死记“一个中文字固定等于几个 Token”。它只能粗略估算，不能作为精确换算。
为什么 Token 很重要
- API 费用经常按输入和输出 Token 计算。
- Context Window 的大小通常按 Token 表示。
- 输出长度限制也可能用 Token 表示。
- 代码、JSON 和重复日志都可能占用大量 Token。
模型 Token 和登录 Token 不一样
Token usage: 2,000 里的 Token 是文字单位；Authorization Token 里的 Token 是身份凭证。就像“苹果”可以是水果也可以是公司，必须看上下文。
第五课：Context Window 是什么
把模型的一次工作空间想成一张大小有限的书桌。桌上同时要放：
- 你刚写的 Prompt；
- 之前的对话；
- AI 工具选中的代码文件；
- MCP 或搜索返回的资料；
- 模型正在生成的回答。
桌面装不下无限内容，这个总容量就是 Context Window，上下文窗口。
为什么 AI 会“忘记”前面的内容
可能有几种原因：
- 对话和文件总量超过了窗口，产品压缩或移除了较早内容。
- 工具根本没有把那个文件放进这次 Context。
- 文件虽然提供了，但重要信息被大量无关日志淹没。
- 新指令和旧指令冲突，模型选择了错误重点。
怎么帮助模型更准确
- 给准确的文件路径，不要只说“那个文件”。
- 提供第一条报错和复现步骤，不要粘贴整天的日志。
- 大任务分阶段，每阶段写清验收结果。
- 让 AI 先列出它实际查看了哪些文件和证据。
这就像给同事整理桌面：不是资料越多越好，而是当前任务需要的资料要放在最显眼的位置。
第六课：Temperature 是什么
在支持该参数的模型 API 中，Temperature 通常影响生成结果的随机程度。
可以把它想成走路时允许偏离主路的范围：
- 较低：更偏向常见、稳定的选择。
- 较高：更愿意尝试不常见的表达。
但它不是“正确率旋钮”。低 Temperature 仍然可能写错代码，高 Temperature 也不等于一定更有创意；不同模型对这个参数的支持和解释也可能不同。
第七课：AI 为什么会自信地答错
模型的核心任务是生成符合上下文的内容，不是自动给每句话盖“已核实”印章。因此它可能生成看起来合理、实际不存在的函数、文件、网址或结论，这常被叫作 Hallucination，幻觉。
图书管理员类比
想象你问一位记忆很好但不允许翻书的图书管理员。他可能根据相似书名猜出一个听起来合理的答案。语气很肯定，不代表已经查过书架。
写代码时怎么防
- 要求先搜索仓库，再说文件在哪里。
- 要求运行测试或生产构建，不接受“看起来应该能用”。
- 涉及最新 API 时，让它查官方文档。
- 让它区分“文件里的事实”和“根据经验做的推测”。
- 不把一次成功输出当成全部边界情况都正确。
第八课：模型、Agent 和工具调用
模型只生成下一步内容；Agent 代码代理 会围绕模型再加一个工作循环：
text
理解目标
↓
查看文件或运行工具
↓
读取结果
↓
决定下一步
↓
修改、验证，直到完成或遇到阻碍类比：模型像给建议的专家；Agent 像可以拿着建议去档案室、工作台和测试间实际办事的项目助理。
这也是为什么同一个模型，在普通聊天框和代码代理里的表现会很不一样：后者可能拿到了文件、终端、Git 和验证工具。
学完测试
Cursor 和一个 LLM 模型是同一个层级吗？
答案：不是。Cursor 是带编辑器、文件读取和 AI 功能的产品；LLM 是产品背后负责理解与生成的模型。
给 AI 一整个仓库的所有文件，一定比只给相关文件更好吗？
答案：不一定。上下文窗口有限，大量无关内容会挤占空间、淹没重点。更有效的是提供准确文件、复现步骤和当前任务需要的证据。