1. 面试现场还原Transformer、RAG、多Agent 到底在考什么大模型应用开发岗的面试最近一年明显从「你会不会调 API」转向「你能不能把整条链路讲清楚」。我面过也旁听过不少场面试官的问题基本围绕三块Transformer 的注意力机制能不能手推、RAG 检索链路的设计取舍、多 Agent 协作的工程落地。这三块分别对应基础层、核心层、进阶层任何一块答得含糊追问两轮就会露馅。先说清楚这三个概念是什么、能做什么、适合谁关注。Transformer 是当前几乎所有大模型的底层架构核心是自注意力机制它决定了模型如何理解上下文RAG检索增强生成是在模型外部挂一个知识库先检索再生成解决模型知识过时和幻觉问题多 Agent 则是把复杂任务拆给多个角色化的模型实例协作完成适合流程长、需要分工的场景。适合谁看准备跳槽的 NLP 工程师、正在做 AI 应用落地的开发者、以及需要评估团队技术深度的技术管理者。面试官追问的套路很固定先让你讲原理再让你讲工程取舍最后给你一个业务场景让你现场设计。比如「电商客服长会话怎么分块」「企业知识库检索怎么保证召回率」「在线教育智能导师怎么设计多 Agent 协作」。这些问题没有标准答案但答得好不好取决于你有没有真正跑通过链路。我自己的经验是光背概念没用面试官一句「你实际怎么验证的」就能问穿。所以这篇不只是复盘题目还会给出可复制的自测清单和最小验证 Demo 配置让你在本地就能把多模型对比跑起来。这里会用到 TaoToken 的统一 Key 和 API 通道一个 Key 就能切换不同模型做对比验证省去到处申请账号的麻烦。下面按面试的三层结构展开每层都给原理、工程取舍和可操作的验证步骤。2. Transformer 注意力机制推导与上下文工程面试自测2.1 自注意力到底在算什么面试官最爱问的第一句是「Transformer 的注意力机制你怎么理解」。很多人张口就是「每个 Token 和其他 Token 建立联系」这句话对但太浅。追问「那 Q、K、V 分别是什么为什么要除以根号 d_k」就卡住了。自注意力的本质是一次加权求和。输入序列经过三个线性变换得到 Query、Key、Value 三组向量。每个位置的 Query 和所有位置的 Key 做点积得到注意力分数softmax 归一化后作为权重对 Value 加权求和。公式是 Attention(Q,K,V) softmax(QK^T / √d_k) V。除以 √d_k 是因为点积结果随维度增大而变大softmax 会进入饱和区导致梯度消失缩放让分布更平滑。多头注意力是把这套计算并行做 h 次每个头关注不同的子空间。比如一个头关注语法依赖另一个头关注指代关系。最后把 h 个头的输出拼接再线性变换。残差连接和层归一化是训练稳定的关键残差让梯度能直接回传缓解深层网络的退化问题。位置编码补充序列顺序信息因为自注意力本身是置换不变的。正弦位置编码是原始方案现在更多用可学习的位置嵌入或 RoPE 旋转位置编码。2.2 上下文窗口与 Token 的工程取舍面试官接着会问「上下文窗口和 Token 什么关系」。Token 是模型处理的最小单位中文大致一个字对应 1 到 2 个 Token英文一个词可能拆成多个 Token。上下文窗口是模型一次能处理的最大 Token 数超出就要截断或分块。工程上的坑在于窗口大不代表效果好。中间位置的信息容易被忽略这就是所谓的「lost in the middle」现象。所以长文档不能简单塞进去要做 Chunking。常见策略有固定长度切分、按语义切分、带 Overlap 的滑动窗口切分。Overlap 是为了防止关键信息正好被切在边界上。Prompt Engineering 在这里的作用是引导模型关注重点。Zero-shot 直接给任务说明Few-shot 给几个示例Chain-of-thought 让模型分步推理。模板化 Prompt 和 Prompt Chaining 能把复杂任务拆成多步每步的输出作为下一步的输入。2.3 可复制的自测清单下面这份清单可以直接拿来对着练每一条都能展开讲两分钟才算过关考点自测问题合格标准自注意力Q/K/V 怎么来的为什么缩放能写出公式并解释梯度问题多头为什么要多头头之间怎么合并能说清子空间和拼接逻辑残差与归一化解决什么问题能联系梯度消失和训练稳定性位置编码为什么需要RoPE 优势能对比正弦编码和旋转编码上下文窗口窗口大为什么不一定好能说出 lost in the middleChunkingOverlap 的作用能给出具体切分参数把这张表过一遍基础层基本稳了。接下来进入 RAG这是面试区分度最高的部分。3. RAG 检索链路设计与最小验证 Demo 配置3.1 RAG 的完整链路RAG 的核心思路是模型本身的知识有限且可能过时那就外挂一个知识库用户提问时先检索相关文档把检索结果作为上下文喂给模型生成答案。链路分两段离线索引和在线检索。离线索引阶段把文档切块每块用 Embedding 模型转成向量存进向量数据库。在线检索阶段用户问题也转成向量在数据库里做相似度搜索召回 Top-K 文档再经过 Rerank 精排最后拼进 Prompt 交给模型。检索策略上纯向量检索擅长语义匹配但对精确关键词不敏感BM25 是稀疏检索擅长关键词匹配。Hybrid 检索把两者结合通常效果更好。Rerank 用交叉编码器对召回结果重新打分精度高但慢所以只对 Top-K 做。3.2 缓存与知识更新Embedding Cache 缓存已经算过的文档向量避免重复计算。Prompt Cache 缓存相同前缀的 Prompt 计算结果提升响应速度。知识更新有两条路定时全量刷新索引或者增量更新只处理新增和修改的文档。增量更新对向量数据库的删除和插入能力有要求。多模态 RAG 是把文本和图片分别 Embedding检索时统一召回。高并发场景下向量数据库的连接池和异步请求是关键HikariCP 这类连接池能显著降低延迟。3.3 用 TaoToken 统一 Key 跑通多模型对比面试里经常被问「你怎么选 Embedding 模型和生成模型」。光说理论没用得实际对比。这里给出可复制的配置用 TaoToken 的统一 Key 和 API 通道一个 Key 切换多个模型做对比验证。先配置环境变量把 Key 和 Base URL 设好export TAOTOKEN_API_KEY你的Key export TAOTOKEN_BASE_URLhttps://taotoken.net/api然后写一个最小验证脚本对比不同模型的 Embedding 和生成效果import os from openai import OpenAI client OpenAI( api_keyos.environ[TAOTOKEN_API_KEY], base_urlos.environ[TAOTOKEN_BASE_URL], ) # 生成模型对比 def compare_models(prompt, models): for model in models: resp client.chat.completions.create( modelmodel, messages[{role: user, content: prompt}], temperature0.3, ) print(f[{model}] {resp.choices[0].message.content[:120]}) compare_models( 用一句话解释 RAG 的检索链路, [gpt-4o-mini, claude-3-5-sonnet, deepseek-chat], )这段代码的关键是 base_url 指向 TaoToken 的 API 通道model 参数换成你要对比的模型 ID 即可。跑一次就能看到不同模型对同一问题的回答差异面试时你就能说「我实测过这个场景下哪个模型更稳」。如果你用的是 Claude Code 这类编码工具配置方式类似把 Base URL、Key、Model ID 三件套填进配置文件即可。Model ID 要填你实际要用的模型标识不要留空。3.4 RAG 自测清单环节自测问题合格标准切块切块大小和 Overlap 怎么定能结合文档类型给参数Embedding选型依据是什么能说出维度、语言、成本权衡检索向量和 BM25 怎么融合能解释 Hybrid 打分逻辑Rerank为什么只对 Top-K 做能说清精度和延迟的取舍缓存两种 Cache 分别缓存什么能区分 Embedding 和 Prompt更新增量更新怎么做能说出删除和插入流程RAG 这块答得好面试基本能进下一轮。接下来是多 Agent这是拉开差距的地方。4. 多 Agent 协作工程落地与上下文记忆设计4.1 多 Agent 的架构模式多 Agent 的核心是把一个复杂任务拆给多个角色。常见架构有两种Planner-Worker 和 Supervisor-Worker。Planner-Worker 是一个 Agent 负责规划任务步骤多个 Worker 并行执行Supervisor-Worker 是一个 Supervisor 负责调度和审核Worker 执行具体子任务适合流程复杂、需要质量把控的场景。Memory Sharing 让 Agent 之间共享上下文避免重复劳动。LangGraph 能自定义 Agent 之间的流转关系把每个 Agent 当成图里的节点边定义流转条件。AutoGen 更适合并发 Agent 的对话式协作。4.2 上下文记忆与遗忘机制短期记忆用 Conversation Buffer把最近几轮对话保留在上下文里。长期记忆用向量存储或知识图谱把重要信息持久化需要时检索回来。遗忘机制是面试官爱追问的点。Sliding Window 只保留最近 N 轮简单但会丢早期信息。Decay Function 给每条记忆一个随时间衰减的权重权重低于阈值就丢弃。更精细的做法是按重要性打分重要信息长期保留。4.3 工程化运维Prompt 版本管理用 Git每次改动都有记录方便回滚和对比。Prompt Injection 防御靠输入过滤和权限隔离把用户输入和系统指令分开处理。LLM Observability 记录每次调用的输入输出、延迟、Token 消耗方便排查问题。A/B 测试用 PrecisionK、RecallK、响应一致性、延迟等指标评估。PrecisionK 衡量召回结果里相关文档的比例RecallK 衡量相关文档被召回的比例两者要平衡。4.4 多 Agent 自测清单考点自测问题合格标准架构选型Planner 和 Supervisor 怎么选能结合任务复杂度说明记忆短期和长期怎么配合能说出 Buffer 和向量库分工遗忘Sliding Window 和 Decay 区别能解释各自适用场景版本管理Prompt 怎么管能说出 Git 工作流安全注入怎么防能给出输入过滤方案评估用什么指标能说出 Precision 和 Recall多 Agent 这块能讲清楚工程取舍面试官会觉得你有实战经验而不是只会调 API。5. 本篇常见报错排查401、local proxy failed、reading choices、OAuth跑 Demo 的时候最容易踩的坑集中在几类报错上这里逐个对照排查。401 Unauthorized最常见的原因是 Key 没设对或者环境变量没生效。检查TAOTOKEN_API_KEY是否导出成功可以用echo $TAOTOKEN_API_KEY确认。如果 Key 里有特殊字符注意引号包裹。还有一种情况是 Key 复制时带了空格肉眼看不出来重新复制一遍。local proxy failed这个报错通常是本地网络配置或代理设置导致的。检查你的 HTTP_PROXY、HTTPS_PROXY 环境变量是否指向了不可用的地址如果有就 unset 掉。另外确认 base_url 拼写正确不要多斜杠或少斜杠。reading choices 相关报错一般是响应结构解析失败。检查返回的 JSON 里 choices 字段是否存在有些模型返回格式略有差异。打印完整响应体看结构确认resp.choices[0].message.content路径正确。如果用的是流式输出要按 chunk 逐个解析。OAuth 相关报错如果你用的是 Claude Code 这类工具OAuth 报错通常是登录态过期或配置文件里的认证方式冲突。检查配置文件里是否同时存在 API Key 和 OAuth 两种认证保留一种即可。Base URL、Key、Model ID 三件套要填完整缺一个都可能触发认证异常。排查顺序建议先确认环境变量再确认 base_url然后打印完整响应最后检查模型 ID 是否正确。大部分问题出在前两步。6. 面试复盘后的验证路径与工具选择面试复盘完最重要的是把知识盲区补上。我的建议是每讲一个概念就动手跑一个最小 Demo 验证。Transformer 的注意力可以手写一遍矩阵运算RAG 的检索链路可以用真实文档跑一遍多 Agent 可以用两个角色模拟一次协作。验证模型对比的时候用 TaoToken 的统一 Key 能省很多事一个通道切换不同模型快速看出差异。如果你要长期做编码类任务或者 Agent 开发可以了解 Coding Plan适合持续性的开发场景。想直接体验模型对话做对比验证可以从模型对话入口进。需要管理多个 Key 或者查看用量去控制台。接入文档里有完整的参数说明和示例代码遇到问题先查文档。把这篇里的自测清单过一遍每个考点都能展开讲再配合实际跑通的 Demo面试时你就有底气说「这个我实测过」。技术这东西讲得清楚不如跑得通跑得通不如踩过坑还能讲出取舍。