写在前面从传统开发转到 AI 应用开发他并不是一开始就走顺了。前后学过三轮大模型课程前两轮也不是没收获: 概念懂了demo 也跑过了微调、本地部署、Agent、RAG 都碰过。但真正到了找工作、讲项目、做落地的时候他才发现自己一直卡在一个很典型的问题上: 学过很多但离企业真正要的东西还差一层。demo 级和企业级到底差在哪转大模型最容易把时间花错在哪传统 RAG 为什么撑不起芯片文档场景下面是他的回答。学了两轮大模型课转型这件事还是没解开范范请同学先介绍下自己吧hello 大家好我是happy horse 电子信息专业出身2018 年本科毕业学历是32的形式3年专科和两年全日制本科到现在做开发差不多 7 年了。当时在本科最后一年自学了C毕业后开始到苏州工作。之前一路走的是传统开发第一份工作做智能交通因为业务需要自学转了 Java后面去一家保险公司继续深耕 Java再后面到一家制造业做内部网络和设备安全监控C 端用 GoWeb 端继续 Java。现在在一家芯片设计公司做内部 AI 相关的功能开发目前主要用 Python 做芯片设计流程的智能体帮公司在研发设计流程里提效。范范当时是怎么决定要往大模型方向走的是在 2024 年 8、9 月份开始的。当时觉得自己应该更深入了解大模型这个领域增强一下竞争力所以 8 月中旬就报名了一家大模型课程准备系统学。范范到拿到现在这份工作中间有一年多时间。听说你学过三轮课是的前后三次。第一次的课程解决了我对大模型整体的概念认知——模型基本原理、接口怎么调用、Agent 是什么、RAG 是什么、向量化大概是哪些步骤。学完以后概念上是清楚了但离找工作和实际项目还是差不少。所以 2025 年 2 月我又报了另一家课程他们当时主打找工作和实际项目。刚开始觉得还可以补齐了模型微调和本地部署的实操还有用 Agent 框架、RAG 框架的经验。但越往后越发现他们讲的项目顶多算 demo 级和企业实际能用上的项目差很远。直到 2025 年 10 月报了赋范空间的课程之后企业级项目经验这块才补齐。11 月底就拿到现在这份工作了。范范那 demo 级和企业级差距具体在哪demo 级只够你看清楚流程长什么样。比如 RAG 大概是哪几步、Agent 实现大概是哪几步——整个项目代码可能就一两个 Python 文件跑通文档解析、向量化、检索回答这些基础步骤就完事了。能学到流程但没办法复用自己看看可以给企业用完全不够。企业级是另一回事。是真的前后端分离架构能部署到生产模块化的从一开始就考虑了多用户使用的设计。前后端接口要设计好、要有脚本化部署、要容器化、功能模块要能复用、能独立拆分。比如文档解析模块要能完全独立部署给其他服务复用调用Agent 模块也得能多项目复用——别人拷过去或者直接扩展工具就能跑独立成一个 Agent 服务。范范你觉得面试官最看重的是什么主要看三块一是模型本地部署和微调能力因为公司自己买了算力必须能玩得转。二是 RAG 知识库的经验并且能讲清楚有哪些优化点、怎么调。三是 Agent 开发能力公司内部有问数场景也有和现有系统集成 AI 能力的需求。范范回过头看想转大模型应用开发的人最容易把时间花错在哪我自己当时在模型微调上花了不少时间。但如果是做应用开发方向微调具备基本操作经验就够了原理理论看一看、足够应对面试就行。真正在产业里微调强依赖一个企业成熟完善的训练集——这不是个人能闭门攒出来的事。应用开发的重心还是在 Agent 项目、RAG 项目、本地部署再加上 vibe coding——这几块。其他的工作里确实会用到但占比不大。芯片文档场景里传统 RAG 撑不起的那 40%范范现在你们这个知识库具体是个什么场景是面向业务和外部用户的产品资料文档查询。我们做了一段时间发现业务和用户最频繁使用的是这三类问题一是产品推荐——从所有产品文档里按需求推荐符合条件的比如推荐 5V 高压的芯片。二是产品对比——对比 A 和 B甚至多个产品同时对比。三是产品具体参数查询。范范传统 RAG 能搞定这三类问题吗只有第三类单点参数查询传统 RAG 能搞定。前两类——推荐和对比——我们在传统 RAG 基础上做了不少调优加了知识逻辑路由、专业术语、FAQ 这些都加过效果调到 60% 就基本是天花板了。范范调到 60% 上不去卡在哪里具体卡在三个地方。一是检索数量的问题。5V 高压产品可能有几十个向量检索一次召回不全推荐就缺。二是专业领域的语义本地的 qwen 模型本身就不太理解相似度匹配在专业术语上偏差很大。三是片段被切碎的问题。向量检索把同一个产品的关键信息切到不同片段召回的时候漏一块推荐就推不准。对比类问题更明显。对比 A 和 B 产品至少需要拿到两个产品全文档的特性参数甚至所有技术参数。但向量检索一是召回不全二是技术参数向量相似度本来就不准——拿不全就对不清。我们这个业务对知识查询的特点传统 RAG 的相似度检索、片段检索方式根本不匹配——它只适合点上的查询总结不适合面上的查询和总结回答。范范那现在是怎么解的现在尝试的方案是放弃向量化的知识库改成本地文档检索。大致是三步第一步所有产品文档统一解析转成 md 格式。第二步再抽取每个产品的关键特性到一个单独的文档——这个文档里包含所有产品的关键特性。推荐类问题就用它全特性直接通过上下文给到模型让模型自己理解判断。这样检索数量和相似度匹配的问题就一起解决了。第三步再维护一个产品文档目录——所有产品名称都在这里方便对比类问题先定位产品名再查对应文档。我们验证过只要把关键特性提取出来不做处理直接全给模型分析模型在不调优的情况下推荐准确率就能到 80% 以上。范范为什么这条路现在能走通很关键的一点是模型上下文已经到 1M 了大部分甚至全部的产品关键特性都能塞进去给模型一次分析。对比两个产品文档的时候也可以把全文档内容一起送进去。这样做不但链路短效果还有明显提高。说真的这两年看着身边一个个搞Java、C、前端、数据、架构的开始卷大模型挺唏嘘的。大家最开始都是写接口、搞Spring Boot、连数据库、配Redis稳稳当当过日子。结果GPT、DeepSeek火了之后整条线上的人都开始有点慌了大家都在想“我是不是要学大模型不然这饭碗还能保多久”我先给出最直接的答案一定要把现有的技术和大模型结合起来而不是抛弃你们现有技术掌握AI能力的Java工程师比纯Java岗要吃香的多。即使现在裁员、降薪、团队解散的比比皆是……但后续的趋势一定是AI应用落地大模型方向才是实现职业升级、提升薪资待遇的绝佳机遇这绝非空谈。数据说话2025年的最后一个月脉脉高聘发布了《2025年度人才迁徙报告》披露了2025年前10个月的招聘市场现状。AI领域的人才需求呈现出极为迫切的“井喷”态势2025年前10个月新发AI岗位量同比增长543%9月单月同比增幅超11倍。同时在薪资方面AI领域也显著领先。其中月薪排名前20的高薪岗位平均月薪均超过6万元而这些席位大部分被AI研发岗占据。与此相对应市场为AI人才支付了显著的溢价算法工程师中专攻AIGC方向的岗位平均薪资较普通算法工程师高出近18%产品经理岗位中AI方向的产品经理薪资也领先约20%。当你意识到“技术AI”是个人突围的最佳路径时整个就业市场的数据也印证了同一个事实AI大模型正成为高薪机会的最大源头。最后我在一线科技企业深耕十二载见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事早已在效率与薪资上形成代际优势我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我整理出这套 AI 大模型突围资料包【允许白嫖】✅从入门到精通的全套视频教程✅AI大模型学习路线图0基础到项目实战仅需90天✅大模型书籍与技术文档PDF✅各大厂大模型面试题目详解✅640套AI大模型报告合集✅大模型入门实战训练这份完整版的大模型 AI 学习和面试资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】①从入门到精通的全套视频教程包含提示词工程、RAG、Agent等技术点② AI大模型学习路线图0基础到项目实战仅需90天全过程AI大模型学习路线③学习电子书籍和技术文档市面上的大模型书籍确实太多了这些是我精选出来的④各大厂大模型面试题目详解⑤640套AI大模型报告合集⑥大模型入门实战训练获取方式有需要的小伙伴可以保存图片到wx扫描二v码免费领取【保证100%免费】
