这次我们来看一套面向零基础开发者的 AI 大模型实战教程。这套教程的核心目标很明确：用三天时间，带你从完全不懂到能够上手部署、调用、甚至微调大模型，掌握当前就业市场最需要的核心技能。它不空谈理论，而是聚焦于“能用、会调、能部署”的实战能力。

对于想快速入行或转型 AI 的开发者来说，最关心的问题无非是：从哪开始学？需要什么环境？学完能做什么？这套教程直接给出了答案：从环境搭建、模型部署（如 Ollama）、到核心应用开发（RAG、Agent）、再到进阶微调，形成了一条清晰的学习路径。硬件门槛上，教程兼顾了云端（免费 API）和本地（消费级 GPU）两种方案，让你无论设备如何都能动手实践。

本文将为你拆解这套教程的完整内容体系，并提供一个可落地的“3天学习计划”。我们会重点梳理每个阶段的核心技能、必须掌握的工具链、以及验证学习成果的实战项目。无论你是想快速构建一个智能问答应用，还是希望深入理解模型微调，这篇文章都能给你一个明确的起点和操作指南。

1. 核心能力速览：教程覆盖的技能栈

这套教程并非单一工具，而是一个涵盖 AI 大模型应用开发全链路的技能集合。下表概括了其核心内容与对应的实战产出：

2. 适用人群与学习目标

这套教程非常适合以下几类开发者：

• 零基础转行/入门者：对 AI 感兴趣但不知从何下手，需要一条清晰的、动手为主的学习路径。
• 有一定基础的开发者：了解 Python，想快速将大模型能力集成到现有项目或开拓新方向。
• 产品经理/技术负责人：希望系统性了解大模型技术边界和落地可能性，以便进行技术选型和规划。

学完后的核心收获：

1. 独立环境搭建：能在自己的电脑上配置好 AI 开发环境，并运行起一个本地大模型。
2. API 集成能力：熟练使用主流大模型 API（如 OpenAI、DeepSeek）开发应用。
3. 构建 RAG 系统：为自己的文档、知识库创建一个智能问答助手。
4. 创建初级 Agent：让大模型能够调用外部工具完成预定任务。
5. 理解微调流程：知道在什么情况下需要对模型进行微调，并能跑通一个完整的微调实验。
6. 完成综合项目：将以上技能组合，部署一个可演示的完整 AI 应用。

3. 环境准备与前置条件

动手之前，请确保你的开发环境满足以下基础要求。这是后续所有实践能否顺利进行的前提。

3.1 硬件与操作系统

• 操作系统：Windows 10/11， macOS 或 Linux（推荐 Ubuntu）均可。教程中的命令会做区分。
• 内存：建议 16GB 或以上。运行本地模型（尤其是 7B 参数级别）时，内存占用会较高。
• 显卡（GPU）：非必须，但强烈推荐。
  • 有 NVIDIA 显卡：如果拥有 6GB 及以上显存的 NVIDIA 显卡（如 GTX 1060 6G, RTX 2060, RTX 3060 等），可以体验更快的本地模型推理和微调。需要提前安装好 CUDA 和 cuDNN 。
  • 无显卡或显存不足：完全可以使用 CPU 进行推理，或依赖云端 API（如 OpenAI, DeepSeek），学习流程不受影响。
• 磁盘空间：至少预留 20GB 可用空间，用于安装环境、Python 包和下载模型文件。

3.2 软件基础

• Python：版本 3.8 - 3.11。这是 AI 开发的主流语言环境。避免使用 Python 3.12 等过新版本，可能遇到库兼容性问题。
• 包管理工具：
  • Conda：用于创建独立的 Python 环境，强烈推荐。下载并安装 Miniconda 或 Anaconda。
  • Pip：Python 默认的包安装工具，在 Conda 环境中也会用到。
• 代码编辑器/IDE：VS Code（推荐，插件生态丰富）或 PyCharm。
• Git：用于克隆代码仓库和版本管理。

3.3 核心账户注册（可选但推荐）

部分服务需要 API Key，建议提前注册：

• OpenAI或国内替代平台：如 DeepSeek 、 智谱AI 、 月之暗面 。获取它们的 API Key，用于调用云端大模型。
• Hugging Face：注册 Hugging Face 账号，这是最大的开源模型社区，下载模型和数据集时需要。

4. Day 1 学习路径：环境搭建与模型初体验

第一天的目标是搭建好开发环境，并成功运行你的第一个大模型交互程序。

4.1 创建并激活 Conda 环境

打开终端（Windows 用 Anaconda Prompt 或 PowerShell，Mac/Linux 用 Terminal），执行以下命令创建一个名为ai_tutorial的纯净环境。

# 创建 Python 3.10 环境 conda create -n ai_tutorial python=3.10 -y # 激活环境 conda activate ai_tutorial

激活后，终端提示符前会出现(ai_tutorial)，表示你已进入该环境。

4.2 安装核心 Python 库

在激活的环境中，使用 pip 安装最基础的 AI 开发库。

pip install openai langchain langchain-community chromadb pypdf sentence-transformers

• openai：用于调用 OpenAI 官方 API。如果使用国内 API，则安装对应 SDK（如zhipuai,openai（配置 base_url））。
• langchain&langchain-community：当前最流行的 AI 应用开发框架。
• chromadb：轻量级向量数据库，用于 RAG。
• pypdf：用于读取 PDF 文档。
• sentence-transformers：用于生成文本向量的嵌入模型。

4.3 体验云端 API 调用

这是最快验证环境是否工作的方法。以下以 DeepSeek API 为例（因其目前免费且易用）。

1. 获取 API Key：登录 DeepSeek 平台，在控制台创建并复制 API Key。
2. 编写测试脚本：创建一个test_api.py文件。

# test_api.py from openai import OpenAI # 注意：这里使用 DeepSeek 的 endpoint 和 API Key client = OpenAI( api_key="你的-deepseek-api-key", base_url="https://api.deepseek.com" ) response = client.chat.completions.create( model="deepseek-chat", messages=[ {"role": "system", "content": "你是一个乐于助人的助手。"}, {"role": "user", "content": "用 Python 写一个计算斐波那契数列的函数。"} ], stream=False # 非流式输出 ) print(response.choices[0].message.content)

3. 运行脚本：

python test_api.py

如果看到返回的代码，恭喜你，第一步成功了！这证明你的 Python 环境、网络和 API 配置都是正确的。

4.4 部署本地模型（可选，但有显卡推荐）

为了理解模型本地运行的原理，我们使用 Ollama 。它简化了本地大模型的下载和运行。

1. 安装 Ollama：前往官网下载对应操作系统的安装包，一键安装。
2. 拉取并运行模型：在终端（不需要在 Conda 环境里）执行以下命令。这里以轻量模型qwen2.5:0.5b（仅 0.5B 参数）为例，对硬件要求极低。

# 拉取模型（首次运行会自动下载） ollama pull qwen2.5:0.5b # 运行模型并与它交互 ollama run qwen2.5:0.5b

运行后，会进入一个交互式命令行，你可以直接输入问题，模型会实时回复。按Ctrl+D退出。

第一天成果验证：你应成功运行了test_api.py并获得了 API 返回结果。如果条件允许，也通过 Ollama 与本地模型进行了对话。这标志着开发环境已就绪。

5. Day 2 学习路径：构建你的第一个 AI 应用

第二天，我们将利用 LangChain 框架，构建两个最实用的 AI 应用：一个提示词优化的对话助手，和一个本地知识库问答系统（RAG）。

5.1 深入提示工程与链式调用

LangChain 的核心概念之一是Chain（链），它将大模型调用、提示词模板、工具等组合起来。

实战：创建一个代码审查助手这个助手会根据你输入的代码片段和指定的编程语言，给出改进建议。

1. 创建脚本code_reviewer.py。
2. 编写代码：

# code_reviewer.py from langchain_openai import ChatOpenAI from langchain.prompts import ChatPromptTemplate from langchain.chains import LLMChain # 1. 初始化 LLM。这里依然以 DeepSeek 为例，你也可以替换为其他兼容 OpenAI 格式的 API。 llm = ChatOpenAI( openai_api_key="你的-api-key", base_url="https://api.deepseek.com", model="deepseek-chat", temperature=0.1 # 低 temperature 使输出更确定 ) # 2. 创建提示词模板 prompt_template = ChatPromptTemplate.from_messages([ ("system", "你是一个资深的{language}开发专家，擅长代码审查。请严格检查以下代码，指出潜在的问题（如性能、安全、可读性等）并提供改进后的代码。"), ("user", "代码：\n{code}") ]) # 3. 创建链 chain = LLMChain(llm=llm, prompt=prompt_template) # 4. 运行链 language = "Python" code_snippet = """ def calculate_average(numbers): sum = 0 for i in range(len(numbers)): sum += numbers[i] return sum / len(numbers) """ result = chain.invoke({"language": language, "code": code_snippet}) print(f"【代码审查结果】\n{result['text']}")

3. 运行并观察：执行python code_reviewer.py。模型应该会指出原函数可以改用sum()内置函数，并建议增加空列表检查等。通过这个例子，你掌握了如何使用模板动态构造提示词，并封装成可复用的链。

5.2 构建 RAG 系统：本地知识库问答

这是当前企业应用最热的场景。我们将创建一个能读取你的 PDF 文档并回答其中内容的应用。

1. 准备素材：将一个 PDF 文件（如一篇技术文章、产品手册）放入项目文件夹，命名为doc.pdf。
2. 创建脚本rag_qa.py。
3. 编写完整的 RAG 流程代码：

# rag_qa.py from langchain_community.document_loaders import PyPDFLoader from langchain.text_splitter import RecursiveCharacterTextSplitter from langchain_community.embeddings import HuggingFaceEmbeddings from langchain_community.vectorstores import Chroma from langchain_openai import ChatOpenAI from langchain.chains import RetrievalQA # 1. 加载文档 loader = PyPDFLoader("./doc.pdf") documents = loader.load() # 2. 分割文本 text_splitter = RecursiveCharacterTextSplitter(chunk_size=500, chunk_overlap=50) texts = text_splitter.split_documents(documents) print(f"已将文档分割为 {len(texts)} 个文本块。") # 3. 创建向量数据库 # 使用开源嵌入模型，无需 API Key embeddings = HuggingFaceEmbeddings(model_name="all-MiniLM-L6-v2") vectorstore = Chroma.from_documents(documents=texts, embedding=embeddings, persist_directory="./chroma_db") # 持久化到磁盘，下次可直接加载 vectorstore.persist() # 4. 创建检索器 retriever = vectorstore.as_retriever(search_kwargs={"k": 3}) # 返回最相关的3个片段 # 5. 创建 LLM 和 QA 链 llm = ChatOpenAI( openai_api_key="你的-api-key", base_url="https://api.deepseek.com", model="deepseek-chat" ) qa_chain = RetrievalQA.from_chain_type(llm=llm, chain_type="stuff", retriever=retriever) # 6. 进行问答 query = "文档中主要讲了什么内容？" # 替换为你的问题 answer = qa_chain.invoke({"query": query}) print(f"\n问题：{query}") print(f"答案：{answer['result']}")

4. 运行脚本：首次运行会稍慢，因为它需要下载嵌入模型并处理文档。成功后，它会根据你的 PDF 内容回答问题。你可以修改query变量，尝试问更具体的问题。
5. 进阶体验：脚本运行后会在本地生成一个chroma_db文件夹，存储了向量数据。你可以修改脚本，注释掉文档加载和向量化部分，直接加载已有的数据库，实现快速启动：

# 直接加载已有向量库 vectorstore = Chroma(persist_directory="./chroma_db", embedding_function=embeddings) retriever = vectorstore.as_retriever(search_kwargs={"k": 3})

第二天成果验证：你成功构建了两个应用。code_reviewer.py展示了链式调用的威力，而rag_qa.py则实现了一个完整的 RAG 流程，这是构建企业级知识库应用的基石。你可以尝试更换不同的 PDF 文档，观察问答效果。

6. Day 3 学习路径：探索 AI Agent 与模型微调

第三天，我们将接触更前沿的 Agent 技术，并初步了解模型微调的流程。

6.1 创建你的第一个 AI Agent

Agent 的核心是让大模型学会使用工具。我们将创建一个能进行数学计算和单位换算的简单 Agent。

1. 安装额外工具包：pip install langchain-experimental numexpr
2. 创建脚本math_agent.py。
3. 编写代码：

# math_agent.py from langchain_openai import ChatOpenAI from langchain.agents import initialize_agent, AgentType from langchain.agents import Tool from langchain.utilities import WikipediaAPIWrapper from langchain_experimental.utilities import PythonREPL # 1. 定义工具 # 工具1：Python 计算器 python_repl = PythonREPL() calc_tool = Tool( name="Calculator", func=python_repl.run, description="用于执行数学计算。输入一个合法的 Python 数学表达式，如 '3 * 5 + 2'。" ) # 工具2：维基百科查询（需要网络） wikipedia = WikipediaAPIWrapper() wiki_tool = Tool( name="Wikipedia", func=wikipedia.run, description="用于查询事实性信息。输入一个明确的查询主题。" ) tools = [calc_tool, wiki_tool] # 2. 初始化 LLM llm = ChatOpenAI( openai_api_key="你的-api-key", base_url="https://api.deepseek.com", model="deepseek-chat", temperature=0 ) # 3. 初始化 Agent agent = initialize_agent( tools, llm, agent=AgentType.ZERO_SHOT_REACT_DESCRIPTION, # 使用 ReAct 推理框架 verbose=True, # 打印详细的思考过程 handle_parsing_errors=True # 处理解析错误 ) # 4. 向 Agent 提问 questions = [ "计算圆的面积，如果半径是 7.5 厘米。", "告诉我爱因斯坦的生平简介。" ] for question in questions: print(f"\n=== 问题：{question} ===") try: result = agent.invoke(question) print(f"答案：{result['output']}") except Exception as e: print(f"执行出错：{e}")

4. 运行并观察：执行脚本，你会看到 Agent 详细的Thought（思考）、Action（选择工具）、Observation（工具返回结果）过程。这直观展示了 Agent 是如何通过“思考-行动-观察”循环来解决问题的。

6.2 模型微调初探：使用 LLaMA-Factory

微调（Fine-tuning）是用特定数据训练模型，使其更擅长某一任务。我们使用 LLaMA-Factory 这个高效微调框架进行体验。

注意：微调对硬件（显存）要求较高，以下流程以在 Colab 或拥有足够显存的机器上操作为例。

1. 环境准备：新建一个 Conda 环境专门用于微调。

conda create -n llama_factory python=3.10 -y conda activate llama_factory

2. 克隆项目并安装依赖：

git clone https://github.com/hiyouga/LLaMA-Factory.git cd LLaMA-Factory pip install -e .[torch,metrics]

3. 准备数据：微调需要指令格式的数据。LLaMA-Factory 支持多种格式。这里创建一个简单的 JSON 文件data.jsonl放在data目录下：

{"instruction": "给以下商品写一句吸引人的广告语。", "input": "一款降噪效果极佳的无线耳机", "output": "静界由我，声动人心。XX无线耳机，隔绝喧嚣，专注每一刻聆听。"} {"instruction": "将以下中文翻译成英文。", "input": "今天天气真好。", "output": "The weather is really nice today."}

4. 使用 Web UI 进行微调（推荐）：LLaMA-Factory 提供了友好的图形界面。

# 启动 Web UI CUDA_VISIBLE_DEVICES=0 python src/train_web.py

访问http://localhost:7860。 *模型：在Model标签页，选择一个基础模型，例如Qwen2.5-1.5B-Instruct（模型较小，适合实验）。 *数据：在Dataset标签页，上传你的data.jsonl文件，并配置指令模板。 *训练：在Train标签页，选择微调方法（如 LoRA），设置学习率、训练轮数等参数（初次体验可用默认值）。 *启动：点击Start开始训练。在 Colab T4 GPU 上，用少量数据训练几轮很快就能完成。 5.测试微调后的模型：训练完成后，可以在Chat标签页直接与微调后的模型对话，测试其在新任务上的表现。

第三天成果验证：你通过math_agent.py看到了 AI 使用工具完成复杂任务的过程。通过 LLaMA-Factory 的 Web UI，你完整地走通了一个模型微调的流程，即使只是在小数据上，也理解了数据准备、参数配置、训练启动和效果验证的关键步骤。

7. 资源占用与性能观察指南

在本地运行模型或进行微调时，监控资源占用至关重要。

• 观察 GPU 显存（NVIDIA）：

  # Linux/macOS nvidia-smi # 或动态监控 watch -n 1 nvidia-smi

  在 Windows 上，可以使用任务管理器“性能”选项卡下的 GPU 监控，或安装 GPU-Z 等工具。

• 观察系统内存和 CPU：

  • Linux/macOS：使用htop或top命令。
  • Windows：使用任务管理器。

• 影响性能的关键参数：

  1. 模型大小：参数越多（如 7B, 13B），对显存和内存需求越高。从 1B 或 3B 的小模型开始实验。
  2. 上下文长度：处理文本的最大长度。越长消耗资源越多。
  3. 批量大小（Batch Size）：在微调或批量推理时，增大 batch size 能提升速度，但会线性增加显存占用。
  4. 精度：使用fp16（半精度）而非fp32（全精度）可以大幅减少显存占用，通常对效果影响很小。

通用建议：在个人电脑上，优先使用 API 或 Ollama 运行量化后的模型（如qwen2.5:3b）。进行微调实验时，最好在云服务器（如 AutoDL、Featurize）或 Colab Pro 上进行，它们能提供稳定的 GPU 环境。

8. 常见问题与排查方法

9. 最佳实践与后续学习建议

完成这三天的实战后，你已搭建起 AI 大模型应用开发的基础能力。为了走得更远，请遵循以下建议：

1. 项目驱动学习：选择一个你感兴趣的小项目（如自动周报生成器、技术文档摘要工具、智能客服原型），用学到的技能去实现它。这是巩固知识的最佳方式。
2. 深入理解原理：在会用之后，花时间学习 Transformer 架构、注意力机制、Embedding 原理、RAG 检索算法等核心概念。这能让你从“调包侠”成长为能解决复杂问题的工程师。
3. 关注工具链演进：大模型生态日新月异。除了 LangChain，可以了解 LangGraph （用于构建复杂 Agent 工作流）、 LlamaIndex （专注于 RAG）、 Semantic Kernel （微软出品）等框架。
4. 合规与伦理：在实际应用中，务必注意数据隐私、版权和模型偏见问题。使用用户数据前需获取授权，对生成内容进行人工审核，避免产生有害或歧视性输出。
5. 加入社区：在 GitHub、Hugging Face、相关技术论坛保持活跃。阅读优秀开源项目代码，参与讨论，是提升最快的途径之一。

这套“3天教程”提供了一个高强度、快节奏的入门路径。真正的掌握需要你在后续的每一个具体项目中反复运用和深化这些技能。从成功运行第一个 API 调用，到构建出能解决实际问题的 RAG 或 Agent，每一步都值得记录和复盘。现在，你已经拿到了进入 AI 应用开发世界的钥匙，接下来就是去创造和解决了。