ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

linux本地部署Qwen3.8 27B

linux本地部署Qwen3.8 27B 写在前面本文适合从后往前看也就是1-2-3。4 ollama常用命令参考https://www.runoob.com/ollama/ollama-commands.html。菜鸟教程。【1 经常会用到】ollama run qwen3.8:27b 【运行模型。如果不存在则自动拉取。】ollama stop qwen3.8:27b 【运行模型。如果不存在则自动拉取。】【2 偶尔会用到】ollama list 【 列出模型。显示本地所有已下载的模型。】ollama ps 【查看进程。显示当前正在运行的模型及显存占用。】【3 可能会遇到】ollama rm 删除模型。移除本地模型释放空间。 ollama rm qwen3.8:27bollama cp 复制模型。将现有模型复制,并且起了个新名称用于测试。 ollama cp qwen3.8:27b qwen 【后面就可以用ollama run qwen 来启动模型】lwb2eda:~$ ollama tag qwen3.8:27b qwen Error: unknowncommandtagforollamalwb2eda:~$ lwb2eda:~$ lwb2eda:~$ ollamacpqwen3.8:27b qwen copiedqwen3.8:27btoqwenlwb2eda:~$ ollama list NAME ID SIZE MODIFIED qwen:latest aaee06c39dcf17GB41seconds ago qwen3.8:27b aaee06c39dcf17GB23hours ago3 运行时占用的资源停止时2 Linux环境 qwen3.8-27b 本地部署ollamalwb2eda:~$curl-fsSLhttps://ollama.com/install.sh|sh【准备下载Ollama】Installing ollama to /usr/local[sudo]passwordforlwb2: lwb2 is notinthe sudoers file. This incident will be reported. 【此处需要提升用户权限将当前用户加入sudoer列表可参考教程: https://blog.csdn.net/qq_38893833/article/details/109029178 】 lwb2eda:~$suroot Password: rooteda:/home/disk2/lwb2# ls -l /etc/sudoers-r--r-----1root root1730Jun1408:04 /etc/sudoers rooteda:/home/disk2/lwb2# chmod uw /etc/sudoersrooteda:/home/disk2/lwb2# vim /etc/sudoers【其中用到的VIM修改文本命令 进入 Vimvim文件名 按下 i 键进入 插入模式屏幕底部会显示 -- INSERT --。 按下 ESC 键返回到 命令模式。 保存并退出 :wq 仅保存 】 rooteda:/home/disk2/lwb2# chmod u-w /etc/sudoersrooteda:/home/disk2/lwb2# su lwb2 【切换回原来的用户】lwb2eda:~$curl-fsSLhttps://ollama.com/install.sh|sh【再次执行】Installing ollama to /usr/local[sudo]passwordforlwb2:Downloading ollama-linux-amd64.tar.zst 【可以正常下载】######################################################################## 100.0%...NVIDIA GPU installed. lwb2eda:~$ ollama run qwen3.8:27b pulling manifest pulling manifest pulling ac3714bfddde:100% ▕████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████ ▏930MB/931 MB3.2MB/s 0s pulling f5f1dd8920d4:100% ▕████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████ ▏16GB/16GB6.6MB/s 0s verifying sha256 digest writing manifest Last login: Tue Oct602:37:262026from172.16.124.135 lwb2eda:~$ ollama run qwen3.8:27b你是谁 Thinking... 用户问你是谁这是一个关于我身份的直接问题。根据我的身份设定我是通义千问Qwen由阿里巴巴集团通义实验室自主研发的大语言模型。我应该简洁、自然地回答这个问题。...done thinking. 我是**通义千问**Qwen由阿里巴巴集团通义实验室自主研发的大语言模型。 我可以帮你做很多事情比如 - **文字创作**写作、翻译、润色、摘要等 - **逻辑推理**数学、科学、代码分析等 - **知识问答**涵盖广泛的学科和领域 - **代码辅助**编写、调试、解释代码 - **多模态理解**分析图片、图表、公式等 - **对话交流**日常聊天、头脑风暴、角色模拟 有什么我可以帮你的吗Send a message(/? 【退出看一下】 lwb2eda:~$ ollama list NAME ID SIZE MODIFIED qwen3.8:27b aaee06c39dcf17GB8hours agoollama相关命令可参考https://www.runoob.com/ollama/ollama-commands.html。1 目前机器容量20261006目前现状显存还有70G内存还有800G。地方14T已经很多了不知道为什么会占满所以整理一下用到的Linux命令lwb2eda:~$df-h【查看磁盘容量】 Filesystem Size Used Avail Use% Mounted on tmpfs 26G2.9M 26G1% /run /dev/mapper/ubuntu--vg-ubuntu--lv 98G 68G 26G73% / tmpfs 126G0126G0% /dev/shm tmpfs5.0M05.0M0% /run/lock /dev/sda22.0G 573M1.3G32% /boot /dev/sda11.1G6.1M1.1G1% /boot/efi /dev/sdb 15T 14T 224G99% /home/disk2... lwb2eda:~$cd/home/disk2 lwb2eda:/home/disk2$sudorm-rflwb 【清理文件夹】 lwb2eda:/home/disk2$ls-l--block-sizeM 【查看磁盘占用以兆为单位】 total 26544M -rw-rw-r--1wyh2 ssz2 886M Sep1620251.wmv -rw-rw-r--110191020358M Sep162025202509161612.mp4... lwb2eda:/home/disk2$ls-l--block-sizeG... lwb2eda:/$sudodu-ah/home/disk2|sort-rh|head-10【排出前十大的文件占用这个很耗时所以中止了】 lwb2eda:/$sudodu-sh/home/disk2/* 【所有的文件占用】 886M /home/disk2/1.wmv...
返回列表