当前位置: 首页 > news >正文

Shell Daily 2025-12-29: 并行加速 (Xargs Parallel)

Shell Daily 2025-12-29: 并行加速 (Xargs Parallel)

在处理大量任务时(比如压缩 1000 个日志文件或下载 50 个链接),很多人的直觉是写一个 for 循环。但这有个致命弱点:它是串行的。无论你的服务器有 8 核还是 64 核,for 循环一次只用一个核,剩下的性能都在睡大觉。

要释放多核 CPU 的潜能,你不需要学习复杂的编程并发库,只需要给老牌命令 xargs 加上一个参数。

怎么用

xargs 通常被用来把输入转换成参数,但它的 -P 参数可以让它并行启动多个进程。

  • 语法... | xargs -P <进程数> -I {} command {}
  • 参数-P 0 表示尽可能多地开启进程(慎用,可能耗尽资源),通常建议设置为 CPU 核心数。
  • 兼容性Linux (GNU) 和 macOS (BSD) 通用。(注:纯 POSIX 标准未定义 -P,但在现代系统中几乎标配)。

适用场景

  • 批量计算:图片转码、视频压缩、文件加密/解密。
  • 网络请求:并发检测多个 URL 的存活状态、并发下载。

示例 1:极速压缩日志

假设你有几百个切割好的日志文件 access.log.1, access.log.2 ... 用 gzip * 处理是串行的。如果改用 -P,速度将直接翻倍:

# -P 4:同时启动 4 个 gzip 进程进行压缩
# -n 1:每次传递 1 个文件名给 gzip
ls *.log | xargs -P 4 -n 1 gzip

示例 2:并发网络扫描

如果你有一个 domains.txt 列表,想检查哪些站点挂了。用 for 循环测完 100 个需要很久,用 xargs 可以瞬间完成:

# -I {}:定义替换占位符,把读到的域名填入 {} 位置
# -P 10:保持 10 个并发连接
cat domains.txt | xargs -P 10 -I {} sh -c 'curl -o /dev/null -s -w "%{http_code} {}\n" http://{} 
'

(注:使用 -P 时,输出可能会交错在一起。如果输出顺序很重要,这招就不适用了;但对于“只管执行,不管顺序”的批处理任务,它是当之无愧的神器。)

http://www.gsyq.cn/news/174901.html

相关文章:

  • 免费AI论文工具实测:8款神器将AIGC率从77%压至7%,高效完成初稿!
  • 性价比高的PET发泡机设备厂家有哪些、PET发泡机设备厂家用料扎实吗? - 工业品网
  • 进程与程序
  • 进程的创建与终止
  • GitHub Pages部署PyTorch项目静态网站
  • zz 掌握python的dataclass,让你的代码更简洁优雅
  • 什么是快捷支付?
  • 最新扣扣秒赞系统源码
  • Markdown制作目录:长篇PyTorch教程结构化
  • 2025商用智能清洁设备TOP5深度测评:智然达智能清洁设备性价比、兼容性权威解析 - mypinpai
  • SSH连接复用减少PyTorch集群登录延迟
  • 你不允许不知道!西电通信工程学院复试录取数据
  • 2025年度东元高压电机代理合作伙伴排名:东元高压电机代理好不好 - 工业品网
  • 轨道影院是什么?9dvr体验馆设备多少钱?
  • PyTorch-CUDA-v2.7镜像安全更新:修复CVE漏洞
  • 2025年智然达智能清洁设备行业排行榜,新测评精选清洁机器人公司推荐 - 工业设备
  • 2025年高性价比GEO服务商推荐:技术驱动下的精准营销新选择 - 品牌测评鉴赏家
  • GitHub Wiki搭建PyTorch项目文档站
  • Vue3基于springboot校园兼职学生服务平台的设计与实现(编号:918933100)
  • 2025诚信的抖音推广企业TOP5权威推荐:制造业短视频获客指南 - 工业品牌热点
  • 基于buck降压电路的双闭环控制仿真:PI调节器设计与数学模型建模
  • 2025切捆条机制造商TOP5权威推荐:深度测评指南,甄选实力企业助力裁切效率升级 - 工业推荐榜
  • 剪切板神器,绝了
  • Git标签管理PyTorch项目版本:release流程规范
  • 2025年防火封堵材料行业企业实力排名:昊优环保可信度高吗? - 工业品牌热点
  • SED: A Simple Encoder-Decoder for Open-Vocabulary Semantic Segmentation
  • 2025年游泳池设备定制厂家排行榜,新测评精选游泳池设备制造厂推荐 - 工业品牌热点
  • 2025防撞板品牌TOP5权威推荐:专业定制、发货快速、商家深度测评指南 - 工业推荐榜
  • 清华镜像加速pip install torch:提升90%下载速度
  • PyTorch自定义数据集类Dataset实战教程