*部署/推理大模型的程序架构推理引擎/框架**及其开源协议。以下是当前主流大模型推理框架的开源协议汇总一、核心推理引擎框架开源协议说明llama.cppMIT最主流的 C/C 本地推理引擎极度宽松可商用闭源二次开发vLLMApache 2.0高吞吐生产级推理引擎含专利授权条款可商用SGLangApache 2.0LMSYS 出品高性能 serving 框架主仓库 Apache 2.0部分子项目 MITTensorRT-LLMApache 2.0NVIDIA 官方2025年3月后全面开源可商用TGI (Text Generation Inference)Apache 2.0Hugging Face 官方生产级推理服务当前为 Apache 2.0早期曾用过 HFOILTriton Inference ServerBSD-3-ClauseNVIDIA 通用模型服务框架类似 MIT 的宽松协议MLC LLMApache 2.0基于 Apache TVM支持多端部署浏览器、手机、桌面ONNX RuntimeMITMicrosoft 出品跨平台推理加速器二、本地部署/桌面工具框架开源协议说明OllamaMIT最流行的本地模型管理工具底层基于 llama.cppGPT4AllMITNomic AI 出品隐私优先的本地聊天工具KoboldCppAGPL-3.0基于 llama.cpp 的创意写作/UI 工具有传染性修改后必须开源text-generation-webuiAGPL-3.0Web UI 推理工具同样具有强开源传染性LM Studio闭源/专有免费使用但不开源有商业版三、服务/云原生框架框架开源协议说明BentoMLApache 2.0通用 ML 模型服务框架Ray ServeApache 2.0分布式可扩展 servingTabbyAPI未确认通常为 AGPL 或类似需查具体仓库四、协议宽松度对比对商业使用的建议协议商用闭源修改专利授权风险提示MIT✅✅无最推荐几乎零限制BSD-3-Clause✅✅无与 MIT 类似Apache 2.0✅✅✅ 含专利授权最推荐用于企业有专利保护AGPL-3.0✅❌ 必须开源无强传染性服务端修改也必须开源慎用五、选型建议要闭源商用/嵌入产品优先选MIT/Apache 2.0的框架如llama.cpp、Ollama、vLLM、SGLang、TensorRT-LLM要生产级高吞吐vLLM、SGLang、TensorRT-LLM、TGI都是 Apache 2.0可放心商用要注意 AGPL 陷阱KoboldCpp、text-generation-webui是 AGPL-3.0如果你修改了代码并在网络上提供服务必须开源你的修改本地快速体验Ollama (MIT)或LM Studio (闭源免费)最方便如果你需要我可以针对某个具体框架深入分析其协议对商业场景的影响。
