当前位置: 首页 > news >正文

Chroma私有化:本地部署完整方案

嵌入向量(vector embedding)是表示任何类型数据的 A.I 原生方式,使它们非常适合与各种 A.I 驱动的工具和算法一起使用。 它们可以表示文本、图像,很快还可以表示音频和视频。 有许多创建嵌入的选项,无论是在本地使用已安装的库,还是通过调用 API。

Chroma 是一个用于构建带有嵌入向量的 AI 应用程序的数据库。 它内置了入门所需的一切,并可在你的机器上运行。

部署模式 适用场景 核心优势 复杂度
单机Docker部署 开发测试、小型应用 快速启动、资源占用少
多节点集群部署 生产环境、高可用 水平扩展、负载均衡 ⭐⭐⭐
Docker单机部署方案
# 创建部署目录
mkdir -p chroma-deployment
cd chroma-deployment# 创建docker-compose.yml文件
cat > docker-compose.yml << 'EOF'
version: '3.9'networks:chroma-net:driver: bridgeservices:chroma-server:image: chromadb/chroma:latestcontainer_name: chroma-servervolumes:- chroma-data:/dataenvironment:- CHROMA_PERSIST_DIRECTORY=/dataports:- "8000:8000"restart: unless-stoppednetworks:- chroma-netvolumes:chroma-data:driver: local
EOF# 启动服务
docker-compose up -d# 验证服务状态
docker-compose logs -f
curl http://localhost:8000/api/v2/heartbeat
高级配置选项
environment:- CHROMA_PERSIST_DIRECTORY=/data- CHROMA_MAX_CONNECTIONS=100- CHROMA_WORKER_THREADS=4- CHROMA_EMBEDDING_BATCH_SIZE=32- CHROMA_INDEX_BATCH_SIZE=1000
生产环境部署架构

图片
高可用配置

# 多节点docker-compose配置示例
services:chroma-node1:image: chromadb/chroma:latestenvironment:- CHROMA_NODE_ID=node1- CHROMA_CLUSTER_MODE=true- CHROMA_PEERS=node2:8000,node3:8000networks:- chroma-clusterchroma-node2:image: chromadb/chroma:latestenvironment:- CHROMA_NODE_ID=node2- CHROMA_CLUSTER_MODE=true- CHROMA_PEERS=node1:8000,node3:8000networks:- chroma-clusterchroma-node3:image: chromadb/chroma:latestenvironment:- CHROMA_NODE_ID=node3- CHROMA_CLUSTER_MODE=true- CHROMA_PEERS=node1:8000,node2:8000networks:- chroma-cluster
监控检查配置
# 健康检查脚本
#!/bin/bash
HEARTBEAT_URL="http://localhost:8000/api/v2/heartbeat"
STATUS=$(curl -s -o /dev/null -w "%{http_code}" $HEARTBEAT_URL)if [ $STATUS -eq 200 ]; thenecho "Chroma服务正常"exit 0
elseecho "Chroma服务异常,状态码: $STATUS"exit 1
fi
http://www.gsyq.cn/news/20517.html

相关文章:

  • 嵌入式-C++面经2
  • 图像分类
  • https与http区别思维拓扑图 - krt
  • OpenHarmony中的环境服务管理配置讲解
  • 10.13每日总结
  • 完整教程:学习 React 前掌握 JavaScript 核心概念
  • 新学期每日总结(第7天)
  • 实验记录 2025/10/13
  • 正睿25csp七连测day5
  • 14 10.13
  • 深入解析:flutter AudioPlayer的使用问题及处理
  • 11 10.10
  • 新手村程序
  • Android Camera openCamera - 教程
  • 信号与系统
  • 大作业第一阶段验收小组集体加5分 -
  • [Vulhub靶机]W1R3S靶机渗透
  • 实用指南:Apache Doris 4.0 AI 能力揭秘(二):为企业级应用而生的 AI 函数设计与实践
  • QAxios研发笔记(一):在Qt环境下,构建Promise风格的Get请求接口 - 指南
  • 咬鼠
  • 10月13日日记
  • 【知识总结】数据库的事务、并发与锁管理
  • 描述https的加密过程
  • CSP-S 2025 提高级模拟赛 Day6 复盘 A.选择方案
  • MongoDB安装及使用
  • 从Gemini Robotics看通用机器人的科技路径
  • Windows7 隐藏用户
  • 10 月记录
  • 网络安全基础--第五课:跨站脚本攻击XSS - 实践
  • 2025.10.13总结 - A