如何 3 分钟本地部署 self-hosted-ai-starter-kit:从零跑通 AI 工作流的完整实操教程
【免费下载链接】self-hosted-ai-starter-kitThe Self-hosted AI Starter Kit is an open-source template that quickly sets up a local AI environment. Curated by n8n, it provides essential tools for creating secure, self-hosted AI workflows.项目地址: https://gitcode.com/GitHub_Trending/se/self-hosted-ai-starter-kit
self-hosted-ai-starter-kit 是由 n8n 团队开源的模板,用一份 Docker Compose 配置一键拉起本地 AI 环境,包含 n8n、Ollama、Qdrant、PostgreSQL 四件套。适合在意数据隐私、想让 AI 工作流跑在自己机器上的开发者。
它帮你省掉了什么
- 数据不出本机:模型、向量库、数据库全部本地运行,公司文档和私有数据不经过任何云服务
- 零配置编排:n8n、Ollama、Qdrant、PostgreSQL 四个组件的镜像、网络、存储卷都已配好,一条命令启动
- 开箱有 Demo:预置了演示 AI 工作流和本地 Ollama 凭证,首次启动即自动导入,跑起来就能看到效果
前置条件与 self-hosted-ai-starter-kit 快速部署
先确认环境:已安装Docker 和 Docker Compose(未安装可查 Docker 官方文档),8GB 以上内存(推荐 16GB),20GB 以上磁盘(镜像和模型文件都不小),网络畅通。
1. 获取代码
克隆仓库并复制环境变量模板。所有密码和密钥都从.env读取,改一下默认值即可。
git clone https://gitcode.com/GitHub_Trending/se/self-hosted-ai-starter-kit cd self-hosted-ai-starter-kit cp .env.example .env2. 一键启动本地 AI 环境
--profile cpu表示启动 CPU 版 Ollama;如果你有 NVIDIA 显卡,换成--profile gpu-nvidia可启用 GPU 推理,AMD Linux 用户则用--profile gpu-amd。
docker compose --profile cpu up3. 访问入口
容器全部就绪后,浏览器打开http://localhost:5678/进入 n8n,按向导完成一次性的账号初始化。
部署验证:跑通之后先看什么
- 打开
http://localhost:5678/,确认 n8n 编辑器正常加载。 - 打开预置的演示工作流(登录后访问
/workflow/srOnR8PAY3u4RSwb),点击画布下方的Chat按钮发送一条消息,验证本地模型能正常推理。 - 若首次响应很慢,执行
docker compose logs ollama-cpu查看日志——大概率是 Ollama 正在下载 llama3.2 模型,只需等一次。
目录与核心文件速览
- docker-compose.yml → 核心编排文件,定义 n8n、Ollama、Qdrant、PostgreSQL 四个服务及镜像拉取、端口映射
- n8n/demo-data/workflows/ → 预置演示工作流,首次启动由 n8n-import 服务自动导入;你的自定义工作流 JSON 放这里同样会被导入
- n8n/demo-data/credentials/ → 本地 Ollama 服务凭证,随工作流一起自动导入
- assets/ → 官方演示动图等素材
进阶调优:按硬件定制
换更轻量的模型
模板默认拉取 llama3.2。资源有限时,可把 docker-compose.yml 中ollama pull llama3.2那一行改成更小的模型名;也可在容器里直接ollama pull其他模型,然后在 n8n 的 Ollama 凭证中保持一致的地址即可。
给推理分配 GPU
CPU 跑 3B 级模型体验尚可,但换--profile gpu-nvidia启动后延迟会明显下降,长对话、批处理场景收益更大。
保持镜像更新
组件更新后按下面两条命令拉新镜像并重建即可,本地工作流和数据不会丢。
docker compose --profile cpu pull docker compose create && docker compose --profile cpu up高频问题速查(避坑)
端口 5678 被占用 ⚠️
现象:n8n 容器起不来或反复重启。解法:把 docker-compose.yml 中5678:5678的主机侧端口改成5679:5678,随后用新端口访问。
镜像或模型拉取超时
现象:up命令长时间停在下载阶段。解法:给 Docker 配置镜像源;模型文件较大,用docker compose logs ollama-cpu确认下载仍在推进而非卡死。
演示工作流没有回复
现象:点 Chat 后一直转圈无响应。解法:九成是模型还没下完,确认 llama3.2 下载完成;再检查 Ollama 凭证里的 Base URL 指向http://ollama:11434/。
写在最后
self-hosted-ai-starter-kit 把本地部署、AI 工作流、向量数据库打包进了一份 Compose 文件,从克隆到聊上第一句话不超过三分钟。现在就去把它跑起来,替换成你自己的模型和工作流。
【免费下载链接】self-hosted-ai-starter-kitThe Self-hosted AI Starter Kit is an open-source template that quickly sets up a local AI environment. Curated by n8n, it provides essential tools for creating secure, self-hosted AI workflows.项目地址: https://gitcode.com/GitHub_Trending/se/self-hosted-ai-starter-kit
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考