Chatbox + Ollama本地部署实战指南:免费离线运行AI聊天,隐私数据完全自己掌控
【免费下载链接】chatboxPowerful AI Client项目地址: https://gitcode.com/GitHub_Trending/ch/chatbox
想在断网环境下免费使用AI聊天,同时让隐私数据完全留在自己的电脑上?本指南带你用开源桌面应用 Chatbox 搭配 Ollama 完成本地部署:零费用、可离线、数据不上云,10 分钟就能跑起来。
为什么选择 Chatbox + Ollama 组合
大多数在线 AI 服务需要付费订阅,且对话内容会经过云端。而Chatbox是一个开源的 AI 模型桌面客户端(支持 Windows / Mac / Linux),Ollama则是在本机运行大模型的轻量工具。两者结合后,你能获得:
- 💰完全免费:本地模型按次对话不产生任何 API 费用
- 🔒隐私自控:聊天记录与模型数据全部存储在本机(见 StoreStorage.ts 的本地存储实现),永不外泄
- 📡可离线运行:不依赖互联网,内网、涉密环境也能用
- 🧩模型自由:支持 llama2、Mistral、Mixtral、codellama、vicuna、yi、solar 等多种本地模型(详见 doc/README-CN.md)
第一步:安装 Ollama 并拉取本地模型
在终端依次执行以下命令(若未安装 Ollama,先按官方说明安装):
ollama pull llama3 # 下载 llama3 本地模型 ollama run llama3 # 启动本地模型服务(默认监听 11434 端口)服务启动后,本机http://127.0.0.1:11434就是 Chatbox 要连接的地址。
第二步:在 Chatbox 中配置 Ollama 本地模型
打开 Chatbox,进入左下角Settings(设置)→Model Settings(模型设置),选择 AI 提供商为Ollama,界面会自动出现两个配置项:
- API Host:保持默认值
http://localhost:11434即可(默认值定义在 defaults.ts 中) - 模型下拉框:会自动列出 Ollama 中已下载的所有模型,直接选择即可
💡 提示:如果你要连接局域网中另一台机器上的 Ollama,把地址改成
http://对方IP:11434,并确保远端 Ollama 允许远程访问(相关逻辑见 OllamaSetting.tsx 的远程连接提示)。
保存后新建一个会话,就可以和本地模型对话了。
本地 AI 能做什么:代码、数学、团队协作
别以为本地模型只能闲聊。Chatbox 自带 Markdown 渲染、LaTeX 公式和代码高亮,本地模型完全可以胜任写代码、解方程等任务:
对于程序员来说,配合代码类模型(如 codellama)在离线环境查代码、补全函数非常方便:
团队还可以用 team-sharing/ 目录下的 Caddy 反向代理方案,把 Chatbox 服务共享给同事,实现内网内的团队 AI 协作(参考 team-sharing/README.md)。
常见问题快速排查
| 问题 | 解决办法 |
|---|---|
| 设置页选不到模型 | 确认 Ollama 服务正在运行:ollama list能看到模型即可 |
| 连不上 localhost | Chatbox 会自动将localhost:11434转换为127.0.0.1(见 ollama.ts),检查防火墙是否拦截 11434 端口 |
| 响应速度偏慢 | 换用更小的模型(如 llama3:8b),或调低上下文消息数(设置页的上下文滑块) |
| 想更换模型 | 终端执行ollama pull 新模型名,回到设置页下拉框刷新选择 |
Chatbox 的对话数据默认全部保存在本地,配合本地 Ollama 模型,从输入到推理全程不离开你的设备——这就是"隐私数据完全自己掌控"的实际含义。现在就可以动手部署,体验免费、离线、可控的本地 AI 聊天吧!
【免费下载链接】chatboxPowerful AI Client项目地址: https://gitcode.com/GitHub_Trending/ch/chatbox
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考