Tabby 本地部署指南：一条命令把私有 AI 代码补全跑起来

Tabby 本地部署指南：一条命令把私有 AI 代码补全跑起来

【免费下载链接】tabbySelf-hosted AI coding assistant项目地址: https://gitcode.com/GitHub_Trending/tab/tabby

Tabby 是一个自托管 AI 编程助手，说白了就是把 AI 代码补全和问答的服务端装在你自己的机器上，代码不离开内网。它给开发者的价值很直接：类似 GitHub Copilot 的补全体验，但数据完全本地部署，同时能接上 VS Code、Vim、IntelliJ、Eclipse 这些常用编辑器。

一条 Docker 命令先把服务跑通

先准备一台带 GPU 的 Linux 机器，Ubuntu 20.04 以上比较稳；8 核、16GB 内存、50GB 磁盘是够用的起步配置。装好 Docker 后，直接跑这一条：

docker run -it \ --gpus all -p 8080:8080 -v $HOME/.tabby:/data \ tabbyml/tabby \ serve --model StarCoder-1B --device cuda --chat-model Qwen2-1.5B-Instruct

这条命令用 StarCoder-1B 做补全、Qwen2-1.5B-Instruct 做问答，服务起在 8080 端口，数据落在~/.tabby目录。跑起来后的终端效果大概是这样：

如果你想从源码构建，先执行git clone https://gitcode.com/GitHub_Trending/tab/tabby，再按 CONTRIBUTING.md 里的步骤装好 Rust 工具链和依赖即可。

模型按显卡挑，接外部 API 也可以

模型不必绑死本地权重，按硬件分两档考虑：显卡一般的，选 StarCoder-1B 或 CodeLlama-7B，能流畅跑起来；显卡好就上 CodeLlama-13B，Codestral-22B 效果最强但吃显存。

如果团队已有 Mistral 的 API 配额，也可以让 Tabby 只负责代理，把补全交给远端模型。改动集中在配置里：写一个[model.completion.http]段，填上api_endpoint和api_key就行：

还有哪些模型可选，看 website/docs/models/。

接上编辑器，再补齐权限和索引

服务起来只是第一步，真正用起来要办三件事。

编辑器侧：在 VS Code 里安装 Tabby 扩展并指向你的 8080 端口；Vim 用户装 clients/vim/ 下的插件；Eclipse、IntelliJ 仓库里也有对应实现，做 Eclipse 插件开发时可以参照下面的工程界面：

团队权限：企业版模块在 ee/tabby-db/，用户、邀请和访问控制都由它管，按角色分权限、隔离团队空间都在这里配。

大仓库索引：代码库很大时，先用 crates/tabby-index-cli/ 提前建好索引，补全命中率会明显更稳。

排错方面：服务起不来先看容器输出里的报错，插件连不上就查~/.tabby下的日志和 8080 端口是否通。CI 场景可以参考 ci/ 里的构建脚本；要写自定义扩展，就基于 clients/tabby-agent/ 这个 TypeScript 工程注册命令和事件。更细的配置项都写在 website/docs/。

下一步

先按上面的命令把 StarCoder-1B 跑通、在 VS Code 里看到补全，再回头给团队配权限；显卡够用的话，把--model换成更大的权重对比一下效果。

【免费下载链接】tabbySelf-hosted AI coding assistant项目地址: https://gitcode.com/GitHub_Trending/tab/tabby