参考:
https://github.com/TabbyML/tabby
Docker | Tabby
Linux Debian上快速安装Docker并运行_Entropy-Go的博客-CSDN博客
Tabby - 本地化AI代码自动补全 - Windows10_Entropy-Go的博客-CSDN博客
为什么选择Tabby
已经有好几款类似强劲的代码补全工具,如GitHub Copilot,Codeium等,为什么还要选择Tabby?
Tabby除了和其他工具一样支持联网直接使用之外,还支持本地化部署。
即对内部代码安全性要求很高时,可以采取Tabby项目模型的本地化部署,不用担心本地项目代码隐私泄露,同时有很好的享受GitHub代码库的建议。
部署完成后,如简单粗暴断开外部网络,甚至拔掉网线,依然可以使用。
可以单机使用,也可以公司内部网、局域网内共同使用。
决定动手之前,试一试
Playground | Tabby
Linux Debian 上直接部署Tabby
前面已经在windows上部署成功,也可以直接在Linux上安装部署
Linux Debian上快速安装Docker
Linux Debian上快速安装Docker并运行_Entropy-Go的博客-CSDN博客
Git Clone tabby项目代码到本地
git clone https://github.com/TabbyML/tabby.git
Docker Run下载镜像
Docker | Tabby
本文选择了CPU,打开终端,在clone下来的tabby根目录下,执行下面的命令
CPU
docker run \
-p 8080:8080 -v $HOME/.tabby:/data \
tabbyml/tabby serve --model TabbyML/SantaCoder-1B
部署成功
$ sudo docker run -p 8080:8080 -v $HOME/.tabby:/data tabbyml/tabby serve --model TabbyML/SantaCoder-1B
2023-07-20T01:57:48.901861Z INFO tabby::serve: crates/tabby/src/serve/mod.rs:131: Listening at 0.0.0.0:8080
检查是否部署成功
浏览器本地访问 http://localhost:8080/
或者在局域网络中使用 http://PC_IP:8080/
下载并安装VS Code(Visual Studio Code)
Download Visual Studio Code - Mac, Linux, Windows
安装完成后,打开VS Code,扩展中搜索Tabby并安装
Tabby的管理里面设置上面本地部署的Tabby服务
VS Code右下角显示Tabby已经可以提供服务
开始高效编码吧
输入注释或者编码时,会自动补全,即灰色斜体部分,如果接收就直接按Tab键,采纳建议,否则正常进行编码
按Tab键接收建议,灰色部分变亮
编码时调用默认tabby并提示补全时,服务器资源消耗大,可以通过top命令查看,可以考虑高性能设备或者GPU加速