Windows 系统 tabby 智能代码服务搭建_tabbyml 参考自已代码

总体流程

1. 软件下载
2. 安装
3. python运行

一、软件安装

1、git安装

	  https://git-scm.com/downloads
	  官网链接下载对应的即可后续操作在git 上进行	  
1
2

2、tabby

  在本地创建一个文件夹，然后在这个文件夹路径窗口输入cmd
  弹出命令提示符，输入 ：
1
2

git clone --recurse-submodules https://github.com/TabbyML/tabby
1

3、docker安装

	  https://www.docker.com/products/docker-desktop/
1

直接点击下面

下载到本地是这样的一个安装包，双击安装会默认c盘后续暂时不需要操作。

**注**：后续 的操作过程中docker操作过程中需要保持开启的状态，不然会出现报错： 错误：docker: Error response from daemon: failed to create task for container: failed to create shim task: OCI runtime create failed: runc crea te failed: unable to start container process: error during container init: error running hook #0: error running hook: exit status 1, stdo ut: , stderr: Auto-detected mode as 'legacy' nvidia-container-cli: initialization error: WSL environment detected but no adapters were found: unknown.

二、安装

1、检查本地的虚拟化设置

tabby最后安装的过程需要翻墙！

2、tabby

git clone --recurse-submodules https://github.com/TabbyML/tabby
1

执行完成后是这样的一个文件

3、部署

在文件夹下右键
选择 open git bash here (如果没有检查git 的安装）
输入

winpty docker run -it -e https_proxy="http://XXX.XXX.X.XXX" --gpus all -p 8080:8080 -v $HOME/.tabby:/data tabbyml/tabby serve --model TabbyML/StarCoder-1B --device cuda
1

注："http://XXX.XXX.X.XXX" 是本地的IP4的地址 在本地电脑上网络，选择属性后可以看到。操作都在tabby的文件夹路径上操作。
执行的样子：

完成的样子

在docker上可以查看具体的情况


注：如果跑成功，不要对C盘进行分区操作！！！