使用AutoDL微调大模型llm_autodl上有单机多卡吗

打开autodl服务器配置自己的服务器

连接服务器

1. 终端连接
   直接打开终端，ssh -p 26930 root@connect.westa.seetacloud.com
   输入密码
2. vscode连接
   配置~/.ssh/config文件，加入：

   Host westa
   HostName connect.westa.seetacloud.com
   Port 26930
   User root
   IdentityFile ~/.ssh/id_rsa
   1
   2
   3
   4
   5

   打开vscode，安装ssh插件，control p打开指令框，输入>ssh会显示如下
   
   选择第一个，然后输入刚才配置的host：westa，提示密码就输入服务器密码，这个密码在autodl网页上可以找到。不仅可以直接编辑代码，还可以在vscode里面直接打开终端，很方便。

在本地机器上设置ssh免密登录：

ssh-copy-id westa

根据提示输入yes和密码
后续vscode连接westa就不用输入密码了。

接下来都是在服务器上配置了。

下载开源工具：

git clone https://github.com/hiyouga/LLaMA-Efficient-Tuning.git

下载后进入LLaMA-Efficient-Tuning目录

创建虚拟环境目录mkdir venv，进入目录cd venv，创建训环境：

cd venv
python3 -m venv .

激活虚拟环境：

source bin/activate

回到项目目录安装依赖：

cd …
pip install -r requirements.txt

打开vpn:

source /etc/network_turbo

运行train_web.py

python src/train_web.py
会给出一个网页链接，直接登录就可以。接下来的操作可以参考我博客：
链接: 微调