赞
踩
Llama2要实现在Windows下部署,环境是非常重要的,不同的电脑配置环境、软件环境在实际部署过程中会有些差别,下面将以实际环境为例,讲述如何准备python环境:
1.部署前的准备
- CPU:Intel(R) Core(TM) i5-1130G7 @ 1.10GHz 1.80 GHz
- 内存:16G
- 操作系统:Windows 11 家庭中文版
2.安装Miniconda3
为避免和其他python环境产生冲突,通过安装Miniconda3来实现不同的python环境隔离。
2.1 首先下载Miniconda3,可从网上直接下载,下载网址如下:
https://mirrors.tuna.tsinghua.edu.cn/anaconda/miniconda/
2.2 安装Miniconda3
下载的exe文件直接安装即可,安装的过程中注意需要添加Miniconda3的系统路径。
2.3 验证安装结果
打开window cmd 命令行工具,输入命令:conda --version 测试是否安装成功
如果出现以上结果,看到正确的版本号,则Miniconda3安装成功。
3.更改Miniconda3默认下载源
默认下载源为Miniconda3的官方下载源,大概率是访问不了,这里统一修改为清华源。
3.1 创建文件url文件,这是文件目录 C:\Users\用户名
conda config --set show_channel_urls yes
3.2 在 C:\Users\用户名目录下打开.condarc文件,将以下内容替拷贝到文件中,覆盖原有默认的下载源并保存:
- channels:
- - defaults
- show_channel_urls: true
- default_channels:
- - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main
- - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/r
- - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/msys2
- custom_channels:
- conda-forge: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
- msys2: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
- bioconda: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
- menpo: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
- pytorch: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
- simpleitk: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
4.创建llama2部署的python环境
4.1使用conda命令创建独立的llama2部署的python环境,这里使用的python版本为3.10.13,具体命令如下:
conda create -n llama2 python=3.10.13
这个过程会下载python安装包和依赖包,注意要保持网络通畅。
4.2 验证环境是否创建完成
输入以下命令查看conda环境,如果在环境清单中出现llm则表示创建成功。
conda env list
查看该环境下的python版本,输入以下命令,如果能出现3.10.13的版本号,则表示python环境顺利安装完成:
- --激活
- conda activate llama2
- --查看python版本号
- python -V
通过以上步骤即可完成llam2基本的python环境安装,接下来就可以开始llama2的后续部署了。
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。