当前位置:   article > 正文

【Llama2 windows部署详细教程】第一节:python环境准备_llama2部署教程 windows

llama2部署教程 windows

        Llama2要实现在Windows下部署,环境是非常重要的,不同的电脑配置环境、软件环境在实际部署过程中会有些差别,下面将以实际环境为例,讲述如何准备python环境:

        1.部署前的准备

  1. CPU:Intel(R) Core(TM) i5-1130G7 @ 1.10GHz 1.80 GHz
  2. 内存:16G
  3. 操作系统:Windows 11 家庭中文版

        2.安装Miniconda3

        为避免和其他python环境产生冲突,通过安装Miniconda3来实现不同的python环境隔离。

        2.1 首先下载Miniconda3,可从网上直接下载,下载网址如下:

https://mirrors.tuna.tsinghua.edu.cn/anaconda/miniconda/

        2.2 安装Miniconda3

        下载的exe文件直接安装即可,安装的过程中注意需要添加Miniconda3的系统路径。

        2.3 验证安装结果

        打开window cmd 命令行工具,输入命令:conda --version 测试是否安装成功

如果出现以上结果,看到正确的版本号,则Miniconda3安装成功。

        3.更改Miniconda3默认下载源

        默认下载源为Miniconda3的官方下载源,大概率是访问不了,这里统一修改为清华源。

        3.1 创建文件url文件,这是文件目录 C:\Users\用户名

conda config --set show_channel_urls yes

        3.2 在 C:\Users\用户名目录下打开.condarc文件,将以下内容替拷贝到文件中,覆盖原有默认的下载源并保存:

  1. channels:
  2. - defaults
  3. show_channel_urls: true
  4. default_channels:
  5. - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main
  6. - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/r
  7. - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/msys2
  8. custom_channels:
  9. conda-forge: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
  10. msys2: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
  11. bioconda: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
  12. menpo: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
  13. pytorch: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
  14. simpleitk: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud

        4.创建llama2部署的python环境

        4.1使用conda命令创建独立的llama2部署的python环境,这里使用的python版本为3.10.13,具体命令如下:

conda create -n llama2 python=3.10.13

这个过程会下载python安装包和依赖包,注意要保持网络通畅。

        4.2 验证环境是否创建完成

        输入以下命令查看conda环境,如果在环境清单中出现llm则表示创建成功。

conda env list

查看该环境下的python版本,输入以下命令,如果能出现3.10.13的版本号,则表示python环境顺利安装完成:

  1. --激活
  2. conda activate llama2
  3. --查看python版本号
  4. python -V

通过以上步骤即可完成llam2基本的python环境安装,接下来就可以开始llama2的后续部署了。

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/很楠不爱3/article/detail/549944
推荐阅读
相关标签
  

闽ICP备14008679号