当前位置:   article > 正文

【transformer(03/10) 】Hugging Face 安装环境_pip 离线安装 transformers

pip 离线安装 transformers

一、说明

        关于transformer库的安装环境的说明;因为transformer是一个不小的大型软件,安装的时候对环境还是需要一定规划,一般安装在虚拟环境中,以便与常规软件进行隔离。

二、安装

        为您正在使用的任何深度学习库安装 Transformer,设置缓存,并选择性地将 Transformer 配置为离线运行。

         Transformers 在 Python 3.6+、PyTorch 1.1.0+、TensorFlow 2.0+ 和 Flax 上进行了测试。请按照以下您正在使用的深度学习库的安装说明进行操作:

三、使用 pip 安装

        您应该在虚拟环境中安装 Transformer。如果您不熟悉 Python 虚拟环境,请查看本指南。虚拟环境可以更轻松地管理不同的项目,并避免依赖项之间的兼容性问题。

首先在项目目录中创建一个虚拟环境:

python -m venv .env

激活虚拟环境。在 Linux 和 MacOS 上:

source .env/bin/activate

在 Windows 上激活虚拟环境

.env/Scripts/activate

现在,您可以使用以下命令安装  Transformers:

pip install transformers

仅对于 CPU 支持,您可以方便地将 Transformer 和深度学习库安装在一行中。例如,使用以下命令安装Transformers 和 PyTorch:

pip install 'transformers[torch]'

 Transformer 和 TensorFlow 2.0:

pip install 'transformers[tf-cpu]'

M1 / ARM 用户

在安装 TensorFLow 2.0 之前,您需要安装以下内容

brew install cmake
brew install pkg-config

 变压器和亚麻:

pip install 'transformers[flax]'

最后,通过运行以下命令检查 Transformer 是否已正确安装。它将下载一个预训练模型:

python -c "from transformers import pipeline; print(pipeline('sentiment-analysis')('we love you'))"

然后打印出标签并打分:

[{'label': 'POSITIVE', 'score': 0.9998704791069031}]

四、从源代码安装

        使用以下命令从源代码安装  Transformers:

pip install git+https://github.com/huggingface/transformers

        此命令安装最前沿版本,而不是最新版本。该版本对于及时了解最新发展非常有用。例如,如果自上次正式发布以来已修复错误,但尚未推出新版本。但是,这意味着版本可能并不总是稳定的。我们努力保持版本的可操作性,大多数问题通常在几个小时或一天内得到解决。如果您遇到问题,请打开一个问题,以便我们更快地解决问题!mainstablemainmainmain

        通过运行以下命令检查 Transformers 是否已正确安装:

python -c "from transformers import pipeline; print(pipeline('sentiment-analysis')('I love you'))"

4.1 可编辑安装

        如果选择可编辑安装,有两种需求假定:

  • 用户要求使用源代码的版本(code.main)。
  • 对 Transformers 有奉献,并需要修改源代码.

        克隆相关代码,并进行安装:

  1. git clone https://github.com/huggingface/transformers.git
  2. cd transformers
  3. pip install -e .

        这些命令将链接您将存储库克隆到的文件夹和您的 Python 库路径。除了正常的库路径之外,Python 现在还会查看您克隆到的文件夹内部。例如,如果您的 Python 包通常安装在,Python 还将搜索您克隆到的文件夹:.~/anaconda3/envs/main/lib/python3.7/site-packages/~/transformers/

        如果要继续使用该库,则必须保留transformers该文件夹。

        现在,您可以使用以下命令轻松地将克隆更新到最新版本的, Transformers:

cd ~/transformers/
git pull

        Python 环境将在下次运行main时找到 Transformer 的版本。

4.2 使用 conda 安装

从 conda 通道安装:conda-forge

conda install conda-forge::transformers

4.3 缓存设置

        预训练模型下载并本地缓存在: 。这是 shell 环境变量 给出的默认目录。在 Windows 上,默认目录由 提供。您可以更改如下所示的 shell 环境变量(按优先级顺序)以指定不同的缓存目录:~/.cache/huggingface/hubTRANSFORMERS_CACHEC:\Users\username\.cache\huggingface\hub

  1. Shell 环境变量(默认):或 .HUGGINGFACE_HUB_CACHETRANSFORMERS_CACHE
  2. Shell 环境变量:.HF_HOME
  3. Shell 环境变量:+ 。XDG_CACHE_HOME/huggingface

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/繁依Fanyi0/article/detail/624409
推荐阅读
相关标签