当前位置:   article > 正文

(pytorch) bert-base-chinese模型文件下载_bert-base-chinese下载

bert-base-chinese下载

用的是transformers,进入 hugging face 的这个网站:bert-base-chinese · Hugging Face

在 Files and Versions 中对应下载或另存为(有的下完要重命名一下)

所需要的就是 config.json,   pytorch_model.bin, vocab.txt 这几个文件

建立了如下文件夹路径来存放这些文件

└─bert
    │  vocab.txt
    │  
    └─bert-base-chinese
            config.json
            pytorch_model.bin

  1. from transformers import BertTokenizer
  2. vocab_file = 'bert/vocab.txt'
  3. tokenizer = BertTokenizer(vocab_file)
  1. from transformers.modeling_bert import BertModel
  2. bert = BertModel.from_pretrained("bert/bert-base-chinese/")

此处用的 transformers的版本是3.2.0

往下具体再怎么使用,可以去github找一些具体任务,

如文本分类之类的项目代码,看处理步骤。

放一个我以前跟着做的法研杯的一个任务,有基线代码

学会使用pytorch的bert也是从这个基线代码学到的,不过单机多卡的分布式训练还没搞懂:

CAIL2020-Argument-Mining/model.py at master · gaoyixu/CAIL2020-Argument-Mining · GitHubhttps://github.com/gaoyixu/CAIL2020-Argument-Mining/blob/master/model.py#L28

CAIL2020-Argument-Mining/data.py at master · gaoyixu/CAIL2020-Argument-Mining · GitHubhttps://github.com/gaoyixu/CAIL2020-Argument-Mining/blob/master/data.py#L117

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/AllinToyou/article/detail/350605
推荐阅读
相关标签
  

闽ICP备14008679号