当前位置:   article > 正文

【最新试验】使用BertForTokenClassification做命名实体识别序列标注pytorch版

bertfortokenclassification

阅读这篇文章你需要知道什么是bert

bert几乎时最新最强的预训练模型之一。使用方法很简单,只需要一块gpu,大概8g显存,再取github上找到pytorch transformer这个repo,最后运行里面的run glue.py恭喜你!成功打开新世界大门

 

但是,如何用bert做ner呢?我们现在的run glue只能解决句子分类,而ner相当于词级分类,所以只能自己想怎么搭建模型了。

 

幸好,现在出了新的class,BertForTokenClassicification,这个时用来做ner的模型。如何使用呢?

 

  1. class BertForTokenClassification(BertPreTrainedModel):
  2. r"""
  3. **labels**: (`optional`) ``torch.LongTensor`` of shape ``(batch_size, sequence_length)``:
  4. Labels for computing the token classification loss.
  5. Indices should be in ``[0, ..., config.num_labels - 1]``.
  6. Outputs: `Tuple` comprising various elements depending on the configuration (config) and inputs:
  7. **loss**: (`optional`, returned when
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/寸_铁/article/detail/872506
推荐阅读
相关标签
  

闽ICP备14008679号