赞
踩
阅读这篇文章你需要知道什么是bert?
bert几乎时最新最强的预训练模型之一。使用方法很简单,只需要一块gpu,大概8g显存,再取github上找到pytorch transformer这个repo,最后运行里面的run glue.py恭喜你!成功打开新世界大门
但是,如何用bert做ner呢?我们现在的run glue只能解决句子分类,而ner相当于词级分类,所以只能自己想怎么搭建模型了。
幸好,现在出了新的class,BertForTokenClassicification,这个时用来做ner的模型。如何使用呢?
- class BertForTokenClassification(BertPreTrainedModel):
- r"""
- **labels**: (`optional`) ``torch.LongTensor`` of shape ``(batch_size, sequence_length)``:
- Labels for computing the token classification loss.
- Indices should be in ``[0, ..., config.num_labels - 1]``.
- Outputs: `Tuple` comprising various elements depending on the configuration (config) and inputs:
- **loss**: (`optional`, returned when
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。