当前位置:   article > 正文

[nlp] NLP下游任务

nlp下游任务

BERT四大下游任务 - 知乎 

BERT等预训练模型的提出,简化了我们对NLP任务精心设计特定体系结构的需求,我们只需在BERT等预训练模型之后下接一些网络结构,即可出色地完成特定任务。

原因也非常简单,BERT等预训练模型通过大量语料的无监督学习,已经将 语料中的知识迁移进了预训练模型的Eembedding 中,为此我们只需在 针对特定任务增加结构来进行微调,即可适应当前任务,这也是迁移学习的魔力所在。

BERT在概念上很简单,在经验上也很强大。它推动了11项自然语言处理任务的最新技术成果,而这11项NLP任务可分类为四大自然语言处理下游任务。为此,笔者将以BERT预训练模型为例子,对自然语言处理的四大下游任务进行介绍。

下游任务比如 句子对分类、单句分类、问答任务、单句标注任务(NER)。

句子对分类比如自然语言推理,推理下一个句子和上一个句子的关系,包含矛盾还是中立。

单句分类比如情感分析,和语言上可接受性的二分类问题。</

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/不正经/article/detail/700314
推荐阅读
相关标签
  

闽ICP备14008679号