当前位置:   article > 正文

基于信息熵和互信息的新词识别

头歌基于互信息和信息熵的特征提取
基于信息熵和互信息的新词识别
本文是《基于互信息和左右信息熵的短语提取识别》的姊妹篇,文如其名,没什么新意。谈起“新词识别”“新词发现”,有许多论文慷慨陈词:要设计丰富的特征模板、建立训练语料库、引入CRF、ME、SVM、神经网络等模型并综合起来、在某某的基础上加入某种规则改进、最终在一个98年芝麻大小的训练集上训练出一个西瓜那么大的模型,并且在细菌大小的测试集上提高了2.33%的OOV识别率,展望未来,一定可以应用到更广阔的领域中。可惜现实总是很残酷:既没有人力物力整理语料,服务器也只有绿豆大小的内存,放不下半个西瓜。简单好用的方法有...

继续阅读码农场 » 基于信息熵和互信息的新词识别

原文链接http://www.hankcs.com/nlp/new-word-discovery.html

转载于:https://my.oschina.net/hankcs/blog/701080

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/一键难忘520/article/detail/861197?site=
推荐阅读
相关标签
  

闽ICP备14008679号