使用bert4keras进行关系抽取的原理_使用bert4keras实体抽取

作者：不正经 | 2024-04-07 10:39:24

踩

使用bert4keras实体抽取

模型介绍

在这里插入图片描述

1、原始序列转id后，传入bert的编码器，得到编码序列；
2、编码序列接两个二分类器，预测s；
3、根据传入的s，从编码序列中抽取出s的首和尾对应的编码向量；
4、以s的编码向量作为条件，对编码序列做一次条件Layer Norm；
5、条件Layer Norm后的序列来预测该s对应的o、p

Layer Norm : 进行归一化
在这里插入图片描述
条件Layer Norm

出现问题：抽取S,P,O时候类别不均衡,0太多1太少
解决方法：将概率值做n次方。
解决思路：
原来输出一个概率值p，代表类别1的概率是p，我现在将它变为 $p^{n}$

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/不正经/article/detail/378092