当前位置:   article > 正文

transformers的AutoTokenizer和BertTokenizer

autotokenizer

在这里插入图片描述

也就是说AutoTokenizer是又一层的封装,避免了自己写attention_mask以及token_type_ids

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/小蓝xlanll/article/detail/374024
推荐阅读
相关标签
  

闽ICP备14008679号