喵喵爱编程

这个屌丝很懒，什么也没留下！

热门标签

热门文章

当前位置: article > 正文

【机器学习】详解 BERT_机器学习bert

作者：喵喵爱编程 | 2024-07-31 07:10:55

赞

踩

机器学习bert

目录

2.1 模型架构

2.2 输入/输出表示

2.3 预训练 BERT

2.3.1 任务一：Masked LM

2.3.1 任务二：Next Sentence Prediction (NSP)

2.4 微调 BERT

A BERT 的额外细节

A.1 预训练的阐述

A.2 预训练过程

A.3 微调过程

A.4 BERT，ELMO 和 OpenAI GPT 的比较

A.5 在不同任务上的微调

B 实验设置细节

B.1 GLUE 基准实验细节描述

C 额外的消融研究

C.1 训练步数的影响

C.2 不同 Masking 过程的消融

五、ELMO、BERT 与 GPT

六、Tokenization 方法归纳

七、BERT 知识点 Part1

八、BERT 知识点 Part2

论文：https://arxiv.org/abs/1810.04805
代码：https://github.com/google-research/bert
B 站：BERT 论文逐段精读【论文精读】_哔哩哔哩_bilibili
推荐：https://www.wpsshop.cn/w/喵喵爱编程/article/detail/907571

推荐阅读

相关标签

Copyright © 2003-2013 www.wpsshop.cn 版权所有，并保留所有权利。

闽ICP备14008679号