热门标签
热门文章
- 1java for list null_java – 空ArrayList和带有null元素的ArrayList之...
- 2python 模块openpyxl 读取写入.xlsx文件_python openpyxl读取xls文件
- 32022下半年软考「集成」100题---【建议背诵】_软考系统集成项目管理真题22
- 4Android Studio导入项目的几种方法_android studio2023 create project from existing so
- 5Authentication failed for...——IDEA拉取git仓库代码报错解决办法_idea authentication failed for
- 6CentOS7用yum的时候提示 cannot find a valid baseurl for repobase7x86_64 的解决方法。_yum cannot find a valid
- 7SAP 修改已经传输请求（Change Request）的描述_sap修改请求描述
- 8干货 | Active Learning: 一个降低深度学习时间，空间，经济成本的解决方案
- 9完蛋！我被“AI”包围了！_商汤如影竞品
- 10vue3实现浏览器打印（条形码、二维码）
当前位置: article > 正文
李宏毅机器学习2021——GPT_gpt bos
作者：酷酷是懒虫 | 2024-07-17 19:10:38
赞
踩
gpt bos
自监督学习的典型模型，除了BERT，还有GPT。
GPT的任务本质是预测得到一个seq的一部分，预测下一个字（predict next token）。相当于Transformer的decoder
- 01-输入begin of sequence，输出第一个字
- 02-输入BOS和第一个字，输出第二个字
- 重复以上步骤
注：GPT的模型非常大，微调参数都能耗费很大的计算量。
声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/酷酷是懒虫/article/detail/841571
推荐阅读
相关标签
