热门标签
热门文章
- 1推荐一款正基AP6255/AP6256代替型号CW2455-44_s912 ap6255
- 2数据结构与算法-顺序表_顺序表的每个元素占8个存储单元
- 3Debezium MySQL源连接器配置属性_inconsistent.schema.handing.mode
- 4一篇文章带你彻底了解【模拟器过检测】_蓝叠过检测
- 5数据结构进阶实训二_看到这一关的任务你是不是想到这样子做呢? for(int i = 0; i< 10; i++){ s
- 6基于Quartus Prime18.1的安装与FPGA的基础仿真（联合Modelsim）教程_intel庐 quartus庐 prime lite edition design software
- 7GPT-4：从纠正错误代码中揭示成熟大模型的涌现能力_大模型代码纠错
- 8西门子1500PLC机器人焊接程序：智能化与高效能的西门子PLC+西门子触摸屏实现的综合控制系统_机器人焊接plc程序
- 9mvn install:install-file maven手动安装第三方jar包报错的一种情况_mvn install:install-file报错
- 10html5边界是什么意思,边界感是什么意思
当前位置: article > 正文
李宏毅机器学习2021——GPT_gpt bos
作者：酷酷是懒虫 | 2024-07-17 19:10:38
赞
踩
gpt bos
自监督学习的典型模型，除了BERT，还有GPT。
GPT的任务本质是预测得到一个seq的一部分，预测下一个字（predict next token）。相当于Transformer的decoder
- 01-输入begin of sequence，输出第一个字
- 02-输入BOS和第一个字，输出第二个字
- 重复以上步骤
注：GPT的模型非常大，微调参数都能耗费很大的计算量。
声明：本文内容由网友自发贡献，转载请注明出处：【wpsshop博客】
推荐阅读
相关标签
