热门标签
热门文章
- 1网络安全（黑客）技术——自学2024_黑客技术栈 是网络安全?
- 2机器人的自然语言处理：聊天机器人的设计与开发
- 3MongoDB全文检索: 助力快速精准的文本搜索_mongodb 全文检索
- 4【实战】基于springboot2.7x集成ShardingSphere5.X的分表及自定义分片策略配置_shardingsphere 自定义策略
- 5从0到短视频高手：新手必备4种工具，助你制作出精彩短视频
- 6软件测试简历编写技巧，对症下药，一周面10家..._个人优势 软件测试简历
- 7【DevOps】 什么是容器 - 一种全新的软件部署方式_devops容器化是什么
- 8[MIT6.828] LAB4 PART A_extend the env structure to provide a save area fo
- 9JAVA_Set系列集合:HashSet、LinkedHashSet、TreeSet底层详解_set以及hashset,treeset 底层
- 10解决服务器80端口无法连接的办法_服务器80端口无法访问
当前位置: article > 正文
ai训练总结_pretrain finetune
作者：凡人多烦事01 | 2024-06-17 17:41:56
赞
踩
pretrain finetune
batchsize算法：4*1*8卡
loss：收敛越来越小
精度如何看
没有精度值，看loss值，越来越小，收敛到一定规模（pretrain 0.00x，finetune收敛到1.7~1.8
pretrain和finetune的区别
参数规模：pretrain全参数量一起训练、lora是使用一部分参数来训练
声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/凡人多烦事01/article/detail/732186
推荐阅读
相关标签
