热门标签
热门文章
- 1WangEditor结合vue3_vue3 wangeditor
- 2【原创】VBA（实验23）如何去掉一列中的空格，多种工作表函数方法以及VBA方法_vba 一列去空格
- 3RabbitMQ报错Execution of Rabbit message listener failed_execution of rabbit message listener failed.
- 4推理题，会则秒解
- 5stm32毕业设计 单片机遥控小车_arduino和stm32小车
- 6APP移动应用安全加固是如何进行的？_第六代加固技术
- 7实验四 用集成移位寄存器实现序列检测器_1101序列检测器
- 8【i阿极送书——第三期】《Hadoop大数据技术基础与应用》_hadoop大数据技术基础与应用 教案
- 9大学教编程的老师为何不去当高收入的程序员？
- 10数据库-Kafka硬件基础环境搭建_kafka ipv6改造
当前位置: article > 正文
MOSS LORA 方式微调报错，RuntimeError: expected scalar type Half but found Float解决方案
作者：我家自动化 | 2024-05-31 02:03:40
赞
踩
expected scalar type half but found float
最近用V100微调MOSS、ChatGLM等模型，过程中报错RuntimeError: expected scalar type Half but found Float
解决方案为:
在model_class.model.from_pretrained(args.model_name_or_path, load_in_8bit=True, device_map=device_map)中将load_in_8bit=True 修改为 torch_dtype=torch.float16。
主要原因是V100是volta架构，不支持load_in_8bit
声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/我家自动化/article/detail/649823
推荐阅读
相关标签
