当前位置:   article > 正文

fp16与fp32简介与试验_fp16和fp32

fp16和fp32

 

目录

一、fp16和fp32介绍

二、为什么应用fp16训练:

三、应用fp16存在问题

四、实践对比

引用:


一、fp16和fp32介绍

  • fp16是指采用2字节(16位)进行编码存储的一种数据类型;同理fp32是指采用4字节(32位);

  • 如上图,fp16第一位表示+-符号,接着5位表示指数,最后10位表示分数;
    • 公式:

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/我家小花儿/article/detail/509132
推荐阅读
相关标签
  

闽ICP备14008679号