当前位置:   article > 正文

对模型进行量化_quantlinear weight_dtype

quantlinear weight_dtype

设置模型计算精度:

  1. weight_dtype = torch.float32
  2. model.to(device, dtype=weight_dtype)

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/小蓝xlanll/article/detail/393176?site
推荐阅读
相关标签
  

闽ICP备14008679号