这个屌丝很懒，什么也没留下！

chatglm 测试1

作者：你好赵伟 | 2024-03-29 01:59:14

量化前 gpu推理
内存 58.40-56.48=2G 显存 13G

量化前 cpu推理
内存 80-56.48=23.52G

内存 62.2-56.48=5.72G
在这里插入图片描述

显存占用 18874-5603 = 13271 MiB 内存61.27-56.48=4.79G
在这里插入图片描述

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/你好赵伟/article/detail/333023