大模型算法服务器，研究了半天，发现还是 4060Ti 16G的性价比高，而且可以组装成多卡的服务器使用。_4060ti 大模型

作者：花生_TL007 | 2024-03-20 17:06:46

踩

4060ti 大模型

可以直接运行 6B的模型，不进行量化的版本。一般占用 12G 左右。
单个 4060Ti 16G 华硕的价格

在这里插入图片描述

相对比七彩虹的便宜点，都算一线显卡厂商：
一线显卡厂商：华硕（ROG）微星（魔龙）七彩虹（火神）索泰（至尊）技嘉（大雕）

https://www.zhihu.com/tardis/zm/art/428716561?source_id=1005
在这里插入图片描述

剩下的钱购买显卡
在这里插入图片描述

https://www.topcpu.net/gpu-c/GeForce-RTX-4060-Ti-vs-Tesla-P100-PCIe-12-GB

在这里插入图片描述

现在和P40价格差不多了 P40 也是 800块
在这里插入图片描述

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/花生_TL007/article/detail/275223