热门标签
热门文章
- 1分享利用 IDM 批量爬取网站静态资源！简单操作采集网站PDF 资源。_idm抓不到pdf文件怎么办
- 2[hive] 窗口函数 ROW_NUMBER()_hive row_number
- 3网络协议详解
- 4电脑监控软件都有哪些,哪款好用 | 四款热门软件盘点
- 5某医生用 ChatGPT 在 4 个月内狂写 16 篇论文，其中 5 篇已发表，揭密ChatGPT进行论文润色与改写的秘籍_chatgpt kimi
- 6强化学习的实际应用案例分析
- 7004.【查找算法】插补查找算法
- 8Neo4j和Cypher快速入门
- 9华为OD机试Java - 虚拟理财游戏_在一款虚拟游戏中生活,你必须进行投资以增强在虚拟游戏中的资产以免被淘汰出局
- 10cuda 安装（windows）图解+指定版本cuda_cuda11.8安装
当前位置: article > 正文
训练大模型租赁AI算力如何选择显卡型号
作者：Monodyee | 2024-04-11 03:44:44
赞
踩
训练大模型租赁AI算力如何选择显卡型号
| 使用场景分类 | 模型大小 | 推荐型号 |
| 预训练/ 全量微调 | 7B以内 | 3090 (推荐) 4090 (推荐, 高性价比) V100 32G A100 40G PCIe (推荐) A800/H800等 |
| 7B-10B | 3090 4090 A100 40G PCIe (推荐, 高性价比) A800/H800等 | |
| 10B-70B | A100 40G PCIe A800/H800等（推荐, 高性价比） | |
| 70B以上 | A800/H800/H100等 | |
| 推理 | 360B以内 | INT4量化可支持： 3090 (推荐) 4090 (推荐, 高性价比) |
| 180B以内 | INT8量化可支持： 3090 (推荐) 4090 (推荐, 高性价比) | |
| 90B以内 | FP16可支持： 3090 24G (推荐) 4090 24G (推荐, 高性价比) | |
| 360B以上 | A100 80G/A800 80G（推荐） 3090/409多机集群（定制资源 |
声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/Monodyee/article/detail/402719
推荐阅读
相关标签
