热门标签
热门文章
- 1kafka常用命令_kafka命令
- 2Linux 简介_操作系统内核包括图形界面吗
- 3搭建一个vue项目(vue+vuex+vue-router+scss+es6+element+axios)_搭建一个带scss样式的vue项目
- 4数字货币综合虚拟货币交易平台源码（基于thinkphp框架）中英文切换适合学习研究 二开_可控制涨跌交易币平台源码
- 5OpenAI 今天刷屏的Sora视频模型，对未来影响几何？
- 6题解 | #获取员工当前薪水比其manager当前薪水还高#_融通农发背调
- 7解决系统找不到zlib.dll文件的问题
- 8gcc/g++ 编译器
- 9Unity 模型始终朝向某物体（LookAt+Rotate）_unity 立方体 朝向
- 10城市微博签到数据分享&地址解码与纠偏教程
当前位置: article > 正文
deepspeed多机多卡并行训练指南_deepspeed 多卡训练
作者：Cpp五条 | 2024-03-01 17:16:38
赞
踩
deepspeed 多卡训练
前言
我的配置：
7机14卡，每台服务器两张A800
问：为啥每台机只挂两张卡？
答：给我的就这样的，我倒希望单机8卡，不过这些服务器是云厂商提供的，据说都是PCIE连接，且单机最多只能挂四张卡。
服务器只允许内网访问，不能连接外网
因此，你需要先搞定如何离线配置训练环境
离线配置训练环境
具体可以参考：Anaconda 环境克隆、迁移
按照上面文章打包环境时，有可能碰到如下报错：
声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/Cpp五条/article/detail/175597
推荐阅读
相关标签
