想用 NVIDIA H100 GPU 训练模型？可以试试这个平台_nvidia h100 tensor core

近期，DigitalOcean 宣布，旗下的 GPU 云服务平台 Paperspace 现已支持 NVIDIA H100 Tensor Core GPU 实例，并对 Paperspace 平台进行了升级优化，可以帮助专注于 AI 与大模型的初创企业、成长期企业和 ISV 增强其人工智能产品体验。生成式人工智能的爆炸式增长引发了公司之间的创新竞赛，他们争相推出强大的人工智能/机器学习产品。对于依赖基础模型进行推理训练，并需要先进基础设施的人工智能本地化初创企业，现在可以在 DigitalOcean 的 Paperspace 平台上的 GPU 算力，加速模型的训练与产品的研发创新。

NVIDIA H100 GPU 能为你的 AI 训练带来什么优势？

NVIDIA H100 GPU 的性能相对上一代产品得到了数量级的提升，它可以进一步加速人工智能/机器学习的应用。搭载着 NVIDIA 全新的 Transformer 引擎，基于第四代 Tensor 核心的 H100 GPU，可以为人工智能/机器学习领域的一些重大创新提供了支持，例如如大型语言模型、数字合成技术等。

Paperspace 现在提供这些强大的 GPU，既可以按需直接创建实例来使用，也可以与官方联系预约更多资源。

出众的运算性能：由新的 NVIDIA Transformer 引擎和第四代 Tensor 核心提供支持，H100 GPU 上大型语言模型训练的速度是先前一代 NVIDIA A100 Tensor Core GPU 的 9 倍，AI 推理速度更是提升了 30 倍。

轻松扩展：多节点（Multi-node） H100 GPU 部署（8x GPU）能够扩展 GPU 功率，处理大型复杂模型。这些 GPU 之间基于 NVIDIA NVLink 连接，传输速度可达 3.2TBps，使得多节点 GPU 设置可以作为一个高性能的并行计算模块。

秒级启动：你可以在几秒内创建一个 H100 GPU 实例。我们的 ML-in-a-box 配置提供了一个完整的计算解决方案，整合了 GPU、Ubuntu Linux 映像、私有网络、基于 SSD 的存储、公共 IP 和备份能力。

最低 2.24 美元/小时每颗芯片：Paperspace 提供 H100 GPU 的实例，支持按秒计费和无限带宽可帮助你大幅节省成本。

7x24 小时监控：Paperspace 平台提供 7x24 小时监控，客户可以专注于训练模型。当客户的产品投入使用时，Paperspace 的客户支持将帮助客户应对流量负载压力。

如何在 H100 上训练和运行 AI 模型？

Paperspace 的 ML-in-a-box 是一个预先配置好的 AI 技术栈，其中包括了主流的机器学习框架与工具，例如 PyTorch、TensorFlow、Hugging Face Transformers等，为用户提供了人工智能/机器学习应用所需的一切。如果你的模型已经投入使用，也可以在 Paperspace 上的 H100 GPU 上进行推理工作。

Moonvalley AI 创始人 Naeem Ahmed 表示：

“在 Paperspace 上使用 NVIDIA H100 GPU 基于数百万的视频训练数据，进行下一代文本到视频模型的训练只需 3 天，这让我们能够比以前更快地获得新版本的模型。我们也感谢 Paperspace 的稳定性和优秀的客户支持，这使得我们的业务能够走在人工智能发展的最前沿。”

在 Paperspace 上启动 NVIDIA H100 GPU 实例只需点击几下。阅读文档，或通过这个 3 分钟的视频教程，你也能快速开始在 Paperspace 上使用 NVIDIA H100 GPU！

部署和安全增强功能

除了计算能力之外，Paperspace 的梯度部署（Gradient Deployments ）还为 AI/ML 企业提供了快速部署模型的能力。最近，该部署功能还新增两项能力，包括：

简化了容器注册表验证：用户现在更容易将其容器注册表链接到 Paperspace。只需选择容器注册表供应商（Dockerhub、Azure CR、Google CR 或 Github CR），填写用户名/密码或访问令牌，系统将为你自动填写连接注册表的其他值。

部署终端节点的安全性增强：我们加强了Paperspace的部署终端节点，为梯度部署（Gradient Deployments）提供了更高的安全性。在创建部署时，你可以选择将终端节点设置为公开或受保护。通过选择受保护状态，可以轻松管理访问终端节点的权限。

Paperspace 为 NVIDIA H100 GPU 云服务定价的十分灵活。Paperspace 的定价是以秒为单位的，非常适合初创企业。如需要详细咨询更多业务与解决方案，欢迎访问DigitalOcean中文官网，联系我们，或访问Paperspace 官网，或加入群聊（QQ群：611945524），与 DigitalOcean 中国工作人员咨询交流。