Vultr日前宣布基于NVIDIA HGX H100的高性能云服务器已支持预定,适用于人工智能和机器学习工作负载等。NVIDIA HGX H100的主要优势之一是它能够轻松处理大型复杂模型和数据集,非常适合用于医疗保健、金融和制造行业等领域。
NVIDIA HGX H100采用第四代张量内核和FP8精度的Transformer引擎,为530B参数大型语言模型的人工智能推理提供了比上一代快30倍的性能,降低计算成本;典型HPC工作负载性能提高6倍以上,提高工作效率。
NVIDIA HGX H100将H100 Tensor Core GPU与高速互连技术相结合,构成了世界上最强大的服务器。多达8个GPU的配置可提供前所未有的加速, 具有高达640 GB的GPU显存和24 TB/s 的总内存带宽。惊人的32 petaFLOPS性能创造了世界上最强大的AI和HPC加速扩展服务器平台。
HGX H100支持先进的网络选项 – 速度高达 400 Gb/s,利用 NVIDIA Quantum-2 InfiniBand 和 Spectrum-X™ 以太网实现最高的 AI 性能。 HGX H100 还包含 NVIDIA® BlueField® -3 数据处理器 (DPU),以便在超大规模 AI 云中实现云网络、组合存储、零信任安全和 GPU 计算弹性。
NVIDIA HGX H100产品规格:
- 8 x NVIDIA H100 SXM 80GB GPUs
- 8 x 3.84 TB NVMe
- 2 x 480 GB SSD
- 2 x Intel Platinum 8480+
- 112 cores / 224 threads @ 2GHZ
- 2048 GB Memory
- 15 TB Bandwidth
- 100 Gbps Network
您在下单Vultr云产品时,可先查看Vultr优惠码,了解相关产品优惠信息。