微软ND H100 v5虚拟机全面上市Azure OpenAI服务覆盖更多地区
三月份,微软宣布与NVIDIA合作创建Azure ND H100 v5 虚拟机 (VM) 系列。今天,微软宣布这些新的超级计算机现已全面上市,为企业提供更快的生成人工智能任务性能,
新的虚拟机使用NVIDIA的NVIDIATensor Core H100 GPU 和 NVIDIA Quantum-2 InfiniBand 网络。目前,美国东部和西部 Azure 区域均可访问它们。以下是企业在注册访问这些新的、快速的基于人工智能的虚拟机时可以期待的。
超级计算 GPU:配备 8 个NVIDIA这些虚拟机采用 Tensor Core H100 GPU,可提供比前几代产品更快的 AI 模型性能,从而为企业提供无与伦比的计算能力。
下一代计算机处理单元 (CPU):了解 CPU 性能对于 AI 训练和推理的重要性,我们选择第四代 Intel Xeon 可扩展处理器作为这些虚拟机的基础,确保最佳处理速度
低延迟网络:NVIDIA的加入Quantum-2 CX7 InfiniBand 具有 400GB/s 跨节点带宽,可确保 GPU 之间的无缝性能,与全球顶级性能超级计算机的功能相匹配。
优化主机到 GPU 的性能:借助 PCIe Gen5 为每个 GPU 提供 64GB/s 的带宽,Azure 在 CPU 和 GPU 之间实现了显着的性能优势。
大规模内存和内存带宽:DDR5 内存是这些虚拟机的核心,可提供更高的数据传输速度和效率,使其成为具有较大数据集的工作负载的理想选择。
微软补充说,它正在努力在明年为其虚拟机添加数十万个新 GPU。
除了新的生成式 AI Azure 虚拟机之外,微软还还宣布扩展其 Azure OpenAI 服务。它现已在加拿大东部、美国东部 2、日本东部和英国南部区域推出。