NVIDIA宣布推出AIFoundry服务以扩展GenAMicrosoftAzure将于明年推出H100实例和H200
NVIDIA宣布推出AIFoundry服务以扩展GenAI-MicrosoftAzure将于明年推出H100实例、H2001
NVIDIA宣布推出全新的AIFoundryServices计划,以进一步加速AI,而MicrosoftAzure则提供最新的Hopper实例。
NVIDIAAIFoundry服务和MicrosoftAzure的HopperH100/H200实例将AI推向新高度
新闻稿:NVIDIA宣布推出AI代工服务,其中包括NVIDIAAI基础模型、NVIDIANeMo框架和工具以及DGXCloudAI超级计算和服务,为企业提供用于创建和优化自定义生成AI模型的端到端解决方案
。
NVIDIA宣布推出AIFoundry服务以扩展GenAI-MicrosoftAzure将于明年推出H100实例和H2002
Amdocs是一家为通信和媒体提供商提供软件和服务的领先提供商,利用AI代工服务,将为电信和媒体行业优化企业级大型语言模型,以便在其业务中高效部署生成式AI用例,从客户体验到网络操作和配置。法学硕士将在NVIDIA加速计算上运行,作为AmdocsamAIz框架的一部分。
此次合作建立在之前宣布的Amdocs-Microsoft合作伙伴关系的基础上,使服务提供商能够在安全、可信的环境(包括本地和云端)中采用这些应用程序。
随着NVIDIA继续与Microsoft合作构建最先进的AI基础设施,Microsoft正在向Microsoft
今天在西雅图举行的Ignite大会上,微软宣布推出适用于Azure的全新NCH100v5VM系列,这是业界首款采用NVIDIAH100NVLGPU的云实例。该产品汇集了一对通过NVIDIANVLink连接的基于PCIe的H100GPU,具有近4petaflops的AI计算能力和188GB更快的HBM3内存。NVIDIAH100NVLGPU在GPT-3175B上的性能比上一代产品高出12倍,非常适合推理和主流训练工作负载。
此外,微软还宣布计划明年将NVIDIAH200TensorCoreGPU添加到其Azure系列中,以支持更大的模型推理,且不会减少延迟。这一新产品专为加速最大的人工智能工作负载而设计,包括法学硕士和生成式人工智能模型。H200GPU使用最新一代HBM3e内存,显着增加了内存容量和带宽。
与前身相比,这款新GPU将提供141GBHBM3e内存(增加1.8倍)和4.8TB/s峰值内存带宽(增加1.4倍)。