【智快網】8月8日消息,微軟與英偉達合作,推出了Azure ND H100 v5 VM虛擬機預覽版。經過數月測試,該虛擬機于今日正式發布,旨在協助企業更高效地處理生成式人工智能任務。
據了解,ND H100 v5 VM是迄今為止Azure中更強大且高度可伸縮的AI虛擬機系列。該虛擬機采用了多項創新技術,包括8塊NVIDIA H100 Tensor Core GPU,通過下一代NV Switch和NV link 4.0相互連接。在無阻塞胖樹網絡中,每個GPU搭載400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand和每VM 3.2Tb/s的性能。此外,每個VM中的8塊本地GPU之間通過3.8Tb/s對分割帶寬的NV Switch和NV link 4.0進行互聯。這樣的配置使得AI模型的性能顯著提升,相較上一代ND A100 v4 VM,性能有了明顯提升。
此次推出的虛擬機還引入了第四代英特爾至強可擴展處理器和PCIE第5代主機到GPU互連技術,每個GPU的帶寬達到64Gb/s。此外,新的虛擬機配備了16信道的4800 MHz DDR5內存。所有這些技術的結合,使得Azure ND H100 v5 VM成為強大的AI虛擬機,能夠更高效地處理生成式AI任務。
據智快網了解,新的虛擬機使用NVIDIA的NVIDIA Tensor Core H100 GPU和NVIDIA Quantum-2 InfiniBand網絡。目前,該虛擬機僅限于美國東部和西部的Azure企業訪問。微軟計劃在明年為其虛擬機添加數十萬塊新的GPU,以進一步提升其性能和可擴展性。
除了正式宣布Azure虛擬機推出外,微軟還宣布擴展其Azure OpenAI服務,新增加拿大東部、美國東部2(East United States 2)、日本東部和英國南部地區。現有的Azure OpenAI服務客戶已超過11000名,本季度平均每天吸引100名新客戶。這一顯著的增長證明了微軟AI服務在滿足企業獨特需求方面所帶來的價值和可擴展性。
微軟補充稱,ChatGPT AI平臺最強大的版本GPT-4也將適用于新的Azure OpenAI服務區域,為用戶提供更強大的人工智能體驗。這將為企業和開發者帶來更多可能性,推動人工智能技術的不斷創新與應用。