(資料圖)
編程客棧（）8月10日 消息:微軟 Azure 宣布了其與英偉達(dá)的加速計(jì)算技術(shù)的集成，為生成式 AI 應(yīng)用的訓(xùn)練和部署帶來了進(jìn)步。通過將 Azure ND H100v5虛擬機(jī) （VM） 與 英偉達(dá) H100Tensor Core GPU 和 Quantum-2InfiniBand 網(wǎng)絡(luò)集成，用戶可以輕松地?cái)U(kuò)展他們的生成式 AI 和高性能計(jì)算應(yīng)用。
微軟 Azure 和 英偉達(dá) 的合作正值開發(fā)者和研究人員探索大型語言模型 （LLMs） 和加速計(jì)算在各種消費(fèi)者和商業(yè)用例中的潛力的關(guān)鍵時(shí)刻。
英偉達(dá) 的 H100GPU 提供了超級(jí)計(jì)算級(jí)的性能，它具有第四代 Tensor Cores、用于加速 LLMs 的 Transformer Engine 和用于快速 GPU 間通信的 NVLink 技術(shù)。憑借令人印象深刻的3，200Gbps 跨節(jié)點(diǎn)帶寬，英偉達(dá) Quantum-2CX7InfiniBand 的集成確保了 phpGPU 之間的無縫性能，使其與先進(jìn)超級(jí)計(jì)算機(jī)的計(jì)算能力相媲美。
ND H100v5VMs 的引入為訓(xùn)練和推斷復(fù)雜的 LLMs 和計(jì)算機(jī)視覺模型開辟了新的可能性。這些神經(jīng)網(wǎng)絡(luò)為諸如問答、代碼生成、音頻、視頻、圖像合成和語音識(shí)別等應(yīng)用提供了動(dòng)力。
ND H100v5VMs 的突出特點(diǎn)是它們能夠在 LJoVmUxLM 推斷方面實(shí)現(xiàn)高達(dá)2倍的加速，這一點(diǎn)通過 BLOOM175B 模型得到了證明。這種性能的提升優(yōu)化了 AI 應(yīng)用，并在各個(gè)行業(yè)推動(dòng)了創(chuàng)新。
通過 英偉達(dá) 和 微軟 Azure 的合作，企業(yè)獲得了無與倫比的 AI 訓(xùn)練和推斷能js力。英偉達(dá) AI Enterprise 軟件套件和 Azure MAChine Learning for MLOps 的集成簡化了生產(chǎn) AI 的開發(fā)和部署。
此外，合作還通過將 英偉達(dá) Omniverse 平臺(tái)與 Azure 集成而延伸，為用戶提供了工業(yè)數(shù)字化和 AI 超級(jí)計(jì)算的工具。
微軟 Azure 和 英偉達(dá) 的加速計(jì)算技術(shù)的集成開啟了 AI 應(yīng)用的新可能性，并使企業(yè)能夠利用生成式 AI 的潛力來滿足他們的特定需求。
關(guān)鍵詞：
