Nvidia和VMware兩家公司合作,讓用戶能夠更簡單地在混合云環(huán)境中,開發(fā)和部署各種人工智慧工作負載,透過結(jié)合Nvidia人工智慧企業(yè)(AI Enterprise)軟件套件,和VMware服務器虛擬化軟件vSphere,擴展CUDA應用程式、人工智慧框架、模型和SDK到多節(jié)點中,提高效能和相容性。
Nvidia人工智慧企業(yè)軟件套件是一套人工智慧工具和框架,業(yè)者標榜能最佳化業(yè)務流程,提高制造、物流、金融服務、零售和醫(yī)療保健各行業(yè)的效率,該軟件套件讓機器學習研究人員,可以簡單地取用人工智慧工具,以進行進階診斷、智慧工廠、詐騙偵測等人工智慧開發(fā)。這個工具減少了部署單個人工智慧應用程式的復雜性,也解決手動配置或是基礎設施不相容等潛在問題。
而透過在vSphere上執(zhí)行Nvidia人工智慧企業(yè)軟件套件,用戶可以避免難管理又難保護的人工智慧專用系統(tǒng)孤島。Nvidia人工智慧企業(yè)軟件套件支援虛擬化工作負載,可在vSphere上以接近裸機的效能運作,人工智慧工作負載可以跨多個節(jié)點擴展,甚至在VMware Cloud Foundation上執(zhí)行超大規(guī)模的深度學習訓練模型。
官方提到,各種規(guī)模的人工智慧工作負載,像是即時交通系統(tǒng)、線上購物推薦系統(tǒng)或是語音助理等,都有各種的資料需求,而訓練這些人工智慧模型需要非常大量的資料,并需要獲取多個節(jié)點中多個GPU的運算效能,但是反之經(jīng)部署的模型,執(zhí)行推理運算通常只需要較少的運算資源,甚至不需要一個GPU完整的運算能力。而vSphere采用Nvidia的多執(zhí)行個體GPU技術,可將A100 GPU運算資源從硬件層級,劃分給多達7個執(zhí)行個體,最大程度支援各種規(guī)模的工作負載。
現(xiàn)在經(jīng)Nvidia認證的系統(tǒng)上,開始提供AI Enterprise for vSphere的支援,包括Dell、HPE、Lenovo和Supermicro等服務器,可讓最先進的人工智慧應用程式如同傳統(tǒng)工作負載般地運作在通用基礎設施上,并使用資料中心管理工具進行管理。IT可以管理其可用性、最佳化資源分配,并且保護在混合云環(huán)境,或是企業(yè)就地部署中的資料。
Nvidia提到,這樣的合作是業(yè)界首創(chuàng),讓人工智慧研究人員、資料科學家和開發(fā)人員,都得以使用需要的人工智慧專案軟件,而IT人員也可以使用熟悉的管理工具管理資料中心,以支援人工智慧技術的發(fā)展。