(資料圖)
3月28日消息,甲骨文宣布與英偉達(dá)(NVIDIA)進(jìn)一步擴(kuò)大合作,在全新的Oracle云基礎(chǔ)設(shè)施遠(yuǎn)程軟件服務(wù)(注:全稱Oracle Cloud Infrastructure,簡(jiǎn)稱OCI)Supercluster上運(yùn)行戰(zhàn)略性NVIDIA AI應(yīng)用。英偉達(dá)選擇OCI作為該企業(yè)的超大規(guī)模云技術(shù)提供商,提供大規(guī)模的AI超級(jí)計(jì)算服務(wù)NVIDIA DGX Cloud。此外,英偉達(dá)正在運(yùn)行其生成式AI云服務(wù)NVIDIA AI Foundations,該服務(wù)通過基于OCI的DGX Cloud提供。
NVIDIA DGX Cloud和在基于其運(yùn)行的NVIDIA AI Foundations服務(wù)利用英偉達(dá)認(rèn)證的OCI Supercluster來確保其符合DGX Cloud的高標(biāo)準(zhǔn)。
OCI Supercluster包含了OCI Compute Bare Metal、基于NVIDIA網(wǎng)絡(luò)的超低延遲RoCE集群,以及HPC存儲(chǔ)的選件。英偉達(dá)已部署并驗(yàn)證該超級(jí)集群,以支持?jǐn)?shù)千個(gè)OCI Compute Bare Metal實(shí)例高效處理大規(guī)模并行應(yīng)用。OCI Supercluster網(wǎng)絡(luò)現(xiàn)在可以使用32,768個(gè)A100GPU,擴(kuò)展至4,096個(gè)OCI Compute Bare Metal實(shí)例?,F(xiàn)在,配備NVIDIA H100GPU的OCI Compute Bare Metal實(shí)例已限量供應(yīng)。
此外,英偉達(dá)宣布,甲骨文公司正在將NVIDIA BlueField-3DPU添加到其網(wǎng)絡(luò)堆棧中。
NVIDIA AI Foundations建模服務(wù)涵蓋語言、圖像、視頻和3D以及生物學(xué)。企業(yè)可以使用NVIDIA NeMo語言服務(wù)和NVIDIA Picasso圖像、視頻和3D服務(wù),構(gòu)建專有的、特定領(lǐng)域的生成式AI應(yīng)用,從而實(shí)現(xiàn)智能聊天和客戶支持、專業(yè)內(nèi)容創(chuàng)建、數(shù)字模擬等。對(duì)于生物AI模型訓(xùn)練和推斷,NVIDIA BioNeMo云服務(wù)提供了用于快速定制和部署生成式AI應(yīng)用的工具。
在 OCI上,使用NVIDIA AI Foundations的定制模型和像GPT-3一樣的模型系列可從OCI Supercluster中受益,其中包括專門構(gòu)建的RDMA網(wǎng)絡(luò)。該網(wǎng)絡(luò)可提供近線速的性能和微秒延遲,并消除有關(guān)依賴RDMA的工作負(fù)載的障礙。
標(biāo)簽:
熱門