COMPUTEX-NVIDIA公司今天宣布推出一款新型大內(nèi)存AI超級(jí)計(jì)算機(jī)--NVIDIA DGX?超級(jí)計(jì)算機(jī)，該計(jì)算機(jī)由NVIDIA? GH200 Grace Hopper超級(jí)芯片和NVIDIA NVLink?交換機(jī)系統(tǒng)提供動(dòng)力，旨在為生成型AI語言應(yīng)用、推薦系統(tǒng)和數(shù)據(jù)分析工作負(fù)載開發(fā)巨型的下一代模型。

【資料圖】

華碩（ASUS）DUAL GeForce RTX4070-12G顯卡 DUAL-RTX4070-12G

[經(jīng)銷商]京東商城

[產(chǎn)品售價(jià)]

進(jìn)入購(gòu)買

NVIDIA DGX GH200的巨大共享內(nèi)存空間利用NVLink互連技術(shù)與NVLink交換系統(tǒng)，將256個(gè)GH200超級(jí)芯片結(jié)合在一起，使它們能夠作為單個(gè)GPU來執(zhí)行。這提供了1exaflops的性能和144T的共享內(nèi)存，比2020年推出的上一代NVIDIA DGX A100的內(nèi)存多出近500倍。

"生成性人工智能、大型語言模型和推薦系統(tǒng)是現(xiàn)代經(jīng)濟(jì)的數(shù)字引擎，"英偉達(dá)創(chuàng)始人兼首席執(zhí)行官黃仁勛說。"DGX GH200 AI超級(jí)計(jì)算機(jī)整合了英偉達(dá)最先進(jìn)的加速計(jì)算和網(wǎng)絡(luò)技術(shù)，以拓展AI的前沿領(lǐng)域。"

英偉達(dá)NVLink技術(shù)擴(kuò)大了AI的規(guī)模
GH200超級(jí)芯片使用NVIDIA NVLink-C2C芯片互連，將基于Arm的NVIDIA Grace? CPU與NVIDIA H100 Tensor Core GPU結(jié)合在同一封裝中，從而消除了對(duì)傳統(tǒng)CPU至GPU的連接的需求。與最新的PCIe技術(shù)相比，這將GPU和CPU之間的帶寬提高了7倍，將互連功耗削減了5倍以上，并為DGX GH200超級(jí)計(jì)算機(jī)提供了一個(gè)600GB的Hopper架構(gòu)GPU構(gòu)建塊。

DGX GH200是第一臺(tái)將Grace Hopper超級(jí)芯片與NVIDIA NVLink交換系統(tǒng)配對(duì)使用的超級(jí)計(jì)算機(jī)，NVLink交換系統(tǒng)是一種新的互連方式，能夠使DGX GH200系統(tǒng)中的所有GPU作為一個(gè)整體協(xié)同工作。上一代系統(tǒng)只提供八個(gè)GPU與NVLink結(jié)合為一個(gè)GPU，而不影響性能。

DGX GH200架構(gòu)提供的NVLink帶寬是上一代的48倍，以單顆GPU的簡(jiǎn)單編程提供了大規(guī)模AI超級(jí)計(jì)算機(jī)的能力。

為人工智能先驅(qū)者提供的新研究工具
谷歌云、Meta和微軟是首批有望獲得DGX GH200的用戶，以探索其在生成型AI工作負(fù)載方面的能力。英偉達(dá)還打算將DGX GH200的設(shè)計(jì)作為藍(lán)本提供給云服務(wù)提供商和其他超大規(guī)模企業(yè)，以便他們能夠?yàn)樽约旱幕A(chǔ)設(shè)施進(jìn)一步定制。

"谷歌云計(jì)算副總裁Mark Lohmeyer表示："構(gòu)建先進(jìn)的生成模型需要?jiǎng)?chuàng)新的AI基礎(chǔ)設(shè)施方法。"新的NVLink規(guī)模和Grace Hopper超級(jí)芯片的共享內(nèi)存解決了大規(guī)模人工智能的關(guān)鍵瓶頸問題，我們期待著為谷歌云和我們的生成性人工智能計(jì)劃探索其能力。"

"隨著人工智能模型越來越大，它們需要強(qiáng)大的基礎(chǔ)設(shè)施，可以擴(kuò)展以滿足日益增長(zhǎng)的需求，"Meta公司基礎(chǔ)設(shè)施、人工智能系統(tǒng)和加速平臺(tái)副總裁Alexis Bj?rlin說。"NVIDIA的Grace Hopper設(shè)計(jì)看起來為研究人員提供了探索新方法的能力，以解決他們最大的挑戰(zhàn)。"

"訓(xùn)練大型人工智能模型在傳統(tǒng)上是一項(xiàng)資源和時(shí)間密集型任務(wù)，"微軟Azure基礎(chǔ)設(shè)施公司副總裁Girish Bablani說。"DGX GH200處理TB級(jí)數(shù)據(jù)集的潛力將使開發(fā)人員能夠以更大的規(guī)模和加速的速度進(jìn)行先進(jìn)的研究。"

新的NVIDIA Helios超級(jí)計(jì)算機(jī)將推動(dòng)研究和開發(fā)
英偉達(dá)正在建造自己的基于DGX GH200的人工智能超級(jí)計(jì)算機(jī)，為其研究人員和開發(fā)團(tuán)隊(duì)的工作提供動(dòng)力。

這臺(tái)超級(jí)計(jì)算機(jī)被命名為NVIDIA Helios，它將擁有四個(gè)DGX GH200系統(tǒng)。每個(gè)系統(tǒng)都將與英偉達(dá)Quantum-2 InfiniBand網(wǎng)絡(luò)互連，為訓(xùn)練大型人工智能模型提高數(shù)據(jù)吞吐量。Helios將包括1,024個(gè)Grace Hopper超級(jí)芯片，預(yù)計(jì)將于今年年底上線。

完全集成，專為巨型模型而生
DGX GH200超級(jí)計(jì)算機(jī)包括英偉達(dá)軟件，為最大的人工智能和數(shù)據(jù)分析工作負(fù)載提供了一個(gè)交鑰匙的全棧解決方案。NVIDIA Base Command?軟件提供了AI工作流程管理、企業(yè)級(jí)集群管理、加速計(jì)算、存儲(chǔ)和網(wǎng)絡(luò)基礎(chǔ)設(shè)施的庫，以及為運(yùn)行AI工作負(fù)載而優(yōu)化的系統(tǒng)軟件。

此外，還包括NVIDIA AI Enterprise，這是NVIDIA AI平臺(tái)的軟件層。它提供了100多個(gè)框架、預(yù)訓(xùn)練模型和開發(fā)工具，以簡(jiǎn)化生產(chǎn)型AI的開發(fā)和部署，包括生成型AI、計(jì)算機(jī)視覺、語音AI等。

供應(yīng)情況
NVIDIA DGX GH200超級(jí)計(jì)算機(jī)預(yù)計(jì)將于今年年底上市。

關(guān)鍵詞：