Rambus GDDR6 PHY——加速智能世界的數(shù)據(jù)價值 天天速訊
以ChatGPT為代表的生成式AI讓人們看到了智能世界的無限可能,指數(shù)級增長的多元化數(shù)據(jù)為千行百業(yè)的AI場景化奠定了基礎(chǔ),而如何有效地采集、存儲、傳輸、處理數(shù)據(jù)和模型則成為實現(xiàn)高質(zhì)量AI的關(guān)鍵。在Rambus大中華區(qū)總經(jīng)理蘇雷看來,AI大流行的時代,訓(xùn)練和推理都需要海量的數(shù)據(jù)支持,對于內(nèi)存產(chǎn)品來說,首先是滿足高帶寬的要求,其次就是要考慮成本和復(fù)雜性,“GDDR技術(shù)在帶寬、成本和方案復(fù)雜性的各因素之間,提供了一種完美的折中技術(shù)方案。”
Rambus大中華區(qū)總經(jīng)理蘇雷
作為一家領(lǐng)先的芯片和半導(dǎo)體IP供應(yīng)商,Rambus致力于使數(shù)據(jù)傳輸更快更安全,關(guān)注產(chǎn)品的產(chǎn)品和方案的易用性,通過一站式的解決方案以及完善的服務(wù)機(jī)制,使產(chǎn)品方案變得更容易在客戶端集成使用。產(chǎn)品方面,Rambus的內(nèi)存接口芯片不斷提高數(shù)據(jù)中心內(nèi)存模塊的速度和容量,數(shù)據(jù)安全方面,Rambus有著豐富的安全I(xiàn)P產(chǎn)品線,對用于靜態(tài)數(shù)據(jù)和動態(tài)數(shù)據(jù)安全保護(hù)都有專門的產(chǎn)品方案,包括安全信任和MACsec和Ipsec等等,整體來說,Rambus的產(chǎn)品應(yīng)用領(lǐng)域聚焦于服務(wù)器、主內(nèi)存、智能網(wǎng)卡、網(wǎng)絡(luò)服務(wù)和交換機(jī),以及面向未來的內(nèi)存擴(kuò)展和池化等市場。
(資料圖)
AI技術(shù)的深入應(yīng)用推動了場景化智能的快速發(fā)展,數(shù)以千億計的參數(shù)模型越來越多,對處理器和帶寬提出了更高的要求,很多企業(yè)都開始研發(fā)定制化的處理器產(chǎn)品,以更好地滿足神經(jīng)網(wǎng)絡(luò)和特定應(yīng)用。然而,算力的顯著增長并未帶來帶寬的同步改善,很多GPU資源沒有得到充分的使用。把多樣化的數(shù)據(jù)進(jìn)行分析、導(dǎo)入模型訓(xùn)練之后,會在應(yīng)用場景端進(jìn)行推理,NLP、數(shù)據(jù)庫管理等應(yīng)用越來越多的出現(xiàn)在邊緣環(huán)境中,數(shù)據(jù)傳輸量和響應(yīng)延遲大幅下降。
“隨著AI推理的應(yīng)用不斷向邊緣端遷移,我們會把已經(jīng)訓(xùn)練過的系統(tǒng)實現(xiàn)更快的處理方式,處理速度的提高是非常大的遷移到邊緣端的優(yōu)勢。正是在這個變化的趨勢過程中,GDDR6也開始發(fā)揮作用。”Rambus IP核產(chǎn)品營銷高級總監(jiān)Frank Ferro談到,“作為更加理想的方案,GDDR6有著高帶寬和低時延的特性,能夠幫助邊緣端更好地處理數(shù)據(jù)。”
Rambus IP核產(chǎn)品營銷高級總監(jiān)Frank Ferro
如今,GDDR在AI/ML場景(如AI推理等)中有著廣泛的使用,還會應(yīng)用于圖形計算、網(wǎng)絡(luò)等場景。與DDR相比,GDDR在帶寬、速度、功耗等方面有著顯著優(yōu)勢,吸引了更多的客戶將其結(jié)合到各類先進(jìn)設(shè)計中。通過Rambus GDDR6 PHY,客戶可以獲得24Gb/s的數(shù)據(jù)傳輸速率,為每個GDDR6內(nèi)存設(shè)備帶來96GB/s的帶寬。作為系統(tǒng)級解決方案的一部分,Rambus GDDR6可以為AI/ML、圖形和網(wǎng)絡(luò)應(yīng)用提供高效益、高帶寬、低延遲的內(nèi)存接口解決方案。同時,RambusGDDR6 PHY還有著更優(yōu)的功耗管理表現(xiàn)。
Rambus的產(chǎn)品實現(xiàn)了PHY和控制器的完整集成,其內(nèi)存接口系統(tǒng)包括PHY物理層、控制器、DRAM和客戶端ASIC,其中,PHY的物理層與DRAM直接相連,接口由兩個16位插槽組成,共32位,另一側(cè)的DFI接口與內(nèi)存控制器連接,控制器會直接接入整個系統(tǒng)的邏輯控制。Rambus會提供下圖中的藍(lán)色部分——即完整的子系統(tǒng)(與Rambus GDDR6數(shù)字控制器IP相結(jié)合),使得客戶可以根據(jù)場景所需進(jìn)行定制化使用。此外,Rambus可以保障良好的系統(tǒng)級信號完整性和電源完整性(SI/PI),并且支持LabStation開發(fā)環(huán)境,能夠快速建立系統(tǒng),進(jìn)行特性分析和調(diào)試。
GDDR6內(nèi)存接口子系統(tǒng)(控制器+PHY)
在GDDR6時代,有更多的產(chǎn)品開始采用16位雙讀寫通道,可以顯著增加數(shù)據(jù)的傳輸速度和效率,使得GDDR6內(nèi)存中的8個雙讀寫通道能夠?qū)崿F(xiàn)256位的數(shù)據(jù)傳輸寬度,進(jìn)一步提升了系統(tǒng)層的效率、優(yōu)化了功耗,還可以在邊緣環(huán)境中大幅降低設(shè)備對DDR數(shù)量的要求。在AI推理場景中,通常的帶寬需求在200-500Gb/s之間來,每個GDDR6設(shè)備的帶寬可以達(dá)到96Gb/s,通過將4-5個GDDR6設(shè)備進(jìn)行組合,就能輕松滿足500Gb/s及以下的帶寬需求。
如果是在云端進(jìn)行AI訓(xùn)練,對成本因素不敏感的話,也可以選擇更大帶寬的HBM,如果是邊緣端則使用GDDR6效益更好,原因在于,HBM3設(shè)備能提供接近800Gb/s的帶寬,遠(yuǎn)超AI推理所需的500Gb/s,考慮到其內(nèi)存設(shè)計和制造難度較高,以及高度集成性(會使用一些中間插入層來處理和傳輸數(shù)據(jù)),并且可能需要更多的板卡空間,會導(dǎo)致成本會提升數(shù)倍。
除此之外,Rambus還有著更多的特性,包括clamshell模式,即每個信道可以支持兩個GDDR6的設(shè)備,相當(dāng)于該模式下整個容量翻倍。GDDR6支持先進(jìn)的FinFET工藝節(jié)點,并且會針對PCB和封裝提供相關(guān)的參考設(shè)計。在開發(fā)GDDR6子系統(tǒng)的時候,首先會對數(shù)據(jù)流進(jìn)行模擬和建模,這一過程要確保最佳的數(shù)據(jù)輸出量和吞吐量,控制器、優(yōu)化器會進(jìn)一步管理內(nèi)存數(shù)據(jù),利用Look-Ahead技術(shù),可以更好地通過數(shù)據(jù)順序內(nèi)存位置進(jìn)行精準(zhǔn)預(yù)測,提供更優(yōu)的數(shù)據(jù)路徑規(guī)劃,提前了解下一批進(jìn)入DRAM的數(shù)據(jù)類型,優(yōu)化應(yīng)對機(jī)制。
Rambus能夠提供靈活的解決方案和一站式服務(wù),包括PHY和控制器集成解決方案,以及全套的測試軟件用于快速啟動、校準(zhǔn)和調(diào)試,使用交鑰匙的方式把集成測試好的子系統(tǒng)交付給客戶,加速芯片產(chǎn)品上市時間。如果客戶已經(jīng)擁有控制器IP,只需要PHY IP授權(quán),Rambus也可以單獨授權(quán),并會提供后續(xù)相關(guān)的集成支持。今年夏季,Rambus GDDR6預(yù)計會推出完整的最終硅片,并計劃在2025-2026年有廠商會上市使用GDDR6 IP的芯片。“GDDR會應(yīng)用在圖形處理器、自動駕駛、AI、5G基礎(chǔ)架構(gòu)等場景中。Rambus24Gbps GDDR方案的推出,將這些應(yīng)用提供更高級別的性能和更多的選擇。”蘇雷說。
關(guān)鍵詞:
2023-06-01 09:53:00
2023-06-01 09:47:17
2023-06-01 09:36:20
2023-06-01 08:46:40
2023-06-01 08:46:13
2023-06-01 08:42:50
2023-06-01 08:41:58
2023-06-01 07:48:52
2023-06-01 06:58:18
2023-06-01 06:55:02
2023-06-01 06:49:09
2023-06-01 06:48:34
2023-06-01 06:36:35
2023-06-01 06:36:21
2023-06-01 05:45:20
2023-06-01 03:20:52
2023-06-01 01:47:48
2023-06-01 00:39:46
2023-05-31 23:36:14
2023-05-31 22:30:10
2023-05-31 21:39:21
2023-05-31 20:59:32
2023-05-31 20:35:24
2023-05-31 20:12:30
2023-05-31 19:55:15
2023-05-31 19:52:49
2023-05-31 19:52:33
2023-05-31 19:47:11
2023-05-31 19:41:33
2023-05-31 19:38:18
2023-05-31 18:56:36
2023-05-31 18:56:25
2023-05-31 18:52:30
2023-05-31 18:48:15
2023-05-31 18:42:42
2023-05-31 18:36:51
2023-05-31 17:55:33
2023-05-31 17:50:29
2023-05-31 17:43:28
2023-05-31 17:41:33
2023-05-31 17:41:02
2023-05-31 17:04:15
2023-05-31 16:57:18
2023-05-31 16:47:56
2023-05-31 16:46:23
2023-05-31 16:46:05
2023-05-31 16:39:43
2023-05-31 16:37:31
2023-05-31 16:17:55
2023-05-31 15:56:09
2023-05-31 15:48:20
2023-05-31 15:39:31
2023-05-31 15:36:35
2023-05-31 15:35:01
2023-05-31 15:15:49
2023-05-31 15:12:54
2023-05-31 14:44:55
2023-05-31 14:42:50
2023-05-31 14:09:36
2023-05-31 14:01:30
2023-05-31 13:56:57
2023-05-31 13:55:17
2023-05-31 13:52:24
2023-05-31 13:46:29
2023-05-31 13:42:46
2023-05-31 13:40:24
2023-05-31 13:38:39
2023-05-31 13:37:06
2023-05-31 13:04:20
2023-05-31 13:00:07
2023-05-31 12:52:35
2023-05-31 12:45:54
2023-05-31 12:44:21
2023-05-31 12:43:55
2023-05-31 12:40:07
2023-05-31 12:35:47
2023-05-31 11:56:57
2023-05-31 11:52:11
2023-05-31 11:49:29
2023-05-31 11:38:49
2023-05-31 11:35:42
2023-05-31 11:33:47
2023-05-31 11:27:38
2023-05-31 11:18:17
2023-05-31 10:51:09
2023-05-31 10:49:35
2023-05-31 10:39:53
2023-05-31 10:37:15
2023-05-31 10:22:03
2023-05-31 10:10:03
2023-05-31 09:56:44
2023-05-31 09:47:44
2023-05-31 09:47:40
2023-05-31 09:42:22
2023-05-31 08:59:48
2023-05-31 08:58:43
2023-05-31 08:56:04
2023-05-31 08:55:49
2023-05-31 08:53:51
相關(guān)新聞