以經(jīng)過簡化的AI訓(xùn)練管道流程來看，在數(shù)據(jù)采集進(jìn)來后的數(shù)據(jù)存儲(chǔ)階段對主內(nèi)存的需求以小于1TB來計(jì)算（實(shí)際應(yīng)用中一個(gè)集群或?qū)嵗膬?nèi)存容量會(huì)是簡化模型的數(shù)倍。），這時(shí)GPU還無須參與訓(xùn)練中。
到了數(shù)據(jù)準(zhǔn)備階段，將數(shù)據(jù)進(jìn)行整理、驗(yàn)證，此時(shí)主內(nèi)存容量上升到1TB。比如SDXL訓(xùn)練網(wǎng)絡(luò)架構(gòu)，在數(shù)據(jù)準(zhǔn)備階段，所有的圖像都要被規(guī)整成統(tǒng)一的規(guī)格、大小、像素、尺寸，從而更加高效的利用到網(wǎng)絡(luò)中的這些資源，降低延遲和在空間展示中節(jié)省資源。
在AI訓(xùn)練階段，不僅需要強(qiáng)大的GPU內(nèi)存，主內(nèi)存的容量需求會(huì)是GPU內(nèi)存的兩倍，且必須有非常高的帶寬，才能讓GPU本地內(nèi)存滿足數(shù)據(jù)的吞吐速度。由此可見，DDR5內(nèi)存對于AI訓(xùn)練的重要性。

Rambus為 DDR5 服務(wù)器內(nèi)存模塊提供完整的內(nèi)存接口芯片組，包含 RCD、PMIC、SPD Hub、溫度傳感器 IC。Rambus最近推出最先進(jìn)的全新DDR5 服務(wù)器電源管理IC（PMIC）系列，包含適用于高性能應(yīng)用的業(yè)界領(lǐng)先超高電流電源器件，滿足AI及其他高級工作負(fù)載對最高性能與容量內(nèi)存模塊的需求。

Rambus DDR5服務(wù)器PMIC產(chǎn)品特點(diǎn)

PMIC是DDR5內(nèi)存架構(gòu)中的關(guān)鍵組件，可實(shí)現(xiàn)更多的內(nèi)存通道、更大容量的模組和更高的帶寬。Rambus DDR5服務(wù)器PMIC系列包含符合JEDEC超高電流（PMIC5020）、高電流（PMIC5000）和低電流（PMIC5010）規(guī)范的產(chǎn)品。
JEDEC定義了三種不同的PMIC，針對不同的電流輸出水平。它們都共享相同的封裝尺寸、引腳布局，并且大多數(shù)寄存器集相同。每種設(shè)計(jì)的電源效率都針對其目標(biāo)應(yīng)用的預(yù)期電流水平進(jìn)行了優(yōu)化。
極高電流的PMIC 5020目標(biāo)是約30安培的最大持續(xù)直流電流，是這三種服務(wù)器PMIC中最新定義的。Rambus是首家提供樣品的公司。該P(yáng)MIC針對的是最高帶寬和最高容量的模塊。
高電流PMIC 5000一直是主要的PMIC，支持的最大持續(xù)直流電流大約為20安培。這款特定的PMIC針對標(biāo)準(zhǔn)到四階模塊，容量為64GB、96GB和128GB。低電流 PMIC 5010 面向容量較低的市場，它支持的最大持續(xù)電流約為 12 安培。
大多數(shù)速率高達(dá) 60,400 MT/s 的 DDR5 RDIMM 都使用 PMIC 5000 高電流版本和 PMIC 5010 低電流版本 PMIC。目前這兩種型號(hào)正處于大批量生產(chǎn)階段。
而新發(fā)布的PMIC5020，主要用于數(shù)據(jù)速率達(dá)到7200MT/s的第四代DDR5，以及第一代的MRDIMM模組，另外，還包括一些6400MT/s數(shù)據(jù)速率但容量特別高的如256GB內(nèi)存模組，也會(huì)使用超高電流的PMIC5020。
Rambus內(nèi)存互連芯片業(yè)務(wù)部門產(chǎn)品營銷副總裁John Eble表示，Rambus提供完整的DDR5 RDIMM芯片組，對于我們的客戶、客戶的用戶，以及整個(gè)生態(tài)系統(tǒng)是多贏的。對于DDR5 RDIMM完整芯片組，我們是經(jīng)過預(yù)先驗(yàn)證的，可以帶給客戶具有經(jīng)過驗(yàn)證的互操作性和非常優(yōu)秀的時(shí)序、功率優(yōu)化，而且也有足夠穩(wěn)健的供應(yīng)鏈供給。

設(shè)計(jì)挑戰(zhàn)

應(yīng)用DDR5技術(shù)的DIMM架構(gòu)如何實(shí)現(xiàn)更高的內(nèi)存性能。John Eble進(jìn)行了詳細(xì)解析。
現(xiàn)在DDR5內(nèi)存已經(jīng)開始轉(zhuǎn)移到雙通道架構(gòu)，在展現(xiàn)的DDR5 RDIMM架構(gòu)在DDR5當(dāng)中數(shù)據(jù)流的通道比特率是32，另外加上8位ECC，來保證他們在連接器上有著各自所需的存儲(chǔ)和吞吐量以及內(nèi)存性能。

上圖中的雙通道 RCD 現(xiàn)在在主機(jī)端以 DDR5 速度運(yùn)行。因此它的運(yùn)行速度與 DRAM 相同。圖中每個(gè)引腳的開關(guān)頻率將比DDR4高出一倍多。
DDR5的每通道最高頻率速度達(dá)到8400MT/s。但實(shí)際上根據(jù)JEDEC今年4月發(fā)布的最新數(shù)據(jù)，表示在DRAM的規(guī)格當(dāng)中可以達(dá)到8800MT/s的速度。
更高的數(shù)據(jù)傳輸速率（裕度至關(guān)重要），所有這些數(shù)據(jù)信號(hào)所需的連接器引腳數(shù)量的增加以及主電源電壓從 1 至 1.2 伏降至 1.1 伏，這些因素共同促使決定采用專用的電源管理IC，幫助控制更加精細(xì)的電壓。
DDR5模塊增加了PMIC和相關(guān)的無源組件，這是DDR4到DDR5最顯著的變化之一。
通過將電源管理集成到內(nèi)存模塊（DIMM）上，主板可以為內(nèi)存模塊提供單一的高電壓電源。由內(nèi)存模組上的PMIC向模組提供輸入高壓12V電源，避免通過模塊連接器從主板向內(nèi)存模組組件輸出如1V的電壓，大大降低了輸電網(wǎng)絡(luò)上的IR下降問題。
PMIC有四個(gè)開關(guān)降壓調(diào)節(jié)器，其中兩個(gè)采用雙相配置，兩個(gè)低壓差調(diào)節(jié)器，為模塊上的各種組件產(chǎn)生總共五個(gè)不同的電壓供應(yīng)和電壓水平。
PMIC可以針對其所在的特定模塊進(jìn)行調(diào)整。隨著用戶增加內(nèi)存容量，他們以遞增的方式為服務(wù)器添加電源管理。因此，將PMIC集成到內(nèi)存模塊上極大地簡化主板設(shè)計(jì)，減少所需的面積，并降低電源系統(tǒng)過度配置的浪費(fèi)。
為了實(shí)現(xiàn)更高的數(shù)據(jù)傳輸速率，DDR5需要更嚴(yán)格且精準(zhǔn)的電壓范圍。在電源配置變化的情況下，它需要非常低的噪音，要在較低電壓下保持可靠性。
電源設(shè)計(jì)上的挑戰(zhàn)來看，首先是散熱問題。PMIC會(huì)產(chǎn)生熱量，而且它靠近對熱非常敏感的DRAM。因此，進(jìn)行熱模擬并確保熱量以一種不會(huì)影響模塊的方式消散，這一點(diǎn)非常重要。
第二個(gè)設(shè)計(jì)挑戰(zhàn)是如何將PMIC及其無源元件安裝在模塊上，因?yàn)槟K的尺寸是固定的。模塊上已經(jīng)有很多元器件。因此為PMIC騰出空間，確保其功率完整性達(dá)到最佳狀態(tài)，并確保其不會(huì)造成任何干擾或散熱問題，這是一個(gè)很大的挑戰(zhàn)。
第三個(gè)挑戰(zhàn)是確保PMIC上的開關(guān)穩(wěn)壓器不會(huì)將任何不需要的噪聲引入DIMM的其他部分。
最后是需要確保PMIC可靠且強(qiáng)大。Rambus 專門內(nèi)置了特殊電路來處理可能的壓力條件，以確保擁有非常強(qiáng)大的部件。
憑借在高性能內(nèi)存領(lǐng)域積累30多年的經(jīng)驗(yàn)，Rambus已成為RDIMM制造商的“一站式” DDR5 內(nèi)存接口芯片供應(yīng)商，能夠?yàn)橹圃焐烫峁┳罡呒墑e的驗(yàn)證保證并加快其產(chǎn)品上市時(shí)間。

中國市場

中國內(nèi)存市場蓬勃發(fā)展，已經(jīng)形成了內(nèi)存顆粒、內(nèi)存模組、服務(wù)器、OEM、ODM、云一套連貫的生態(tài)鏈，中國在全球的內(nèi)存生態(tài)里扮演著非常重要的一環(huán)。
Rambus大中華區(qū)總經(jīng)理蘇雷表示，Rambus中國的業(yè)務(wù)理念不單單把自己作為一個(gè)產(chǎn)品的供應(yīng)方，更多的是定位成業(yè)務(wù)的合作伙伴，助力中國內(nèi)存整個(gè)產(chǎn)業(yè)鏈的生態(tài)發(fā)展。我們通過跟內(nèi)存上下游合作伙伴的緊密協(xié)同工作，通過利用Rambus內(nèi)存產(chǎn)品方面的經(jīng)驗(yàn)和積累去服務(wù)好中國市場。
無論是在客戶產(chǎn)品布局，還是產(chǎn)品設(shè)計(jì)、研發(fā)問題定位、甚至量產(chǎn)階段，Rambus通過提供高效、優(yōu)質(zhì)的產(chǎn)品和全面、細(xì)致的技術(shù)服務(wù)與行業(yè)經(jīng)驗(yàn)，來踐行“in China for China”的理念，最終實(shí)現(xiàn)跟客戶的成長與共贏。
寫在最后
John Eble對DDR5和PMIC發(fā)展情況做一些預(yù)判。隨著對更高性能和電源效率的需求不斷增長，未來可能會(huì)定義新型內(nèi)存模塊?，F(xiàn)在業(yè)界已經(jīng)經(jīng)歷了將 PMIC 集成到模塊驗(yàn)證和認(rèn)證中的學(xué)習(xí)曲線，并看到了由此帶來的好處。那么，很有可能會(huì)繼續(xù)在模塊上集成PMIC，以進(jìn)一步優(yōu)化電源管理并提高整體系統(tǒng)性能。這將成為一種趨勢。
DDR5 在服務(wù)器和個(gè)人電腦領(lǐng)域都得到了相當(dāng)迅速的采用。在服務(wù)器方面也即將達(dá)到平衡點(diǎn)。據(jù)集邦咨詢的報(bào)告，預(yù)計(jì)下個(gè)季度DDR5 普及率將超過 50%。
另外，PMIC 供應(yīng)對DDR5服務(wù)器模塊來說非常重要。早前曾出現(xiàn)過PMIC 短缺的問題，不過現(xiàn)在整個(gè)供應(yīng)鏈已經(jīng)恢復(fù)，目前沒有看到PMIC供應(yīng)短缺的情況。