5月16日，日本晶圓代工初創(chuàng)企業(yè)Rapidus宣布與美國RISC-V架構芯片設計企業(yè)Esperanto簽署了諒解備忘錄，雙方將就面向數(shù)據(jù)中心的人工智能（AI）半導體研發(fā)展開合作，共同開發(fā)低功耗AI芯片。

當前，盡管GPU缺貨問題逐漸緩解，但電力供應成為了AI浪潮發(fā)展過程中出現(xiàn)的又一瓶頸。

業(yè)內人士指出，CPU和GPU在促進人工智能市場的繁榮方面發(fā)揮了關鍵作用。然而，最新芯片不斷增加的功耗正在引發(fā)近期危機。例如，預計到2027年，生成式AI處理所消耗的能源將占美國數(shù)據(jù)中心總用電量的近80%。

數(shù)據(jù)中心是電力需求增長的重要驅動力。隨著以生成式AI為代表的人工智能時代到來，高性能計算芯片所需的功率不斷增加，推升數(shù)據(jù)中心的耗電量亦同步提升。

資料顯示，Esperanto是一家大規(guī)模并行、高性能、高能效計算解決方案設計企業(yè)，此前曾推出一款采用臺積電7nm制程打造的ET-SOC-1的RISC-V架構眾核AI/HPC加速芯片。而Rapidus一家成立于2022年8月的晶圓代工廠商，由豐田、Sony、NTT、NEC、軟銀、Denso、NAND Flash大廠鎧俠、三菱UFJ等8家日企共同出資設立。其位于北海道千歲市的第一座工廠“IIM-1”已于2023年9月動工，預計2025年4月開始運行試生產(chǎn)線，并引進EUV光刻機等設備。Rapidus的目標是在2027年量產(chǎn)2納米米以下最先進邏輯芯片。

而此次Rapidus與Esperanto合作的最初重點就是使未來的半導體設計人員能夠為數(shù)據(jù)中心和企業(yè)邊緣應用的人工智能推理和高性能計算工作負載開發(fā)更節(jié)能的解決方案。這將有助于緩解全球數(shù)據(jù)中心能源消耗的不可持續(xù)增長。


Meta推出超低功耗AI芯片"

Meta去年宣布推出了一款定制芯片，被稱為MTIA，旨在加快生成式AI模型的訓練。這是Meta首次推出的AI定制芯片，被列為加速AI訓練和推理工作負載的芯片“家族”之一。

MTIA，即Meta訓練和推理加速器，是一款ASIC芯片，采用開源芯片架構RISC-V。與主流芯片廠商的產(chǎn)品相比，MTIA芯片的功耗僅為25瓦，大幅降低了能耗。Meta稱，他們在2020年設計了第一代MTIA芯片，采用了7納米工藝。第一代芯片的目標是提高推薦模型的效率，這些模型用于廣告和其他新聞推送內容。在Meta設計的基準測試中，第一代MTIA芯片處理低等和中等復雜度的AI模型時，比GPU效率更高。

Meta的軟件工程師Joel Cohurn在介紹新芯片時表示，Meta最初使用圖形處理單元（GPU）執(zhí)行推理任務，但發(fā)現(xiàn)GPU在這方面并不適合。雖然通過GPU可以對軟件進行優(yōu)化，但在處理真實模型時效率較低，配置上也面臨困難和高成本的問題。因此，Meta推出了MTIA芯片。

Meta承認，在處理高復雜度的AI模型時，MTIA芯片還面臨一些問題，但指出在中低復雜度的模型處理方面，它比競爭對手的芯片更加高效。

Meta表示，目前MTIA芯片主要應用于Meta應用家族的推理，而非訓練任務。然而，Meta強調MTIA芯片大大提高了單位瓦特的推薦負載運行效率，使公司能夠運行更強大、更先進的AI工作負載。

雖然Meta在周四的公告中沒有透露配置新芯片的具體時間表，也沒有提到開發(fā)可能用于訓練模型的芯片的計劃，但同時Meta還宣布計劃重新設計其數(shù)據(jù)中心，針對以AI為核心的網(wǎng)絡和冷卻系統(tǒng)進行改進。據(jù)稱，今年將開始建設首個相關數(shù)據(jù)中心的設施，新設計的成本將降低31%，

建造速度也將是目前數(shù)據(jù)中心的兩倍。


英偉達新AI芯片高算力低能耗，明年成主流

英偉達（NVIDIA）在GTC大會推出Blackwell架構的AI芯片B100、B200及GB200等，不僅效能大幅提升，成本與能耗同步優(yōu)化，市調機構TrendForce預期，B200等產(chǎn)品有望在2024年底陸續(xù)上市，并于2025年成為市場主流。

TrendForce 指出，Blackwell AI服務器架構平臺是今年GTC大會亮點產(chǎn)品，以第2代Transformer引擎與第5代NVLink技術，可支持高達10兆參數(shù)模型的AI訓練與即時大型語言（LLM）推理。

據(jù)英偉達表示，Blackwell架構繪圖處理器（GPU）配備2080億個電晶體，采用臺積電定制化4納米制程制造，透過每秒10TB的芯片到芯片互連連接成單個GPU，利用4位浮點AI推論能力支持加倍地運算。

英偉達指出，最新版本的NVLink提供每個GPU每秒8TB的雙向吞吐量，確保在復雜的大型語言模型中，實現(xiàn)576個GPU間無縫高速溝通。

英偉達表示，GB200 NVL72系統(tǒng)串聯(lián)72個BlackwellGPU和36個Grace中央處理器（CPU），相較于H100Tensor Core GPU，GB200 NVL72可提供30倍的大型語言模型推論工作負載效能，并大幅降低成本和能源消耗。


光芯片開啟低耗高速計算

來自美國賓夕法尼亞大學、諾基亞貝爾實驗的研究團隊提出了一種新型 AI 芯片——利用光波進行復雜數(shù)學運算，從而提升計算機處理速度并降低能耗。這一研究成果有望為解決當前芯片能耗問題帶來新的可能。

相關研究論文以“Inverse-designed low-index-contrast structures on silicon photonics platform for vector-matrix multiplication”為題，已發(fā)表在 Nature 子刊 Nature Photonics 上。

該論文的通訊作者、本杰明·富蘭克林獎章獲得者、賓夕法尼亞大學 H. Nedwill Ramsey 教授 Nader Engheta 表示，由于生產(chǎn)芯片的商業(yè)代工廠的限制，這種設計已經(jīng)可以用于商業(yè)應用，并有可能被改裝用于圖形處理器（GPU）?！八鼈兛梢圆捎霉韫庾庸镜钠脚_作為附加組件，這樣就可以加快訓練和分類的速度?！?br style="color: rgb(102, 102, 102); font-family: 宋體; font-size: 12px; white-space: normal;"/>
此外，Engheta 教授也表示，除了速度更快、能耗更低之外，這種硅光子芯片還具有隱私方面的優(yōu)勢：由于許多計算可以同時進行，因此無需在計算機的工作內存中存儲敏感信息，這使得未來采用這種技術的計算機幾乎無法被黑客攻擊。


低功耗已成新型芯片必備特點

近年來，為應對 AI 算法的快速發(fā)展和應用需求，學界、業(yè)界在 AI 芯片領域已經(jīng)取得了一些重要進展，主要集中在提升計算性能、降低能耗、增強硬件智能等方面。

1. 基于 GPU 的加速器：GPU 加速器已成為 AI 計算的主流選擇之一。通過利用 GPU 的并行計算能力，可以大幅提升 AI 算法的運行速度。近年來，為滿足人工智能應用的需求，NVIDIA 等公司不斷推出性能更強大、功耗更低的 GPU 產(chǎn)品。

2. ASIC 芯片的發(fā)展：ASIC（專用集成電路）芯片是針對特定應用場景進行定制設計的芯片，具有性能高、功耗低的特點。近年來，一些公司推出了針對 AI 算法優(yōu)化的 ASIC 芯片，如 Google 的 TPU（Tensor Processing Unit）和 NVIDIA 的 Tesla 系列。這些芯片在深度學習算法的訓練和推理等方面表現(xiàn)出色，在性能上取得了顯著的提升。

3. FPGA 芯片的應用：FPGA（現(xiàn)場可編程門陣列）芯片具有靈活性高、功耗低的特點，適合用于加速 AI 算法的運行。一些研究團隊正在探索如何利用 FPGA 芯片實現(xiàn)深度學習算法的加速。通過對算法進行硬件優(yōu)化和并行化設計，可以在 FPGA 芯片上實現(xiàn)較高的性能和能效比。

4. 神經(jīng)形態(tài)芯片的研究：神經(jīng)形態(tài)芯片是一種模仿生物神經(jīng)網(wǎng)絡結構和工作原理的新型芯片。它具有并行性強、能耗低的特點，適合用于實現(xiàn)智能感知和學習功能。一些研究機構和公司正在開展神經(jīng)形態(tài)芯片的研究，試圖實現(xiàn)更加智能化的 AI 計算設備。

然而，新型芯片從誕生到成熟應用，還有很長的路要走。

未來，新型芯片仍需要進一步提升其計算性能和能耗效率，實現(xiàn)更高效的數(shù)據(jù)處理和智能計算。此外，加強新型芯片與現(xiàn)有計算平臺和設備的兼容性，實現(xiàn)系統(tǒng)級集成。而且，新型芯片也需要與各個領域融合，包括自動駕駛、醫(yī)療健康、智能制造等。