英偉達近日發(fā)布2024財年第四財季及全年財報后，英偉達創(chuàng)始人、總裁兼首席執(zhí)行官黃仁勛在回答分析師提問時表示，AI芯片供不應(yīng)求的狀況將貫穿全年。

黃仁勛稱，總的來說我們的供應(yīng)正在改善，供應(yīng)鏈伙伴對英偉達的支持非常大，從晶圓，包裝，存儲，電源調(diào)節(jié)器，到收發(fā)器，網(wǎng)絡(luò)和電纜等。

大家理解的英偉達GPU就是一個芯片，但其實Hopper架構(gòu)GPU中有35000個零件，是非常復(fù)雜的東西，所以人們稱它為人工智能超級計算機是有充分理由的。

我們預(yù)計供不應(yīng)求的情況還將持續(xù)，并貫穿全年，但我們將盡最大努力緩解短缺問題。每當(dāng)我們推出新產(chǎn)品的時候，是從零增長到非常大數(shù)字的過程，不可能在一夜之間做到這一點，增長是持續(xù)爬坡式的，不會一步到位，黃仁勛稱。

目前我們正在努力實現(xiàn)H200的擴產(chǎn)，但不可能在短期內(nèi)跟上需求，我們也在實現(xiàn)Spectrum-X的擴產(chǎn)，這款接入全球以太網(wǎng)的全新產(chǎn)品需求非常不錯。


全新AI芯片橫空出世

響應(yīng)速度比英偉達快十倍以上

就在全世界還沉浸在Sora帶來的視覺震撼時，AI圈又出了一個“王炸”產(chǎn)品，這一次是在芯片領(lǐng)域。

自從AI賽道大熱以來，人們的關(guān)注點主要在各種大模型的競爭，OpenAI、谷歌、Meta等巨頭和各種初創(chuàng)企業(yè)在軟件層面“爭奇斗艷”。而在硬件層面，似乎英偉達已經(jīng)“一騎絕塵”，該公司生產(chǎn)的GPU芯片“一片難求”，全球AI廠商都爭相求購。

不過就在當(dāng)?shù)貢r間20日，初創(chuàng)芯片企業(yè)Groq開放了免費試用，其芯片響應(yīng)速度震撼了業(yè)界。搭載Groq芯片的大模型回復(fù)用戶的速度極快，達到普通人打字速度的75倍，比英偉達芯片的響應(yīng)速度快10倍以上。對于習(xí)慣了ChatGPT等AI產(chǎn)品“一個字一個字蹦出答案”的用戶來說，如今看到AI模型生成文章的速度比“眨眼睛還快”，其震撼程度可想而知。

Groq在20日宣布對AI云服務(wù)平臺進行免費開放體驗，該公司官方賬號還在社媒發(fā)文，鼓勵粉絲積極參與互動。這次Groq在服務(wù)器上運行了Meta公司開發(fā)的Llama二代大模型等產(chǎn)品，因為和ChatGPT等閉源產(chǎn)品不同，Llama等模型是開源產(chǎn)品，允許其他廠商使用。

很快，體驗了“無卡頓”狀態(tài)的用戶們對Groq發(fā)出了驚嘆和贊美，“刷屏”了整個AI圈。比如，一位市場營銷行業(yè)的用戶截屏說明了自己的體驗：Groq云服務(wù)平臺針對他提出的專業(yè)領(lǐng)域問題，僅用4秒鐘就生成了上千個英文單詞的回答，而且這一回答真實可信，并附有注釋和資料來源。

還有人用實驗證明，Groq云服務(wù)平臺搭配Llama2-70B模型，可以在7分鐘之內(nèi)打出和莎士比亞名篇《哈姆雷特》同樣多單詞量的文章，這一速度至少是普通人打字速度的75倍。有業(yè)界人士評論稱，Groq芯片在響應(yīng)速度上完全秒殺英偉達，給那些“喜歡低延遲體驗”的用戶帶來了極大的驚喜。

在此之前，用戶們已經(jīng)普遍習(xí)慣了由英偉達芯片驅(qū)動下的AI大模型十分緩慢的答復(fù)速度，“就像看著對面打字的人一個字一個字地往外蹦出答案”。而在Groq云服務(wù)平臺，用戶可謂“目不暇接”，AI生成答案的速度遠遠超過肉眼閱讀的速度。

專業(yè)測評顯示，Groq芯片搭配Llama二代模型可以達到每秒近500個token，如果搭配其他小廠商的模型甚至能達到每秒700token的文字處理速度。而根據(jù)公開數(shù)據(jù)測算，英偉達旗下芯片驅(qū)動的GPT大模型的文字生成速度大約為每秒40個token。

眾多科技巨頭布局AI芯片

最近，全球最高市值的科技巨頭微軟宣布計劃設(shè)計一款新的網(wǎng)卡芯片，意圖替代英偉達在市場上的主流產(chǎn)品。外媒The information報道，微軟的網(wǎng)卡芯片與英偉達的ConnectX-7卡類似，將其與GPU和 AI 芯片“捆綁”銷售。

然而，微軟并不是唯一一家自研AI芯片的科技巨頭。亞馬遜旗下的云計算部門AWS和社交媒體巨頭Meta也在積極研發(fā)自家的AI芯片。

AWS推出的基于ARM架構(gòu)的高性能計算服務(wù)器CPU芯片Graviton 3E和第五代Nitro網(wǎng)絡(luò)芯片硬件，無疑是在增強其在云計算領(lǐng)域的競爭力。而Meta計劃部署的第二代自研AI芯片Artemis，則顯示了其在AI領(lǐng)域的野心。

此外，英偉達的另外一個重量級競爭對手華為，不僅積極部署AI芯片領(lǐng)域，而且還搶占了部分英偉達市場。英偉達CEO黃仁勛都表示，華為是英偉達AI芯片最大的競爭對手之一。

這些科技巨頭紛紛入局AI芯片市場，無疑給英偉達帶來了巨大的壓力，這也引發(fā)了業(yè)界的廣泛關(guān)注。

那么，面對如此多的競爭對手，英偉達的AI市場地位真的危險了嗎？

當(dāng)然，答案并非如此簡單。英偉達在AI芯片領(lǐng)域的技術(shù)積累和市場份額仍然具有較大優(yōu)勢。其推出的DPU芯片和BlueField-3 SuperNIC等產(chǎn)品，在性能和功能上都有著不俗的表現(xiàn)。

而且，英偉達也在不斷推出新的技術(shù)和產(chǎn)品，以滿足市場需求并保持技術(shù)領(lǐng)先地位。此外，英偉達還擁有一批忠實的客戶和合作伙伴，這些客戶和合作伙伴對英偉達產(chǎn)品的信任和支持，也是英偉達在市場競爭中的重要優(yōu)勢。

然而，面對競爭對手的挑戰(zhàn)和市場的變化，英偉達也需要不斷調(diào)整自己的戰(zhàn)略和產(chǎn)品線，以適應(yīng)市場的需求和變化。


國內(nèi)8家AI芯片廠商進展

近年在AI大勢與國產(chǎn)替代東風(fēng)下，國內(nèi)AI芯片廠商抓住機遇加速發(fā)展，不僅百度、阿里巴巴、騰訊和華為等大廠加速自研AI芯片，而且AI芯片公司不斷涌現(xiàn)，并深受資本市場青睞。

以下將盤點國內(nèi)8家AI芯片廠商進展：


百度昆侖芯

百度對AI芯片的布局最早可以追溯到2011年，經(jīng)過七年發(fā)展，2018年百度自研AI芯片——昆侖1正式亮相，采用14nm工藝與自研XPU架構(gòu)，于2020年量產(chǎn)，主要應(yīng)用于百度搜索引擎、小度等業(yè)務(wù)。2021年3月，百度昆侖芯片完成獨立融資，同年8月，百度宣布第2代自研AI芯片——昆侖2正式量產(chǎn)，采用7nm制程，搭載自研的第二代XPU架構(gòu)，相比1代性能提升2-3倍，通用性、易用性方面顯著增強。

百度昆侖芯前兩代的產(chǎn)品已有數(shù)萬片部署，第三代產(chǎn)品有望在2024年4月舉辦的百度Create AI開發(fā)者大會上亮相。


阿里平頭哥

阿里平頭哥于2018年9月成立，是阿里巴巴全資半導(dǎo)體芯片業(yè)務(wù)主體，擁有端云一體全棧產(chǎn)品系列，涵蓋數(shù)據(jù)中心芯片、IoT芯片、處理器IP授權(quán)等，實現(xiàn)芯片端到端設(shè)計鏈路全覆蓋。

AI芯片布局上，阿里平頭哥2019年9月推出了其首款高性能人工智能推理芯片——含光800，基于12nm工藝與自研架構(gòu)，集成了170億晶體管，性能峰值算力達820 TOPS。在業(yè)界標(biāo)準(zhǔn)的ResNet-50測試中，推理性能達到78563 IPS，能效比達500 IPS/W。

2023年8月，阿里平頭哥發(fā)布了首個自研RISC-V AI平臺，支持運行170余個主流AI模型，推動RISC-V進入高性能AI應(yīng)用時代。同時，平頭哥宣布玄鐵處理器C920全新升級，C920執(zhí)行GEMM（矩陣的矩陣乘法)計算較Vector方案可提速15倍。

2023年11月，阿里平頭哥玄鐵RISC-V上新了三款基于軟硬協(xié)同新范式的處理器（C920、C907、R910），大幅提升了加速計算能力、安全性及實時性，有望加速推動RISC-V在自動駕駛、人工智能、企業(yè)級SSD、網(wǎng)絡(luò)通信等場景和領(lǐng)域的大規(guī)模商用落地。

騰訊

2021年11月，騰訊宣布在三款芯片上已有實質(zhì)性進展，分別為針對AI計算的紫霄、用于視頻處理的滄海以及面向高性能網(wǎng)絡(luò)的玄靈，其中紫霄已經(jīng)流片成功并點亮。

據(jù)悉，紫霄采用自研存算架構(gòu)和自研加速模塊，可以提供高達3倍的計算加速性能和超過45%的整體成本節(jié)省。紫霄芯片為騰訊內(nèi)部使用，不對外銷售，騰訊通過其云服務(wù)出租算力獲利。

近期，媒體報道知情人士稱騰訊正考慮將紫霄V1作為英偉達A10芯片的替代品，用于AI圖像和語音識別應(yīng)用。此外，騰訊還將推出針對AI訓(xùn)練優(yōu)化的紫霄V2 Pro芯片，以在未來取代英偉達L40S芯片。


華為

華為在2018全聯(lián)接大會上提出了華為AI戰(zhàn)略和全棧全場景AI解決方案，并發(fā)布了2顆全新的AI芯片：昇騰910（Ascend 910）和昇騰310（Ascend 310）。

兩款A(yù)I芯片均基于華為自研達芬奇架構(gòu)，其中Ascend 910（用于訓(xùn)練）采用7nm工藝，半精度達256TFOPs，功耗為350W，運算密度超越了英偉達Tesla V100和谷歌TPU v3。昇騰310屬于Ascend-mini系列第一顆華為商用AI SoC芯片，面向邊緣計算等低功耗領(lǐng)域。

基于昇騰910、昇騰310 AI芯片，華為還推出了Atlas AI計算解決方案。華為昇騰社區(qū)顯示，目前 Atlas 300T 產(chǎn)品有三個型號，分別對應(yīng)昇騰 910A、910B、910 Pro B，最大 300W 功耗，前兩者 AI 算力均為 256 TFLOPS，而 910 Pro B 可達 280 TFLOPS（FP16）。據(jù)悉，華為昇騰芯片910B在2023年已經(jīng)獲得了大客戶至少5000套的訂單，預(yù)計會在2024年交付。業(yè)界認為，華為昇騰910B能力已經(jīng)基本做到可對標(biāo)英偉達A100。

由于國內(nèi)對于華為昇騰910B等國產(chǎn)AI芯片的需求激增，路透社近期報道華為計劃優(yōu)先生產(chǎn)昇騰910B，而這可能將會影響到Mate 60系列所搭載的麒麟9000s芯片的產(chǎn)能。


寒武紀(jì)

寒武紀(jì)成立于2016年，專注于人工智能芯片產(chǎn)品的研發(fā)與技術(shù)創(chuàng)新，提供云邊端一體、軟硬件協(xié)同、訓(xùn)練推理融合、具備統(tǒng)一生態(tài)的系列化智能芯片產(chǎn)品和平臺化基礎(chǔ)系統(tǒng)軟件，產(chǎn)品廣泛應(yīng)用于服務(wù)器廠商和產(chǎn)業(yè)公司。

成立以后，寒武紀(jì)推出多款芯片產(chǎn)品，覆蓋終端、云端與邊緣領(lǐng)域。其中終端芯片包括寒武紀(jì)1A、寒武紀(jì)1H、寒武紀(jì)1M 系列智能處理器；云端智能加速卡包括思元100、思元270、思元 290芯片和思元370；邊緣智能加速卡包括思元220芯片。

其中，思元290智能芯片是寒武紀(jì)的首顆訓(xùn)練芯片，采用臺積電7nm先進制程工藝，集成460億個晶體管，支持MLUv02擴展架構(gòu)，全面支持AI訓(xùn)練、推理或混合型人工智能計算加速任務(wù)。思元370則為該公司的主力產(chǎn)品，采用是7nm制程工藝，同時支持推理和訓(xùn)練任務(wù)。此外，思元370也是寒武紀(jì)首款采用chiplet(芯粒)技術(shù)的AI芯片，集成了390億個晶體管，最大算力高達256TOPS(INT8)。


璧仞科技

壁仞科技創(chuàng)立于2019年，發(fā)展路徑上，壁仞科技將首先聚焦云端通用智能計算，逐步在人工智能訓(xùn)練和推理、圖形渲染等多個領(lǐng)域趕超現(xiàn)有解決方案，實現(xiàn)國產(chǎn)高端通用智能計算芯片的突破。壁仞科技已完成B輪融資，總?cè)谫Y額超50億元人民幣，是國內(nèi)成長勢頭最為迅猛的“獨角獸”企業(yè)之一。

2021年，壁仞科技首款通用GPU芯片BR100系列正式交付開始流片，2022年3月BR100成功點亮，同年8月BR100正式發(fā)布。

據(jù)悉，BR100系列基于壁仞科技自主原創(chuàng)的芯片架構(gòu)開發(fā)，采用成熟的7納米工藝制程，集成770億晶體管，16位浮點算力達到1000T以上、8位定點算力達到2000T以上，單芯片峰值算力達到PFLOPS級別。同時，BR100結(jié)合了包括Chiplet（芯粒技術(shù)）等在內(nèi)的多項業(yè)內(nèi)前沿芯片設(shè)計、制造與封裝技術(shù)，具有高算力、高能效、高通用性等優(yōu)勢。


地平線

地平線是國內(nèi)高效能智能駕駛計算方案提供商，于2015年7月成立，經(jīng)過幾年發(fā)展，陸續(xù)推出多款A(yù)I芯片，產(chǎn)品主要包含旭日與征程系列，其中旭日系列面向AIOT市場，征程系列面向智能駕駛領(lǐng)域。

目前旭日系列已經(jīng)發(fā)展至第三代，旭日3M和旭日3E，分別對應(yīng)高端和低端市場。性能方面，只需在 2.5W 的功耗下，旭日3能夠達到等效 5TOPS 的標(biāo)準(zhǔn)算力，較前一代大幅升級。

征程系列目前已經(jīng)迭代至第五代，征程5芯片于2021年發(fā)布，2022年9月全球首發(fā)量產(chǎn)，單顆芯片AI算力最高可達128 TOPS，支持16路攝像頭，可滿足車廠高級別自動駕駛的量產(chǎn)需求。

2023年11月，地平線宣布征程6系列將于2024年4月正式發(fā)布，并于2024年第四季度完成首批量產(chǎn)車型交付。據(jù)悉，已有多家車企與地平線達成意向合作，包括比亞迪、廣汽集團、大眾汽車集團旗下軟件公司CARIAD、博世等汽車領(lǐng)域頭部企業(yè)。


燧原科技

燧原科技于2018年3月成立，專注人工智能領(lǐng)域云端和邊緣算力，成立5年多已建成云端訓(xùn)練和云端推理兩條產(chǎn)品線，并開發(fā)出云燧?T10、云燧?T20/T21訓(xùn)練產(chǎn)品以及云燧?i10、云燧?i20等推理產(chǎn)品。

燧原科技已于2023年9月宣布完成D輪融資20億元人民幣，由上海國際集團旗下子公司及產(chǎn)業(yè)基金，包括國際資管、國鑫創(chuàng)投、國方創(chuàng)新、金浦投資旗下上海金融科技基金、國和投資聯(lián)合領(lǐng)投，騰訊、美圖公司、武岳峰科創(chuàng)、允泰資本、弘卓資本、紅點中國、廣發(fā)乾和、達泰資本、浦東投控等多家新老股東跟投。

另據(jù)媒體報道，燧原科技第三代AI芯片產(chǎn)品將于2024年初上市。