據(jù)北京大學(xué)官網(wǎng)，該校人工智能研究院在面向邊緣AI的可轉(zhuǎn)置存內(nèi)計算芯片方向研究取得重要進展，該研究團隊提出了一種可同時實現(xiàn)高能效模型推斷前饋計算與訓(xùn)練反向傳播計算的可轉(zhuǎn)置存內(nèi)計算電路設(shè)計，該方案能夠直接在邊緣端完成神經(jīng)網(wǎng)絡(luò)的重訓(xùn)練。

報道表示，研究團隊在基于28nm標(biāo)準(zhǔn)的芯片原型驗證該技術(shù)，前饋計算時的能效和反向傳播計算能效均達(dá)到世界先進水平，該技術(shù)為邊緣端智能提供了低功耗、高魯棒性的AI加速器解決方案。

邊緣AI是傳統(tǒng)云端算力的補充

隨著以ChatGPT為代表的AIGC（人工智能技術(shù)生成內(nèi)容）應(yīng)用大量興起，算力需求大增，同時需要更多的網(wǎng)絡(luò)帶寬成本。此前由于算力資源缺口問題，ChatGPT官網(wǎng)一度停止Plus付費項目的購買，還頻頻下調(diào)提問限制次數(shù)。

傳統(tǒng)的云計算模型通常將大量的數(shù)據(jù)傳輸?shù)綌?shù)據(jù)中心進行處理，然后再將結(jié)果返回到用戶設(shè)備。這種傳統(tǒng)的云計算模型可能存在延遲高、網(wǎng)絡(luò)帶寬消耗大、對隱私和安全性的擔(dān)憂等問題。

邊緣AI運行在邊緣設(shè)備上，不需要將數(shù)據(jù)上傳云端來計算。相較于云端AI，邊緣AI具有低延遲、高安全性、高可靠性、保護用戶隱私等優(yōu)勢。國盛證券表示，由于算力爆發(fā)下產(chǎn)生的海量數(shù)據(jù)傳輸需求，完全依靠IDC（互聯(lián)網(wǎng)數(shù)據(jù)中心）提供中心化算力支撐乃是效率較低的選擇，在此背景下，邊緣計算便成為了傳統(tǒng)云端算力的很好補充。

由于邊緣AI的優(yōu)勢，科技巨頭已將目光盯上。華為、高通均推出邊緣AI產(chǎn)品。今年3月，高通中國在安卓手機上首次演示了模型參數(shù)超過10億的Stable Diffusion；華為將發(fā)布智慧搜圖功能，該功能通過對模型進行小型化處理 。

中信證券表示，華為與高通一定程度上驗證了高性能邊緣AI的可行性，并且表明通過模型壓縮+聯(lián)網(wǎng)智能的方式有望在邊緣端實現(xiàn)AI大模型的體驗。

除了巨頭角逐，邊緣AI應(yīng)用場景持續(xù)豐富。4月初，天貓精靈接入GPT大模型；4月11日，美國智能眼鏡開發(fā)商推出可以為智能眼鏡用戶提供ChatGPT的語音服務(wù)。

國盛證券表示，大模型將大幅提升智能硬件的使用體驗，同時智能硬件本身也將成為愈發(fā)重要的AI入口。當(dāng)前隨著物聯(lián)網(wǎng)模組邁入“智能化”時代，集成了邊緣算力的“智能模組”，正在逐漸成為支撐硬件智能化與邊緣算力的核心形式。


微軟與AMD聯(lián)手對抗英偉達(dá)

在AI熱潮中，微軟正籌備和AMD聯(lián)手，自研AI芯片。

據(jù)媒體援引知情人士的話說，微軟正在提供財務(wù)支持以加強AMD研發(fā)AI芯片的努力，并與之合作開發(fā)代號為Athena的自研AI芯片，這是微軟在自研AI芯片方面多管齊下、多重下注的一部分。

有分析認(rèn)為，此舉反映了微軟對芯片行業(yè)的介入持續(xù)深化。在過去幾年里，該公司一直在英特爾前高管Rani Borkar的領(lǐng)導(dǎo)下建立一個芯片部門，該部門目前擁有近1000名員工。據(jù)其中一位知情人士稱，其中數(shù)百名員工正在從事Athena項目，微軟已在該項目上投入了約20億美元。

但這并不預(yù)示著微軟和英偉達(dá)的分裂。微軟打算與英偉達(dá)保持密切合作，該公司的芯片是訓(xùn)練和運行AI系統(tǒng)的主力軍。微軟還試圖獲得更多英偉達(dá)芯片，這凸顯了微軟和其他公司面臨的AI芯片的緊迫短缺。

4月中旬，據(jù)媒體援引兩位知情人士的話說，微軟早在2019年就開始開發(fā)內(nèi)部代號為Athena的AI芯片。其中一位知情人士稱，一些微軟和OpenAI的員工已經(jīng)開始測試并使用這些芯片。微軟希望該芯片的性能優(yōu)于目前從其他供應(yīng)商處購買的芯片，從而節(jié)省其在昂貴的AI業(yè)務(wù)上的時間和成本。

微軟的這些芯片專為大型語言模型等訓(xùn)練軟件而設(shè)計。在當(dāng)前，市場上所使用的AI芯片幾乎全部來自英偉達(dá)，而受制于產(chǎn)能的限制，英偉達(dá)的AI芯片時常短缺而且價格昂貴，這迫使微軟等公司生產(chǎn)自己的AI芯片。微軟曾表示，為了支撐ChatGPT，需要數(shù)千塊英偉達(dá)的AI芯片。

AMD如今已經(jīng)是微軟以及其他云服務(wù)商，如谷歌和甲骨文的芯片供應(yīng)商。AI芯片領(lǐng)域也是AMD的一個關(guān)鍵優(yōu)先事項。

AMD首席執(zhí)行官Lisa Su在本周二的電話會上說：我們對AI領(lǐng)域的機會感到非常興奮——這是我們的首要戰(zhàn)略重點，我們正處于AI計算時代的早期階段，其采用和增長速度比近代以來任何其他技術(shù)都要快。

Su還表示，AMD有機會為其大客戶制造部分定制的芯片，以用于他們的AI數(shù)據(jù)中心。

知情人士說，即使該項目制定了時間表，日后推出的第一版芯片也只是一個起點。制造一個好的芯片需要數(shù)年時間，而英偉達(dá)已經(jīng)取得了巨大的領(lǐng)先優(yōu)勢。英偉達(dá)是許多生成式AI供應(yīng)商的首選芯片供應(yīng)商，包括亞馬遜公司的AWS和谷歌云，馬斯克也已經(jīng)為其剛剛起步的AI業(yè)務(wù)買下了一萬個英偉達(dá)的AI芯片。

微軟并不是唯一一家嘗試開發(fā)自己的AI芯片的公司。微軟在云計算領(lǐng)域的競爭對手亞馬遜于2016年收購了Annapurna Labs，并開發(fā)了兩種不同的AI芯片；谷歌母公司Alphabet也有自己的訓(xùn)練芯片。


AI芯片分工生變，云端推理加速轉(zhuǎn)移

據(jù)外媒semianalysis報道，ChatGPT每天在計算硬件方面的運營成本為694444美元，Open AI需要大約3617臺HGX A100服務(wù)器（28936個GPU）為ChatGPT提供服務(wù)。真正需要用云端芯片進行推理的需求增加，云端無法承受如此龐大的數(shù)據(jù)和工作量，如果能夠?qū)I云端芯片的處理工作向邊緣側(cè)轉(zhuǎn)移，或許將為大模型的訓(xùn)練和推理釋放更多的計算空間。

與此同時，用戶需求也在改變著典型的AI芯片分工方式，一方面消費者希望保護個人數(shù)據(jù)隱私，即將終端數(shù)據(jù)保留在終端設(shè)備上，另一方面，消費者又需要可靠的數(shù)據(jù)，并即時獲得處理結(jié)果，數(shù)據(jù)不斷從邊緣側(cè)產(chǎn)生，AI處理的重心正在持續(xù)向邊緣轉(zhuǎn)移。

因此，將推理工作轉(zhuǎn)移至邊緣側(cè)終端完成也成為不少企業(yè)為之努力的目標(biāo)和趨勢。高通就在推升終端側(cè)的推理能力方面有著出色表現(xiàn)。

雷峰網(wǎng)了解到，高通正在采取不同的方式實現(xiàn)終端側(cè)的學(xué)習(xí)能力，對包括小樣本學(xué)習(xí)、無監(jiān)督持續(xù)學(xué)習(xí)、聯(lián)邦學(xué)習(xí)和低復(fù)雜度的終端側(cè)訓(xùn)練等方向的研究，且已經(jīng)取得了一些成效。

通過小樣本學(xué)習(xí)，在關(guān)鍵詞識別方面，AI能夠“看完”某一人的筆跡或書面文字之后快速進行辨認(rèn)，也能在用戶錄入數(shù)據(jù)時進行局部模型適應(yīng)，憑借少量樣本數(shù)據(jù)和數(shù)據(jù)標(biāo)記能力，提升關(guān)鍵詞識別能力。

在聯(lián)邦學(xué)習(xí)方面，云端創(chuàng)造的模型被下發(fā)到邊緣側(cè)終端之后，基于一定程度的離線學(xué)習(xí)，終側(cè)端就可以根據(jù)消費者實際情況調(diào)整模型，由于終端側(cè)學(xué)習(xí)的過程會產(chǎn)生噪音，因此還能將其回傳到云端進一步提升模型的泛化能力。在實際的應(yīng)用場景中，如果一輛汽車不斷在多個國家的不同路況上行駛，云端模型就可以持續(xù)進行適應(yīng)，假以時日模型經(jīng)過優(yōu)化，就能打造出更加優(yōu)秀的自動駕駛汽車模型。

為了讓AI在終側(cè)端發(fā)揮最大作用，高通也有針對性的技術(shù)創(chuàng)新。

例如，高通支持INT4的精度推理。INT4相比INT8能夠?qū)崿F(xiàn)60% 的能效提升和90%的AI推理速度提升，如果從INT8轉(zhuǎn)化到INT4、或從浮點計算轉(zhuǎn)化到整數(shù)計算，在同樣的算力下能夠處理更多的數(shù)據(jù)。如果將32位浮點模型轉(zhuǎn)化為INT4模型，能效甚至能夠提升到64倍。


國產(chǎn)芯片水平提高，推動行業(yè)高速增長

人工智能是引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)。我國把人工智能放在國家戰(zhàn)略層面，出臺了一系列重要政策鼓勵支持人工智能的發(fā)展。《新一代人工智能發(fā)展規(guī)劃》明確指出了到2030年我國新一代人工智能發(fā)展“三步走”的戰(zhàn)略目標(biāo)。十四五規(guī)劃中明確提出“推動互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等同各產(chǎn)業(yè)深度融合”。因此，在國家戰(zhàn)略引領(lǐng)與政策支持下，我國人工智能行業(yè)正面臨重要的發(fā)展機遇，將推動AI芯片行業(yè)不斷發(fā)展。

當(dāng)前，我國正加速推進5G基站、人工智能、工業(yè)互聯(lián)網(wǎng)等新型基礎(chǔ)設(shè)施建設(shè)，由于AI芯片是人工智能技術(shù)和產(chǎn)業(yè)發(fā)展的重要支撐，預(yù)計未來將催生大量高端芯片、專用芯片的需求，AI芯片行業(yè)將迎來新一輪的高速增長階段。同時，國產(chǎn)AI芯片發(fā)展水平的不斷提高將為中國企業(yè)人工智能頂層應(yīng)用的算法效果及落地成本賦能。

中國公司的數(shù)字化轉(zhuǎn)型將帶動AI芯片需求的增長，以支持高效處理海量數(shù)據(jù)，從而推動AI芯片行業(yè)的快速發(fā)展和持續(xù)創(chuàng)新。目前，隨著數(shù)字化時代的到來，高級AI芯片、專用AI芯片將存在廣闊的應(yīng)用市場，需求不斷增加，預(yù)計AI芯片行業(yè)將迎來又一個快速發(fā)展階段。