大模型需要算力，而GPU恰是AI訓(xùn)練算力之源。對(duì)中國而言，AI產(chǎn)業(yè)在大模型加持下已進(jìn)入新賽點(diǎn)，失去高算力芯片對(duì)我國AI產(chǎn)業(yè)發(fā)展而言極為不利，實(shí)現(xiàn)GPU國產(chǎn)替代勢(shì)在必行。

從英偉達(dá)崛起之路看國產(chǎn)GPU

一開始，GPU作為加速圖形繪制的處理器，由英偉達(dá)在1999年發(fā)布GeForce 256圖形處理芯片時(shí)率先提出，當(dāng)時(shí)GPU主要面向的是游戲和PC市場。

由于GPU在處理繪圖任務(wù)時(shí)，能夠高效并行處理海量數(shù)據(jù)，英偉達(dá)又進(jìn)一步將計(jì)算機(jī)程序模擬為渲染過程，將GPU用于通用并行計(jì)算，并在2007年推出了基于CUDA的GPGPU beta版。

相比于圖形渲染類GPU，GPGPU能夠同時(shí)執(zhí)行多個(gè)計(jì)算任務(wù)，從而大幅提高計(jì)算速度和效率。

在AI領(lǐng)域，許多AI算法需要處理大量的數(shù)據(jù)，計(jì)算量龐大。比如，機(jī)器學(xué)習(xí)下的深度學(xué)習(xí)算法需要處理大量的矩陣運(yùn)算，如果在傳統(tǒng)CPU上訓(xùn)練一個(gè)深度學(xué)習(xí)模型可能需要數(shù)周甚至數(shù)月的時(shí)間，而在GPU僅需要數(shù)小時(shí)或者數(shù)天內(nèi)完成，從而大幅提高訓(xùn)練速度和降低成本。

自英偉達(dá)推出GPGPU后，GPU不再局限于圖形計(jì)算的游戲和PC市場，進(jìn)而在AI領(lǐng)域開疆拓土。十幾年來，英偉達(dá)GPU產(chǎn)品在算力和存儲(chǔ)帶寬兩個(gè)方向上，對(duì)比CPU都以超10倍、甚至100倍的優(yōu)勢(shì)領(lǐng)先，人工智能與GPU的發(fā)展可謂相輔相成。

我們知道，GPU的發(fā)展符合摩爾定律，即機(jī)體電路上可容納的晶體數(shù)目，每隔18個(gè)月便會(huì)增加一倍，從而性能提升一倍。英偉達(dá)GPU硬件性能便以每兩年更新一次的節(jié)奏保持更新，使英偉達(dá)GPU效能提升數(shù)十倍，占領(lǐng)了獨(dú)立顯卡技術(shù)的制高點(diǎn)。

截至目前，英偉達(dá)GPU在圖形渲染領(lǐng)域與AMD并駕齊驅(qū)；但在通用GPU領(lǐng)域英偉達(dá)一騎絕塵，市場占有率超80%。如今隨著大模型研究熱潮的興起，無論是大模型的訓(xùn)練還是推理都離不開GPGPU芯片來提供算力支持，全球大模型訓(xùn)練基本依賴英偉達(dá)的GPU。

回到國內(nèi)，如果出口禁令升級(jí)，國產(chǎn)GPU能獨(dú)當(dāng)一面么？

現(xiàn)下AI需求最大的英偉達(dá)GPU A100采用7nm工藝，擁有540億晶體管，支持FP16、FP32和FP64浮點(diǎn)運(yùn)算。2022年3月推出的H100集成800億晶體管，采用4nm工藝，相比A100，H100在浮點(diǎn)運(yùn)算上快三倍。

從硬件來看，在GPU芯片設(shè)計(jì)端，國內(nèi)GPU廠商中壁仞、天數(shù)智芯、沐曦等均已推出采用7nm工藝的GPU，芯瞳半導(dǎo)體、芯動(dòng)科技、摩爾線程等公司也相繼推出GPU產(chǎn)品。

此外，原CPU廠商龍芯、海光等也在加注GPGPU，不過龍芯GPGPU主要是集成在自家SOC中，預(yù)計(jì)2024年龍芯將流片。海光信息推出DCU屬于GPGPU一種。

來源：數(shù)據(jù)猿，根據(jù)公開信息制表

在國內(nèi)GPU廠商中，景嘉微已成功研發(fā)以 JM5系列、JM7系列、JM9系列為代表的、具有自主知識(shí)產(chǎn)權(quán)的圖形處理芯片，并實(shí)現(xiàn)了規(guī)?；逃?，在國內(nèi)GPU領(lǐng)域處于領(lǐng)先地位，是國內(nèi)唯一一家GPU營收突破10億元的公司，2022年凈利潤近3億元。

英偉達(dá)2024財(cái)年一季度營業(yè)收入為71.92億美元（折合人民幣約507.82億元），凈利20.43億美元（折合人民幣約144.25億元。相比之下，景嘉微的整年?duì)I收僅是英偉達(dá)一個(gè)季度營收的1%，更不要說其他GPU初創(chuàng)企業(yè)的差距。

“中國GPU廠商的設(shè)計(jì)能力并不差，但整體產(chǎn)業(yè)鏈的能力還落后5-10年。”華院計(jì)算技術(shù)總監(jiān)楊小東在采訪中表示。“可以看到，近幾年一些GPU初創(chuàng)公司，成立僅2-3年就可以設(shè)計(jì)出一款性能還不錯(cuò)的GPU，但設(shè)計(jì)之后能不能順利流片，能不能量產(chǎn)，是否可用，這中間涉及了眾多環(huán)節(jié)。一次流片未必成功，即便流片成功，到規(guī)模化量產(chǎn)，成本控制這一塊還有很長的一段路要走。”

以芯片代工為例，臺(tái)積電是全球代工龍頭，先進(jìn)制程方面已經(jīng)實(shí)現(xiàn)3nm量產(chǎn)，2nm試產(chǎn)。國內(nèi)中芯國際目前可以實(shí)現(xiàn)14nm量產(chǎn)、7nm在研，跟臺(tái)積電至少有三代技術(shù)差。

現(xiàn)階段國產(chǎn)GPU廠商設(shè)計(jì)的7nm芯片，國內(nèi)代工廠由于技術(shù)問題尚且無法提供流片服務(wù)，那么GPU廠商大概率還是選擇先進(jìn)工藝成熟的臺(tái)積電流片。據(jù)業(yè)內(nèi)人士陳飛透露，初創(chuàng)企業(yè)找臺(tái)積電流片，不僅要高額代工費(fèi)（2-3億人民幣），流片需要的材料還需要自己找，然后帶著材料找臺(tái)積電流片……

一顆芯片從設(shè)計(jì)到量產(chǎn)，流片屬于非常關(guān)鍵的環(huán)節(jié)。當(dāng)芯片完全設(shè)計(jì)出來以后需要按照?qǐng)D紙?jiān)诰A上進(jìn)行蝕刻，采用什么樣的制程工藝，多大尺寸的晶圓，芯片的復(fù)雜程度都會(huì)影響這顆芯片的流片成功率和成本，而且許多芯片都不是一次就能流片成功的，往往需要進(jìn)行多次流片才能獲得較為理想的效果。流片是一件非常燒錢的事，多幾次流片失敗，可能就會(huì)把公司搞垮。

對(duì)初創(chuàng)GPU廠商來說，從產(chǎn)品設(shè)計(jì)到落地漫漫長路，又因摩爾定律2年性能翻倍，不得不加速快跑。但當(dāng)他們攻克硬件難題后，會(huì)發(fā)現(xiàn)“軟件生態(tài)”才是國產(chǎn)GPU無法撼動(dòng)英偉達(dá)的根本原因。

CUDA是英偉達(dá)最深的護(hù)城河

軟件、算法與生態(tài)是GPU廠商比拼的軟實(shí)力，也是一款芯片從“能用”到“好用”的關(guān)鍵。

一般而言，GPU生態(tài)基本由軟件構(gòu)成，需要在算法平臺(tái)上完成。基于平臺(tái)算法去適配各種API接口、下游應(yīng)用以及其所需要的各種各樣的函數(shù)。雖然國內(nèi)GPU在硬件性能上的差距正逐步縮小，但軟件生態(tài)上的差距巨大。在訪談中，多家GPU廠商談到，CUDA是英偉達(dá)最深的護(hù)城河。

CUDA究竟是什么呢？

CUDA(計(jì)算統(tǒng)一設(shè)備架構(gòu))是一種用于高性能計(jì)算的編程模型和應(yīng)用程序接口。它提供了一種簡單、高效的方式來訪問GPU的計(jì)算能力，使得開發(fā)者可以方便地編寫跨平臺(tái)GPU程序。

簡單講，CUDA就是英偉達(dá)獨(dú)家的并行計(jì)算平臺(tái)，通過CUDA提供的API接口來做應(yīng)用開發(fā)，調(diào)用英偉達(dá)GPU的運(yùn)算能力，使開發(fā)者能夠?yàn)镚PU的并行處理能力構(gòu)建軟件。

“對(duì)芯片下游的應(yīng)用廠商來說，GPU具體配備了多大內(nèi)存、采用了怎樣的硬件架構(gòu)，他們可能并不關(guān)心。他們關(guān)心的是，在GPU硬件上能跑出怎樣的性能，這其實(shí)是軟件層面所決定的。”陳飛說。

遵循摩爾定律的GPU，兩年不到就要推出新產(chǎn)品，不然就會(huì)在競爭中掉隊(duì)。所以，在硬件上英偉達(dá)很難擺脫對(duì)手。

但在CUDA平臺(tái)發(fā)布后，一切就發(fā)生了變化。英偉達(dá)所有芯片設(shè)計(jì)都與CUDA兼容，且用CUDA平臺(tái)構(gòu)建軟件能發(fā)揮英偉達(dá)GPU100% 的性能，所以但凡是英偉達(dá)GPU的用戶都需要用CUDA，從而培養(yǎng)了用戶使用習(xí)慣。

近兩三年GPU國產(chǎn)替代熱度高漲，各家GPU硬件有各自的優(yōu)勢(shì)，某些數(shù)據(jù)精度也能跟英偉達(dá)PK，但唯獨(dú)軟件生態(tài)是短板。對(duì)于此，陳飛談到“軟件開發(fā)是需要時(shí)間的，需要不斷增加用戶來推動(dòng)軟件迭代，依據(jù)用戶實(shí)際需求來完善軟件開發(fā)。而且需要軟硬件協(xié)同開發(fā)，這是我們國內(nèi)GPU初創(chuàng)企業(yè)在研發(fā)第一代產(chǎn)品時(shí)候最容易忽略的。”

從2006年英偉達(dá)推出CUDA到現(xiàn)在，英偉達(dá)花費(fèi)近二十幾年的時(shí)間打造了CUDA軟件平臺(tái)。“首先它是不開源的，所有IP都掌握在英偉達(dá)手里。其次它匯集了400萬的開發(fā)者，這些用戶每天都在給反饋，從而形成一種‘滾雪球’似的良性循環(huán)：好的性能帶來好的生態(tài)，好的生態(tài)又有助于更好的性能，進(jìn)而形成生態(tài)壁壘。”陳飛表示。

目前，幾乎所有跟AI相關(guān)的應(yīng)用開發(fā)的廠商，都在基于CUDA平臺(tái)來寫代碼，所有 AI 芯片，各種 xPU 們，在落地之前，做的第一件事就是匹配 CUDA。

對(duì)于國產(chǎn)GPU生態(tài)建設(shè)，華院計(jì)算技術(shù)總監(jiān)楊小東認(rèn)為：“只賣GPU硬件是不行的，為了用好GPU還需要完善一系列生態(tài)配套，比如驅(qū)動(dòng)、軟件等等，如果軟件框架支持不了，那么大家想用也用不上。目前，國產(chǎn)GPU尚未達(dá)到完全市場化的程度，處于市場開拓的早期，軟硬件的原因都有。”

必須承認(rèn)的是，英偉達(dá)CUDA生態(tài)建設(shè)上的成功并不是一蹴而就的，十幾年的漫長積累才形成了“聚沙成塔，聚水成涓”的局面，龐大的用戶群需要慢慢養(yǎng)成。對(duì)此，天數(shù)智芯產(chǎn)品線總裁鄒翾認(rèn)為，與國際主流產(chǎn)品相比，國內(nèi)的GPU在旗艦級(jí)上是有差距的；而國內(nèi)的客戶可能對(duì)于國內(nèi)的GPU產(chǎn)品還不夠了解，也需要時(shí)間去培養(yǎng)客戶。

國產(chǎn)通用GPU從0到1，實(shí)現(xiàn)商業(yè)化可用

但值得肯定的是，國產(chǎn)通用GPU已打開局面。

如今，全球GPU市場已經(jīng)形成壟斷局面，相比于圖形渲染GPU，通用GPU似乎發(fā)展前景更為廣闊。

“最關(guān)鍵一點(diǎn)，AI是一個(gè)在不斷增長的藍(lán)海市場。”楊小東在談及國產(chǎn)通用型GPU比渲染型GPU發(fā)展更為迅速的現(xiàn)象時(shí)表示。“AI市場潛力足夠大，英偉達(dá)不可能全部吃下。隨著英偉達(dá)從國內(nèi)市場退出，國產(chǎn)廠商可以嘗試吃掉英偉達(dá)的一部分蛋糕。從趨勢(shì)上說，國產(chǎn)GPGPU發(fā)展更快、更熱鬧。”

2018年啟動(dòng)芯片設(shè)計(jì)的天數(shù)智芯，在開發(fā)首款產(chǎn)品之初，即瞄準(zhǔn)通用GPU產(chǎn)品的通用性及AI領(lǐng)域廣泛的應(yīng)用場景。數(shù)智芯產(chǎn)品線總裁鄒翾告訴數(shù)據(jù)猿：“從國內(nèi)GPU整體現(xiàn)狀來看，與國外巨頭仍然存在一定的差距，但經(jīng)過前幾年AI市場的淬煉之后，已然實(shí)現(xiàn)了國產(chǎn)GPGPU‘從0到1’的突破，達(dá)到可用的程度。未來，我們將一直堅(jiān)持通用GPU戰(zhàn)略，挖掘通用GPU市場并推出針對(duì)市場及用戶需求的優(yōu)質(zhì)產(chǎn)品，利用先發(fā)優(yōu)勢(shì)，進(jìn)一步根據(jù)用戶反饋普及市場應(yīng)用情況，加速產(chǎn)品迭代升級(jí)。”

目前天數(shù)智芯已經(jīng)有兩款通用GPU產(chǎn)品天垓、智鎧落地，可以支持當(dāng)下用戶的一些需求，下游應(yīng)用場景廣泛。可應(yīng)用于訓(xùn)練、推理、通用計(jì)算、新算法研究等場景，服務(wù)于互聯(lián)網(wǎng)、安防、運(yùn)營商、醫(yī)療、教育、金融及自動(dòng)駕駛等各相關(guān)行業(yè)。

除天數(shù)智芯外，國產(chǎn)GPU廠商中2019年成立的壁仞，第一代GPGPU產(chǎn)品壁礪系列在2022年底已經(jīng)量產(chǎn)，并獲得了一些訂單。登臨科技的通用GPU系列產(chǎn)品—Goldwasser™也已量產(chǎn)，此前已加入由飛槳發(fā)起的“硬件生態(tài)共創(chuàng)計(jì)劃”，通過各自在軟硬件產(chǎn)品的優(yōu)勢(shì)，實(shí)現(xiàn)強(qiáng)強(qiáng)聯(lián)合，共推AI產(chǎn)業(yè)化落地。

煉AI大模型必交“GPU稅”

2023年，ChatGPT迅速崛起，一股AI熱浪正席卷全球。

考量模型的重要標(biāo)準(zhǔn)之一是大參數(shù)。當(dāng)模型規(guī)模達(dá)到一定程度時(shí)，任務(wù)性能會(huì)出現(xiàn)明顯的突變。大語言模型的基礎(chǔ)具有很強(qiáng)的可擴(kuò)展性，可以實(shí)現(xiàn)反復(fù)自我迭代，參數(shù)對(duì)大模型性能起到明顯作用。而參數(shù)量越多，意味著消耗的算力資源越多。

由此，大模型的出現(xiàn)帶來了算力的增量需求。根據(jù)Verified Market Research數(shù)據(jù)，2020年，全球GPU市場規(guī)模為254.1億美元（約合人民幣1717.2億元）。隨著需求的不斷增長，預(yù)計(jì)到2028年，這一數(shù)字將達(dá)到2465.1億美元（約合人民幣1.67萬億元），年復(fù)合增長率（CAGR）為32.82%。

在英偉達(dá)聯(lián)合發(fā)布的論文中，給出了ChatGPT訓(xùn)練時(shí)間的經(jīng)驗(yàn)公式。在這一論文中，訓(xùn)練175B GPT-3需要34天，使用了1024塊A100 GPU。

囤A100就相當(dāng)于囤算力。目前，A100官方售價(jià)是1萬美金，換算成人民幣大概是7.2萬，現(xiàn)在已經(jīng)炒到15萬-20萬/片?？梢韵胂?，通用GPU市場需求之旺盛，市場之廣闊。

近幾年，在政策與需求的雙輪驅(qū)動(dòng)中，“為國分憂”國產(chǎn)GPU初創(chuàng)企業(yè)紛紛涌現(xiàn)。

據(jù)不完全數(shù)據(jù)統(tǒng)計(jì)，國產(chǎn)GPU融資在2021年迎來高峰，總?cè)谫Y額突破100億，達(dá)到126.35億元。即便2022年融資總額“腰斬”，但在近8個(gè)完整年度的融資表現(xiàn)中，依然位列第二。2020年-2022年均是GPU投融資大年。

制圖：數(shù)據(jù)猿，公開數(shù)據(jù)統(tǒng)計(jì)

制表：數(shù)據(jù)猿，公開數(shù)據(jù)統(tǒng)計(jì)

眾多成立2-3年的初創(chuàng)企業(yè)獲得了多輪次巨額融資，但如果對(duì)照GPU芯片研發(fā)本身來說，似乎并不多。陳飛透露，一款GPU從設(shè)計(jì)到正式落地，整體花費(fèi)大致要20幾億人民幣，做GPU是非常“燒錢”的一件事。

除了“燒錢”，GPU產(chǎn)品從開發(fā)到流片到反片調(diào)優(yōu)，然后正式發(fā)布這個(gè)完整周期，大概需要一年半到兩年甚至更長的時(shí)間。

對(duì)初創(chuàng)企業(yè)來說，硬件層面需要跨越產(chǎn)業(yè)鏈、成本難題；軟件層面需要培養(yǎng)客戶，軟硬協(xié)同……國產(chǎn)GPU之路注定艱難，但艱難的路，才是上坡路。

談及國產(chǎn)GPU未來，鄒翾認(rèn)為，隨著時(shí)間的推移，國產(chǎn)GPU性能不斷攀升、應(yīng)用將全面開花，有望在5~10年實(shí)現(xiàn)追趕。應(yīng)用落地是提升國產(chǎn)GPU實(shí)力的最佳“試驗(yàn)田”。一方面GPU從可用到好用還需要技術(shù)和時(shí)間積累，需要積累口碑、擴(kuò)大品牌效應(yīng)。另一方面，國產(chǎn)GPU可著力應(yīng)用落地，加大與客戶合作力度，在打開局面之后再逐漸擴(kuò)大領(lǐng)地。

（注：文中陳飛為化名）

文：木陽 / 數(shù)據(jù)猿

來源：數(shù)據(jù)猿