在數(shù)字時代，石油曾是工業(yè)的血液，驅(qū)動著世界的運轉(zhuǎn)。然而，隨著人工智能的興起，一種新的能源正在悄然崛起，它就是算力——AI時代的新石油。這不再是關(guān)于地下的挖掘，而是關(guān)于數(shù)據(jù)的開采和智能的提煉。在這個新紀(jì)元，算力成為了衡量一個企業(yè)、一個國家乃至一個文明進步的關(guān)鍵指標(biāo)。

每一個算力時代，都有兩大核心，一個是計算芯片，另一個是操作系統(tǒng)。在CPU時代，就是大名鼎鼎的Wintel聯(lián)盟。那么在AI時代呢？目前看最有可能的就是英偉達的GPU+CUDA。也就是說，英偉達集最強的AI算力和AI操作系統(tǒng)于一身，難怪其市值能直逼3萬億美元。

在CPU算力時代，我們被Wintel卡了很多年脖子。直到華為芯片+鴻蒙操作系統(tǒng)的出現(xiàn)，我們才看到了一點點“解套”的曙光（注意，也僅僅是一點曙光）。上一個卡點還沒解決好，英偉達GPU+CUDA又成了AI時代的另一個卡點。

那這一個卡點該怎么解決呢？目前來看，還是得靠華為——Ascend（昇騰）+CANN。但這有幾成勝算呢？要知道，生態(tài)的壁壘是最難打破的。鴻蒙都不能算成功了，CANN要打破CUDA的圍堵，還有漫漫長路。

老牌霸主，英偉達CUDA的統(tǒng)治力

CUDA（Compute Unified Device Architecture），由英偉達在2006年推出，標(biāo)志著GPU并行計算的新時代的開啟。這一創(chuàng)新的并行計算平臺和API模型，不僅讓GPU超越了圖形渲染的界限，更在科學(xué)計算、深度學(xué)習(xí)、數(shù)據(jù)分析等領(lǐng)域發(fā)揮著巨大的作用。CUDA的誕生，使得開發(fā)者能夠利用GPU的強大并行處理能力，為各種計算密集型任務(wù)提供了加速的可能。

自誕生以來，CUDA經(jīng)歷了多個重要版本的更新，每一次更新都為行業(yè)帶來了深遠的影響。例如，CUDA 2.0引入了對雙精度浮點運算的支持，這對科學(xué)計算尤為重要。隨后的版本，如CUDA 4.0，特別強調(diào)了對多GPU系統(tǒng)的支持，允許更加靈活的數(shù)據(jù)共享和任務(wù)分配，進一步推動了高性能計算的發(fā)展。到了CUDA 11，英偉達特別重視對大規(guī)模數(shù)據(jù)集和AI模型的支持，以及增強的異構(gòu)計算能力，這在深度學(xué)習(xí)領(lǐng)域的應(yīng)用尤為突出。

CUDA不僅僅是一個計算平臺，它更是一個龐大的技術(shù)生態(tài)系統(tǒng)。英偉達通過CUDA，構(gòu)建了一個包括開發(fā)庫（Libraries）、運行時（Runtime）和驅(qū)動（Driver）在內(nèi)的完整軟件棧。這個生態(tài)系統(tǒng)為開發(fā)者提供了豐富的工具和資源，包括數(shù)學(xué)和科學(xué)計算任務(wù)運算庫、便捷的應(yīng)用開發(fā)接口等，極大地促進了技術(shù)創(chuàng)新和應(yīng)用開發(fā)。

CUDA的統(tǒng)治力在GPU行業(yè)中是顯而易見的，CUDA平臺的廣泛應(yīng)用和強大的生態(tài)系統(tǒng)，為英偉達在高性能計算、人工智能、數(shù)據(jù)中心等領(lǐng)域提供了堅實的基礎(chǔ)。隨著技術(shù)的不斷進步和市場需求的增長，CUDA的市場份額和行業(yè)影響力預(yù)計將會進一步擴大。

CUDA的成功不僅在于其技術(shù)優(yōu)勢，更在于它所構(gòu)建的生態(tài)系統(tǒng)和社區(qū)。數(shù)百萬的開發(fā)者、科研人員和企業(yè)在使用和貢獻于CUDA平臺，形成了一個自我增強、不斷創(chuàng)新的循環(huán)。這種由下至上的創(chuàng)新模式，使得CUDA能夠持續(xù)引領(lǐng)行業(yè)發(fā)展，保持其霸主地位。

CUDA并不缺挑戰(zhàn)者

AMD作為GPU領(lǐng)域的另一大巨頭，同樣擁有自己的并行計算平臺來與英偉達的CUDA競爭。AMD的相應(yīng)技術(shù)是ROCm（Radeon Open Compute platform），這是一個開源軟件平臺，旨在提供高性能的GPU計算解決方案。

ROCm最初發(fā)布于2015年，比CUDA晚了整整9年，其旨在為AMD GPU提供類似于CUDA的編程模型和工具鏈。它支持多種編程語言，包括C++、Fortran等，并提供了一套豐富的數(shù)學(xué)庫和計算接口。

隨著版本的迭代，ROCm不斷增加新特性和優(yōu)化性能，例如支持OpenCL、HIP（一種類似于CUDA的編程模型）等，使得開發(fā)者可以更容易地將CUDA代碼移植到AMD GPU上。

ROCm 5.0版本，對性能和穩(wěn)定性進行了顯著改進，支持了更多的AI框架和庫，如TensorFlow、PyTorch等，同時增強了對AMD最新GPU架構(gòu)的支持。

盡管ROCm在不斷進步，但CUDA由于其先發(fā)優(yōu)勢和長期積累，已經(jīng)建立了一個龐大且成熟的生態(tài)系統(tǒng)，擁有更廣泛的開發(fā)者基礎(chǔ)和社區(qū)支持。CUDA提供了更全面的庫支持和優(yōu)化，這使得在許多情況下，開發(fā)者更傾向于使用CUDA。

據(jù)JCR統(tǒng)計，英偉達在全球GPU市場中占據(jù)了80%以上的份額，而AMD的市場份額相對較小。據(jù)統(tǒng)計，CUDA的開發(fā)者數(shù)量在2020年已達到200萬，到2023年增長至400萬，顯示出其強大的用戶基礎(chǔ)和需求粘性。

盡管AMD的ROCm在開放性、多供應(yīng)商支持方面具有優(yōu)勢，但要想在短期內(nèi)撼動CUDA的市場地位幾乎不太可能。

來自中國的挑戰(zhàn)者——華為CANN

除了AMD的ROCm，英偉達CUDA的另一個挑戰(zhàn)者，是來自中國的CANN。CANN（Compute Architecture for Neural Networks）的誕生標(biāo)志著華為在AI算力領(lǐng)域的深入布局，作為昇騰AI全棧的核心，CANN扮演著承上啟下的關(guān)鍵角色，適配多框架與多異構(gòu)芯片，為多樣化的AI應(yīng)用場景提供高效易用的編程方式。

自CANN 1.0的誕生之日起，華為便在AI算力領(lǐng)域展開了一場技術(shù)革新的馬拉松。隨著AI技術(shù)的不斷進步，CANN也迎來了快速的迭代更新。

CANN 3.0的發(fā)布，標(biāo)志著華為在異構(gòu)計算架構(gòu)上的一次重大飛躍。這一版本不僅優(yōu)化了與上層深度學(xué)習(xí)框架的兼容性，更在底層AI硬件的適配上做了深入的工作，實現(xiàn)了軟硬件之間的高效協(xié)同。這種優(yōu)化大幅度提升了AI模型的開發(fā)效率和運行性能，為AI應(yīng)用的快速部署和穩(wěn)定運行打下了堅實的基礎(chǔ)。

緊接著，CANN 5.0的問世，自動流水技術(shù)的應(yīng)用，使得計算任務(wù)能夠在硬件上實現(xiàn)無縫銜接，極大提高了計算的并行度和執(zhí)行效率。算子深度融合技術(shù)，通過減少計算節(jié)點和內(nèi)存拷貝，進一步提升了性能。自適應(yīng)梯度切分技術(shù)優(yōu)化了大規(guī)模集群訓(xùn)練中的梯度同步問題，降低了通信拖尾，提高了訓(xùn)練效率。而智能計算調(diào)優(yōu)技術(shù)，則通過自動化的調(diào)優(yōu)策略，為不同網(wǎng)絡(luò)模型提供了定制化的優(yōu)化方案，使得CANN 5.0在性能上實現(xiàn)了質(zhì)的飛躍。

CANN 6.0商用版也已于2022年發(fā)布，支持新的操作系統(tǒng)、pyACL接口，以及虛擬機直通場景算力切分等功能。

此外，CANN社區(qū)版6.2.RC2.alpha001和6.3.RC2.alpha005版本也相繼發(fā)布，支持Ascend 310B芯片和Ascend 310P/910系列相關(guān)產(chǎn)品，進一步擴展了CANN的應(yīng)用范圍和兼容性。

進入2024年，CANN 7.0.0、CANN 7.0.1相繼發(fā)布，可見CANN正在加速成長?？磥恚A為也有點著急了。

CANN的持續(xù)發(fā)展不僅體現(xiàn)了華為在AI算力領(lǐng)域的技術(shù)積累，也展現(xiàn)了其構(gòu)建全場景人工智能平臺的決心。通過不斷的技術(shù)創(chuàng)新和版本迭代，CANN正逐步成為推動AI產(chǎn)業(yè)發(fā)展的重要力量。

CANN與CUDA的“戰(zhàn)況”

華為CANN與英偉達CUDA在AI和高性能計算領(lǐng)域扮演著相似的角色，它們都是各自公司技術(shù)架構(gòu)中的關(guān)鍵一環(huán)。CUDA作為一個并行計算平臺和編程模型，釋放了英偉達GPU在處理計算密集型任務(wù)時的強大潛力。同樣，CANN為華為昇騰AI處理器提供了一個專門的異構(gòu)計算架構(gòu)，以實現(xiàn)高效的AI模型訓(xùn)練和推理。

兩者都為開發(fā)者提供了硬件加速的能力，通過專門的編程接口和API，使得在專用硬件上運行的程序能夠充分利用其計算能力。它們還建立了各自的生態(tài)系統(tǒng)，包括工具、庫、框架和社區(qū)支持，這些資源極大地促進了開發(fā)者的工作效率。

盡管CUDA主要針對英偉達的GPU，而CANN專為華為昇騰AI處理器設(shè)計，但它們都在努力實現(xiàn)跨平臺的支持，以滿足不同應(yīng)用場景的需求。此外，CANN和CUDA都通過不斷的技術(shù)創(chuàng)新和版本迭代，對性能進行了深度優(yōu)化，確保了更快的處理速度和更高的計算效率。

接下來，我們就從幾個不同的角度，來將CANN與CUDA進行對比。

CANN與CUDA的設(shè)計哲學(xué)體現(xiàn)了兩種不同的技術(shù)邏輯，CANN，作為華為昇騰AI處理器的使能平臺，其設(shè)計初衷是提供全棧AI解決方案，以適應(yīng)多樣化的AI應(yīng)用場景。CANN的架構(gòu)優(yōu)化了軟硬件協(xié)同，注重在異構(gòu)計算環(huán)境中的性能和效率。相比之下，CUDA由英偉達推出，是一個成熟的并行計算平臺和編程模型，其設(shè)計哲學(xué)著重于利用GPU的強大并行處理能力，服務(wù)于廣泛的計算密集型任務(wù)，包括但不限于AI。也就是說，CUDA的通用性和適用范圍比CANN更廣。

華為將CANN置于其AI戰(zhàn)略的核心位置，視其為推動昇騰AI處理器市場競爭力的關(guān)鍵。CANN不僅是技術(shù)實力的展示，也是華為構(gòu)建開放AI生態(tài)系統(tǒng)、推動AI技術(shù)普及的重要工具。對英偉達而言，CUDA是其GPU技術(shù)的延伸，通過CUDA，英偉達鞏固了其在高性能計算和AI領(lǐng)域的領(lǐng)導(dǎo)地位，同時CUDA的廣泛采用也為英偉達帶來了顯著的網(wǎng)絡(luò)效應(yīng)。

在性能方面，CANN和CUDA各有千秋。CANN通過自動流水、算子深度融合等技術(shù)，在AI模型訓(xùn)練和推理性能上取得了顯著進步。CUDA則憑借其成熟的優(yōu)化和廣泛的硬件支持，提供了極高的計算效率和穩(wěn)定性。兩者在處理速度上的競爭，也反映了它們在不同應(yīng)用場景下的性能優(yōu)化策略。

CANN和CUDA在不同的應(yīng)用場景中展現(xiàn)出各自的優(yōu)勢，CANN在處理大規(guī)模AI訓(xùn)練和推理任務(wù)時，特別是在華為昇騰AI處理器上，展現(xiàn)出優(yōu)異的性能。CUDA則因其廣泛的硬件兼容性和成熟的生態(tài)，被廣泛應(yīng)用于科學(xué)研究、工程設(shè)計、內(nèi)容創(chuàng)作等多個領(lǐng)域。

當(dāng)然，雖然華為CANN在某些方面做出了自己的特色，但要拼綜合實力，其離英偉達CUDA還有不小的距離。

更重要的是，開發(fā)者生態(tài)的競爭。CUDA擁有龐大的開發(fā)者社區(qū)和豐富的學(xué)習(xí)資源，為開發(fā)者提供了強大的支持。華為也在積極構(gòu)建CANN的開發(fā)者生態(tài)，通過提供豐富的工具、文檔和社區(qū)支持，吸引和培養(yǎng)開發(fā)者。然而，華為CANN離構(gòu)建英偉達CUDA那樣完善強大的開發(fā)者生態(tài)，還有非常遙遠的距離。

華為CANN，能成為Ascend（昇騰）芯片的黃金搭檔么？

華為CANN作為昇騰Ascend處理器的使能平臺，其設(shè)計和優(yōu)化緊密圍繞著昇騰Ascend的硬件架構(gòu)，旨在充分發(fā)揮昇騰AI處理器的性能。從這個角度來看，CANN確實有潛力成為昇騰Ascend的黃金搭檔，助力華為在AI算力領(lǐng)域的長遠發(fā)展。

昇騰Ascend的發(fā)展歷程，是華為在AI算力領(lǐng)域技術(shù)積累和創(chuàng)新的縮影。自2018年華為發(fā)布昇騰310和昇騰910 AI處理器以來，昇騰系列就以其卓越的性能和專為AI計算優(yōu)化的設(shè)計，迅速在AI處理器市場占據(jù)了一席之地。

隨后，華為在2019年推出的昇騰AI計算架構(gòu)進一步豐富了昇騰系列的生態(tài)系統(tǒng)，通過整合昇騰處理器、AI加速模塊和開發(fā)環(huán)境，為開發(fā)者提供了一個全棧的AI解決方案。這一舉措極大地提升了昇騰AI處理器的易用性和靈活性，加速了AI應(yīng)用的開發(fā)和部署。

進入2020年，CANN 3.0版本的發(fā)布標(biāo)志著昇騰AI處理器在性能和開發(fā)效率上的一次飛躍。自動流水技術(shù)和算子深度融合等創(chuàng)新技術(shù)的引入，不僅優(yōu)化了處理器的計算能力，也簡化了開發(fā)者的編程工作，使得昇騰AI處理器在處理復(fù)雜AI任務(wù)時更加高效。

到了2021年，CANN 5.0版本的發(fā)布帶來了性能上的進一步提升，通過軟硬件協(xié)同優(yōu)化，昇騰AI處理器在執(zhí)行大規(guī)模AI模型訓(xùn)練和推理任務(wù)時展現(xiàn)出了卓越的性能。而2022年昇騰CANN商用版6.0的發(fā)布，支持新的操作系統(tǒng)和虛擬機直通場景算力切分，進一步提升了昇騰AI處理器的適用性和靈活性。

到了2023年，昇騰Ascend的發(fā)展持續(xù)加速，華為在昇騰AI處理器上的持續(xù)投入和創(chuàng)新，不僅推動了AI技術(shù)的進步，也為昇騰Ascend在AI算力領(lǐng)域的發(fā)展奠定了堅實的基礎(chǔ)。

根據(jù)最新信息，昇騰Ascend在2024年的出貨量預(yù)期非常樂觀，預(yù)估在30萬到60萬片之間，價格方面也有所上漲。美國對高端GPU和CPU的出口管控導(dǎo)致中國市場對國產(chǎn)算力需求顯著增加，去年增長了接近400%，今年需求方面基本上能保持去年的增長速率。此外，昇騰的主要客戶包括互聯(lián)網(wǎng)運營商等，需求量巨大。

近期，英偉達更新了其CUDA用戶許可協(xié)議（EULA），明確禁止在非英偉達硬件平臺上通過翻譯層運行基于CUDA的軟件。這一政策變動對于依賴CUDA進行AI計算的第三方GPU制造商構(gòu)成了挑戰(zhàn)，尤其是對于那些尋求通過兼容CUDA來擴展其產(chǎn)品的開發(fā)者和公司。

英偉達的這一政策變動，無疑增加了華為CANN的緊迫感。如果CANN不能快速發(fā)展并提供與CUDA相匹敵的性能和易用性，可能會影響昇騰Ascend在AI算力領(lǐng)域的競爭力，進而拖累其整體發(fā)展。然而，這也為CANN提供了一個機遇，通過加強自身的技術(shù)創(chuàng)新和生態(tài)建設(shè)，CANN有可能成為推動昇騰Ascend發(fā)展的關(guān)鍵力量。

CANN，能成為AI版的鴻蒙么？

正如文章開篇所說，在傳統(tǒng)計算領(lǐng)域，華為鴻蒙已經(jīng)取得階段性勝利了，而在AI計算領(lǐng)域，CANN承擔(dān)了類似的使命。

CANN作為華為昇騰AI處理器的異構(gòu)計算架構(gòu)，雖然在功能上與傳統(tǒng)操作系統(tǒng)有所區(qū)別，但在AI領(lǐng)域的戰(zhàn)略意義和作用上，可以將其視為AI版的操作系統(tǒng)。CANN向上支持多種AI框架，如MindSpore、PyTorch、TensorFlow等，向下服務(wù)AI處理器與編程，發(fā)揮著承上啟下的關(guān)鍵作用，是提升昇騰AI處理器計算效率的關(guān)鍵平臺。正如鴻蒙OS為華為在操作系統(tǒng)領(lǐng)域提供了自主創(chuàng)新的路徑，CANN也在AI算力領(lǐng)域承擔(dān)著構(gòu)建和推動華為技術(shù)生態(tài)發(fā)展的重任。

CANN在華為昇騰計算產(chǎn)業(yè)生態(tài)中的作用 資料來源：《昇騰計算產(chǎn)業(yè)發(fā)展白皮書》

目前，鴻蒙已經(jīng)成為中國乃至全球市場的重要競爭者。2024年，鴻蒙OS在中國市場的手機系統(tǒng)份額首次超越蘋果iOS，成為第二大操作系統(tǒng)，裝機量達到8億臺。這一成就不僅體現(xiàn)了華為在操作系統(tǒng)領(lǐng)域的自主創(chuàng)新能力，也標(biāo)志著鴻蒙OS在手機、電腦、汽車等多個領(lǐng)域的廣泛應(yīng)用和深入布局。

鴻蒙OS的成功對于華為具有重要意義，它打破了國外廠商在移動操作系統(tǒng)上的長期壟斷，為華為在全球市場上贏得了更多的話語權(quán)和影響力。鴻蒙OS的廣泛應(yīng)用為華為構(gòu)建了更加完善的生態(tài)系統(tǒng)，增強了其產(chǎn)品的競爭力。此外，鴻蒙OS的成功也為華為在AI算力領(lǐng)域的進一步發(fā)展奠定了基礎(chǔ)。

類似的，CANN有潛力成為AI領(lǐng)域的“鴻蒙”，肩負(fù)起構(gòu)建華為AI生態(tài)的重任。CANN的發(fā)展，將直接影響昇騰AI處理器的性能發(fā)揮和應(yīng)用推廣。隨著AI技術(shù)的不斷進步和應(yīng)用領(lǐng)域的拓展，CANN的技術(shù)迭代和生態(tài)建設(shè)將對華為在AI算力領(lǐng)域的競爭力產(chǎn)生重要影響。

要使CANN成為AI版的鴻蒙，華為需要在技術(shù)創(chuàng)新、生態(tài)建設(shè)、應(yīng)用拓展和社區(qū)支持等方面進行努力。技術(shù)創(chuàng)新是CANN發(fā)展的核心，需要持續(xù)優(yōu)化性能，加強與昇騰AI處理器的協(xié)同。生態(tài)建設(shè)是CANN成功的關(guān)鍵，需要構(gòu)建開放、協(xié)作的AI生態(tài)，吸引更多的開發(fā)者和合作伙伴參與。應(yīng)用拓展是CANN實現(xiàn)價值的途徑，需要推動CANN在更多AI應(yīng)用場景中的使用。社區(qū)支持是CANN持續(xù)發(fā)展的動力，需要加強與開發(fā)者社區(qū)的互動，提供豐富的開發(fā)工具、文檔和技術(shù)支持。

應(yīng)該說，讓CANN去挑戰(zhàn)CUDA，其難度甚至比鴻蒙挑戰(zhàn)安卓還大。但無論多難，這件事情都值得嘗試一下，不然，我們在AI時代面臨的卡脖子問題，將比當(dāng)初的Wintel更加嚴(yán)重。對于華為而言，要是能解決這個問題，那他對于中國的價值，比賣很多手機、汽車更具有戰(zhàn)略意義。

來源：數(shù)據(jù)猿