掌上AI誰在主宰？一個無線巨頭蛻變，火力全開

AI 高通混合型模型

原創(chuàng) Bugle-X | 2024-01-17 19:14

【數(shù)據(jù)猿導(dǎo)讀】高通上一次裁員，是在去年9-10月間，一次裁掉1300多人。據(jù)說，裁員的原因，是由于華為Mate 60 Pro問世，中國手機(jī)企業(yè)停止進(jìn)口芯片，導(dǎo)致高通一下?lián)p失5000萬顆的訂單。甚至有傳言說，高通正打算關(guān)閉上海辦事處，從中國撤退。

隱身于智能手機(jī)OEM廠商之后，高通一向是一家安靜的公司。對于一般手機(jī)用戶而言，高通之名遠(yuǎn)不如旗下品牌“Snapdragon驍龍”那般如雷貫耳。這是一家技術(shù)見長、少有“緋聞”的公司，偶一為之的裁員才會占據(jù)頭條。

高通上一次裁員，是在去年9-10月間，一次裁掉1300多人。據(jù)說，裁員的原因，是由于華為Mate 60 Pro問世，中國手機(jī)企業(yè)停止進(jìn)口芯片，導(dǎo)致高通一下?lián)p失5000萬顆的訂單。甚至有傳言說，高通正打算關(guān)閉上海辦事處，從中國撤退。

這當(dāng)然是不實(shí)謠言。去年11月，高通、英偉達(dá)、英特爾三大芯片巨頭的CEO集體出動，游說白宮，要求廢除一個月前針對中國出臺的芯片出口禁令。盡管三巨頭游說失敗，高通對中國市場的重視，可見一斑。

高通大裁員的真實(shí)原因，是業(yè)績下滑。財報顯示，截至去年9月的2023財年，高通總營收358億美元，同比下降19%，凈利潤72億美元，同比暴跌44%。

在高通CEO Cristiano Amon看來，營收、凈利潤雙降的高通，已在不得不變的關(guān)頭，生成式AI興起之際，正是高通變革之時。

端+云，混合型模型主導(dǎo)AI未來

按Amon的說法，高通的AI之路分兩步走，第一階段耗時十年，主要成果是開發(fā)出一個可普遍運(yùn)行的AI引擎；第二階段正在開始，重點(diǎn)在于探索不同領(lǐng)域、不同場景的AI應(yīng)用。

作為一家硬件廠商，高通聚焦于AI在端側(cè)的部署、落地，讓生成式AI由云端向終端轉(zhuǎn)移。

在終端設(shè)備商上的運(yùn)行AI，無非有兩種方式：一是云端AI。設(shè)備與云端AI相連，用戶每一個查詢請求必須發(fā)送至云端，由部署在云端的大模型處理，最后將結(jié)果發(fā)回終端。

一是混合型AI。本地設(shè)備參與一部分AI處理，另一部分在云端進(jìn)行。比如，在一臺內(nèi)置模型的設(shè)備上查詢，設(shè)備會優(yōu)先運(yùn)行本地大模型，只有一部分?jǐn)?shù)據(jù)才會發(fā)送至云端。有時，本地部署的模型足夠強(qiáng)大，可單獨(dú)完成整個查詢過程，無需云端參與。

混合型AI的好處是，云端的計算量大為減少，成本、能耗大幅降低。更重要的是，由于本地設(shè)備可訪問當(dāng)前位置、當(dāng)前活動等實(shí)時上下文信息，本地化的AI響應(yīng)與云端相比，更為快速、準(zhǔn)確、高效，也更具個性化。

高通堅信，混合型AI一邊本地化部署模型，一邊又可調(diào)用云端計算能力，必將成為端側(cè)落地AI的主流方式。

AI_高通_混合型模型-1

高通CEO Cristiano Amon

第三代驍龍，每秒可生成一張圖片

自2007年iPhone問世，智能手機(jī)一直缺乏根本性的技術(shù)創(chuàng)造，逐漸走向存量競爭。作為高端手機(jī)芯片的龍頭老大，高通也步入發(fā)展瓶頸。2023財年，高通的手機(jī)芯片業(yè)務(wù)營收，同比下降了22%。

2021年，Amon出任高通CEO，實(shí)現(xiàn)收入來源多元化，排在優(yōu)先級第一。在Amon的帶領(lǐng)下，高通一邊鞏固在高端手機(jī)芯片的王者地位，一邊又向PC、汽車兩大終端設(shè)備發(fā)起猛攻。

在接受英國《金融時報》采訪時，Amon大膽預(yù)測，2024年將成為生成式AI快速引入智能手機(jī)的關(guān)鍵元年。大量引入AI功能后，智能手機(jī)又將開啟新一輪增長，一舉打破蘋果、Google長期主導(dǎo)行業(yè)的競爭格局。

去年10月，第三代驍龍8正式發(fā)布，成為高通第一顆引入生成式AI的手機(jī)旗艦芯片，高通AI引擎也隨之面世。在硬件層面，這一AI引擎的核心組件是Hexagon NPU神經(jīng)處理單元。與上一代移動平臺相比，內(nèi)置NPU的Hexagon處理器推理速度提升98%，能效提升40%。

在《金融時報》的采訪中，Amon指出，在端側(cè)AI時代，芯片廠商競爭的主戰(zhàn)場，將由訓(xùn)練轉(zhuǎn)向推理。作為這一思想的生動體現(xiàn)，第三代驍龍8可支持運(yùn)行100億參數(shù)大模型，在70億參數(shù)大模型上，每秒可生成20個token；運(yùn)行文生圖模型Stable Diffusion，每秒可生成一張圖片。

一波AI PC熱潮，高通獨(dú)占ARM架構(gòu)

AI_高通_混合型模型-2

長期低迷的PC市場，ARM架構(gòu)的筆記本電腦是一抹亮色。Counterpoint的報告指出，至2027年，ARM架構(gòu)在PC市場的占有率將由去年的14%提升至25%。高通與微軟之間有一項Windows on ARM的獨(dú)家合作，聯(lián)想、惠普、戴爾等PC廠商開發(fā)ARM架構(gòu)的筆記本電腦，必須基于高通的驍龍?zhí)幚砥?。正由于這一淵源，高通也是PC處理器的一方重鎮(zhèn)，與x86陣營PK，吃盡ARM架構(gòu)大發(fā)展的紅利。

去年10月第三代驍龍8問世之際，高通也一同發(fā)布了一款支持Windows 11的PC芯片驍龍X Elite。驍龍X Elite采用4納米工藝制程，集成了Oryon CPU、Adreno GPU、Hexagon NPU，共同構(gòu)成一整套異構(gòu)計算體系，釋放高通AI引擎的強(qiáng)大算力。

驍龍X Elite同樣是一個專為生成式AI打造的計算平臺，CPU和GPU性能是同級x86競品的兩倍，能耗卻較低70%，被分析人士評為“史上最強(qiáng)”ARM架構(gòu)PC芯片。由于搭載了Hexagon NPU，X Elite可在端側(cè)運(yùn)營130億參數(shù)大模型，每秒生成30個token。

憑借驍龍X Elite芯片，高通躋身于這一輪AI PC熱潮，成為一支不可忽視的力量。高通表示，正與微軟合作，聯(lián)合開發(fā)能耗最低、處理速度最快的下一代PC。

不過，據(jù)Arm公司CEO Rene Haas透露，微軟與高通之間的Windows on ARM獨(dú)家協(xié)議將在2024年到期。坊間傳言，英偉達(dá)、AMD、聯(lián)發(fā)科都在研發(fā)基于Windows on ARM的PC芯片，高通獨(dú)占一塊市場的格局正在打破。

十年打造AI引擎，高通變身AI公司

軟件定義汽車SoC芯片，即所謂艙駕一體芯片，高通的SA775、SA8797與英偉達(dá)的Thor并駕齊驅(qū)，早已是一方霸主。在CES 2024大展上，高通展出驍龍數(shù)字底盤產(chǎn)品組合，包括數(shù)字座艙、車聯(lián)網(wǎng)技術(shù)、網(wǎng)聯(lián)服務(wù)、先進(jìn)駕駛輔助、自動駕駛系統(tǒng)，是一次大檢閱。

在高通看來，汽車早已成為“帶輪子的電腦”，是生成式AI落地的主要場景之一。在AI時代，汽車也將變成一個與手機(jī)、PC同等重要的下一定計算平臺。高通希望，引入強(qiáng)大的AI引擎之后，驍龍芯片在數(shù)字底盤、艙駕一體領(lǐng)域的領(lǐng)先地位進(jìn)一步擴(kuò)展，一舉改變公司定位、營收結(jié)構(gòu)。

2023年，高通的汽車芯片業(yè)務(wù)營收19億美元，占比總營收6%。Amon預(yù)計，2026年，高通的車用芯片業(yè)務(wù)營收將達(dá)40億美元，2030年增至90億美元。

由手機(jī)、PC、汽車三大行業(yè)的布局來看，高通AI戰(zhàn)略的核心就是CPU、GPU、NPU三大組件構(gòu)成的AI引擎。整個構(gòu)架當(dāng)中，NPU對應(yīng)矩陣乘法為核心的AI應(yīng)用，GPU對應(yīng)Transformer等矢量與矩陣運(yùn)算，CPU則負(fù)責(zé)整個AI任務(wù)的調(diào)度、數(shù)據(jù)傳輸，依舊為核心。

去年年中，高通發(fā)布了一份AI白皮書，堅定地相信，未來的AI將是端+云的混合架構(gòu)。在接受《金融時報》采訪中，Amon說：“新一代AI將在設(shè)備或邊緣上開發(fā)，而不只是在云上開發(fā)，二者（端+云）將協(xié)同工作。”

橫跨手機(jī)、PC、汽車的驍龍正崛起為一個高速、低功耗的AI計算平臺，引領(lǐng)端側(cè)AI的飛速發(fā)展。在重新定義驍龍的同時，Amon也在重新定義高通：生成式AI一日千里地發(fā)展，高通正由一家無線通信公司，轉(zhuǎn)變?yōu)橐患一ヂ?lián)處理器和人工智能公司。

來源：數(shù)智猿

收藏分享

聲明：數(shù)據(jù)猿尊重媒體行業(yè)規(guī)范，相關(guān)內(nèi)容都會注明來源與作者；轉(zhuǎn)載我們原創(chuàng)內(nèi)容時，也請務(wù)必注明“來源：數(shù)據(jù)猿”與作者名稱，否則將會受到數(shù)據(jù)猿追責(zé)。