2023年，ChatGPT的橫空出世引爆了整個科技圈。隨之而來的是大模型的遍地開花、百家爭鳴。那么下一個掀起巨浪的又會是誰？端側(cè)大模型是否具有撼動科技圈的潛質(zhì)？

作為AI領(lǐng)域的一顆新星，端側(cè)大模型正逐漸在智能手機、智能汽車、智能音箱、移動基站等多種設(shè)備上嶄露頭角。然而，端側(cè)大模型的發(fā)展并非一路坦途，硬件資源限制、數(shù)據(jù)隱私保護、模型壓縮等多重挑戰(zhàn)始終困擾著端側(cè)大模型。那么，端側(cè)大模型的前路在何方？端側(cè)大模型是否能成為下一個引爆科技浪潮的爆點？帶著這些問題與思考，數(shù)據(jù)猿與北京航空航天大學(xué)教授黎立進行了一次深入的探討與交流。

不知不覺間端側(cè)大模型崛起了

或許是從特斯拉問世開始，車內(nèi)空間悄悄變了。屏幕越做越大、汽車越做越智能、智能駕駛技術(shù)越來越豐富……智能汽車的概念快速占領(lǐng)了廣大用戶的心智，成為購車的決定性因素之一。但是今天我們要說的主題顯然不是智能汽車，而是端側(cè)大模型。

在人工智能技術(shù)的飛速發(fā)展下，端側(cè)大模型正逐漸成為智能設(shè)備的核心驅(qū)動力。端側(cè)大模型不僅在智能汽車、智能音箱、移動基站等領(lǐng)域得到應(yīng)用嘗試，更在智能家居、可穿戴設(shè)備等新興領(lǐng)域展現(xiàn)出巨大的潛力。端側(cè)大模型的崛起，標(biāo)志著人工智能技術(shù)正從云端走向邊緣，從集中式處理走向分布式智能。那么，端側(cè)大模型為何突然之間就成了香餑餑？這還得從端側(cè)的應(yīng)用需求和場景來倒推。

首先，智能汽車太需要端側(cè)大模型了。據(jù)市場研究公司ABI Research的報告，預(yù)計到2025年，全球?qū)⒂谐^1.5億輛聯(lián)網(wǎng)汽車，這些車輛都將廣泛采用端側(cè)大模型來提升自動駕駛和車聯(lián)網(wǎng)服務(wù)的性能。

黎立教授表示，在智能汽車領(lǐng)域，端側(cè)大模型的應(yīng)用尤為引人注目。比如早期的時候，有很多圖像識別的模型，汽車通過攝像頭能觀察到周圍的環(huán)境，從而用一些AI的模型去識別車道如何變化，以及是否有障礙物等，然后通過集成AI形成智能駕駛應(yīng)用。其實這里面有一個更有意思的概念，也就是特斯拉提出的端到端的AI模型。意思就是說，只要提供一個輸入，AI就把所有東西做完了，下一步就直接開車就好了。AI會內(nèi)生考慮所有的突發(fā)情況，包括之前可能沒有接觸到甚至沒有定義到的一些情況。

從這個角度來說，大模型在智能駕駛這個場景下已經(jīng)有了很好的應(yīng)用落地。在特斯拉最新的演示中，大模型的應(yīng)用還在不斷優(yōu)化，包括百度的蘿卜快跑，以及華為最新車型等，在智能化方面的步伐都推進得非?？?。

除了智能汽車，手機也是端側(cè)的明珠。目前，已經(jīng)有很多手機廠商已經(jīng)應(yīng)用了大模型，比如OPPO、奧運AI手機、蘋果等等。

然而，端側(cè)大模型在智能汽車中的應(yīng)用也面臨著一系列挑戰(zhàn)。首先，車輛的硬件資源有限，如何在保證模型性能的同時，減少對內(nèi)存和處理能力的占用，是一個亟待解決的問題。其次，自動駕駛對實時性的要求極高，模型的推理速度必須足夠快，才能及時響應(yīng)各種突發(fā)情況。此外，端側(cè)大模型在手機端如何降低能源的消耗、提升性能、強化交互體驗也是終端廠商不能不面對的難題。

顯然，端側(cè)大模型在落地應(yīng)用在各個不同場景中所以面臨的困難和要解決的難題依然很多，然而除了智能汽車和手機還有更多應(yīng)用場景等待端側(cè)大模型發(fā)揮能量，但誰又能說這些困難未嘗不是未來的機遇與新起點呢？

端云之間并非對抗而是協(xié)同

在人工智能的廣泛應(yīng)用中，端云協(xié)同已成為提升智能系統(tǒng)性能的關(guān)鍵策略。黎立教授也闡述了自己的觀點：“其實我們現(xiàn)在講端側(cè)大模型，并不是說要用端側(cè)大模型來替代云上的模型，更多的是我們端上要有模型，云上還有一個更大、更強的模型，來實現(xiàn)端云協(xié)同。舉個例子，比如說某個場景下沒辦法聯(lián)網(wǎng)，這個時候要提供智能功能，就必須在本地完成了。”

根據(jù)IDC的報告顯示，到2025年，全球數(shù)據(jù)總量將達(dá)到175ZB，其中超過25%的數(shù)據(jù)將需要在邊緣進行處理。這表明端云協(xié)同的需求正在迅速增長，并且對于處理和分析大量數(shù)據(jù)至關(guān)重要。

端云協(xié)同模式通過在端側(cè)設(shè)備上處理部分?jǐn)?shù)據(jù)，減輕了云端服務(wù)器的負(fù)擔(dān)，同時利用云端的強大計算能力端側(cè)可以處理更復(fù)雜的任務(wù)。例如，在自動駕駛領(lǐng)域，車輛的傳感器實時收集路況信息，并在本地進行初步處理，以實現(xiàn)快速反應(yīng)，而復(fù)雜的路徑規(guī)劃和數(shù)據(jù)分析則交由云端處理。這種分工合作模式，不僅提高了系統(tǒng)的響應(yīng)速度，也優(yōu)化了資源的使用效率。

還有一點至關(guān)重要那就是安全。黎立教授表示，安全隱私是另一個重要的考慮?，F(xiàn)實生活中，有很多數(shù)據(jù)是只存在于手機中無法出去的，比如說要拍張照片、修一張圖，可能照片不太好需要優(yōu)化，這個過程會用到很多AI的模型。但如果現(xiàn)在換個方式，把照片發(fā)到網(wǎng)上，修完再收回來，可能就會給用戶帶來很大的安全隱私的對抗性。

再舉個例子，比如現(xiàn)在有個視頻會議需要自動化生成摘要信息。假如開了一個小時的會，有好幾個G的視頻文件，如果把這幾個G的視頻文件上傳到云上，分析完了再回來，可能就產(chǎn)生了大量的延時消耗。所以長遠(yuǎn)來講，端上模型和云上模型是一個協(xié)同的過程。

在實際應(yīng)用中，端云協(xié)同模式已經(jīng)被許多行業(yè)采納。例如，亞馬遜的AWS Greengrass服務(wù)允許在本地設(shè)備上運行機器學(xué)習(xí)模型，同時與AWS云服務(wù)無縫集成，為智能家居設(shè)備提供智能決策支持。另一個例子是微軟的Azure IoT Edge，它將云分析擴展到邊緣設(shè)備，使得工業(yè)設(shè)備能夠?qū)崟r處理數(shù)據(jù)并做出決策，顯著提高了生產(chǎn)效率和安全性。

盡管端云協(xié)同帶來了顯著的優(yōu)勢，但在實施過程中仍然面臨一定的挑戰(zhàn)。黎立教授進一步解釋道：“在整個端側(cè)可能會有非常多的細(xì)分場景，是我們在云上的模式里沒有遇到過的，這種場景可能就需要一些特定的數(shù)據(jù)去做訓(xùn)練。針對這種特定的訓(xùn)練，首先我們需要單獨準(zhǔn)備數(shù)據(jù)。其次，出于安全性的考慮，可能還需要通過檢索增強等IT方式把數(shù)據(jù)及時放在端上，使整個模型應(yīng)用的流程用起來，從而提升整體的智能體驗。除此之外，數(shù)據(jù)同步、延遲、安全性和成本等等也都是需要考慮的因素。”

但隨著技術(shù)的不斷進步和應(yīng)用場景的不斷拓展，我們始終相信端云協(xié)同將在未來的技術(shù)發(fā)展中扮演更加重要的角色。

端側(cè)大模型的未來之路在腳下還是在遠(yuǎn)方？

有人說，端側(cè)大模型既有計算瓶頸又有安全障礙，不如云端大模型好用。那么端側(cè)大模型的發(fā)展是否能為行業(yè)帶來新興的繁榮，端側(cè)大模型如何突破瓶頸繼續(xù)向陽生長？帶著這些問題與思考，我們與黎立教授進行了更深一步的探討。

首先，端側(cè)大模型到底能不能為行業(yè)帶來新興的繁榮？答案是有潛能。在不遠(yuǎn)的將來，端側(cè)大模型很有可能會成為終端設(shè)備的新賽點。端側(cè)大模型作為人工智能領(lǐng)域的前沿技術(shù)，其發(fā)展和應(yīng)用前景備受矚目。隨著技術(shù)的不斷進步，端側(cè)大模型正面臨著從理論到實踐的應(yīng)用跨越，其未來的發(fā)展之路充滿了挑戰(zhàn)與機遇。

其次，端側(cè)大模型想要做深做實要突破哪些瓶頸障礙？在端側(cè)設(shè)備上部署大模型，首先需要解決的是模型的極限壓縮問題。由于端側(cè)設(shè)備的計算資源和存儲空間有限，傳統(tǒng)的大型模型難以直接應(yīng)用。因此，探索模型壓縮技術(shù)，如模型量化、知識蒸餾、模型剪枝和結(jié)構(gòu)化剪枝等，以減小模型的體積，降低其對計算資源的需求便成了一道重要課題。

除此之外，端側(cè)大模型的未來發(fā)展還需要在功能和性能上進行不斷地創(chuàng)新和拓展?？缒B(tài)融合、實時性優(yōu)化、自適應(yīng)學(xué)習(xí)等技術(shù)都是端側(cè)大模型發(fā)展的有力抓手。當(dāng)然，安全性和隱私性也是不能忽視的重要條件。

不過，端側(cè)大模型的發(fā)展不僅依賴于技術(shù)的進步，還需要產(chǎn)學(xué)研合作和人才儲備的支持。黎立教授坦言：“從學(xué)術(shù)的角度，我們看到大模型本身的發(fā)展還有很多技術(shù)的挑戰(zhàn)需要去解決，需要更深的探索。這個時候尤其需要產(chǎn)學(xué)研協(xié)同扎根深挖，真正地去研究透。”

通過企業(yè)、高校和研究機構(gòu)的緊密合作，可以共同推動端側(cè)大模型的理論研究和應(yīng)用實踐。同時，加強相關(guān)領(lǐng)域的教育和培訓(xùn)，培養(yǎng)具備端側(cè)大模型研發(fā)和應(yīng)用能力的人才，對于推動該領(lǐng)域的長遠(yuǎn)發(fā)展至關(guān)重要。政府的政策支持，如提供資金支持、稅收優(yōu)惠等措施，也能鼓勵企業(yè)和研究機構(gòu)投入端側(cè)大模型的研發(fā)，加速技術(shù)的成熟和應(yīng)用。

正如比爾·蓋茨所說：“我們總是高估未來兩年會發(fā)生的變化，卻低估未來十年會發(fā)生的變化。”端側(cè)大模型的潛力，可能遠(yuǎn)超我們此刻的想象，未來讓我們拭目以待。

來源：數(shù)據(jù)猿