密態(tài)計算，大模型商用數(shù)據(jù)瓶頸的新解法？
原創(chuàng) 月滿西樓 | 2024-07-09 20:26
【數(shù)據(jù)猿導(dǎo)讀】 個新的技術(shù)路線——密態(tài)計算，為解決這一難題提供了新的可能。螞蟻集團(tuán)在2024年世界人工智能大會（WAIC）上發(fā)布的“隱語Cloud”大模型密算平臺，是這一技術(shù)路線的典型應(yīng)用實例。密態(tài)計算的產(chǎn)業(yè)化應(yīng)用，不僅為大模型的產(chǎn)業(yè)深度應(yīng)用，也為打通數(shù)據(jù)要素流通的梗阻，提供新的思路。...
大模型邁向產(chǎn)業(yè)的深度應(yīng)用，首要挑戰(zhàn)是高質(zhì)量數(shù)據(jù)供給和安全流通。正如在今年的世界人工智能大會上，產(chǎn)學(xué)研屆多位專家達(dá)成的共識是，數(shù)據(jù)決定了AI能力的上限。
在實踐中，行業(yè)大模型難以獲得高質(zhì)量數(shù)據(jù)進(jìn)行訓(xùn)練，也就難以獲得解決專業(yè)問題的能力；另一方面，在技術(shù)服務(wù)生態(tài)中，企業(yè)客戶、大模型廠商之間缺少基于技術(shù)保障的互信，一方擔(dān)心數(shù)據(jù)泄漏，另一方擔(dān)心模型資產(chǎn)安全。
一個新的技術(shù)路線——密態(tài)計算，為解決這一難題提供了新的可能。螞蟻集團(tuán)在2024年世界人工智能大會（WAIC）上發(fā)布的“隱語Cloud”大模型密算平臺，是這一技術(shù)路線的典型應(yīng)用實例。密態(tài)計算的產(chǎn)業(yè)化應(yīng)用，不僅為大模型的產(chǎn)業(yè)深度應(yīng)用，也為打通數(shù)據(jù)要素流通的梗阻，提供新的思路。
無論是大模型的訓(xùn)練還是推理應(yīng)用，都存在數(shù)據(jù)瓶頸
當(dāng)大模型從實驗室研究走向?qū)嶋H行業(yè)應(yīng)用時，數(shù)據(jù)瓶頸問題成為了阻礙其進(jìn)一步商用的重要障礙，這主要表現(xiàn)在大模型訓(xùn)練和推理應(yīng)用兩個階段：
大模型訓(xùn)練階段，行業(yè)數(shù)據(jù)分散在不同機(jī)構(gòu)，難以通過匯聚不同機(jī)構(gòu)的行業(yè)數(shù)據(jù)構(gòu)建高質(zhì)量的行業(yè)大模型。
行業(yè)中的高質(zhì)量數(shù)據(jù)通常分散在不同的機(jī)構(gòu)和企業(yè)中，這種分散性使得數(shù)據(jù)難以集中用于大模型的訓(xùn)練。以醫(yī)療行業(yè)為例，患者的診療信息分散在不同的醫(yī)院、診所和健康管理機(jī)構(gòu)中。這些數(shù)據(jù)不僅分布廣泛，而且由于涉及患者隱私和醫(yī)院的商業(yè)機(jī)密，彼此之間的數(shù)據(jù)共享極其困難。金融行業(yè)也面臨類似問題，銀行、保險公司和金融科技企業(yè)各自掌握大量的金融知識和客戶數(shù)據(jù)，但由于商業(yè)和法律的限制，數(shù)據(jù)難以共享和整合。
大模型的性能高度依賴于訓(xùn)練數(shù)據(jù)的質(zhì)量和數(shù)量，缺乏足夠的高質(zhì)量數(shù)據(jù)會導(dǎo)致模型無法充分學(xué)習(xí)行業(yè)中的細(xì)節(jié)和模式，進(jìn)而影響其在實際應(yīng)用中的表現(xiàn)。
大模型推理應(yīng)用階段，大模型廠商與企業(yè)客戶之間的信任缺失問題難以解決。
除了數(shù)據(jù)分散問題，大模型廠商與企業(yè)客戶之間的信任問題也是一個重大障礙。一方面，大模型廠商在將其模型交付給企業(yè)客戶時，普遍擔(dān)心模型資產(chǎn)被客戶竊取。另一方面，企業(yè)客戶擔(dān)心大模型廠商會竊取或濫用他們提供的數(shù)據(jù)，導(dǎo)致商業(yè)機(jī)密和用戶隱私泄露。例如，某制造企業(yè)在使用大模型優(yōu)化生產(chǎn)流程時，可能會提供大量的生產(chǎn)數(shù)據(jù)和商業(yè)信息。如果這些數(shù)據(jù)被不當(dāng)使用或泄露，企業(yè)的競爭力和市場地位將受到嚴(yán)重影響。這種相互的不信任，形成了明顯的信任壁壘。
數(shù)據(jù)流通和應(yīng)用的可信性問題，是大模型應(yīng)用中另一個關(guān)鍵障礙。即使企業(yè)和機(jī)構(gòu)愿意共享數(shù)據(jù)，也需要確保數(shù)據(jù)在流通過程中和應(yīng)用中的隱私和安全?，F(xiàn)有的數(shù)據(jù)流通機(jī)制和技術(shù)手段往往無法滿足這種高要求，導(dǎo)致數(shù)據(jù)要素在跨機(jī)構(gòu)、跨行業(yè)流通時面臨諸多障礙。
密態(tài)計算，解決數(shù)據(jù)難題的那把鑰匙？
隨著大模型在各行業(yè)應(yīng)用中的潛力逐漸顯現(xiàn)，解決數(shù)據(jù)流通和隱私保護(hù)的難題變得愈發(fā)迫切。傳統(tǒng)的隱私計算雖然在一定程度上緩解了數(shù)據(jù)安全問題，但其復(fù)雜性和效率問題限制了其廣泛應(yīng)用。
隱私計算作為一種保護(hù)數(shù)據(jù)隱私的技術(shù)，已經(jīng)在數(shù)據(jù)流通和共享中得到了一定的應(yīng)用。然而，隱私計算技術(shù)路線眾多，在實際產(chǎn)業(yè)落地過程中存在“講不清”、“看不懂”、“不敢用”、“用不起”的問題。不同的隱私計算技術(shù)，如差分隱私、多方安全計算和聯(lián)邦學(xué)習(xí)，各有其優(yōu)劣，但在實際應(yīng)用中往往面臨性能瓶頸和復(fù)雜性問題，難以滿足大規(guī)模商業(yè)應(yīng)用的需求。
密態(tài)計算為代表的新興隱私計算的技術(shù)，是指在整個計算過程中，數(shù)據(jù)始終處于加密狀態(tài)，以確保數(shù)據(jù)安全和隱私。密態(tài)計算在傳統(tǒng)隱私計算的基礎(chǔ)上進(jìn)行了演進(jìn)和升級，解決了隱私計算在規(guī)?；瘧?yīng)用中的安全和效率問題：
軟硬件結(jié)合，實現(xiàn)高效的數(shù)據(jù)密態(tài)處理
通過可信執(zhí)行環(huán)境（TEE）和多方安全計算（MPC）技術(shù)的結(jié)合，密態(tài)計算不僅可以實現(xiàn)全程保密的數(shù)據(jù)處理，還能滿足大規(guī)模數(shù)據(jù)流通過程中的高性能和低成本的要求。針對不同安全分組的數(shù)據(jù)，可以通過不同的組合方式設(shè)計不同安全等級的密態(tài)計算方案，滿足不同場景下安全性和效率的平衡。在提高計算效率和實現(xiàn)規(guī)?；逃梅矫娓M(jìn)一步，使得技術(shù)在各行業(yè)中的廣泛應(yīng)用成為可能。
科技商業(yè)化加碼，螞蟻集團(tuán)落子數(shù)據(jù)要素技術(shù)
在今年數(shù)字中國建設(shè)峰會上，螞蟻集團(tuán)董事長兼CEO井賢棟透露螞蟻未來十年的科技戰(zhàn)略，聚焦人工智能和數(shù)據(jù)要素技術(shù)。
早在2016年，螞蟻集團(tuán)就開始探索隱私計算技術(shù)，技術(shù)能力涵蓋了全棧可信技術(shù)、多方安全計算、聯(lián)邦學(xué)習(xí)、同態(tài)加密、差分隱私、機(jī)密計算等隱私計算全譜技術(shù)域。2022年，螞蟻首創(chuàng)的可信密態(tài)計算獲得數(shù)字中國建設(shè)峰會“十大硬核科技獎”， 隱語可信隱私計算技術(shù)棧被評為世界人工智能大會“八大鎮(zhèn)館之寶”之一。
推進(jìn)數(shù)據(jù)要素技術(shù)的戰(zhàn)略，只有技術(shù)儲備是不夠的，還要打通技術(shù)和商業(yè)應(yīng)用。只有構(gòu)建一個良好的技術(shù)+商業(yè)的循環(huán)，才能實現(xiàn)良性、可持續(xù)的發(fā)展。今年5月31日，螞蟻集團(tuán)成立了螞蟻密算科技有限公司，這釋放了一個關(guān)鍵信號——螞蟻集團(tuán)在可信數(shù)據(jù)流通領(lǐng)域已經(jīng)從內(nèi)部技術(shù)探索，開始走向市場商業(yè)化。
在WAIC上，螞蟻密算推出了首款商業(yè)化產(chǎn)品——“隱語Cloud”平臺大模型密算服務(wù)，首批推出大模型密態(tài)托管和密態(tài)推理兩種服務(wù)。
隱語 Cloud 大模型密算平臺的原理和特色 資料來源：螞蟻集團(tuán)
在大模型密態(tài)托管方面，模型提供方將大模型加密后托管在平臺上，通過先進(jìn)的加密算法進(jìn)行分段加密處理，確保模型在云端存儲過程中的安全。在大模型密態(tài)推理方面，用戶數(shù)據(jù)以加密形式進(jìn)行處理，確保數(shù)據(jù)隱私和商業(yè)機(jī)密不被泄露。通過可信執(zhí)行環(huán)境（TEE）等技術(shù)，保證數(shù)據(jù)在推理過程中的全程加密處理，并采用多層次的安全保障措施，包括內(nèi)存加密、磁盤加密和可信執(zhí)行環(huán)境，防止數(shù)據(jù)泄露和篡改。
為了提升大模型推理的效率，“隱語Cloud”平臺在可信執(zhí)行環(huán)境下支持GPU計算，顯著提高加密狀態(tài)下的推理速度，使其接近明文狀態(tài)。
談到密算的未來發(fā)展，螞蟻集團(tuán)副總裁兼首席技術(shù)安全官、螞蟻密算董事長韋韜說：“螞蟻集團(tuán)篤定相信數(shù)據(jù)的價值，我們的業(yè)務(wù)也很依賴于數(shù)據(jù)。我們認(rèn)為數(shù)據(jù)要素的流通將為全社會、全行業(yè)帶來巨大的變革，這個變革是非常深遠(yuǎn)的。螞蟻密算的使命，是通過密算科技推動數(shù)據(jù)可信流通。”
用密態(tài)計算釋放數(shù)據(jù)要素價值，讓大模型真正規(guī)?；逃?/strong>
展望未來，密態(tài)計算作為一種創(chuàng)新技術(shù)，將進(jìn)一步提升計算效率和安全性，擴(kuò)大應(yīng)用范圍。在計算效率方面，隨著硬件技術(shù)的不斷進(jìn)步，特別是GPU和其他專用加速器的發(fā)展，密態(tài)計算的性能將不斷提升。未來，密態(tài)計算有望通過更高效的硬件加速和優(yōu)化算法，使加密狀態(tài)下的計算速度進(jìn)一步接近明文狀態(tài)，在考慮了數(shù)據(jù)明文流通過程中的風(fēng)險成本之后，以密態(tài)計算為核心的密態(tài)全鏈路的流通成本一定會低于明文計算流通成本。
某種程度上，密態(tài)計算技術(shù)的發(fā)展可以類比光伏產(chǎn)業(yè)的發(fā)展路徑。最初，光伏發(fā)電成本很高，僅限于高需求、高價值的行業(yè)應(yīng)用。隨著技術(shù)進(jìn)步和規(guī)模化應(yīng)用，成本逐漸降低，最終達(dá)到與傳統(tǒng)能源發(fā)電成本相當(dāng)?shù)呐R界點，從而實現(xiàn)大規(guī)模推廣應(yīng)用，密態(tài)計算也將遵循類似的路徑。
正如韋韜分享的那樣：一方面，數(shù)據(jù)價值在不斷提升，而數(shù)據(jù)泄露帶來的成本也在同步提升。另一方面，通過一系列技術(shù)創(chuàng)新，密態(tài)計算的成本在逐步降低。最終，當(dāng)數(shù)據(jù)泄露帶來的損失，超過密態(tài)計算帶來的成本，部署密態(tài)計算系統(tǒng)就變得有利可圖。屆時，我們將來到一個臨界點——數(shù)據(jù)處理的“光伏平價”時刻，這個時候，密態(tài)計算市場將迎來爆發(fā)式的增長。韋韜判斷，當(dāng)整個全鏈路密態(tài)計算的成本降低到整個數(shù)據(jù)流通價值的5%，就到了實現(xiàn)規(guī)?；茝V的臨界點。
當(dāng)然，無論是推動密態(tài)計算產(chǎn)業(yè)發(fā)展還是釋放數(shù)據(jù)要素價值，都還有大量的問題需要去解決。其中，有兩項工作尤為關(guān)鍵：
覆蓋數(shù)據(jù)要素全鏈條，構(gòu)建一個完備的密態(tài)計算技術(shù)產(chǎn)品和服務(wù)生態(tài)。
數(shù)據(jù)要素生命周期，涵蓋數(shù)據(jù)采集、存儲、管理、治理、分析挖掘、流通、應(yīng)用等多個環(huán)節(jié)，每個環(huán)節(jié)都需要成熟的技術(shù)產(chǎn)品去提供服務(wù)。密態(tài)計算也需要不斷豐富技術(shù)產(chǎn)品體系，來提供全鏈條的服務(wù)。就螞蟻集團(tuán)而言，此次推出的“隱語Cloud”只是打前陣，相信后面還會陸續(xù)推出一系列的產(chǎn)品。而且，一花獨放不是春，百花齊放春滿園，為了更好釋放數(shù)據(jù)要素價值，將來有必要構(gòu)建一個密態(tài)計算的服務(wù)生態(tài)體系，結(jié)合生態(tài)伙伴的力量，來更好滿足市場需求。
構(gòu)建密態(tài)計算行業(yè)標(biāo)準(zhǔn)，降低實施過程中的技術(shù)難度和企業(yè)成本。
密態(tài)計算涉及多種技術(shù)路線和產(chǎn)品形態(tài)，為了推動數(shù)據(jù)要素流通和實現(xiàn)規(guī)?；茝V，必須制定統(tǒng)一的技術(shù)標(biāo)準(zhǔn)和安全分級方法。技術(shù)路線分級和產(chǎn)品分級有助于企業(yè)根據(jù)不同應(yīng)用場景選擇合適的解決方案，從而提高效率、降低成本。標(biāo)準(zhǔn)化的技術(shù)框架可以為行業(yè)提供明確的指引，這不僅能夠確保技術(shù)在不同場景中的應(yīng)用效果，還能降低企業(yè)在實施過程中的技術(shù)難度和成本。
挑戰(zhàn)很多，但應(yīng)用前景可期。正如韋韜所說，無論是從數(shù)據(jù)還是算力角度，密態(tài)計算都有廣闊的應(yīng)用前景。數(shù)據(jù)方面，數(shù)據(jù)密態(tài)是未來的必然趨勢，密算會成為數(shù)據(jù)可信流通的新算力。只有讓數(shù)據(jù)是密態(tài)方式流通的時候，才能發(fā)揮正向價值、控制負(fù)向風(fēng)險；算力方面，算力將從智算走向密算，并且演變的速度及對中遠(yuǎn)期的影響比我們今天想象大得多。接下來大規(guī)模數(shù)據(jù)流轉(zhuǎn)會發(fā)展為猶如“城市自來水網(wǎng)”的行業(yè)、區(qū)域間可信流通，形成“綜合水利工程”。未來，大模型產(chǎn)業(yè)及各種數(shù)據(jù)要素的應(yīng)用場景，都能充分應(yīng)用數(shù)據(jù)要素價值，實現(xiàn)跨行業(yè)、跨地域和跨云可信流轉(zhuǎn)和互聯(lián)互通。
來源：數(shù)據(jù)猿
