假設(shè)你是某大型銀行的智能客服主管，銀行引入了基于大模型的AI客服系統(tǒng)，目標(biāo)是提升效率、減輕人工客服壓力。最初，AI客服能迅速處理賬戶查詢、轉(zhuǎn)賬等常規(guī)問(wèn)題，工作順利。然而，隨著客戶問(wèn)題的復(fù)雜化，尤其是涉及新金融政策、定制化貸款和理財(cái)產(chǎn)品的咨詢時(shí)，AI客服開(kāi)始力不從心。

銀行每周都會(huì)更新貸款利率、推出新產(chǎn)品或調(diào)整信用卡政策，但AI客服只能依賴靜態(tài)訓(xùn)練數(shù)據(jù)，無(wú)法實(shí)時(shí)獲取這些變化。當(dāng)客戶詢問(wèn)最新的貸款政策時(shí)，如果AI客服無(wú)法提供準(zhǔn)確答案，甚至誤導(dǎo)客戶，就會(huì)出現(xiàn)嚴(yán)重問(wèn)題。

這一問(wèn)題暴露了大模型的重要短板：缺乏對(duì)銀行實(shí)時(shí)業(yè)務(wù)的敏感性和適應(yīng)能力。盡管它在通用知識(shí)上表現(xiàn)強(qiáng)大，但在面對(duì)企業(yè)不斷變化的需求時(shí)，卻顯得無(wú)力。沒(méi)有實(shí)時(shí)學(xué)習(xí)的能力，這成為當(dāng)前大模型在商業(yè)應(yīng)用中的核心挑戰(zhàn)。

如何突破這一瓶頸，如何讓大模型真正理解并適應(yīng)企業(yè)的實(shí)時(shí)變化？這些問(wèn)題已迫在眉睫，亟待技術(shù)創(chuàng)新的解決。

大模型創(chuàng)新活躍，但有一個(gè)難題始終沒(méi)有得到解決

不了解來(lái)時(shí)的路，就不清楚前進(jìn)的方向。為了更深入的分析這個(gè)問(wèn)題，我們先來(lái)簡(jiǎn)單回顧一下大模型的發(fā)展歷程。

大模型的崛起，是深度學(xué)習(xí)領(lǐng)域一系列關(guān)鍵突破的結(jié)果。自2010年起，深度學(xué)習(xí)在視覺(jué)和語(yǔ)音識(shí)別中的應(yīng)用為大模型奠定基礎(chǔ)，2012年AlexNet在ImageNet競(jìng)賽中的勝利，標(biāo)志著深度神經(jīng)網(wǎng)絡(luò)成為圖像識(shí)別的核心技術(shù)。

2017年，Transformer架構(gòu)引發(fā)革命，解決了長(zhǎng)距離依賴和處理速度問(wèn)題，成就了大模型的高效訓(xùn)練。2019年，OpenAI發(fā)布GPT-2，展現(xiàn)了強(qiáng)大的文本生成能力，2020年GPT-3將參數(shù)量提升至1750億，成為最強(qiáng)語(yǔ)言模型，GPT-4的發(fā)布進(jìn)一步推動(dòng)了技術(shù)的飛躍。

2024年，大模型進(jìn)入“全模態(tài)”和“強(qiáng)智能”新階段。多模態(tài)融合成為核心，GPT系列支持文本、語(yǔ)音、圖像及實(shí)時(shí)搜索，谷歌Gemini Ultra 2.0在多模態(tài)推理測(cè)試中超越人類專家。長(zhǎng)上下文處理成為競(jìng)爭(zhēng)焦點(diǎn)，Claude 3.5和谷歌突破500萬(wàn)token，使法律和科研場(chǎng)景應(yīng)用成為可能。

在效率優(yōu)化方面，Meta和Mistral-Next通過(guò)混合專家架構(gòu)（MoE）降低算力消耗。與此同時(shí)，AI安全和倫理技術(shù)不斷進(jìn)步，OpenAI推出CriticGPT檢測(cè)生成內(nèi)容的真實(shí)性，Anthropic通過(guò)“憲法式對(duì)齊”減少模型偏見(jiàn)。

隨著這些技術(shù)的快速發(fā)展，大模型的商用化也進(jìn)入了加速期。金融、醫(yī)療、零售等行業(yè)迅速應(yīng)用大模型技術(shù)，推動(dòng)了智能客服、個(gè)性化推薦、內(nèi)容生成等領(lǐng)域的變革。

然而，盡管大模型在多個(gè)領(lǐng)域展現(xiàn)出了強(qiáng)大的潛力，但它們?cè)谄髽I(yè)實(shí)際應(yīng)用中暴露出了兩個(gè)關(guān)鍵短板：缺乏對(duì)企業(yè)特定業(yè)務(wù)的深度理解，和無(wú)法進(jìn)行實(shí)時(shí)學(xué)習(xí)與更新。

大模型的訓(xùn)練過(guò)程通常是離線的，需要消耗大量的計(jì)算資源和時(shí)間。每次更新都需要重新訓(xùn)練，這對(duì)于快速變化的企業(yè)環(huán)境來(lái)說(shuō)顯然是不適用的。例如，銀行的AI客服系統(tǒng)如果無(wú)法實(shí)時(shí)學(xué)習(xí)新產(chǎn)品的細(xì)節(jié)或新政策的變化，它就無(wú)法為客戶提供準(zhǔn)確的答案。企業(yè)的內(nèi)部動(dòng)態(tài)變化——如新產(chǎn)品發(fā)布、價(jià)格調(diào)整、市場(chǎng)策略變化等，往往是瞬時(shí)發(fā)生的，而大模型卻無(wú)法在短時(shí)間內(nèi)“吸收”這些新信息，導(dǎo)致其響應(yīng)變得滯后。

這種無(wú)法進(jìn)行實(shí)時(shí)學(xué)習(xí)的局限，讓大模型在企業(yè)場(chǎng)景中遇到了一道無(wú)法逾越的“墻”。它們雖然在一些標(biāo)準(zhǔn)化的、變化較小的任務(wù)上表現(xiàn)得相當(dāng)出色，但在需要快速適應(yīng)變化和具備企業(yè)特定知識(shí)的領(lǐng)域中，則顯得力不從心。未來(lái)，要讓大模型真正成為企業(yè)的智能助手，突破這一瓶頸，提升其實(shí)時(shí)學(xué)習(xí)和動(dòng)態(tài)適應(yīng)能力，成為了技術(shù)發(fā)展的關(guān)鍵所在。

大模型+RAG，只是一個(gè)“權(quán)宜之計(jì)”？

為了解決大模型在獲取外部信息和實(shí)時(shí)性方面的短板，盡快推動(dòng)大模型的應(yīng)用落地，業(yè)界進(jìn)行了多方的探索。其中，目前應(yīng)用比較多的就是大模型+RAG路線。

大模型的強(qiáng)大來(lái)自于龐大的數(shù)據(jù)和計(jì)算能力，但其靜態(tài)性卻是短板。在快速變化的世界中，單靠訓(xùn)練時(shí)的數(shù)據(jù)庫(kù)，它無(wú)法適應(yīng)實(shí)時(shí)的需求。RAG（Retrieval-Augmented Generation）的提出，正是為了填補(bǔ)這一空白。

RAG的核心在于：通過(guò)與外部數(shù)據(jù)源的結(jié)合，模型可以實(shí)時(shí)檢索并獲取最新信息，解決了大模型的“信息滯后”問(wèn)題。舉個(gè)例子，假如一個(gè)客戶向銀行咨詢最新的貸款政策，RAG可以讓模型通過(guò)互聯(lián)網(wǎng)實(shí)時(shí)獲取最準(zhǔn)確的信息。這讓大模型的應(yīng)用不再局限于靜態(tài)知識(shí)，而是能迅速響應(yīng)市場(chǎng)和需求的變化。

RAG的優(yōu)勢(shì)顯而易見(jiàn)，它使大模型能夠擺脫知識(shí)庫(kù)更新的“死循環(huán)”，快速適應(yīng)企業(yè)的動(dòng)態(tài)變化。在醫(yī)療、金融等行業(yè)，時(shí)效性和準(zhǔn)確性是決定服務(wù)質(zhì)量的關(guān)鍵，RAG能夠?yàn)檫@些行業(yè)提供更為高效的解決方案。

國(guó)內(nèi)的大模型公司，無(wú)論是互聯(lián)網(wǎng)巨頭推出的文心一言、通義千問(wèn)、元寶、豆包，還是創(chuàng)業(yè)選手推出的Kimi、智譜清言等，大多采用了大模型+RAG的技術(shù)路線。事實(shí)上，他們的產(chǎn)品形態(tài)很類似：每當(dāng)用戶在對(duì)話框中輸入一個(gè)問(wèn)題，對(duì)應(yīng)的產(chǎn)品都會(huì)先搜索幾十個(gè)網(wǎng)頁(yè)，然后從這些網(wǎng)頁(yè)中總結(jié)出一個(gè)答案。

比如，當(dāng)筆者問(wèn)了kimi、豆包、元寶、智譜清言同樣的問(wèn)題：“2024年，大模型技術(shù)有哪些最新進(jìn)展？”。

下面是kimi的結(jié)果。

下面是豆包的結(jié)果。

下面是元寶的結(jié)果。

下面是智譜清言的結(jié)果。

然而，RAG并非完美。雖然它能夠通過(guò)檢索外部信息彌補(bǔ)實(shí)時(shí)性不足，但它依然面臨數(shù)據(jù)準(zhǔn)確性和深度理解的問(wèn)題。

RAG雖然提高了實(shí)時(shí)性，但它依然無(wú)法解決深度業(yè)務(wù)理解的缺失。雖然模型可以通過(guò)檢索實(shí)時(shí)數(shù)據(jù)來(lái)應(yīng)對(duì)變化，但它依然無(wú)法真正理解和處理企業(yè)特定的業(yè)務(wù)流程和復(fù)雜的行業(yè)知識(shí)。比如，在金融服務(wù)中，貸款審批不僅僅依賴政策數(shù)據(jù)，還需要根據(jù)企業(yè)的客戶行為、風(fēng)險(xiǎn)評(píng)估模型等多個(gè)因素進(jìn)行決策，RAG難以涵蓋這些復(fù)雜因素的全面理解。

這就好像一個(gè)人可以很快從圖書(shū)館找到相關(guān)書(shū)籍并總結(jié)出答案，但這與完整地讀完整座圖書(shū)館的書(shū)是完全不同的。RAG類似于前者，它通過(guò)檢索找到相關(guān)信息，生成答案；而一個(gè)完整理解所有書(shū)籍內(nèi)容的人，則能更深刻地掌握知識(shí)背后的含義。

筆者認(rèn)為，大模型+RAG，很可能類似智能電動(dòng)汽車領(lǐng)域的“增程電動(dòng)車”，是一個(gè)合乎時(shí)宜的過(guò)渡路線，并不是終極解決方案。要讓大模型具備真正的實(shí)時(shí)學(xué)習(xí)能力，還需要繼續(xù)探索其他可能性。

為了突破實(shí)時(shí)學(xué)習(xí)“屏障”，人們孜孜以求

除了上面提到的大模型+RAG方案外，業(yè)界還進(jìn)行了哪些探索呢？

據(jù)我們觀察，增量學(xué)習(xí)、長(zhǎng)文本處理與記憶增強(qiáng)、以及數(shù)推分離等，是值得深入探索的可能方案。

● 增量學(xué)習(xí)與持續(xù)學(xué)習(xí)

增量學(xué)習(xí)的核心思路是：讓模型能夠根據(jù)新增的數(shù)據(jù)實(shí)時(shí)調(diào)整，而不是每次都重新訓(xùn)練。這種方式的最大優(yōu)勢(shì)在于可以大大降低計(jì)算成本和時(shí)間，讓大模型可以在快速變化的環(huán)境中保持靈活性。想象一下，一個(gè)金融系統(tǒng)每天接收到成千上萬(wàn)的交易數(shù)據(jù)，增量學(xué)習(xí)允許模型在這些數(shù)據(jù)流入時(shí)，快速更新并做出精準(zhǔn)的決策，而不需要每次都進(jìn)行完全重新訓(xùn)練。

然而，增量學(xué)習(xí)的一個(gè)重大挑戰(zhàn)是“災(zāi)難性遺忘”。當(dāng)新數(shù)據(jù)加入時(shí)，模型可能會(huì)忘記以前學(xué)到的知識(shí)，這就像是我們?cè)诜e累新知識(shí)的同時(shí)，不小心拋棄了舊有的智慧。因此，如何平衡新知識(shí)和舊知識(shí)的存儲(chǔ)，使得模型在不斷更新的同時(shí)，不丟失對(duì)過(guò)去的有效理解，是增量學(xué)習(xí)需要解決的關(guān)鍵問(wèn)題。

● 長(zhǎng)文本處理與記憶增強(qiáng)

大模型的另一個(gè)重要突破方向，是長(zhǎng)文本處理與記憶增強(qiáng)。隨著應(yīng)用場(chǎng)景的多樣化，尤其是在法律、醫(yī)學(xué)等領(lǐng)域，模型需要處理的信息量和信息復(fù)雜度大幅增加。長(zhǎng)文本處理技術(shù)讓模型能夠更有效地理解和處理大量復(fù)雜數(shù)據(jù)，能夠幫助它們從大規(guī)模的信息中提取有用的知識(shí)。

與此同時(shí)，記憶增強(qiáng)技術(shù)讓大模型能夠積累和整合歷史信息，使其能夠長(zhǎng)期優(yōu)化學(xué)習(xí)成果。比方說(shuō)，在醫(yī)療領(lǐng)域，AI可以通過(guò)記憶患者的歷史病例和診療數(shù)據(jù)，不僅幫助醫(yī)生做出診斷，還能根據(jù)以往的治療效果進(jìn)行優(yōu)化。

然而，這也帶來(lái)了新的挑戰(zhàn)：如何高效管理海量的歷史數(shù)據(jù)，避免信息過(guò)載？就像一個(gè)圖書(shū)館員，如果沒(méi)有良好的管理系統(tǒng)，所有書(shū)籍都會(huì)堆積成山，無(wú)法高效檢索。模型需要在動(dòng)態(tài)更新的同時(shí)，保證信息的準(zhǔn)確性和有效性。

● 數(shù)推分離

近期，數(shù)據(jù)猿了解到一個(gè)新穎的技術(shù)方向——傳神語(yǔ)聯(lián)公司基于數(shù)推分離來(lái)實(shí)現(xiàn)大模型的實(shí)時(shí)學(xué)習(xí)。

傳統(tǒng)的大模型通常將數(shù)據(jù)學(xué)習(xí)與推理緊密結(jié)合，這會(huì)導(dǎo)致實(shí)時(shí)數(shù)據(jù)更新時(shí)，模型的推理能力可能遭到削弱。數(shù)推分離的核心思路是將數(shù)據(jù)處理和推理過(guò)程分開(kāi)，利用雙網(wǎng)絡(luò)架構(gòu)的設(shè)計(jì)，數(shù)據(jù)網(wǎng)絡(luò)負(fù)責(zé)實(shí)時(shí)學(xué)習(xí)和更新新數(shù)據(jù)，而推理網(wǎng)絡(luò)則根據(jù)已固定的知識(shí)庫(kù)進(jìn)行決策推理。這種結(jié)構(gòu)的最大優(yōu)勢(shì)在于，實(shí)時(shí)學(xué)習(xí)不會(huì)影響推理網(wǎng)絡(luò)的穩(wěn)定性和精度，從而避免了傳統(tǒng)大模型訓(xùn)練時(shí)可能出現(xiàn)的“災(zāi)難性遺忘”問(wèn)題。

同時(shí)，這種方式還解決了大模型應(yīng)用的一些關(guān)鍵“堵點(diǎn)”：數(shù)據(jù)不會(huì)泄露，確保了客戶數(shù)據(jù)的安全；這種創(chuàng)新不僅提升了模型的實(shí)時(shí)學(xué)習(xí)能力，還大大降低了訓(xùn)練成本和算力要求，使得大模型技術(shù)的落地變得更加可行。

當(dāng)然，數(shù)推分離作為一個(gè)創(chuàng)新產(chǎn)物，還需要經(jīng)歷實(shí)踐的檢驗(yàn)。

展望未來(lái)，大模型不僅是工具，更是自我進(jìn)化的智慧體。它們將成為各行各業(yè)的“引擎”，驅(qū)動(dòng)我們?cè)趶?fù)雜多變的市場(chǎng)中迅速做出精確決策，創(chuàng)造更加靈活與高效的業(yè)務(wù)模式。這些模型的潛力遠(yuǎn)超當(dāng)前的應(yīng)用，它們將成為企業(yè)的“智能大腦”，不僅支持決策，更能夠主動(dòng)適應(yīng)變化、預(yù)測(cè)趨勢(shì)，實(shí)時(shí)調(diào)整策略。這是對(duì)傳統(tǒng)決策方式的顛覆，讓“決策”不再是人工設(shè)定的結(jié)論，而是一個(gè)持續(xù)學(xué)習(xí)、動(dòng)態(tài)調(diào)整的過(guò)程。

正如愛(ài)因斯坦所言：“知識(shí)是有限的，而想象力是無(wú)限的。”未來(lái)的大模型將不再受限于過(guò)去的知識(shí)，而是憑借實(shí)時(shí)學(xué)習(xí)與自我進(jìn)化，推動(dòng)我們不斷超越現(xiàn)有的認(rèn)知與限制。

來(lái)源：數(shù)據(jù)猿