10月19日，2023恒生金融技術(shù)大會在杭州舉行。會上，恒生電子發(fā)布了金融大模型LightGPT最新的能力升級成果，以及基于LightGPT打造的多款光子系列大模型應(yīng)用產(chǎn)品，并宣布正式開放產(chǎn)品公測。

恒生電子董事長劉曙峰表示，當(dāng)前金融行業(yè)對于大模型技術(shù)的關(guān)注度和參與度很高，但在大模型實(shí)際落地過程中主要存在模型選擇難、算力供應(yīng)不足、應(yīng)用成熟度不足等問題。我們建議機(jī)構(gòu)可以通過選擇合適的金融大模型，采用大模型“私有化+MaaS服務(wù)”混合部署，基于場景驅(qū)動(dòng)的金融垂直應(yīng)用開發(fā)和積累數(shù)據(jù)資產(chǎn)、構(gòu)建數(shù)據(jù)飛輪、提升應(yīng)用成熟度等工作，實(shí)現(xiàn)金融行業(yè)大模型更好地應(yīng)用落地。

大模型時(shí)代會產(chǎn)生很多新物種。ChatGPT可能是通用大模型的第一個(gè)原生應(yīng)用，已成為史上實(shí)現(xiàn)1億月活用戶用時(shí)最短的App。隨著金融大模型的落地，行業(yè)也在呼喚新一代原生應(yīng)用的誕生。

更重要的是，大模型技術(shù)的突破，未來在金融領(lǐng)域很可能會帶來體系化的重構(gòu)，重新定義人機(jī)交互方式和專業(yè)應(yīng)用程序，重構(gòu)金融機(jī)構(gòu)原有的基礎(chǔ)設(shè)施以及管理體系。對此，劉曙峰認(rèn)為，針對大模型技術(shù)的發(fā)展需求，機(jī)構(gòu)需要完成從原有的云原生數(shù)字化架構(gòu)向大模型原生數(shù)字化架構(gòu)的演進(jìn)升級。

圍繞金融專屬業(yè)務(wù)場景，LightGPT重磅升級

作為一款專為金融領(lǐng)域打造的大語言模型，LightGPT基于海量金融數(shù)據(jù)訓(xùn)練而來，對金融相關(guān)問題的理解和金融任務(wù)的處理，比通用大模型更有優(yōu)勢。本次發(fā)布會，恒生電子首席科學(xué)家、大模型產(chǎn)品總監(jiān)白碩公布了LightGPT自6月底發(fā)布以來的升級成果，并就安全合規(guī)、投顧服務(wù)等場景進(jìn)行了現(xiàn)場演示。

據(jù)白碩介紹，目前LightGPT在整體模型效果上提升15%，安全合規(guī)性上提升13%，推理速度上提升50%，并面向金融機(jī)構(gòu)實(shí)現(xiàn)LightGPT-7B的開源，推理和訓(xùn)練全面適配華為昇騰系列。

為了系統(tǒng)地評估金融大模型的能力表現(xiàn)，恒生電子結(jié)合自身應(yīng)用實(shí)踐，與中國信通院共同編寫了金融大模型評測標(biāo)準(zhǔn)，包含“L0-L1-L2”三層能力評測，為促進(jìn)金融大模型的可信發(fā)展提供了重要保障。其中，通用能力L0層包括基礎(chǔ)常識、語義理解、數(shù)學(xué)計(jì)算以及在金融領(lǐng)域尤為重要的多輪對話能力、表格處理能力和安全能力、Json識別能力等。金融領(lǐng)域能力L1層包括金融法律法規(guī)遵循、金融百科問答和實(shí)體識別。金融場景能力L2層包含投顧、投研、運(yùn)營、合規(guī)和其他五大場景80種金融專屬任務(wù)評測。

對于金融行業(yè)而言，安全合規(guī)是重中之重。針對生成內(nèi)容的可控問題，LightGPT構(gòu)建了包括語料安全、模型安全、模型評估等在內(nèi)完善的安全機(jī)制，從八大評價(jià)維度確保大模型生成內(nèi)容的安全合規(guī)，符合中國金融市場的監(jiān)管要求。

發(fā)布會上，白碩以投顧、投研兩大核心金融場景為例，具體闡釋了LightGPT在金融專業(yè)領(lǐng)域的能力優(yōu)勢。在投顧場景中， LightGPT通過增加1200多萬tokens專業(yè)投顧語料，減少財(cái)經(jīng)大V版權(quán)語料和日常語料以及12類任務(wù)指令微調(diào)，應(yīng)對金融術(shù)語口語眾多、知識幻覺、監(jiān)管嚴(yán)格等挑戰(zhàn)，在安撫話術(shù)生成、客戶意圖識別、實(shí)體識別、Json識別能力等方面平均超出國內(nèi)通用大模型13%。

在投研場景中，LightGPT通過使用基于位置編碼改進(jìn)的transformer模型，超200億tokens的金融信息語料和8類任務(wù)指令微調(diào)，解決超長文本處理、圖表文字混合排布、投研術(shù)語眾多等問題，在研報(bào)觀點(diǎn)抽取、輿情事件識別和抽取、資訊摘要、表格處理、公司實(shí)體識別等方面平均超出國內(nèi)通用大模型12%。

光子賦能，智能產(chǎn)品生態(tài)全面進(jìn)化

基于金融行業(yè)的大模型應(yīng)用需求，恒生電子于6月底率先推出金融智能助手光子，定位金融應(yīng)用對接大模型的“中控”部位，串聯(lián)了“通用工具鏈+金融插件工具+金融數(shù)據(jù)+金融業(yè)務(wù)場景”，旨在解決大模型和實(shí)際應(yīng)用之間的連接問題，打通金融領(lǐng)域AI應(yīng)用的“最后一公里”。

會上，白碩發(fā)布了恒生電子基于光子打造的多款大模型應(yīng)用產(chǎn)品。他表示，目前光子賦能下的智能產(chǎn)品可以分為重塑和嵌入兩種模式。重塑是指基于大模型能力重構(gòu)應(yīng)用，重塑業(yè)務(wù)流程和服務(wù)模式；嵌入是指通過光子將數(shù)據(jù)、應(yīng)用、知識庫等資源組裝成各類插件，將大模型能力無縫集成到原有程序和應(yīng)用中，為業(yè)務(wù)系統(tǒng)注入AI力量。

在重塑模式產(chǎn)品方面，本次正式發(fā)布了四款大模型應(yīng)用，分別為光子·文曲、光子·方圓、光子·善策和光子·慧營。其中，光子·文曲是面向投資顧問的一站式內(nèi)容創(chuàng)作平臺，通過豐富創(chuàng)作模版、智能文摘生成、AI問答助手、一鍵發(fā)布導(dǎo)出、圖表自動(dòng)生成等功能，幫助投顧快速完成報(bào)告素材搜集、內(nèi)容生成以及審核發(fā)布。

光子·方圓聚焦金融機(jī)構(gòu)投資合規(guī)領(lǐng)域，通過法規(guī)檢索和文件標(biāo)簽化管理、智能投資合規(guī)問答、系統(tǒng)指標(biāo)邏輯解答、一鍵生成合規(guī)設(shè)置等功能為合規(guī)和業(yè)務(wù)人員提供服務(wù)，提升合規(guī)管理質(zhì)量和效率。

光子·善策聚焦投顧咨詢場景，通過會話意圖理解、智能服務(wù)匹配、智能話術(shù)生成、智能工單創(chuàng)建等功能，賦能投顧會話，為投資顧問精準(zhǔn)定位客戶標(biāo)簽，洞察客戶意圖，生成專業(yè)話術(shù)。

光子·慧營定位資管與托管產(chǎn)品運(yùn)營助手，通過文檔智能分片、要素智能提取、文字內(nèi)容智能匹配、文件內(nèi)容智能審核、文件內(nèi)容溯源定位等功能，幫助運(yùn)營人員提供參數(shù)提取、投監(jiān)規(guī)則匹配、審計(jì)報(bào)告內(nèi)容抽取等的智能輔助解決方案。

在嵌入模式產(chǎn)品方面，一些傳統(tǒng)應(yīng)用可以不用修改代碼，通過光子插件能力與業(yè)務(wù)系統(tǒng)交互，即可為傳統(tǒng)應(yīng)用現(xiàn)有業(yè)務(wù)流程注AI能力。目前光子可以提供金融數(shù)據(jù)插件、知識庫問答插件、Agent智能體插件、文檔問答插件等各類金融特色插件，用戶也可以根據(jù)需求自定義業(yè)務(wù)插件。完成插件集成后，用戶可以在原有系統(tǒng)界面上喚起“光子”，與光子形成自然語言交互。

如在投顧創(chuàng)作臺中，用戶可以通過光子完成投顧內(nèi)容改寫分析、詢問板塊行情、查詢研報(bào)觀點(diǎn)等工作；在PB系統(tǒng)中，光子可以輔助風(fēng)控管理、資金調(diào)整復(fù)核、資產(chǎn)查詢等操作；在CRM系統(tǒng)中，光子則可以幫助員工完成拜訪日報(bào)智能化填寫等工作。

白碩表示，接下來恒生電子將進(jìn)一步完善光子智能生態(tài)，基于光子持續(xù)構(gòu)建智能產(chǎn)品矩陣。一方面，持續(xù)發(fā)布和公測大模型應(yīng)用新品，如面向金融業(yè)務(wù)崗前仿真培訓(xùn)的光子·問學(xué)，面向業(yè)務(wù)數(shù)據(jù)智能管理的光子·數(shù)見，面向會議語音內(nèi)容生成行動(dòng)AP的光子·會悟等；另一方面，加快恒生原有業(yè)務(wù)系統(tǒng)的光子插件嵌入，讓光子成為真正的業(yè)務(wù)智能助手。

WarrenQ：持續(xù)加強(qiáng)金融垂域“搜讀算寫”

發(fā)布會上，恒生電子旗下子公司恒生聚源也帶來了智能投研平臺WarrenQ最新的產(chǎn)品升級以及落地實(shí)踐分享。

恒生聚源副總經(jīng)理、WarrenQ產(chǎn)品經(jīng)理白雪表示，繼6月底推出WarrenQ-Chat和ChatMiner兩款大模型工具后， WarrenQ上新了 AI寫作、語音速記、小程序、招股書/公告深度問答四款新功能，并持續(xù)深入私有知識庫問答、智能投顧/投研chat助手等金融業(yè)務(wù)場景。

據(jù)白雪介紹，恒生聚源參與共建了工銀瑞信最新大模型創(chuàng)新成果FundGPT，為項(xiàng)目提供并部署了WarrenQ-Chat和Chatminer產(chǎn)品，以向量數(shù)據(jù)庫的方式對接工銀內(nèi)部知識庫，可以chat聚源數(shù)據(jù)庫龐大的金融資訊數(shù)據(jù)，構(gòu)建了一個(gè)覆蓋投研、財(cái)富、投教的大模型問答系統(tǒng)。

此外，WarrenQ大模型還服務(wù)于數(shù)家證券公司，覆蓋券商投研、財(cái)富、投行、固收等業(yè)務(wù)系統(tǒng)，為業(yè)務(wù)人員提供智能化的數(shù)據(jù)分析和交互技術(shù)，提升業(yè)務(wù)人員工作效率。

接下來，WarrenQ也將持續(xù)探索更多深度場景化、大模型真正嵌入到日常工作流程中的應(yīng)用案例，同時(shí)結(jié)合Data Science的數(shù)據(jù)分布算法推薦，持續(xù)加強(qiáng)大模型加持下的金融垂域“搜讀算寫”能力，成為投研人員的AI小助理。

“判斷一個(gè)創(chuàng)新技術(shù)是否實(shí)現(xiàn)有效落地，可以從是否實(shí)質(zhì)性改善用戶體驗(yàn)、是否數(shù)量級提高業(yè)務(wù)效率，以及是否追求盈利而非追求流量三個(gè)角度來判斷。”劉曙峰在發(fā)布會上表示，相信隨著“數(shù)據(jù)+算法+算力”大模型新范式三大基本要素的不斷提升，大模型作為一種創(chuàng)新技術(shù)，也將完成對于財(cái)富資管領(lǐng)域業(yè)務(wù)形態(tài)和邏輯范式的革新。

作為國內(nèi)領(lǐng)先的金融科技公司，恒生電子也將持續(xù)投入金融行業(yè)大模型生態(tài)建設(shè)，推動(dòng)金融大模型和金融垂直智能應(yīng)用的創(chuàng)新與實(shí)踐，助力金融行業(yè)數(shù)智化轉(zhuǎn)型升級。

來源：數(shù)據(jù)猿