如今，AIGC的旋風(fēng)讓信息產(chǎn)業(yè)來到新舊范式交替時(shí)代，毫無疑問，AI大模型等技術(shù)已經(jīng)深刻地影響到所有行業(yè)的發(fā)展，“所有行業(yè)都值得用大模型重新做一遍！“。幾乎每個(gè)企業(yè)的負(fù)責(zé)人都在思考，如何便捷地搭上AI的快車，重構(gòu)企業(yè)核心產(chǎn)品，重塑用戶與企業(yè)產(chǎn)品和服務(wù)的交互方式，獲得企業(yè)的新增長點(diǎn)。

然而，企業(yè)在實(shí)際調(diào)研中發(fā)現(xiàn)，通用大模型訓(xùn)練難度大、投資大、運(yùn)營成本高、對(duì)于特定領(lǐng)域的適用性不佳，無法在特定范圍內(nèi)獲取精準(zhǔn)答案，他們需要基于自身業(yè)務(wù)及相關(guān)數(shù)據(jù)庫、資源池，借助大模型的語義理解能力，高效處理企業(yè)所需的數(shù)據(jù)，提供專家級(jí)的策略建議。

近日，在“向星力·未來數(shù)據(jù)技術(shù)峰會(huì)（FDTC）”上，星環(huán)科技行業(yè)大模型戰(zhàn)略布局全面亮相，為行業(yè)用戶提供全棧的軟件工具，包括大模型開發(fā)工具Sophon LLMOps，業(yè)界首創(chuàng)的金融大模型“星環(huán)無涯”、大數(shù)據(jù)分析大模型SoLar“求索”等行業(yè)大模型。

星環(huán)科技創(chuàng)始人、CEO孫元浩表示，未來數(shù)據(jù)處理將走向智能化、多模態(tài)和平民化，其中領(lǐng)域大模型讓數(shù)據(jù)處理的自動(dòng)化程度更高、結(jié)果更能為我所用；數(shù)據(jù)處理將從單一模態(tài)向多模態(tài)進(jìn)化，企業(yè)數(shù)據(jù)分析來到新的次元；數(shù)據(jù)處理平民化，讓普通人不再需要掌握復(fù)雜工具，就可以快速處理數(shù)據(jù)。每個(gè)人都可以擁有一個(gè)“虛擬業(yè)務(wù)助手”。

來源：向星力·未來數(shù)據(jù)技術(shù)峰會(huì)

推出LLMOps工具鏈，讓每個(gè)企業(yè)打造專屬的大模型

ChatGPT主導(dǎo)的對(duì)話式AI開始滲透到各行各業(yè)，使人和信息結(jié)合比以往任何時(shí)候都更緊密。超大模型雖好，但是訓(xùn)練、維護(hù)的技術(shù)要求高、難度大、費(fèi)用高，同時(shí)通用大模型對(duì)于特定領(lǐng)域的適用性不佳，結(jié)合到企業(yè)的應(yīng)用仍然有巨大差距。

孫元浩表示，“大模型目前只相當(dāng)于一個(gè)本科生的水平或者本科低年級(jí)的水平，可能只能作為一個(gè)實(shí)習(xí)生，但是不具備專業(yè)能力。我們預(yù)測，未來在每一個(gè)領(lǐng)域，在金融、政府、能源、交通，這些領(lǐng)域，未來都需要誕生很多領(lǐng)域或者行業(yè)大模型，它們具有專家的能力，能夠在上面構(gòu)造復(fù)雜的應(yīng)用。”

為了幫助企業(yè)用戶基于大模型構(gòu)建未來應(yīng)用，星環(huán)科技推出了Sophon LLMOps，實(shí)現(xiàn)領(lǐng)域大模型的訓(xùn)練、上架和迭代，讓每個(gè)企業(yè)都能打造自己的專屬大模型。不僅解決了企業(yè)在行業(yè)特定領(lǐng)域的需求，而且能夠滿足國內(nèi)受監(jiān)管的企業(yè)，如金融機(jī)構(gòu)、央企、國企，不能將數(shù)據(jù)外傳，本地化部署大模型的需求。

孫元浩介紹說，首先它提供了模型倉庫，讓用戶能夠選擇基礎(chǔ)大模型，也可選擇一些行業(yè)大模型。在大模型的基礎(chǔ)上，Sophon LLMOps還提供二次訓(xùn)練的工具，讓用戶能夠給它增加行業(yè)知識(shí)。

第二是樣本倉庫的能力，可以輔助用戶生成提示詞（prompt）和排練提示詞，同時(shí)，加上人的反饋給它做強(qiáng)化學(xué)習(xí)，Sophon LLMOps也提供分布式的訓(xùn)練框架，能夠在多臺(tái)機(jī)器，在每臺(tái)機(jī)器多張卡的基礎(chǔ)上進(jìn)行大模型分布式訓(xùn)練。

來源：向星力·未來數(shù)據(jù)技術(shù)峰會(huì)（FDTC）

“通過提供完整的大模型工具鏈，再與星環(huán)的大數(shù)據(jù)平臺(tái)結(jié)合起來，能夠讓每家企業(yè)或者每個(gè)行業(yè)都能打造自己的專屬大模型。”孫元浩如是說。

大模型與向量和圖數(shù)據(jù)庫深度融合，讓人人擁有個(gè)性化AI助理

大模型與星環(huán)本身具有強(qiáng)大優(yōu)勢的大數(shù)據(jù)平臺(tái)結(jié)合起來，則更具有想象空間。星環(huán)科技是A股首家大數(shù)據(jù)基礎(chǔ)軟件上市公司，圍繞數(shù)據(jù)的集成、存儲(chǔ)、治理、建模、分析、挖掘和流通等數(shù)據(jù)全生命周期提供基礎(chǔ)軟件及服務(wù)。星環(huán)科技幾乎覆蓋所有數(shù)據(jù)庫領(lǐng)域，2017年和2020年其被IDC評(píng)為中國大數(shù)據(jù)市場領(lǐng)導(dǎo)者，2022年，星環(huán)科技還被Gartner評(píng)為圖數(shù)據(jù)庫管理的全球代表廠商。

而此次與大模型的深度融合，恰好可以利用向量數(shù)據(jù)庫和圖數(shù)據(jù)庫的特殊能力。孫元浩在峰會(huì)上介紹說，如今人們使用大模型有三個(gè)痛點(diǎn)，一是訓(xùn)練時(shí)間比較長，二是需要高算力，三是大模型有時(shí)會(huì)產(chǎn)生幻覺，就是答非所問。

向量數(shù)據(jù)庫的作用可以把大量行業(yè)、個(gè)性化知識(shí)語料預(yù)先上傳到向量數(shù)據(jù)庫中，先進(jìn)行語義搜索，找到相關(guān)信息，拼接成提示詞，再發(fā)給大模型，還可以提供毫秒級(jí)算力，提供了一個(gè)類似人腦海馬體的記憶存儲(chǔ)能力，如此可以高效精準(zhǔn)地為用戶提供更需要的答案。

除此之外，孫元浩在回答記者提問時(shí)說道，此前大模型無法處理實(shí)時(shí)數(shù)據(jù)的問題，現(xiàn)在可以通過向量數(shù)據(jù)庫實(shí)時(shí)搜索的方式提供最新結(jié)果，經(jīng)過向量化后，提供給大模型，大模型與以前訓(xùn)練的知識(shí)庫結(jié)合起來再去做歸納、總結(jié)、推理。

來源：高福證券

據(jù)了解，大模型爆發(fā)以來，向量數(shù)據(jù)庫同時(shí)也受到投資者的關(guān)注，近日至少有四家向量數(shù)據(jù)庫的初創(chuàng)公司Pinecone、Weaviate、Qdrant、Chroma先后獲得了融資。

來源：華福證券

在此次的向星力·未來數(shù)據(jù)技術(shù)峰會(huì)（FDTC）上，星環(huán)科技重磅發(fā)布了自研的向量數(shù)據(jù)庫Transwarp Hippo，作為一款企業(yè)級(jí)云原生分布式向量數(shù)據(jù)庫，星環(huán)科技Hippo支持存儲(chǔ)、索引以及管理海量的向量式數(shù)據(jù)集，能夠高效地解決向量相似度檢索、高密度向量聚類等問題。

與開源的向量數(shù)據(jù)庫不同，Hippo具備高可用、高性能、易拓展等特點(diǎn)，支持多種向量搜索索引，支持?jǐn)?shù)據(jù)分區(qū)分片、數(shù)據(jù)持久化、增量數(shù)據(jù)攝取、向量標(biāo)量字段過濾混合查詢等功能，能很好地滿足企業(yè)針對(duì)海量向量數(shù)據(jù)的高實(shí)時(shí)性查詢、檢索、召回等場景。

星環(huán)科技此次另一個(gè)重要發(fā)布是，推出面向圖智能、業(yè)務(wù)分析的多模型企業(yè)級(jí)分布式圖數(shù)據(jù)庫StellarDB 5.0，新的功能實(shí)現(xiàn)了多版本的動(dòng)態(tài)圖，并全面與深度學(xué)習(xí)、大模型的需求對(duì)接。

我們知道，知識(shí)圖譜是圖數(shù)據(jù)庫的重要應(yīng)用場景，而圖數(shù)據(jù)庫與大模型可視化端到端構(gòu)建工具一起，能夠提供知識(shí)抽取融合、知識(shí)建模、知識(shí)圖譜生成存儲(chǔ)、基于大模型的知識(shí)問答等閉環(huán)功能?？蛻粢灾R(shí)圖譜作為大語言模型提示即可發(fā)起模型微調(diào)，以較低代價(jià)就可獲得行業(yè)的專屬大語言模型問答應(yīng)用。

孫元浩表示，“在StellarDB 5.0，我們自研構(gòu)建了圖嵌入的方法，輸入給深度學(xué)習(xí)框架完成深度學(xué)習(xí)，具備推理能力后，可以預(yù)測多個(gè)點(diǎn)之間未來會(huì)不會(huì)存在邊，經(jīng)過圖上的深度學(xué)習(xí)后，它比傳統(tǒng)的圖算法提升8倍的效能，準(zhǔn)確率提升23%。”

孫元浩現(xiàn)場演示了知識(shí)圖譜的構(gòu)建工具結(jié)合向量數(shù)據(jù)庫、圖數(shù)據(jù)庫和大模型，所產(chǎn)生的效果。當(dāng)問及中糧集團(tuán)今年玉米收儲(chǔ)價(jià)是多少，普通大模型不知道，再提問“新希望生產(chǎn)豬飼料的主要合作上下游企業(yè)有哪些？”仍然告知缺少行業(yè)知識(shí)，而當(dāng)補(bǔ)充了農(nóng)業(yè)知識(shí)圖譜后，它可以告訴你最新的收儲(chǔ)價(jià)是3元，以及價(jià)格的影響。另外，它也能夠回答豬飼料的主要供應(yīng)商是正大集團(tuán)。

孫元浩表示，通過這樣一個(gè)工具，我們解決了大模型的三大問題，第一是把實(shí)時(shí)的知識(shí)、變化的知識(shí)能夠放到大模型當(dāng)中，能夠讓它回答。第二，它能夠校正結(jié)果的準(zhǔn)確性，可以極大地提升精度，即使不經(jīng)過微調(diào)，我們也可以利用工具去構(gòu)建這樣的知識(shí)圖譜，能夠來增強(qiáng)大模型的能力。

我們看到，融入了知識(shí)圖譜、向量數(shù)據(jù)庫、模型倉庫和圖數(shù)據(jù)庫構(gòu)成的知識(shí)語義層，與模型運(yùn)行層、大語言模型、提示工程層、應(yīng)用前端集成層協(xié)同，能夠切實(shí)幫助用戶創(chuàng)建大模型應(yīng)用，可以說，在大模型時(shí)代讓每個(gè)人真正擁有了自己的個(gè)性化AI助理。

打造“金融量化”和“數(shù)據(jù)分析”兩個(gè)行業(yè)“樣板房”

在上述自研基礎(chǔ)上，憑借星環(huán)科技對(duì)金融量化和數(shù)據(jù)分析兩個(gè)重要場景長達(dá)十年的深耕，此次峰會(huì)上，星環(huán)科技還推出上述兩個(gè)行業(yè)專屬大模型，率先在垂直領(lǐng)域獲得突破。

針對(duì)量化投研領(lǐng)域特定的業(yè)務(wù)邏輯，星環(huán)科技通過預(yù)訓(xùn)、提示、增強(qiáng)、推導(dǎo)范式的構(gòu)建，實(shí)現(xiàn)Financial-Specific-LLM的訓(xùn)練，推出了金融行業(yè)量化投研大模型無涯Infinity。

據(jù)了解，星環(huán)無涯金融大模型積累了上百萬金融專業(yè)領(lǐng)域的語料，其中涵蓋了研報(bào)、公告，政策，新聞等高質(zhì)量的自然語言文本來作為基礎(chǔ)大模型的二次預(yù)訓(xùn)練語料，設(shè)計(jì)了上百個(gè)事件，同時(shí)標(biāo)注了20多萬個(gè)時(shí)間樣本進(jìn)行訓(xùn)練，同時(shí)植入上百個(gè)因子，打造政策、輿情、ESG、風(fēng)險(xiǎn)、量價(jià)、產(chǎn)業(yè)鏈等六大類因子庫，使得無涯具備對(duì)包括基本面、技術(shù)面、消息面在內(nèi)的金融領(lǐng)域準(zhǔn)確的理解能力。

來源：向星力·未來數(shù)據(jù)技術(shù)峰會(huì)（FDTC）

值得注意的是，星環(huán)科技基于大模型的事件驅(qū)動(dòng)與深度圖引擎，實(shí)現(xiàn)對(duì)事件語義刻畫、定價(jià)因子挖掘、時(shí)序編碼、異構(gòu)關(guān)系圖卷積傳播，進(jìn)而構(gòu)建包含事件沖擊、時(shí)序變化、截面聯(lián)動(dòng)和決策博弈等多個(gè)維度的量化投研新范式。

同樣地，基于在SQL編輯器的多年積累，結(jié)合大語言模型，星環(huán)科技推出了大數(shù)據(jù)分析大模型SoLar“求索”。

SoLar “求索”可以使用自然語言描述涉及多種數(shù)據(jù)模型的復(fù)雜業(yè)務(wù)需求，借助星環(huán)大數(shù)據(jù)平臺(tái)特有的多模型技術(shù)，對(duì)于不同模態(tài)，如圖、文本、結(jié)構(gòu)化等數(shù)據(jù)進(jìn)行關(guān)聯(lián)分析和展示。業(yè)務(wù)人員可以通過自然語言，自助生成可成功執(zhí)行的SQL或Cypher，從而快速獲取查詢的結(jié)果，能夠快速降低用戶的使用門檻。

孫元浩介紹道，比如業(yè)務(wù)人員有一個(gè)精準(zhǔn)營銷的需求，“找到12個(gè)月內(nèi)注冊的新用戶，在過去新用戶有三個(gè)朋友以上買過新基金”，過去要通過數(shù)據(jù)工程師來幫助實(shí)現(xiàn)，借助求索大模型，業(yè)務(wù)人員直接通過自然語言告訴“AI助理”，在特定數(shù)據(jù)庫進(jìn)行查詢，便能直接生成所需結(jié)果。

同時(shí)，為了保障生產(chǎn)可用和避免大語言模型的“幻覺”問題，星環(huán)科技Solar求索還為客戶提供了交互式數(shù)據(jù)分析的方式，方便客戶利用數(shù)據(jù)表與表之間的ER圖（實(shí)體-聯(lián)系圖），指定想使用的數(shù)據(jù)庫/表，提供數(shù)據(jù)分析代碼的一步步解釋，從而生成可被追溯、可被理解、同時(shí)更準(zhǔn)確的分析能力。

來源：向星力·未來數(shù)據(jù)技術(shù)峰會(huì)（FDTC）

據(jù)了解，星環(huán)科技今年在不同產(chǎn)品的創(chuàng)新，進(jìn)一步落地其“數(shù)據(jù)平民化”的需求，讓普通人不再需要掌握復(fù)雜工具，就可以快速處理數(shù)據(jù)。除大模型相關(guān)產(chǎn)品以外，此次發(fā)布會(huì)還有一系列數(shù)據(jù)平臺(tái)產(chǎn)品的升級(jí)，對(duì)于整個(gè)公司而言，產(chǎn)品競爭力進(jìn)一步提升。

根據(jù)此前公布的星環(huán)科技2023年第一季度財(cái)報(bào)顯示，該公司實(shí)現(xiàn)總營收4297萬元，同比增長76.4%，其在分布式數(shù)據(jù)庫國產(chǎn)化替代等方面，已經(jīng)具備了核心增長優(yōu)勢。不僅如此，該公司長期重視創(chuàng)新技術(shù)的研發(fā)，據(jù)財(cái)報(bào)顯示，星環(huán)科技在2023年第一季度研發(fā)費(fèi)用投入同比增長27.6%。

我們看到，星環(huán)科技最近投入自研的核心目標(biāo)之一，就是進(jìn)一步讓大模型這一劃時(shí)代的技術(shù)有效落地，落實(shí)到企業(yè)中，結(jié)合星環(huán)科技數(shù)據(jù)的全棧能力，加以專屬數(shù)據(jù)庫、專屬大模型，進(jìn)一步實(shí)現(xiàn)行業(yè)所倡導(dǎo)的“數(shù)據(jù)處理平民化，讓人人成為數(shù)據(jù)科學(xué)家”這一愿景。

“現(xiàn)在大模型技術(shù)給我們帶來了一個(gè)期望，我們可以在大模型的基礎(chǔ)上提供人機(jī)交互接口，既可以把大模型嵌入到現(xiàn)有應(yīng)用當(dāng)中，作為大腦和智能中樞來提供智能化決策，也可以利用大模型來構(gòu)建原生的AI應(yīng)用，”孫元浩表示，“借助新一代的大數(shù)據(jù)和大模型工具，我們可以推斷未來所有人，包括科技人員、業(yè)務(wù)人員，都可以成為數(shù)據(jù)科學(xué)家，都可以進(jìn)行更高效的分析。”

文：陸易斯 / 數(shù)據(jù)猿

來源：數(shù)據(jù)猿