大模型技術(shù)的發(fā)展日新月異，模型參數(shù)規(guī)模越做越大，能處理的文本長度、多模態(tài)融合等方面也在快速演進(jìn)。然而，如何將這些大模型的潛力在企業(yè)中落地應(yīng)用，仍然是業(yè)界面臨的一大挑戰(zhàn)。企業(yè)業(yè)務(wù)場景千差萬別，大模型必須經(jīng)過針對性的訓(xùn)練和微調(diào)，才能有效適應(yīng)不同企業(yè)的需求和業(yè)務(wù)流程。面對這些挑戰(zhàn)，業(yè)界一直在探索各種解決方案，但尚未形成統(tǒng)一的最佳實(shí)踐。

在這一背景下，星環(huán)科技作為行業(yè)的先行者，積極探索大模型在企業(yè)中的應(yīng)用路徑。在5月31日“2024向星力·未來數(shù)據(jù)技術(shù)峰會”上，星環(huán)科技最新發(fā)布的Transwarp Knowledge Hub知識平臺（以下簡稱“TKH”），旨在為企業(yè)構(gòu)建高效的知識庫，提供定制化的大模型解決方案。這一創(chuàng)新探索，為大模型在企業(yè)中的應(yīng)用帶來了新的希望和可能性。

大模型三級跳，企業(yè)級大模型才是正解

大模型技術(shù)的快速發(fā)展，使其在許多應(yīng)用場景中展現(xiàn)出了強(qiáng)大的能力。根據(jù)應(yīng)用范圍的不同，大模型可以分為三類：通用大模型、行業(yè)大模型（也稱領(lǐng)域大模型）和企業(yè)級應(yīng)用大模型。

通用大模型是在大規(guī)模多樣化數(shù)據(jù)集上訓(xùn)練的模型，典型的例子包括OpenAI的ChatGPT、Google的Gemini，以及國內(nèi)百度的文心一言、阿里的通義千問、字節(jié)的豆包、騰訊的混元、科大訊飛的訊飛星火等。通用大模型的優(yōu)勢在于其強(qiáng)大的遷移學(xué)習(xí)能力，能夠在各種任務(wù)上表現(xiàn)出色，可以說“上知天文下知地理”，似乎無所不知。然而，通用大模型的局限性在于其缺乏對特定行業(yè)或企業(yè)的深度理解，難以滿足復(fù)雜且專業(yè)化的業(yè)務(wù)需求。

行業(yè)大模型（領(lǐng)域大模型）是在通用大模型的基礎(chǔ)上，針對特定行業(yè)或領(lǐng)域的數(shù)據(jù)進(jìn)行進(jìn)一步訓(xùn)練和優(yōu)化的模型。行業(yè)大模型能夠更好地理解和處理特定領(lǐng)域的任務(wù)，對行業(yè)知識有更深入的理解。例如，在醫(yī)療領(lǐng)域，行業(yè)大模型可以更準(zhǔn)確地解讀醫(yī)學(xué)文本和輔助診斷；在金融領(lǐng)域，行業(yè)大模型則可以進(jìn)行精確的市場預(yù)測和風(fēng)險評估。

相對于通用大模型，行業(yè)大模型更進(jìn)了一步。但是這還不夠，其仍然無法完全適應(yīng)不同企業(yè)的獨(dú)特需求和業(yè)務(wù)流程。

例如，假設(shè)工商銀行要應(yīng)用一個金融大模型，一般的金融大模型雖然具備廣泛的金融行業(yè)知識，能夠理解金融市場的動態(tài)、風(fēng)險管理原則和基本的客戶行為分析，但由于缺乏對工商銀行自身業(yè)務(wù)流程、內(nèi)部數(shù)據(jù)和特定需求的深入理解，難以有效解決工商銀行的具體業(yè)務(wù)問題。那么，怎么解決這個問題呢？這就需要引入企業(yè)級大模型。

企業(yè)級應(yīng)用大模型是為特定企業(yè)量身定制的大模型，它不僅結(jié)合了通用知識和行業(yè)知識，還深入了解特定企業(yè)的具體情況、業(yè)務(wù)流程和數(shù)據(jù)特點(diǎn)。例如，針對某個零售行業(yè)，企業(yè)級大模型可以通過分析銷售數(shù)據(jù)和客戶行為，識別出該企業(yè)最暢銷的產(chǎn)品和最受歡迎的促銷活動，從而優(yōu)化庫存管理和營銷策略。更進(jìn)一步，企業(yè)級大模型能夠無縫嵌入企業(yè)的業(yè)務(wù)流程，實(shí)現(xiàn)自動化和智能化的運(yùn)營管理。這種嵌入不僅限于數(shù)據(jù)分析和預(yù)測，還包括實(shí)時決策和操作執(zhí)行。

通過嵌入業(yè)務(wù)流程，企業(yè)級大模型可以持續(xù)學(xué)習(xí)和適應(yīng)業(yè)務(wù)變化，自動更新和優(yōu)化決策模型，確保企業(yè)在動態(tài)市場環(huán)境中始終保持競爭優(yōu)勢。這種深度集成和自動化能力，使得企業(yè)級大模型不僅是一個支持工具，更是企業(yè)運(yùn)營的智能引擎。

知識庫，是構(gòu)建企業(yè)級大模型的核心

通過上面的分析可知，企業(yè)級大模型通過深度理解企業(yè)業(yè)務(wù)、嵌入業(yè)務(wù)流程、靈活適應(yīng)業(yè)務(wù)變化和保護(hù)數(shù)據(jù)安全，成為支撐企業(yè)經(jīng)營和業(yè)務(wù)發(fā)展的重要技術(shù)工具。那么，要怎么來構(gòu)建企業(yè)級大模型呢？核心的環(huán)節(jié)是什么呢？

要構(gòu)建企業(yè)級大模型，核心在于建立一個全面且高效的企業(yè)知識庫。企業(yè)知識庫不僅是存儲企業(yè)數(shù)據(jù)的倉庫，更是大模型訓(xùn)練和微調(diào)的基礎(chǔ)。通過知識庫，企業(yè)能夠整合多種數(shù)據(jù)類型，生成高質(zhì)量的訓(xùn)練語料，開發(fā)和優(yōu)化大模型，并最終將其應(yīng)用于實(shí)際業(yè)務(wù)場景，實(shí)現(xiàn)智能化和自動化運(yùn)營管理。

那么，如何來構(gòu)建這樣的一個企業(yè)知識庫，并在其基礎(chǔ)上定制企業(yè)級大模型呢？具體來看，需要從多模態(tài)大數(shù)據(jù)存儲、語料加工、大模型開發(fā)工具鏈、大模型垂直應(yīng)用開發(fā)四個環(huán)節(jié)著手。

構(gòu)建多模態(tài)大數(shù)據(jù)存儲和管理平臺，存儲多模態(tài)數(shù)據(jù)，這是知識庫的基礎(chǔ)。

企業(yè)的數(shù)據(jù)往往是多模態(tài)的，包括文本、圖像、音頻、視頻、傳感器數(shù)據(jù)等，這些數(shù)據(jù)類型各異、格式多樣，需要一個統(tǒng)一的平臺來進(jìn)行存儲和管理。構(gòu)建一個多模態(tài)數(shù)據(jù)平臺，首先需要解決數(shù)據(jù)集成的問題。企業(yè)內(nèi)部的數(shù)據(jù)來自不同的部門和系統(tǒng)，必須通過數(shù)據(jù)集成技術(shù)，將這些分散的數(shù)據(jù)整合到一個統(tǒng)一的存儲平臺上。

語料加工工具，構(gòu)建高質(zhì)量語料庫，將語料轉(zhuǎn)化為知識。

高質(zhì)量語料庫是訓(xùn)練和微調(diào)大模型的基礎(chǔ)，構(gòu)建語料庫需要一套完善的語料加工工具，用于數(shù)據(jù)清洗、標(biāo)注、轉(zhuǎn)換和增強(qiáng)等操作，將原始數(shù)據(jù)轉(zhuǎn)化為高質(zhì)量的訓(xùn)練語料。原始數(shù)據(jù)往往包含噪聲和冗余信息，需要通過數(shù)據(jù)清洗和預(yù)處理，去除無關(guān)或錯誤的數(shù)據(jù)。

大模型開發(fā)工具鏈，幫助訓(xùn)練、微調(diào)大模型。

構(gòu)建好了數(shù)據(jù)基礎(chǔ)和語料庫，接下來的工作就是進(jìn)行企業(yè)級大模型的開發(fā)。而大模型的訓(xùn)練和微調(diào)需要一套完善的開發(fā)工具鏈，這些工具鏈包括數(shù)據(jù)準(zhǔn)備、模型訓(xùn)練、參數(shù)調(diào)優(yōu)、模型評估等各個環(huán)節(jié)，確保大模型能夠高效、準(zhǔn)確地反映企業(yè)的需求。模型訓(xùn)練是大模型開發(fā)的核心環(huán)節(jié)，通過高性能計算平臺和分布式訓(xùn)練技術(shù)，可以在大規(guī)模數(shù)據(jù)集上訓(xùn)練大模型。模型訓(xùn)練過程中，需要不斷進(jìn)行參數(shù)調(diào)優(yōu)，以提高模型的性能和準(zhǔn)確性。在模型訓(xùn)練完成后，需要對模型進(jìn)行評估和驗(yàn)證，確保其在實(shí)際應(yīng)用中的效果。

大模型應(yīng)用開發(fā)平臺，不為開發(fā)大模型而開發(fā)大模型，而是要在企業(yè)中用起來。

大模型應(yīng)用開發(fā)平臺需要與企業(yè)的現(xiàn)有業(yè)務(wù)系統(tǒng)和流程進(jìn)行集成，實(shí)現(xiàn)數(shù)據(jù)的實(shí)時交換和業(yè)務(wù)的無縫銜接。通過API和微服務(wù)架構(gòu)，可以將大模型的功能模塊化，方便與企業(yè)業(yè)務(wù)系統(tǒng)的集成。

大模型應(yīng)用開發(fā)平臺不僅用于數(shù)據(jù)分析和預(yù)測，還需要支持實(shí)時決策和操作執(zhí)行。通過將大模型的預(yù)測結(jié)果和建議嵌入業(yè)務(wù)流程，可以實(shí)現(xiàn)自動化的決策支持和操作執(zhí)行，提高企業(yè)運(yùn)營效率。此外，大模型應(yīng)用開發(fā)平臺還需要提供友好的用戶界面和交互工具，方便企業(yè)用戶進(jìn)行數(shù)據(jù)探索和模型調(diào)優(yōu)。

需要指出的是，上面的每一個環(huán)節(jié)要做好都有不小的困難，對服務(wù)商的要求很高。例如，在數(shù)據(jù)存儲環(huán)節(jié)，傳統(tǒng)的關(guān)系型數(shù)據(jù)庫在處理非結(jié)構(gòu)化和半結(jié)構(gòu)化數(shù)據(jù)（如圖像、音頻和視頻）時存在性能瓶頸；高質(zhì)量的訓(xùn)練語料需要精確的標(biāo)注和轉(zhuǎn)換，這些過程不僅耗時耗力，還需要高水平的專業(yè)知識和人工智能技術(shù)支持；大模型的訓(xùn)練需要龐大的計算資源和復(fù)雜的技術(shù)支持，如何在有限的資源下高效地進(jìn)行模型訓(xùn)練和參數(shù)優(yōu)化仍然是一個難題；大模型應(yīng)用開發(fā)平臺要具有強(qiáng)大的兼容性和擴(kuò)展性，能夠支持各種API和微服務(wù)架構(gòu)等等。

星環(huán)科技知識平臺TKH，企業(yè)級大模型構(gòu)建平臺的一個樣本

以上，我們就如何通過優(yōu)化知識庫各個環(huán)節(jié)來構(gòu)建企業(yè)級大模型進(jìn)行了討論。從邏輯上，這似乎是企業(yè)級大模型應(yīng)用落地的一條理想路徑。但是，任何事情都是知難行易。要打造這樣一個工具鏈條，難度非常高。

此次星環(huán)科技發(fā)布的知識平臺TKH，讓我們可以窺見這類產(chǎn)品的一些底色。對照上面討論的四個環(huán)節(jié)，星環(huán)科技都有對應(yīng)的產(chǎn)品平臺來提供相關(guān)的服務(wù)。

Transwarp Data Hub for LLM—— 多模態(tài)數(shù)據(jù)存儲和管理

TKH平臺具備強(qiáng)大的多模態(tài)數(shù)據(jù)存儲和管理能力，它基于Transwarp Data Hub for LLM知識管理平臺的多模型統(tǒng)一技術(shù)架構(gòu)，支持關(guān)系型數(shù)據(jù)、向量數(shù)據(jù)、全文檢索、圖數(shù)據(jù)、時序數(shù)據(jù)等的統(tǒng)一存儲管理。這一能力大幅簡化了知識庫的知識存儲與服務(wù)層架構(gòu)，降低了開發(fā)與運(yùn)維成本。通過這種統(tǒng)一管理，企業(yè)能夠高效地處理和分析來自不同來源和格式的數(shù)據(jù)，為構(gòu)建高質(zhì)量的大模型打下堅實(shí)的基礎(chǔ)。

Transwarp Corpus Studio（TCS）——語料加工與高質(zhì)量語料庫構(gòu)建

星環(huán)科技的語料加工工具Transwarp Corpus Studio（TCS），是構(gòu)建高質(zhì)量語料庫的關(guān)鍵，TCS覆蓋了語料獲取、清洗、加工、治理、應(yīng)用和管理的全生命周期，具備多種靈活的采集和構(gòu)建方式，能分布式地高效處理海量語料。TCS內(nèi)置了豐富的智能化語料加工能力，包括清洗、轉(zhuǎn)換、標(biāo)注、增強(qiáng)、質(zhì)檢、合規(guī)檢查等，適應(yīng)多種使用形態(tài)，確保了語料的高質(zhì)量，為大模型的訓(xùn)練和微調(diào)提供了可靠的語料支持。

正如星環(huán)科技創(chuàng)始人、CEO孫元浩所說：“星環(huán)語料開發(fā)工具是我們在人工智能領(lǐng)域的又一重要創(chuàng)新。它不僅能夠提升語料開發(fā)的效率，還能夠確保數(shù)據(jù)的安全和質(zhì)量，這對于構(gòu)建高質(zhì)量的大模型及其應(yīng)用至關(guān)重要。”

Transwarp Sophon LLMOps——大模型開發(fā)工具鏈與微調(diào)能力

星環(huán)科技的大模型運(yùn)營平臺Transwarp Sophon LLMOps，覆蓋了從語料、模型到應(yīng)用的全流程，支持企業(yè)級大模型的生產(chǎn)和運(yùn)營管理。Sophon LLMOps具備語料知識和相應(yīng)處理/治理的沉淀、高質(zhì)量語料/模型/應(yīng)用資產(chǎn)共享復(fù)用、靈活開放的應(yīng)用開發(fā)、可持續(xù)的服務(wù)運(yùn)營等特性，這些工具和特性使得企業(yè)能夠快速積累和運(yùn)營專屬知識庫和智能應(yīng)用。

TKH平臺不僅提供了構(gòu)建大模型的工具，還提供了一個企業(yè)級應(yīng)用開發(fā)平臺。該平臺支持將語料快速轉(zhuǎn)化為咨詢檢索、業(yè)務(wù)洞察、知識問答、行業(yè)分析等多種應(yīng)用形態(tài)，大大降低了應(yīng)用語料的門檻。在TKH平臺平臺上，星環(huán)科技開發(fā)了一系列AI原生應(yīng)用，例如無涯·問知、無涯·問數(shù)、無涯·金融、無涯·工程，驗(yàn)證了其構(gòu)建企業(yè)級大模型的工程能力。

星環(huán)科技TKH平臺在安全性能方面也表現(xiàn)出色，它提供了全方位安全防護(hù)，包括細(xì)粒度的權(quán)限管控、數(shù)據(jù)脫敏、模型加密、安全圍欄等，確保企業(yè)數(shù)據(jù)安全和合規(guī)性。此外，TKH平臺的無涯大模型Infinity通過了國家網(wǎng)信辦大模型安全評估備案，進(jìn)一步證明了其安全性。

在部署模式上，TKH支持靈活的部署選項(xiàng)，包括私有化部署（AIPC版、企業(yè)版）和公有云服務(wù)，以滿足不同企業(yè)的需求。這種靈活性使得企業(yè)能夠根據(jù)自己的業(yè)務(wù)需求和安全要求，選擇最合適的部署方式。

TKH的應(yīng)用場景廣泛，包括但不限于企業(yè)級AI知識庫、金融市場研究、智慧監(jiān)管助手、政府智慧中臺建設(shè)等。通過TKH，企業(yè)能夠?qū)崿F(xiàn)“人工智能+”業(yè)務(wù)的落地和創(chuàng)新。

以知識平臺為橋梁，將大模型的能量注入企業(yè)當(dāng)中

可以預(yù)見，星環(huán)TKH這樣的知識管理平臺還將持續(xù)進(jìn)化，在打破數(shù)據(jù)壁壘，推進(jìn)知識融通和應(yīng)用方面，發(fā)揮更大的價值。

企業(yè)知識庫、知識管理平臺以及基于此構(gòu)建的企業(yè)級大模型應(yīng)用，通過提供統(tǒng)一入口和全新的交互方式，大幅提升企業(yè)管理和運(yùn)營效率。通過一個統(tǒng)一的知識入口，員工可以便捷地訪問各類信息資源，例如，研發(fā)團(tuán)隊獲取技術(shù)文檔，市場團(tuán)隊查看客戶反饋，管理層調(diào)取財務(wù)報表。

而且，這類平臺可以高效連接各類非標(biāo)、獨(dú)立系統(tǒng)，如ERP、CRM和供應(yīng)鏈管理系統(tǒng)，實(shí)現(xiàn)數(shù)據(jù)的無縫整合和統(tǒng)一查看，減少系統(tǒng)對接復(fù)雜度，降低使用門檻。例如，銷售人員無需在多個系統(tǒng)之間切換，只需通過一個入口即可獲取客戶訂單、庫存狀況和物流信息。

知識管理平臺和企業(yè)級大模型應(yīng)用還能實(shí)現(xiàn)統(tǒng)一、實(shí)時、精準(zhǔn)的知識處理、協(xié)作和管理功能，如設(shè)計團(tuán)隊和生產(chǎn)團(tuán)隊通過平臺實(shí)時共享設(shè)計圖紙和生產(chǎn)計劃，管理層實(shí)時監(jiān)控項(xiàng)目進(jìn)展和資源分配，做出及時調(diào)整和決策。通過統(tǒng)一入口和智能管理功能，企業(yè)知識庫、知識管理平臺提高了軟件開發(fā)敏捷性，提供了更全局、準(zhǔn)確的經(jīng)營管理抓手，提升了整體運(yùn)營效率和決策質(zhì)量，推動企業(yè)智能化轉(zhuǎn)型和數(shù)字經(jīng)濟(jì)發(fā)展。

借助企業(yè)級大模型，可以進(jìn)一步推進(jìn)產(chǎn)業(yè)鏈知識共享和應(yīng)用。企業(yè)不僅需要內(nèi)部的數(shù)據(jù)和知識，還需要與供應(yīng)商、客戶和其他合作伙伴共享信息，以提高整個產(chǎn)業(yè)鏈的效率和響應(yīng)速度。通過構(gòu)建行業(yè)大模型，企業(yè)可以將自身的知識和數(shù)據(jù)與供應(yīng)商、客戶和其他合作伙伴共享，形成一個互聯(lián)互通的知識網(wǎng)絡(luò)。例如，制造企業(yè)可以將生產(chǎn)計劃和庫存數(shù)據(jù)與供應(yīng)商共享，優(yōu)化供應(yīng)鏈管理。

展望未來，企業(yè)級大模型在推動企業(yè)數(shù)智化升級、數(shù)字經(jīng)濟(jì)建設(shè)和提升新質(zhì)生產(chǎn)力方面具有重要前景。它通過整合和分析企業(yè)內(nèi)外部海量數(shù)據(jù)，提供智能化決策支持和業(yè)務(wù)優(yōu)化方案，提高運(yùn)營效率和創(chuàng)新能力。在數(shù)字經(jīng)濟(jì)建設(shè)中，大模型提升企業(yè)和產(chǎn)業(yè)的數(shù)字化水平，實(shí)現(xiàn)數(shù)據(jù)的全面整合和高效利用，推動數(shù)字經(jīng)濟(jì)快速發(fā)展。這一切的發(fā)展，最終將匯合到新質(zhì)生產(chǎn)力的蓬勃浪潮中。

來源：數(shù)據(jù)猿