【AI大模型展】TARS大模型——任務(wù)暢所欲言，電腦自動完成

AI大模型展 TARS 大模型

原創(chuàng) 實(shí)在智能 | 2024-06-28 21:10

【數(shù)據(jù)猿導(dǎo)讀】實(shí)在智能基于在自然語言處理（NLP）領(lǐng)域深厚的技術(shù)積累和落地經(jīng)驗(yàn)，推出自研垂直大模型TARS（塔斯），在千億級高質(zhì)量Tokens上進(jìn)行了充分訓(xùn)練，完整復(fù)現(xiàn)Pretrain、SFT和RLHF三個(gè)階段，可提供百億級參數(shù)，具備“效果可用、成本可控、定制化訓(xùn)練、私有化部署”等差異化優(yōu)勢。...

實(shí)在TARS大模型

該AI大模型由實(shí)在智能投遞并參與數(shù)據(jù)猿與上海大數(shù)據(jù)聯(lián)盟聯(lián)合推出的《2024中國數(shù)據(jù)智能產(chǎn)業(yè)AI大模型先鋒企業(yè)》榜單/獎項(xiàng)”評選。

實(shí)在智能基于在自然語言處理（NLP）領(lǐng)域深厚的技術(shù)積累和落地經(jīng)驗(yàn)，推出自研垂直大模型TARS（塔斯），在千億級高質(zhì)量Tokens上進(jìn)行了充分訓(xùn)練，完整復(fù)現(xiàn)Pretrain、SFT和RLHF三個(gè)階段，可提供百億級參數(shù)，具備“效果可用、成本可控、定制化訓(xùn)練、私有化部署”等差異化優(yōu)勢。

TARS行業(yè)垂直大模型目前有13B和70B兩個(gè)版本，具備垂直領(lǐng)域的知識問題和語義理解能力，能夠作為基礎(chǔ)能力供應(yīng)用方調(diào)用，嵌入到其已有的產(chǎn)品結(jié)構(gòu)中，例如問答系統(tǒng)等；也可以作為單獨(dú)的能力提供服務(wù)，支持私有化部署。

應(yīng)用場景/使用群體

實(shí)在智能TARS大模型是一款“自研、有效、安全、可信任、可落地”的大模型。除垂直領(lǐng)域本身的應(yīng)用外，還結(jié)合機(jī)器人流程自動化（RPA）推出實(shí)在Agent及結(jié)合智能文檔審閱產(chǎn)品（IDP）推出新一代文檔審閱產(chǎn)品ChatIDP。

實(shí)在Agent是結(jié)合了實(shí)在TARS大模型的RPA新產(chǎn)品，能夠支持以問答的方式生成RPA流程和代碼，從而減小RPA的使用者在開發(fā)RPA流程時(shí)的成本，提高產(chǎn)品的使用體驗(yàn)。新一代的實(shí)在Agent平臺面向零基礎(chǔ)或者輕基礎(chǔ)的RPA用戶或開發(fā)者，根據(jù)應(yīng)用方的需要可以支持以SaaS的方式調(diào)用大模型的能力生成RPA流程或代碼，或者私有化部署到本地以提供支持（私有化部署的推理成本如實(shí)在TARS大模型所要求）。

ChatIDP是結(jié)合了實(shí)在TARS大模型的IDP新產(chǎn)品，是在底層將傳統(tǒng)的自然語言模型替換為實(shí)在TARS模型后推出的全新智能文檔審核產(chǎn)品；支持以交互的形式進(jìn)行文檔的識別、比對、抽取、審核和分析等，能夠?yàn)槠髽I(yè)的法務(wù)、財(cái)務(wù)、合規(guī)等部門提供更加智能、更加方便的文檔審閱和管理工具，大幅減少相關(guān)人員花在文檔檢查和信息提取上的時(shí)間，提高工作效率。根據(jù)需要可以支持以SaaS的方式調(diào)用大模型的能力進(jìn)行長篇文檔的理解和抽取，或者私有化部署到本地以提供支持，私有化部署的推理成本如實(shí)在TARS大模型所要求。

AI大模型展_TARS_大模型-1

產(chǎn)品功能

1.流程自動生成

準(zhǔn)確理解用戶意圖，生成行動計(jì)劃流程模塊

實(shí)現(xiàn)所說即所得的RPA流程自動生成

支持根據(jù)用戶描述和提示，生成代碼組件

結(jié)合智能屏幕語義理解技術(shù)實(shí)現(xiàn)組件屬性填充

AI大模型展_TARS_大模型-2

2.人機(jī)對話問答

垂直行業(yè)上更準(zhǔn)確、更強(qiáng)大的語義理解能力

更自然的多輪交互，提升對話類產(chǎn)品的智能感

支持快速接入和配置用于不同平臺的對話機(jī)器人

能夠方便地與用戶的歷史知識庫進(jìn)行整合

AI大模型展_TARS_大模型-3

3.智能文檔理解

全面提升針對文檔的關(guān)鍵內(nèi)容抽取和審核能力

實(shí)現(xiàn)“你問我答”的全新文檔處理體驗(yàn)

更智能、更精準(zhǔn)的歷史文檔檢索

AI大模型展_TARS_大模型-4

4.NLP基礎(chǔ)能力

支持情感分類、實(shí)體抽取、機(jī)器翻譯等多種任務(wù)

不斷調(diào)整Prompt讓模型輸出更高質(zhì)量的內(nèi)容

支持小樣本學(xué)習(xí)的方式完成特定的自然語言任務(wù)

支持添加用戶自有數(shù)據(jù)進(jìn)行模型的定制調(diào)優(yōu)

AI大模型展_TARS_大模型-5

產(chǎn)品優(yōu)勢

實(shí)在TARS基于垂直行業(yè)的千億級高質(zhì)量Tokens上進(jìn)行訓(xùn)練，完整復(fù)現(xiàn)、改進(jìn)了大型語言模型訓(xùn)練的Pre-train、SFT和RLHF三個(gè)階段并在語言理解、指令跟隨等方面取得良好效果。此外，TARS大模型為了追求更高安全標(biāo)準(zhǔn)，進(jìn)一步集成如不當(dāng)言論判別等多項(xiàng)NLP前沿技術(shù)，幫助企業(yè)在數(shù)字化、智能化的轉(zhuǎn)型浪潮中快人一步。

1.靈活部署/私有化部署、調(diào)用靈活

全面支持私有化部署、支持多種部署、調(diào)用方式、模型管理和監(jiān)控工具配套完善

2.行業(yè)定制訓(xùn)練/行業(yè)定制、模型調(diào)優(yōu)

針對垂直領(lǐng)域效果領(lǐng)先、根據(jù)不同行業(yè)、場景定制調(diào)優(yōu)、垂直領(lǐng)域和通用領(lǐng)域能力兼具

3.安全可靠/全國產(chǎn)、信息安全過濾

不當(dāng)言論判別、有害信息篩除、支持自定義配置模型過濾范圍、私有化部署確保信息安全

4.完整落地方案/可落地硬件需求優(yōu)化

模型量化技術(shù)有效降低模型需求、現(xiàn)有Chatbot無縫集成調(diào)用LLM、支持其他產(chǎn)品快速集成嵌入。

技術(shù)說明

實(shí)在智能TARS大模型采用的技術(shù)路線是在開源基座模型的基礎(chǔ)上，遵照GPT系列（尤其是InstructGPT）和其他基座模型如BLOOM、LLaMA、GLM等的訓(xùn)練思路來對大模型三個(gè)階段，即：預(yù)訓(xùn)練、指令微調(diào)、人工反饋強(qiáng)化學(xué)習(xí)進(jìn)行各項(xiàng)技術(shù)的設(shè)計(jì)和準(zhǔn)備；包括數(shù)據(jù)處理、模型設(shè)計(jì)、訓(xùn)練策略制定等。

總體來說，實(shí)在TARS模型的亮點(diǎn)和創(chuàng)新點(diǎn)主要體現(xiàn)在以下三個(gè)方面：

1.TARS大模型在垂直領(lǐng)域進(jìn)行了充分的訓(xùn)練和完整的復(fù)現(xiàn)，對大模型常見的三個(gè)階段都進(jìn)行本地化復(fù)現(xiàn)和針對性優(yōu)化；同時(shí)總計(jì)收集、處理、標(biāo)注和投入超過一千億個(gè)語料Tokens，使得模型能夠充分理解垂直領(lǐng)域的語義內(nèi)容和表述方式；在技術(shù)上除了復(fù)現(xiàn)三個(gè)階段外，尤其對人類反饋強(qiáng)化學(xué)習(xí)階段，解決了垂直領(lǐng)域中的數(shù)據(jù)標(biāo)注困難、模型訓(xùn)練困難等問題，綜合采用RPA技術(shù)做高效、持續(xù)、7X24小時(shí)的數(shù)據(jù)收集；采用多種數(shù)據(jù)去重和處理方式；采用自研的Rank排序標(biāo)注平臺等進(jìn)行人類反饋強(qiáng)化學(xué)習(xí)階段的數(shù)據(jù)標(biāo)注；同時(shí)在技術(shù)層面優(yōu)化了強(qiáng)化學(xué)習(xí)的訓(xùn)練框架，對齊部分算子操作，使得強(qiáng)化學(xué)習(xí)模型的訓(xùn)練過程更加快速。

2.TARS大模型除了在垂直領(lǐng)域有更加出色表現(xiàn)之外，在模型的可控性和安全性等層面也做了大量的工作，包括創(chuàng)新地利用最新的生成結(jié)果控制技術(shù)，訓(xùn)練了一個(gè)不當(dāng)言論判別和過濾模型，來輔助大模型對生成結(jié)果的安全性、無害性和無偏性進(jìn)行提升；實(shí)在TARS配套的不當(dāng)言論判別和過濾模型區(qū)別于一般的文本判別模型，是結(jié)合在整個(gè)TARS大模型之中，并采用聯(lián)合訓(xùn)練的方式進(jìn)行優(yōu)化，最終解決模型輸出結(jié)果往往存在不當(dāng)言論、有害信息的問題。

3.TARS大模型支持私有化部署和高效的模型推理，結(jié)合模型量化技術(shù)使得模型在推理時(shí)所占用的顯存空間等降低，從而使得最終應(yīng)用方能夠以降低的軟硬件成本使用TARS模型的能力，進(jìn)行直接調(diào)用或下游集成；解決了大模型的落地難、落地貴等問題，可以支持較低成本配置的情況下，運(yùn)行實(shí)在TARS垂直領(lǐng)域模型。

實(shí)在智能TARS大模型在其他方面的創(chuàng)新還包括研究大模型和向量數(shù)據(jù)庫的結(jié)合，大模型在大段文本的輸入支持等方面的工作。

服務(wù)客戶

目前實(shí)在智能已聯(lián)合湘財(cái)證券、天翼數(shù)科推出了金融領(lǐng)域垂直大模型，已開始在智能客服、智能投顧等場景落地應(yīng)用；基于大模型，在行業(yè)內(nèi)首推的實(shí)在Agent數(shù)字員工，可以實(shí)現(xiàn)高效的人機(jī)協(xié)同。

關(guān)于企業(yè)

·實(shí)在智能

實(shí)在智能是一家通過自研AGI大模型+超自動化技術(shù)領(lǐng)跑人機(jī)協(xié)同時(shí)代的人工智能科技公司。公司是“國家高新技術(shù)、專精特新”企業(yè)，通過中國信通院RPA最高級別評測及全球軟件成熟度CMMI-5頂級認(rèn)證，擁有近百項(xiàng)發(fā)明專利和數(shù)百項(xiàng)軟件著作權(quán)，全面適配支持百余項(xiàng)國產(chǎn)信創(chuàng)軟硬件。

公司在北京、上海、廣州、深圳、成都、南京、濟(jì)南及日本東京等地設(shè)有分支機(jī)構(gòu)，服務(wù)團(tuán)隊(duì)覆蓋全國。實(shí)在“數(shù)字員工”已服務(wù)國內(nèi)外2000余家頭部大中型客戶，包括金融、運(yùn)營商、電商、制造、煙草、能源、交通等千行百業(yè)。

作為AI準(zhǔn)獨(dú)角獸和超自動化頭部企業(yè)，實(shí)在智能自研的垂直大模型TARS（塔斯）在國內(nèi)大模型各類榜單名列前茅，具備“效果可用、成本可控、定制化訓(xùn)練、私有化部署”等差異化優(yōu)勢；在全行業(yè)首發(fā)可“一句話生成數(shù)字員工”的實(shí)在 AI Agent智能體產(chǎn)品，既是個(gè)人用戶的AI助理，也是政企員工的辦公助手，實(shí)現(xiàn)“你說PC做，所說即所得”。。

★以上由實(shí)在智能投遞申報(bào)的項(xiàng)目案例，最終將會角逐由數(shù)據(jù)猿與上海大數(shù)據(jù)聯(lián)盟聯(lián)合推出的《2024中國數(shù)據(jù)智能產(chǎn)業(yè)AI大模型先鋒企業(yè)》榜單/獎項(xiàng)。

該榜單獎項(xiàng)最終將于7月24日以下活動中進(jìn)行榜單的首發(fā)與獎項(xiàng)的頒發(fā)，歡迎報(bào)名蒞臨現(xiàn)場

來源：數(shù)據(jù)猿

收藏分享

聲明：數(shù)據(jù)猿尊重媒體行業(yè)規(guī)范，相關(guān)內(nèi)容都會注明來源與作者；轉(zhuǎn)載我們原創(chuàng)內(nèi)容時(shí)，也請務(wù)必注明“來源：數(shù)據(jù)猿”與作者名稱，否則將會受到數(shù)據(jù)猿追責(zé)。