7月5日，2024世界人工智能大會（WAIC）期間，百度智能云大模型助力新質(zhì)生產(chǎn)力發(fā)展論壇在在上海世博展覽館舉辦。會上，百度智能云宣布文心大模型4.0 Turbo（ERNIE 4.0 Turbo）面向企業(yè)客戶全面開放；文心旗艦款模型ERNIE 4.0和ERNIE 3.5宣布大幅降價；百度智能云千帆大模型平臺針對模型效果、推理性價比以及AI原生應(yīng)用開發(fā)提效發(fā)布十余項能力升級。

（百度副總裁謝廣軍：ERNIE 4.0 Turbo面向企業(yè)客戶開放）

ERNIE 4.0 Turbo面向企業(yè)客戶開放，文心旗艦?zāi)Ｐ痛蠓祪r

大模型日均調(diào)用量突破5億次、二季度環(huán)比增長150%；累計服務(wù)15萬家企業(yè)用戶、累計幫助用戶精調(diào)了2.1萬個大模型；幫助用戶開發(fā)出了55萬個AI原生應(yīng)用。這是百度智能云千帆平臺交出的2024“年中報”，這些數(shù)據(jù)說明，大模型已經(jīng)真正進(jìn)入到了指數(shù)級增長的階段。

百度副總裁謝廣軍表示，在模型方面，文心系列最新旗艦版大模型——ERNIE 4.0 Turbo面向企業(yè)客戶全面開放，輸入輸出價格分別低至0.03元/千Tokens、0.06元/千Tokens。

此外，ERNIE 4.0、ERNIE 3.5兩款旗艦?zāi)Ｐ痛蠓祪r；ERNIE Speed、ERNIE Lite兩款主力模型持續(xù)免費，進(jìn)一步幫助客戶降低大模型使用門檻和試錯成本，加速業(yè)務(wù)創(chuàng)新。

謝廣軍表示，“用好”模型，與用“好模型”同樣重要。千帆ModelBuilder作為“雙一流平臺”，不僅為用戶提供了一流的模型，也為用戶提供了一流的工具鏈。

千帆ModelBuilder發(fā)布全新特性，模型效果更好、推理性價比更高

在大模型工具鏈方面，ModelBuilder業(yè)界首發(fā)DPO（Direct Preference Optimization，直接偏好優(yōu)化)、KTO（Kahneman-Taversky Optimization）兩類偏好對齊訓(xùn)練方法，幫助用戶在無需構(gòu)建強化學(xué)習(xí)或獎勵函數(shù)的條件下，直接利用人類對模型生成文本片段的偏好排序來進(jìn)行模型優(yōu)化，大幅提升模型精調(diào)效率。

在模型推理方面，ModelBuilder新增支持wint8、ptq等模型量化壓縮算法，在不損失模型性能的前提下，通過將模型參數(shù)、權(quán)重等數(shù)值轉(zhuǎn)換為更輕量級的表示方式，從而大幅減少模型推理運算量與延遲，極大提升模型在實際應(yīng)用場景中的性價比。

此外，針對企業(yè)精調(diào)專用模型經(jīng)常遇到的特定場景數(shù)據(jù)欠缺、大模型通用能力被遺忘等問題，ModelBuilder全新推出混合文心大模型高質(zhì)量數(shù)據(jù)功能，支持用戶將文心大模型通用混合語料、文心大模型垂直領(lǐng)域語料與業(yè)務(wù)數(shù)據(jù)進(jìn)行融合，精調(diào)出更穩(wěn)定、效果更好的專用大模型。

千帆AppBuilder新增支持私有化部署，全面升級企業(yè)級RAG

千帆AppBuilder作為企業(yè)級AI原生應(yīng)用開發(fā)平臺，支持開發(fā)者使用預(yù)置組件輕松定制自己的業(yè)務(wù)流程。目前，包含大模型能力組件，AI能力組件，第三方API以及基礎(chǔ)云組件等AppBuilder官方組件已更新至60+個。開發(fā)者還可以集成、擴建自己特色的組件，靈活選用符合業(yè)務(wù)特點的不同規(guī)格大模型，輕松構(gòu)建場景化的AI原生應(yīng)用。

全新升級的企業(yè)級檢索增強生成（RAG），針對企業(yè)海量知識檢索、自定義策略、企業(yè)級安全保障三大業(yè)界通用難題進(jìn)行了全面升級：

· 新增云存儲服務(wù)支持，實現(xiàn)資源的彈性擴縮容，打破傳統(tǒng)RAG普遍使用公共資源池并限制資源上傳數(shù)量的瓶頸，極大提升檢索服務(wù)的可擴展性；

· 針對傳統(tǒng)RAG在知識預(yù)處理環(huán)節(jié)遇到的系統(tǒng)無法理解文檔內(nèi)容，僅根據(jù)內(nèi)容長度進(jìn)行簡單切片，影響最終知識檢索準(zhǔn)確性等問題，AppBuilder此次全面開放了包括各類文檔解析、切片策略、多種檢索與召回策略在內(nèi)的各種RAG調(diào)配功能和策略選項，以產(chǎn)品化方式開放百度企業(yè)服務(wù)經(jīng)驗，業(yè)界唯一；

· 基于全棧云技術(shù)研發(fā)投入，持續(xù)提升服務(wù)安全性與穩(wěn)定性，保障客戶知識檢索業(yè)務(wù)的生產(chǎn)級使用。

此外，千帆AppBuilder針對傳統(tǒng)RAG難以觸及公網(wǎng)內(nèi)容、資源，檢索結(jié)果時效性不足等問題，全新推出“RAG with 百度搜索”功能，將百度搜索在時效性、客觀性方面的優(yōu)勢，與RAG在私域知識響應(yīng)、語言靈活性方面的優(yōu)勢進(jìn)行能力互補，快速高質(zhì)量響應(yīng)用戶需求，同時，實現(xiàn)文本、圖像、視頻等多模態(tài)內(nèi)容的流暢交互體驗。

加持百度搜索后的RAG還支持用戶使用小型專家模型實現(xiàn)智能助手的準(zhǔn)確問答，針對PC、IoT設(shè)備、車機等端側(cè)設(shè)備智能算力有限的特點，提供不同尺寸模型進(jìn)行適配，從而實現(xiàn)性能和效價比的最佳組合。

會上，百度智能云還宣布千帆AppBuilder全面支持私有化部署，滿足企業(yè)數(shù)據(jù)域內(nèi)管理、業(yè)務(wù)高度定制化以及自主可控等要求。在部署方式上，百度智能云同時支持AppBuilder與大模型全部私有化，和AppBuilder私有化結(jié)合調(diào)用公有云上大模型的混合云部署方式，滿足不同客戶的業(yè)務(wù)需求。

在水務(wù)領(lǐng)域，北京污水寶科技有限公司通過千帆AppBuilder快速構(gòu)建了AI問答應(yīng)用——污水寶AI助理，無需復(fù)雜的開發(fā)過程，即可實現(xiàn)環(huán)保領(lǐng)域工程信息的智能問答。污水寶支持通過自然語言獲取項目線索、項目進(jìn)度和聯(lián)系方式等工程信息，方便用戶和企業(yè)進(jìn)行相關(guān)業(yè)務(wù)咨詢。

百度智能云千帆行業(yè)場景解決方案正式發(fā)布，加速大模型行業(yè)落地

為了進(jìn)一步降低行業(yè)客戶落地大模型門檻，百度智能云此次推出千帆行業(yè)場景解決方案?；诎俣戎悄茉圃诟餍袠I(yè)場景中的最佳實踐，打造了場景模型、模型精調(diào)樣板間、Prompt模板、應(yīng)用樣板間等參考“樣例”，方便有相似業(yè)務(wù)訴求的客戶直接使用或一鍵復(fù)制即可完成大模型應(yīng)用開發(fā)。

“目前，千帆平臺已經(jīng)優(yōu)先上線了包括教育、人事、企業(yè)服務(wù)、文娛、醫(yī)療在內(nèi)的5大行業(yè)，20多個場景解決方案。”謝廣軍表示。

在醫(yī)療領(lǐng)域，杭州全診醫(yī)學(xué)基于百度智能云千帆平臺打造了AI Agent應(yīng)用——AI醫(yī)生助理，在預(yù)診、診間、住院、手術(shù)等多個醫(yī)療場景中為醫(yī)護(hù)人員提供病史采集、病歷書寫、診療輔助等支持，大幅提升醫(yī)護(hù)人員工作效率、改善病患就醫(yī)體驗。目前，AI醫(yī)生助理服務(wù)已經(jīng)覆蓋45家三甲醫(yī)院，105個區(qū)縣超1.5萬家診所，每日生成門診病歷草稿多達(dá)15萬份，病歷質(zhì)量提升超過45%，患者服務(wù)數(shù)量因此提升了1.5倍！

在教育領(lǐng)域，中國高科集團旗下英騰教育面向醫(yī)學(xué)考試場景，聯(lián)合百度智能云基于千帆平臺打造了業(yè)內(nèi)首個AI醫(yī)學(xué)考試應(yīng)用產(chǎn)品考試寶典。通過對自有垂類高度結(jié)構(gòu)化數(shù)據(jù)，覆蓋1800+醫(yī)學(xué)考試科目超過10億的醫(yī)學(xué)文本tokens，以及英騰教育積累的百億級專業(yè)知識數(shù)據(jù)進(jìn)行高效處理和學(xué)習(xí)，考試寶典能夠幫助考生制定個性化的學(xué)習(xí)計劃、精準(zhǔn)答疑、依托測評精準(zhǔn)定位知識薄弱環(huán)節(jié)，以及智能推薦學(xué)習(xí)重點，助力考生大幅提升備考效率。

來源：數(shù)據(jù)猿