搭RAG就像玩樂高！阿里云百煉全面升級，兼容開源架構(gòu)，支持最高自由度
數(shù)據(jù)猿 | 2024-05-09 14:11
【數(shù)據(jù)猿導讀】 5月9日，在北京阿里云AI智領(lǐng)者峰會上，阿里云CTO周靖人公布百煉大模型平臺最新進展。百煉平臺從模型開發(fā)、應(yīng)用開發(fā)到算力底座全面升級，更加易用、更加開放，引入更多模型，還率先兼容LlamaIndex等開源框架，企業(yè)可自由替換能力組件來適配自身系統(tǒng)。針對當下企業(yè)最關(guān)注的RAG鏈路，百煉提...
5月9日，在北京阿里云AI智領(lǐng)者峰會上，阿里云CTO周靖人公布百煉大模型平臺最新進展。百煉平臺從模型開發(fā)、應(yīng)用開發(fā)到算力底座全面升級，更加易用、更加開放，引入更多模型，還率先兼容LlamaIndex等開源框架，企業(yè)可自由替換能力組件來適配自身系統(tǒng)。針對當下企業(yè)最關(guān)注的RAG鏈路，百煉提供靈活開放的企業(yè)級檢索增強服務(wù)，5到10行代碼即可搭建RAG應(yīng)用，讓大模型擁有“最強外掛”。
2023年10月，阿里云發(fā)布了百煉大模型平臺，開發(fā)者可通過“拖拉拽”5分鐘開發(fā)一款大模型應(yīng)用，幾小時“煉”出一個專屬模型，把精力專注于應(yīng)用創(chuàng)新。本次大會上，百煉升級成為阿里云承載云+AI能力的重要平臺，提供一站式、全托管的大模型定制與應(yīng)用服務(wù)。升級后，百煉可以更好支持地大型企業(yè)和成熟開發(fā)者的需求。
“當下企業(yè)應(yīng)用大模型存在三種范式：一是對大模型開箱即用，二是對大模型進行微調(diào)和持續(xù)訓練，三是基于模型開發(fā)應(yīng)用，其中最典型的需求是RAG，以企業(yè)數(shù)據(jù)對大模型進行知識增強。圍繞這些需求，百煉打造了模型中心和應(yīng)用中心，提供最豐富的模型和最易用的工具箱。”周靖人介紹。
對希望直接調(diào)用模型進行推理的企業(yè)，百煉集成了上百款大模型api，除了通義、Llama、ChatGLM等系列，還首家托管百川等系列三方模型，覆蓋國內(nèi)外主流廠商，聯(lián)動魔搭開源社區(qū)，同時支持企業(yè)上架通用或行業(yè)模型，給開發(fā)者提供足夠多的模型選擇。同時，百煉依托阿里云AI基礎(chǔ)設(shè)施，支持千億級模型的萬級并發(fā)推理，充分滿足企業(yè)需求。
對需進一步訓練模型的用戶，百煉提供從數(shù)據(jù)管理、模型調(diào)優(yōu)、評測到部署的全鏈路模型服務(wù)，用戶可彈性按需調(diào)用算力，無需關(guān)心底層架構(gòu)。訓練過程可視化，還可自動評測模型質(zhì)量，并與其他模型對比。
對希望打造RAG應(yīng)用的企業(yè)，百煉支持Assistant API開發(fā)模式，可在百煉上輕松創(chuàng)建知識庫，并一鍵開啟知識檢索增強（RAG），通過Assistant API聯(lián)合輸出。同時，百煉支持agent智能體開發(fā)，并能實現(xiàn)多智能體協(xié)作、對話記憶等高級功能。
阿里云百煉的一大重要優(yōu)勢，在于最大程度的開放性和自由度。當下一些大模型應(yīng)用平臺采用封閉鏈路，不支持替換原子能力，導致企業(yè)開發(fā)應(yīng)用時無法引入自研插件，和業(yè)務(wù)場景充分融合。
百煉率先兼容并優(yōu)化了LlamaIndex等開源架構(gòu)，擁抱社區(qū)生態(tài)，支持從本地或不同云端導入SQL、pdf、excel、ppt等各種類型數(shù)據(jù)源，還支持根據(jù)需求自由替換精細的能力組件,讓AI應(yīng)用絲滑嵌入企業(yè)原有業(yè)務(wù)系統(tǒng)。
周靖人表示，接下來，百煉將繼續(xù)做對開發(fā)者最友好、最開放的大模型平臺。阿里云歡迎更多大模型上架，百煉將進一步支持三方模型的微調(diào)訓練和云上專屬部署，幫助大模型生態(tài)中的企業(yè)提供商業(yè)化服務(wù)。
據(jù)了解，阿里云百煉發(fā)布半年來，已服務(wù)一汽、微博、完美世界、朗新集團、央視網(wǎng)、藍凌科技等眾多企業(yè)。例如，一汽紅旗在百煉上調(diào)用通義千問和大模型分析能力打造了專屬BI智能體，管理人員可隨時讓大模型生成銷售額圖表，并分析相關(guān)情況。
來源：數(shù)據(jù)猿
