2024騰訊全球數(shù)字生態(tài)大會(huì)：騰訊云AIGC全棧方案，加速AI應(yīng)用落地

2024 騰訊騰訊云AIGC

數(shù)據(jù)猿 | 2024-09-07 01:28

【數(shù)據(jù)猿導(dǎo)讀】 9月6日，2024騰訊全球數(shù)字生態(tài)大會(huì)互聯(lián)網(wǎng)AI應(yīng)用專場(chǎng)正式舉辦。專場(chǎng)以“從數(shù)字化原住民，到智能化先鋒派”為主題，SaaS、文娛、社交等賽道的先鋒企業(yè)齊聚一堂，分享用云最佳實(shí)踐，以及AI在影音、營(yíng)銷、電商、招聘等多個(gè)領(lǐng)域的創(chuàng)新應(yīng)用經(jīng)驗(yàn)。會(huì)上，騰訊云還公布了最新的AI原生云產(chǎn)品服務(wù)。...

2024騰訊全球數(shù)字生態(tài)大會(huì)：騰訊云AIGC全棧方案，加速AI應(yīng)用落地

9月6日，2024騰訊全球數(shù)字生態(tài)大會(huì)互聯(lián)網(wǎng)AI應(yīng)用專場(chǎng)正式舉辦。專場(chǎng)以“從數(shù)字化原住民，到智能化先鋒派”為主題，SaaS、文娛、社交等賽道的先鋒企業(yè)齊聚一堂，分享用云最佳實(shí)踐，以及AI在影音、營(yíng)銷、電商、招聘等多個(gè)領(lǐng)域的創(chuàng)新應(yīng)用經(jīng)驗(yàn)。會(huì)上，騰訊云還公布了最新的AI原生云產(chǎn)品服務(wù)。

云+AI基礎(chǔ)設(shè)施已成為企業(yè)智能化轉(zhuǎn)型的關(guān)鍵支撐，但企業(yè)在嘗試AI時(shí)，也面臨包括算力、算法開發(fā)和專業(yè)人才的挑戰(zhàn)。騰訊云副總裁許華彬在開場(chǎng)致辭中表示，“RAG結(jié)合企業(yè)自有知識(shí)，無(wú)需企業(yè)花費(fèi)較多人力和算力，以及對(duì)大模型SFT精調(diào)，是當(dāng)前企業(yè)級(jí)AI應(yīng)用落地的成熟方案。近期來多行業(yè)場(chǎng)景的AI Agent蓬勃發(fā)展，面向Ｃ端的原生應(yīng)用，以及B端企業(yè)級(jí)業(yè)務(wù)流程自動(dòng)化，將成為后續(xù)應(yīng)用落地的主要方式。云計(jì)算是夯實(shí)基礎(chǔ)的重要底座，云原生技術(shù)助力企業(yè)實(shí)現(xiàn)敏捷開發(fā)，以新技術(shù)、新市場(chǎng)的創(chuàng)新，實(shí)現(xiàn)增長(zhǎng)突破。”

2024_騰訊_騰訊云AIGC-1

騰訊云副總裁許華彬

以AI大模型為“基座”，驅(qū)動(dòng)業(yè)務(wù)創(chuàng)新發(fā)展

隨著大模型深入應(yīng)用于各行各業(yè)，各行業(yè)對(duì)大模型的要求也更為精細(xì)。騰訊混元大模型算法負(fù)責(zé)人康戰(zhàn)輝在演講中提到，算力更強(qiáng)、效果更好、應(yīng)用成本更低的大模型才符合當(dāng)下需求。相比前代模型，最新發(fā)布的旗艦大模型“混元Turbo”性能有顯著提升，訓(xùn)練效率提升108%，推理效率提升100%，推理成本降低50%，解碼速度提升20%，效果在多個(gè)基準(zhǔn)測(cè)試上對(duì)標(biāo)GPT-4o，第三方測(cè)評(píng)居國(guó)內(nèi)第一。除支持通用大模型能力外，騰訊混元Turbo也支持角色扮演、FunctionCall、代碼生成和AI聯(lián)網(wǎng)搜索等領(lǐng)域能力。目前，騰訊混元在騰訊云上提供了多種尺寸的模型服務(wù)，通過API、專屬模型、精調(diào)模型等接入和使用方式面向企業(yè)及個(gè)人開發(fā)者全量開放。

2024_騰訊_騰訊云AIGC-2

騰訊機(jī)器學(xué)習(xí)平臺(tái)總監(jiān)、混元大模型算法負(fù)責(zé)人康戰(zhàn)輝

金蝶中國(guó)副總裁、研發(fā)平臺(tái)總經(jīng)理李帆介紹了金蝶Cosmic一體化企業(yè)級(jí)AI 解決方案等與騰訊云的系列合作成果?；隍v訊混元大模型，金蝶招聘可實(shí)現(xiàn)5分鐘招聘需求生產(chǎn)以及簡(jiǎn)歷初篩，招聘效率提升90%?；隍v訊云TI平臺(tái)，結(jié)合高性能計(jì)算集群與星脈網(wǎng)絡(luò)，金蝶訓(xùn)練財(cái)務(wù)大模型效率提升30%。

2024_騰訊_騰訊云AIGC-3

金蝶中國(guó)副總裁、研發(fā)平臺(tái)總經(jīng)理李帆

在協(xié)同辦公領(lǐng)域，騰訊文檔AI負(fù)責(zé)人TONY TANG分享了騰訊文檔AI在全品類文檔生成、跨品類信息處理、一鍵式智能交互方面的優(yōu)勢(shì)。目前，基于騰訊混元大模型能力，騰訊文檔AI智能助手已全面應(yīng)用于文檔、表格、幻燈片、PDF、智能文檔、收集表、思維導(dǎo)圖等文檔類型，涵蓋了文本內(nèi)容秒級(jí)處理、函數(shù)公式運(yùn)算應(yīng)用、表格數(shù)據(jù)精準(zhǔn)呈現(xiàn)、PPT快速生成美化、收集結(jié)果自動(dòng)分析、思維導(dǎo)圖一鍵生成等多項(xiàng)能力，并支持跨品類文檔內(nèi)容暢通流轉(zhuǎn)。用戶在騰訊文檔電腦端或移動(dòng)端，通過“一句話”的指令，即可開啟AI融合后的智能辦公和高效創(chuàng)作體驗(yàn)。

2024_騰訊_騰訊云AIGC-4 2024_騰訊_騰訊云AIGC-5

騰訊文檔負(fù)責(zé)人 TONY TANG

挖掘云上增長(zhǎng)新能力，解鎖AIGC用云最佳實(shí)踐

AI應(yīng)用長(zhǎng)久穩(wěn)定運(yùn)行，離不開云上基礎(chǔ)設(shè)施的構(gòu)建。建設(shè)好堅(jiān)實(shí)的云基座，才能為AI應(yīng)用提供更為廣闊的能力上探空間。大會(huì)現(xiàn)場(chǎng)，多位AI應(yīng)用的先鋒實(shí)踐者基于自身業(yè)務(wù)進(jìn)展，分享了AIGC用云的意義。

在消費(fèi)領(lǐng)域，值得買科技CTO王云峰分享了值得買科技1個(gè)“值得買消費(fèi)大模型”，“商品庫(kù)”和“內(nèi)容庫(kù)”2大數(shù)據(jù)庫(kù)，AIUC分析引擎、AIGC生成引擎和AGENT調(diào)度引擎3個(gè)應(yīng)用構(gòu)建框架，以及提供針對(duì)性的AI解決方案的4類應(yīng)用AI戰(zhàn)略。

針對(duì)云基礎(chǔ)設(shè)施，王云峰分享了值得買科技依托騰訊混元大模型等理解語(yǔ)音、視頻、圖像的多模態(tài)數(shù)據(jù)，以及自購(gòu)算力+多云算力的模式。目前，值得買科技已可實(shí)現(xiàn)10億+條商品庫(kù)與近百億條內(nèi)容庫(kù)的數(shù)據(jù)處理和迅速進(jìn)行模型訓(xùn)練和推理部署，而通過騰訊云容器場(chǎng)景GPU虛擬化，什么值得買也實(shí)現(xiàn)了對(duì)單個(gè)GPU的更細(xì)粒度劃分，大大提升了資源利用率減少資源和人力的消耗。

2024_騰訊_騰訊云AIGC-6

值得買科技CTO 王云峰

燧原科技副總裁任樹峰表示，通過騰訊云保障燧原的峰值算力供給，燧原驗(yàn)證、benchmark測(cè)試效率從2周準(zhǔn)備環(huán)境縮短至30分鐘，提升作業(yè)并發(fā)100%、縮短仿真周期30%。

2024_騰訊_騰訊云AIGC-7

燧原科技副總裁任樹峰

在文娛領(lǐng)域，貓眼娛樂副總裁徐曉分享了基于騰訊云數(shù)據(jù)傳輸、數(shù)據(jù)存儲(chǔ)安全方面能力打造的貓眼渲染平臺(tái)的全程云端制作與渲染提升案例。依托騰訊云，貓眼娛樂的大數(shù)據(jù)平臺(tái)，可實(shí)現(xiàn)日均3萬(wàn)+離線數(shù)倉(cāng)調(diào)度任務(wù)穩(wěn)定運(yùn)行，核心任務(wù)執(zhí)行效率提升20%。

2024_騰訊_騰訊云AIGC-8

貓眼娛樂副總裁徐曉

趣丸技術(shù)保障負(fù)責(zé)人劉亞丹分享了AI大模型賦能軟件研發(fā)提質(zhì)增效的實(shí)踐。借助騰訊云提供的豐富能力，趣丸在代碼Review、編碼、測(cè)試等環(huán)節(jié)實(shí)現(xiàn)效率提升，在AI輔助編碼方面，代碼采納率30%+；AI輔助代碼Review方面，bug有效性60%+，AI輔助測(cè)試用例生成方面，測(cè)試用例行采納率40%+，運(yùn)維數(shù)字員工方面，問答解決率45%+。

2024_騰訊_騰訊云AIGC-9

趣丸技術(shù)保障負(fù)責(zé)人劉亞丹

AI原生云平臺(tái)助力企業(yè)快速搭建、部署AI應(yīng)用

基于AI大模型，更多AI應(yīng)用得以迅速落地。但作為AI應(yīng)用的底座，大模型對(duì)算力的需求正在呈指數(shù)級(jí)增長(zhǎng)，數(shù)據(jù)集規(guī)模持續(xù)增大也對(duì)數(shù)據(jù)清洗甄別提出了更高的要求。同時(shí)，數(shù)據(jù)無(wú)偏見，圖片、影像、音頻是否安全合規(guī)，使用成本是否可控等，都是使用大模型時(shí)需要考慮的問題。

從AI應(yīng)用落地面臨的挑戰(zhàn)出發(fā)，騰訊云行業(yè)架構(gòu)副總監(jiān)邱浩基于騰訊云AI全棧解決方案，從基礎(chǔ)設(shè)施層、模型層、模型加速層、機(jī)器學(xué)習(xí)平臺(tái)層、應(yīng)用平臺(tái)層和業(yè)務(wù)應(yīng)用層闡述了騰訊云在計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)，一站式AI開發(fā)平臺(tái)騰訊云TI-ONE以及云原生產(chǎn)品等方面的能力，并給出了對(duì)應(yīng)不同階段AI應(yīng)用開發(fā)的具體方案。

2024_騰訊_騰訊云AIGC-10

騰訊云行業(yè)架構(gòu)副總監(jiān) 邱浩

作為L(zhǎng)LM的頭部玩家，智譜企業(yè)商業(yè)技術(shù)中心總經(jīng)理柴思遠(yuǎn)表示，騰訊云算力集群搭配自研的星脈網(wǎng)絡(luò)，有效提升了多機(jī)并行訓(xùn)練速度。其中，星脈網(wǎng)絡(luò)通過自研交換機(jī)和通訊協(xié)議，為每臺(tái)GPU服務(wù)器提供3.2T的交互帶寬，實(shí)現(xiàn)40us內(nèi)的擁塞控制和0丟包，為大規(guī)模的訓(xùn)練集群提供可靠的網(wǎng)絡(luò)保障。搭建星脈的算力集群較智譜原有算力集群，在13B和60B的模型下吞吐表現(xiàn)均大幅提升。此外，騰訊云為智譜AI提供高自愈能力的算力集群，全局監(jiān)控，一站式掌握7*24小時(shí)運(yùn)行狀態(tài)，支持故障自動(dòng)監(jiān)測(cè)與恢復(fù)，保證任務(wù)連續(xù)進(jìn)行，其中任務(wù)自愈時(shí)間從2小時(shí)縮短至5分鐘，集群自愈時(shí)間從24小時(shí)縮短至10分鐘。

2024_騰訊_騰訊云AIGC-11

智譜企業(yè)商業(yè)技術(shù)中心總經(jīng)理柴思遠(yuǎn)

在大模型的助力下，AI應(yīng)用已覆蓋互聯(lián)網(wǎng)多個(gè)行業(yè)，在業(yè)務(wù)高效創(chuàng)新上展現(xiàn)出了更強(qiáng)勢(shì)的產(chǎn)品力。會(huì)上，面向招聘、營(yíng)銷、文娛等多方面的AI創(chuàng)新應(yīng)用也悉數(shù)亮相。

在招聘方面，獵聘技術(shù)副總裁、AI中心負(fù)責(zé)人莫瑜表示，與騰訊云共同探索高度自動(dòng)化的數(shù)字助理，針對(duì)不同職類主動(dòng)挖掘招聘需求，簡(jiǎn)化工作流程，提升候選人尋訪效率；自動(dòng)化候選人面試環(huán)節(jié)，降低人才遴選成本。

2024_騰訊_騰訊云AIGC-12

獵聘技術(shù)副總裁、AI中心負(fù)責(zé)人莫瑜

在營(yíng)銷領(lǐng)域，筷子科技CEO陳萬(wàn)峰展示了基于騰訊云的遷移工具M(jìn)SP、騰訊云容器服務(wù)TKE和中間件、騰訊云高性能文件存儲(chǔ)CFS Turbo，在數(shù)據(jù)遷移、彈性伸縮擴(kuò)容應(yīng)對(duì)高并發(fā)，文件存儲(chǔ)以及上傳下載對(duì)應(yīng)解決方案，實(shí)現(xiàn)了AIGC一體化平臺(tái)在編導(dǎo)、拍攝、剪輯、投放、管理方面工作流性能提升240%。

2024_騰訊_騰訊云AIGC-13

筷子科技CEO 陳萬(wàn)峰

騰訊新聞內(nèi)容治理中心負(fù)責(zé)人陸毅然表示，騰訊新聞與AI大模型結(jié)合后，提供評(píng)論識(shí)別的AI應(yīng)用、新聞Push“AI編輯”、新聞“劃重點(diǎn)”、AI助手“新聞妹”等能力。通過AI在新聞內(nèi)容精選、編輯、評(píng)論治理等多個(gè)的運(yùn)用，新聞?lì)惍a(chǎn)品內(nèi)容生產(chǎn)效率和用戶體驗(yàn)同步提升。

2024_騰訊_騰訊云AIGC-14

騰訊新聞內(nèi)容治理中心負(fù)責(zé)人陸毅然

騰訊混元高級(jí)AI策略產(chǎn)品經(jīng)理張漢策以《長(zhǎng)相思第二季》中的角色AI為例，介紹了騰訊元寶如何與影視IP進(jìn)行深度結(jié)合。此次《長(zhǎng)相思》角色AI基于騰訊自研混元大模型的能力，訓(xùn)練了專門的角色模型，深入地理解角色的核心特質(zhì)，而不僅僅是模仿表面的說話風(fēng)格，從而塑造出更具真實(shí)感的角色，激發(fā)用戶參與和共創(chuàng)。同時(shí)，基于多輪對(duì)話能力，實(shí)現(xiàn)了持續(xù)、實(shí)時(shí)、個(gè)性化對(duì)話，并采用音色克隆的技術(shù)，高度還原角色原聲，建立了與粉絲真實(shí)且長(zhǎng)久的聯(lián)結(jié)。目前，長(zhǎng)相思AI角色對(duì)話總熱度超3.7億，“相柳” 單角色熱度超2億。

2024_騰訊_騰訊云AIGC-15

騰訊混元高級(jí)AI策略產(chǎn)品經(jīng)理張漢策

騰訊云擁有廣泛的全球基礎(chǔ)設(shè)施，覆蓋21個(gè)地區(qū)，運(yùn)營(yíng)58個(gè)可用區(qū)，全球服務(wù)器數(shù)量超過100萬(wàn)臺(tái)，全球加速節(jié)點(diǎn)超過3200個(gè)，帶寬儲(chǔ)備達(dá)到200Tbps。一直以來，騰訊云都以深厚的公有云實(shí)力和分布式云戰(zhàn)略，持續(xù)推動(dòng)各行各業(yè)的數(shù)字化轉(zhuǎn)型。截至目前，騰訊云AI產(chǎn)品已覆蓋超過400家互聯(lián)網(wǎng)頭部企業(yè)，累計(jì)服務(wù)超過12萬(wàn)家互聯(lián)網(wǎng)客戶。

騰訊云也將繼續(xù)秉承開放合作、創(chuàng)新發(fā)展的理念，不斷深化AI技術(shù)的研發(fā)與應(yīng)用，攜手各界伙伴共同探索AI技術(shù)的無(wú)限可能，助力企業(yè)在變革中把握住機(jī)遇，破開創(chuàng)新增長(zhǎng)新空間，打造第二增長(zhǎng)曲線。

來源：數(shù)據(jù)猿

收藏分享

聲明：數(shù)據(jù)猿尊重媒體行業(yè)規(guī)范，相關(guān)內(nèi)容都會(huì)注明來源與作者；轉(zhuǎn)載我們?cè)瓌?chuàng)內(nèi)容時(shí)，也請(qǐng)務(wù)必注明“來源：數(shù)據(jù)猿”與作者名稱，否則將會(huì)受到數(shù)據(jù)猿追責(zé)。