鏡舟科技案例

該項(xiàng)目案例由鏡舟科技投遞并參與數(shù)智猿×數(shù)據(jù)猿×上海大數(shù)據(jù)聯(lián)盟共同推出的《2025中國數(shù)智化轉(zhuǎn)型升級(jí)創(chuàng)新服務(wù)企業(yè)》榜單/獎(jiǎng)項(xiàng)評(píng)選。

理想汽車作為智能電動(dòng)汽車領(lǐng)域的領(lǐng)軍企業(yè)，面臨著前所未有的海量數(shù)據(jù)分析挑戰(zhàn)。隨著車輛數(shù)量的快速增長(zhǎng)和業(yè)務(wù)復(fù)雜度的提升，企業(yè)的OLAP平臺(tái)規(guī)模已達(dá)到12+集群、1.3萬CPU核心，日均處理超過1000萬查詢請(qǐng)求，管理約300T數(shù)據(jù)量，每天百億級(jí)數(shù)據(jù)入庫。

在數(shù)字化轉(zhuǎn)型的關(guān)鍵階段，理想汽車原有的多引擎并存架構(gòu)（Impala、StarRocks、TiDB等）導(dǎo)致資源成本居高不下、維護(hù)工作異常復(fù)雜。為實(shí)現(xiàn)數(shù)智化轉(zhuǎn)型升級(jí)，理想汽車決定構(gòu)建統(tǒng)一的云原生OLAP分析平臺(tái)，選擇鏡舟數(shù)據(jù)庫作為核心引擎，通過存算分離、Multi-warehouse等云原生能力重構(gòu)整個(gè)數(shù)據(jù)分析體系，從而支撐從智能座艙、智能駕駛到企業(yè)經(jīng)營分析的全場(chǎng)景數(shù)據(jù)決策需求。

時(shí)間周期：

開始時(shí)間：2022年1月

截止時(shí)間：2024年12月（至今持續(xù)優(yōu)化中）

重要實(shí)施節(jié)點(diǎn)：
2022年1月-12月：引擎統(tǒng)一階段，將多種OLAP引擎統(tǒng)一為StarRocks
2023年1月-12月：穩(wěn)定性與易用性提升階段，構(gòu)建監(jiān)控告警體系
2024年1月-至今：云原生演進(jìn)階段，部署鏡舟數(shù)據(jù)庫存算分離架構(gòu)

數(shù)智化需求

理想汽車作為智能電動(dòng)汽車企業(yè)，其數(shù)字化轉(zhuǎn)型需求具有顯著的行業(yè)特色和技術(shù)挑戰(zhàn)。

在數(shù)據(jù)層面，企業(yè)需要處理來自車機(jī)埋點(diǎn)、車輛信號(hào)、智能駕駛傳感器、用戶行為等多源異構(gòu)數(shù)據(jù)，單表數(shù)據(jù)量已達(dá)萬億行級(jí)別，存儲(chǔ)需求超過250TB。在技術(shù)架構(gòu)方面，原有系統(tǒng)存在多引擎并存、資源隔離困難、擴(kuò)容不靈活等問題，急需構(gòu)建統(tǒng)一、高效、可擴(kuò)展的數(shù)據(jù)分析平臺(tái)。

在應(yīng)用場(chǎng)景方面，理想汽車需要支撐智能座艙體驗(yàn)優(yōu)化、智能駕駛數(shù)據(jù)分析、車輛數(shù)據(jù)自助分析平臺(tái)、運(yùn)營及經(jīng)營看板等多個(gè)業(yè)務(wù)領(lǐng)域的實(shí)時(shí)和離線分析需求。特別是在智能駕駛數(shù)據(jù)分析場(chǎng)景中，需要處理超過2000億條記錄的主鍵模型表，要求在5秒內(nèi)完成全表掃描過濾聚合，并返回千萬級(jí)結(jié)果集。

理想汽車希望通過數(shù)智化轉(zhuǎn)型實(shí)現(xiàn)：

第一，構(gòu)建統(tǒng)一的數(shù)據(jù)查詢分析引擎，消除數(shù)據(jù)孤島；

第二，實(shí)現(xiàn)存算分離的云原生架構(gòu)，提高資源利用率和成本效益；

第三，建立多級(jí)隔離機(jī)制，保障系統(tǒng)穩(wěn)定性；

第四，支持彈性伸縮，應(yīng)對(duì)波動(dòng)性查詢負(fù)載；

第五，提供毫秒級(jí)查詢響應(yīng)，支撐實(shí)時(shí)業(yè)務(wù)決策。

最終目標(biāo)是將數(shù)據(jù)真正轉(zhuǎn)化為推動(dòng)業(yè)務(wù)創(chuàng)新和智能化發(fā)展的核心動(dòng)力。

面臨挑戰(zhàn)

理想汽車在數(shù)智化轉(zhuǎn)型過程中面臨三大核心挑戰(zhàn)，這些挑戰(zhàn)嚴(yán)重制約了企業(yè)數(shù)據(jù)分析能力的發(fā)揮。

首先是單集群內(nèi)隔離困難導(dǎo)致的穩(wěn)定性問題。在存算一體架構(gòu)下，多業(yè)務(wù)共用集群時(shí)經(jīng)常出現(xiàn)相互影響的情況，曾發(fā)生單個(gè)業(yè)務(wù)異常流量暴增直接將整個(gè)集群CPU資源打滿，導(dǎo)致其他業(yè)務(wù)查詢排隊(duì)無法獲取資源的嚴(yán)重事故。盡管嘗試使用Resource Group實(shí)現(xiàn)隔離，但對(duì)CPU資源的隔離效果遠(yuǎn)不理想。同時(shí)，內(nèi)表與外表共存帶來穩(wěn)定性風(fēng)險(xiǎn)，外表依賴的HiveMetaStore、Alluxio等外部組件不穩(wěn)定可能導(dǎo)致整個(gè)集群崩潰。

其次是機(jī)器擴(kuò)容不靈活且成本高昂的問題。車輛數(shù)據(jù)自助分析平臺(tái)隨著業(yè)務(wù)發(fā)展需要接入更多數(shù)據(jù)源，單表數(shù)據(jù)量迅速增長(zhǎng)至萬億行級(jí)別，存儲(chǔ)需求達(dá)到250TB。在存算一體架構(gòu)下，只能按照存儲(chǔ)需求擴(kuò)容計(jì)算資源，但分析顯示99%的查詢只關(guān)注近一個(gè)月的熱數(shù)據(jù)，大量歷史數(shù)據(jù)很少被訪問，導(dǎo)致大量CPU和內(nèi)存資源浪費(fèi)。

第三是彈性伸縮能力弱導(dǎo)致資源利用率低的問題。智能駕駛數(shù)據(jù)分析場(chǎng)景中維護(hù)著超過2000億條記錄的主鍵模型表，查詢具有全表掃描過濾聚合、千萬級(jí)結(jié)果集、5秒內(nèi)完成等特點(diǎn)。查詢峰值波動(dòng)大但出現(xiàn)概率低，為滿足峰值需求只能按最高負(fù)載配置資源，導(dǎo)致整體資源利用率僅約20%，成本效益極低。

數(shù)據(jù)支持

理想汽車OLAP平臺(tái)承載著海量的多源異構(gòu)數(shù)據(jù)處理任務(wù)。

在數(shù)據(jù)類型方面，平臺(tái)需要處理車機(jī)埋點(diǎn)數(shù)據(jù)、車輛信號(hào)數(shù)據(jù)、攝像頭視覺數(shù)據(jù)、雷達(dá)傳感器數(shù)據(jù)、用戶行為數(shù)據(jù)、運(yùn)營數(shù)據(jù)等多種類型。其中，車機(jī)埋點(diǎn)數(shù)據(jù)日均生成量超過200GB，車輛信號(hào)數(shù)據(jù)約2GB，智能駕駛相關(guān)的傳感器數(shù)據(jù)更是達(dá)到TB級(jí)別。

在數(shù)據(jù)處理量方面，平臺(tái)日均處理查詢請(qǐng)求超過1000萬次，管理存儲(chǔ)數(shù)據(jù)約300TB，每天新增入庫數(shù)據(jù)達(dá)到百億級(jí)別。特別是在智能駕駛業(yè)務(wù)場(chǎng)景中，單個(gè)主鍵模型表包含超過2000億條記錄，用于智能駕駛模型訓(xùn)練的數(shù)據(jù)標(biāo)簽檢索。車輛數(shù)據(jù)自助分析平臺(tái)的核心表單表數(shù)據(jù)量已達(dá)萬億行級(jí)別，總存儲(chǔ)需求超過250TB。

在數(shù)據(jù)處理性能方面，通過鏡舟數(shù)據(jù)庫的優(yōu)化，單個(gè)CN/BE節(jié)點(diǎn)導(dǎo)入能力達(dá)到142MB/s，查詢響應(yīng)時(shí)間從原來的幾十秒優(yōu)化到秒級(jí)甚至毫秒級(jí)。Ad-hoc查詢性能提升了10倍，從傳統(tǒng)Linkis+Spark組合的幾十秒響應(yīng)時(shí)間優(yōu)化到秒級(jí)響應(yīng)。通過存算分離架構(gòu)和緩存機(jī)制，99%的熱數(shù)據(jù)查詢性能與存算一體架構(gòu)持平，極大提升了數(shù)據(jù)處理效率。

應(yīng)用技術(shù)與實(shí)施過程

本項(xiàng)目的核心技術(shù)方案是基于鏡舟數(shù)據(jù)庫構(gòu)建云原生存算分離OLAP架構(gòu)，通過Multi-Warehouse、Kubernetes、存算分離等關(guān)鍵技術(shù)解決傳統(tǒng)架構(gòu)的痛點(diǎn)問題。

1. 總體架構(gòu)設(shè)計(jì)

團(tuán)隊(duì)在鏡舟數(shù)據(jù)庫之上構(gòu)建了DQS（統(tǒng)一查詢服務(wù)），形成大數(shù)據(jù)平臺(tái)的統(tǒng)一出口。DQS提供鑒權(quán)、路由、熔斷、限流等核心能力，實(shí)現(xiàn)了從智能座艙、智能駕駛到企業(yè)經(jīng)營分析的全場(chǎng)景覆蓋，支持湖倉分析、實(shí)時(shí)離線分析、Ad-hoc查詢和聯(lián)邦查詢等多種分析模式。

整體架構(gòu)采用三層設(shè)計(jì)：應(yīng)用層（DQS統(tǒng)一查詢服務(wù)）、計(jì)算層（鏡舟數(shù)據(jù)庫Multi-Warehouse）、存儲(chǔ)層（本地緩存+對(duì)象存儲(chǔ)）。

2. Multi-Warehouse隔離技術(shù)實(shí)現(xiàn)

針對(duì)單集群內(nèi)隔離困難的問題，團(tuán)隊(duì)設(shè)計(jì)了基于Multi-Warehouse的三級(jí)隔離策略。

第一級(jí)是內(nèi)外表集群隔離，將湖倉外表查詢與內(nèi)表業(yè)務(wù)完全分離，避免不穩(wěn)定的外表查詢影響內(nèi)表業(yè)務(wù)。

第二級(jí)是業(yè)務(wù)場(chǎng)景隔離，在湖倉集群中將Ad-hoc靈活分析與傳統(tǒng)BI業(yè)務(wù)分離，在內(nèi)表集群中按業(yè)務(wù)優(yōu)先級(jí)分離高優(yōu)與低優(yōu)業(yè)務(wù)。

第三級(jí)是讀寫負(fù)載隔離，通過將寫入場(chǎng)景（包括compaction負(fù)載）放到獨(dú)立warehouse執(zhí)行，配合資源組的橫向隔離能力，實(shí)現(xiàn)更完善的多維度隔離。

在技術(shù)實(shí)現(xiàn)上，每個(gè)Warehouse配置獨(dú)立的計(jì)算資源池，通過鏡舟數(shù)據(jù)庫的資源管理器實(shí)現(xiàn)動(dòng)態(tài)資源分配。高優(yōu)業(yè)務(wù)Warehouse配置高性能SSD存儲(chǔ)和更多CPU核心，低優(yōu)業(yè)務(wù)Warehouse使用標(biāo)準(zhǔn)配置。通過這種縱向物理隔離加上Resource Group的橫向隔離，實(shí)現(xiàn)了比傳統(tǒng)Resource Group更加徹底的隔離效果。

3. 存算分離架構(gòu)技術(shù)方案

存算分離是本項(xiàng)目的核心技術(shù)突破。在存儲(chǔ)層面，團(tuán)隊(duì)采用了熱冷數(shù)據(jù)分層存儲(chǔ)策略，將近一個(gè)月的熱數(shù)據(jù)緩存到本地高速SSD，歷史冷數(shù)據(jù)存儲(chǔ)在成本更低的對(duì)象存儲(chǔ)中。這一決策基于對(duì)半年查詢?nèi)罩镜纳疃确治?，發(fā)現(xiàn)99%的查詢僅訪問最近30天的數(shù)據(jù)。

在計(jì)算層面，鏡舟數(shù)據(jù)庫的計(jì)算節(jié)點(diǎn)（CN）與存儲(chǔ)節(jié)點(diǎn)（FE/BE）完全解耦，計(jì)算節(jié)點(diǎn)可以根據(jù)查詢負(fù)載動(dòng)態(tài)擴(kuò)縮容，而不受存儲(chǔ)容量限制。計(jì)算節(jié)點(diǎn)通過智能緩存算法預(yù)取熱數(shù)據(jù)，當(dāng)本地緩存命中時(shí)查詢性能與存算一體架構(gòu)持平；即使緩存未命中，經(jīng)過參數(shù)優(yōu)化后性能下降也控制在可接受范圍內(nèi)。

在元數(shù)據(jù)管理方面，團(tuán)隊(duì)實(shí)現(xiàn)了元數(shù)據(jù)與數(shù)據(jù)的分離存儲(chǔ)，元數(shù)據(jù)存儲(chǔ)在高可用的分布式存儲(chǔ)中，支持多個(gè)計(jì)算集群共享，避免了數(shù)據(jù)孤島問題。

4. Kubernetes云原生部署技術(shù)

團(tuán)隊(duì)利用鏡舟數(shù)據(jù)庫良好的Kubernetes適配能力，實(shí)現(xiàn)了云原生部署。在資源調(diào)度方面，通過分析OLAP查詢和Spark生產(chǎn)任務(wù)的負(fù)載特性，發(fā)現(xiàn)兩者存在天然的波峰波谷互補(bǔ)性：白天是OLAP查詢高峰期而Spark任務(wù)較少，夜間則相反。

基于這一發(fā)現(xiàn)，團(tuán)隊(duì)設(shè)計(jì)了動(dòng)態(tài)資源調(diào)度算法，通過Kubernetes的資源配額機(jī)制，在不同時(shí)段動(dòng)態(tài)調(diào)整鏡舟數(shù)據(jù)庫和Spark的資源分配。白天為鏡舟數(shù)據(jù)庫分配更多CPU和內(nèi)存資源用于查詢分析（即席查詢、報(bào)表分析），夜間則將資源傾斜給Spark用于數(shù)據(jù)生產(chǎn)（批量計(jì)算、ETL等）。這種策略預(yù)計(jì)可將整體資源利用率提高50%。

存儲(chǔ)架構(gòu)采用bos對(duì)象存儲(chǔ)+Alluxio緩存的分層架構(gòu)，冷數(shù)據(jù)存儲(chǔ)在對(duì)象存儲(chǔ)降低成本，熱數(shù)據(jù)通過Alluxio緩存保障查詢性能。

驗(yàn)證配置：3節(jié)點(diǎn)集群，每節(jié)點(diǎn)128核/512GB/4*4TB，使用cn-ubuntu:3.1.5鏡像，總算力384核心。

5. 湖倉Ad-hoc查詢加速技術(shù)

針對(duì)湖倉Ad-hoc查詢效率低的問題，團(tuán)隊(duì)設(shè)計(jì)了全新的查詢加速方案。首先通過Flink實(shí)時(shí)同步Metastore元數(shù)據(jù)至鏡舟數(shù)據(jù)庫，消除了傳統(tǒng)架構(gòu)中元數(shù)據(jù)獲取的延遲。其次利用鏡舟數(shù)據(jù)庫的資源常駐能力，避免了每次查詢都需要申請(qǐng)資源的開銷。

在查詢路徑優(yōu)化方面，團(tuán)隊(duì)用自研的DQS服務(wù)替代了傳統(tǒng)的Linkis組件，簡(jiǎn)化了查詢鏈路并增強(qiáng)了穩(wěn)定性保障。DQS集成了SQL解析、查詢路由、結(jié)果緩存等功能，能夠智能識(shí)別查詢類型并路由到最適合的Warehouse執(zhí)行。

在查詢優(yōu)化方面，團(tuán)隊(duì)實(shí)現(xiàn)了多層次的查詢加速策略。第一層是結(jié)果緩存，對(duì)于重復(fù)查詢直接返回緩存結(jié)果；第二層是預(yù)計(jì)算，夜間預(yù)先計(jì)算常用的聚合結(jié)果；第三層是智能索引，根據(jù)查詢模式自動(dòng)創(chuàng)建和維護(hù)索引。

6. 穩(wěn)定性保障技術(shù)體系

團(tuán)隊(duì)構(gòu)建了覆蓋事前、事中、事后的全方位穩(wěn)定性保障體系。在事前預(yù)防方面，通過構(gòu)建通用巡檢機(jī)制，提前發(fā)現(xiàn)潛在風(fēng)險(xiǎn)；通過DQS服務(wù)實(shí)現(xiàn)SQL攔截，過濾高風(fēng)險(xiǎn)查詢；配合開發(fā)資源預(yù)估工具，確保資源合理配置。

在事中控制方面，通過Multi-Warehouse的多級(jí)隔離能力，在發(fā)生故障時(shí)有效縮小影響范圍。同時(shí)實(shí)現(xiàn)了智能熔斷機(jī)制，當(dāng)某個(gè)Warehouse出現(xiàn)異常時(shí)自動(dòng)切換到備用Warehouse，確保業(yè)務(wù)連續(xù)性。

在事后治理方面，提供了完善的數(shù)據(jù)治理能力，定期排除數(shù)據(jù)或元數(shù)據(jù)風(fēng)險(xiǎn)；通過分析歷史問題識(shí)別優(yōu)化點(diǎn)。

外部企業(yè)/生態(tài)伙伴合作

在開源生態(tài)方面，項(xiàng)目充分利用了Apache Flink、Spark等開源組件，構(gòu)建了完整的數(shù)據(jù)處理和監(jiān)控體系。同時(shí)，理想汽車團(tuán)隊(duì)積極參與StarRocks開源社區(qū)建設(shè)，向社區(qū)貢獻(xiàn)代碼補(bǔ)丁和功能優(yōu)化建議，形成了技術(shù)共享和協(xié)同發(fā)展的良好生態(tài)。

在數(shù)據(jù)生態(tài)方面，項(xiàng)目與Alluxio、Hudi、Hive等數(shù)據(jù)湖技術(shù)棧深度集成，確保了與現(xiàn)有大數(shù)據(jù)平臺(tái)的兼容性。

商業(yè)變化

理想汽車OLAP引擎云原生架構(gòu)演進(jìn)項(xiàng)目取得了顯著的商業(yè)價(jià)值和技術(shù)成果，為企業(yè)數(shù)智化轉(zhuǎn)型帶來了深刻變化。

在成本效益方面，通過存算分離架構(gòu)和資源優(yōu)化，項(xiàng)目實(shí)現(xiàn)了30%的機(jī)器資源節(jié)省，預(yù)計(jì)整體資源利用率可提高50%。原本在智能駕駛數(shù)據(jù)分析場(chǎng)景中僅20%的資源利用率得到大幅改善，為企業(yè)節(jié)省了數(shù)百萬元的硬件投入成本。

在系統(tǒng)性能方面，平臺(tái)穩(wěn)定性從原來的多故障狀態(tài)提升到99.99%，Ad-hoc查詢性能提升了10倍，從幾十秒響應(yīng)時(shí)間優(yōu)化到秒級(jí)響應(yīng)。單個(gè)CN/BE節(jié)點(diǎn)導(dǎo)入能力達(dá)到142MB/s，查詢處理能力顯著增強(qiáng)，支撐日均超過1000萬查詢請(qǐng)求的業(yè)務(wù)需求。

在業(yè)務(wù)支撐能力方面，統(tǒng)一的OLAP平臺(tái)成功覆蓋了從智能座艙、智能駕駛到企業(yè)經(jīng)營分析的全場(chǎng)景需求，消除了原有多引擎并存導(dǎo)致的數(shù)據(jù)孤島問題。實(shí)現(xiàn)了湖倉分析、實(shí)時(shí)離線分析、Ad-hoc查詢和聯(lián)邦查詢的一體化支持，為業(yè)務(wù)決策提供了更加及時(shí)和準(zhǔn)確的數(shù)據(jù)支撐。

在技術(shù)創(chuàng)新方面，項(xiàng)目成為業(yè)界領(lǐng)先的車企數(shù)據(jù)平臺(tái)云原生架構(gòu)實(shí)踐案例，為理想汽車在智能汽車領(lǐng)域的技術(shù)領(lǐng)先地位提供了有力支撐。通過與鏡舟科技的深度合作，理想汽車不僅獲得了技術(shù)能力提升，還在大數(shù)據(jù)領(lǐng)域建立了技術(shù)護(hù)城河，為未來業(yè)務(wù)發(fā)展奠定了堅(jiān)實(shí)基礎(chǔ)。

關(guān)于企業(yè)

·鏡舟科技

鏡舟科技是中國領(lǐng)先的企業(yè)級(jí)數(shù)據(jù)基礎(chǔ)設(shè)施服務(wù)商，也是全球領(lǐng)先開源項(xiàng)目 StarRocks 的主要貢獻(xiàn)者。鏡舟基于“開源+商業(yè)化”模式，致力于推動(dòng)StarRocks在全球范圍內(nèi)的應(yīng)用，并基于此提供企業(yè)級(jí)產(chǎn)品鏡舟數(shù)據(jù)庫(Mirrorship)及解決方案。作為新一代數(shù)據(jù)架構(gòu)的踐行者，鏡舟科技率先推出基于StarRocks Lakehouse 解決方案，幫助企業(yè)客戶實(shí)現(xiàn)從傳統(tǒng)數(shù)倉向現(xiàn)代化 Lakehouse 架構(gòu)的平滑演進(jìn)。

·理想汽車

理想是?家??智能企業(yè)，我們要做的不是汽?的智能化，?是??智能的汽?化，并將推動(dòng)??智能普惠到每?個(gè)家庭。

通過產(chǎn)品、技術(shù)、業(yè)務(wù)模式的創(chuàng)新突破，為家庭打造更安全、更舒適、更便捷的智能電動(dòng)?；提供更便捷的能源解決?案，增程和純電并?，通過可再?能源?命，?規(guī)模替代燃油?；通過??智能服務(wù)家庭??，?研智能空間與輔助駕駛技術(shù)，讓家與AI?起成?；搭建線上線下?體化的直營銷售和服務(wù)系統(tǒng)，向??提供更透明、更便捷、更?效的服務(wù)；堅(jiān)持?建智能制造基地，?主掌控?產(chǎn)制造，?建供應(yīng)鏈體系，提升制造質(zhì)量和制造效率。

來源：數(shù)據(jù)猿