過去一年，大模型產(chǎn)業(yè)在中國呈現(xiàn)出一種高度一致的“落地節(jié)奏”：各大廠商爭相推出“大模型一體機”，從軟件到硬件、從模型到芯片，打包交付，仿佛只要客戶部署好一臺機器，AI的未來就能就此開啟。

但表面上的熱鬧，掩蓋不了一個被集體忽視的事實：真正決定AI產(chǎn)業(yè)格局的，從來都不是賣出多少一體機，而是誰擁有構建超級智算平臺的能力。

一體機只是戰(zhàn)術性落地的臨時方案，是真正大模型時代來臨前的一種產(chǎn)業(yè)緩沖。它無法支撐未來AI所需的大規(guī)模訓練能力、實時推理能力、海量并發(fā)處理能力。只有擁有10萬卡、甚至百萬卡級別的GPU算力基礎設施，才能承載未來AI的真正需求。

這就像過去的云計算——不是“賣服務器”的公司贏了，而是能構建CPU算力平臺并提供服務彈性的公司成為了基礎設施的主宰者。

今天，AI產(chǎn)業(yè)正在重演這一幕。只是這一次，主角從CPU變成了GPU，終點也從“資源即服務”，升級為“智能即服務”。

我們必須開始正視：在大模型時代，真正的“新基建”，是超級智算集群，是大規(guī)模GPU基礎設施的統(tǒng)籌調(diào)度與持續(xù)演進能力。

誰能構建得起10萬卡級GPU集群，誰就能提供全球級的AI能力支撐；而誰只能賣一體機，誰就注定停留在“拼裝交付”的初級階段。

為什么大模型真正的挑戰(zhàn)是超級智算，

而不是設備交付

從表面看，大模型的落地瓶頸似乎在應用：怎么服務好企業(yè)客戶？怎么嵌入業(yè)務場景？怎么把AI變成一個“能用起來”的東西？

但如果我們把時間尺度拉長，把視角從“終端部署”上升到“產(chǎn)業(yè)結構”，就會發(fā)現(xiàn)一個更加本質的問題：AI不是用不出去，而是養(yǎng)不起。

☆大模型=重資源，推理比訓練更“燒算力”

一個GPT-4級別的模型，訓練成本動輒上億；但更難的是，它上線之后，每一次調(diào)用推理，都要消耗大量顯存、IO、帶寬、能耗。

當一個模型被嵌入搜索、客服、文檔、代碼、金融等上百個場景，它就不再是一個“智能體”，而變成一個實時運行的智能基礎設施。

那就意味著：你不是要部署一個模型，而是要部署一個永遠在線、海量并發(fā)、低延遲響應的“智能電廠”。

☆單點部署模式，撐不起AI的長尾需求

一體機、私有化部署方案，確實可以解決局部場景中的“安全性”焦慮，但它們存在天然局限：

算力是固定的，不能彈性擴容；

單位計算成本很可能高于云端集群；

模型無法實時更新、優(yōu)化、回傳反饋；

無法形成模型間調(diào)度、多任務分發(fā)、推理負載均衡機制；

這就像你用筆記本電腦當服務器，早期能跑，業(yè)務一上規(guī)模就崩了。

真正的AI應用，不是靠一臺一體機能“扛下來”的，而是需要一個全局調(diào)度、按需供給、資源池化的超級智算平臺。

☆超級智算平臺，就像AI時代的“公路、電網(wǎng)和水利系統(tǒng)”

就像云計算時代是靠成千上萬CPU服務器組成的資源池，支撐起SaaS、視頻、社交、支付系統(tǒng)一樣。AI時代的基礎設施，是由萬卡、十萬卡GPU組成的智算集群，支撐起未來的：

1.多模態(tài)智能系統(tǒng)

2.復雜任務鏈條（RAG、Agent、代碼生成等）

3.千億級參數(shù)模型訓練與熱啟動

4.海量推理服務請求并發(fā)響應

可以說，沒有超級智算，就沒有規(guī)模化的模型服務；沒有彈性集群，就沒有行業(yè)級的智能普惠。

因此，大模型時代的真正挑戰(zhàn)，從來不在“怎么裝進一臺機器”，而在于如何支撐它不斷演進、實時響應、廣泛服務的算力系統(tǒng)設計能力。

國外已在沖頂，國內(nèi)必須補課

當前全球AI發(fā)展的技術焦點，已經(jīng)從“有沒有模型”進入“有沒有能力訓練與服務更大的模型”。這背后的決定性力量，正是：誰掌握了最強、最大、最靈活的GPU智算集群。

在國外，已經(jīng)開啟了超級智算集群的軍備競賽，主流玩家包括OpenAI、微軟、谷歌、xAI、AWS、甲骨文等。

先來看OpenAI，相對而言，超級算力平臺才是“神助攻”。

我們看到GPT-4、Sora等模型引發(fā)世界級震撼，但真正支撐它們快速迭代的，不只是算法，而是超大規(guī)模智算資源調(diào)度平臺：

GPT-4的訓練據(jù)稱使用了超過2.5萬卡GPU集群，多節(jié)點并行訓練，跨芯片同步； GPT-5、Sora背后據(jù)傳動用了超過10萬卡的算力平臺，具備高吞吐、高帶寬、高能效的特性。 微軟為OpenAI建設的AI超級計算中心，正在不斷擴容，目標是構建全球最大規(guī)模GPU調(diào)度系統(tǒng)。

再看NVIDIA，它不僅賣GPU，更在用NVIDIA DGX Cloud構建全球化AI計算平臺，把“硬件公司”進化成了“全球智能電網(wǎng)的基建商”。

至于谷歌，其擁有全球最高性能的數(shù)據(jù)中心之一，TPU v4/v5集群提供PB級帶寬，連接上萬顆TPU芯片，為Gemini系列提供訓練支持。其Borg調(diào)度系統(tǒng)幾乎是AI訓練的“智算操作系統(tǒng)”，支撐大模型訓練過程中的負載感知、能耗均衡、任務遷移。

Meta也不甘人后，Meta公開稱其擁有超過3萬個GPU的訓練平臺，并繼續(xù)投入擴展；構建了“開放模型+自建訓練平臺+高度優(yōu)化Transformer棧”的組合模式。LLaMA系列模型能穩(wěn)定快速迭代（LLaMA2到LLaMA3再到LLaMA4），背后靠的是可控的內(nèi)部智算能力。

這就是為什么，真正的AI強國，不在于訓練了多少模型，而在于：有沒有能力持續(xù)訓練、持續(xù)推理、持續(xù)服務世界級模型。

國外競爭如此激烈，那國內(nèi)情況如何呢？

中國的頭部科技企業(yè)其實早已意識到這一趨勢，也在積極行動。例如：百度昆侖、阿里云、華為昇騰等團隊都在嘗試建立自主化智算中心；京津冀、長三角、粵港澳等地也在推進國家級“算力調(diào)度網(wǎng)絡”建設；中科院、浪潮信息等機構構建了數(shù)千卡至萬卡級GPU平臺，提升大模型訓練能力。

但必須正視現(xiàn)實，我們還存在諸多短板：芯片供應不穩(wěn)定，限制了卡數(shù)規(guī)模；軟件生態(tài)鏈條尚不成熟，調(diào)度系統(tǒng)、框架適配、系統(tǒng)穩(wěn)定性仍待優(yōu)化；高速互聯(lián)技術（如NVLink、Infiniband等）依賴進口，成為集群擴展的物理瓶頸；成本控制、能效比優(yōu)化尚未形成體系級能力

可以說，我們有“算力節(jié)點”，但還缺“超級智算平臺”；有“GPU卡堆”，但還不具備“集群級AI服務的工業(yè)化能力”。

應該說，這是一場基礎設施的軍備競賽。誰能率先構建起“十萬甚至百萬卡級別的智算底座”，誰就擁有對全球AI應用提供“基礎電力”的能力。

就像當年AWS打下云計算江山的不是服務器數(shù)量，而是能提供全球彈性服務的能力；今天，AI產(chǎn)業(yè)要沖上頂峰，必須在智算基礎設施上率先突圍。

超級智算≠炫技，而是AI平臺化的根基

在大眾視角中，超級算力集群往往被看作是一種“技術奇觀”或“軍備競賽”：燒錢、堆卡、拼配置。

但在AI真正的平臺競爭中，超級智算從來都不是“炫技”，而是構建平臺生態(tài)、能力服務與行業(yè)支撐的起點。

☆沒有超級算力，就沒有平臺級AI能力飛輪

一個真正可持續(xù)運營的大模型平臺，必須具備如下能力閉環(huán)：

1.持續(xù)訓練能力——新模型、新任務、新數(shù)據(jù)的高頻迭代

2.低成本推理能力——在千行百業(yè)中部署、調(diào)用、分發(fā)的服務效率

3.多租戶、多模態(tài)調(diào)度能力——同時服務多個用戶、多種任務場景

4.模型自適應優(yōu)化能力——自動壓縮、加速、蒸餾、遷移，提升模型實際服務能力

5.成本控制與能效比最優(yōu)化——真正“商用可負擔”

這五個核心環(huán)節(jié)，背后都依賴一套能力極強、調(diào)度靈活、規(guī)模龐大的超級智算平臺。一旦缺失其中任一環(huán)節(jié)，模型服務能力就將斷裂，最終只能走回“單點部署+人工交付”的老路。

☆超級智算的底層作用：成為整個AI生態(tài)的“基礎電力網(wǎng)”

AI不再是單一功能，而是多模態(tài)、多任務、多角色并行運行的系統(tǒng)生態(tài)：

1.多用戶同時使用AI客服、AI代碼助手、AI設計助手、AI財務分析師……

2.后端必須支持千億參數(shù)模型的多實例并發(fā)推理

3.還要保證任務A不影響任務B，任務B不拖慢任務C

4.同時，對響應時間、能耗、成本都有硬約束

這種復雜性，不是靠部署幾臺一體機就能解決的。這就像讓一個小區(qū)用柴油發(fā)電機供電，你可以開一盞燈，但你絕對無法點亮一座城市。超級智算集群，才是AI時代點亮城市的電力中樞。

☆誰掌握智算平臺，誰就掌握了“AI能力分發(fā)權”

與其說超級智算是大模型企業(yè)的“技術肌肉”，不如說是它們的平臺門票。

沒有它，你永遠只能是模型供應商，是工具廠。

有了它，你才能成為服務運營商、生態(tài)組織者、平臺規(guī)則制定者。

這就像AWS之于全球開發(fā)者，像英偉達之于AI開發(fā)者。未來的大模型領導者，不是“誰模型最好”，而是：誰能構建一個足夠強大、足夠開放、足夠可靠的AI能力基礎設施，承載整個智能社會的運轉需求。

一體機是戰(zhàn)術緩解，

超級智算才是中國AI的戰(zhàn)略突破口

在當前中國AI產(chǎn)業(yè)語境中，一體機之所以火爆，不僅是出于市場現(xiàn)實的考量，更與算力供給不足、芯片受限、政策要求等復雜因素有關。

它短期內(nèi)確實緩解了模型部署、數(shù)據(jù)出域、安全合規(guī)等實際問題，是一種權宜之計。

但必須承認：一體機解決的是“能不能用”的問題，超級智算解決的是“能不能贏”的問題。

☆一體機是一種戰(zhàn)術妥協(xié)

滿足本地化部署：符合金融、政務等行業(yè)對數(shù)據(jù)不出域的合規(guī)要求；

適配現(xiàn)有采購機制：企業(yè)客戶“習慣買設備”，供應商“習慣交付項目”；

短期內(nèi)快速回款：廠商可以通過硬件+服務打包，實現(xiàn)早期商業(yè)閉環(huán)；

但它無法解決以下問題：模型無法快速迭代更新；算力規(guī)模受限，難以支撐復雜多模態(tài)應用；推理成本高、資源利用率低、生態(tài)協(xié)同困難。

這種模式在商業(yè)化初期有效，但在AI能力成為產(chǎn)業(yè)基礎設施的那一刻，它注定會被更大規(guī)模、更高效率、更具服務化能力的智算平臺取代。

☆對中國AI來說，超級智算不是可選項，是國家戰(zhàn)略任務

全球AI競爭的本質，已經(jīng)不是“誰的模型更強”，而是“誰的算力底座更可控、更可擴、更可持續(xù)”。而這背后，考驗的是一個國家的：

芯片自研能力；

高性能網(wǎng)絡與互聯(lián)技術；

綠色算力布局（能耗優(yōu)化）；

彈性調(diào)度系統(tǒng)與模型服務體系；

算力主權；

從這個角度看，一體機是小打小鬧，而超級智算平臺，才是真正意義上的“AI時代的工業(yè)母機”。

我們不能滿足于“把AI跑起來”，我們必須追求“把AI持續(xù)跑下去，跑得更快、更遠、更穩(wěn)定”。

構建十萬卡GPU級智算集群，

需要跨越哪些關鍵挑戰(zhàn)？

當然，要構建萬卡甚至十萬卡GPU級別的智算集群，并不是一件容易的事情。

當我們談構建萬卡、十萬卡GPU級別的超級智算平臺時，它不只是一個“更大規(guī)模的服務器堆疊”問題，而是牽涉到整個計算架構、系統(tǒng)工程、調(diào)度算法、能源策略和生態(tài)組織的全面重構。

以下是六個必須解決的核心挑戰(zhàn)：

1.GPU芯片與供應鏈：稀缺、依賴、替代

當前高性能GPU（如NVIDIA A100/H100/H200、GH200）高度集中在英偉達手中，國內(nèi)無法自由采購，制約了大規(guī)模擴張能力；

自主替代芯片（如昇騰、昆侖、摩爾線程、地平線等）仍在成長中，與頂級GPU在生態(tài)、性能、功耗上尚有差距；

芯片只是底層，圍繞芯片構建穩(wěn)定的供應鏈、驅動棧、運維體系，更是極具挑戰(zhàn)的工程。

要解決這個問題，需要在芯片國產(chǎn)替代、異構算力兼容適配、統(tǒng)一編程框架抽象（如統(tǒng)一的AI runtime）等方向努力。

2.高速互聯(lián)：集群瓶頸的隱形殺手

在萬卡、十萬卡規(guī)模下，GPU間通信瓶頸成為訓練/推理性能的“決定性短板”；

當前主流方案（如InfiniBand、NVLink、PCIe）均高度依賴海外供應；

數(shù)據(jù)在GPU間的“多跳復制”會引發(fā)延遲放大、吞吐下降，嚴重影響分布式訓練和推理效率。

那如何解決這個問題呢？解決方向：國產(chǎn)高速互聯(lián)方案研發(fā)（例如曙光“星辰互聯(lián)”）、低延時拓撲設計、GPU調(diào)度與通信協(xié)同優(yōu)化。

3.系統(tǒng)調(diào)度與彈性資源管理

要做好系統(tǒng)調(diào)度和資源管理，需要具備一系列的能力：大模型訓練通常需要多節(jié)點同步、任務并行劃分精細化、容錯重調(diào)度機制；萬卡調(diào)度系統(tǒng)必須支持：作業(yè)感知的任務編排；多租戶模型調(diào)度；推理與訓練分層調(diào)度；任務搶占與冷啟動優(yōu)化。

當前國內(nèi)主流調(diào)度系統(tǒng)（如Slurm、Kubernetes、Yarn），很多未針對AI大規(guī)模分布式訓練/推理場景進行深度優(yōu)化。

未來，需要研發(fā)面向AI工作負載的“智算原生操作系統(tǒng)”，構建統(tǒng)一調(diào)度中樞（如OpenAI背后的Borg-like系統(tǒng)）。

4.軟件棧與模型兼容性：從芯片到API的統(tǒng)一生態(tài)

超級智算平臺不能只跑一套模型，它必須支持：多類型模型（語言、視覺、多模態(tài)、語音）；多種框架（PyTorch、TensorFlow、MindSpore）；多家廠商的異構芯片、模型、優(yōu)化器、微調(diào)方案。

沒有一套統(tǒng)一的“模型開發(fā)-部署-調(diào)度-監(jiān)控”閉環(huán)系統(tǒng)，智算平臺將成為孤島式系統(tǒng)拼圖。

因此，需要打造統(tǒng)一AI開發(fā)運行平臺（如國內(nèi)的昇思MindSpore），實現(xiàn)跨模型、跨芯片、跨框架的可移植性。

5.能效控制與綠色算力布局

10萬卡GPU的功耗接近一個中型城市電網(wǎng)級別，面臨：供電壓力（1臺GPU服務器功耗可達3–6千瓦）；散熱難題（大規(guī)模集群需定制液冷/氟冷系統(tǒng)）；運維挑戰(zhàn)（宕機影響大，難排查，熱失控嚴重）等問題，要解決這些問題，需要從智能功耗感知調(diào)度、節(jié)能AI芯片的導入（如定制推理芯片）等方面著手。

其中，液冷技術就成為破局的關鍵。具體內(nèi)容，可參見數(shù)據(jù)猿發(fā)布的文章《到了必須上“液冷”的時候了？》

6.服務化能力與商業(yè)運營閉環(huán)

除了技術上的挑戰(zhàn)，構建良性商業(yè)閉環(huán)，也是一個關鍵課題。超級集群不是“科研項目”，而是要轉化為“算力即服務（CaaS）”的商業(yè)基礎設施，必須具備對外租戶服務能力。同時，需要支持不同企業(yè)按需租用GPU，支持API調(diào)用推理服務，支持安全隔離、計費、運營、運維、監(jiān)控全流程等。

在這個方向上，需要構建平臺化運營體系，學習AWS/Azure的產(chǎn)品化能力，探索“模型即服務”+“算力即服務”的雙輪運營機制。

可以看到，構建智算集群，不是把GPU插滿機柜就行，而是打造一套支撐未來十年AI服務化浪潮的“智能操作系統(tǒng)級基礎設施”。

在這個AI快速演進的時代，我們談模型能力、應用落地、行業(yè)融合，幾乎每天都有“新突破”“新概念”。但很少有人意識到：真正決定AI格局的，不只是誰能做出一個SOTA模型，還是誰有能力支撐它持續(xù)演進、規(guī)模部署、彈性服務。

而這一切的起點，歸根結底，是超級算力。而且，超級算力不是“有多少塊GPU”，而是：你能不能把它們組織起來，讓它們像電網(wǎng)一樣高效運轉、像云平臺一樣彈性開放，像操作系統(tǒng)一樣支撐千行百業(yè)。

過去十年，云計算的崛起改變了企業(yè)的IT結構，造就了AWS、Azure、阿里云、騰訊云、華為云這樣的平臺型巨頭。

未來十年，AI智算的基礎設施能力，將決定下一個平臺秩序的主導者。

來源：數(shù)據(jù)猿