大數據十問：人人都在說的大數據，到底怎么用？

大數據老石數據猿

老石 | 2022-12-15 16:16

【數據猿導讀】說起大數據，很多朋友都聽說過。但大數據具體是什么東西，它對我們究竟有哪些意義，可能很多人并不是特別知道。帶著這些問題，我和戴金權老師進行了深入溝通。他是英特爾的院士、大數據技術全球CTO，也是大數據領域的國際知名專家。通過這次對談，讓我對大數據的發(fā)展和落地有了新的認識...

我把我們的對話進行了整理和采編，以饗讀者，希望大家也能從中獲益。

大數據究竟是什么？

顧名思義，大數據的關鍵核心，就是大量的數據。但同樣重要的是產生大量數據以后，對數據的存儲、分析處理、計算建模、人工智能等等一系列應用，都可以算在大數據的范疇里。

大數據的“大”，首先指數據量比較大，最簡單也最有挑戰(zhàn)的問題是：當我有這么大的數據，怎樣進行存儲？除了數據量大，對數據處理和計算的要求其實也是非常大的。這些都代表了大數據的大。

大數據_老石_數據猿-1

人工智能與大數據：先有雞還是先有蛋？

人工智能本身不是一個新概念。最近一次人工智能從某種意義上的復興，可能就是在2010年前后開始，以深度學習為代表的一系列的算法，能夠在很多原來做不到的應用上帶來非常好的效果。其中一個很大的促進作用，就是今天有了大量的數據，在大量數據的基礎上去學習非常大的深度學習的模型，可以提高模型的準確率，從而使得模型從原來的可能不能用，到今天可以被用了，它的準確率達到一定的程度，這樣就推動了人工智能的發(fā)展。

AI與大數據：落地更重要？

（老石：之前人工智能更關注性能，但最近人們更關注它的落地。對于大數據，是否也存在類似的思維方式的轉變？）

如何把人工智能技術從實驗室應用到真實生產生活環(huán)境中，意味著兩點：

第一，它需要能夠和整個端到端的數據流很好的結合在一起，這樣才能真正對現實的生產生活產生影響；

第二，性能并不是孤立的，而要考慮整個端到端的性能，因為很多時候你的瓶頸在你的端到端數據流里面的不同的地方，怎樣把整個端到端的性能進行優(yōu)化，這是很關鍵的。

大數據_老石_數據猿-2

舉個例子，我們和韓國SK電訊有個合作，他們要對通訊網絡進行分析，了解網絡質量如何，并用人工智能的模型來進行判斷。他們可能在一個很大的城市里有幾十萬個基站，基站設備每秒鐘會產生非常多的網絡數據。這些數據在產生之后，要從分散在城市中的各個基站進入到數據中心的大數據平臺里，然后進行數據整理、分析、特征處理，然后去建模、訓練，再根據模型去進行推理，推理之后根據出來的結果，可能會得出某個地方的網絡質量有問題等等。

在這里，“端到端”是從開始到結束，而且它是動態(tài)的、每秒都會產生，并不是產生一次就結束了。

英特爾BigDL的作用及開發(fā)難點？

（老石：您在行業(yè)的代表性工作，就是關于大數據的平臺BigDL。能否請您簡單介紹一下BigDL到底是什么？）

用一句話來說，BigDL是英特爾開源的一個“端到端”的大數據到AI的平臺、或者流水線。如我剛才所說，人工智能真正成功的重點，是怎樣把實驗室的算法、模型真正應用到生產環(huán)境中。這就需要一個“端到端”的軟硬件平臺，能夠讓用戶很方便地做這件事情，這是做BigDL的目的。

大數據_老石_數據猿-3

開發(fā)這樣一個“端到端”大數據AI平臺，當然也遇到了一些重要的挑戰(zhàn)。

第一，需要把AI和現有的大數據生態(tài)系統(tǒng)進行無縫連接。傳統(tǒng)上，用戶很多時候要從大數據平臺里進行數據拷貝，然后移到另外一個深度學習的集群上，但這樣其實非常不高效。因此需要AI和大數據平臺的無縫連接。

第二，如何從單機的環(huán)境轉到分布式的計算環(huán)境。大規(guī)模的分布式計算是支撐AI或大數據的關鍵，但這對于一般的數據科學家是一個非常大的挑戰(zhàn)。

通常來說，數據科學家寫完代碼，要把代碼扔過一堵無形的“墻”，墻那邊可能有個產品團隊或工程團隊，根據實際場景進行代碼重寫。

而我們希望做到代碼不用重寫，原來能在筆記本上運行的代碼，只需改一兩行代碼就能無縫地在大規(guī)模分布式的環(huán)境中進行運行，而實現這種方式有著極大的挑戰(zhàn)。

什么是開發(fā)與部署中間的“墻”？

大多數情況下，數據科學家或者AI研究人員所使用的編程的模式和硬件環(huán)境，與大規(guī)模部署的現實環(huán)境是并不一致的。作為數據科學家或AI研究者，我喜歡在自己的電腦上面把數據拷過來，然后在上面跑，并且在單機上把它的性能跑到最好、模型調得最好，這些是我關心的問題。

但在生產環(huán)境中，數據來源非常多，可能有不同的數據系統(tǒng)接入進來，形成大數據流水線。然而，模型怎樣應用到大數據流水線上，并不是研究人員關心的問題。比如我有一個大規(guī)模的至強集群，我的數據、數據處理都在其中，此時怎樣把AI接入到這上面，很多時候研究人員是不關心的。這就導致了原型開發(fā)和最終生產部署環(huán)節(jié)的脫節(jié)，因此對開發(fā)人員非常不友好、非常不高效。

大數據_老石_數據猿-4

大多數情況下，我們在公司里會有一些數據科學家或AI研究人員是專注于研究先進的算法；還有團隊負責生產系統(tǒng)。這個生產系統(tǒng)包括軟硬件，很大程度上還是軟件應用、大數據系統(tǒng)或APP，整個應用要非常高效、非常穩(wěn)定、非常可擴展，大規(guī)模地部署。

研發(fā)和部署很多時候一開始注的點并不一樣，有很多厲害的AI研究人員，他們做了非常多的AI模型。但在下一步把模型運行在生產系統(tǒng)或生產數據上看效果的時候，突然發(fā)現并沒有辦法很好的去對接生產系統(tǒng)，于是這時候他就開始關心這件事情了。所以，這個問題對兩邊都存在。目前，還沒有一個特別好的軟件平臺，能夠把這兩邊整個的需求統(tǒng)一在端到端的流水線上。

芯片公司，為何要做開源平臺？

英特爾在開源的社區(qū)和開源的研發(fā)方面都有長久的投入，從操作系統(tǒng)Linux，再到虛擬化，再到大數據、AI，其實英特爾在開源方面做了非常大的工作。

開源的目的是，一個健康活躍的開源生態(tài)系統(tǒng)，對整個的技術發(fā)展有非常大的推動。BigDL的目的也是這樣，我們希望能夠幫大數據和AI 的生態(tài)系統(tǒng)做一個橋梁，幫助用戶更好地將大數據和AI的技術運用在軟硬件平臺上。

今天來說，構建這樣一個基礎軟件生態(tài)系統(tǒng)，最好的方式是通過開源，大家在里面可以有非常多創(chuàng)新和溝通交流。從BigDL的角度來說，我們作為一個開源的項目，也是希望能夠把大數據生態(tài)系統(tǒng)和深度學習的生態(tài)系統(tǒng)做一個連接。

大數據、AI與超異構

（老石：異構計算目前非?；馃?，您覺得底層計算平臺應該具備哪些特點、并且如何支撐大數據的處理呢？）

這個問題我覺得可以從兩方面來回答。

第一，BigDL希望做的是把大數據生態(tài)系統(tǒng)和AI人工智能生態(tài)進行結合。我們針對分布式的至強CPU服務器集群來進行大數據AI平臺的構建，并在硬件上其實有非常多的優(yōu)化。雖然英特爾的至強CPU是一個通用處理器，但是里面其實有非常多的硬件指令是針對AI優(yōu)化的，比如在低精度INT8上的VNNI或者DL Boost，在下一代至強可擴展處理器中的AMX的矩陣加速硬件。當它成為通用CPU計算的一部分之后，用戶可以利用軟件進行加速，從某種意義上獲得免費的加速能力。從一些實踐中可以看到，這種軟硬件的結合，可以幫助用戶免費得到十倍甚至更高的性能提升。

大數據_老石_數據猿-5

另外一方面，我們看到一個很重要的趨勢——異構，事實上我們認為這是一個“超異構”的趨勢，因為有著非常多的芯片類型，從FPGA到GPU再到ASIC加速器到IPU等等。所以怎樣通過一個非常好的軟件的抽象（比如英特爾的oneAPI就開放了標準的軟件抽象），能夠將不同XPU硬件加速和計算集成在統(tǒng)一的界面下，也讓上層軟件開發(fā)更高效。這兩方面的工作我們都在進行中。

BigDL的演進

BigDL的開源是在2016年12月30日，在過去五六年的時間里，我們和社區(qū)里的很多用戶、合作伙伴做了非常多的合作。比如大規(guī)模的推薦系統(tǒng)，大規(guī)模的時序分析的應用，當然也有很多計算機視覺、自然語言處理等等方面的應用。

舉一個和萬事達卡的合作案例，他們有差不多20億的用戶和交易數據，在大數據平臺上可能有幾千億的交易的記錄。當他們使用非常大規(guī)模的CPU至強集群構建大數據平臺之后，他們希望能夠在這些數據上構建AI應用，并對他們的交易數據進行挖掘，產生各種各樣的模型等等。

利用BigDL，萬事達卡的工程師得以在其大規(guī)模的企業(yè)數據倉庫上構建了非常多“端到端”的AI應用，從數據倉庫端對數據進行分析、抓取、特征處理、建模、訓練，最大的應用在幾百臺至強服務器上進行大規(guī)模分布式的訓練，差不多在5小時內訓練出一個大規(guī)模的AI模型，并提高他們各種AI的能力。

大數據_老石_數據猿-6

那么英特爾BigDL是否只能運行在英特爾平臺上呢，答案是否定的。嚴格來說，BigDL并不是只運行在英特爾平臺上，而是運行在大數據的生態(tài)系統(tǒng)上。但大數據生態(tài)系統(tǒng)基本上都是運行在X86的平臺上。當然BigDL會為英特爾的至強服務器等做更多的優(yōu)化，來提高它的執(zhí)行效率。

大數據的發(fā)展愿景

從計算加速角度來說，面對硬件加速器，我們或許低估了軟件優(yōu)化的能力。很多軟件優(yōu)化的技術，包括像低精度、多核多線程計算、量化方式等等，能夠很好地對AI整個計算效率帶來非常大的提升。

其實我們今天也做了很多工作，我們甚至愿意把他們稱之為軟件的AI加速器，這個“免費加速器”如何與BigDL這種大規(guī)模分布式的環(huán)境相結合，不只是很好地做scale out水平擴展，還可以很好地提升每個節(jié)點的計算效率，這是我們正在進行中的大部分的工作。這件事情是非常重要的，一個生態(tài)系統(tǒng)，必須要將各種技術能夠有機統(tǒng)一在一起，然后最終的目標是給用戶帶來最大的價值。

我們有一個愿景叫AI Everywhere ，就是AI無所不在。在將來的很多生活應用中，都會使用大數據和AI來進行分析，從而提升體驗和生產效率。

大數據_老石_數據猿-7

從數據的角度來說，深度學習較大的局限在于進行大量的監(jiān)督學習。很多人說：人工智能，有多少人工就有多少智能 —— 因為要對大量數據進行標簽、清洗。逐漸的大家意識到這個問題，于是大量向自監(jiān)督學習、弱監(jiān)督學習、或者說語言學習這樣的方式進行轉移，并研究這些新的學習范式，怎樣提高數據的效率、減少人工干預。

在算法本身，一方面大模型是明顯的趨勢，超大參數的模型能夠得到更好的效果；但是另一方面，這也會給計算帶來非常大的挑戰(zhàn)。當模型變大以后，計算的整個效率其實是降低了。我覺得非常重要的點是如何利用遷移學習、或者利用新的學習范式，來把這種非超大規(guī)模的模型更好地利用到下游的任務上去，從而減少計算量并提高效率。

除了剛才提到的計算、數據和算法之外，還有一個很多人會忽視的關鍵地方，那就是開發(fā)效率。不只是計算效率或數據效率，而是作為一個數據科學家、機器學習工程師或大數據工程師，他們的效率也是非常重要的，因為很多時候到最后人比機器更貴。

怎樣提高開發(fā)人員的開發(fā)效率，不管是今天所謂的低代碼、無代碼的開發(fā)方式，都值得探索。我可能更感興趣的是，作為一個寫代碼的人，怎樣能夠有非常好的開發(fā)環(huán)境。我們在BigDL做的工作可以說是初步的嘗試，怎樣更好地讓今天的數據科學家和工程師在大規(guī)模的、非常復雜的算法、非常復雜的數據的這樣一個環(huán)境中非常高效地進行開發(fā)，這也是非常重要的對人工智能大數據推動的一個方向。

大數據技能是否會成為未來程序員的標配？

我覺得大數據處理今天已經是程序員的標配了，基本上大多數開發(fā)者、特別是在云端進行應用開發(fā)的人，都會接觸到怎樣對數據進行處理。只是怎樣把整個技術平臺和軟件平臺做得更加易用，這是一個難點。

另外一個難點就是說今天的數據計算、人工智能、機器學習的算法，很多會成為標準化或者大家都需要使用的工具，但是新的技術的發(fā)展還是剛需。雖然人工智能、大數據很有用，但是還有很多缺陷，怎樣在新的技術方向上進行突破，仍然是非常重要的一點。

彩蛋：英特爾院士對大數據學習的建議

大數據、人工智能是一個非常復雜的系統(tǒng)，其實有很多不同的技術方向。給大家的建議來說有三條。

第一，Linux創(chuàng)始人林納斯的一句話，“Talk is cheap，show me the code。”很多時候當你看到一個感興趣的方向，第一步應該考慮怎樣能夠真正扎實地做點東西出來。哪怕去復現一個算法，在上面進行一些改動，進行一些改進，做一些新的東西，這些都可以。作為第一步，就是真的能夠扎實的把這個東西做出來。

大數據_老石_數據猿-8