如何實(shí)現(xiàn)數(shù)據(jù)統(tǒng)一？七大原則告訴你

數(shù)據(jù) 統(tǒng)一原則

車品覺(jué) | 2017-08-01 10:39

【數(shù)據(jù)猿導(dǎo)讀】數(shù)據(jù)統(tǒng)一可以說(shuō)是數(shù)據(jù)分析領(lǐng)域的一個(gè)長(zhǎng)期挑戰(zhàn)。雖然聯(lián)合式的方法獲得了一些青睞，但絕大部分的數(shù)據(jù)分析從業(yè)者希望在分析之前，所有數(shù)據(jù)都能在同一個(gè)地方呈現(xiàn)出來(lái)。這意味著，來(lái)自不同實(shí)體的數(shù)據(jù)必須統(tǒng)一起來(lái)，而問(wèn)題就出在這個(gè)地方。

如何實(shí)現(xiàn)數(shù)據(jù)統(tǒng)一？七大原則告訴你

數(shù)據(jù)統(tǒng)一可以說(shuō)是數(shù)據(jù)分析領(lǐng)域的一個(gè)長(zhǎng)期挑戰(zhàn)。雖然聯(lián)合式的方法獲得了一些青睞，但絕大部分的數(shù)據(jù)分析從業(yè)者希望在分析之前，所有數(shù)據(jù)都能在同一個(gè)地方呈現(xiàn)出來(lái)。這意味著，來(lái)自不同實(shí)體的數(shù)據(jù)必須統(tǒng)一起來(lái)，而問(wèn)題就出在這個(gè)地方。

“所有的可規(guī)?；到y(tǒng)，都必須自動(dòng)進(jìn)行絕大多數(shù)的操作。”

“‘模式為先’(schema-first)的產(chǎn)品永遠(yuǎn)無(wú)法規(guī)?；?。唯一的選擇是采用‘模式為后’(schema-last)的產(chǎn)品。”

“需要進(jìn)行具體的域操作時(shí)，只有協(xié)作性的系統(tǒng)才可實(shí)現(xiàn)規(guī)?；?rdquo;

“為了實(shí)現(xiàn)可規(guī)模化，任何的統(tǒng)一計(jì)算必須在多個(gè)核心和多個(gè)處理器上運(yùn)行。”

“盡管存在第四條原則，但真正的可擴(kuò)展應(yīng)用需要復(fù)雜性低于N ** 2的并行算法。”

“規(guī)則系統(tǒng)實(shí)現(xiàn)是無(wú)法規(guī)?；摹Ｖ挥袡C(jī)器學(xué)習(xí)系統(tǒng)才能將規(guī)模擴(kuò)展到大公司所需要的程度。”

“必須支持實(shí)時(shí)增量統(tǒng)一。”

在新白皮書(shū)《可規(guī)?；瘮?shù)據(jù)統(tǒng)一的七原則》中，著名計(jì)算機(jī)科學(xué)家、Tamr聯(lián)合創(chuàng)始人兼首席技術(shù)官邁克爾·斯通布雷克(Michael Stonebraker)以其獨(dú)特和直白的方式，探討了上述挑戰(zhàn)。

說(shuō)到斯通布雷克這個(gè)人，他同時(shí)也是圖靈獎(jiǎng)得主、麻省理工學(xué)院教授，以及大數(shù)據(jù)分析公司Vertica(這家公司已經(jīng)被惠普收購(gòu))的創(chuàng)始人。在那份白皮書(shū)的開(kāi)頭，他對(duì)數(shù)據(jù)統(tǒng)一進(jìn)行了一番闡述。他說(shuō)，數(shù)據(jù)統(tǒng)一由七步組成，包括獲取、清洗、轉(zhuǎn)換、模式集成、重復(fù)數(shù)據(jù)刪除、分類和導(dǎo)出(但不要把這七步和七條原則搞混了)。

一般來(lái)說(shuō)，企業(yè)主要使用兩種方法來(lái)實(shí)現(xiàn)數(shù)據(jù)統(tǒng)一，包括提取轉(zhuǎn)換加載(ETL)和主數(shù)據(jù)管理(MDM)。

斯通布雷克說(shuō)，這兩種方法各有利弊。

ETL非常靈活，適合不同的數(shù)據(jù)來(lái)源，使程序員可以手動(dòng)編寫(xiě)轉(zhuǎn)換程序，確保源數(shù)據(jù)的模式與集中式數(shù)據(jù)倉(cāng)庫(kù)項(xiàng)目采用的全局模式匹配。斯通布雷克說(shuō)，由于自動(dòng)化程度低，沒(méi)有多少公司的ETL帶寬能超過(guò)20個(gè)數(shù)據(jù)源。

至于MDM，它與ETL類似的地方在于，也預(yù)設(shè)了一個(gè)“主記錄”，每一個(gè)專門(mén)類別(比如客戶、部件和供應(yīng)商)的所有文件都應(yīng)該符合主記錄的格式。但和ETL不同，MDM不是使用手動(dòng)定制腳本，而是依靠一套“模糊合并”規(guī)則，把所有不同的文件轉(zhuǎn)換成主格式。

但斯通布雷克說(shuō)，不管是ETL還是MDM，都無(wú)法解決所有的數(shù)據(jù)統(tǒng)一難題，尤其是在數(shù)據(jù)量很大的情況下。針對(duì)這些限制，他提出了數(shù)據(jù)統(tǒng)一的七條原則。

由于當(dāng)今大數(shù)據(jù)集的龐大規(guī)模及其對(duì)程序員的苛刻要求，任何的可規(guī)?；瘮?shù)據(jù)統(tǒng)一項(xiàng)目都必須在很大程度上實(shí)現(xiàn)自動(dòng)化，不能依靠手動(dòng)編寫(xiě)的程序。這催生了斯通布雷克的第一條原則：

“所有的可規(guī)?；到y(tǒng)，都必須自動(dòng)進(jìn)行絕大多數(shù)的操作。”

當(dāng)今數(shù)據(jù)的多樣性也催生出一個(gè)問(wèn)題。比如，諾華制藥公司(Novartis)想把1萬(wàn)名從事“濕性實(shí)驗(yàn)”工作的科學(xué)家的實(shí)驗(yàn)記錄統(tǒng)一起來(lái)，但遇到了全局模式問(wèn)題。總之，靈活的“模式讀取”(Schema-On-Read)方法是解決數(shù)據(jù)多樣性問(wèn)題的唯一方法。這催生了斯通布雷克的第二條原則：

“‘模式為先’(schema-first)的產(chǎn)品永遠(yuǎn)無(wú)法規(guī)?；?。唯一的選擇是采用‘模式為后’(schema-last)的產(chǎn)品。”

雖然自動(dòng)化是數(shù)據(jù)統(tǒng)一的關(guān)鍵因素，但人類專家的地位是肯定取代不了的。就諾華的那個(gè)例子而言，只有科學(xué)家本人才能證實(shí)特定的一個(gè)數(shù)據(jù)(比如新化合物的名字)是否準(zhǔn)確，有沒(méi)有拼寫(xiě)錯(cuò)誤。這催生了第三條原則：

“需要進(jìn)行具體的域操作時(shí)，只有協(xié)作性的系統(tǒng)才可實(shí)現(xiàn)規(guī)模化。”

對(duì)大規(guī)模數(shù)據(jù)統(tǒng)一來(lái)說(shuō)，可擴(kuò)展性必不可少。當(dāng)數(shù)據(jù)集超過(guò)1000萬(wàn)個(gè)文件時(shí)，單個(gè)計(jì)算核心根本處理不了，更別說(shuō)單個(gè)芯片或者單個(gè)電腦。這催生了第四條原則：

“為了實(shí)現(xiàn)可規(guī)模化，任何的統(tǒng)一計(jì)算必須在多個(gè)核心和多個(gè)處理器上運(yùn)行。”

聚類算法是數(shù)據(jù)統(tǒng)一和數(shù)據(jù)清洗工具的核心。雖然這些算法是并行的，但如果太復(fù)雜的話，就會(huì)耗費(fèi)太多時(shí)間。這催生了第五條原則：

“盡管存在第四條原則，但真正的可擴(kuò)展應(yīng)用需要復(fù)雜性低于N ** 2的并行算法。”

很多MDM產(chǎn)品采用基于規(guī)則的方法來(lái)確定轉(zhuǎn)換。但考慮到當(dāng)今企業(yè)試圖統(tǒng)一的數(shù)據(jù)體量和多樣性，這些方法行不通。這催生了第六條原則：

“規(guī)則系統(tǒng)實(shí)現(xiàn)是無(wú)法規(guī)模化的。只有機(jī)器學(xué)習(xí)系統(tǒng)才能將規(guī)模擴(kuò)展到大公司所需要的程度。”

最后，數(shù)據(jù)統(tǒng)一系統(tǒng)必須適應(yīng)客戶的工作方式。從技術(shù)上來(lái)說(shuō)，雖然理論上可以靠“蠻力”更新每一條變化的記錄，但如果數(shù)據(jù)太多、變動(dòng)頻繁，就會(huì)造成混亂。這催生了第七條也是最后一條原則：

“必須支持實(shí)時(shí)增量統(tǒng)一。”

斯通布雷克說(shuō)，ETL方法不符合第一、第二和第三條原則，而MDM方法不符合第一、第二和第六條原則。在大數(shù)據(jù)領(lǐng)域非常流行的自助式數(shù)據(jù)準(zhǔn)備方法“至少”不符合第一和第三條原則。他還說(shuō)，目前所有產(chǎn)品(ETL、MDM和自助式數(shù)據(jù)準(zhǔn)備)可能都不符合第五和第七條原則。

來(lái)源：數(shù)據(jù)分析網(wǎng)

收藏分享

聲明：數(shù)據(jù)猿尊重媒體行業(yè)規(guī)范，相關(guān)內(nèi)容都會(huì)注明來(lái)源與作者；轉(zhuǎn)載我們?cè)瓌?chuàng)內(nèi)容時(shí)，也請(qǐng)務(wù)必注明“來(lái)源：數(shù)據(jù)猿”與作者名稱，否則將會(huì)受到數(shù)據(jù)猿追責(zé)。