據(jù)說：動(dòng)不起來的大數(shù)據(jù)都是發(fā)酵中的垃圾

信息大數(shù)據(jù) 發(fā)酵垃圾

賈凱強(qiáng) | 2017-10-23 18:14

【數(shù)據(jù)猿導(dǎo)讀】大數(shù)據(jù)的概念炒作一向厲害，很多公司有著海量的數(shù)據(jù)流，有著大把的客戶和資金，技術(shù)也足以進(jìn)行處理大數(shù)據(jù)，但是大數(shù)據(jù)之所以能夠成功炒作上位，是因?yàn)槠淠軇?dòng)性，一切動(dòng)不起來的大數(shù)據(jù)都是發(fā)酵中的垃圾。

據(jù)說：動(dòng)不起來的大數(shù)據(jù)都是發(fā)酵中的垃圾

1、動(dòng)態(tài)數(shù)據(jù)采集以求真

大數(shù)據(jù)的概念炒作一向厲害，很多公司有著海量的數(shù)據(jù)流，有著大把的客戶和資金，技術(shù)也足以進(jìn)行處理大數(shù)據(jù)，但是大數(shù)據(jù)之所以能夠成功炒作上位，是因?yàn)槠淠軇?dòng)性，一切動(dòng)不起來的大數(shù)據(jù)都是發(fā)酵中的垃圾。

動(dòng)態(tài)數(shù)據(jù)采集以求真

大數(shù)據(jù)在數(shù)據(jù)采集的環(huán)節(jié)常常忽略實(shí)際的數(shù)據(jù)采集環(huán)境問題。盡管在互聯(lián)網(wǎng)環(huán)境中，采集環(huán)境很少受到大幅的波動(dòng)影響，但是一旦涉及行業(yè)特征則很難保障。

大數(shù)據(jù)在行業(yè)中應(yīng)用時(shí)會(huì)受到協(xié)同性、跨尺度、多因素、因果性和機(jī)理性等影響，這就使得數(shù)據(jù)采集時(shí)必須入鄉(xiāng)隨俗，貼切真實(shí)的應(yīng)用場(chǎng)景。而不是簡(jiǎn)單的從接觸到數(shù)據(jù)采集點(diǎn)時(shí)的單一數(shù)據(jù)，這種數(shù)據(jù)對(duì)于全面分析事件形成原因存在著一定的誤差導(dǎo)向因素。

解決這一問題的辦法在于行業(yè)應(yīng)用中，針對(duì)某一業(yè)務(wù)目標(biāo)可以動(dòng)用整個(gè)企業(yè)甚至行業(yè)鏈中的相關(guān)資源協(xié)同助陣，將不同時(shí)間尺度的信息集成采集，參考多種可能造成數(shù)據(jù)改變的因素和產(chǎn)生原因，進(jìn)行多層次的數(shù)據(jù)采集并且實(shí)現(xiàn)數(shù)據(jù)來源的真實(shí)性和豐富性。

數(shù)據(jù)采集需要全面

同時(shí)，數(shù)據(jù)的采集不應(yīng)當(dāng)是階段性的，而應(yīng)該讓采集的數(shù)據(jù)保持動(dòng)態(tài)。一直以來大數(shù)據(jù)的分析過程都是一個(gè)冗長的過程，數(shù)據(jù)采集、管理、處理、存儲(chǔ)、分析到應(yīng)用的整個(gè)流程不僅漫長，而且很難做到實(shí)時(shí)處理，這樣的一個(gè)結(jié)果就是數(shù)據(jù)庫中的數(shù)據(jù)很容易被迫過氣，導(dǎo)致分析偏差。

2、動(dòng)態(tài)數(shù)據(jù)管理以求新

動(dòng)態(tài)數(shù)據(jù)管理以新

數(shù)據(jù)的動(dòng)態(tài)管理是很多企業(yè)為難的地方，因?yàn)椴杉降臄?shù)據(jù)集量非常大，而且其中絕大多數(shù)都是無意義數(shù)據(jù)，可是數(shù)據(jù)的拆分和篩選卻需要消耗大量資源才能完成。

數(shù)據(jù)管理不容易

數(shù)據(jù)的管理涵蓋了數(shù)據(jù)存儲(chǔ)和數(shù)據(jù)提取等多個(gè)步驟，而如何能夠高效的管理數(shù)據(jù)成為影響大數(shù)據(jù)處理進(jìn)度的重要一環(huán)。數(shù)據(jù)采集過后，利用關(guān)系、鍵值、文檔、圖片、多媒體等屬性不同進(jìn)行打標(biāo)簽和歸類，預(yù)處理后形成數(shù)據(jù)集在數(shù)據(jù)庫中進(jìn)行分類存儲(chǔ)。

大數(shù)據(jù)采集之后的存儲(chǔ)也不盡相同，有的數(shù)據(jù)只需要進(jìn)行短存儲(chǔ)就需要提取并進(jìn)行處理，而多數(shù)數(shù)據(jù)則需要長期存儲(chǔ)，因此分類還需要根據(jù)用途進(jìn)行不同方式的區(qū)分。暫時(shí)性存儲(chǔ)的數(shù)據(jù)需要快速整理，而長久存儲(chǔ)的數(shù)據(jù)需要降低成本和保證調(diào)用時(shí)的快捷性。

不過，一部分?jǐn)?shù)據(jù)庫會(huì)囿于過去的數(shù)據(jù)影響，采集到的數(shù)據(jù)分析結(jié)果始終存在過去的數(shù)據(jù)在過去環(huán)境下的加持，從而會(huì)使得數(shù)據(jù)分析的最終結(jié)果出現(xiàn)偏差等問題。因此，在數(shù)據(jù)存儲(chǔ)時(shí)應(yīng)當(dāng)提供區(qū)域性和完整性多層數(shù)據(jù)。

動(dòng)態(tài)的數(shù)據(jù)管理不僅僅是在數(shù)據(jù)庫層面之中形成動(dòng)態(tài)趨勢(shì)，而是在整體的數(shù)據(jù)管理中，利用自動(dòng)化和區(qū)塊化的技術(shù)將必要數(shù)據(jù)進(jìn)行細(xì)分和篩選，讓數(shù)據(jù)保持新鮮度，去除舊數(shù)據(jù)的影響。

3、動(dòng)態(tài)數(shù)據(jù)分析以求穩(wěn)

動(dòng)態(tài)數(shù)據(jù)分析以求穩(wěn)

在采集和分析部分實(shí)現(xiàn)動(dòng)態(tài)后，數(shù)據(jù)分析才是真正的核心存在。毫無疑問，數(shù)據(jù)分析的核心是算法和數(shù)據(jù)，而在數(shù)據(jù)發(fā)分析時(shí)普遍可以先分為數(shù)據(jù)處理和分析兩個(gè)環(huán)節(jié)。

數(shù)據(jù)分析的算法是十分挑剔的，其對(duì)于不同的數(shù)據(jù)要求不同，一般來講，結(jié)構(gòu)化數(shù)據(jù)和非結(jié)構(gòu)化數(shù)據(jù)就是典型的不同種類的數(shù)據(jù)，其處理方式相差甚遠(yuǎn)，因此需要先進(jìn)行數(shù)據(jù)處理，將不同種類的數(shù)據(jù)根據(jù)分析目的進(jìn)行異構(gòu)解析或者壓縮，然后進(jìn)行分析得出指導(dǎo)性理論。

在分析方面，算法對(duì)分析結(jié)果的影響是十分明顯的。從數(shù)據(jù)中根據(jù)分析目的選取不同算法，獲得分析結(jié)果。但是問題在于，這種以目的驅(qū)動(dòng)的數(shù)據(jù)分析篩選過程所去除的數(shù)據(jù)難以確定是否真正的無關(guān)，這就導(dǎo)致最終分析出的結(jié)果很可能是出現(xiàn)偏差的。

此類問題的解決普遍采用的是利用算法進(jìn)行分析和精簡(jiǎn)的，單一算法的偏差難以避免，片面數(shù)據(jù)的解析同理。而如果全面分析時(shí)，靜態(tài)數(shù)據(jù)難以保持新鮮度，全面分析計(jì)算量過大而且缺乏針對(duì)性。

數(shù)據(jù)分析面臨挑戰(zhàn)

如果采用動(dòng)態(tài)的實(shí)時(shí)處理手段則可以避免這些問題，數(shù)據(jù)及時(shí)的處理后得到結(jié)果作為一種“數(shù)據(jù)”進(jìn)行處理，在需要時(shí)進(jìn)行二次消化，比傳統(tǒng)方式要容易一些。而這種方式的問題在于目前的技術(shù)限制可能會(huì)讓實(shí)時(shí)處理結(jié)果依然面臨算法單一的挑戰(zhàn)。

4、動(dòng)態(tài)數(shù)據(jù)應(yīng)用以求實(shí)

動(dòng)態(tài)數(shù)據(jù)應(yīng)用以求實(shí)

分析結(jié)果的產(chǎn)出還需要最終用于解決企業(yè)決策才能夠形成價(jià)值。只不過數(shù)據(jù)分析結(jié)果的應(yīng)用也會(huì)面臨的靜態(tài)的問題。

一般來講，數(shù)據(jù)分析結(jié)果是支持企業(yè)經(jīng)營和運(yùn)行發(fā)展方向解決方案的，可是這就意味著前期的巨大投入能夠獲取的成果應(yīng)用范疇卻十分的狹窄，投入產(chǎn)出比過低導(dǎo)致大多數(shù)企業(yè)對(duì)大數(shù)據(jù)的應(yīng)用很難產(chǎn)生興趣。

數(shù)據(jù)可視化僅僅只是一部分

而想要讓大數(shù)據(jù)發(fā)揮更大的價(jià)值，數(shù)據(jù)可視化僅僅是其中的一部分。企業(yè)中應(yīng)當(dāng)把數(shù)據(jù)分析結(jié)果實(shí)現(xiàn)流動(dòng)，將適合的數(shù)據(jù)在不同部門不同崗位中進(jìn)行傳遞，最大化發(fā)揮數(shù)據(jù)價(jià)值，提升企業(yè)業(yè)務(wù)效率。

再者，動(dòng)態(tài)數(shù)據(jù)應(yīng)用應(yīng)該降低數(shù)據(jù)分析門檻，借助相關(guān)大數(shù)據(jù)分析工具，讓每個(gè)員工有數(shù)據(jù)可用，能數(shù)據(jù)分析，以數(shù)據(jù)指導(dǎo)員工發(fā)展，幫助員工接近真實(shí)數(shù)據(jù)，運(yùn)用數(shù)據(jù)指導(dǎo)，實(shí)現(xiàn)自身價(jià)值。

大數(shù)據(jù)自從提出以來一直在不斷的發(fā)展之中，而靜態(tài)的數(shù)據(jù)只能如一潭死水，價(jià)值極低，唯有讓各個(gè)環(huán)節(jié)動(dòng)起來，才能讓數(shù)據(jù)成為金子。

來源：36大數(shù)據(jù)

收藏分享

聲明：數(shù)據(jù)猿尊重媒體行業(yè)規(guī)范，相關(guān)內(nèi)容都會(huì)注明來源與作者；轉(zhuǎn)載我們?cè)瓌?chuàng)內(nèi)容時(shí)，也請(qǐng)務(wù)必注明“來源：數(shù)據(jù)猿”與作者名稱，否則將會(huì)受到數(shù)據(jù)猿追責(zé)。