一點(diǎn)資訊田超：大數(shù)據(jù)能為資訊平臺(tái)帶來什么？

大數(shù)據(jù) 資訊平臺(tái) 數(shù)據(jù)架構(gòu) 一點(diǎn)資訊

田超 | 2016-11-07 10:25

【數(shù)據(jù)猿導(dǎo)讀】大數(shù)據(jù)技術(shù)是對(duì)于海量數(shù)據(jù)的處理能力及構(gòu)建在這樣處理能力之上的數(shù)據(jù)應(yīng)用。對(duì)于大數(shù)據(jù)到人工智能之間技術(shù)的不斷發(fā)展，在田超看來實(shí)際上是業(yè)界對(duì)數(shù)據(jù)的處理，以及利用能力不斷發(fā)展提升的自然過程

一點(diǎn)資訊田超：大數(shù)據(jù)能為資訊平臺(tái)帶來什么？

大數(shù)據(jù)技術(shù)是對(duì)于海量數(shù)據(jù)的處理能力及構(gòu)建在這樣處理能力之上的數(shù)據(jù)應(yīng)用。從Hadoop大規(guī)模普及開始，業(yè)界擁有了構(gòu)建大規(guī)模數(shù)據(jù)存儲(chǔ)和計(jì)算的能力，而隨著技術(shù)的不斷發(fā)展，上層應(yīng)用對(duì)于擁有實(shí)時(shí)處理海量數(shù)據(jù)能力的需求在不斷增強(qiáng)，這就衍生出了如Storm在內(nèi)的各種實(shí)時(shí)計(jì)算的框架和系統(tǒng)。而今天做的一些技術(shù)包括Spark、Google dataflow等則希望能夠更有機(jī)的將離線計(jì)算與在線計(jì)算進(jìn)行統(tǒng)一。

實(shí)時(shí)的數(shù)據(jù)處理能力對(duì)于一個(gè)現(xiàn)代互聯(lián)網(wǎng)公司來說是必要的組成部分。各個(gè)公司的在線機(jī)器學(xué)習(xí)、實(shí)時(shí)用戶畫像系統(tǒng)、實(shí)時(shí)數(shù)據(jù)倉庫、實(shí)時(shí)統(tǒng)計(jì)分析系統(tǒng)等業(yè)務(wù)都需要擁有實(shí)時(shí)的大規(guī)模反饋數(shù)據(jù)計(jì)算的能力，這些系統(tǒng)的實(shí)時(shí)計(jì)算部分有一定的共同點(diǎn)，也有一定的特殊部分。一點(diǎn)資訊的實(shí)時(shí)反饋平臺(tái)在設(shè)計(jì)之初對(duì)上述系統(tǒng)對(duì)實(shí)時(shí)計(jì)算部分的公用計(jì)算模型和數(shù)據(jù)結(jié)構(gòu)進(jìn)行了抽象，對(duì)系統(tǒng)設(shè)計(jì)的時(shí)候參考了Google的Mesa系統(tǒng)，從而設(shè)計(jì)成為一個(gè)可擴(kuò)展的平臺(tái)，能夠在一點(diǎn)咨詢內(nèi)部支撐著上述系統(tǒng)的實(shí)時(shí)計(jì)算部分任務(wù)。

許多的資訊平臺(tái)智能為讀者服務(wù)，但是一點(diǎn)資訊可以反向，為讀者服務(wù)的同時(shí)也可以為作者提供資訊。系統(tǒng)在根據(jù)用戶的行為來分析，以及挖掘用戶對(duì)興趣的需求和需求被滿足的情況。這些數(shù)據(jù)及對(duì)數(shù)據(jù)的深度挖掘?yàn)橐稽c(diǎn)資訊的內(nèi)容生態(tài)建設(shè)，提供了一個(gè)全局的上帝視角，使一點(diǎn)資訊可以從更高的角度來觀察群體上的表現(xiàn)及內(nèi)容趨勢(shì)。一點(diǎn)資訊還有一個(gè)叫一點(diǎn)insight的系統(tǒng)，目前屬于邀約測(cè)試中，該系統(tǒng)會(huì)把對(duì)于用戶興趣的知識(shí)映射到不同的領(lǐng)域上，以各種數(shù)據(jù)可視化的方式來展示這些知識(shí)。

搜索引擎強(qiáng)調(diào)的是用戶搜索，相當(dāng)于用戶帶領(lǐng)內(nèi)容;推薦是用戶完全處于被動(dòng)，也不做表達(dá)，先給予用戶共性的內(nèi)容，再根據(jù)其點(diǎn)擊行為，猜測(cè)用戶的喜好，然后再將內(nèi)容推薦給用戶。搜索引擎和推薦引擎是有著相似結(jié)構(gòu)的不同系統(tǒng)。把搜索技術(shù)和推薦技術(shù)有機(jī)的融合在一起，是一點(diǎn)資訊興趣引擎設(shè)計(jì)的核心目標(biāo)。興趣引擎中，對(duì)于用戶的搜索和推薦行為數(shù)據(jù)底層完全打通，充分的利用用戶主動(dòng)表達(dá)與被動(dòng)行為信號(hào)，基于人工智能技術(shù)不斷學(xué)習(xí)和挖掘用戶的興趣，并基于用戶興趣進(jìn)行內(nèi)容的分發(fā)。

對(duì)于大數(shù)據(jù)到人工智能之間技術(shù)的不斷發(fā)展，在田超看來實(shí)際上是業(yè)界對(duì)數(shù)據(jù)的處理，以及利用能力不斷發(fā)展提升的自然過程。最早的時(shí)候，業(yè)界大多數(shù)技術(shù)都是用來處理結(jié)果數(shù)據(jù)的，數(shù)據(jù)量在GB級(jí)別，存儲(chǔ)使用Database，對(duì)于數(shù)據(jù)獲取和存儲(chǔ)計(jì)算的能力處于初級(jí)階段;隨著Hadoop等一系列基礎(chǔ)架構(gòu)的不斷發(fā)展，大數(shù)據(jù)技術(shù)也不斷發(fā)展起來，技術(shù)人員不僅僅是處理業(yè)務(wù)結(jié)果數(shù)據(jù)，對(duì)描述用戶行為的日志也進(jìn)行了更深度的處理，輔助業(yè)務(wù)進(jìn)行計(jì)算，這個(gè)時(shí)代數(shù)據(jù)量已經(jīng)增長(zhǎng)到了PB級(jí)別，存儲(chǔ)使用各種分布式文件系統(tǒng)，這一階段各種離線計(jì)算、流式計(jì)算、圖計(jì)算模型也都隨著大數(shù)據(jù)應(yīng)用的發(fā)展而發(fā)展起來;而今天，在已經(jīng)擁有了更好的計(jì)算模型以及更加海量的數(shù)據(jù)之后，對(duì)于數(shù)據(jù)的利用也更加深化，人工智能及深度學(xué)習(xí)技術(shù)與大數(shù)據(jù)的結(jié)合也可以構(gòu)造更加智能的應(yīng)用。

田超，目前在一點(diǎn)資訊任職大數(shù)據(jù)中心技術(shù)總監(jiān)負(fù)責(zé)基礎(chǔ)架構(gòu)及大數(shù)據(jù)平臺(tái)相關(guān)工作。碩士畢業(yè)于中國科學(xué)院計(jì)算技術(shù)研究所，曾任職雅虎北京研發(fā)中心工程師、同步盤CTO、高德軟件高級(jí)技術(shù)經(jīng)理等職?，F(xiàn)任一點(diǎn)資訊大數(shù)據(jù)平臺(tái)技術(shù)總監(jiān)。

來源：51CTO

收藏分享

聲明：數(shù)據(jù)猿尊重媒體行業(yè)規(guī)范，相關(guān)內(nèi)容都會(huì)注明來源與作者；轉(zhuǎn)載我們?cè)瓌?chuàng)內(nèi)容時(shí)，也請(qǐng)務(wù)必注明“來源：數(shù)據(jù)猿”與作者名稱，否則將會(huì)受到數(shù)據(jù)猿追責(zé)。