深度學習火爆空前，看“四大神獸”如何助它成為資本焦點

深度學習四大神獸神經(jīng)網(wǎng)絡數(shù)據(jù)

線性資本 | 2016-08-25 11:46

【數(shù)據(jù)猿導讀】如今越來越多的人愿意和自己的虛擬私人助理交談，只需要動動嘴就可以讓Siri/Alexa/Rokid幫你完成發(fā)微信、訂車票、設鬧鐘這樣的閑事，還能提醒你吃藥、開會，這樣一個不需要付工資的貼心小棉襖怎么會不受喜愛呢？虛擬助理正在一步步接近現(xiàn)實中的私人助理，而背后支持它的正是深度學習的...

如今越來越多的人愿意和自己的虛擬私人助理交談，只需要動動嘴就可以讓Siri/Alexa/Rokid幫你完成發(fā)微信、訂車票、設鬧鐘這樣的閑事，還能提醒你吃藥、開會，這樣一個不需要付工資的貼心小棉襖怎么會不受喜愛呢？虛擬助理正在一步步接近現(xiàn)實中的私人助理，而背后支持它的正是深度學習的技術。

除了虛擬助理之外，深度學習技術還將是未來計算機視覺、自動駕駛、語音識別等多個領域的核心技術。而深度學習實踐的四個關鍵要素：計算能力、算法、數(shù)據(jù)和應用場景，就像四大護法神獸一樣保證了深度學習的應用和實踐，缺一不可。

深度學習是以不少于兩個隱含層的神經(jīng)網(wǎng)絡對輸入進行非線性變換或表示學習的技術，通過構建深層神經(jīng)網(wǎng)絡，進行各項分析活動。深層神經(jīng)網(wǎng)絡由一個輸入層，數(shù)個隱層，以及一個輸出層構成。每層有若干個神經(jīng)元，神經(jīng)元之間有連接權重。每個神經(jīng)元模擬生物的神經(jīng)細胞，而結點之間的連接模擬神經(jīng)細胞之間的連接?？偨Y起來是這個樣子的：

這種流向圖的一個特別屬性是深度(depth)：從一個輸入到一個輸出的最長路徑的長度。深度學習并非一個新的概念，但在2006年由Hinton等人引領了一波爆發(fā)。然而近年來雖然許多人都在談論深度學習，但這項技術在實際應用時到底有哪些坑？創(chuàng)辦一家成熟的依賴深度學習的公司需要哪些要素？以下是我們的看法：

計算能力

首先，深度神經(jīng)網(wǎng)絡復雜，訓練數(shù)據(jù)多，計算量大。深度神經(jīng)網(wǎng)絡中神經(jīng)元多，神經(jīng)元間連接數(shù)量也相當驚人。從數(shù)學的角度看，每個神經(jīng)元都要包含數(shù)學計算（如Sigmoid、ReLU或者Softmax函數(shù)），需要估計的參數(shù)量也極大。語音識別和圖像識別應用中，神經(jīng)元達數(shù)萬個，參數(shù)數(shù)千萬，模型復雜導致計算量大。所以計算能力是深度學習應用的基礎。

不僅如此，計算能力還是推動深度學習的利器，計算能力越強，同樣時間內(nèi)積累的經(jīng)驗就越多、迭代速度也越快，百度首席科學家吳恩達博士認為深度學習的前沿正轉移到高性能計算（HPC），這也是他目前在百度的工作重心之一，吳博士認為深度學習上的很多成功得益于主動地追求可用的計算能力，2011年Jeff Dean（谷歌第二代人工智能學習系統(tǒng)Tensorflow的設計者之一）創(chuàng)立并領導了谷歌深度學習小組，使用谷歌云擴展深度學習；這使得深度學習得以推向工業(yè)界。在2013年，科茨博士等人建立了第一個HPC式的深度學習系統(tǒng)，可擴展性提升了1-2個數(shù)量級，使深度學習有了革命性的進步——計算能力這種對于深度學習的支撐與推動作用是不可替代的。

目前這方面技術處于領先地位的還是像百度、谷歌這樣的大型互聯(lián)網(wǎng)公司，當然也有一些初創(chuàng)公司在該領域頗有成就，由百度深度學習研究院負責人余凱博士設計的深度神經(jīng)網(wǎng)絡芯片相比傳統(tǒng)的CPU芯片能夠支持深度神經(jīng)網(wǎng)絡中圖像、語音、文字、控制等方面的任務而不是去做所有事情，這樣比在CPU上用軟件要高效，會提高2-3個數(shù)量級。

算法

在計算能力變得日益廉價的今天，深度學習試圖建立大得多也復雜得多的神經(jīng)網(wǎng)絡，我們可以把算法理解為深度學習的神經(jīng)網(wǎng)絡或是計算思維，這種神經(jīng)網(wǎng)絡越復雜，捕捉到的信號就越精確，目前比較常見的算法包括深度信念網(wǎng)絡（Deep Belief Networks）、卷積神經(jīng)網(wǎng)絡（ConvolutionalNeural Networks）、受限玻爾茲曼機（Restricted BoltzmannMachine）和堆棧式自動編碼器（Stacked Auto-encoders），以深度卷積神經(jīng)網(wǎng)絡為代表的監(jiān)督學習方法目前來說是最有效也是使用最多的。

但目前問題在于大家把專注度放在了數(shù)據(jù)與運算，因為神經(jīng)網(wǎng)絡本身差異不會很大，并且神經(jīng)網(wǎng)絡的核心算法提升起來太困難，仍然面臨著像局部最優(yōu)問題、代價函數(shù)與整個神經(jīng)網(wǎng)絡系統(tǒng)的設計等問題，但這也給眾多創(chuàng)業(yè)公司以新的思路，何不反其道而行之，避開那載著千軍萬馬的“獨木橋”，如果能將算法優(yōu)化，前途也是不可限量的。

數(shù)據(jù)

如今深度學習正迅速成為高級數(shù)據(jù)分析領域的熱門話題，而數(shù)據(jù)的絕對量是促進深度學習工具和技術發(fā)展的一個關鍵因素。Affectiva的首席科學家和研究部總監(jiān)DanielMcDuff表示，新興公司積累了足夠的數(shù)據(jù)后，技術才能更好地發(fā)揮作用。對于那些深度學習的應用，不僅開發(fā)時需要大量的數(shù)據(jù)訓練、完善，在產(chǎn)品推廣之后更加需要實時用戶數(shù)據(jù)，不斷進行迭代、更新。

中國在深度學習的競爭中還是有很大機會，可獲取的互聯(lián)網(wǎng)數(shù)據(jù)，以及低成本的眾包勞動，將為中國公司帶來海量的數(shù)據(jù)和極低的數(shù)據(jù)標注的成本。但是國內(nèi)市場面臨的問題在于大量數(shù)據(jù)都被BAT等互聯(lián)網(wǎng)巨頭控制，初創(chuàng)公司很難拿到數(shù)據(jù)去完善、更新深度學習的神經(jīng)網(wǎng)絡，尤其是在產(chǎn)品推出之后，還有可能面臨大公司的惡意排擠，獲取數(shù)據(jù)更是難上加難，不說是夾縫中求生存也差不多了吧。

應用場景

深度學習技術目前應用的場景不多，最普遍也是最成功的領域就是語音識別和圖像處理這兩個應用場景了，之前提到的三大神獸——計算能力、算法和數(shù)據(jù)屬于開發(fā)端，應用場景則屬于消費端層面，隨著未來深度學習技術的不斷發(fā)展以及用戶的需求提升，深度學習的應用場景將越來越多，比如許多智能手機內(nèi)置的人臉識別功能來對照片進行分類，已經(jīng)可以達到相當?shù)臏蚀_率；支付寶等金融工具也很可能采用人臉識別以提高安全性……未來的深度學習一定不僅僅局限于語音識別和圖像識別這兩個領域，還有更多的可能性。對于那些初創(chuàng)公司來說，與其和谷歌、Facebook、Amazon、BAT等擁有十多年數(shù)據(jù)沉淀的大公司競爭這一成熟市場，還不如去發(fā)展屬于自己的某一片小天地。

如今深度學習的火爆程度不弱于任何其他的領域，互聯(lián)網(wǎng)巨頭們都在想方設法分這塊蛋糕，事實上想要做好深度學習計算能力、算法、數(shù)據(jù)、應用場景這四大護法神獸缺一不可，而BAT等巨頭在這些方面都占盡資源上的優(yōu)勢，對于初創(chuàng)公司來說很難四點兼顧，尤其是數(shù)據(jù)方面，所以利用自身的比較優(yōu)勢抓住其中一點進行創(chuàng)新，無論是計算能力、算法還是應用場景上，只要有創(chuàng)新之處，就能幫助你在市場中掌握主動權。

來源：線性資本

收藏分享

聲明：數(shù)據(jù)猿尊重媒體行業(yè)規(guī)范，相關內(nèi)容都會注明來源與作者；轉載我們原創(chuàng)內(nèi)容時，也請務必注明“來源：數(shù)據(jù)猿”與作者名稱，否則將會受到數(shù)據(jù)猿追責。