從腦網(wǎng)絡(luò)到人工智能，類腦計算的機遇與挑戰(zhàn)

腦網(wǎng)絡(luò) 人工智能大數(shù)據(jù) 類腦計算

余山 | 2016-04-19 11:16

【數(shù)據(jù)猿導讀】 AlphaGo與職業(yè)圍棋選手的對局引發(fā)了人們對于人工智能的高度關(guān)注。深度神經(jīng)網(wǎng)絡(luò)是類腦的計算形式，而蒙特卡洛方法則是發(fā)揮機器運算速度的優(yōu)勢，模擬出數(shù)量巨大的可能性用以進一步判斷，這現(xiàn)在看來不是大腦工作的機制

2016年3月，AlphaGo與職業(yè)圍棋選手的對局引發(fā)了人們對于人工智能的高度關(guān)注。計算機在一個公認的非常復雜的計算與智力任務(wù)中，打敗了人類的頂尖選手，靠的是類人腦的智能嗎?從系統(tǒng)的結(jié)構(gòu)看，AlphaGo結(jié)合了深度神經(jīng)網(wǎng)絡(luò)訓練與蒙特卡洛模擬[1]。廣義的說，深度神經(jīng)網(wǎng)絡(luò)是類腦的計算形式，而蒙特卡洛方法則是發(fā)揮機器運算速度的優(yōu)勢，模擬出數(shù)量巨大的可能性用以進一步判斷，這現(xiàn)在看來不是大腦工作的機制。所以AlphaGo 可以說是結(jié)合了類腦與非類腦的計算與智能，完美發(fā)揮其各自特長所取得的成功。除了AlphaGo 所運用的深度神經(jīng)網(wǎng)絡(luò)之外，現(xiàn)在研究的類腦計算和智能還有哪些方面?可能會在不久的將來帶來什么樣的突破呢?

什么是類腦計算?

一般地說，類腦計算是指借鑒大腦中進行信息處理的基本規(guī)律，在硬件實現(xiàn)與軟件算法等多個層面，對于現(xiàn)有的計算體系與系統(tǒng)做出本質(zhì)的變革，從而實現(xiàn)在計算能耗、計算能力與計算效率等諸多方面的大幅改進。過去幾十年來通訊與計算機技術(shù)的長足發(fā)展帶來了信息化革命，但現(xiàn)有計算系統(tǒng)仍然面臨2個嚴重的發(fā)展瓶頸：一是系統(tǒng)能耗過高，二是對于人腦能輕松勝任的認知任務(wù)(比如語言及復雜場景的理解等)處理能力不足，難以支撐高水平的智能。大腦在這兩個方面的明顯優(yōu)勢使得借鑒大腦成了一個非常有前景的方向。類腦計算是生命科學，特別是腦科學與信息技術(shù)的高度交叉和融合，其技術(shù)內(nèi)涵包括對于大腦信息處理原理的深入理解，在此基礎(chǔ)上開發(fā)新型的處理器、算法和系統(tǒng)集成架構(gòu)，并將其運用于新一代人工智能、大數(shù)據(jù)處理、人機交互等廣泛的領(lǐng)域。類腦計算技術(shù)有望使人工信息處理系統(tǒng)以非常低的能耗，產(chǎn)生出可以與人腦相比擬的智能。很多人認為，這一方向的實質(zhì)進展將可能真正開啟智能化革命的序幕，從而對社會生產(chǎn)生活帶來深刻地變革[2]。

腦信息處理基本規(guī)律的研究

類腦計算的研究大致可以分為神經(jīng)科學的研究、特別是大腦信息處理基本原理的研究，類腦計算器件(硬件)的研究和類腦學習與處理算法(軟件)的研究3個方面。在神經(jīng)科學領(lǐng)域，過去幾十年間，特別是過去10年左右的時間，取得了非?？焖俚陌l(fā)展?，F(xiàn)在對于大腦的工作原理已經(jīng)積累了豐富的知識，這為類腦計算的發(fā)展提供了重要的生物學基礎(chǔ)。人腦是一個由近千億的神經(jīng)元通過數(shù)百萬億的接觸位點(突觸)所構(gòu)成的復雜網(wǎng)絡(luò)。感覺、運動、認知等各種腦功能的實現(xiàn)，其物質(zhì)基礎(chǔ)都是信息在這一巨大的網(wǎng)絡(luò)當中的有序傳遞與處理。通過幾代神經(jīng)科學家的努力，目前對于單個神經(jīng)元的結(jié)構(gòu)與功能已經(jīng)有較多了解。但對于功能相對簡單的神經(jīng)元如何通過網(wǎng)絡(luò)組織起來，形成我們現(xiàn)在所知的最為高效的信息處理系統(tǒng)，還有很多問題尚待解決。腦網(wǎng)絡(luò)在微觀水平上表現(xiàn)為神經(jīng)突觸所構(gòu)成的連接，在介觀水平上表現(xiàn)為單個神經(jīng)元之間所構(gòu)成的連接，在宏觀水平上則表現(xiàn)為由腦區(qū)和亞區(qū)所構(gòu)成的連接。在不同尺度的腦網(wǎng)絡(luò)上所進行的信息處理既存在重要差別，又相互緊密聯(lián)系，是一個統(tǒng)一的整體。目前神經(jīng)科學的研究熱點就主要集中于在上述各層面解析腦網(wǎng)絡(luò)的結(jié)構(gòu)，觀察腦網(wǎng)絡(luò)的活動，最終闡明腦網(wǎng)絡(luò)的功能，即信息存儲、傳遞與處理的機制。要實現(xiàn)這一目標，需要突破的關(guān)鍵技術(shù)是對于腦網(wǎng)絡(luò)結(jié)構(gòu)的精確與快速測定，腦網(wǎng)絡(luò)活動的大規(guī)模檢測與調(diào)控，以及對于這些海量數(shù)據(jù)的高效分析，此外也亟需在實驗數(shù)據(jù)的約束下，建立適當?shù)哪Ｐ秃屠碚?，形成對腦信息處理的完整認識[3]。

類腦計算硬件的研究

類腦計算器件研究的初衷是在不影響性能的前提下，大大降低功耗，或者在相似功耗下，極大提高速度?，F(xiàn)代計算機雖然具有驚人的運算能力與運算速度，但與之相伴的是高昂的能量消耗。大型計算機的功耗往往在兆瓦量級以上，與之相比，成年人大腦的功耗只有大約20 W。巨大的能耗嚴重限制了系統(tǒng)進一步向微型化的方向發(fā)展(因為難以散熱)，也會使得復雜的嵌入式應(yīng)用和遠程應(yīng)用，比如宇航探索，缺乏足夠的計算能力支持(因為難以攜帶足夠的能源)。現(xiàn)代計算機能耗高的一個重要原因是計算機普遍采用的馮.諾依曼架構(gòu)。馮氏架構(gòu)中，信息處理單元與存儲單元是分離的，這樣在運算過程中，勢必要經(jīng)常將數(shù)據(jù)在處理單元與存儲單元之間進行傳遞，這一看似簡單的過程卻能貢獻系統(tǒng)近50%的功耗。與之相比，在生物腦中，信息的處理是在神經(jīng)網(wǎng)絡(luò)中實現(xiàn)，而數(shù)據(jù)本身則是分布式的存儲于網(wǎng)絡(luò)的各個節(jié)點(比如由神經(jīng)元內(nèi)的離子濃度表征)以及節(jié)點之間的連接(比如由突觸的強弱表征)上，運算和存儲在結(jié)構(gòu)上是高度一體化的。這樣，用少量甚至單個電子器件模仿單個神經(jīng)元的功能，而將數(shù)量巨大的電子“神經(jīng)元”以類腦的方式形成大規(guī)模并行處理的網(wǎng)絡(luò)，以進行計算，就成為了非常有吸引力的方向。目前研究的熱點包括尋找更適合的器件以模擬單個神經(jīng)元(比如憶阻器)，設(shè)計非馮氏體系為基礎(chǔ)的處理器等。近來IBM公司研發(fā)的TrueNorth芯片是這一領(lǐng)域的代表性進展，由于使用了非馮氏結(jié)構(gòu)體系和其他一系列措施，實現(xiàn)了對于功耗近2個數(shù)量級的降低(圖1)[4]。另外的重要進展還包括研發(fā)專用處理器，針對深度神經(jīng)網(wǎng)絡(luò)等類腦算法進行專門優(yōu)化，以提高速度、降低功耗[5]，由于這一領(lǐng)域的算法已在圖像、語音識別等方面有成熟的應(yīng)用，此類專用處理器有望能較早投入實際運用。

類腦學習與處理算法的研究

能夠大大降低能耗或是加快速度的類腦的處理器對于實現(xiàn)更高水平的智能無疑會有很大的幫助，但要真正實現(xiàn)類人水平的通用人工智能，除了需要這樣的硬件基礎(chǔ)外，關(guān)鍵還需要理解生物腦對于信息所做的計算，即類腦的處理及學習算法。對于此研究方向，一個常見的顧慮是：現(xiàn)在神經(jīng)科學對于大腦工作機制的了解還遠遠不夠，這樣是否能夠開展有效的類腦算法研究?對此，我們可以從現(xiàn)在獲得廣泛成功的深度神經(jīng)網(wǎng)絡(luò)獲得一些啟示。從神經(jīng)元的連接模式到訓練規(guī)則等很多方面看，深度神經(jīng)網(wǎng)絡(luò)距離真實的腦網(wǎng)絡(luò)還有相當距離，但它在本質(zhì)上借鑒了腦網(wǎng)絡(luò)的多層結(jié)構(gòu)(即“深度”一詞的來源)，而大腦中，特別是視覺通路的多層、分步處理結(jié)構(gòu)是神經(jīng)科學中早已獲得的基本知識。這說明，我們并不需要完全了解了腦的工作原理之后才能研究類腦的算法。相反，真正具有啟發(fā)意義的，很可能是相對基本的原則。這些原則，有的可能已經(jīng)為腦科學家所知曉，而有的可能還尚待發(fā)現(xiàn)，而每一項基本原則的闡明及其成功的運用于人工信息處理系統(tǒng)，都可能帶來類腦計算研究的或大或小的進步。非常重要的是，這一不斷發(fā)現(xiàn)、轉(zhuǎn)化的過程不僅能促進人工智能的進展，也會同步加深我們對于大腦為何能如此高效進行信息處理這一問題的理解[6]，從而形成一個腦科學和人工智能技術(shù)相互促進的良性循環(huán)。

如果這樣來看腦科學與類腦算法研究的關(guān)系，我們可能會發(fā)現(xiàn)很多可供借鑒的基本規(guī)律。下面簡單分析幾個例子。第一是我們可以向腦學習如何更好地實現(xiàn)算法設(shè)計的模塊化。模塊化設(shè)計早已被計算機科學所采用。在這樣的設(shè)計中，問題的解決分成幾個固定的部分(子問題)，每一個計算模塊(子程序)只負責處理其中的一個。這一設(shè)計的優(yōu)勢在于能使算法設(shè)計大大簡化，易于調(diào)試，易于修改，可以逐步完善并增加功能。更重要的是，因為表面上看起來不一樣的問題往往能分解成相似的子問題，這使得模塊可以重復利用，大大提高了效率并使得高度簡并的系統(tǒng)能夠勝任復雜多樣的任務(wù)[7]。模塊化設(shè)計的優(yōu)勢顯而易見，但面對一系列具體問題，應(yīng)該如何最有效率地劃分子問題，這本身是一個困難的任務(wù)。而這可能是我們能夠向大腦學習的重要知識之一。真實的大腦是模塊化設(shè)計的一個范例，每個腦區(qū)或亞區(qū)負責一個信息處理的環(huán)節(jié)或方面，而具體的模塊劃分是經(jīng)過漫長自然選擇加以優(yōu)化的結(jié)果，已經(jīng)適應(yīng)了高效處理真實世界的實際問題。深度神經(jīng)網(wǎng)絡(luò)借鑒的對于視覺信息的多層、分步處理結(jié)構(gòu)，某種意義上就是大腦模塊化設(shè)計的一個方面。另外近期的一項研究顯示，僅僅初步借鑒了非常粗略的腦功能模塊劃分(包括一系列視覺區(qū)域，一個記憶區(qū)域，一個決策區(qū)域以及一系列運動控制區(qū)域等)，就能使得一個相對簡單的系統(tǒng)勝任多種不同的任務(wù)(圖2)[8]。

而AlphaGo 存在一個圍棋盤面的估值網(wǎng)絡(luò)和一個獨立的走棋網(wǎng)絡(luò)(雖然我們還不知道這是否是有意的類腦的設(shè)計，但這在原理上可能是類腦的劃分)，也說明了合適的模塊化設(shè)計可能是其成功的一個重要因素。這些結(jié)果令人鼓舞，但我們對于大腦模塊化設(shè)計的借鑒也許才剛剛開始。現(xiàn)在神經(jīng)科學的研究正在為我們給出非常詳盡的，包含數(shù)百個亞區(qū)的有關(guān)人腦的模塊化分區(qū)圖譜，包括每一個模塊和其他模塊之間的信息傳遞通路(圖3)[9]。可以預見，這將對類腦信息處理算法的設(shè)計提供關(guān)鍵的啟示。比如對于語言區(qū)的精細亞區(qū)劃分及其功能的闡明，就可能對于語言處理算法的模塊化設(shè)計提供有益的借鑒。有關(guān)類腦算法設(shè)計的第二個例子是我們可以向大腦學習如何調(diào)節(jié)網(wǎng)絡(luò)的狀態(tài)，從而靈活調(diào)控信息處理過程，使得系統(tǒng)能夠適應(yīng)不同的功能需求。

腦中除了基本的興奮與抑制性的神經(jīng)遞質(zhì)外，還有眾多的神經(jīng)調(diào)質(zhì)，他們的作用在于根據(jù)當前的環(huán)境與行為目標隨時動態(tài)調(diào)節(jié)大范圍神經(jīng)網(wǎng)絡(luò)的行為，使得相對固定的網(wǎng)絡(luò)結(jié)構(gòu)能夠勝任復雜多變的情況，實現(xiàn)千差萬別的任務(wù)。近年來對于介觀及宏觀腦網(wǎng)絡(luò)動態(tài)活動規(guī)律的研究發(fā)現(xiàn)，腦網(wǎng)絡(luò)可能自發(fā)地組織于一個“臨界”狀態(tài)附近，這一狀態(tài)使得信息的存儲、傳遞和處理都能實現(xiàn)最優(yōu)化[10]。重要的是，通過對這一狀態(tài)的微調(diào)，可以迅速調(diào)節(jié)網(wǎng)絡(luò)功能，從而適應(yīng)不同任務(wù)的要求。對于神經(jīng)調(diào)質(zhì)以及網(wǎng)絡(luò)狀態(tài)調(diào)控等原理的借鑒，有望對設(shè)計更加靈活，更有適應(yīng)能力的人工信息處理系統(tǒng)提供有益啟示。我們有可能從大腦的工作原理受到重要啟發(fā)的第3個例子是如何實現(xiàn)小樣本的學習和有效推廣。目前取得巨大成功的深度學習依賴于龐大的樣本數(shù)量，這與大腦卓越的“舉一反三”，即小樣本學習的能力形成鮮明對比[11]。原理上看，這意味著生物腦的學習過程并非從零開始，而是從學習之初，就擁有并運用了重要的先驗知識，這包含了物種在進化過程中學到的(生物學稱之為系統(tǒng)發(fā)生)，以及個體在生活過程中學到的有關(guān)真實世界的關(guān)鍵知識[12]。讀取這些知識，以及借鑒如何將這些知識作為先驗信息注入神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)從而實現(xiàn)小樣本學習，可能會是神經(jīng)科學以及類腦算法設(shè)計中一個富于成果的領(lǐng)域。

除了上面舉出的幾個例子，神經(jīng)科學可能會對類腦算法設(shè)計提供重要啟示的領(lǐng)域還包括對于突觸可塑性的進一步認識，具體的各項腦功能在神經(jīng)環(huán)路水平的機制等。幾乎可以說，每一項腦科學的原理性發(fā)現(xiàn)，都可能蘊含著一顆種子，有潛力在人工智能的領(lǐng)域成長為像深度神經(jīng)網(wǎng)絡(luò)一樣的參天大樹。

總結(jié)而言，類腦計算是融合了腦科學與計算機科學、信息科學和人工智能等領(lǐng)域的交叉學科，我們有理由期待這一領(lǐng)域的研究將在不久的將來帶來更多的令人矚目的成就，推動智能技術(shù)向通用的人類水平的智能，即強人工智能的目標逐漸逼近。

來源：科技導報

收藏分享

聲明：數(shù)據(jù)猿尊重媒體行業(yè)規(guī)范，相關(guān)內(nèi)容都會注明來源與作者；轉(zhuǎn)載我們原創(chuàng)內(nèi)容時，也請務(wù)必注明“來源：數(shù)據(jù)猿”與作者名稱，否則將會受到數(shù)據(jù)猿追責。