CMU機器學習系負責人：人工智能與人類的未來是共生自主

CMU 機器學習人工智能

機器之心 | 2016-11-18 11:37

【數(shù)據(jù)猿導讀】在 2021 年之前，我們日常所用的軟件將會具有很大程度上的智能和能力，并將會在越來越多的任務中取代人類。難道我們就要就此落后了嗎

盡管有一些人預測會出現(xiàn)大規(guī)模的失業(yè)和人類與人工智能之間的全面戰(zhàn)爭，但其他人并不認為未來有那么糟糕?？▋然仿〈髮W機器學習系負責人 Manuela Veloso 教授設想了一個人類與人工智能密不可分的未來，它們將同心協(xié)力持續(xù)不斷地交換信息和目標，她將其稱之為「共生自主(symbiotic autonomy)」。在 Veloso 眼中的未來里，我們將難以將人類代理和自動化助理區(qū)分開——但不管是人還是軟件，如果沒有彼此，就不會有很大的用處。

Veloso 已經(jīng)在 CMU 的校園里面測試這個想法了。他們打造了可移動的、賽格威一樣的機器人 cobot。它們可以自動將客人從一棟建筑護送到另一棟建筑，而且當它們短缺時它們會請求人類的幫助。這是一種新的思考人工智能的方式，并且可能會在未來五年里帶來深遠的影響。

日前，The Verge 在匹茲堡對 Veloso 進行了一次專訪，談論了機器人、編程自發(fā)性(programming spontaneity)和人工智能給人類帶來的挑戰(zhàn)。下面是采訪內容：

自動化是過去五年里的一個大趨勢。我們也看到有更多的智能被構建到了我們已經(jīng)在使用的工具中，比如手機和計算機。你對未來五年的發(fā)展怎么看?

答：在未來，我相信會出現(xiàn)人類與人工智能系統(tǒng)的共存，并有希望會造福于人類。這些人工智能系統(tǒng)將涉及到處理數(shù)字世界的軟件系統(tǒng)，也將涉及到在物理空間中移動的系統(tǒng)，比如無人機、機器人和自動汽車，另外還會有處理物理空間的系統(tǒng)，比如物聯(lián)網(wǎng)。

你也將在物理世界中有更多的智能系統(tǒng)——不只是你的手機和電腦，而是我們周圍的各種物理存在，它們能處理和感知這個物理世界，并幫助我們進行涉及到大量物理世界的特征的決策。隨著時間的推移，我們還將看到這些人工智能系統(tǒng)還將會對更廣泛的社會問題產(chǎn)生影響：比如管理大城市的交通、做出關于氣候的復雜預測、在人類進行重大決策時提供支持。

目前，我們可以看到有一些系統(tǒng)并不好。當一個算法或機器人進行一項決策時，我們并不總是知道它們?yōu)槭裁匆@樣決策，這讓它們難以得到我們的信任。技術可以如何解決這個問題?

答：我正在研究的一件事是讓這些機器能夠解釋它們自己——對它們做出的決定負責和透明。我們做的很多研究是讓人類或用戶詢問該系統(tǒng)。當我的 Cobot 到我的辦公室稍微遲到時，我可以說：「你為什么遲到了?」或「你選擇了哪條路?」

所以我們正在研究這些人工智能系統(tǒng)在學習和提升時解釋自己的能力，以便提供不同詳細程度的解釋。我們想通過與這些機器人交互從而讓人類能夠更加信任這些機器人。你就可以問：「你為什么要那樣說?」或「你為什么推薦這個?」

提供那樣的解釋占到了我現(xiàn)在的研究的很大一部分，而且我相信能做到這一點的機器人能夠為我們提供對于這些人工智能系統(tǒng)的更好的理解和信任。最終，通過這些交互，人類也將能夠糾正這些人工智能系統(tǒng)。所以我們也在做嘗試整合這些糾正的研究，讓這些系統(tǒng)能夠從指令中進行學習。我相信這會是我們與人工智能系統(tǒng)共存中的很大一部分。

你認為為什么這些系統(tǒng)現(xiàn)在會提升這么快呢?在過去 50 年的人工智能研究中，你覺得是什么在拖我們的后腿?

答：你必須理解，對于一個人工智能系統(tǒng)而言，要知道什么是手機、什么是杯子、一個人是否健康，它就需要知識(knowledge)。早期的人工智能研究實際上是獲取知識。我們不得不求助于人類。要人類將信息收集起來并人工錄入到計算機中。

神奇的是，在過去幾年來，這些信息越來越數(shù)字化?？雌饋磉@個世界通過互聯(lián)網(wǎng)顯現(xiàn)了出來。所以現(xiàn)在人工智能就是關于可用的數(shù)據(jù)，以及處理這些數(shù)據(jù)和理解它的能力，我們仍然在尋找最好的做這些人物的方法。另一方面，我們很樂觀，因為我們知道數(shù)據(jù)已經(jīng)有了。

現(xiàn)在的問題變成了，我們如何從數(shù)據(jù)中學習?你怎么使用它?你怎么表征它?你怎么將這些碎片結合到一起?那就是你用深度學習和深度強化學習做自動翻譯的系統(tǒng)和能玩足夠的機器人的方式。所有這些系統(tǒng)之所以成為可能，是因為我們可以遠遠更加高效地處理所有這些數(shù)據(jù)。我們不再必須執(zhí)行收集知識和表征知識這些大步驟了。就是這些。

過去五年最大的發(fā)展之一是類似 Siri 和 Alexa 的個人助理，它們都是由機器學習驅動的。我想知道你怎么看待這些系統(tǒng)在過去五年內的變化?

答：你知道，我是 Alexa 的大粉絲。我家里就有一個，大部分時間我與 Alexa 所談論東西變得越來越廣泛。在一開始的時候就是「天氣怎樣?」現(xiàn)在我會問「我的日歷上有什么安排?」Alexa 在學習，我也在學習 Alexa 能做什么。它到底能夠隨時間變得多好，這會是很讓我驚喜的。

我告訴你一件有趣的事：當我離開家的時候，我告訴 Alexa：「Alexa, stop.」我想停止它正在播放的音樂，因為我要離開了。但如果我告訴 Alexa：「Alexa, I'm leaving」，它就無法理解「I'm leaving」意味著它應該停止了。我必須明確說出「stop」才行。所以我設想個人助理會越來越能明白這樣的指令：「Alexa，當我離開時，意味著你應該停止播放音樂?！惯@樣的指令應該被提到研究日程上。

你認為我們會達到這樣的程度嗎：我們可以問個人助理「我車子里的檢查引擎指示燈亮了，我可以開這輛車嗎?」或「谷歌，我剛拿到了一份工作邀約，我應該接受嗎?」?

答：我認為這是可能的。這種類型的問題是決策問題(decision-making questions)——假設你必須選擇某個健康保險計劃，但你被這些選擇搞糊涂了。你可能會在你要睡覺的時候告訴 Alexa：「Alexa，你看看所有這些健康保險計劃，還有那些我能夠購買的汽車，或者我的孩子可以去哪些學校讀書。」然后它就可以在晚上幫你編譯一份報告出來。

大量的相關信息都是可以通過網(wǎng)絡獲取的。你可找到那些學校的所有特征，其他人對這些學校的評價。你能找到關于這些學校的博客和其它的選擇。你可以有一個能收集這些學校的所有特征的人工智能系統(tǒng)——它們距離多遠、得到了哪些評價……你可以進入一個關于你想從教育中得到什么的主頁，而人工智能系統(tǒng)可以將這些信息聚集到一起。它們可以查看這些特征，它們可以從過去的經(jīng)驗中學習，它們可以處理所有的信息，根據(jù)你的指導和問題發(fā)送所有可用的消息，以一種你能更容易消化的方式呈現(xiàn)這些信息。因為網(wǎng)絡上的這些信息非常繁雜，你根本不可能實時處理掉所有這些信息。

最后，你可能也會想有一個能告訴你它這樣建議的原因的助理。你可能會問：「為什么你說我應該買這輛車?我真的不喜歡那個品牌?！刮艺J為這是非常重要的一步，讓人工智能在決策中支持人類，嘗試結合和學習所有的信息，并且整合你可能給出的反饋。

除了個人決策之外，這些系統(tǒng)還能做什么?

答：你可以想象這同樣系統(tǒng)的一個版本可以用于科研論文。目前已經(jīng)有很多的科研論文發(fā)表了，而且現(xiàn)在它們都在網(wǎng)上。你可以想象有一個人工智能系統(tǒng)能幫助研究者消化所有這些信息并找到他們感興趣的東西。

這個人工智能系統(tǒng)將仍然是網(wǎng)絡上的信息的一個產(chǎn)物。很多人正在研究信息——文本信息、圖片信息、流圖表、表格——嘗試理解網(wǎng)絡上有什么并最終推理對這些信息的需求。比如，機器學習里有一個叫做「主動學習(active learning)」的領域，其中我們推理出其中一些過程的圖像不夠，而因此你可能會想要增加更多的圖像。

我設想會有能夠識別缺少什么的人工智能系統(tǒng)，從而能夠將網(wǎng)絡上的信息點連接起來，并在有需要時請求更多的數(shù)據(jù)。你可以想象它可以問研究者：「如果你告訴我更多有關這些細胞與這種化學品的交互方式，我就能有一個更好的關于當前情況的模型?！?/p>

你的共生自主思想的一部分已經(jīng)體現(xiàn)到了 Cobot 中，對嗎?這些機器人目前被放養(yǎng)在 CMU 的校園里，通過一套深度相機、WiFi 和 LIDAR 裝置在計算機科學大樓里面導航。它們沒有機器臂，所以對于很多簡單的導航任務它們也會有麻煩，但你讓它們很擅長尋求幫助。

答：是的，當我們意識到這些自動機器人也有限制時，我們也很吃驚。它們沒法必須打開世界上所有的門，它們也不能理解世界上每一種口語。也許它們會隨時間變得越來越好，但同樣地，我相信人類也有限制——我說話有口音，我的網(wǎng)球打得沒有其他人那么好——所以這些機器人也會有局限性。

我們很清楚這些機器人，這些人工智能系統(tǒng)最重要的一個特征就是識別它們不知道什么、不能做什么和不能理解什么，然后才向人類求救。你能按下電梯按鈕嗎?打開一扇門?或拿些東西放在我的籃子里，這就是我們所稱呼的共生自主(symbiotic autonomy)。機器人能夠對那些它不能做的、不知道的或不理解的問題自主地向人類尋求幫助。這是一種新的思路，我們將有一些圍繞在我們周圍并將尋求我們幫助作為它們部分任務的人工智能系統(tǒng)。

當這種系統(tǒng)實現(xiàn)規(guī)?；瘯r，共生自主會以更復雜的方式發(fā)生。系統(tǒng)已經(jīng)能用無線交流了，它在云端交流數(shù)據(jù)，或獲得遠程團隊的協(xié)助。你可以認為人工智能系統(tǒng)能和其它所有事物永遠成為一個共生系統(tǒng)，比如網(wǎng)絡上的信息、其它人工智能系統(tǒng)和旁邊的人類或遠處的人類。它成為一個獨立運行的人工智能系統(tǒng)也是完全沒有問題的，但是一個人工智能系統(tǒng)要意識到什么時候它不知道、什么時候它需要信息、什么時候該用一些概率來思考問題都是不確定的。它不能預先解決所有問題，但它能依賴于周圍其他的幫助來解決，這也就是我所設想的。

你怎樣看待共生關系改變下已有的人工智能系統(tǒng)?

答：所以讓我們返回去設想向人工智能求教怎樣決策上哪所學?；蛲赌姆N健康保險。我猜想這些人工智能系統(tǒng)將在某種情況下需要一些人類沒有提供的信息。人工智能系統(tǒng)也將意識到如果它們知道那些額外的特征，這將會幫助我們更好地決策。

真正有趣的是什么時候人工智能系統(tǒng)能自己認識到它們缺失了些什么信息。它們意識到是否能有更多的信息，是否能做一些明確的行為，例如它們是否能夠預訂那家網(wǎng)上訂不到房間的旅館、是否能給你訂一個離開會地更近一些的旅店。我真的認為這種能力是很重要的，因為我不打算知道需要做某些決策的所有信息。

現(xiàn)在我們用的 Uber、谷歌地圖或 Waze 通常對路線的的規(guī)劃已經(jīng)是做得很不錯了，然而 Waze 會反過來問你「你現(xiàn)在餓了嗎?我能給你一條最短路徑嗎?你喜歡走這條岔路看看更美的景色嗎?」。如果智能助手知道我十分喜歡蘭花、十分喜歡某種藝術那有怎么樣?我只要稍稍地偏離路徑，我就能看到更好的博物館。它在路線規(guī)劃中并不知道這些，如果知道這些，那么它一定會規(guī)劃一條通過博物館的路。

許多現(xiàn)在的人工智能系統(tǒng)專門從事某一具體的任務，如對象識別或路徑優(yōu)化，但是這就導致了十分孤立的專家系統(tǒng)。我很好奇為什么你想的是帶領我們返回一種軟件中更為泛化的智能。

答：通用人工智能問題是極端困難的，我也確信深度學習就是其要求的技術基礎，深度強化學習也會為通用人工智能加把料。我們也在做許多這種理解遷移學習概念的研究。我們是怎樣有這些算法的——是因為它們能夠從事特別的任務，但同樣還能學習更多其它東西嗎?我們并沒有真正理解人工智能，我們還不知道做很多的事情。按照算法與技術、泛化的方法和提供解釋的方法來看，我們的人工智能還真正處于嬰兒期，關于很多這些事情我們還束手無策。

我真的認為通用人工智能有一天能從聚合人工智能專家系統(tǒng)中誕生出來，就像 Minsky 描述的那樣合并他們就成為了一種心智社會(Society of Mind)。你也可以用一些特殊目的的算法來解決特別復雜的問題，就像 Simon 和 Allen Newell 在人工智能剛開始研究時預測的那樣。

所以通用人工智能是極其困難的，但因為現(xiàn)在這么多的數(shù)據(jù)它又是極其令人興奮的?，F(xiàn)在有很多人在使用電子設備并產(chǎn)生數(shù)據(jù)，而且越來越多的人在使用計算機、手機、Alexa 和 Uber，所有這些都給我們在研究通用人工智能鋪平了道路。我們仍然還有很多研究要做，仍然不知道通用人工智能系統(tǒng)確切的樣子，但是我們在一條正確的道路上。

你曾經(jīng)擔心過這種不確定性嗎?有一些擔憂是當人工智能超越人類的智能，那么人類也將會滅亡。

答：我完全是一個樂觀主義者，我認為我們所做的自主系統(tǒng)研究(包括自動駕駛汽車和自主機器人)都是要求對人類負責的。在某種意義上，這是和技術毫無關系的。技術會發(fā)展，但它是由我們由人類發(fā)明的。它不是從外星人那來的，而是我們自己的研究。它是人類智能構思的技術，它取決于人類思維也充分地利用人類思維才產(chǎn)生。

我很相信這將發(fā)生，之所以我很樂觀是因為我看到人類已經(jīng)意識到了他們需要很小心地研究這些技術，同樣我也意識到了。但是最好還是投資于教育。把機器人扔在一邊，它會持續(xù)變得更好，但是聚焦于教育，人們知道其他人、關照其他人、關心社會的進步、地球自然的發(fā)展和科學的進步。解決所有這些問題、治療癌癥、終結貧窮等。很多和人類相關的事都能使用這種我們正在發(fā)展的技術去解決。

在某種程度上，人工智能的人文主義將最終能將我們凝聚到一起，所以我是很樂觀的。

來源：機器之心

收藏分享

聲明：數(shù)據(jù)猿尊重媒體行業(yè)規(guī)范，相關內容都會注明來源與作者；轉載我們原創(chuàng)內容時，也請務必注明“來源：數(shù)據(jù)猿”與作者名稱，否則將會受到數(shù)據(jù)猿追責。