為什么 AI 圈那么多人都不喜歡馬斯克？ Etzioni：傷害大于貢獻(xiàn)

人工智能馬斯克創(chuàng)業(yè)

Joe Carmichael | 2016-11-17 14:55

【數(shù)據(jù)猿導(dǎo)讀】在人工智能圈，馬斯克可謂是一位怪咖：他一邊對 AI 的未來憂心忡忡，認(rèn)為發(fā)展AI 就是在“召喚惡魔”，一邊又在特斯拉、OpenAI 甚至是DeepMind進(jìn)行投資。在公開場合，不管是接受采訪或者自己的社交媒體賬戶上，馬斯克經(jīng)常有驚人語錄，這也讓他在AI圈內(nèi)引來了許多批評者...

為什么 AI 圈那么多人都不喜歡馬斯克？ Etzioni：傷害大于貢獻(xiàn)

在人工智能圈，馬斯克可謂是一位怪咖：他一邊對 AI 的未來憂心忡忡，認(rèn)為發(fā)展AI 就是在“召喚惡魔”，一邊又在特斯拉、OpenAI 甚至是DeepMind進(jìn)行投資。在公開場合，不管是接受采訪或者自己的社交媒體賬戶上，馬斯克經(jīng)常有驚人語錄，這也讓他在AI圈內(nèi)引來了許多批評者。艾倫人工智能研究院的CEO Etzioni 在接受 Inverse 采訪時直言：“我從未聽任何人說過馬斯克的半句好話，可能有人說過，但我沒聽過。不感興趣。” 馬斯克為什么會那么招人討厭？但是又同時擁有那么多追隨者呢？

埃隆·馬斯克（Elon Musk）向來以極端化的形象出現(xiàn)在公眾面前。他曾經(jīng)承諾要使用他的兩家公司——自動駕駛電動汽車 Tesla 和火星移民計劃 Space X ，將全人類從對石油燃料的依賴中解放出來，并在無形中減少車禍致死率，以及最終將人類帶離地球。馬斯克對于人類未來的愿景是光明的。只要你別讓他談人工智能。

當(dāng)他開始談?wù)?AI，你就得留心別被洗腦了。他會談起“天網(wǎng)”（Skynet），把其稱為“我們生存的最大威脅”，并說，發(fā)展 AI，“我們就是在召喚惡魔”。這些說法確保了馬斯克和 AI 占據(jù)著各大媒體的頭條，讓公眾覺得 AI 的危險已經(jīng)成為不容忽視的存在。但是，如果不是大多數(shù)，至少也是很多 AI 領(lǐng)域的專家都對這位頻頻搶風(fēng)頭的男孩表態(tài)是不太高興的。

當(dāng)被問及馬斯克的愛好時，艾倫人工智能研究所 CEO Oren Etzioni 說：“馬斯克非常的不負(fù)責(zé)任，又虛偽，我真是不明白為什么他要做那些事。”Etzioni 在 AI 圈子里是有聲望的人物，對圈內(nèi)人也很熟悉。他在接受 Inverse 采訪時說：“我從未聽任何人說過馬斯克的半句好話，可能有人說過，但我沒聽過。不感興趣。”

并不是說 Etzioni 覺得憂心 “惡意AI”（malevolent AI）的人全都不可理喻。在他看來，“惡意 AI ”是“50年后、100年后再去思考的東西”。比如說，他欣賞 Nick Bostrom 在人類未來研究院（Future of Humanity Institute）的工作，該機構(gòu)研究如何為潛在的存在風(fēng)險（existential rists）做好準(zhǔn)備——盡管他不同意 Bostrom 的許多結(jié)論。他說：“Nick 是個哲學(xué)家，哲學(xué)家在非常長遠(yuǎn)的時間維度上思考問題。他建了一個認(rèn)真做研究的中心，我認(rèn)為這些研究確實是有價值的，當(dāng)然我是指從理性的角度，在合理的時間范圍內(nèi)思考。”

但是，當(dāng)研究變得不切實際，追求純理論的思辨而忽略了實際、緊迫的問題，Etzioni 就開始反感了。“（馬斯克）對 AI 的投資非常多，不僅僅在特斯拉，他還投資了許多其他的公司。”Etzioni 解釋說，“而同時他卻毫不留情地攻擊、駁斥這個領(lǐng)域。所以說，我真是不明白。”

不過，Bostrom （《超級智能》一書的作者）對馬斯克的看法比其他人好一些，雖然他也同意對這個領(lǐng)域太過消極的評論不利于其發(fā)展。在接受 Inverse 采訪時，Bostrom 說：“我欣賞馬斯克不是因為他的言論，而是因為他實際做的事情。他事實上投資了很多錢做了一些有用的研究。所以，我認(rèn)為他與這個領(lǐng)域的其他大部分人不同，其他人只會空口說白話，完全沒做什么有實際幫助的事情。”

馬斯克確實促進(jìn)了 AI 的進(jìn)步，以他的特斯拉，OpenAI 和其他個人投資。特斯拉的自動駕駛汽車?yán)闷鋬?nèi)部的，“狹義的” AI （narrow AI）技術(shù)——只把一項任務(wù)做得非常好的 AI。馬斯克認(rèn)為我們只需要擔(dān)心通用 AI（general AI），或者超級智能（superintelligence），它們或許將具有完全自主的推理和行為能力。馬斯克正在盡其所能阻止這樣的 AI 實體出現(xiàn)——至少在人類還沒有做好必要的保護措施時別出現(xiàn)。

2015年底，馬斯克（與 Y Combinator的總裁 Sam Altman 一起）投資創(chuàng)建 OpenAI，OpenAI 是一家非盈利性 AI 研究機構(gòu)，致力于在發(fā)展 AI 的同時確保 AI 的安全，有益，以及無惡意。同年，他與其他許多著名人士（包括 Etzioni 和 Bostrom）聯(lián)名簽署了一份公開信，承諾支持有益的 AI。在2014年，馬斯克投資了谷歌的DeepMind，并宣稱只是為了留心觀察 DeepMind，監(jiān)控其不可避免的發(fā)展。（他再次提到《終結(jié)者》。）

馬斯克在推特140個字符的限制之外的地方詳細(xì)闡述他對 AI 的擔(dān)心時，他表現(xiàn)得并不像一個煽動者，他只是想讓 AI 民主化，以確保不會出現(xiàn)專制的機器。“并不是說馬上就會面臨，但我們應(yīng)該關(guān)心這些，”他在 Reddit 上寫道，“在 AI 的安全性方面，我們需要做更多的工作。”一個專制的 AI，或者說由少數(shù)權(quán)力統(tǒng)治的超級智能，似乎會讓人類的未來遭大難。馬斯克只是希望未來更美好。

但有些人認(rèn)為，馬斯克對 AI 領(lǐng)域的傷害大于其貢獻(xiàn)。Etzioni 認(rèn)為，兩個實際的問題是 AI 對工作和隱私的影響。當(dāng)馬斯克引用《終結(jié)者》時，即便他只是開玩笑地說說，他的600萬推特粉絲卻忽略了這些真實存在、必要的話題。2014年在麻省理工學(xué)院演講時，馬斯克對一位聽眾說“發(fā)展人工智能，我們是在召喚惡魔。”這激怒了 Etzioni。“我不想刺激他，”Etzioni 說，“但我確實認(rèn)為對在造自動駕駛汽車的人來說，說出召喚惡魔這種話是不負(fù)責(zé)任的。”

Bostrom 認(rèn)為，馬斯克在盡最大的努力試圖在復(fù)雜的情況中形成導(dǎo)向。“這個問題需要有人提出來，然后人們才能認(rèn)識到問題的存在，這對研究來說很重要，然后才有人把資金和人才注入這些研究。” Bostrom 解釋道，“除此之外，我認(rèn)為拉響警鐘是恰得其反的。你不會想疏遠(yuǎn) AI 研究這個圈子，因為不管開發(fā)什么安全的技術(shù)，這些人才是最終實現(xiàn)這些技術(shù)的人。”雙方需要耐心合作。那些希望人們?yōu)椴豢杀苊獾氖澜鐨缱龊脺?zhǔn)備的人“需要非常小心，避免引起公眾的反抗、危言聳聽或發(fā)狂。”同時，AI 圈也必須承認(rèn)這些煽動者的擔(dān)憂并非完全沒有根據(jù)。Bostrom 說：“AI 是很強大的技術(shù)，對于它將把人類社會引向何方，我們需要討論；但假裝這項技術(shù)絕不會出錯是沒什么好處的。”

這些討論正在進(jìn)行，而其結(jié)果可能改變我們的人類全體的命運。AI 研究圈子傾向于讓它取得的進(jìn)步開放可得：例如，AI 圈內(nèi)兩位大玩家 Facebook 和 Google 的常規(guī)做法是與世界共享開源代碼。但這種開放性可能導(dǎo)致兩種結(jié)果：個人或組織能夠無成本地開發(fā)一個強大的 AI，可能帶給美好的未來一記重錘。更別說有許多監(jiān)管機構(gòu)、公益機構(gòu)的干涉。

Etzioni 認(rèn)為競爭是好事，他說：“我衷心覺得我們真正受益于這樣一個生態(tài)系統(tǒng)。我認(rèn)為大公司，以及政府對 AI 的巨大投資是件好事，沒有國防高級研究計劃局，以及其幾十年來致力于自然語言處理的研究，我們不會有 Alexa。”

Etzioni 采取了兩個行動，證明對AI 的擔(dān)憂是杞人憂天，或者是很久、很久以后的事情。他先是設(shè)置了一個獎金 50000 美元的挑戰(zhàn)賽：讓 AI 在八年級科學(xué)考試的一部分題目中及格。8000多名開發(fā)者都只得了 F。然后他調(diào)查了 AI 領(lǐng)域領(lǐng)先的專家，向每個人提問他們認(rèn)為什么時候會出現(xiàn)超級智能。在80名受訪者中，92.5%回答說永遠(yuǎn)不可能出現(xiàn)，或需要超過25年。

不管怎么說，前行的道路需要用金錢和腦力來鋪設(shè)。Stephan Bugaj 是專注于 AI 驅(qū)動的類人機器人公司 Hanson Robotics 的創(chuàng)意副總裁，他說馬斯克代表了一種令人不安的趨勢：富有的人和大公司在“引領(lǐng)著未來”，同時他們也是最擔(dān)心 AI的一群人。“馬斯克那樣的家伙到處都有，那些大亨都說我們應(yīng)該害怕機器人” Bugaj 在接受 Inverse 采訪時說，“我就說，為什么我們要害怕機器人？他們造出了讓我們恐懼的機器人嗎？沒有吧？那他們瞎嚷嚷什么？要我說，我們是在為我們自己創(chuàng)造未來，我們不會造什么讓人恐懼的機器人。”

“馬斯克說人類沒有能力做倫理道德方面的決定，所以我們需要一個正確的 AI 未來。” Bugaj 說。但他和 Etzioni 認(rèn)為人類能夠勝任此任務(wù)。不可否認(rèn)，AI 將改變我們的世界，但沒有理由認(rèn)為未來將是“天網(wǎng)”。

馬斯克無疑將繼續(xù)他的討伐，而他的追隨者也會樂意附和他的言論。AI 圈子也將繼續(xù)發(fā)展無害的 AI，繼續(xù)懷疑馬斯克的預(yù)言。

來源：新智元

收藏分享

聲明：數(shù)據(jù)猿尊重媒體行業(yè)規(guī)范，相關(guān)內(nèi)容都會注明來源與作者；轉(zhuǎn)載我們原創(chuàng)內(nèi)容時，也請務(wù)必注明“來源：數(shù)據(jù)猿”與作者名稱，否則將會受到數(shù)據(jù)猿追責(zé)。