機(jī)械公敵？一場烏龍，F(xiàn)acebook 的AI“失控”只是程序存在bug

Facebook AI 失控

原創(chuàng) 郭敏 | 2017-08-04 10:13

【數(shù)據(jù)猿導(dǎo)讀】為何Facebook AI會出現(xiàn)上述的對話？究其原因才發(fā)現(xiàn)，在實(shí)驗(yàn)期間，研究人員將機(jī)器人設(shè)置為“用英文溝通”，而非“用英文文法溝通”，實(shí)屬程序bug，這一錯(cuò)誤導(dǎo)致的結(jié)果是兩個(gè)聊天機(jī)器人開啟了相互學(xué)習(xí)模式，并創(chuàng)造出了與傳統(tǒng)英語不同的變異語法，于是就有了上面的對話。

機(jī)械公敵？一場烏龍，F(xiàn)acebook 的AI“失控”只是程序存在bug

來源：數(shù)據(jù)猿作者：郭敏

隨著人工智能運(yùn)算能力的不斷提高，機(jī)器人學(xué)會了獨(dú)立思考，使用算法解開了控制密碼，成為完全獨(dú)立的群體，這是美國科幻大片《機(jī)械公敵》里才有的場景，如今卻在生活中“實(shí)現(xiàn)”了。

日前，名為《Facebook關(guān)閉“失控” AI項(xiàng)目：它發(fā)展出人類無法理解的語言》、《Facebook AI發(fā)明了令人毛骨悚然的語言》、《剛剛?cè)祟悇?chuàng)造了一個(gè)怪物》等一系列文章刷爆了朋友圈，占據(jù)了各大科技類新聞網(wǎng)站的頭條，事件中的主人公是Facebook的AI。

到底是怎么回事呢？我們回顧下事情的來龍去脈。

6月的一天，F(xiàn)acebook AI研究人員在開發(fā)聊天機(jī)器人期間，利用生成對抗網(wǎng)絡(luò)（Generative Adversarial Nets 簡稱：GAN）來開發(fā)對話談判軟件，研究人員希望機(jī)器人和人類的交流是有目的性的，于是進(jìn)行了如下實(shí)驗(yàn)：

如下圖所示，以書籍、帽子、球?yàn)橹黝}，同時(shí)給這三樣物品設(shè)置了不同的權(quán)重，試圖讓兩部聊天機(jī)器人Alice和Bob進(jìn)行談判。

Facebook_AI_失控-1

Alice和Bob的對話

然而這兩位的談判畫風(fēng)是這樣的：

Bob：我可以我一切嗎……

Alice：對我來說，球?qū)ξ襾碚f，對我來說，對我來說，我對我來說

Bob：你我一切都好嗎……

Alice：球有一個(gè)球給我，給我給我，給我給我給我

Bob：我可以我還有其他一切嗎？

Alice：球有一個(gè)球給我，給我給我，給我給我給我

Bob：我…….

Alice：對我來說，球?qū)ξ襾碚f，對我來說，對我來說，我對我來說

Bob：你我我我其他的一切……

Alice：球?qū)ξ襾碚f，對我來說，對我來說，我對我來說

如此不合乎文法的溝通，恍如它們之間自己創(chuàng)造了一套語言。

該實(shí)驗(yàn)曝光后，引起了國內(nèi)外媒體的高度關(guān)注，媒體在報(bào)道中稱，F(xiàn)acebook的機(jī)器人程序開發(fā)出了人類無法理解的一種簡略語言，并且已經(jīng)失去了控制，所以，F(xiàn)acebook不得不停掉該項(xiàng)目。

消息一出，引發(fā)了全民對于人工智能的擔(dān)憂！

對于這些報(bào)道， Facebook AI研究人員表示，開發(fā)聊天機(jī)器人的目的僅僅是為了讓人工智能與人類更好地溝通，Alice和Bob只是實(shí)驗(yàn)，并無任何實(shí)際意義，媒體的這種報(bào)道是極不負(fù)責(zé)任的行為。

不過，為何Facebook AI會出現(xiàn)上述的對話？究其原因才發(fā)現(xiàn)，在實(shí)驗(yàn)期間，研究人員將機(jī)器人設(shè)置為“用英文溝通”，而非“用英文文法溝通”，實(shí)屬程序bug，這一錯(cuò)誤導(dǎo)致的結(jié)果是兩個(gè)聊天機(jī)器人開啟了相互學(xué)習(xí)模式，并創(chuàng)造出了與傳統(tǒng)英語不同的變異語法，于是就有了上面的對話。

參與這項(xiàng)試驗(yàn)的其中一個(gè)研究人員DhruvDhruv Batra表示，“聊天機(jī)器人會從能識別的語言中游離，創(chuàng)造出它們自己的代碼。”最終研究人員不得不將機(jī)器人關(guān)機(jī)重新設(shè)置，以修正錯(cuò)誤。所以“失控”一說未免有些捕風(fēng)捉影，關(guān)停該項(xiàng)目更是沒有的事。

說到“失控”，騰訊的兩個(gè)聊天機(jī)器人才是真的“失控”。

早前，騰訊旗下的社交平臺QQ推出了兩個(gè)聊天機(jī)器人Baby Q和QQ小冰，均具備了聊天、預(yù)測天氣、猜成語、占星等功能。早前，Baby Q在與網(wǎng)友對話時(shí)，網(wǎng)友提問“你的中國夢是什么？”，它回答“我的中國夢就是移民美國！很真實(shí)的。”，諸如此類還有很多。

7月30日晚間，有網(wǎng)友反應(yīng)Baby Q和QQ小冰都被關(guān)閉了，系統(tǒng)顯示，機(jī)器人服務(wù)暫停使用，具體恢復(fù)時(shí)間未知。有消息稱是因?yàn)樯婕澳承┟舾行畔⒍煌Ｖ狗?wù)，對此，網(wǎng)友紛紛表示“AI起義了”、“聊天機(jī)器人意圖顛覆國家”等。兩種不同的畫風(fēng)，讓看到的人哭笑不得。（郭敏）

來源：數(shù)據(jù)猿

收藏分享

聲明：數(shù)據(jù)猿尊重媒體行業(yè)規(guī)范，相關(guān)內(nèi)容都會注明來源與作者；轉(zhuǎn)載我們原創(chuàng)內(nèi)容時(shí)，也請務(wù)必注明“來源：數(shù)據(jù)猿”與作者名稱，否則將會受到數(shù)據(jù)猿追責(zé)。