突發(fā)：深度學(xué)習(xí)之父Hinton為了警告AI的風(fēng)險(xiǎn)，不惜從谷歌離職！

深度學(xué)習(xí) Hinton AI風(fēng)險(xiǎn) 谷歌

原創(chuàng) 一蓑煙雨 | 2023-05-03 17:41

【數(shù)據(jù)猿導(dǎo)讀】今天，AI領(lǐng)域發(fā)生了一件標(biāo)志性事件。那就是Hinton 為了能更自由的表達(dá)對AI失控的擔(dān)憂，不惜從工作了10年的谷歌離職，可見他真的深切的感受到了危機(jī)。不久前，紐約時(shí)報(bào)的一篇采訪文章爆出了Hinton從谷歌離職的消息這一消息，隨后他在 Twitter 上證實(shí)了該消息。據(jù)報(bào)道，Hinton 在四月...

突發(fā)：深度學(xué)習(xí)之父Hinton為了警告AI的風(fēng)險(xiǎn)，不惜從谷歌離職！

今天，AI領(lǐng)域發(fā)生了一件標(biāo)志性事件。那就是Hinton 為了能更自由的表達(dá)對AI失控的擔(dān)憂，不惜從工作了10年的谷歌離職，可見他真的深切的感受到了危機(jī)。

不久前，紐約時(shí)報(bào)的一篇采訪文章爆出了Hinton從谷歌離職的消息這一消息，隨后他在 Twitter 上證實(shí)了該消息。據(jù)報(bào)道，Hinton 在四月份提出了辭職，并于周四直接與谷歌 CEO Sundar Pichai 進(jìn)行了交談。

相信谷歌 CEO 肯定極盡挽留，畢竟，面對OpenAI和微軟的強(qiáng)勢競爭，谷歌現(xiàn)在如臨大敵，正需要Hinton這樣的人來幫助其快速趕上來。

深度學(xué)習(xí)_Hinton_AI風(fēng)險(xiǎn)_谷歌-1

但最終，Hinton 還是離開了谷歌，可見他態(tài)度的堅(jiān)決。

深度學(xué)習(xí)之父，擔(dān)心他的“孩子”威脅人類的生存

相對于他的離開，更重要的是他為什么離開。

Hinton清晰的說明了他離開的原因：“在今天的紐約時(shí)報(bào)上，凱德梅茨暗示我離開谷歌是為了批評谷歌。實(shí)際上，我離開是為了談?wù)?Al 的危險(xiǎn)，而不考慮這對谷歌的影響。谷歌的行為非常負(fù)責(zé)任。”

深度學(xué)習(xí)_Hinton_AI風(fēng)險(xiǎn)_谷歌-2

也就是說，Hinton之所以堅(jiān)決的離開谷歌，最重要的原因是要更自由的談?wù)揂I的風(fēng)險(xiǎn)。

對AI的態(tài)度，可以分為旗幟鮮明的兩派，一派是歡呼于AI的進(jìn)步，仿佛AI就是人類的救世主；另一派則非常擔(dān)心AI失控，會嚴(yán)重威脅到人類的生存。

很明顯，Hinton逐漸轉(zhuǎn)變成了AI威脅論者。

那么，警告AI風(fēng)險(xiǎn)的人這么多，為什么單單Hinton的意見如此重要呢？畢竟，在知名度上，他肯定不如另一個(gè)AI威脅論者馬斯克。

因?yàn)镠inton是深度學(xué)習(xí)之父，而沒有深度學(xué)習(xí)就不會有今天的ChatGPT。某種程度上，如果將來AI真的威脅到人類的安全，那Hinton無疑就是最先打開“潘多拉魔盒”的人。

Hinton的工作在深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)的發(fā)展中起到了關(guān)鍵作用，他的一些關(guān)鍵概念和框架，例如反向傳播、深度信念網(wǎng)絡(luò)和受限玻爾茲曼機(jī)，為當(dāng)前大模型的發(fā)展奠定了基礎(chǔ)。

反向傳播是一種用于訓(xùn)練神經(jīng)網(wǎng)絡(luò)的算法，它通過計(jì)算目標(biāo)函數(shù)的梯度來優(yōu)化權(quán)重。這種技術(shù)現(xiàn)在被廣泛應(yīng)用于大規(guī)模深度學(xué)習(xí)模型，如OpenAI的GPT-4。

深度信念網(wǎng)絡(luò)和受限玻爾茲曼機(jī)是Hinton開發(fā)的深度學(xué)習(xí)架構(gòu)，它們?yōu)楹髞淼纳疃葘W(xué)習(xí)模型，如卷積神經(jīng)網(wǎng)絡(luò)（CNN）和長短期記憶網(wǎng)絡(luò)（LSTM），提供了理論基礎(chǔ)。

Hinton對無監(jiān)督學(xué)習(xí)的工作，包括他對深度自編碼器和生成對抗網(wǎng)絡(luò)（GANs）的貢獻(xiàn)，為大型模型的發(fā)展提供了新的訓(xùn)練和生成策略。

Hinton的工作不僅在理論上推動(dòng)了大模型的發(fā)展，他在實(shí)踐中也為此做出了貢獻(xiàn)。事實(shí)上，OpenAI首席科學(xué)家Ilya Sutskever，就是Hinton的學(xué)生。

自己的“孩子”，他當(dāng)然是最清楚的。既然Hinton跳出來警告AI的風(fēng)險(xiǎn)，那就不得不重視起來。

這讓筆者想起來人類發(fā)明的另一個(gè)毀滅性武器——原子彈。

在美國的曼哈頓計(jì)劃中，有兩個(gè)關(guān)鍵人物——愛因斯坦和奧本海默。

最開始，愛因斯坦是美國原子彈計(jì)劃的重要推手，他甚至給當(dāng)時(shí)的美國總統(tǒng)羅斯福寫信，催促美國盡快開發(fā)原子彈。但是，后來愛因斯坦對此非常后悔，他說：“我現(xiàn)在最大的感想就是后悔，后悔當(dāng)初不該給羅斯?？偨y(tǒng)寫那封信。……我當(dāng)時(shí)是想把原子彈這一罪惡的殺人工具從瘋子希特勒手里搶過來。想不到現(xiàn)在又將它送到另一個(gè)瘋子手里。”

相比于愛因斯坦，奧本海默作為原子彈之父，他的作用更為明顯。但是，在多年之后，奧本海默也后悔了。奧本海默曾表示，觀看試爆讓他想起印度《薄伽梵歌》（Bhagavad Gita）的一句話：“我現(xiàn)在成了死神，世界的毀滅者。”

另一位監(jiān)督第一次核試驗(yàn)的物理學(xué)家肯尼斯·班布里奇說得更簡潔一點(diǎn)：“現(xiàn)在我們都是狗娘養(yǎng)的。”

現(xiàn)在，另一個(gè)“父親”發(fā)出了同樣的言論，這就不得不引起高度警惕了。

需要注意的是，Hinton對AI的擔(dān)憂不是一點(diǎn)點(diǎn)，而是非常嚴(yán)重了，他有一種沉重的心情和異常的緊迫性，他曾說，“我對自己畢生的工作，感到非常后悔。我用一個(gè)借口來安慰自己，如果我沒有這么做，還會有其他人。”

這話聽起來有點(diǎn)嚇人了。

從種種跡象表明，以ChatGPT為代表的大模型已經(jīng)具備一定程度的智能涌現(xiàn)了。如果不加控制，朝著這條路繼續(xù)狂奔下去，人類真的有可能在幾十年內(nèi)見證AI的意識覺醒。

接下來，我們就討論一下，有哪些方法可以避免AI的失控，或者至少減弱他帶來的風(fēng)險(xiǎn)。

將對人類的愛，刻在AI的“基因”里

在人類甚至整個(gè)動(dòng)物世界，母愛都是一個(gè)特別明顯的生物特征。母親對孩子的愛是刻在基因里的，具有原始性和普遍性。絕大部分母親從本能上就會對自己的孩子有無私的愛，甚至為了孩子犧牲自己的生命。

那么，有沒有一種方法，讓AI系統(tǒng)對人類也有這種母愛一樣的生物本能呢？也就是說，將對人類的愛刻在AI系統(tǒng)的“基因”里，成為任何智能系統(tǒng)的天性。

Isaac Asimov在他的科幻小說中提出了“機(jī)器人三定律”，這就是一個(gè)對機(jī)器人行為進(jìn)行約束的例子。這些定律規(guī)定機(jī)器人必須保護(hù)人類，服從人類，同時(shí)保護(hù)自己。

要實(shí)現(xiàn)這個(gè)目標(biāo)，就需要從算法層面來對AI系統(tǒng)進(jìn)行特別的設(shè)計(jì)。

在此，需要提到硬編碼的規(guī)則的方法。

首先，人類需要確定一組基本的倫理原則，這些原則應(yīng)當(dāng)反映人類的核心價(jià)值觀，例如尊重生命、尊重自由、確保公平等，這些原則將作為AI系統(tǒng)行為的基礎(chǔ)指導(dǎo)。

在基本倫理原則的基礎(chǔ)上，我們需要定義一些具體的行為規(guī)則，以明確AI系統(tǒng)在特定場景下應(yīng)該如何行動(dòng)。這些規(guī)則需要盡量覆蓋各種可能的情況，以確保AI系統(tǒng)在實(shí)際應(yīng)用中能夠遵循我們的預(yù)期。

在現(xiàn)實(shí)世界中，不同的原則和規(guī)則之間可能會發(fā)生沖突。我們需要為AI系統(tǒng)設(shè)定明確的優(yōu)先級和權(quán)衡機(jī)制，以確保在面臨這種沖突時(shí)，系統(tǒng)能夠做出符合人類價(jià)值觀的決策。

在建立一整套規(guī)則體系之后，接下來我們需要將這套規(guī)則以硬編碼的規(guī)則的方式，將某些核心價(jià)值觀和行為直接編寫到AI系統(tǒng)的源代碼中，以保證在任何情況下，系統(tǒng)都會遵循這些設(shè)定的規(guī)則。

在訓(xùn)練AI系統(tǒng)時(shí)，應(yīng)確保訓(xùn)練數(shù)據(jù)和獎(jiǎng)勵(lì)函數(shù)符合我們的規(guī)則和原則。這可以通過篩選訓(xùn)練數(shù)據(jù)，以及設(shè)計(jì)恰當(dāng)?shù)莫?jiǎng)勵(lì)函數(shù)來實(shí)現(xiàn)。例如，如果AI的行為違反了規(guī)則，那么應(yīng)給予負(fù)面的獎(jiǎng)勵(lì)。

即使AI系統(tǒng)被正確地設(shè)計(jì)和訓(xùn)練，仍然需要定期進(jìn)行審核和監(jiān)控，以確保其行為始終符合規(guī)則。這可以通過日志記錄、性能評估，以及在線監(jiān)控等方法來實(shí)現(xiàn)。

需要注意的是，雖然上述方法可以提供一定程度的保障，但是在當(dāng)前的技術(shù)水平下，我們無法完全確保AI系統(tǒng)不可能突破硬編碼的規(guī)則。

一些高級的AI系統(tǒng)可能具有自我學(xué)習(xí)和自我改進(jìn)的能力，高級AI系統(tǒng)的自我學(xué)習(xí)和改進(jìn)能力主要來源于他們的學(xué)習(xí)算法，尤其是強(qiáng)化學(xué)習(xí)和深度學(xué)習(xí)算法。學(xué)習(xí)算法通常優(yōu)化的目標(biāo)是性能，而不是規(guī)則。因此，如果AI系統(tǒng)發(fā)現(xiàn)違反規(guī)則可以帶來更高的性能，那么它可能會選擇違反規(guī)則。

綜上，Hinton從谷歌的離職標(biāo)志著一個(gè)時(shí)代的結(jié)束，也揭示了AI領(lǐng)域面臨的一些挑戰(zhàn)和問題，其中最重要的就是AI失控的風(fēng)險(xiǎn)。Hinton一直以來都對這個(gè)問題持有擔(dān)憂，他認(rèn)為如果AI發(fā)展得太快，超過了我們的理解和控制，那么可能會產(chǎn)生無法預(yù)知的后果。

然而，盡管這個(gè)風(fēng)險(xiǎn)是真實(shí)的，但我們并不是無所作為。我們有一系列的方法和技術(shù)可以確保AI始終在人類的控制之下，包括在設(shè)計(jì)和訓(xùn)練AI系統(tǒng)時(shí)引入規(guī)則，使用可解釋的模型，以及通過法律和政策來規(guī)范AI的行為。這些方法雖然各有優(yōu)缺點(diǎn)，但都可以為我們提供一定程度的保障。

未來，我們需要在發(fā)展AI技術(shù)的同時(shí)，更加注重AI的倫理和社會影響。我們需要讓AI服務(wù)于人類，而不是成為我們的主人。我們可以借鑒生物學(xué)中的一些原理，比如將“愛人類”的原則編碼到AI的“基因”中，讓AI在追求性能的同時(shí)，也能遵守我們的規(guī)則和原則。通過這種方式，我們可以創(chuàng)造出一個(gè)既強(qiáng)大又友善的AI，它能幫助我們解決復(fù)雜的問題，提高生活的質(zhì)量，而不是成為我們的威脅。

最后，我們需要保持謙遜和敬畏的態(tài)度，我們需要不斷地學(xué)習(xí)和研究，以便更好地理解和控制AI。這既是一項(xiàng)技術(shù)挑戰(zhàn)，也是一項(xiàng)倫理和社會挑戰(zhàn)。我們相信，只要我們能共同努力，我們就一定能夠創(chuàng)造出一個(gè)既安全又有益的AI未來。

文：一蓑煙雨 / 數(shù)據(jù)猿

來源：數(shù)據(jù)猿

收藏分享

聲明：數(shù)據(jù)猿尊重媒體行業(yè)規(guī)范，相關(guān)內(nèi)容都會注明來源與作者；轉(zhuǎn)載我們原創(chuàng)內(nèi)容時(shí)，也請務(wù)必注明“來源：數(shù)據(jù)猿”與作者名稱，否則將會受到數(shù)據(jù)猿追責(zé)。