我們正處在一場(chǎng)技術(shù)劇變之中，這場(chǎng)劇變將會(huì)改造社會(huì)的組織方式。我們必須現(xiàn)在就做出正確的決定。

數(shù)字化革命如火如荼。它會(huì)怎樣改變我們的世界 我們產(chǎn)生的數(shù)據(jù)量每年都會(huì)翻番。用另一種說(shuō)法：2016年我們產(chǎn)生的數(shù)據(jù)量和人類(lèi)直至2015年的整段歷史的數(shù)據(jù)量相同。每一分鐘，我們都會(huì)制造出幾十萬(wàn)次的谷歌搜索和臉譜網(wǎng)帖文。這些數(shù)據(jù)中包含的信息能揭示我們的思考方式和感受方式。不久后，我們周遭的事物——甚至可能包括我們的衣服——也會(huì)和互聯(lián)網(wǎng)相連。根據(jù)預(yù)測(cè)，10年之后，全球會(huì)有1 500億只聯(lián)網(wǎng)的測(cè)量傳感器，比地球上的人類(lèi)總數(shù)還要多20倍。接著，每過(guò)12小時(shí)，數(shù)據(jù)總量就會(huì)翻番。許多公司早已試圖將這些大數(shù)據(jù)轉(zhuǎn)化成大財(cái)富。所有一切都將變得智慧化，我們不僅會(huì)有智能電話，還會(huì)有智能房屋、智能工廠和智能城市。我們是不是應(yīng)該預(yù)期這些發(fā)展會(huì)促成智能?chē)?guó)家和更智能的星球 

人工智能領(lǐng)域確實(shí)正在取得激動(dòng)人心的進(jìn)展。尤其是人工智能對(duì)數(shù)據(jù)分析自動(dòng)化的貢獻(xiàn)。人工智能如今不是一行行寫(xiě)代碼，而是能夠?qū)W習(xí)知識(shí)，從而不斷發(fā)展自身。近期，谷歌公司的DeepMind算法教會(huì)自己在49款雅達(dá)利公司的游戲中獲勝。算法如今幾乎像人類(lèi)一樣能辨識(shí)出手寫(xiě)語(yǔ)言和模式，甚至比人類(lèi)更出色地完成某些任務(wù)。算法能夠描述出照片和視頻的內(nèi)容。如今，有70%的金融交易是由算法完成的;部分新聞內(nèi)容是自動(dòng)生成的。所有這些都有激進(jìn)的經(jīng)濟(jì)后果：未來(lái)10到20年之內(nèi)，現(xiàn)今的工作中大約有一半會(huì)受到算法的威脅。當(dāng)今的全球500強(qiáng)公司中，有40%的公司會(huì)在10年內(nèi)消失。

可以預(yù)料，超級(jí)電腦不久就會(huì)在幾乎所有領(lǐng)域超越人類(lèi)能力——大約2020到2060年之間。專家開(kāi)始敲響警鐘。特斯拉汽車(chē)公司的埃隆•馬斯克、微軟的比爾•蓋茨和蘋(píng)果公司共同創(chuàng)立人斯蒂夫•沃茲尼亞克等技術(shù)預(yù)言家紛紛發(fā)出警告，超級(jí)智能對(duì)于人類(lèi)來(lái)說(shuō)是個(gè)嚴(yán)重的威脅，或許比核武器更加危險(xiǎn)。這是不是杞人憂天呢 

有一件事很清楚：我們組織經(jīng)濟(jì)和社會(huì)的方式會(huì)徹底改變。我們正在經(jīng)歷二戰(zhàn)結(jié)束以來(lái)最大規(guī)模的變化;在生產(chǎn)自動(dòng)化和自動(dòng)駕駛汽車(chē)問(wèn)世之后，社會(huì)的自動(dòng)化就是下一個(gè)目標(biāo)。社會(huì)處于十字路口，社會(huì)自動(dòng)化有望帶來(lái)更多機(jī)遇，也可能帶來(lái)相當(dāng)多的風(fēng)險(xiǎn)。假如我們做出錯(cuò)誤的決定，就可能會(huì)威脅到人類(lèi)歷史上最了不起的成就。

20世紀(jì)40年代，美國(guó)數(shù)學(xué)家諾伯特•維納創(chuàng)立了控制論。根據(jù)他的說(shuō)法，系統(tǒng)的行為可以由合適的反饋方式來(lái)控制。不久后，一些研究者設(shè)想按照這條基本原理來(lái)控制經(jīng)濟(jì)和社會(huì)，但那時(shí)還無(wú)法獲得必要的技術(shù)。

目前，新加坡被視為用數(shù)據(jù)控制社會(huì)的完美榜樣。最初是想用一個(gè)程序來(lái)保護(hù)新加坡免于恐怖襲擊，結(jié)果卻影響了經(jīng)濟(jì)政策、移民政策、房地產(chǎn)市場(chǎng)和學(xué)校課程。在西方國(guó)家，消費(fèi)者面臨越來(lái)越頻繁的信用核查，有些網(wǎng)上商店還試驗(yàn)了“個(gè)性化定價(jià)”。越來(lái)越顯而易見(jiàn)的是，我們所有人都處在制度性監(jiān)視之下。2015年，英國(guó)情報(bào)機(jī)關(guān)的“因果警察”(Karma Police)程序內(nèi)幕公之于眾，報(bào)道表明每個(gè)英國(guó)人的互聯(lián)網(wǎng)使用情況都受到了全面的篩查。是不是“老大哥”在如今變成了現(xiàn)實(shí) 

程式化的社會(huì)和公民

一切在一開(kāi)始都顯得相當(dāng)無(wú)害。搜索引擎與推薦平臺(tái)開(kāi)始向我們提供關(guān)于產(chǎn)品和服務(wù)的個(gè)性化建議。這些信息是基于之前的搜索、購(gòu)買(mǎi)、旅行和社交互動(dòng)中收集到的個(gè)人數(shù)據(jù)和元數(shù)據(jù)而得出的。盡管根據(jù)官方的說(shuō)法，用戶的身份受到保護(hù)，但實(shí)際上能相當(dāng)容易地推斷出用戶的身份。今時(shí)今日，算法相當(dāng)清楚地知道我們做了什么事，我們?cè)谙胄┦裁?，我們有什么感?mdash;—可能比我們的朋友和家人更加清楚，甚至比我們自己還清楚。所提供的建議往往正好合適，做出的決定感覺(jué)就像是自己做出來(lái)的一樣。實(shí)際上，我們以這種方式受到更加成功的遠(yuǎn)程控制。它們對(duì)我們了解得更多，我們選擇的自由程度隨之降低，愈加可能是被其他人預(yù)先決定好的。但這種情況不會(huì)停下來(lái)。一些軟件平臺(tái)正在向著“誘導(dǎo)計(jì)算”進(jìn)發(fā)。在未來(lái)，這些軟件平臺(tái)使用精密復(fù)雜的操縱技術(shù)，將引導(dǎo)我們歷經(jīng)整個(gè)行為過(guò)程，可能是執(zhí)行復(fù)雜的工作程序，或者是為互聯(lián)網(wǎng)平臺(tái)生成免費(fèi)內(nèi)容，讓那些商業(yè)公司從中賺取幾十億金錢(qián)。趨勢(shì)是從為電腦編程轉(zhuǎn)變至為人類(lèi)編程。

這些技術(shù)在政治圈內(nèi)也正變得越來(lái)越流行。在“助推”的標(biāo)簽下，政府正在企圖大規(guī)模地引導(dǎo)公民轉(zhuǎn)向那些更為健康或更加環(huán)境友善的行為，他們采用的方法就是“助推”——一種家長(zhǎng)式管治的當(dāng)代形式。這種新型的“關(guān)懷型政府”不僅對(duì)我們做什么感興趣，還想確保我們會(huì)做出那些被認(rèn)為是正確的事情。這兒的魔力術(shù)語(yǔ)是“大數(shù)據(jù)助推”，也就是大數(shù)據(jù)和助推的結(jié)合體。對(duì)于許多人而言，這似乎是一種數(shù)字化權(quán)杖，允許統(tǒng)治者以高效的方式管治大眾，而又不必讓公民走民主程序。這種做法能不能戰(zhàn)勝既得利益，讓全世界的發(fā)展路徑最優(yōu)化呢 假如能夠如此，那么公民將被一位數(shù)據(jù)授權(quán)的“睿智國(guó)王”統(tǒng)治，這位“睿智國(guó)王”能夠制造出民眾想要的經(jīng)濟(jì)成果和社會(huì)成果，幾乎就像揮舞“數(shù)字魔棒”一般。

但是，只要稍微讀一下相關(guān)的科學(xué)文獻(xiàn)，就能看到，那些控制民意的企圖盡管想達(dá)到“最優(yōu)化”，卻注定要失敗，原因在于問(wèn)題的復(fù)雜性。民意的形成是個(gè)動(dòng)態(tài)過(guò)程，充滿意外情況。沒(méi)人知道如何揮舞那根“數(shù)字魔棒”——也就是操縱助推的技術(shù)——才能達(dá)到最佳效果。什么是正確手段，什么是錯(cuò)誤手段，常常要到事后才清楚。比如說(shuō)，2009年德國(guó)豬流感大流行，所有人都被鼓勵(lì)去接種疫苗。然而，我們現(xiàn)在知道有一定比例接種疫苗的人患上了一種罕見(jiàn)疾病——發(fā)作性嗜睡病。幸運(yùn)的是，不再有人選擇去接受疫苗接種!

另一個(gè)例子是近期醫(yī)療保險(xiǎn)提供商試圖通過(guò)分發(fā)小型健身手環(huán)，鼓勵(lì)客戶增加鍛煉，目標(biāo)是降低人群中心血管疾病患者的數(shù)量，結(jié)果卻是出現(xiàn)了更多的髖關(guān)節(jié)置換手術(shù)。在社會(huì)之類(lèi)的復(fù)雜系統(tǒng)中，一個(gè)領(lǐng)域的改進(jìn)幾乎必然會(huì)導(dǎo)致另一個(gè)領(lǐng)域的惡化。因此，事實(shí)表明，大規(guī)模干預(yù)有時(shí)能演變成大范圍錯(cuò)誤。

盡管如此，罪犯、恐怖分子和極端主義者遲早會(huì)嘗試去控制那根“數(shù)字魔棒”——甚至可能是在我們未曾注意到的情況下。幾乎所有公司和機(jī)構(gòu)都被黑客侵入過(guò)，甚至連五角大樓、白宮和美國(guó)國(guó)家安全局也沒(méi)幸免。

當(dāng)缺乏充足的透明度和民主控制時(shí)，另一個(gè)問(wèn)題就會(huì)出現(xiàn)：系統(tǒng)從內(nèi)部受到腐蝕。搜索算法和建議系統(tǒng)可能受到影響。一些公司可能對(duì)某些詞匯組合進(jìn)行出價(jià)，攫取更有利的搜索結(jié)果。政府大概也能影響搜索結(jié)果。在大選時(shí)期，他們也許會(huì)助推中間選民，誘導(dǎo)選民支持他們——這種對(duì)選民的操縱難以察覺(jué)到。因而，誰(shuí)控制了這項(xiàng)技術(shù)，誰(shuí)就能贏得選舉——通過(guò)“助推”的方法讓他們攫取權(quán)力。

在許多國(guó)家，某個(gè)搜索引擎或社交媒體平臺(tái)擁有占主導(dǎo)地位的市場(chǎng)份額。這使得以上難題愈加嚴(yán)重。該搜索引擎或社交媒體平臺(tái)可以決定性地影響公眾，遠(yuǎn)程干預(yù)這些國(guó)家。即使歐洲法院在2015年10月6日做出的判決限制了歐洲數(shù)據(jù)的過(guò)度輸出，但潛在的問(wèn)題在歐洲內(nèi)部也依然未得到解決，遑論其他地區(qū)了。

我們能預(yù)料到什么樣的讓人討厭的副作用呢 為了讓操縱不為人注意，需要所謂的“共鳴效應(yīng)”——即給出的建議是針對(duì)每個(gè)個(gè)體充分定制化的。這么做的話，局部趨勢(shì)因重復(fù)而逐漸強(qiáng)化，從而導(dǎo)致“過(guò)濾氣泡”或“回聲室效應(yīng)”：到了最后，或許你所能獲得的只是你自身的意見(jiàn)經(jīng)過(guò)反射回到你面前。這會(huì)引起社會(huì)兩極化，結(jié)果形成各自不同的社會(huì)群體，彼此間不再能相互理解，而且發(fā)現(xiàn)彼此間的沖突愈演愈烈。個(gè)性化信息能夠以這種方式在無(wú)意間摧毀社會(huì)凝聚力。目前能夠在美國(guó)政治中觀察到這種現(xiàn)象，民主黨人與共和黨人游離得越來(lái)越遠(yuǎn)，政治妥協(xié)變得幾乎不可能，結(jié)果就是社會(huì)的碎片化，甚至可能是社會(huì)的瓦解。由于共鳴效應(yīng)，社會(huì)民意的大規(guī)模變化只能緩慢和逐步形成。效應(yīng)的發(fā)生有時(shí)間延遲，但也無(wú)法輕易地撤銷(xiāo)。譬如說(shuō)，針對(duì)少數(shù)族裔或外來(lái)移民的憤恨可能會(huì)失去控制;民族主義情緒過(guò)度的話，可能引發(fā)歧視、極端主義和矛盾沖突。

或許，更為意味深遠(yuǎn)的事實(shí)在于操縱方法改變了我們做決定的方式。它們壓制了其他相關(guān)文化和社會(huì)線索，起碼是暫時(shí)的壓制。歸納來(lái)說(shuō)，操縱方法的大規(guī)模應(yīng)用可能引發(fā)嚴(yán)重的社會(huì)損害，包括在數(shù)位世界中的行為殘忍化。誰(shuí)應(yīng)該為此承擔(dān)責(zé)任 

法律問(wèn)題

鑒于過(guò)去數(shù)年里對(duì)煙草公司、銀行、IT公司和汽車(chē)公司的巨額罰金，其間產(chǎn)生的法律問(wèn)題不應(yīng)該被忽略。但是，假如操縱技術(shù)違法的話，違反了哪部法律呢 首先，操縱技術(shù)顯然限制了選擇的自由。假如對(duì)我們的行為的遠(yuǎn)程控制完美運(yùn)轉(zhuǎn)的話，我們本質(zhì)上會(huì)成為數(shù)字時(shí)代的奴隸，因?yàn)槲覀冎粫?huì)執(zhí)行那些實(shí)際上早已由其他人做好的決定。當(dāng)然，操縱技術(shù)只會(huì)在部分程度上有效。盡管如此，我們的自由確實(shí)正在緩慢消失——實(shí)際上，正因?yàn)樽銐蚓徛胖两裎丛艿焦姷囊欢↑c(diǎn)抵制。

偉大的啟蒙思想家伊曼努爾•康德的見(jiàn)解似乎與這兒的問(wèn)題密切相關(guān)。康德說(shuō)過(guò)，一個(gè)企圖決定其公民幸福與否的國(guó)家是個(gè)專制國(guó)家。然而，個(gè)體自我發(fā)展的權(quán)利只能由那些掌控自身人生的人來(lái)踐行，這樣也就預(yù)先假定了“信息自我決定權(quán)”。這大概是我們最為重要的憲法權(quán)利。除非這些權(quán)利得到尊重，否則民主政治無(wú)法良好地運(yùn)行。假若這些權(quán)利遭到限制，那就會(huì)削弱憲政、社會(huì)與國(guó)家。

大數(shù)據(jù)助推之類(lèi)的操縱技術(shù)的運(yùn)轉(zhuǎn)方式類(lèi)似于個(gè)性化廣告，因此其他法律也受到了影響。廣告必須明確標(biāo)明，不可誤導(dǎo)他人，也不允許利用某些心理學(xué)花招，譬如知覺(jué)閾限下刺激。這正是嚴(yán)禁在一部電影的某個(gè)瞬間顯示出軟性飲料畫(huà)面的原因，因?yàn)槟菢拥膹V告并非意識(shí)可察覺(jué)的，但可能仍然具有潛意識(shí)效應(yīng)。此外，當(dāng)前對(duì)個(gè)人數(shù)據(jù)的廣泛收集和處理肯定不符合在歐洲國(guó)家和世界其他角落實(shí)施的數(shù)據(jù)保護(hù)方面的法律條文。

最后，個(gè)性化定價(jià)的合法性值得質(zhì)疑，因?yàn)樗赡転E用內(nèi)幕信息。其他相關(guān)方面包括可能破壞平等原則、無(wú)歧視原則和競(jìng)爭(zhēng)法，因?yàn)樽杂墒袌?chǎng)準(zhǔn)入和價(jià)格透明不再有保障。這種情況可以比擬為某些公司在其他國(guó)家以低價(jià)銷(xiāo)售它們的產(chǎn)品，但又要試圖避免消費(fèi)者通過(guò)這些國(guó)家來(lái)購(gòu)買(mǎi)產(chǎn)品。在過(guò)去，這類(lèi)案例的結(jié)果往往是高額罰金。

個(gè)性化廣告和定價(jià)無(wú)法與經(jīng)典廣告或折扣優(yōu)惠券相比，因?yàn)楹笳呤欠翘囟ǖ?，不?huì)以利用我們的心理弱點(diǎn)和破壞我們的批判性思考為目標(biāo)而侵犯我們的隱私。此外，讓我們不要忘記，在學(xué)術(shù)圈里，就算是毫無(wú)危害的決策實(shí)驗(yàn)也被認(rèn)為是以人為對(duì)象的實(shí)驗(yàn)，這樣就得獲得倫理委員會(huì)的批準(zhǔn)。在每一個(gè)案例中，相關(guān)人士被要求給予知情同意。相比之下，鼠標(biāo)一點(diǎn)，就確認(rèn)我們贊同1份100頁(yè)厚的“使用條款”協(xié)議(如今的許多資訊平臺(tái)都是這樣的做法)顯得非常不足。

然而，助推這樣的操縱技術(shù)正在數(shù)百萬(wàn)人身上做著實(shí)驗(yàn)，沒(méi)有告知那些人，沒(méi)有透明公開(kāi)，更沒(méi)有倫理約束。即便是臉譜網(wǎng)這樣的大型社交網(wǎng)站或者OkCupid這樣的線上約會(huì)平臺(tái)，都已經(jīng)公開(kāi)承認(rèn)做過(guò)這類(lèi)社會(huì)實(shí)驗(yàn)。假如我們希望避免對(duì)人類(lèi)和社會(huì)的不負(fù)責(zé)任的研究(想想近期的拷問(wèn)丑聞中心理學(xué)家們的卷入程度)，那么我們迫切地需要實(shí)行高標(biāo)準(zhǔn)，尤其是科研質(zhì)量標(biāo)準(zhǔn)和類(lèi)似于希波克拉底誓詞的行為準(zhǔn)則。

思考、自由和民主有沒(méi)有遭到侵蝕 

讓我們假設(shè)有一臺(tái)超智能的機(jī)器，它擁有神一般的知識(shí)和超過(guò)人類(lèi)的能力：我們會(huì)遵循它的指示嗎 看起來(lái)有可能。但假如我們這么做了，那么埃隆•馬斯克、比爾•蓋茨、斯蒂夫•沃茲尼亞克、斯蒂芬•霍金和其他人之前表達(dá)過(guò)的警告就會(huì)成真：計(jì)算機(jī)會(huì)控制這個(gè)世界。我們必須清楚地認(rèn)識(shí)到，超級(jí)智能也可能犯錯(cuò)、撒謊、追求自我利益或者受到操縱。尤其在于它不能與整個(gè)人類(lèi)的分布式集體智能相提并論。

用一個(gè)計(jì)算機(jī)集群替代所有公民思考的想法是荒謬的，因?yàn)槟菢訒?huì)大大降低所達(dá)成的解決方案的多樣性與質(zhì)量。盡管近期數(shù)據(jù)大批涌現(xiàn)，對(duì)個(gè)人化信息的使用也大為增加，但全球的問(wèn)題并未減少，反而有所增加，這點(diǎn)早已經(jīng)清清楚楚。世界的和平是脆弱的。氣候的長(zhǎng)期變化將會(huì)導(dǎo)致物種數(shù)量自恐龍滅絕以來(lái)的最大損失。我們也遠(yuǎn)遠(yuǎn)還沒(méi)有克服金融危機(jī)和它對(duì)經(jīng)濟(jì)的影響。網(wǎng)絡(luò)犯罪預(yù)計(jì)將會(huì)引起每年3萬(wàn)億美元的損失。一些國(guó)家和恐怖分子們正在準(zhǔn)備發(fā)動(dòng)網(wǎng)絡(luò)戰(zhàn)爭(zhēng)。

在一個(gè)迅速改變的世界里，超級(jí)智能永遠(yuǎn)無(wú)法做出完美的決策(見(jiàn)圖1)：系統(tǒng)復(fù)雜性增加得比數(shù)據(jù)量更快，數(shù)據(jù)量又增加得比數(shù)據(jù)處理能力更快，而數(shù)據(jù)遷移速度是有限的。最終結(jié)果就是忽視局部知識(shí)和事實(shí)，而局部知識(shí)和事實(shí)對(duì)于得出好的解決方案是至關(guān)重要的。分布式、局部控制的方法經(jīng)常優(yōu)于集中式方法，尤其是在行為多變、幾乎無(wú)法預(yù)測(cè)和不能進(jìn)行實(shí)時(shí)最優(yōu)化的復(fù)雜系統(tǒng)中。這個(gè)結(jié)論對(duì)于城市中的交通控制早已經(jīng)是正確結(jié)論，對(duì)于高度網(wǎng)絡(luò)化、全球化的社會(huì)和經(jīng)濟(jì)系統(tǒng)來(lái)說(shuō)更是如此。

此外還存在一種危險(xiǎn)，用強(qiáng)大的算法對(duì)決策進(jìn)行操縱，這樣會(huì)削弱“集體智能”的基礎(chǔ)。而集體智能能夠靈活地適應(yīng)我們復(fù)雜世界的各種挑戰(zhàn)。要讓集體智能發(fā)揮作用的話，個(gè)人的信息搜尋和決策必須獨(dú)立進(jìn)行。假如我們的判斷和決策由算法預(yù)先決定，這確實(shí)會(huì)導(dǎo)致對(duì)人們的洗腦。智能生物被降格為純粹的指令接收者，只會(huì)自動(dòng)對(duì)刺激做出反應(yīng)。

換言之：個(gè)性化信息在我們周?chē)圃炝?ldquo;過(guò)濾氣泡”，一種禁錮我們思想的數(shù)字化監(jiān)獄。在這種情形下，怎么可能進(jìn)行創(chuàng)造性思考，怎么可能“跳出箱子”思考 最終，一個(gè)使用超智能信息系統(tǒng)進(jìn)行社會(huì)控制、技術(shù)統(tǒng)治的中央集權(quán)體制會(huì)導(dǎo)致新形式的獨(dú)裁體制。從而，下行控制的社會(huì)(打著“自由家長(zhǎng)制”的旗號(hào))與被光明外表掩蓋的極權(quán)主義政權(quán)并無(wú)不同。

事實(shí)上，大數(shù)據(jù)助推的目標(biāo)是讓許多人的行動(dòng)一致化，操縱他們的看法和決定。此舉讓它置于宣傳之境，通過(guò)行為控制對(duì)公民處以有的放矢的隔離措施。我們預(yù)計(jì)從長(zhǎng)遠(yuǎn)來(lái)看后果是毀滅性的，尤其是考慮到上面提到過(guò)的削弱基礎(chǔ)的影響。

圖1 數(shù)字化的增長(zhǎng)趨勢(shì)

更好的數(shù)字化社會(huì)

盡管有著激烈的全球競(jìng)爭(zhēng)，民主政體仍然會(huì)保持審慎和睿智，不會(huì)把數(shù)百年以來(lái)的成就完全摒棄。與其他政權(quán)不同，西方民主國(guó)家有一個(gè)優(yōu)點(diǎn)，它們?cè)缫呀?jīng)學(xué)會(huì)與多元文化論和社會(huì)的多樣性打交道?，F(xiàn)在，它們只用再去學(xué)習(xí)如何進(jìn)一步利用它們的優(yōu)勢(shì)。

未來(lái)，那些民主國(guó)家會(huì)起到領(lǐng)導(dǎo)作用，在企業(yè)、政府和公民之間達(dá)成健康的平衡。這就要求有網(wǎng)狀思維，并建立起一個(gè)信息、創(chuàng)新、制造和服務(wù)共存的“生態(tài)系統(tǒng)”。為了讓這個(gè)機(jī)制良好運(yùn)轉(zhuǎn)，重要的不僅僅是要?jiǎng)?chuàng)造出參與的機(jī)會(huì)，而且要支持多樣性。因?yàn)閷?shí)際上無(wú)法決定最佳的目標(biāo)職能：我們應(yīng)該讓人均國(guó)民生產(chǎn)總值最大化，還是注重可持續(xù)發(fā)展 是選擇權(quán)力還是和平 是選擇幸福還是預(yù)期壽命 常常，哪種選擇會(huì)更好只有在木已成舟后才知道。多元社會(huì)允許個(gè)體追求各種不同的目標(biāo)，能更好地應(yīng)付各種意外出現(xiàn)的挑戰(zhàn)。

圖2 數(shù)字化的十字路口

中央集權(quán)、下行控制是屬于過(guò)去的解決方案，只適合低復(fù)雜性的系統(tǒng)。因此，聯(lián)邦制和多數(shù)決定是當(dāng)前的解決方案。隨著經(jīng)濟(jì)和文化進(jìn)化，社會(huì)復(fù)雜性會(huì)繼續(xù)上升。所以，面向未來(lái)的解決方案是集體智能。這意味著對(duì)于獲得更多知識(shí)、想法和資源來(lái)說(shuō)，公眾科學(xué)、眾包和線上討論平臺(tái)是極其重要的新方式。

集體智能要求有高度的多樣性。然而，今時(shí)今日的個(gè)性化信息系統(tǒng)強(qiáng)化了趨勢(shì)，減少了多樣性。

社會(huì)的多樣性與生物多樣性一樣重要。它不僅激發(fā)集體智能和創(chuàng)新，也刺激出社會(huì)的彈性——我們的社會(huì)應(yīng)付突如其來(lái)的打擊的能力。降低社會(huì)多樣性常常也就降低了經(jīng)濟(jì)體與社會(huì)的功能性。這就是極權(quán)主義政權(quán)往往最終會(huì)與鄰國(guó)發(fā)生戰(zhàn)爭(zhēng)的原因。典型的長(zhǎng)期后果是政治不穩(wěn)定和戰(zhàn)爭(zhēng)，正如人類(lèi)歷史中反復(fù)發(fā)生的那樣。因此，多元化和大眾參與不應(yīng)該被視為對(duì)公民的讓步，而是應(yīng)當(dāng)看成是促成繁榮興旺的、復(fù)雜的現(xiàn)代社會(huì)的功能先決條件。

總的來(lái)說(shuō)，可以說(shuō)人類(lèi)目前處在十字路口(見(jiàn)圖2)。大數(shù)據(jù)、人工智能、控制論和行為經(jīng)濟(jì)學(xué)正在重塑我們的社會(huì)——重塑得更好或更壞。假如這些廣泛傳播的技術(shù)與我們社會(huì)的核心價(jià)值不相容的話，它們遲早會(huì)導(dǎo)致大范圍的損害。它們可能導(dǎo)向一個(gè)具備極權(quán)主義特征的自動(dòng)化社會(huì)。在最糟糕的情況下，一個(gè)中央集權(quán)的人工智能會(huì)控制我們的所知、所想和行為。我們處在歷史性的重大時(shí)刻，必須決定好正確的路徑——那條路徑將允許人類(lèi)全體從數(shù)字化革命中獲益。因此，我們強(qiáng)烈要求遵守下列基本準(zhǔn)則：讓信息系統(tǒng)的運(yùn)轉(zhuǎn)進(jìn)一步去中心化;支持信息的自我決定和參與;改善透明度，實(shí)現(xiàn)更高的信任;減少信息扭曲和信息污染;讓用戶控制的信息過(guò)濾器變成可能;支持社會(huì)和經(jīng)濟(jì)層面的多樣性;改善互操作性和合作機(jī)會(huì);創(chuàng)造數(shù)字助手和協(xié)調(diào)工具;支持集體智能;通過(guò)數(shù)位素養(yǎng)和啟蒙，推動(dòng)公民在數(shù)字化世界的負(fù)責(zé)任行為。

遵循這套數(shù)字化議程的話，我們所有人都會(huì)從數(shù)字化革命的成果中獲益：無(wú)論是經(jīng)濟(jì)體，政府，還是公民都一樣能獲益。我們?cè)诘却裁茨?nbsp;

數(shù)字化時(shí)代的戰(zhàn)略

毫無(wú)疑問(wèn)，大數(shù)據(jù)和人工智能是重要的創(chuàng)新。它們具備巨大的潛能，能夠催化經(jīng)濟(jì)價(jià)值和社會(huì)進(jìn)步，從個(gè)性化的醫(yī)療護(hù)理直至可持續(xù)城市。然而，使用這些技術(shù)來(lái)讓公民失去行為能力是完全無(wú)法接受的。大數(shù)據(jù)助推和公民評(píng)分的濫用主要收集個(gè)人數(shù)據(jù)用于行為控制，這樣的做法本質(zhì)上屬于極權(quán)主義。這不僅與人權(quán)原則和民主原則無(wú)法相容，也不適合用來(lái)管理當(dāng)代的創(chuàng)新社會(huì)。為了解決這個(gè)世界的真正難題，在信息和風(fēng)險(xiǎn)管理的領(lǐng)域需要有更好的方法。應(yīng)該如何為了社會(huì)福祉而使用大數(shù)據(jù)和人工智能，負(fù)責(zé)任創(chuàng)新研究領(lǐng)域和“人類(lèi)的數(shù)據(jù)”倡議對(duì)此提供了指引。

我們現(xiàn)在能做什么 首先，即便在數(shù)字化革命的時(shí)代，公民的基本權(quán)利應(yīng)當(dāng)受到保護(hù)，因?yàn)樗鼈兪乾F(xiàn)代機(jī)能的民主社會(huì)存在的基礎(chǔ)性先決條件。這要求創(chuàng)造出全新的、基于信任與合作的社會(huì)契約，不會(huì)將公民和客戶視為障礙或者可以利用的資源，而是視為合作伙伴。為了這個(gè)目標(biāo)，國(guó)家得要提供合適的監(jiān)管框架，確保技術(shù)的設(shè)計(jì)和使用都在與民主相容的方式下進(jìn)行。這樣就要求必須確保信息的自我決定，不僅是理論上，而是要在實(shí)際中確保，因?yàn)檫@是我們以自我決定和負(fù)責(zé)任的方式生活的前提條件。

對(duì)于那些有關(guān)方面收集到的關(guān)于我們的個(gè)人數(shù)據(jù)，我們也應(yīng)該有權(quán)獲得一份副本。應(yīng)該用法律來(lái)規(guī)定好這些信息必須以標(biāo)準(zhǔn)格式自動(dòng)發(fā)送一份副本到一處個(gè)人數(shù)據(jù)倉(cāng)庫(kù)，個(gè)人借助這些倉(cāng)庫(kù)能夠?qū)@些數(shù)據(jù)的使用進(jìn)行管理(可能在專門(mén)的基于人工智能的數(shù)字助手支持下)。為了更好的隱私保護(hù)和避免歧視，未經(jīng)授權(quán)使用數(shù)據(jù)的行為必須受到法律的嚴(yán)懲。個(gè)人能決定誰(shuí)能為了什么目的而使用他們的信息，并且要使用多久。更進(jìn)一步地，應(yīng)當(dāng)采取適當(dāng)?shù)拇胧﹣?lái)確保信息的安全存放和流通。

此外，我們需要為公民準(zhǔn)備高效的投訴程序以及違反規(guī)定時(shí)的有效處罰措施。最終，為了創(chuàng)造出充分的透明度和信任，領(lǐng)先的科研機(jī)構(gòu)應(yīng)當(dāng)擔(dān)任數(shù)據(jù)和算法的保管者，這些數(shù)據(jù)和算法在目前規(guī)避了民主的管理。這也要求建立一套合適的行為準(zhǔn)則，最起碼任何一位能接觸到敏感數(shù)據(jù)與算法的人都必須遵守這套準(zhǔn)則——這就像是為IT界專業(yè)人士準(zhǔn)備的希波克拉底誓詞。

更進(jìn)一步地，我們會(huì)要求建立一套數(shù)字化議程，為新類(lèi)型的工作和數(shù)字社會(huì)的未來(lái)打下基礎(chǔ)。每年，我們都投資數(shù)十億美元在農(nóng)業(yè)領(lǐng)域、公共基礎(chǔ)設(shè)施、學(xué)校和高等院校——讓工業(yè)和服務(wù)業(yè)獲益。

我們需要用哪種公共系統(tǒng)來(lái)確保數(shù)字化社會(huì)能夠成功 

第一，需要有全新的教育概念，應(yīng)當(dāng)更加聚焦在批判性思考、創(chuàng)造力、發(fā)明創(chuàng)新和創(chuàng)業(yè)精神上，而不是制造標(biāo)準(zhǔn)化的工人。

教育應(yīng)當(dāng)讓教育對(duì)象明白如何負(fù)責(zé)任和審慎地使用數(shù)字化技術(shù)，因?yàn)楣癖仨毲宄刂罃?shù)字化世界如何與現(xiàn)實(shí)世界糾纏在一起。為了有效和負(fù)責(zé)任地行使他們的權(quán)利，公民必須對(duì)這些技術(shù)有所了解，也應(yīng)該對(duì)那些非法的使用有所涉獵。這便是進(jìn)一步需要科學(xué)、產(chǎn)業(yè)、政治和教育機(jī)構(gòu)確保這些知識(shí)廣泛地傳播出去的原因。

第二，需要有一個(gè)參與平臺(tái)讓人們更容易成為自雇人士，建立自身的項(xiàng)目，尋找合作伙伴，為產(chǎn)品和服務(wù)在全球做營(yíng)銷(xiāo)，管理資源，支付稅收和社保繳款。

作為補(bǔ)充，城鎮(zhèn)甚至村莊都可以為新興的數(shù)字化社群設(shè)立中心(類(lèi)似開(kāi)放創(chuàng)新實(shí)驗(yàn)室)，各種想法可以在那兒被共同開(kāi)發(fā)和免費(fèi)測(cè)試。由于在這些中心可以找到開(kāi)放和革新的工作方式，應(yīng)該能推動(dòng)大規(guī)模的合作創(chuàng)新。政府和產(chǎn)業(yè)公司致力于開(kāi)放數(shù)據(jù)戰(zhàn)略，進(jìn)一步讓數(shù)據(jù)可供科學(xué)和公眾使用，為高效的、與世界所面臨的挑戰(zhàn)同步的信息和創(chuàng)新生態(tài)系統(tǒng)創(chuàng)造出適合的條件。

第三，構(gòu)建由公民運(yùn)營(yíng)的“數(shù)字神經(jīng)系統(tǒng)”，能夠?yàn)樗腥碎_(kāi)啟物聯(lián)網(wǎng)的新機(jī)遇，能向所有人提供實(shí)時(shí)數(shù)據(jù)測(cè)量。

假如我們想以更加可持續(xù)性的方式利用資源，減緩氣候變化，我們需要度量我們與其他人和環(huán)境互動(dòng)的正面和負(fù)面的影響。通過(guò)使用合適的反饋環(huán)，可以特定方式影響系統(tǒng)，通過(guò)自組織的方式讓系統(tǒng)實(shí)現(xiàn)想要的結(jié)果。

為了更好地應(yīng)付未來(lái)世界的復(fù)雜性和多樣性，將其轉(zhuǎn)化成優(yōu)勢(shì)，我們會(huì)需要個(gè)人數(shù)字助手。這些數(shù)字助手也會(huì)從人工智能領(lǐng)域的發(fā)展中獲益?？梢灶A(yù)期，在未來(lái)會(huì)有無(wú)數(shù)網(wǎng)絡(luò)連接人類(lèi)和人工智能，這些網(wǎng)絡(luò)會(huì)按照需要而靈活地建造和重新配置。然而，為了讓我們保留對(duì)我們?nèi)松目刂茩?quán)，這些網(wǎng)絡(luò)應(yīng)該以分布式方式來(lái)控制。尤其在于用戶必須能夠依照意愿登錄和退出。

來(lái)源：戰(zhàn)略前沿技術(shù)