當(dāng)?shù)貢r(shí)間2021年12月10日，美國(guó)財(cái)政部把中國(guó)人工智能公司商湯科技列入投資黑名單，理由是商湯科技“人臉識(shí)別技術(shù)涉嫌侵犯人權(quán)”。而12月10日正是商湯科技為其香港IPO定價(jià)的時(shí)間。

另外，美國(guó)財(cái)政部以所謂“侵犯人權(quán)”為借口將中國(guó)、俄羅斯、朝鮮、緬甸、孟加拉國(guó)五個(gè)國(guó)家的共15名個(gè)人及10個(gè)實(shí)體列入美國(guó)財(cái)政部海外資產(chǎn)控制辦公室的制裁名單，其中有包括3名中國(guó)公民及多家中企。

事實(shí)上，2019年10月，美國(guó)商務(wù)部就曾以所謂“新疆人權(quán)”為由把商湯科技加入實(shí)體清單。一同被加入實(shí)體清單的還有大華科技、海康威視、科大訊飛、曠視科技等。被加入實(shí)體清單一般面臨的制裁是出口管制，也就是沒(méi)有美國(guó)政府許可情況下，特定商品、技術(shù)或服務(wù)不得提供給實(shí)體清單上的企業(yè)。

第一時(shí)間反擊

商湯于12月11日迅速對(duì)此事作出了回應(yīng)，原文如下：

我們對(duì)于這一決定與相關(guān)指控表示強(qiáng)烈反對(duì)。我們認(rèn)為該決定與相關(guān)指控毫無(wú)根據(jù)，反映了對(duì)我公司根本性的誤解。科技發(fā)展不應(yīng)該受到地緣政治的影響。

商湯是領(lǐng)先的人工智能軟件公司，致力于發(fā)展可持續(xù)、負(fù)責(zé)任并合乎倫理的人工智能技術(shù)與應(yīng)用。我們?cè)诟鱾€(gè)方面嚴(yán)格遵守相關(guān)國(guó)家和地區(qū)的法律、法規(guī)。

此外，商湯倫理委員會(huì)吸納內(nèi)外部專(zhuān)家成員，制定并監(jiān)督實(shí)施嚴(yán)格的人工智能技術(shù)使用的倫理標(biāo)準(zhǔn)，讓人工智能技術(shù)能獲得恰當(dāng)?shù)膽?yīng)用。

同時(shí)，商湯廣泛同第三方機(jī)構(gòu)與國(guó)際組織合作，制定了一系列人工智能可持續(xù)發(fā)展倫理治理原則，以負(fù)責(zé)任的態(tài)度推動(dòng)人工智能技術(shù)可持續(xù)發(fā)展。

滿懷“用技術(shù)讓人們的生活更美好”的向往，一群人工智能科學(xué)家和從業(yè)者創(chuàng)立了商湯。我們將矢志不渝，繼續(xù)踐行“堅(jiān)持原創(chuàng)，讓AI引領(lǐng)人類(lèi)進(jìn)步”的使命，并全力保護(hù)公司和相關(guān)利益方的權(quán)益。

商湯科技官網(wǎng)截圖

公開(kāi)資料顯示，商湯科技成立于2014年，是一家專(zhuān)注于計(jì)算機(jī)視覺(jué)和深度學(xué)習(xí)技術(shù)的AI軟件公司。商湯科技可以說(shuō)是亞洲最大的人工智能軟件公司。根據(jù)商湯科技的招股說(shuō)明書(shū)顯示，2021年上半年，商湯公司總收入為16.518億人民幣。主要業(yè)務(wù)分智慧商業(yè)、智慧城市、智慧生活和智能汽車(chē)四大塊。

在商湯發(fā)布的反擊聲明中，我們看到幾個(gè)關(guān)鍵詞，“負(fù)責(zé)任并合乎倫理的人工智能技術(shù)與應(yīng)用”“人工智能技術(shù)使用的倫理標(biāo)準(zhǔn)”，這顯然是美國(guó)政府所謂“侵犯人權(quán)”的指責(zé)的解釋和反擊，那么到底什么是負(fù)責(zé)任并合乎倫理的人工智能技術(shù)？到底什么是人工智能技術(shù)使用的倫理標(biāo)準(zhǔn)？

無(wú)論指責(zé)是否荒謬，無(wú)論這種打壓是否和國(guó)際大背景有千絲萬(wàn)縷的關(guān)系，我們依然有必要從技術(shù)層面重新審視AI的可持續(xù)發(fā)展。

探索的腳步從未停止

根據(jù)公開(kāi)資料顯示，商湯在招股說(shuō)明書(shū)的“業(yè)務(wù)-數(shù)據(jù)隱私及個(gè)人信息保護(hù)”模塊中表示，其高度重視數(shù)據(jù)安全及保護(hù)，已采取標(biāo)準(zhǔn)保護(hù)措施，包括保密分類(lèi)、訪問(wèn)控制、數(shù)據(jù)加密及脫敏，以防止未經(jīng)授權(quán)訪問(wèn)、泄露、不當(dāng)使用或修改、損害或丟失數(shù)據(jù)及個(gè)人數(shù)據(jù)；已建立全面的個(gè)人資料管理系統(tǒng)，并制訂一系列技術(shù)標(biāo)準(zhǔn)及規(guī)范，以確保數(shù)據(jù)及個(gè)人資料于整個(gè)生命周期內(nèi)的安全。

商湯主要采取以下原則來(lái)應(yīng)對(duì)數(shù)據(jù)隱私和個(gè)人信息保護(hù)：數(shù)據(jù)的授權(quán)存取及使用，獨(dú)立數(shù)據(jù)庫(kù)及安全服務(wù)器系統(tǒng)，全面的數(shù)據(jù)及個(gè)人資料安全及管理政策、定期審核及應(yīng)急計(jì)劃。

商湯在數(shù)據(jù)隱私方面不可謂不重視，2021年2月，商湯科技還通過(guò)權(quán)威認(rèn)證機(jī)構(gòu)BSI審核，獲得 ISO/IEC 27701:2019隱私信息管理體系認(rèn)證。對(duì)于AI公司來(lái)說(shuō)，算法倫理和數(shù)據(jù)合規(guī)依然是IPO最大的潛在風(fēng)險(xiǎn)之一。在過(guò)去一年的時(shí)間里，依圖、曠視、云從、海天瑞聲、云天勵(lì)飛、格靈深瞳、云知聲等“AI概念股”扎堆涌向IPO。梳理被問(wèn)詢(xún)的內(nèi)容，數(shù)據(jù)合規(guī)及科技倫理均是審核的關(guān)注焦點(diǎn)，這也成為AI企業(yè)主動(dòng)尋求解決方案的原動(dòng)力。

當(dāng)前，業(yè)界解決隱私泄露和數(shù)據(jù)濫用的數(shù)據(jù)共享技術(shù)路線主要有兩條：一條是基于硬件可信執(zhí)行環(huán)境技術(shù)的可信計(jì)算，另一條就是基于密碼學(xué)的同態(tài)加密和多方安全計(jì)算。

這兩種方法一種是集中式，一種是分布式。集中式借助硬件，分布式借助密碼學(xué)算法。集中式以螞蟻金服為代表。他們提出共享學(xué)習(xí)的概念，底層使用Intel的SGX技術(shù)，試圖打造出以阿里云為中心的商業(yè)模式。

而分布式的保護(hù)方式，基于密碼學(xué)的同態(tài)加密和多方安全計(jì)算（MPC：Multi-party Computation），之前一直是學(xué)術(shù)界比較火的話題，但在工業(yè)界的存在感較弱，直到“聯(lián)邦學(xué)習(xí)” 概念的出現(xiàn)，才使得MPC技術(shù)一夜之間在工業(yè)界火了起來(lái)。

針對(duì)數(shù)據(jù)維度不同，聯(lián)邦學(xué)習(xí)分為縱向聯(lián)邦學(xué)習(xí)、橫向聯(lián)邦學(xué)習(xí)、聯(lián)邦遷移學(xué)習(xí)，可以充分應(yīng)對(duì)用戶(hù)重疊、用戶(hù)特征重疊的各種情況。這種能夠讓參與方在數(shù)據(jù)不出本地的基礎(chǔ)上聯(lián)合建模的方法，顯然更能考慮數(shù)據(jù)擁有者的顧慮。

聯(lián)邦學(xué)習(xí)——或?yàn)榻K極解決方案

2020年7月，商湯科技開(kāi)始將“聯(lián)邦學(xué)習(xí)”應(yīng)用于AI醫(yī)療的可持續(xù)發(fā)展，事實(shí)上，“聯(lián)邦學(xué)習(xí)”在這兩年已經(jīng)開(kāi)始被廣泛地關(guān)注和應(yīng)用。

聯(lián)邦學(xué)習(xí)是什么？它能成為解決AI的數(shù)據(jù)隱私問(wèn)題的終極解決方案么？

簡(jiǎn)單地說(shuō)，聯(lián)邦學(xué)習(xí)是一種分布式加密機(jī)器學(xué)習(xí)技術(shù)范式，因其可兼顧大數(shù)據(jù)合作需求和隱私安全保護(hù)，近兩年發(fā)展極為迅速，漸漸成為各行各業(yè)大數(shù)據(jù)合作與AI協(xié)作的“標(biāo)配”，尤其是金融、醫(yī)療、智慧城市等對(duì)數(shù)據(jù)安全要求極高的強(qiáng)監(jiān)管行業(yè)。對(duì)這一技術(shù)系統(tǒng)化的認(rèn)知需求也愈發(fā)強(qiáng)烈。

聯(lián)邦學(xué)習(xí)解決的是什么樣的問(wèn)題呢？事實(shí)上，聯(lián)邦學(xué)習(xí)可以與分布式機(jī)器學(xué)習(xí)、密碼學(xué)和安全深度結(jié)合，并吸納經(jīng)濟(jì)學(xué)原理和博弈論的激勵(lì)機(jī)制設(shè)計(jì)相關(guān)理論，以解決：在數(shù)據(jù)不出本地、確保數(shù)據(jù)安全的情況下，讓多個(gè)數(shù)據(jù)擁有者共享數(shù)據(jù)模型的問(wèn)題。也就是說(shuō)建立一個(gè)共有模型，在建立共有模型的時(shí)候，數(shù)據(jù)本身不移動(dòng)，因此不泄露隱私，符合數(shù)據(jù)合規(guī)要求，建好的模型也僅在各自的區(qū)域?yàn)楸镜氐哪繕?biāo)服務(wù)。在這樣一個(gè)聯(lián)邦機(jī)制下，參與方越多，模型效果越好，各個(gè)參與者的身份和地位相同，實(shí)現(xiàn)“共同富裕”。

谷歌于2016年利用聯(lián)邦學(xué)習(xí)解決安卓手機(jī)終端用戶(hù)在本地更新模型的問(wèn)題，也即能夠基于本地小數(shù)據(jù)進(jìn)行不斷機(jī)器學(xué)習(xí)訓(xùn)練。而聯(lián)邦學(xué)習(xí)在國(guó)內(nèi)興起確實(shí)因?yàn)樗悄壳敖鉀Q國(guó)內(nèi)企業(yè)數(shù)據(jù)孤島現(xiàn)狀的最佳“良藥”。

聯(lián)邦學(xué)習(xí)自推出以來(lái)，業(yè)界就高度重視聯(lián)邦學(xué)習(xí)，并發(fā)布了數(shù)個(gè)開(kāi)源框架。這些開(kāi)源框架分別由谷歌（Tensorflow Federated）、OpenMined（Pysyft）、百度（PaddleFL）和微眾銀行（Fate）等牽頭。與此同時(shí)，英偉達(dá)Clara和微眾銀行也推出了聯(lián)邦學(xué)習(xí)的商業(yè)化產(chǎn)品。目前，聯(lián)邦學(xué)習(xí)已經(jīng)在各行各業(yè)開(kāi)花結(jié)果。

也正是因?yàn)橹袊?guó)專(zhuān)家們的努力，使得中國(guó)逐漸走在了聯(lián)邦學(xué)習(xí)的前端，2018年底由微眾銀行等企業(yè)帶頭向IEEE標(biāo)準(zhǔn)協(xié)會(huì)遞交了聯(lián)邦學(xué)習(xí)關(guān)于聯(lián)邦學(xué)習(xí)架構(gòu)和應(yīng)用規(guī)范的標(biāo)準(zhǔn)P3652.1。2021年3月份，聯(lián)邦學(xué)習(xí)IEEE標(biāo)準(zhǔn)草案完成并通過(guò)標(biāo)準(zhǔn)工作組表決。IEEE是全球最大的非營(yíng)利性專(zhuān)業(yè)技術(shù)學(xué)會(huì)，在學(xué)術(shù)及國(guó)際標(biāo)準(zhǔn)等領(lǐng)域具有公認(rèn)權(quán)威性，已經(jīng)制定了900多個(gè)現(xiàn)行工業(yè)標(biāo)準(zhǔn)。

幾年來(lái)，海內(nèi)外多家企業(yè)和研究機(jī)構(gòu)合作參與制定的聯(lián)邦學(xué)習(xí)IEEE標(biāo)準(zhǔn)。但與其他諸多國(guó)際標(biāo)準(zhǔn)不同的是，在這次標(biāo)準(zhǔn)制定中，國(guó)內(nèi)企業(yè)占據(jù)了主導(dǎo)地位。

2021年7月份，微眾銀行向電氣和電子工程師協(xié)會(huì)（IEEE）提交的“可解釋AI（XAI）”標(biāo)準(zhǔn)立項(xiàng)通過(guò)，微眾銀行牽頭組織國(guó)內(nèi)21家機(jī)構(gòu)和企業(yè)，召開(kāi)第一次標(biāo)準(zhǔn)工作組會(huì)議。微眾銀行人工智能首席科學(xué)家范力欣博士擔(dān)任工作組主席。微眾銀行首席人工智能官楊強(qiáng)教授被推舉為工作組的榮譽(yù)主席，華夏基金首席數(shù)據(jù)官陳一昕博士擔(dān)任副主席。

這次“可解釋AI（XAI）”標(biāo)準(zhǔn)的制定是為了確保應(yīng)用AI中的數(shù)據(jù)處理、機(jī)器學(xué)習(xí)建模等過(guò)程對(duì)于用戶(hù)、決策者、監(jiān)管者等是可解釋的，同時(shí)滿足對(duì)于隱私、安全、責(zé)任、公平、法規(guī)等的要求。并對(duì)整體內(nèi)容進(jìn)行規(guī)劃，標(biāo)準(zhǔn)將對(duì)可解釋AI的定義、分類(lèi)、應(yīng)用場(chǎng)景、性能評(píng)估等進(jìn)行系統(tǒng)性的規(guī)范。

又一次，中國(guó)的企業(yè)走在了前面

IEEE可解釋AI標(biāo)準(zhǔn)將成為國(guó)內(nèi)乃至國(guó)際上首個(gè)專(zhuān)門(mén)解決人工智能落定應(yīng)用中“黑箱”問(wèn)題的行業(yè)標(biāo)準(zhǔn)。

正如中科院院士張鈸在多次公開(kāi)演講上所提到：“人工智能距離‘超越’人還差得遠(yuǎn)，當(dāng)前人工智能的最大問(wèn)題是不可解釋和不可理解，未來(lái)AI要走向可解釋人工智能，將這個(gè)黑箱打開(kāi)。”技術(shù)落地，標(biāo)準(zhǔn)先行。隨著行業(yè)標(biāo)準(zhǔn)的出臺(tái)與相關(guān)技術(shù)的成熟，相信我國(guó)發(fā)展負(fù)責(zé)任AI的進(jìn)程將不斷加快。

時(shí)至今日，AI技術(shù)雖然看起來(lái)還沒(méi)突破到想象中的“機(jī)器人時(shí)代”，但是AI技術(shù)應(yīng)用在經(jīng)濟(jì)上已經(jīng)可以降低成本、開(kāi)源節(jié)流，帶來(lái)可持續(xù)發(fā)展效應(yīng)了。在很多方面，AI已經(jīng)可以大規(guī)模應(yīng)用，如醫(yī)療、金融領(lǐng)域，其實(shí)它已經(jīng)到來(lái)了。

正如范力欣博士說(shuō)的一樣：“有人說(shuō)AI是一個(gè)泡泡，大家看上去就是在吹泡泡。但事實(shí)上，全球AI發(fā)展已經(jīng)處于量變到質(zhì)變的階段，只是看起來(lái)好象沒(méi)有起飛，技術(shù)已經(jīng)在突破的前夜。”

文：王騰 / 數(shù)據(jù)猿

來(lái)源：數(shù)據(jù)猿