亞馬遜的Alexa在國(guó)外是非常熱門的智能音箱，只需你說(shuō)出它的喚醒詞，比如“Alexa”、“Echo”或“Computer”，它就能對(duì)你的聲音指令作出響應(yīng)，比如幫你播放音樂(lè)、開(kāi)燈、關(guān)燈等等。但現(xiàn)在這一特性也讓人們開(kāi)始擔(dān)心自己的隱私。

據(jù)西雅圖當(dāng)?shù)孛襟w報(bào)道，亞馬遜旗下智能音箱產(chǎn)品Echo可能會(huì)秘密記錄你的談話內(nèi)容，某些情況下，還可能將其發(fā)送給其他人。上周，這種事情就發(fā)生在位于美國(guó)俄勒岡州波特蘭市的一個(gè)家庭中，放置在室內(nèi)的Echo記錄了用戶在家中的談話，并將此對(duì)話發(fā)送到了該用戶電話聯(lián)系人列表中的某隨機(jī)聯(lián)系人。事發(fā)后，該名女子聯(lián)系了亞馬遜，亞馬遜回應(yīng)稱該公司“非常重視隱私”，并表示該情況“極其罕見(jiàn)”。在一份聲明中，亞馬遜把該事件原因歸結(jié)為其智能語(yǔ)音助手Alexa誤判了用戶的指令，以為該用戶是想發(fā)送一段語(yǔ)音給某聯(lián)系人。

而在今年4月份，來(lái)自安全公司Checkmarx的研究人員發(fā)現(xiàn)了一種方法，可以讓Alexa竊聽(tīng)、記錄并發(fā)送用戶的談話記錄。Checkmarx說(shuō)他們?cè)?月初通知了亞馬遜這個(gè)漏洞，亞馬遜向CNET的記者證實(shí)，目前已經(jīng)解決了這個(gè)問(wèn)題。在亞馬遜的智能音箱Echo產(chǎn)品介紹頁(yè)面上可以看到這些信息：總是會(huì)變得越來(lái)越聰明；使用Echo越多，Echo越會(huì)適應(yīng)你的聲音模式、詞匯以及個(gè)人喜好。亞馬遜提交的相關(guān)專利描述中近一步還提到，未來(lái)智能語(yǔ)音設(shè)備可識(shí)別相關(guān)興趣語(yǔ)句，并針對(duì)喜好進(jìn)行精準(zhǔn)廣告推送。

國(guó)內(nèi)的智能硬件也越來(lái)越普及，尤其是智能家居相關(guān)的產(chǎn)品，包括智能音箱、智能攝像機(jī)、智能電視、智能空調(diào)等等，尤其是最為敏感的智能音箱和智能攝像機(jī)，相當(dāng)于家里裝了智能“耳朵”和“眼睛”，如果使用不當(dāng)，個(gè)人隱私會(huì)有泄漏的風(fēng)險(xiǎn)。

谷歌提交過(guò)相關(guān)的專利描述：未來(lái)智能家居系統(tǒng)能夠監(jiān)視家庭的一切活動(dòng)場(chǎng)景，并通過(guò)設(shè)備獲取多種信息，無(wú)論是家庭成員對(duì)電視節(jié)目的喜好，還是他們的衛(wèi)生習(xí)慣，都可以通過(guò)這項(xiàng)相關(guān)新技術(shù)獲取。

物聯(lián)網(wǎng)技術(shù)和人工智能技術(shù)在給用戶帶來(lái)極大的方便的同時(shí)，因其持續(xù)的收集相關(guān)的個(gè)體行為數(shù)據(jù)，也會(huì)給用戶的隱私帶來(lái)潛在的風(fēng)險(xiǎn)。在物聯(lián)網(wǎng)技術(shù)和人工智能時(shí)代，如何有效的保障數(shù)據(jù)安全和個(gè)人隱私尤為重要。

個(gè)人認(rèn)為，數(shù)據(jù)收集和使用方，應(yīng)該做好大數(shù)據(jù)全生命周期安全與隱私保護(hù)等相關(guān)舉措：

1、數(shù)據(jù)采集與傳輸安全

大數(shù)據(jù)在采集的過(guò)程中需要從源頭保證數(shù)據(jù)采集的安全。數(shù)據(jù)采集時(shí)對(duì)數(shù)據(jù)的安全性進(jìn)行分級(jí)處理以實(shí)施不同等級(jí)的保護(hù)，同時(shí)敏感數(shù)據(jù)要進(jìn)行加密處理。數(shù)據(jù)加密技術(shù)是最基本的安全技術(shù)，是信息安全的核心。它通過(guò)變換和置換等各種方法會(huì)被保護(hù)信息置換成密文（如用哈希函數(shù)加密），然后再進(jìn)行信息的存儲(chǔ)或傳輸，即使加密信息在存儲(chǔ)或者傳輸過(guò)程為非授權(quán)人員所獲得，也可以保證這些信息不為其認(rèn)知，從而達(dá)到保護(hù)信息的目的。數(shù)據(jù)傳輸?shù)耐暾酝ǔＭㄟ^(guò)數(shù)字簽名的方式來(lái)實(shí)現(xiàn)。傳輸安全指在數(shù)據(jù)的生成、傳輸和訪問(wèn)過(guò)程中，確保數(shù)據(jù)的完整性、準(zhǔn)確性及排他性。

2、數(shù)據(jù)存儲(chǔ)安全

數(shù)據(jù)存儲(chǔ)安全指在數(shù)據(jù)保存上確保完整、可靠、保密、有效調(diào)用，通常包括三層含義：一是存儲(chǔ)設(shè)備自身的高靠性和高可用性，高靠性指設(shè)備故障時(shí)，在降級(jí)狀態(tài)下依然能夠完成數(shù)據(jù)存儲(chǔ)工作；高可用性是指設(shè)備故障時(shí)，系統(tǒng)可便利恢復(fù)容錯(cuò)能力，走出降級(jí)狀態(tài)。二是保存在存儲(chǔ)設(shè)備上數(shù)據(jù)的邏輯安全。三是靜態(tài)和動(dòng)態(tài)數(shù)據(jù)加密，對(duì)大數(shù)據(jù)中需要保密的敏感數(shù)據(jù)，靜態(tài)數(shù)據(jù)一般是先加密再存儲(chǔ)，動(dòng)態(tài)數(shù)據(jù)加密常見(jiàn)的一種方法是同態(tài)加密。

3、數(shù)據(jù)挖掘安全

大數(shù)據(jù)挖掘是從海量數(shù)據(jù)中提取和挖掘知識(shí)，機(jī)器學(xué)習(xí)是大數(shù)據(jù)挖掘的一種常見(jiàn)應(yīng)用。大數(shù)據(jù)挖掘安全也需要做好隱私保護(hù)。目前數(shù)據(jù)挖掘中的隱私保護(hù)方法按照策略分為三種，包括數(shù)據(jù)擾亂法、查詢限制法和混合策略法?；陔[私保護(hù)的數(shù)據(jù)挖掘主要集中關(guān)聯(lián)規(guī)則挖掘、隱私保護(hù)分類挖掘和聚類挖掘、隱私保護(hù)的序列模式挖掘等方面。另外，大數(shù)據(jù)挖掘安全技術(shù)方面還需要加強(qiáng)第三方挖掘機(jī)構(gòu)等身份認(rèn)證和訪問(wèn)管理，以確保第三方在進(jìn)行數(shù)據(jù)挖掘等過(guò)程中不植入惡意成熟，不竊取系統(tǒng)數(shù)據(jù)，確保大數(shù)據(jù)安全。

4、數(shù)據(jù)發(fā)布與應(yīng)用安全

數(shù)據(jù)分布與應(yīng)用安全關(guān)鍵技術(shù)包括用戶管控安全技術(shù)和數(shù)據(jù)溯源安全防護(hù)技術(shù)。

第一方面，用戶管控安全技術(shù)：在數(shù)據(jù)應(yīng)用過(guò)程中需要對(duì)數(shù)據(jù)用戶進(jìn)行管理和控制，對(duì)他們進(jìn)行身份認(rèn)證和訪問(wèn)控制，并對(duì)他們的安全行為進(jìn)行審計(jì)。在身份認(rèn)證方面，隨著身份認(rèn)證技術(shù)的發(fā)展，融合動(dòng)態(tài)口令認(rèn)證和生物識(shí)別技術(shù)的強(qiáng)用戶認(rèn)證、基于Web應(yīng)用的單點(diǎn)登錄技術(shù)得到廣泛應(yīng)用。大數(shù)據(jù)用戶管控采取的訪問(wèn)控制主要根據(jù)訪問(wèn)策略或權(quán)限限制用戶對(duì)資源的訪問(wèn)，通常采用自主訪問(wèn)控制、強(qiáng)制訪問(wèn)控制和基于角色訪問(wèn)控制的組合策略。大數(shù)據(jù)用戶管控的安全審計(jì)主要是記錄用戶一切與系統(tǒng)安全有關(guān)的安全活動(dòng)，通過(guò)審查分析發(fā)現(xiàn)安全隱患。

第二方面，數(shù)據(jù)溯源即對(duì)數(shù)據(jù)應(yīng)用生命周期的各個(gè)環(huán)節(jié)的操作進(jìn)行標(biāo)記和定位，在發(fā)生數(shù)據(jù)安全問(wèn)題是可以準(zhǔn)確的定位問(wèn)題的環(huán)節(jié)和責(zé)任，以便對(duì)數(shù)據(jù)安全問(wèn)題制定更好的安全策略和安全機(jī)制。數(shù)據(jù)溯源需要在多個(gè)分布式系統(tǒng)之間進(jìn)行數(shù)據(jù)追蹤，通常采用數(shù)字水印技術(shù)。

5、隱私數(shù)據(jù)安全

隱私數(shù)據(jù)包括個(gè)人身份信息、人口特征、財(cái)產(chǎn)狀況、通信內(nèi)容、社交信息、位置信息等，隱私保護(hù)的研究主要集中在如何設(shè)計(jì)隱私保護(hù)原則和算法，既保證數(shù)據(jù)應(yīng)用過(guò)程中不泄漏隱私，同時(shí)又能更好的利用數(shù)據(jù)的應(yīng)用。數(shù)據(jù)匿名化技術(shù)是隱私保護(hù)技術(shù)中的關(guān)鍵技術(shù)。包括k-匿名、l-diversity匿名、t-closeness匿名、個(gè)性化匿名、m-invariance匿名、基于“角色構(gòu)成”的匿名和Differential Privacy差分用戶隱私等方法，由于篇幅所需，在此重點(diǎn)介紹Differential Privacy差分用戶隱私。

蘋果在2016 年6 月份的WWDC 大會(huì)上就提出了一項(xiàng)名為Differential Privacy 的差分隱私技術(shù)。蘋果公司軟件工程高級(jí)副總裁克雷格·費(fèi)德里吉在WWDC的主題演講上稱：“為了讓軟件更加智能，我們必須找出不同用戶的相同設(shè)備使用風(fēng)格。作為統(tǒng)計(jì)學(xué)和數(shù)據(jù)分析領(lǐng)域的研究主題，差分隱私利用了哈希、二次抽樣和噪聲注入等方式，使在完全匿名的前提下解析個(gè)人信息一事成為了可能”。

蘋果公司的差分隱私技術(shù)值得借鑒，因此，我們重點(diǎn)展開(kāi)，具體包括：

第一、局部抽樣。相對(duì)于完整的上傳所用用戶的資料，蘋果公司通過(guò)抽樣技術(shù)采集一部分用戶的數(shù)據(jù)，而不是全部。其假設(shè)是某一群用戶的行為相對(duì)穩(wěn)定，預(yù)期性更強(qiáng)，與其分析每個(gè)用戶，不如分析典型群體來(lái)做行為預(yù)測(cè)。

第二、哈希加密。如對(duì)用戶的某些敏感數(shù)據(jù)，可以先用哈希函數(shù)加密。

第三、注入噪音。在采集用戶對(duì)數(shù)據(jù)前，向其隨機(jī)注入一些噪音，如注入符合拉普拉斯分布的數(shù)據(jù)，那么在對(duì)總體數(shù)據(jù)進(jìn)行分析時(shí)，這些噪音并不影響結(jié)果。

現(xiàn)今，法律也對(duì)用戶隱私的保護(hù)極為重視。2018年5月25日，《通用數(shù)據(jù)保護(hù)規(guī)范》GDPR將正式生效。所有收集歐盟（EU）國(guó)家公民數(shù)據(jù)的企業(yè)，將必須在明年正式執(zhí)行有關(guān)用戶數(shù)據(jù)保護(hù)的嚴(yán)格新規(guī)—《通用數(shù)據(jù)保護(hù)規(guī)范》（GDPR）。GDPR的目標(biāo)是保護(hù)歐盟公民免受隱私和數(shù)據(jù)泄露的影響，同時(shí)重塑歐盟的組織機(jī)構(gòu)處理隱私和數(shù)據(jù)保護(hù)的方式。根據(jù)普華永道的調(diào)查數(shù)據(jù)顯示，68%的美國(guó)公司預(yù)計(jì)將花費(fèi)100萬(wàn)到1000萬(wàn)美元的投入來(lái)滿足GDPR的合規(guī)性要求；另有9%的企業(yè)預(yù)計(jì)將花費(fèi)超過(guò)1000萬(wàn)美元。如果企業(yè)沒(méi)有滿足GDPR的合規(guī)性要求將導(dǎo)致什么后果？每一單GDPR違規(guī)行為將受到高達(dá)2000萬(wàn)歐元的嚴(yán)重處罰，或者上一年全球年?duì)I業(yè)額的4％，以較高者為準(zhǔn)。Facebook今年大規(guī)模數(shù)據(jù)泄露事件，就是未經(jīng)用戶允許擅自將收集的到大量用戶個(gè)人數(shù)據(jù)提供給了劍橋分析數(shù)據(jù)公司，F(xiàn)acebook因此事件也受到了法律的制裁。

為了應(yīng)對(duì)GDPR，將歐洲作為重要市場(chǎng)的華為，為了確保有效的落實(shí)隱私保護(hù)各項(xiàng)要求，華為將通過(guò)成立已久的“全球網(wǎng)絡(luò)安全與用戶隱私保護(hù)委員會(huì)”的保護(hù)官，直接向CEO匯報(bào)。華為所有業(yè)務(wù)單元均設(shè)置有專職的隱私相關(guān)的角色和（或）組織。同時(shí)根據(jù)GDPR的要求，華為還任命了歐盟數(shù)據(jù)保護(hù)官。

最后，個(gè)人建議數(shù)據(jù)采集和使用企業(yè)，一定認(rèn)真的研究數(shù)據(jù)安全和保護(hù)用戶隱私，這樣，大數(shù)據(jù)和人工智能才能更良性的發(fā)展。
 
參考文獻(xiàn)：

（1）NIST Big Data Public Working Group. Big Data Security and pirvacy [R]. Gaithersburg: NIST, 2015:5

（2）呂欣，韓曉露，大數(shù)據(jù)安全和隱私保護(hù)技術(shù)架構(gòu)研究，信息安全研究，2016年3月

（3）關(guān)于《通用數(shù)據(jù)保護(hù)規(guī)范》GDRP詳見(jiàn)https://www.eugdpr.org

關(guān)于作者

傅志華，數(shù)據(jù)猿專欄專家，中國(guó)信息協(xié)會(huì)大數(shù)據(jù)分會(huì)理事，北京航空航天大學(xué)軟件學(xué)院大數(shù)據(jù)專業(yè)特聘教授，中科院管理學(xué)院MBA企業(yè)導(dǎo)師、首都經(jīng)貿(mào)大學(xué)統(tǒng)計(jì)學(xué)兼職教授、研究生導(dǎo)師。曾為360公司大數(shù)據(jù)中心總經(jīng)理以及騰訊社交網(wǎng)絡(luò)事業(yè)群數(shù)據(jù)中心總監(jiān)以及騰訊公司數(shù)據(jù)協(xié)會(huì)會(huì)長(zhǎng)，在騰訊前為互聯(lián)網(wǎng)數(shù)據(jù)分析公司DCCI互聯(lián)網(wǎng)數(shù)據(jù)中心副總裁。目前任龍湖集團(tuán)AI研究院總負(fù)責(zé)人。

注：投稿請(qǐng)發(fā)送郵箱至tougao@datayuan.cn

來(lái)源：數(shù)據(jù)猿