大數(shù)據(jù)時(shí)代引發(fā)的“傲慢與偏見”

大數(shù)據(jù) 歧視數(shù)據(jù)挖掘

匯通網(wǎng) | 2016-05-10 10:59

【數(shù)據(jù)猿導(dǎo)讀】大數(shù)據(jù)越來越被視為一種戰(zhàn)略性資產(chǎn)，它可以通過其強(qiáng)大的預(yù)測技術(shù)來改造組織。數(shù)據(jù)挖掘可以繼承之前決策者的偏見或社會上持續(xù)存在的普遍偏見。換句話來說，人類產(chǎn)生的機(jī)器學(xué)習(xí)系統(tǒng)上運(yùn)行的數(shù)據(jù)是由人類設(shè)計(jì)的算法。因此，人類創(chuàng)造的數(shù)據(jù)隱含偏見

據(jù)社會研究人員小組研究，大數(shù)據(jù)對公眾和社會的影響，當(dāng)涉及到幫助系統(tǒng)做出決定時(shí)，應(yīng)用方法可能并不總是公正的。

最近，紐約大學(xué)組織的學(xué)生為社會刑事司法改革的活動(dòng)，集中使用大數(shù)據(jù)在機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘，以推動(dòng)公共和私人部門的行政決定問題。

其中包括政策研究人員、技術(shù)人員和記者，討論在使用大數(shù)據(jù)的同時(shí)，拋開固有的偏見和歧視，通過無意中設(shè)置的規(guī)則和流程來增加我們的決策能力。

在這種情況下，使用規(guī)則的數(shù)學(xué)程序編碼來實(shí)現(xiàn)特定的目標(biāo)。批評者認(rèn)為這些算法可能會延續(xù)偏見和加強(qiáng)內(nèi)置的假設(shè)。

最近，政府機(jī)構(gòu)開始仔細(xì)觀察新興領(lǐng)域。上周，白宮發(fā)布的一份報(bào)告警告稱，如果沒有正確的應(yīng)用數(shù)據(jù)收集可能會損害公民的權(quán)利。該報(bào)告呼吁，“如何最好的鼓勵(lì)這些技術(shù)的潛力，同時(shí)最大限度的減少對隱私、公平對待和其他美國核心價(jià)值的風(fēng)險(xiǎn)”。

2014年的報(bào)告題為“大數(shù)據(jù)的不同影響”,普林斯頓大學(xué)信息技術(shù)政策中心的程序員梭倫巴洛克斯指出，“數(shù)據(jù)挖掘算法技術(shù)的倡導(dǎo)者認(rèn)為，他們是消除人類偏見的決策過程。但是，數(shù)據(jù)的算法與它所使用的數(shù)據(jù)一樣好。”

巴洛克斯研究新興的應(yīng)用機(jī)器學(xué)習(xí)來提高道德認(rèn)識問題的影響。他補(bǔ)充道，“數(shù)據(jù)挖掘可以繼承之前決策者的偏見或社會上持續(xù)存在的普遍偏見。”

換句話來說，人類產(chǎn)生的機(jī)器學(xué)習(xí)系統(tǒng)上運(yùn)行的數(shù)據(jù)是由人類設(shè)計(jì)的算法。因此，人類創(chuàng)造的數(shù)據(jù)隱含偏見。

在兩年前的研究中,美國聯(lián)邦貿(mào)易委員會(Federal Trade Commission)提出類似的問題。盡管監(jiān)管部門承認(rèn)大數(shù)據(jù)所帶來的好處，但濫用數(shù)據(jù)編譯此類信息的公司存在歧視某些群體的風(fēng)險(xiǎn)。

數(shù)據(jù)歧視的指控

哈佛大學(xué)的數(shù)據(jù)隱私實(shí)驗(yàn)室負(fù)責(zé)人Latanya Sweeny表示，大數(shù)據(jù)歧視指向幾年前開展的一項(xiàng)案例研究。

此案涉及到谷歌在互聯(lián)網(wǎng)上某些種類的搜索結(jié)果。Sweeny在她的研究中發(fā)現(xiàn)，出現(xiàn)黑人名字的逮捕記錄比例比白人多18%。谷歌已經(jīng)解決了這個(gè)問題，盡管他們從未公開表示他們做了什么來糾正這個(gè)問題。

在過去幾年中，大數(shù)據(jù)的擴(kuò)散已經(jīng)看到指控其他的不當(dāng)使用和偏見。這些指控是五花八門的，從網(wǎng)上的價(jià)格歧視和地理定位結(jié)果到犯罪預(yù)測技術(shù)，在一些公共工程決策中缺乏足夠代表性的數(shù)據(jù)樣本。

大數(shù)據(jù)的優(yōu)勢是可以平衡應(yīng)用現(xiàn)代技術(shù)以解決社會問題的風(fēng)險(xiǎn)。然而，一些質(zhì)疑者認(rèn)為，民主化數(shù)據(jù)在本質(zhì)上影響著人們，從數(shù)據(jù)從業(yè)者到專家。

大數(shù)據(jù)將停留在這里

一些擁護(hù)者表示，問題不在于“大數(shù)據(jù)歧視”，但失敗的數(shù)據(jù)會讓專業(yè)人員曲解數(shù)據(jù)挖掘的結(jié)果的風(fēng)險(xiǎn)和統(tǒng)計(jì)學(xué)習(xí)的核心。他們還補(bǔ)充表示，帶來的好處遠(yuǎn)遠(yuǎn)大于擔(dān)憂。

紐約大學(xué)斯特恩商學(xué)院的分析中心主任Anindya Ghose說，“在我的學(xué)術(shù)研究和行業(yè)咨詢中，我已經(jīng)看到了企業(yè)、組織和消費(fèi)者使用數(shù)據(jù)驅(qū)動(dòng)決策、利用數(shù)據(jù)科學(xué)和業(yè)務(wù)分析的巨大利益。”

Ghose還表示：“老實(shí)說，我不理解這些人在大數(shù)據(jù)的運(yùn)用中關(guān)于對數(shù)據(jù)分析影響的恐懼和憤世嫉俗。

她表示，兌憤世嫉俗者和我們自己的一些忠告是:“大家仍有必要處理好大數(shù)據(jù)技術(shù)引發(fā)的這些倫理糾紛問題，否則大數(shù)據(jù)分析的應(yīng)用層次就很難再進(jìn)一步。”

來源：匯通網(wǎng)

收藏分享

聲明：數(shù)據(jù)猿尊重媒體行業(yè)規(guī)范，相關(guān)內(nèi)容都會注明來源與作者；轉(zhuǎn)載我們原創(chuàng)內(nèi)容時(shí)，也請務(wù)必注明“來源：數(shù)據(jù)猿”與作者名稱，否則將會受到數(shù)據(jù)猿追責(zé)。