大數(shù)據(jù)會(huì)傷害弱勢(shì)群體？

大數(shù)據(jù) 弱勢(shì)群體算法

呂佳輝 | 2016-04-12 16:47

【數(shù)據(jù)猿導(dǎo)讀】從宏觀上來看，大數(shù)據(jù)具有絕對(duì)優(yōu)勢(shì)，不夸張的說，大數(shù)據(jù)甚至可以促進(jìn)社會(huì)整體向前發(fā)展。但是，大數(shù)據(jù)也有副作用，大數(shù)據(jù)的判斷有時(shí)會(huì)過于冰冷，相對(duì)于弱勢(shì)群體，大數(shù)據(jù)未必能夠?qū)λ麄冇欣?

4月11日消息，據(jù)《大西洋月刊》報(bào)道，從宏觀角度來看，大數(shù)據(jù)絕對(duì)是個(gè)好東西，它能解決許多人腦處理不了的復(fù)雜問題。它可以幫助公司削減開支，幫助市政人員規(guī)劃城市，幫助情報(bào)機(jī)構(gòu)追查恐怖分子，幫助衛(wèi)生部門預(yù)測(cè)傳染病爆發(fā)，甚至能幫助警方預(yù)知犯罪的發(fā)生。決策者越來越依靠大數(shù)據(jù)，這一復(fù)雜的算法成了推動(dòng)歷史發(fā)展的重要一環(huán)。

大數(shù)據(jù)也有副作用

但如果這些數(shù)據(jù)是關(guān)系到人的，尤其是社會(huì)上缺少話語權(quán)的弱勢(shì)群體的話，這一算法就會(huì)產(chǎn)生不少的副作用。對(duì)許多美國窮人來說，這些覆蓋了他們生活各個(gè)角落的數(shù)據(jù)會(huì)成為他們脫貧致富的絆腳石。

在美國，低收入群體是最受大數(shù)據(jù)關(guān)注的族群。除了預(yù)防和打擊犯罪的警察，各種公益項(xiàng)目、兒童福利機(jī)構(gòu)和反家暴組織都在關(guān)注著這一群體的一舉一動(dòng)。

在某些地區(qū)，為了評(píng)估公共福利如食品卷的發(fā)放情況，申請(qǐng)人需要錄入指紋并進(jìn)行藥物檢測(cè)。一旦你開始領(lǐng)取這些福利，政府就會(huì)監(jiān)控你收入的流向，有時(shí)還會(huì)有專人來家中進(jìn)行家訪。

各類機(jī)構(gòu)搜集來的數(shù)據(jù)最后很有可能都會(huì)反饋到警方的系統(tǒng)中，因此警方會(huì)加強(qiáng)對(duì)此類群體的監(jiān)控。“這些數(shù)據(jù)成了龐大信息流的一部分，不過許多人并不知道自己一直活在別人眼皮底下，而這些信息有時(shí)會(huì)在生活中造成許多不公。”巴爾的摩大學(xué)法學(xué)教授吉爾曼說道。

一旦這些人群犯了錯(cuò)誤被警察拘捕，那么這就會(huì)成為他個(gè)人信息中的一個(gè)污點(diǎn)，未來想找份工作都很難，而貸款或租房更是會(huì)成為大問題(因?yàn)槠髽I(yè)雇主和貸款機(jī)構(gòu)的數(shù)據(jù)庫與警方有合作)。

大數(shù)據(jù)的判斷過于冰冷

“大數(shù)據(jù)系統(tǒng)只是算法，它并不懂得法律，如果它根據(jù)數(shù)據(jù)判定這些人不適合申請(qǐng)貸款或工作時(shí)，就會(huì)在法理上違反無罪推定原則。”渥太華大學(xué)教授科爾說道。

眾所周知，“無罪推定原則”是人們享有的正當(dāng)司法權(quán)力之一?？茽柋硎荆?ldquo;在司法審判當(dāng)中，人們有發(fā)言權(quán)，參與聽證和推翻供詞的權(quán)利。”如果大數(shù)據(jù)系統(tǒng)成了人們決策的大腦，就會(huì)產(chǎn)生所謂的“算法正義”，這對(duì)許多人是非常不公平的。

吉爾曼教授一直致力于幫助這些弱勢(shì)群體消去錯(cuò)誤的不良記錄，雖然他的工作卓有成效，將許多記錄從公共數(shù)據(jù)中刪去，但原本的數(shù)據(jù)庫還是留有存檔，如果官方不進(jìn)行全面更改，它們依然會(huì)是定時(shí)炸彈。

盡信書，不如無書

大數(shù)據(jù)的魅力也讓聯(lián)邦貿(mào)易委員會(huì)傾心，為此，它們?nèi)ツ昃旁逻€專門開了一場(chǎng)研討會(huì)。許多與會(huì)專家認(rèn)為如果大規(guī)模運(yùn)用這一算法，可能會(huì)帶來負(fù)面效應(yīng)，因?yàn)樵S多人會(huì)成為他人的替罪羊，為別人的失誤買單。舉例來說，有的信用卡公司會(huì)降低某些顧客的信貸限額，而影響他們信用的并不是自己，而是因?yàn)榕c不誠信的人在一家商場(chǎng)購物。

不過也有專家提出相反意見，他們認(rèn)為大數(shù)據(jù)算法的運(yùn)用會(huì)將原本游離在信用評(píng)價(jià)體系外的窮人納入這一體系。研討會(huì)的報(bào)告上寫道：“如果這些窮人有一技之長(zhǎng)，按時(shí)還錢或者有一輛車，那么他們就很有可能通過大數(shù)據(jù)進(jìn)入主流信用評(píng)價(jià)體系，而沒有這一算法之前這是無法想象的。”

毫無疑問，算法可以在需要做出艱難決定時(shí)提高人的效率和準(zhǔn)確率，大數(shù)據(jù)也可以提升人們的生活質(zhì)量。但如果這一過程都是冷冰冰的數(shù)字，沒有任何人文關(guān)懷的話，恐怕它會(huì)不斷加深整個(gè)社會(huì)的裂痕，讓那些本就處在社會(huì)邊緣的群體更加邊緣化。

來源：網(wǎng)易科技

收藏分享

聲明：數(shù)據(jù)猿尊重媒體行業(yè)規(guī)范，相關(guān)內(nèi)容都會(huì)注明來源與作者；轉(zhuǎn)載我們?cè)瓌?chuàng)內(nèi)容時(shí)，也請(qǐng)務(wù)必注明“來源：數(shù)據(jù)猿”與作者名稱，否則將會(huì)受到數(shù)據(jù)猿追責(zé)。