解析：關于大數(shù)據(jù)和人工智能的冷思考

解析大數(shù)據(jù) 人工智能冷思考

周維明 | 2017-10-24 10:52

【數(shù)據(jù)猿導讀】大數(shù)據(jù)和人工智能是今年最熱門的話題，在司法領域更是如火如荼，司法在大數(shù)據(jù)時代的范式革命已經(jīng)到來。但利之所在弊亦隨之，如果對大數(shù)據(jù)和人工智能的風險缺乏充分認識，不能在熱情之余做一番冷思考，則可能會產(chǎn)生許多難以預料的后果。

大數(shù)據(jù)和人工智能是今年最熱門的話題，在司法領域更是如火如荼，司法在大數(shù)據(jù)時代的范式革命已經(jīng)到來。但利之所在弊亦隨之，如果對大數(shù)據(jù)和人工智能的風險缺乏充分認識，不能在熱情之余做一番冷思考，則可能會產(chǎn)生許多難以預料的后果。

首先，是大數(shù)據(jù)和人工智能的安全性問題。該問題雖屬老生常談，但在互聯(lián)網(wǎng)犯罪模式從攻擊計算機和網(wǎng)絡本身轉(zhuǎn)向徹底的虛擬犯罪的時代背景下，可能歷久彌新。當前，在互聯(lián)網(wǎng)犯罪中，已經(jīng)大量出現(xiàn)了犯罪人接受他人委托，侵入政府部門與企事業(yè)單位的計算機系統(tǒng)修改數(shù)據(jù)以及攔截修改計算機信息數(shù)據(jù)的案例。因此，筆者認為沒有理由認為司法大數(shù)據(jù)能獨善其身。畢竟，在互聯(lián)網(wǎng)犯罪海洋中，沒有哪個地方是絕對的安全島。

其次，是大數(shù)據(jù)和人工智能的可靠性問題。圍繞美國威斯康辛州法院采用的COMPAS量刑程序的爭議和訴訟就是一例。有研究者認為，COMPAS傾向于高估某些特定人群的再犯可能性，而這很可能反映了設計者所固有的偏見。如果數(shù)據(jù)分析本身就受偏見的左右，那么以此為基礎的人工智能所作出的決定還能可靠嗎更令人擔憂的是，有相當一部分人工智能系統(tǒng)依靠的是機器學習算法。這種算法幾乎就是“黑盒子”，因為算法的開發(fā)者也難以解釋算法的真正運行機制和可能造成的后果。法律乃善良公正之術(shù)。當司法擁抱科技時，如果人類將公平正義的決定權(quán)交給算法，那么就會面臨正義與科技誰會笑到最后的難題。

但對大數(shù)據(jù)和人工智能的冷思考并不意味著對它們的拒斥。大數(shù)據(jù)和人工智能在司法領域的運用是大勢所趨。如果因為它們現(xiàn)在所存在的缺陷就將其拒之千里之外，無疑是因噎廢食。實際上，在未來，隨著可供使用的數(shù)據(jù)越來越多，更多更好的工具被開發(fā)出來，也行大家今天所面臨的擔憂可能會得到緩解。但大家必須清醒地認識到，大數(shù)據(jù)和人工智能是一把雙刃劍。如果不能正確評價和對待它可能帶來的風險，那么就可能造成難以預料的后果。

大數(shù)據(jù)和人工智能并不免除任何人作出判斷的責任。因為這一責任屬于人類最核心的領域——理性。大數(shù)據(jù)和人工智能歸根結(jié)底只是人類理智的產(chǎn)物，盲目地迎合理性的產(chǎn)物而冀圖免除自己的責任是非理性的表現(xiàn)。正確認識理性產(chǎn)物中蘊含的非理性，以更好地履行自己的責任才是理性的表現(xiàn)。

來源：民主與法制時報

收藏分享

聲明：數(shù)據(jù)猿尊重媒體行業(yè)規(guī)范，相關內(nèi)容都會注明來源與作者；轉(zhuǎn)載我們原創(chuàng)內(nèi)容時，也請務必注明“來源：數(shù)據(jù)猿”與作者名稱，否則將會受到數(shù)據(jù)猿追責。