科技公司帶來的信任沖突：“黑鏡般的世界”你喜歡嗎？

科技公司黑鏡互聯(lián)網(wǎng)金融

原創(chuàng) 陸易斯 | 2021-02-05 15:32

【數(shù)據(jù)猿導讀】剛剛過去的2020是充滿變數(shù)的一年，對于眾多金融科技公司、電商平臺也是難忘的一年，之前很多無序的模式創(chuàng)新，不斷受到監(jiān)管部門的挑戰(zhàn)，這引發(fā)社會公眾對互聯(lián)網(wǎng)金融行業(yè)產(chǎn)生了負面認知以及不信任，并引起廣泛的討論：到底科技公司有沒有權利采集我們的數(shù)據(jù)，進而影響我們的行為；在消費行...

剛剛過去的2020是充滿變數(shù)的一年，對于眾多金融科技公司、電商平臺也是難忘的一年，之前很多無序的模式創(chuàng)新，不斷受到監(jiān)管部門的挑戰(zhàn)，這引發(fā)社會公眾對互聯(lián)網(wǎng)金融行業(yè)產(chǎn)生了負面認知以及不信任，并引起廣泛的討論：到底科技公司有沒有權利采集我們的數(shù)據(jù)，進而影響我們的行為；在消費行業(yè)也是如此，消費者會對品牌或者平臺使用他們的數(shù)據(jù)明顯抱有戒心，“大數(shù)據(jù)殺熟”備受公眾詬病。

在互聯(lián)網(wǎng)金融頻繁暴雷之前，用戶對國內(nèi)金融科技產(chǎn)品的認知度和信任度是很高的，這也可以從側面解釋為什么會有這么多用戶入金到互聯(lián)網(wǎng)金融公司的賬戶下。根據(jù)2017年匯豐銀行所做的《科技信任度調(diào)查報告》，調(diào)查了11個受訪國家和地區(qū)對金融科技產(chǎn)品的認知度和信任度，中國內(nèi)地用戶表示了解區(qū)塊鏈和理財智能顧問的受訪者比例分別達到31%和55%，前者在11個受訪市場中僅次于印度，對新技術帶來的正面推動力量曾經(jīng)給予高度肯定。

去年阿里巴巴反壟斷調(diào)查事件是個導火索，11月國家市場監(jiān)督管理總局發(fā)布了《關于平臺經(jīng)濟領域的反壟斷指南(征求意見稿)》，《人民日報》于12月底再評“互聯(lián)網(wǎng)行業(yè)從來不是、也不應該成為反壟斷的法外之地”，這個舉動，直接挑戰(zhàn)了互聯(lián)網(wǎng)科技巨頭依靠數(shù)據(jù)和技術建立起的壟斷“優(yōu)勢”。

科技公司_黑鏡_互聯(lián)網(wǎng)金融-1

面對近年來發(fā)生的信任危機，為建立一個廣泛和開放的數(shù)字身份世界，中國人民銀行公布了《征信業(yè)務管理辦法（征求意見稿）》（后簡稱為《辦法》）。與2013年公布的《征信業(yè)務管理條例》相比，此次采集范圍擴大到了“用于判斷個人和企業(yè)信用狀況的各類信息。包括但不限于：個人和企業(yè)的身份、地址、交通、通信、債務、財產(chǎn)、支付、消費、生產(chǎn)經(jīng)營、履行法定義務等信息，以及基于前述信息對個人和企業(yè)信用狀況形成的分析、評價類信息。”

盡管從政策法規(guī)上進一步明確了科技公司應該遵守的規(guī)則，但在如今的社會環(huán)境下，引起了部分用戶更多的不理解。

有人會因此聯(lián)想到英劇《黑鏡》在第三季第一集中設計的“社交印象評分系統(tǒng)”，當這些科技巨頭每天盯著你的行為，知道你的偏好，你買了什么東西，和誰聊天，亦或是搭乘什么交通工具，去了哪兒，看了什么東西等等，要由它們的技術體系對你的行為進行評判，并得到一個被賦予的分值。

《黑鏡》劇中采用了AR的識別方式，通過一個特殊的眼鏡裝置，可以看到對方的實時評分。用戶的形象、身份、社會信用都會通過AR識別的方式展現(xiàn)出來，他的打分將馬上會對對方產(chǎn)生影響，分數(shù)越高，一個人的社會地位越高，越能享受到租車、租房、出行、找工作、交友、選擇婚配對象等方面的折扣和便利。

科技公司_黑鏡_互聯(lián)網(wǎng)金融-2

事實上，阿里巴巴已經(jīng)采用了自己的社會信用評級方式，像芝麻信用的公司介紹中表明，其是一家旨在構建簡單、平等、普惠商業(yè)環(huán)境的信用科技企業(yè)，是螞蟻金服生態(tài)體系的重要組成部分。芝麻信用利用云計算、機器學習等領先科技客觀呈現(xiàn)個人和企業(yè)的商業(yè)信用狀況。

當芝麻信用剛出現(xiàn)的時候，部分媒體誤以為芝麻信用第三方服務就是中國政府的信用體系。然而，中國人民銀行并沒有接入芝麻信用或騰訊信用體系，他們?nèi)匀蛔鳛槊耖g的，或者只是阿里、騰訊內(nèi)部的信用評判體系。之前也并沒有針對性政策出臺，這次《辦法》是對該場景下的信用體系比較全面的規(guī)定。

上海交通大學凱原法學院鄭戈教授在中國政法大學“大數(shù)據(jù)和人工智能法律前沿問題”講座中提到了“高清社會”概念，在這個新型社會體系下，通過算法加持，針對某些群體的偏見增強，這就使得“法律的普遍性”理念受到挑戰(zhàn)。算法背后是否真的依照數(shù)理邏輯運行？是否存在人的意志因素進行操控？

鄭教授建議，部分場景可以考慮分布式信用評分，如：乘客與出租車司機之間的互評；餐廳客戶與服務員之間的互評。這些互評，只影響客戶和商品/服務提供著在特定平臺上的信用，而不影響該場景之外的社會信用評分。

科技公司_黑鏡_互聯(lián)網(wǎng)金融-3

在這種社會體系下，傳統(tǒng)的法律思維受到?jīng)_擊和挑戰(zhàn)，各個公司可能會有不同的評價標準，比如某個游戲公司，如果以在游戲中消耗更多時間、道具作為信用評分的一部分；亦或是某個在線購物商城，以用戶購物的次數(shù)、金額作為高信用的用戶，那么是否有悖于社會基本價值觀、公序良俗，是值得討論的，而并不適宜馬上進入到公允的社會信用評分體系中。

目前，芝麻信用評分涉及的范圍只在消費獎勵方面。比如，達到550分，就可以免押金借用雨傘、租用自行車、免押金入駐酒店；超過700分的人，可申請新加坡簽證而無需提供在職證明等。而真正對用戶社會及消費行為產(chǎn)生限制的“失信被執(zhí)行人”，是根據(jù)《最高人民法院關于公布失信被執(zhí)行人名單信息的若干規(guī)定》等修正規(guī)定，經(jīng)過法院判決得出的，并非根據(jù)科技公司采集的數(shù)據(jù)判斷。有關部門負責人表示，“征信業(yè)務內(nèi)涵不宜過度泛化”。并在《辦法》中明確表示，“應當遵循‘最少、必要’的原則，不得過度采集。”

科技公司_黑鏡_互聯(lián)網(wǎng)金融-4

耶魯大學蔡中曾中國中心資深研究員杰里米·道姆（Jeremy Daum）和北京大學法學院副教授戴昕都強調(diào)，盡管圍繞數(shù)據(jù)隱私的擔憂是合理的，也有人擔心各種數(shù)據(jù)有朝一日會連接起來，但目前的社會信用體系并不像有些人所說的那么險惡，在很多方面，它試圖解決中國的實際問題。

在世界范圍內(nèi)，前段時間圍繞著科技公司另一場爭論同時在展開，即在Twitter、Facebook等公司封禁一事，科技公司是否有審判權、監(jiān)管權，以及“數(shù)字帝國主義”產(chǎn)生了廣泛的討論，包括默克爾、扎克伯格、馬斯克等業(yè)內(nèi)大佬各自發(fā)表了自己的看法，有意思的是，馬斯克轉而支持的Clubhouse一夜爆紅，對老牌社交媒體產(chǎn)生了新的挑戰(zhàn)，是否又會產(chǎn)生新的游戲規(guī)則？對全球的巨頭科技公司而言，它們作用與限制的討論還會在本世紀20年代持續(xù)下去。

文：陸易斯 / 數(shù)據(jù)猿

來源：數(shù)據(jù)猿

收藏分享

聲明：數(shù)據(jù)猿尊重媒體行業(yè)規(guī)范，相關內(nèi)容都會注明來源與作者；轉載我們原創(chuàng)內(nèi)容時，也請務必注明“來源：數(shù)據(jù)猿”與作者名稱，否則將會受到數(shù)據(jù)猿追責。