Facebook 這次有人情味！要用 AI 找出那些有自殺傾向的用戶

Facebook 自殺人工智能

夜葉 | 2017-03-03 14:06

【數(shù)據(jù)猿導(dǎo)讀】剛過去的 1 月，一名年僅 12 歲的女孩稱由于受到家庭成員性虐待，決定上吊自殺，她用社交媒體平臺 Live.Me 直播了整個過程。最終這段令人痛心的視頻在網(wǎng)絡(luò)上瘋傳，多達數(shù)百萬人透過 Facebook、Youtube 等媒體看過她自絕畫面

剛過去的 1 月，一名年僅 12 歲的女孩稱由于受到家庭成員性虐待，決定上吊自殺，她用社交媒體平臺 Live.Me 直播了整個過程。最終這段令人痛心的視頻在網(wǎng)絡(luò)上瘋傳，多達數(shù)百萬人透過 Facebook、Youtube 等媒體看過她自絕畫面。

華盛頓郵報稱，YouTube 及時清除了這段令人不安的視頻及不同版本，但就在其刪除視頻后，自殺視頻仍在 Facebook 上存活了兩周才被徹底刪除。

失望不可避免，畢竟 Facebook 月活已超 17 億，意味著要承擔(dān)相應(yīng)的重責(zé)，但對這段自殺視頻的處理， Facebook 表現(xiàn)得有些無力。

扎克伯格 2 月份的宣言，意味著 Facebook 即將開啟新篇章，以匹配對世界近 20 億人口的影響力。周三，F(xiàn)acebook 表示為建立個更安全，彼此支持的 Facebook 社區(qū)，宣布要大力加強自己的自殺預(yù)防工具，它將用人工智能來識別有自殺傾向的用戶。

事實上，早在十年前 Facebook 就有了自殺報告，這些年各種防自殺工具也頻頻現(xiàn)身，比如你可標(biāo)記有自殺傾向的內(nèi)容，向 Facebook 報告;針對好友有自殺傾向，你可以借助 Facebook 系統(tǒng)表達關(guān)切，若選擇直接與好友溝通，F(xiàn)acebook 還能為溝通措辭提供建議等。

但基于用戶手動操作所起作用終究有限，可能會無意錯過，或忽略了一些小細節(jié)。人工智能恰能彌補這些缺失，F(xiàn)acebook 正測試一個識別系統(tǒng)，該系統(tǒng)是基于對以往有自殺風(fēng)險帖子的模式識別。

AI 工具會對帖子中那些字眼進行分析，尤其是來自朋友的評論，比如“你好嗎?”、“我很擔(dān)心你”就是兩種不同的情緒，相應(yīng)會觸發(fā)不同的信號。

檢測到問題后，F(xiàn)acebook 社區(qū)團隊會對帖子進行審核，確認后會與有潛在自我傷害風(fēng)險的人聯(lián)系，建議他們尋求幫助。同時，人工智能會針對用戶親友突出顯示“自殺或自我傷害”報告，讓親友們意識可能存在問題。

自殺監(jiān)測工具也被整合到 Facebook Live 和 Messenger 中。對直播服務(wù)的植入，也是為了避免重復(fù) 12 歲女孩的悲劇，當(dāng)直播中的內(nèi)容令人不安，你即可與播主聯(lián)系，同時反饋情況至 Facebook ，分享視頻的人也能看到包含幫助信息的提示。

當(dāng)用戶帖子被標(biāo)記出來，而且他們愿意與他人對話時，Messenger 可作為連接“危險用戶”與專業(yè)人士的橋梁，美國自殺求助熱線、美國飲食紊亂協(xié)會、危機熱線等組織都將提供相關(guān)幫助。

目前這種合作伙伴實時提供幫助，以及 AI 識別技術(shù)還處于美國小范圍的測試中。

回過頭想，全球每 40 秒就有一人自殺，自殺也是 15 歲至 24 歲人群的第二大死亡原因，如此普遍的情況下，F(xiàn)ackbook 預(yù)防自殺工具有多大的作用?

至少對孤身準(zhǔn)備赴死的人來說，泉涌般而至的關(guān)切或許能將他們從死亡的邊緣拉回來。別否認這種嘗試的價值，技術(shù)能幫助捕捉你可能遺漏的信號，而這或許恰好決定你能否及時干預(yù)，阻止那些悲慘的事發(fā)生。正如 Facebook COO Sheryl Sandberg 寫道：

作為社區(qū)，我們也許不能阻止每一次自殺，但必須為那些掙扎中的人們做更多事;作為個人，我們要能夠警覺自己和他人的行跡，并且快速應(yīng)對。當(dāng)聚到一塊時，我們就能一直都在那，在深陷痛苦的人們身邊。

但另一個角度看來，基于用戶手動反饋不良傾向或許還好，加入人工智能以后呢?

AI 系統(tǒng)逐字逐句識別你和你親朋好友的話語、情緒，對隱私敏感的用戶來說，也是一種挑戰(zhàn)，畢竟時刻被“盯”著的感覺并不好，冷不丁情緒不佳的時候還有來自 Facebook 系統(tǒng)的問候。

另外，還有問題是，AI 系統(tǒng)會將你狀態(tài)不佳的信息傳遞給好友列表中的誰?或許你不會想讓某些人知道。

所以，你認為 Facebook 這樣做如何呢?

來源：36kr

收藏分享

聲明：數(shù)據(jù)猿尊重媒體行業(yè)規(guī)范，相關(guān)內(nèi)容都會注明來源與作者；轉(zhuǎn)載我們原創(chuàng)內(nèi)容時，也請務(wù)必注明“來源：數(shù)據(jù)猿”與作者名稱，否則將會受到數(shù)據(jù)猿追責(zé)。