預防和解決校園暴力，AI能為孩子做些什么？

校園暴力校園霸凌 AI

鈦媒體 | 2018-05-08 11:11

【數(shù)據(jù)猿導讀】抱團冷落、網(wǎng)絡欺凌、威脅勒索、肢體暴力……就連《哆啦A夢》里的主角大雄，都是一位典型的校園暴力受害者。不一樣的是，大雄受到胖虎欺負時，哆啦A夢會為他出頭。在現(xiàn)實中，我們可以把解決校園暴力的重擔交給AI嗎

你的校園生活快樂嗎？相信很多人會回答“是的”。但是有17.18%的人不這么覺得。上海海事大學的一份調研報告中顯示，高校中有17.18%的人認為自己遭受過校園暴力。

抱團冷落、網(wǎng)絡欺凌、威脅勒索、肢體暴力……這些事情每天都發(fā)生在我們身邊，就連《哆啦A夢》里的主角大雄，都是一位典型的校園暴力受害者。不一樣的是，大雄受到胖虎欺負時，哆啦A夢會為他出頭。在現(xiàn)實中，我們可以把解決校園暴力的重擔交給AI嗎？

用AI尋找校園“高危分子”，究竟有多準？

雖然聽起來十分不靠譜，但目前的確有機構在進行相關的研究。最近辛辛那提兒童醫(yī)院醫(yī)療中心進行了一些實驗，結果表示AI可以檢測出青少年的暴力傾向，而且檢測結果和專業(yè)心理醫(yī)生一樣準確。

來自辛辛那提兒童醫(yī)院醫(yī)療研究中心的精神病學家先是在美國74所中小學中找到了103位曾經(jīng)有過施加校園霸凌行為的青少年，通過和他們進行心理咨詢對話，再加上對于他們家庭背景的調查研究，將數(shù)據(jù)信息和錄音進行標注，利用機器學習進行挖掘，建立了相關模型。

經(jīng)過幾次訓練，最后研究者們發(fā)現(xiàn)這一模型可以對青少年的心理進行精準的把握。分析對話錄音中的語氣、語調結合家庭背景，可以推斷出青少年實施校園暴力的風險有多高。在測試中，AI模型非常清晰的把一批青少年分為了“高風險組”和“低風險組”。這一結果和科學家們的評估相差無幾。

也就是說，這樣的評估方式可以被廣泛應用。為每個學校配備一位心理醫(yī)生或精神病學家自然是不現(xiàn)實的，但有了AI的存在，甚至可以定期、批量的對青少年心理狀況進行評估，從而減少校園暴力發(fā)生的可能。

從干預到治愈，AI還能為校園暴力做些什么？

可是對青少年進行評估之后，我們還能做些什么？總不能將那些高風險的青少年和普通人隔離開來，或是進行一些人為干預，那樣這些青少年自身又稱為了“AI暴力”的受害者。

校園暴力的成因非常復雜，一方面和校方、家庭、社會制度疏于管理有關，另一方面也關系到施暴者自身的心理因素。

而除了預測風險，AI能夠解決的問題還有兩類，一類是監(jiān)控校園暴力的發(fā)生狀況，另一類是在校園暴力發(fā)生后對施暴者和受害者進行心理危機干預。

調查顯示，從2008年之后有65%的校園暴力都包含了網(wǎng)絡欺凌。也就是說網(wǎng)絡欺凌通常是校園暴力的開始，接下來會出現(xiàn)語言暴力、肢體暴力等等現(xiàn)實世界的傷害。準確追蹤到網(wǎng)絡欺凌的苗頭，或許可以防止校園暴力向更嚴重的方向發(fā)展。

這時利用NLP技術和圖像識別尋找百度貼吧、QQ空間、朋友圈、抖音/快手等等社交媒體中的暴力言論就可以成為一種高效的方法。不久前浙江溫嶺發(fā)生的校園暴力事件，施暴者就是在微博、貼吧、知乎等社交媒體中對受害者進行了長達十年的侮辱和造謠。

其實地域性的社交媒體、侮辱性的詞匯等等都具有很強的指向性，可以被語言識別技術輕松的發(fā)現(xiàn)，而這些社交媒體大多又是實名制的，及時對這些信息進行屏蔽、刪除甚至追責，或許可以減少校園暴力對青少年造成的傷害。

Facebook就邀請了美國家庭網(wǎng)絡安全組織作為自己的安全顧問委員會成員，推出了安全及防欺凌中心，專門開拓入口接受用戶舉報解決相關問題，同時利用人工智能監(jiān)測用戶發(fā)布內容中的暴力傾向和自殺傾向，以保證及時參與干預。

而在心理危機干預方面，中國整體相對發(fā)達國家都趨于弱勢。在滬衛(wèi)計委的調查中，中國17歲以下的3.4億兒童和青少年有3000萬人受到各種心理行為問題的困擾。而且中國心理咨詢服務整體的就職門檻較低，只需大專學歷和500小時以上的培訓時間，通過考試就能獲得資質，甚至沒有臨床方面的要求。

利用AI服務心理咨詢，是一種歷史悠久的解決方案。在1966年，人工智能研究還處于萌芽時期時，科學家就開發(fā)出了一款名為ELIZA的神經(jīng)語言處理項目，目的是為了模擬精神病治療師的行為和話術。雖然這一項目沒能取得成功，但是卻成功的打開了AI+心理咨詢的大門。

像IBM就和多所大學合作，利用神經(jīng)網(wǎng)絡對人類的語言進行分析，通過對語言、話題的一致性進行研究，尋找患精神病的幾率。同時最近流行的虛擬心理沙盤也是將實體心理沙盤數(shù)字化，通過對沙盤擺放和表情識別、眼動追蹤的機器學習，給出比現(xiàn)實沙盤更詳實的結果。

對于青少年來說，利用AI來進行心理危機干預一方面能降低校方和家長付出的成本。另外處于青春期的青少年面對電腦、手機可能會更容易放下心理防備，展示出更真實的狀態(tài)。包括前文中提到的辛辛那提兒童醫(yī)院研究中心，也在嘗試把AI對語言的分析能力從預測校園暴力釋放到“治愈校園暴力”上。對于施暴者和受害者來說，都可以通過這種方式降低校園暴力對于他們未來長遠的影響。

結語

我們很遺憾的發(fā)現(xiàn)，目前AI雖然能對于校園暴力有所作用，可是這些作用能力真的少之又少。

AI可以刪掉社交媒體中每一條帶有侮辱性質的留言，卻不能阻止青少年之間的口耳相傳。AI可以撫慰受害者的心靈，卻不能為他們擋住拳腳。原來哆啦A夢真的只是童話，在現(xiàn)實世界里，技術也會有無能為力的時候。

想要解決校園暴力，最起碼盡可能降低校園暴力對青少年的傷害。還是需要依賴法律法規(guī)的完善，以及家長、校方和全社會的共同關注。等到那一天，或許會有更多有志之士挖掘出AI解決校園暴力的更加可能，讓哆啦A夢真的出現(xiàn)。

來源：鈦媒體

收藏分享

聲明：數(shù)據(jù)猿尊重媒體行業(yè)規(guī)范，相關內容都會注明來源與作者；轉載我們原創(chuàng)內容時，也請務必注明“來源：數(shù)據(jù)猿”與作者名稱，否則將會受到數(shù)據(jù)猿追責。