看大數(shù)據(jù)如何分析情感
崔維福 | 2017-03-17 16:59
【數(shù)據(jù)猿導(dǎo)讀】 情感分析是學(xué)術(shù)領(lǐng)域研究多年的課題,用google學(xué)術(shù)搜索可以找到很多paper,要真正從研究領(lǐng)域落地到大數(shù)據(jù)的處理還有很多工作要做

情感分析是學(xué)術(shù)領(lǐng)域研究多年的課題,用google學(xué)術(shù)搜索可以找到很多paper,基本的方法上有基于詞典規(guī)則的方法、語(yǔ)言文法的方法,此外還有分類器以及近幾年比較火的深度學(xué)習(xí)的方法(稍后有詳細(xì)介紹)。
各類paper是有一定的借鑒意義的,不過(guò)這主要是學(xué)術(shù)界在單個(gè)問(wèn)題上的細(xì)化,要真正從研究領(lǐng)域落地到大數(shù)據(jù)的處理還有很多工作要做。
一、工程上的處理流程
工程上的處理流程具體包括以下幾個(gè)方面:
1、情感分析任務(wù)的界定
在進(jìn)行情感分析任務(wù)的界定時(shí),要弄清楚工程的需求到底是什么;要分析文本的哪個(gè)層面上的情感,比如篇章、段落、句子、短語(yǔ)、詞等粒度;是不是要分析所有的文本還是分析其中的部分文本;準(zhǔn)許的錯(cuò)誤誤差是在個(gè)什么范圍內(nèi)等。
2、情感分析標(biāo)準(zhǔn)的制定
在實(shí)際的企業(yè)應(yīng)用中往往要根據(jù)行業(yè)的特點(diǎn)來(lái)制定一些情感分析的標(biāo)準(zhǔn),甚至要從客戶的立場(chǎng)中去建立標(biāo)準(zhǔn)。根據(jù)國(guó)雙實(shí)際接觸客戶的經(jīng)驗(yàn),在行業(yè)上建立標(biāo)準(zhǔn)后,還需要再具體跟客戶做一些適度調(diào)整。
3、語(yǔ)料數(shù)據(jù)加工、詞典加工
有了上一步的工作,接下來(lái)進(jìn)行加工語(yǔ)料或者字典的總結(jié)。這一步中不同的方法要做的工作不同,基本上是鋪人力的工作,難點(diǎn)是讓各個(gè)語(yǔ)料加工人員能協(xié)調(diào)一致,執(zhí)行統(tǒng)一的標(biāo)準(zhǔn)(通常會(huì)在這個(gè)過(guò)程中還會(huì)反作用到第二步情感分析標(biāo)準(zhǔn)的制定,因?yàn)榭吹綄?shí)際數(shù)據(jù)后會(huì)發(fā)現(xiàn)標(biāo)準(zhǔn)總會(huì)有一些模糊地帶)
4、根據(jù)數(shù)據(jù)特征、規(guī)模等選擇合適的方法,并評(píng)測(cè)方法的優(yōu)劣
工程中的方法并不是單一的方法,想用一個(gè)方法或者模型來(lái)解決各類數(shù)據(jù)源上的問(wèn)題是不可能的。想要做出好的效果一定是采用分而治之的思想,比如,能用規(guī)則精準(zhǔn)過(guò)的就不需要用分類器。
當(dāng)應(yīng)用在實(shí)際產(chǎn)品時(shí),最好能結(jié)合產(chǎn)品的垂直特點(diǎn),充分利用垂直行業(yè)的特性,比如在金融行業(yè)、汽車(chē)行業(yè),它們一定有自己的行話,這些行話具有非常明顯的規(guī)則或者特征。
二、情感分析方法及工具
情感分析對(duì)象的粒度最小是詞匯,但是表達(dá)一個(gè)情感的最基本的單位則是句子,詞匯雖然能描述情感的基本信息,但是單一的詞匯缺少對(duì)象,缺少關(guān)聯(lián)程度,并且不同的詞匯組合在一起所得到的情感程度不同甚至情感傾向都相反。所以以句子為最基本的情感分析粒度是較為合理的。篇章或者段落的情感也可以通過(guò)句子的情感來(lái)計(jì)算。
現(xiàn)階段關(guān)于情感分析方法主要有兩類:
(一)、基于詞典的方法:
基于詞典的方法主要通過(guò)制定一系列的情感詞典和規(guī)則,對(duì)文本進(jìn)行拆句、分析及匹配詞典(一般有詞性分析,句法依存分析),計(jì)算情感值,最后通過(guò)情感值來(lái)作為文本的情感傾向判斷的依據(jù)。
做法:
基于詞典的情感分析大致步驟如下:
對(duì)大于句子力度的文本進(jìn)行拆解句子操作,以句子為最小分析單元;
分析句子中出現(xiàn)的詞語(yǔ)并按照情感詞典匹配;
處理否定邏輯及轉(zhuǎn)折邏輯;
計(jì)算整句情感詞得分(根據(jù)詞語(yǔ)不同,極性不同,程度不同等因素進(jìn)行加權(quán)求和);
根據(jù)情感得分輸出句子情感傾向性。
如果是對(duì)篇章或者段落級(jí)別的情感分析任務(wù),按照具體的情況,可以以對(duì)每個(gè)句子進(jìn)行單一情感分析并融合的形式進(jìn)行,也可以先抽取情感主題句后進(jìn)行句子情感分析,得到最終情感分析結(jié)果。
參考及工具:
1.常見(jiàn)英文情感詞庫(kù):GI(TheGeneralInquirer)、sentiWordNet等;
2.常見(jiàn)中文情感詞庫(kù):知網(wǎng)、臺(tái)灣大學(xué)的情感極性詞典;
3.幾種情感詞典構(gòu)建方法:基于bootstrapping方法的Predictingthesemanticorientationofadjectives及Determiningthesentimentofopinions兩種最為經(jīng)典的詞典構(gòu)建方法。
(二)、基于機(jī)器學(xué)習(xí)的方法:
情感詞典準(zhǔn)確率高,但存在召回率比較低的情況。對(duì)于不同的領(lǐng)域,構(gòu)建情感詞典的難度是不一樣的,精準(zhǔn)構(gòu)建成本較高。另外一種解決情感分析的思路是使用機(jī)器學(xué)習(xí)的方法,將情感分析作為一個(gè)有監(jiān)督的分類問(wèn)題。對(duì)于情感極性的判斷,將目標(biāo)情感分為三類:正、中、負(fù)。對(duì)訓(xùn)練文本進(jìn)行人工標(biāo)注,然后進(jìn)行有監(jiān)督的機(jī)器學(xué)習(xí)過(guò)程,并對(duì)測(cè)試數(shù)據(jù)用模型來(lái)預(yù)測(cè)結(jié)果。
處理過(guò)程:
基于機(jī)器學(xué)習(xí)的情感分析思路是將情感分析作為一個(gè)分類問(wèn)題來(lái)處理,具體的流程如下:
1、文本預(yù)處理
文本的預(yù)處理過(guò)程是使用機(jī)器學(xué)習(xí)作用于文本分類的基礎(chǔ)操作。由于文本是非結(jié)構(gòu)化數(shù)據(jù)及其特殊性,計(jì)算機(jī)并不能直接理解,所以需要一系列的預(yù)處理操作后,轉(zhuǎn)換為計(jì)算機(jī)可以處理的結(jié)構(gòu)化數(shù)據(jù)。在實(shí)際分析中,文本更為復(fù)雜,書(shū)寫(xiě)規(guī)范也更為隨意,且很有可能摻雜部分噪聲數(shù)據(jù)。整體上來(lái)說(shuō),文本預(yù)處理模塊包括去噪、特征提取、文本結(jié)構(gòu)化表示等。
特征抽?。褐形淖钚≌Z(yǔ)素是字,但是往往詞語(yǔ)才具有更明確的語(yǔ)義信息,但是隨著分詞,可能出現(xiàn)詞語(yǔ)關(guān)系丟失的情況。n-元文法正好解決了這個(gè)問(wèn)題,它也是傳統(tǒng)機(jī)器學(xué)習(xí)分類任務(wù)中最常用的方法。
文本向量化:對(duì)抽取出來(lái)的特征,向量化是一個(gè)很重要的過(guò)程,是實(shí)現(xiàn)由人可以理解的文本轉(zhuǎn)換為計(jì)算機(jī)可以處理數(shù)據(jù)的重要一步。這一步最常用到的就是詞袋模型(bag-of-words)以及最近新出的連續(xù)分布詞向量模型(wordEmbedding)。詞袋模型長(zhǎng)度為整個(gè)詞表的長(zhǎng)度,詞語(yǔ)對(duì)應(yīng)維度置為詞頻,文檔的表示往往比較稀疏且維度較高。Embedding的表示方式,能夠有效的解決數(shù)據(jù)稀疏且降維到固定維度,更好的表示語(yǔ)義信息。對(duì)于文檔表示,詞袋模型可以直接疊加,而Embedding的方法可以使用深度學(xué)習(xí)的方法,通過(guò)pooling得到最終表示。
特征選擇:在機(jī)器學(xué)習(xí)分類算法的使用過(guò)程中,特征好壞直接影響機(jī)器的準(zhǔn)確率及召回率。選擇有利于分類的特征,可以有效的減少訓(xùn)練開(kāi)支及防止模型過(guò)擬合,尤其是數(shù)據(jù)量較大的情況下,這一部分工作的重要性更加明顯。其選擇方法為,將所有的訓(xùn)練語(yǔ)料輸入,通過(guò)一定的方法,選擇最有效的特征,主要的方法有卡方,信息熵,dp深層感知器等等。
目前也有一些方法,從比句子粒度更細(xì)的層次去識(shí)別情感,如基于方面的情感分析(AspectbasedSentimentAnalysis),他們從產(chǎn)品的評(píng)價(jià)屬性等更細(xì)粒度的方面對(duì)評(píng)價(jià)主體進(jìn)行情感傾向性分析。
2、分類算法選擇
文本轉(zhuǎn)換為機(jī)器可處理的結(jié)構(gòu)后,接下來(lái)便要選擇進(jìn)行機(jī)器學(xué)習(xí)的分類算法。目前,使用率比較高的是深度學(xué)習(xí)(CNN,RNN)和支持向量機(jī)(SVM)。深度學(xué)習(xí)的方法,運(yùn)算量大,準(zhǔn)確率有一定的提高,所以都在做這方面的嘗試。而支持向量機(jī)則是比較傳統(tǒng)的方法,其準(zhǔn)確率及數(shù)據(jù)處理能力也比較出色,很多人都在用它來(lái)做分類任務(wù)。
參考及工具:
1.svm分類libsvm
2.python機(jī)器學(xué)習(xí)工具scikit-learn
3.深度學(xué)習(xí)框架:Tensorflow、Theano
本文選自國(guó)雙商業(yè)市場(chǎng)在知乎的回答。
關(guān)于情感分析,你不得不知道的11件事
對(duì)微博情感分析的的挖掘
Python爬蟲(chóng)和情感分析簡(jiǎn)介
用R進(jìn)行文本內(nèi)容情感分析
來(lái)源:36大數(shù)據(jù)
刷新相關(guān)文章
我要評(píng)論
活動(dòng)推薦more >
- 2018 上海國(guó)際大數(shù)據(jù)產(chǎn)業(yè)高2018-12-03
- 2018上海國(guó)際計(jì)算機(jī)網(wǎng)絡(luò)及信2018-12-03
- 中國(guó)國(guó)際信息通信展覽會(huì)將于2018-09-26
- 第五屆FEA消費(fèi)金融國(guó)際峰會(huì)62018-06-21
- 第五屆FEA消費(fèi)金融國(guó)際峰會(huì)2018-06-21
- “無(wú)界區(qū)塊鏈技術(shù)峰會(huì)2018”2018-06-14
不容錯(cuò)過(guò)的資訊
-
1#后疫情時(shí)代的新思考#疫情之下,關(guān)于醫(yī)
-
2數(shù)據(jù)軟件產(chǎn)品和服務(wù)商DataHunter完成B輪
-
3眾盟科技獲ADMIC 2020金粲獎(jiǎng)“年度汽車(chē)
-
4數(shù)據(jù)智能 無(wú)限未來(lái)—2020世界人工智能大
-
5#2020非凡大賞:數(shù)字化風(fēng)起云涌時(shí),共尋
-
6#榜樣的力量#天璣數(shù)據(jù)大腦疫情風(fēng)險(xiǎn)感知
-
7#榜樣的力量#內(nèi)蒙古自治區(qū)互聯(lián)網(wǎng)醫(yī)療服
-
8#榜樣的力量#實(shí)時(shí)新型肺炎疫情數(shù)據(jù)小程
-
9#榜樣的力量#華佗疫情防控平臺(tái)丨數(shù)據(jù)猿
-
10#后疫情時(shí)代的新思考#構(gòu)建工業(yè)互聯(lián)網(wǎng)新