鳳凰網(wǎng)科技訊（作者/花子健）6月25日消息，互聯(lián)網(wǎng)知識(shí)分享平臺(tái)知乎舉辦了一場(chǎng)“陰陽(yáng)怪氣”主題書(shū)法展，現(xiàn)場(chǎng)知乎社區(qū)治理團(tuán)隊(duì)對(duì)外分享了知乎在識(shí)別陰陽(yáng)怪氣類(lèi)內(nèi)容上的探索。

知乎運(yùn)營(yíng)總監(jiān)孫達(dá)云表示，在過(guò)去一年里，知乎不斷優(yōu)化算法機(jī)器人“瓦力”，以解決識(shí)別社區(qū)討論中的陰陽(yáng)怪氣這一難題，通過(guò)綜合使用情感模型、用戶(hù)親密度模型和文本識(shí)別模型，其識(shí)別準(zhǔn)確率得以大幅優(yōu)化，已超過(guò)大部分人工判斷。

過(guò)去一年，知乎全力探索對(duì)陰陽(yáng)怪氣類(lèi)評(píng)論的解決方案。陰陽(yáng)怪氣可用“杠精”這個(gè)詞來(lái)指代，通常以“不針對(duì)發(fā)言?xún)?nèi)容，而是批評(píng)對(duì)方的語(yǔ)氣”以及“提出反對(duì)意見(jiàn)，但不給或給出極少數(shù)論據(jù)支持”這兩類(lèi)常見(jiàn)言論為代表，此類(lèi)評(píng)論極大了傷害創(chuàng)作者和交流者的體驗(yàn)，但難以解決。

解決陰陽(yáng)怪氣類(lèi)評(píng)論的難點(diǎn)核心主要在于網(wǎng)絡(luò)語(yǔ)言的復(fù)雜性，情感分析不同于普通文本分析，例如經(jīng)典的“呵呵”，由于雙方不同關(guān)系、說(shuō)話(huà)的不同場(chǎng)景和時(shí)間都會(huì)帶來(lái)迥然不同的表意。即便是人工判定都存在標(biāo)準(zhǔn)化難度，算法模型的訓(xùn)練挑戰(zhàn)就更為艱辛。

目前，知乎借助AI技術(shù)，并輔以人機(jī)結(jié)合和多元的產(chǎn)品舉措，多重手段加強(qiáng)對(duì)社區(qū)氛圍的維護(hù)。知乎表示，算法已實(shí)現(xiàn)對(duì)95%以上的違法違規(guī)、廣告導(dǎo)流和不友善等內(nèi)容的主動(dòng)打擊、覆蓋和篩查。

內(nèi)容質(zhì)量管理團(tuán)隊(duì)技術(shù)負(fù)責(zé)人劉兆來(lái)表示，知乎還將在近期對(duì)該技術(shù)進(jìn)行產(chǎn)品化嘗試，向用戶(hù)提供“瓦力”陰陽(yáng)怪氣智能過(guò)濾選項(xiàng)，同時(shí)，還將對(duì)“瓦力”進(jìn)行更多訓(xùn)練，不斷提升準(zhǔn)確率和召回率，最終將陰陽(yáng)怪氣識(shí)別技術(shù)全面應(yīng)用到社區(qū)治理中。

劉兆來(lái)詳細(xì)介紹了“瓦力”最新的陰陽(yáng)怪氣技術(shù)方案：首先通過(guò)知乎社區(qū)里的舉報(bào)、反對(duì)等負(fù)向用戶(hù)行為收集訓(xùn)練數(shù)據(jù)。然后通過(guò)各種同義替換、規(guī)則模版方式對(duì)訓(xùn)練數(shù)據(jù)進(jìn)行擴(kuò)展，以緩解訓(xùn)練數(shù)據(jù)稀疏的問(wèn)題。同時(shí)，“瓦力”提取文本、句法、表情符等特征，并利用一個(gè)帶attention的CNN和LSTM的融合模型進(jìn)行分類(lèi)，最終判斷出內(nèi)容是否為陰陽(yáng)怪氣。

優(yōu)化技術(shù)方案后，“瓦力”已能實(shí)現(xiàn)對(duì)“暗藏玄機(jī)夸獎(jiǎng)”（忍不住關(guān)注答主了，你的答案很有水平！你博士快畢業(yè)了吧！）、“好為人師”（我覺(jué)得你挺慘，雖然長(zhǎng)這么大了，還真應(yīng)該回小學(xué)改造）、“強(qiáng)行反駁”（你開(kāi)心就好、請(qǐng)開(kāi)始你的表演）等數(shù)類(lèi)陰陽(yáng)怪氣內(nèi)容的識(shí)別。而根據(jù)知乎社區(qū)治理團(tuán)隊(duì)的調(diào)查，用戶(hù)最反感的陰陽(yáng)怪氣言論大多屬于這些類(lèi)型，這意味著，“瓦力”在處理網(wǎng)絡(luò)言語(yǔ)暴力上取得了階段性進(jìn)展。

劉兆來(lái)表示，未來(lái)將不斷優(yōu)化“瓦力”的識(shí)別能力，提高模型泛化能力，同時(shí)不斷迭代更新模型，緊跟學(xué)術(shù)前沿的同時(shí)，適應(yīng)網(wǎng)絡(luò)語(yǔ)言的變化潮流。