近日，多款在線學習類APP被曝光產(chǎn)品內(nèi)暗藏大量"黃段子"，"學霸君""小猿搜題"等熱門在線學習軟件均牽涉其中。針對這一問題，全國"掃黃打非"辦公室已協(xié)調(diào)相關部門進行深入調(diào)查，并且會同宣傳、網(wǎng)信、工信、公安、文化、工商、新聞出版廣電等部門，在全國范圍內(nèi)開展互聯(lián)網(wǎng)低俗色情信息專項整治行動。

近兩年來，直播平臺、資源共享下載平臺、各類APP，以及各種圖片、視頻社交網(wǎng)站迅速發(fā)展，但是魚龍混雜、良莠不齊，面對互聯(lián)網(wǎng)上充斥的不健康信息，我們該怎么辦?

涉黃與凈化上演貓鼠游戲人工審核"力不從心"

相信很多人還對"快播被禁"事件記憶猶新。2014年4月中旬快播科技對外宣布，快播會關閉qvod服務器，停止基于快播技術的視頻點播和下載，清理低俗內(nèi)容與涉盜版內(nèi)容。

在此之后，國家監(jiān)管政策密集頒布，一個個涉黃平臺被關停。國家對淫穢色情信息的嚴厲監(jiān)管，也使得網(wǎng)絡行業(yè)催生了一個新工種--被網(wǎng)友調(diào)侃為"宅男福利職業(yè)"的人工鑒黃師。

之所以被看作"福利"，是因為他們不但需要涉獵大量黃色圖片、文字、視頻等，而且還能掙高額工資。很多人還記得，4年前，某互聯(lián)網(wǎng)公司曾用20萬高薪招聘"首席淫穢色情鑒定官"。

但是，看似"風光"的背后是心理和生理的雙重壓力。據(jù)科技日報記者了解，一個鑒黃師平均一天要看2萬張圖，同時需要"白加黑、五加二"不間斷工作。"圖普科技"運營總監(jiān)、"AI鑒黃師"姜澤榮就吐槽:"說當'鑒黃師'是件美差的人，都不了解這個職業(yè)。"

對眾多平臺而言，聘請鑒黃師需要巨額投入。阿里安全專家王金廷向科技日報記者表示，一個100人的審核團隊，一年花費要在840萬元左右。但是即使在年薪20萬的誘惑下，每個平臺也只有幾十或者上百個人的監(jiān)管隊伍。當直播高峰期來臨時，成千上萬的主播在線，讓監(jiān)管隊伍"力不從心"。

AI"清道夫"培訓上崗用三把尺子鑒定影像

在這樣的前提下，引入"AI鑒黃師"解放一大部分審核師就顯得意義非凡。利用機器替代人工進行基礎的審核工作，對于以視頻和圖片為主的網(wǎng)絡平臺而言，成為了一種剛需。

王金廷指出，使用"AI鑒黃師"可以減少90%以上人工成本;可實現(xiàn)精準審核過濾，甚至可達到99%以上的準確率;相對于人工鑒黃3小時輪班輪崗的效率，AI可以24小時不間斷審核，并且"無工傷、無工資"。

但是"AI鑒黃師"在上崗前還需要通過工程師的"訓練"才能開始工作。首先人們會給AI輸入海量數(shù)據(jù)，對它們進行標簽化訓練，告訴它，ABC這樣的情況屬于色情，DEF這樣的情況屬于非色情;然后AI會通過學習，提取ABCDEF的特征來判斷G是不是色情。

當然，不同的"AI鑒黃師"工作的技術路線也不盡相同，但"套路"是一致的，一般會通過3方面對實時視頻影像進行分析鑒定:是否有人物，如有，色情概率增加;人形輪廓的膚色比例，如果比較大，色情概率增加;姿態(tài)分析，如有性行為姿勢，則色情概率增加。

在網(wǎng)絡凈化的道路上，國內(nèi)多家IT巨頭早已開始布局。阿里的綠網(wǎng)、騰訊的萬象優(yōu)圖等紛紛下水，創(chuàng)業(yè)公司也積極參與凈化業(yè)務，"八仙過海，各顯神通"。

王金廷是負責"阿里綠網(wǎng)"的產(chǎn)品專家。據(jù)介紹，基于深度學習技術及阿里巴巴多年的海量數(shù)據(jù)支撐，"阿里綠網(wǎng)"可提供圖片、視頻、文字等多媒體的內(nèi)容風險智能識別服務，在節(jié)省90%以上人力成本的同時，該應用支持秒級返回結果，達到99%以上的準確率。

騰訊優(yōu)圖DeepEye智能鑒黃技術，可對目標圖片進行系統(tǒng)識別，準確率高達99.9%。它不僅可以用于靜態(tài)圖片的審核，還可以應用到動態(tài)的直播業(yè)務中，透過對直播流抽幀鑒定處理，讓違規(guī)"色情主播"秒進"小黑屋"。

機器發(fā)力還需人工輔助AI獨立審核任重道遠

無疑，人工智能介入內(nèi)容識別是偉大的進步。但上述機器審核都不能獨立進行，還需要人工輔助。

在采訪中，關于人工智能何時能獨立扛起審核大旗的疑問，科技日報記者從眾多專家那里得到的比較一致的看法是，"在現(xiàn)有技術條件下，要實現(xiàn)AI完全替代人工尚需時日"。

人工智能如此發(fā)達，為何還替代不了人?王金廷向記者列舉了人工智能審核時的3個瓶頸。"首先AI需要適應不同行業(yè)不同用戶的審核標準，這中間的差異性會非常大，對于人工智能算法的挑戰(zhàn)也很大;其次，針對新出現(xiàn)的變異風險，算法需要有強大的自我學習能力，這也是目前需要解決的問題;最后，要真正實現(xiàn)無人化，人工智能需要達到在沒有人的參與下訓練。"

此外，現(xiàn)階段，人工智能還遠未模擬出用戶的真實體驗，涉黃與否，很難作出準確的"人的判斷"。以Google為例，有超過一萬名員工充當著搜索結果評估者的角色。這或許也說明了人工智能"上位"還需加把勁。究其原因，機器檢測到含有敏感詞匯的文字內(nèi)容，會將其刪除或向用戶發(fā)出警告。但對于圖片、視頻的審核，機器無法像對文字內(nèi)容一樣提取關鍵詞，審核難度較大。

"人工智能雖然取得了很大進步，但遠未到徹底替代人的時候。"王金廷認為，隨著技術的進步，人工智能也許會徹底解放人類。不過到了那一天，人工鑒黃師恐怕就要失業(yè)了。

更多資訊請關注工業(yè)機器人頻道