北美首頁新聞時尚大陸台灣美國娛樂體育財經圖片移民微博健康

AI鑒黃師走紅 凈化網絡環境意義重大

http://news.sina.com   2017年03月20日 09:55   北京新浪網

一位“鑒黃師”的電腦上貼着便簽,上面注明了甄別色情信息的標準 圖/中新網

一位“鑒黃師”的電腦上貼着便簽,上面注明了甄別色情信息的標準 圖/中新網

  羊城晚報記者 龔衛鋒

  前晚,“鬥魚直播”一檔名叫《職男職女職播》的綜藝節目與觀衆見面。這檔節目每周會請來不同行業的專家們,為青年人解決職業困惑。本周是該系列的第二期:上一期在武漢直播,請來的嘉賓是法醫;這一期在廣州直播,請來的嘉賓身份更具話題性——他們是“AI鑒黃師”。

  三位嘉賓中,姜澤榮是互聯網“圖像識別”領域龍頭企業“圖普科技”的運營總監,也是一名“AI鑒黃師”。他這個“老司機”帶着兩位“小司機”同事在直播中談笑風生,讓觀衆了解到:這份網友眼中很酷的工作,其實並不輕鬆;而有了AI人工智能技術(Artificial Intelligence)的助力,“鑒黃”的效率已經大大提高。

  背景

  “網絡監管加強,

  越來越多直播平台請鑒黃師把關”

  “快播被禁”堪稱2014年的年度事件。2014年4月16日快播科技發布公告稱,快播將關閉qvod伺服器,停止基於快播技術的視頻點播和下載,清理低俗內容與涉盜版內容。同年8月,全國“掃黃打非”辦公室發布消息稱,深圳快播科技有限公司網上傳播淫穢色情信息案主要犯罪嫌疑人、快播公司法定代表人兼總經理王欣於8月8日被依法抓捕歸案。

  “國家非常重視對淫穢色情信息的監管,我們公司成立時,就把‘鑒黃’作為公司的重要工作,第一個客戶是迅雷。”姜澤榮透露,當時迅雷給了很多數據幫他們調整並優化系統,不過,迅雷如何利用系統則不在他們的控制範圍內,“迅雷不存儲內容,用戶下載並分享的過程中觸發‘過濾’機制才有可能被禁,但達到多少基數會被禁,我們不知道。”

  “AI鑒黃師”與“傳統鑒黃師”通過肉眼瀏覽過濾色情信息不同,他們的工作是將大夥兒從互聯網上搜集的圖片、視頻進行分類整理,分別放入系統“正常”、“性感”、“色情”三大板塊中,“我們調教機器去識別色情信息,通過樣本建立模型,最終趨近於達到人眼識別的效果,原理和AlphaGo一樣。”圖普科技客戶經理周耀輝说道。

  他們公司現在有上百個客戶,其中直播客戶占了很大的量,這與近兩年直播行業的急速發展密不可分。“部分直播平台為了賺快錢,專門請美女主播滾動直播色情內容,結果上線沒多久就被禁。”圖普科技市場經理鄧柯解釋,“對網絡信息管控比較重視的企業會走得更遠。”

  國家對直播平台的監管也在逐漸加強,去年4月13日,百度、新浪、搜狐等20余家直播平台共同發布《北京網絡直播行業自律公約》,承諾網絡直播房間必須標識水印;內容存儲時間不少於15天備查;所有主播必須實名認證;對於播出涉槍、涉毒、涉暴、涉黃內容的主播,情節嚴重的將列入黑名單;審核人員對平台上的直播內容進行24小時實時監管。

  《互聯網直播服務管理規定》2016年12月1日起在全國施行,明確禁止互聯網直播服務提供者和使用者利用互聯網直播服務從事危害國家安全、破壞社會穩定、擾亂社會秩序、侵犯他人合法權益、傳播淫穢色情等活動。

  於是,越來越多的直播平台開始找“AI鑒黃師”幫助,一旦有主播傳播色情信息、系統判定為“色情”后,會立即通知直播平台“封號”;系統拿不准的信息,會被發送到直播平台系統中,讓鑒黃師人工判定。通常,從“判定信息為色情”到“查封賬號”,平均用時為30秒。

  工作

  “機器幫忙識別色情信息,實時監控直播的越軌舉動”

  鄧柯介紹:“視頻直播的利潤空間之大,普通人難以想象。比如一個以喊麥著稱的主播,辦一場活動號稱‘日薪百萬’,很多直播平台不惜花百萬元甚至千萬元去挖一個TOP級別的主播。”據悉,一些美女主播為了維持足夠的用戶粘度,常常一段直播長達兩小時,甚至有人曾表演長達8小時的絲襪舞,平均每隔三分鐘念一遍感謝粉絲贈送禮物的名單……當她們做出一些越軌舉動時,往往能收穫很多禮物,折合成人民幣數額相當可觀,於是一些美女主播不時打打“情色”擦邊球。

  去年11月28日,女主播“雪梨槍”因傳播色情視頻內容被判有期徒刑4年,給這類突破底線的主播們敲響了警鐘。“利用色情謀利是直播平台的大忌,以身犯險極易觸犯法律。”周耀輝说。姜澤榮也強調違法行為是不能容忍的:“人有需求很正常,但釋放途徑要得當,利用這一點做違規、違法的事情很不好。”

  周耀輝表示,直播平台對於“AI鑒黃師”的需求量很大:“因為直播是實時性的,隨時可能有人做出越軌舉動,機器(系統)會把視頻實時導出成一張張圖片,以方便鑒別。”不過,各個平台的尺度不一樣,姜澤榮说:“我們把機器給直播平台使用,但他們在調用時選擇的尺度是不同的。”

  “內容管控是個世界性課題,很多人覺得海外網絡管控很松,可以隨意瀏覽色情網站,其實這是一種誤解,不少國家和地區的管控相當嚴格,比如在實名認證的情況下,Google Play對色情是零容忍的,而日本AV有明確的分級制度。”周耀輝指出了人們的一些認識誤區。

  有人責難“鑒黃師”,認為他們堵塞了人性的出口。對此姜澤榮持反對意見。他認為,在尚未“分級”的情況下,“寧可錯殺一千,也不能放過一個”,而“一刀切”目前看來是必要的,必須防止色情視頻對青少年身心健康的危害,但他們希望另一方面,“性教育”也該完善。他表示:“我們調查也發現,很多家長沒有正確引導孩子,一味壓抑也是不對的。”

  在機器和人的努力下,如今色情直播現象明顯少了很多,“我們平台數據顯示,現在直播過程中,出現色情內容的比例是萬分之四。”鄧柯说。

  感受

  “安靜理性適合當鑒黃師,

  太活潑的人干不了”

  “剛開始做這份工作有些不適應,當你打開屏幕,滿屏都是不堪入目的內容,我整個人都凌亂了。”姜澤榮的同事毛毛,是這次鬥魚直播節目《職男職女職播》的一位嘉賓,“美女鑒黃師”的標籤讓她在幾位嘉賓中特別搶眼。

  姜澤榮被同事稱為“老司機”,是AI鑒黃的元老。“公司剛成立時,部門只有四個人,加班非常多,一天起碼有六個小時在搜集數據,簡單说,就是看黃圖、黃片,然后把它們扔到資料庫中。”他們部門“技術宅”居多。“我們在招聘時對性格有要求,太活潑的人當不了鑒黃師,性格安靜、理性的人比較適合。”姜澤榮说。

  2013年,百度、騰訊、金山等10多個互聯網公司組成的“安全聯盟”,公開招聘“首席淫穢色情鑒定官”,條件是年薪20萬元、五險一金、每天有酸奶水果福利,工作內容就是對着電腦專職識別色情淫穢網站。很多人覺得這份工作很酷,但隨后也不斷傳出有鑒黃師申請“工傷”索賠的新聞。姜澤榮吐槽道:“说當‘鑒黃師’是件很酷的事情的人,都不了解這個職業。凡事都有個度,什麼事都耐不住天天看啊!”姜澤榮解釋,“鑒黃”只是他工作的一部分,他們還在開拓其他智能識別項目。

  “我們組有6個人,全是男性,都不會跟外界说自己是‘鑒黃師’,因為對很多人來说,這不是什麼很好的工作,说出去會影響別人對你的看法。但另一方面,凈化網絡環境的工作是有意義的。”姜澤榮通常會跟親友说自己是做互聯網技術的,如今還有種高大上的说辭——“我在做‘人工智能’。”

Bookmark and Share
|
關閉
列印
轉寄
去論壇發表評論