美圖欣賞 | 設為首頁 | 加入收藏 | 網站地圖

當前位置:新錦江平臺:www.xjj7.com-電腦中國 > 新聞 > 安全資訊 >

內容安全產業任重道遠,網易易盾內容安全智能體系升級

2019-12-25 16:22|來源:未知 |作者:dnzg |點擊:

日前,網易易盾舉辦了一場2019內容安全智能體系發布會,分享易盾對內容安全體系建設的前瞻思考,并正式發布了面向智能時代的審核管理系統。中國人工智能產業發展聯盟辦公室主任、網信技術委員會秘書長石霖、央視網網絡安全部副總監黃樂受邀發表主題演講,現場一百多位企業內容風控人員全程參與了本次活動,共同研討內容安全體系建設和實踐。在會后,網易易盾CTO朱浩齊和網易易盾產品總監饒曉艷還共同接受了媒體的采訪,分享了網易易盾內容安全體系的創新之處和應用價值。

內容識別產業初見雛形 三大困局待破解

石霖表示,在互聯網飛速發達的時代,大量的有害信息也相伴相生,文字、圖片、音視頻不僅是傳遞互聯網信息的有效載體,也成為了色情、暴、恐等有害信息傳播的載體。

他透露了一個專網通報數據,僅在2019年11月,各級網信部門就受理了970多萬件有害信息的舉報,幾乎每位網民都曾經受到有害信息的侵擾。國家一直在出臺各種相關管理規定,今年10月網絡音視頻管理規定中,明確要求相應的媒體、網絡音視頻提供者,在傳播發布視頻時要具有相應的檢測手段。而很多廠商也在積極參與,落地使用人工智能等技術來識別和處理文字、語音、圖像、視頻中存在的有害信息。

石霖還指出內容識別產業仍然處于起步階段,還有三大問題亟待解決:一是標準的缺失,二是訓練數據的缺失,三是傳播形式愈加復雜。

智能做抓手,網易易盾一直在創新突破

網易,易頓,朱浩齊,內容安全

網易易盾CTO朱浩齊

對于內容安全當下的現狀,網易易盾CTO朱浩齊表示,為此易盾構建了面向未來的內容安全體系,希望通過智能驅動、統一聯動、個性定制、共建眾治的體系,能夠全面高效地解決內容安全治理中的一些難題。

朱浩齊告訴記者,隨著法律法規越來越完善,再加上企業社區氛圍調性建設,以及企業積極承擔起社會責任,需要內容安全服務的企業也越來越多。他以蘋果應用商店為例,AppStore有40多個應用類型的分類,每個分類都有上千款App,而這里面絕大部分App都有內容安全的需求。不僅如此,像不少傳統行業也開始需要內容安全技術的幫助,例如金融行業,為了增加用戶黏性,也開始做互動評論,這也使得他們的產品/社區必然遭受有害信息的侵擾。“內容安全正在上升期,到了2025年預計智能終端設備將上升到80億規模,這些終端產生的信息將達到驚人的程度,一些有害信息的規模也可想而知。所以必須從眼下就著手內容安全生態的建設,而人工智能就是非常好的一個抓手。”

據了解,本次網易易盾升級的內容安全智能體系就是利用智能驅動:目前99.8%以上的海量實時多媒體內容都可以被智能技術精準識別過濾。自然語義、圖像識別、聲紋識別等都在內容安全領域有成熟徹底的落地。而這,背后是網易易盾在技術上的持續打磨和迭代,光今年僅在圖片檢測能力升級上,就新增40+細分類模型,重要更新50次,性能提升30%,召回和精確度提升10%……

據朱浩齊透露,智能驅動更加高效,漏判率遠低于純人工審核,智能指標模型精確度非常高,這得益于網易擁有海量的訓練數據,能夠搜集到大量的誤判數據,從而幫助機器提升誤判基線。他告訴記者,傳統的內容審核往往是依賴關鍵詞,但是網易易盾建立了智能關鍵詞模型,能夠進行上下文的語義理解,從而結合整篇文章的語句進行判斷,準確率高。更重要的是,還節省了大量的人力成本,將人工審核的工作量至少降低80%,這也就意味著用戶如果采用網易的內容安全技術,僅需很少的人力成本就可以實現內容安全高度控制。

網易,易頓,饒曉燕,內容安全

網易易盾產品總監饒曉艷

饒曉艷坦言,其實灰黑產也一直緊跟新興科技發展步伐,不斷嘗試用更新的手段隱藏自己。例如過去不法分子將關鍵信息隱藏在文本中,看似是無意義的字符串,傳統內容安全技術識別不出問題,但是現在通過網易易盾的技術做文本內容聚類,就可以真正識別出這些隱藏的非法信息。再以圖像信息為例,灰黑產在不同圖片的不同位置放置二維碼,試圖瞞天過海,一般的內容安全技術的確識別出來,但是通過圖像聚類就可以火眼金睛識別出來。“雖然灰黑產一直都沒有停止擴充的步伐,但我們的技術一直在進步,研發創新也一直在突破,遏制他們發展勢頭。”

面向智能時代設計的審核管理系統

在本次發布會上,網易易盾還發布了面向智能時代設計的審核管理系統。之所以推出這套審核管理系統,是因為傳統審核長久一直缺乏相應通用規范,操作后臺長期得不到研發支持,大多數審核管理系統存在操作繁瑣、設計陳舊、功能落后,甚至有些操作需要在多個后臺跳轉處理的問題。

饒曉艷表示,相比較爆發式的內容增長和日趨嚴格的監管要求,審核管理系統已成為企業內容安全的最大短板,嚴重影響了審核效率和安全要求。而網易易盾此次發布的審核管理系統是面向智能時代的審核機制而設計,具有功能豐富、智能高效、輕量靈活、交互友好四大優勢。“審核人員是企業內容安全的重要保障力量,為公司健康發展付出了很多,非常高興可以為審核人員設計一套友好有溫度的管理系統,讓他們的工作更加輕松快捷。”

網易易盾脫胎于網易安全部,扎根內容安全領域已超過20年,2016年對外商用以來,已服務數千家企業,其中不乏OPPO/VIVO、B站、一直播等知名客戶,每日過濾有害信息超過十億條,目前已是國內領先的內容安全和業務安全服務商。

(責任編輯:dnzg)
安卓手机安全赚钱软件哪个好用 腾讯三分彩稳定计划 云南十一选五官网 广西11选5一定牛 黑龙江十一选五走势图正好 河南快三500期走势图 白小姐王中王三肖选一肖 上海时时乐乐走势图 陕西11选5规则 任2 快乐10分钟开奖结果广东 东京快乐8