“內(nèi)容為王”漸成趨勢，帶動直播、短視頻等UGC平臺迎來爆發(fā)式成長，健康和諧的內(nèi)容生態(tài)也隨之成為直播行業(yè)生存發(fā)展的關鍵。

10月10日，虎牙公司與騰訊云、騰訊安全共同宣布成立安全聯(lián)合實驗室，雙方將融合騰訊在云服務器底層算力、內(nèi)容風險識別、反欺詐和威脅情報等方面的技術能力優(yōu)勢與虎牙公司在內(nèi)容風控、安全攻防和直播業(yè)務場景的實戰(zhàn)積累，圍繞AI安全應用、黑產(chǎn)打擊、安全攻防、數(shù)據(jù)標注、人工審核等多個領域展開技術交流與業(yè)務合作，共同建設AI智能審核平臺及安全攻防機制，并以AI安全能力的應用擴容，在虎牙直播平臺打造全方位安全攻防和更精準的內(nèi)容審核體系，為健康的網(wǎng)絡直播內(nèi)容生態(tài)建設提供參考樣本和前沿解決方案。虎牙公司高級副總裁李萌、虎牙公司內(nèi)容風控副總裁張二虎、騰訊云副總裁魏偉、騰訊安全副總裁黎巍等領導嘉賓出席實驗室掛牌儀式。

（虎牙公司攜手騰訊云、騰訊安全成立安全聯(lián)合實驗室）

“強大算力+AI審核+安全攻防”助力直播內(nèi)容生態(tài)優(yōu)化

疫情催化之下，在線業(yè)務按下發(fā)展“快進鍵”，直播平臺流量價值的日趨攀升，在一定程度上也讓黑灰產(chǎn)看到了更大的“商機”。而伴隨著直播業(yè)務內(nèi)容生態(tài)圈的縱深發(fā)展，如何有效預防黑灰產(chǎn)帶來內(nèi)容風險與威脅，成為直播行業(yè)健康持續(xù)發(fā)展的重要基石。如騰訊安全副總裁黎巍所言：“隨著包括生活服務、游戲、視頻、直播等在內(nèi)的泛互聯(lián)網(wǎng)行業(yè)利益點的不斷延伸，內(nèi)容安全能力已成為高度重視用戶體驗的泛互領域企業(yè)獲取用戶黏性的關鍵所在。”

結合多年來直播行業(yè)內(nèi)容生態(tài)建設經(jīng)驗，虎牙公司高級副總裁李萌認為，平臺在不斷突破自身的安全技術能力，持續(xù)優(yōu)化審核規(guī)范與制度基礎上，與擁有強大底層算力和成熟安全技術的廠商合作，會成為直播行業(yè)治理優(yōu)化內(nèi)容生態(tài)的有效途徑。基于此思路，騰訊云、騰訊安全與虎牙公司融合虎牙全面上云及多元破圈發(fā)展的短、中、長期安全需求，開放各自優(yōu)勢、能力與資源，在AI安全應用、黑產(chǎn)打擊、安全攻防、數(shù)據(jù)標注、人工審核等多個領域展開創(chuàng)新研究。

一方面，作為國內(nèi)頭部直播平臺之一的虎牙公司將秉承對違規(guī)內(nèi)容和欺詐事件“0容忍”的態(tài)度，基于其團隊堅守內(nèi)容審核及內(nèi)控合規(guī)一線的多維度內(nèi)容管理體系，結合自研的“AI智能識別、人工審核和網(wǎng)絡志愿者”三位一體模式，主動協(xié)助公安機關偵破涉疫情欺詐、刷單欺詐、冒充客服欺詐、游戲裝備交易欺詐等多類黑灰產(chǎn)案件。為平臺安全及內(nèi)容風控體系的升級打造提供實戰(zhàn)佐證與場景示范。

另一方面，騰訊則將依托20余年來積累的業(yè)務安全運營能力及黑灰產(chǎn)對抗經(jīng)驗，全面開放基于騰訊云星星海SA2云服務器底層算力和騰訊安全“AI+大數(shù)據(jù)”的內(nèi)容風控安全技術，針對合作場景持續(xù)優(yōu)化內(nèi)容識別能力，從而為虎牙公司營造更為安全的內(nèi)容生產(chǎn)環(huán)境。并共同以合作成果反哺行業(yè)發(fā)展，促進直播行業(yè)平臺安全與內(nèi)容風控的創(chuàng)新實現(xiàn)。

覆蓋內(nèi)容風險識別全場景，為直播行業(yè)提供前沿解決方案

在文本、圖片、音頻、視頻等內(nèi)容井噴式涌現(xiàn)的富媒體時代，內(nèi)容風控能力已成為內(nèi)容平臺的一項核心競爭力。在《網(wǎng)絡信息內(nèi)容生態(tài)治理規(guī)定》實施以來，虎牙公司已著力完善內(nèi)容風控技術、加強主播規(guī)范教育、提高平臺自審與處罰力度，為網(wǎng)絡直播環(huán)境凈化與良性內(nèi)容生態(tài)建設貢獻力量。在風控技術層面，虎牙公司自主研發(fā)業(yè)務風險識別系統(tǒng)，于聲音、畫面、文本維度，發(fā)現(xiàn)、預警和處置違規(guī)信息，能夠對“方言性”普通話實現(xiàn)精準轉譯、畫面內(nèi)容實現(xiàn)全面識別、惡意文本內(nèi)容進行“毫秒級”反應攔截。在人工內(nèi)容審核層面，虎牙公司的內(nèi)容審核團隊始終保持7*24小時在線，通過審核+復查+質(zhì)檢三道審查規(guī)范，與機器審核結合，實現(xiàn)最優(yōu)運轉。同時，虎牙公司從17年開始組織平臺用戶成立了一支 “虎牙志愿者”團隊，共同推動平臺生態(tài)健康發(fā)展，目前團隊規(guī)模已逾十萬人，共反饋百萬條線索且有效率超50%，進一步提升了平臺的審核效率。該項創(chuàng)新項目也獲得由中國演出行業(yè)協(xié)會頒發(fā)的“中國網(wǎng)絡直播行業(yè)2018年度創(chuàng)新大獎”。

而騰訊云首款自研的星星海服務器結合虎牙公司在云上業(yè)務的具體場景，在性能、能效、安全特性、可靠性等層面持續(xù)優(yōu)化，同時與騰訊云虛擬化等優(yōu)勢軟件技術充分協(xié)同，為直播業(yè)務的內(nèi)容審核提供了強大的算力支撐。據(jù)了解，星星海服務器采用騰訊云與AMD在其最新ROME平臺下深度定制的CPU，實現(xiàn)行業(yè)最優(yōu)單核性能和最優(yōu)單核TCO。根據(jù)測試，基于星星海的云服務實例綜合性能提升35%以上，其中視頻處理速度提升40%，圖形轉碼得分提升35%，Web服務頁面QPS提升高達152%。

針對各大內(nèi)容社區(qū)的合規(guī)及風險識別需求，騰訊安全以AI算法為核心，以海量互聯(lián)網(wǎng)數(shù)據(jù)為基礎，打造出的騰訊安全天御內(nèi)容風控系統(tǒng)不僅能通過庫、模型、賬號等對內(nèi)容風險進行多維度識別，還能通過在線訓練平臺主動挖掘業(yè)務數(shù)據(jù)，經(jīng)由攻防演練極大地提升模型的優(yōu)化效率。其中針對違規(guī)視覺內(nèi)容的識別能力是騰訊優(yōu)圖實驗室通過海量數(shù)據(jù)訓練得到的AI識別能力，能夠通過特征提取、標簽預測、細粒度識別，精準識別色情、暴力等內(nèi)容。目前，騰訊安全天御已打通了音視頻、文本及圖片等內(nèi)容風控的全鏈路。

搭載騰訊云和微信小程序，騰訊安全天御內(nèi)容風控系統(tǒng)已服務了超過5萬家開發(fā)者，行業(yè)滲透率達90%，審核效率提升20倍以上，為不同規(guī)模的企業(yè)降低了20%-80%的成本，業(yè)務健康程度達到99.89%，守護了數(shù)萬家客戶的內(nèi)容安全。

未來，隨著VR、AR、5G等新技術的落地，內(nèi)容生態(tài)建設將面臨著更為多元的復雜場景。騰訊云、騰訊安全和虎牙公司將持續(xù)深化合作，向直播行業(yè)合作伙伴輸出內(nèi)容生態(tài)建設的攻防經(jīng)驗和AI算法模型能力，致力為直播行業(yè)和內(nèi)容社區(qū)打造內(nèi)容新生態(tài)提供更多實戰(zhàn)成果與參考。
責任編輯:pj