互聯網廣告內容審核專題(一)——審核業務機制基本認知

0 評論 4051 瀏覽 16 收藏 9 分鐘

編輯導讀:隨著互聯網的發展,人們在網上獲取信息的速度和豐富性都在不斷加強。但是,各種不良信息在網上的大肆擴散,尤其是商業廣告的劣質內容,給社會造成了負面影響。加強對互聯網廣告內容的審核,是每一個平臺都需要做的事。本文將對審核業務進行基礎介紹,希望對你有幫助。

近年來,各家互聯網公司頻繁被網信辦等國家監管機構約談整改,我們一起回顧一下。

2016年百度——網信辦約談“競價排名”。魏則西事件引起了社會各界對百度“競價排名”的熱議,國家監管部門進駐百度調查,最后以百度承諾后續不做醫療競價廣告告終。

2018年京東——五部門約談違規商品。北京市網信辦、北京市公安局、北京市通信管理局、北京市工商局、北京市文化市場行政執法總隊五部門聯合約談京東,原因是售賣違法違規商品。

2018年8月拼多多——市監局、網監司等職能部門提出整改要求,要求拼多多平臺加強對入駐平臺經營者及商品的管理和審核。

2018年10月騰訊——國家“掃黃打非”辦公室和新聞出版署對微信公眾號傳播淫穢色情小說問題進行約談,責令其立即下架整改,加強內容資質審核。

2019年字節跳動——網信辦就今日頭條搜索結果中出現侮辱烈士文章的問題進行約談。

隨著互聯網的監管政策不斷完善,對于資訊類的內容產品、廣告售賣產品以及電商產品,風控審核都是必不可少的環節之一。如何維護平臺產品的內容生態安全,建立完善的風控審核機制和流程,快速響應國家監管部門的監管要求,保證產品的健康持續發展,是風控審核的艱巨任務。

本系列專題的文章,將基于作者的互聯網風控經驗,對風控審核業務進行一一介紹,希望和大家一起探討。本篇文章——審核業務基礎介紹,將重點介紹審核業務在互聯網公司所處的位置,與各業務模塊的關系,以及審核業務的一些基本概念。以下以商業廣告審核為主,內容及電商產品與此有相通之處。

商業化(廣告)平臺的核心是圍繞客戶(廣告主),用戶(網民),平臺三者展開,圖中簡單的畫出各個業務模塊的關系,

檢索端—— TO C 面向用戶(網民):

流量商業化,把最合適的廣告,分發給最合適的用戶,是檢索/推薦分發系統。通常檢索端決定了哪些樣式的產品可以展現在哪些流量位上,什么時間地點按照什么邏輯展現等等。

業務端——TO B? 服務于客戶(廣告主/代理商):

負責商業產品樣式的設計,為廣告主提供廣告產品樣式、數據分析等一站式服務,幫助廣告主快速投放廣告,配置投放規則,提升推廣效率等等。

審核中臺——內部服務中臺:

承接整個公司各個業務線的審核任務,包括商業廣告、內容以及電商產品等等。通常不僅僅關注安全風險,還關注內容質量和客戶體驗。

這三方具體的交互模式簡單概括來說是,業務端研發出一個新的產品樣式,需同時溝通檢索端和審核中臺,檢索端為其提供流量位和展現策略,審核中臺為其提供通用或個性化的審核服務,三方完成交互后,新產品才能夠上線,提供給廣告主使用,并在線上分發展現。

除了主要的業務部門,以下職能部門也與風控審核工作密切相關。比如面向政府或社會監管的部門——PR、GR、法務。PR對接社會輿情,承接社會媒體的意見;GR對接政府監管部門,接收網信辦、市監局等監管要求。如涉及風險管控需求,通常需轉至審核中臺,并聯動法務提供法律意見支持,共同決策如何進行危機處理。

此外,對于大型的廣告公司,除了直客銷售外,通常以代理商的形式發展廣告主。此時,風控審核還會承擔代理商公司的風控審核管控,與服務代理商的銷售管理部門進行緊密合作,如通過影響績效返點的形式管控代理商的合規性。

以上便是審核業務與各業務模塊的關系,那么審核業務內部是如何運作的呢?

1)審核維度

主要分為準入環節的客戶/賬戶主體信息審核和推廣環節的創意內容(廣告前卡樣式)和落地頁(點擊廣告后的推廣頁面)審核。

2)審核方式

通常為機器+人組合審核。隨著審核數據的大量積累,不斷優化機器算法,提升機器的準確和召回,理想態是實現以機器為主,人為輔的審核模式。但就目前廣告內容的多樣化個性化,機器的識別能力仍是有限的,人審短期內肩負重任。因此,大型公司甚至需要上千人的人工審核團隊,為了控制成本通常以供應商或外包的方式組建。

3)審核機制

針對不同樣式的產品,存在先發后審和先審后發的機制,組合運作。先審后發很好理解,像高風險行業的廣告,比如醫療、旅游服務等,必須是先審核通過才能上線展現;先發后審是近些年興起的審核機制,先進行分發,后根據展現量回撈復審。針對低風險行業的廣告,可能會采取此種模式。先發后審雖然一定程度上節省資源,能快速上線展現,但如何建立更智能的算法,降低風險發生概率,也是一個難題。

4)巡檢機制

風險管控的要求不是一成不變的,面對國家對互聯網行業日益健全的監管要求,風控審核的標準也隨著不斷升級。風控團隊甚至會安置專門的規則運營人員,根據國家監管等要求制定審核標準。因此,對已經審核上線的廣告,仍需建立定期巡檢機制,看看哪些以前合規的廣告,按照最新的監管要求不合規,需要快速處理,降低風險露出。

5)合規管理和質量優化機制

風控審核是非常嚴肅的業務,對于整條審核鏈路上,合規性把控是非常重要的環節,舉例如審核員作弊行為的管控。而質量優化機制,則能夠發掘風控各個業務環節漏洞,不斷注入新鮮血液,讓風控能力和風控機制更加完善。

本篇文章的內容就到這里,具體的審核模式、審核機制、審核業務管理方式等會在后續文章中繼續和大家分享!歡迎大家一起探討!

 

本文由 @聲生 原創發布于人人都是產品經理,未經許可,禁止轉載

題圖來自 Pexels,基于 CC0 協議

給作者打賞,鼓勵TA抓緊創作!
更多精彩內容,請關注人人都是產品經理微信公眾號或下載App
評論
評論請登錄
  1. 目前還沒評論,等你發揮!