消除不當內容 臉書靠「主動偵測系統」

5月23日,臉書公布第三份《社群守則執行報告》,涵蓋範圍包括2018年第4季和2019年第1季,本次報告公佈了包括成人裸露和性行為、霸凌和騷擾、兒童裸露和兒童性剝削、假帳號、仇恨言論、管制商品、垃圾訊息、全球宣揚恐怖主義,以及血腥暴力等九大政策的各項指標表現。

報告中特別指出三個重要指標,分別是盛行率(Prevalence)、經處理內容(Content Actioned)以及主動率(Proactive Rate)。

「盛行率」指的是用戶看到違規內容的頻率。臉書估計,使用者的每一萬次瀏覽中,有11至14次會接觸到違反「成人裸露和性行為」政策、有25次會碰到違反「血腥暴力」政策的訊息。臉書也首次分享,「恐怖主義」和「兒童裸露和兒童性剝削」兩項政策的盛行率數據,根據2019年第1季資料,使用者每一萬次瀏覽中,包含違規內容的次數不到3次。

經處理內容,指的是違反社群守則而遭到處理之內容的相關數據,處理方式包有移除內容、加上警告畫面或停用帳號等等。臉書特別指出,由於假帳號之盛行,處理內容的數量攀升,2018年第4季停用12億個帳號,2019年第1季則停用了21.9億個帳號。

臉書最新的《社群守則執行報告》中,公布九大政策在盛行率、經處理內容以及主動率等指標的表現。(圖表取自Facebook Newsroom)

「主動率」指的則是在使用者檢舉之前,臉書系統主動偵測並處理的訊息數量,這顯示了臉書的AI技術在特定政策所能發揮的功能,其中有六大政策,高達95%經處理內容都是由臉書系統主動偵測,而在「仇恨言論」方面,則有65%是由系統偵測處理,相比去年成效成長3倍,2019年第1季,臉書移除4百萬則仇恨言論相關貼文。

另外,相較於先前的報告,本次報告增添兩個資料項目,一是使用者申訴並因此恢復顯示的內容數據,二是臉書處理槍枝、毒品等管制物品相關訊息之數據。

特別是面對槍枝、毒品等管制物品相關訊息,臉書致力於提出各種解決方針,2018 年夏天,臉書開始透過AI系統,偵測違反管制商品政策的訊息內容,2019 年第1季,臉書處理了90萬則毒品販售相關的訊息,高達83.3%為系統偵測,同時,臉書也對67萬則武器販售的內容採取行動,則有69.9%由系統主動偵測。

隨時補充新觀點,《立報傳媒》Line→http://bit.ly/2YyjUW1