Google台灣 - 官方部落格: 履行責任的四項做法：第一部分

履行責任的四項做法：第一部分 - 移除有害內容

2019/09/05

過去這幾年，我們加倍努力審查不當內容，以不負平台肩負的責任，同時致力於保有開放式平台的吸引力。我們的任務可以分為以下四大原則：

在接下來幾個月，我們會陸續提供更進一步的資訊，讓讀者瞭解每項原則的實際做法。第一部分將著重在「移除」。自 YouTube 上線以來，我們便持續移除有害內容，近年來，我們對這項任務投注的資源更是飛快成長。以下數據呈現自 2016 年較大規模的改善情形。在我們的努力之下，過去 18 個月內因違反政策而被移除的影片觀看數減少了 80%，而我們也將持續努力減少這類影片的觀看次數。[1]

擬定適合全球性平台的政策在我們開始移除違規內容前，我們必須確保適當拿捏違規內容與合格內容之間的界線。我們的目標是保有創作者自由表達意見的權利，同時保護 YouTube 社群並促進其蓬勃發展。為此，我們成立了一個專門制定政策的團隊，負責逐條審查我們所有的政策，以確保這些政策能順應當前的趨勢，同時維護社群安全又不損及 YouTube 的開放性。
然而，我們審核完一項政策後，經常會發現一個情況：雖然政策本身不需要大幅度變動，卻存有模糊空間或是令社群成員感到困惑的地方。因此，許多更新的用意其實是為了釐清現有的規範。舉例來說，我們在今年初發布更詳細的政策內容，解釋在何種情況下，我們會認定「挑戰」影片的內容會嚴重危害到 YouTube 社群。自 2018 年以來，我們已經多次更新違規處置規範，其中大多都是較小的更新，但也有一些實質變動。

針對特別複雜的問題，有時候我們會花費數個月的時間制定新政策。在研擬政策的期間內，我們會徵詢外部專家和 YouTube 創作者的意見，藉此瞭解目前的政策有哪些不足的地方，並將地區間的差異納入考量，以確保我們所提出的變動內容能公平適用於全球各地。

新版仇恨言論處理政策可謂我們政策上的一項重大變革。我們花費數個月的時間謹慎擬定政策內容，並與我們的小組合作打造實施政策所需的培訓課程和工具，最後在 6 月初正式實施。隨著小組成員根據新政策審查及移除越來越多不當內容，我們的機器偵測技術也同步改進其性能。雖然新政策從制定到實施需要好幾個月的前置作業，但從本季社群規範違規處置報告公布的資料來看，我們針對仇恨言論發布的新版政策顯然已帶來深遠的影響：

移除數量之所以遽增，某部分是因為我們移除了先前規範所允許的舊留言、影片和頻道。在 2019 年 4 月，我們宣布著手更新騷擾政策，內容涵蓋創作者對其他創作者的騷擾行為。我們會在未來幾個月公布這項政策的更新進度。

透過機器學習技術檢舉不當內容
在政策制定完成後，我們必須有效結合人力與技術，幫助 YouTube 審查小組檢舉不當內容。我們有時會使用雜湊法(Hashes) (或稱「數位指紋(Digital Fingerprints)」) 找出已知的違規的內容，讓這些含有違規內容的影片在能夠被大眾觀賞前就被移除。針對例如兒童性虐待圖像 (CSAI) 、恐怖組織招募影片等內容，我們也為業界共用的雜湊資料庫做出貢獻，以增加這類內容在上傳期間就遭到我們系統攔截的數量。
我們在 2017 年擴大機器學習技術的使用規模，協助偵測潛在的違規內容，並將其送交人工審查。機器學習非常適合用來偵測模式，有助於我們辨識內容是否與先前移除的其他違規內容相似 (不一定完全相同)，甚至讓這些內容在被任何人看到前就被偵測出來。針對像是垃圾內容、成人內容等經常看起來十分相似的內容，這類系統在標記違規的成效格外顯著。機器學習技術也可以協助檢舉仇恨言論和其他違規內容。然而，由於判斷這類內容是否違規時，大多需要將背景資訊納入考量，因此透過人工審查來辨別其中的細微差異，並做出審慎的決策就顯得更為重要。儘管如此，在 2019 年第二季移除的 900 萬部影片中，仍有超過 87% 是先由自動化系統優先標記出來的。

我們持續在自動化偵測系統投注大量資源，YouTube 工程小組每個月也會更新及改善這些系統。舉例來說，垃圾內容偵測系統於 2019 年第二季經過更新後，因違反垃圾內容政策而遭到我們停權的頻道數量提升了超過 50% 。

在大批觀眾看見違規影片前先行移除這類內容
我們會盡可能確保違反政策的內容在尚未累計大量觀看次數的情況下 (甚至在被任何觀眾看見前) 就被移除。如上所述，改進自動檢舉系統在偵測及審查內容等相關事宜帶來助益，讓社群無須費心檢舉違規影片，而成效更是有目共睹：2019 年第二季由系統自動檢舉的影片中，80% 以上的影片在獲得任何觀看次數前就已被移除。

我們也體認到快速移除不當內容的最佳方式就是防範於未然。2018 年 1 月，我們成立了 Intelligence Desk 小組，負責主動監控新聞、社交媒體和使用者檢舉內容，藉此偵測與不當內容相關的新趨勢，並確保 YouTube 小組做好因應的準備，以免演變成更嚴重的問題。

我們減少違規影片曝光度的決心始終不變，因此我們讓 Google 10,000 多名員工著手進行偵測、審查及移除違規內容等任務。

舉例來說，上個月因仇恨言論而遭移除的近 30,000 部影片中，累積的觀看次數只有針織教學影片的 3%。
上週，我們更新了《社群規範違規處置報告》，這份季度報告涵蓋其他深入分析資料，能幫助讀者進一步瞭解我們從 YouTube 移除的內容數量、移除原因，以及該內容首次被偵測的情形。這份報告不僅說明過去幾年間部署的技術如何幫助我們以前所未有的效率快速移除 YouTube 上的有害內容，也凸顯出在我們致力於研擬周延的政策、謹慎審查內容，並且盡責地部署機器學習技術時，為何人員的專業知識仍舊是違規處置作業不可或缺的一環。

[1] 自 2018 年 1 月至 2019 年 6 月 [2] 2016年11月6日 [2] 2017年6月18日 [2] 2017年7月31日 [2] 2017年8月1日 [2] 2017年12月4日 [2] 2018年4月23日 [2] 2018年12月1日 [2] 2019年1月15日 [2] 2019年2月19日 [2] 2019年2月28日 [2] 2019年6月5日 [2] 2019年7月1日 [2] 2019年8月21日 [2] 即將推出