6 月時，我們宣布採行下列 4 項措施來抵制在 YouTube 上宣揚恐怖主義的相關內容：

  1. 運用機器學習技術來打造更強大的偵測機制和更迅速的辨識程序
  2. 委託更多專業合作夥伴來識別違規內容
  3. 針對並未違反 YouTube 政策但具爭議性的影片，採取更嚴苛的標準
  4. 更加積極地宣導抵制仇恨言論和極端主義

我們在 8 月時曾說明過上述措施實施後的進度，現在我們要再次與你分享截至目前為止的進展。


更強大的偵測機制和更迅速的辨識程序
一直以來，我們除了利用使用者檢舉與審核機制之外，也會藉助相關技術來處理具爭議性的 YouTube 內容。從今年 6 月起，我們開始運用機器學習技術來識別暴力極端主義相關內容，再由系統將這類內容送交 YouTube 團隊審查，目前的進展如下：
  • 在上個月因含有暴力極端主義內容而遭強制下架的所有違規影片中，83% 的影片在使用者還沒提出任何檢舉之前就已經從 YouTube 上被辨識出來，比起 8 月時提升了 8%。
  • YouTube 小組審核了 100 萬部以上的影片，目的是為系統提供大量的訓練實例，以改善檢舉技術的準確度。

不過目前的審查和機器識別技術仍有不夠完善之處。隨著 YouTube 小組親自審核的影片數量日漸增加，難免會發生誤判的情形。我們知道還有進步空間，也一直致力於確保我們的小組只會下架確實違反相關政策的內容。針對為記錄或揭露暴力行為而製作的影片，我們同時努力透過各種管道提醒創作者在影片中加入必要的背景資訊，以免影片遭到誤刪。



仰賴更多的專業判斷
為提供更多訓練系統所需要的實例，我們必須仰賴外部專家為我們的政策和檢舉內容提供建議，像是在面對仇恨言論、激進思想及恐怖主義等複雜議題時，我們的非營利組織合作夥伴能提供更豐富的專業知識。

在過去 2 個月中，我們達成了目標的 70%，邀請到 35 個非營利組織加入我們的「認證檢舉人計劃」(Trusted Flagger program)。這些新進的非營利組織合作夥伴來自 20 個不同的國家/地區，其中包括倫敦國王學院 (King’s College) 的國際激進化研究中心 (International Center for the Study of Radicalization)，以及致力於提倡信仰自由與包容思想的印尼瓦希德研究所 (Wahid Institute)。



更嚴苛的處置標準
針對沒有違反社群規範但卻含有爭議性信仰或種族優越主義內容的合法影片，我們也開始採行更加嚴苛的處置方式。雖然觀眾還是可以在 YouTube 上找到這類影片，但我們會在影片播放前展示警告訊息，停用這類影片的營利及推薦影片功能，並一併停用如留言、建議的影片及表示喜歡等重要功能。這些措施讓我們能夠基於公眾利益為這類影片留下歷史紀錄，但同時保障了言論自由，並防止影片廣泛散佈或經由系統推薦給更多觀眾。



更加積極地宣導抵制仇恨言論和極端主義
我們會繼續支持抵制極端主義內容的相關計劃。目前我們正在研究如何拓展 Jigsaw's Redirect Method 的應用範圍，嘗試將這個模式套用至新的語言與搜尋字詞。此外，我們也在 YouTube Creators for Change 計劃中投入了龐大資金，希望能夠為創作者提供實質的幫助，讓他們可以透過 YouTube 平台探討社會議題以及宣導公益理念、包容心及同理心。為了抵制仇恨言論與破除社會隔閡，這些創作者每個月都會推出新影片與宣導活動，運用引人注目的精彩內容，吸引更多觀眾投身其中。以下是近 2 個月以來的努力成果：

  • 在 9 月的翠貝卡電視節 (Tribeca TV festival) 上，3 名分別來自澳洲、英國及美國的 YouTube 創作者，透過大銀幕首次放映他們親自拍攝的影片，探討種族主義、仇外心理和第一代移民的心路歷程等主題。
  • 位於印尼的在地 YouTube 創作者與研究單位 MAARIF Institute、YouTube Creators for Change 計劃大使，以及 Cameo Project 頻道合作，一同前往 10 座城市，向數千名高中生宣導包容思想，並鼓勵他們公開抵制仇恨言論和極端主義。
  • 二位來自以色列與西班牙的創作者也加入了 YouTube Creators for Change 計劃，讓這項計劃進一步脫展到世界各地。

除了上述抵制仇恨言論與極端主義的成就之外，Google.org 也在上個月宣布投入 $500 萬美元的創新基金，為打擊仇恨言論與極端主義出一份力。這筆資金將用來支持技術導向的解決方案和深入基層的相關行動，例如協助社區發展和倡導抵制激進思想的社群青年計劃。



「恐怖主義和暴力極端主義內容不應在網路上散播」是 YouTube 秉持的理念，為了達成這個目標，我們會持續投注大筆資金，防止這類內容在網路上散佈，隨時向政府機關提供相關消息，並透過「全球網路反恐論壇」(Global Internet Forum to Counter Terrorism) 與其他公司合作。我們知道還有許多能做的，也期待未來能夠持續與大家分享更多的成果。

本文作者：YouTube 團隊