化準則為行動，發展負起責任的 AI 技術

2019/07/22

我們每天都在見證 AI 如何協助世界各地的人們，並對人類生活帶來正面的改變，包括協助放射科醫師檢測肺癌、在印度農村提升識字率，以及保育瀕臨絕種動植物。這些例子只是個開始－ AI 還能夠透過洪水預報計畫和地震餘震預測技術的相關研究，減緩自然災害並拯救生命。

隨著 AI 的應用方式已逐漸擴展到從前無法想像的範圍，關於公平性和隱私權等主題的探討也因應而生。這樣的討論不僅至關重要，更需要全球社會的參與。一年前，我們發佈了 Google 的 AI 準則，這些準則可在研究和產品中指引 Google 使用 AI 的方式以及相關倫理發展。現在我們要分享這些工作的最新成果。

內部培訓課程
我們透過培訓課程讓員工瞭解 AI 技術的重要議題，並學習批判性的去思考如何應用 AI 技術，同時負起社會責任。在過去的一年中，已有數千名 Google 員工完成機器學習公平性的培訓課程。此外，我們也在四個辦公室試辦了倫理學培訓，並在三大洲舉辦 AI 倫理系列講座。

工具和研究
在過去一年中，我們專注於分享知識、建構技術工具並進行產品更新，也針對打造符合倫理標準而負責任的 AI 技術建設了開發架構，以便讓所有人都能受益。這包括發布超過 75 篇以負責任的 AI 技術為主題的研究論文，內容涵蓋機器學習公平性、可解釋性、隱私權和安全性，以及開發 12 種新工具並開放其原始碼。舉例來說：

● 推出 What-If Tool 這個新功能，讓使用者無需編寫程式碼即可分析機器學習模型。它可讓使用者將偏誤和各種公平性限制的影響以視覺化呈現，並比較多個模型的效能。
● 讓 Google 翻譯減少性別偏見，在 Google 翻譯網站上為部分中性字詞提供陰性和陽性的翻譯內容。
● 我們擴展了對聯合學習技術的開發工作，這是一種新的機器學習方式，可在資料不離開裝置的情況下讓開發人員訓練 AI 模型，並讓產品更有智慧。我們現在也已開放這項技術的原始碼，並稱之為 TensorFlow Federated 。
● People + AI Guidebook 是內含多種方法和決策架構的工具包，可協助開發者建構以人為本的 AI 產品。該指南集結了 40 個 Google 產品團隊的貢獻，並已在今年五月推出。

我們會根據 Google 最新技術想法和工作進展，每季持續更新 Responsible AI Practices。

審核程序
審核程序能協助我們達成 AI 準則。我們鼓勵所有 Google 員工思考 AI 準則對專案帶來的影響，也正不斷改進內部程序，確保 Google 能對新的專案、產品和交易進行審慎考量及評估。在每個案例中，我們都會考慮相關優點，評估如何降低風險。以下是兩個相關的例子：

Cloud AI Hub
藉由 Cloud AI Hub，企業和其他機構將更容易存取及分享各式各樣經過訓練的機器學習模型。有鑒於 AI Hub 有許多內容可能由 Google 以外的機構發布，使得我們很難依照 AI 準則評估所有內容，也因此我們針對 AI Hub 發布內容的相關倫理問題進行評估，例如雙重應用可能會產生的危害、濫用、呈現誤導資訊等。
在審查過程中，Google 團隊針對可能有風險或有害的內容發展了雙階段策略：

1. 鼓勵社群成員就不公平的偏誤等問題發表看法。為支援社群成員，Cloud AI 提供許多資源 (例如包容性 ML 指南) 來協助成員辨別值得信賴的內容。
2. 擬定《Cloud AI Hub 服務條款》，特別是有關內容和行為限制方面。

這些保護措施讓 AI Hub 更有可能提供實用且得到良好維護的內容生態系統，也因此我們將繼續推出 AI Hub。

文字轉語音 (TTS) 研究論文
Google 研究團隊撰寫了一篇學術論文，試圖解決 AI 研究的重大挑戰：僅是稍微改變 AI 系統應用的任務，就經常需要透過大量資料重新訓練系統。這篇論文詳細介紹了一種高效率的文字轉語音 (text-to-speech, TTS) 網路，讓系統在經過一次訓練之後，就能在時間更短、資料量更少的情況下，適應新的語音來源。

雖然更聰明的文字轉語音網路可為患有語音障礙、肌肉萎縮症或接受氣管切開術的人帶來幫助，我們也瞭解，不肖人士可能將這類技術應用在有害用途，例如合成他人的聲音來進行詐欺。

最後，基於幾項理由，我們認為該論文介紹的技術不太可能遭到濫用。比方說，這項技術如果要順利運作，訓練資料需要具備一定的品質。從網路上任意取得的錄音檔是無法符合這些要求的。此外，文字轉語音(TTS)網路產生的聲音樣本和說話者的聲音有一定的差異，足以讓聽者分辨真假。因此，我們認為這篇論文符合 Google 的 AI 準則。但是在經過經過這次審查後，我們也會更加堅定地實現 Google 的承諾，也就是識別及預防 AI 技術遭到濫用的可能性。

與外部相關人士互動
為了在發展 AI 技術的同時負起社會責任，與廣大社群持續對話是非常必要的。我們持續與政策制定者及技術社群交流，參與了超過 100 場研討會、學術會議和高峰會，並與全球超過 4,000 名相關人士面對面互動。

隨著 AI 技術不斷進展，我們會持續分享自己的觀點、與產官學界互動，提倡負責任的 AI 技術開發。我們支持針對特定產業和用途設計的智慧型法規，今年稍早也發布了這本白皮書，提倡務實而具前瞻性的 AI 監管方法。這本白皮書建議政府在五個領域與民間團體和 AI 相關從業人員合作，為 AI 技術打造適當的處理架構。

我們了解對 AI 相關議題投入的努力永遠不嫌多，也會持續與各界領袖、政策制定者、學界和各產業的相關人士合作，處理重要問題。參與這些對話、踏實進行準備工作及儘可能廣泛容納不同觀點，在處理 AI 議題時至關重要。因為這樣一來，我們才能確保 AI 與許多科技一樣，可以為人類打造更美好的未來。

本文作者： Google AI 資深研究員暨資深副總裁 Jeff Dean Google 全球事務資深副總裁 Kent Walker

3 則留言 :

新增留言

台灣 - 官方部落格

化準則為行動，發展負起責任的 AI 技術

3 則留言 :

訂閱

標籤

過去文章