新智元報道

【新智元導讀】谷歌與五角大樓Maven項目合作的項目價值僅900萬美元，但在內部引發了一場大討論，媒體報道谷歌最近正在制定一套準則，將禁止在武器中使用人工智能。

谷歌備受關注的國防部Maven合作項目或許要告一段落。

紐約時報30日報道，谷歌正在制定一套準則，以指導其參與開發用於軍事的AI工具。這些指導準則究竟會有哪些規定尚不清楚，但谷歌表示，他們將禁止在武器中使用人工智能。

報道中還披露了谷歌與五角大樓Maven項目合作一些細節：

• 交易金額非常少，只有900萬美元；
• 谷歌內部對與軍方的合作爭論非常激烈，所以才引起了十幾人辭職抗議；
• 李飛飛曾極力反對，但最終決定是由她的老闆、谷歌雲首席執行官Diane Greene做出的。

一場本可以避免的危機事件

去年8月，美國國防部長Jim Mattis到硅谷訪問谷歌高層。

次月，谷歌有史以來

李飛飛強烈建議迴避“AI”這兩個字母。後來她在給《紐約時報》的一封電子郵件中寫道，谷歌應該“不惜一切代價避免提及或暗示任何人工智能。武器化人工智能可能是人工智能最敏感的話題之一”。如果谷歌與軍方合作，對媒體來說是“red meat”。

“我不知道如果媒體開始錯誤報道谷歌正在秘密製造人工智能武器或人工智能技術來為國防工業提供武器，會產生什麼後果。”李飛飛說，“我相信以人為中心的AI能以積極、善意的方式造福人類。任何AI武器化的項目，都是違揹我的原則的。”

後來發生的4000人聯名上書、十幾人集體辭職抗議的事實證明，李飛飛的預見是對的，但她的反對沒有起到作用。最終，李飛飛的上司、谷歌雲首席執行官Diane Greene決定跟軍方合作。

更嚴重的是，谷歌也沒有將與Maven項目合作的事情對外公佈，直到有部分員工開始在谷歌強大的內部溝通平臺上反對時，事情才慢慢被更多人知曉，隨後便引發出了後續一連串的事件。

被媒體和谷歌員工關注的Maven項目，是使用機器學習來識別無人機鏡頭中的車輛和其他物體，從而減輕分析人員的負擔。谷歌向國防部提供用於機器學習應用的TensorFlow API，以幫助軍事分析人員檢測圖像中的物體。

另據Wired報道，Maven項目正在拓展，包括更廣泛地部署無人機監視算法。Maven項目負責人Jack Shanahan表示，他的團隊現在正在“完善”無人機飛行的算法，並將很快在高空偵察機上工作。

此外，Shanahan還說，Maven項目未來會將人工智能應用於新的軍事領域。其中包括是利用機器學習算法來幫助分析人員在獲取的硬盤上查找最重要的資料。

交易金額“僅”900萬美元，谷歌內部大討論

當與國防部合作的消息在內部洩露到時，Diane Greene在每週的全公司TGIF（Thanks God, it's Friday）會議上發言。據兩名知情人士透露，她解釋說該項目不是為了致命目的，而且這筆交易價值“僅”900萬美元，是一筆相對較小的交易。

不過，Diane Greene的解釋並沒有遏制員工們憤怒。

另據Gizmodo報道，除了Maven項目外，五角大樓另一項價值上百億美元的雲計算JEDI項目（the Joint Enterprise Defense Infrastructure，聯合企業國防基建項目）正在競標，IBM和微軟證實了他們對JEDI合同有興趣，谷歌員工擔心谷歌會參與項目招標，因此對谷歌與軍方的任何合作都保持警惕。

谷歌在4月11日舉行了一場討論，參加的有Diane Greene、谷歌AI研究員Meredith Whittaker（反Maven運動的領導者）、以及谷歌副總裁Vint Cerf等。由於關注度非常高，討論在一天內進行了三次

據觀看討論的員工透露，Greene堅定地認為，Maven項目沒有將AI用於攻擊目的，而Meredith Whittaker認為很難界定如何使用該技術。

上週四，谷歌聯合創始人Sergey Brin在全公司會議上回答了關於Maven工作的一個問題。

據兩名谷歌員工稱，Sergey Brin表示他理解這一爭議，並與Larry Page和Sundar Pichai進行了廣泛的討論。不過，他表示，如果世界各國的軍隊都與谷歌這樣的國際組織合作，而不是僅僅與民族主義的國防承包商合作，這將有利於和平。

谷歌擬製定原則：禁止把人工智能應用到武器中

谷歌CEO Pichai也在上週四的全公司會議上表示，谷歌希望制定出“能夠經受住時間考驗”的指導原則，這些原則將指導其在國防和情報外包領域的合作。一些員工們透露，谷歌預計在未來幾周內將在內部宣佈這些原則。

紐約時報稱，谷歌新制定的原則禁止人工智能應用到武器中，但目前還不清楚這種禁令將如何在實踐中應用。

谷歌及其母公司Alphabet公司僱傭了許多世界頂級的人工智能研究人員。這些研究人員中的許多人最近都來自學術界，有些人保留了教授職位，其中包括Geoff Hinton。

Geoff Hinton一直公開表示他不願意為美國政府工作，20世紀80年代後期，Hinton離開美國去加拿大的部分原因是他不願意從國防部獲得資金。

谷歌人工智能統帥Jeff Dean也在本月的開發者大會上說，他已經簽署了一封反對使用所謂自主武器的聯名信。

而谷歌旗下的DeepMind的創始人之一Mustafa Suleyman也參與了與谷歌領導層對Maven項目政策的討論。

Maven項目儼然成了谷歌的一場“真理標準問題大討論”。

這件事不僅給谷歌員工造成重創，引發了激烈的員工會議和內部調換，並促使一些員工辭職。一些人選擇辭職的員工認為，Maven項目讓谷歌鼓勵員工自由表達的工作環境不復存在了。而在谷歌紐約市辦事處還被貼上了“做正確的事”的貼紙。

這也讓包括李飛飛在內的一些谷歌高級人員感到悲痛，他們試圖跨過一個鴻溝：即道德上有強烈反對意見的科學家和對國防合同垂涎的銷售人員之間的鴻溝。

但鴻溝真的容易跨越嗎？

https://mobile.nytimes.com/2018/05/30/technology/google-project-maven-pentagon.html

https://www.wired.com/story/googles-contentious-pentagon-project-is-likely-to-expand/

https://gizmodo.com/google-employees-resign-in-protest-against-pentagon-con-1825729300

閱讀更多 新智元 的文章

關鍵字: 謝爾蓋·布林 李飛飛 人工智能