內部員工的嚴重抗議，終於讓谷歌在 AI 武器化的道路上懸崖勒馬了。

作者 | 郭芮

近日，據紐約時報、路透社等外媒報道，此前因不滿公司與美國五角大樓合作的 Maven 項目，谷歌大量員工提出了抗議和辭職。為此，谷歌方面最新表示，將制定指導其參與軍事項目的道德政策，並明確禁止 AI 武器化。預計在未來幾周內，谷歌就將正式發佈新的準則。

至此，長達八個月的反對 AI 軍事化“抗爭”終於落下了帷幕。

但員工們的最終勝利卻並沒有輕描淡寫的幾句話這麼簡單。事實上，從去年的 9 月份開始，公司內部甚至外部就一直有反對的聲音不斷傳出，終於在項目還未正式落地的現在被成功叫停。

李飛飛：“任何 AI 武器化的項目，都是違揹我的原則的”

2017 年 8月，美國國防部長 Jim Mattis 到硅谷訪問谷歌高層。次月，谷歌有史以來第一份與五角大樓的 AI 合同出現——幾名谷歌高管討論這份合同的可行性，其中就包括谷歌雲首席科學家李飛飛。

據《紐約時報》報道，當緊張的谷歌高層討論如何對外公佈這個與五角大樓的 AI 合作契約時，李飛飛強烈建議迴避“AI”這個詞，她擔心此事可能會造成一場騷亂。“我不知道如果媒體開始錯誤報道谷歌正在秘密製造人工智能武器或人工智能技術來為國防工業提供武器，會產生什麼後果。”此外，在寫給同事的郵件中她也提到：“AI 武器可能是 AI 技術中最敏感的話題之一，媒體可能會對此大做文章，從而對谷歌風評不利。”

李飛飛並不贊同將 AI 用於軍事上，“我相信以人為中心的 AI 能以積極、善意的方式造福人類。任何 AI 武器化的項目，都是違揹我的原則的。”

此外，也有一些高層堅持反對意見。比如谷歌 DeepMind 的一名高管就明確表示反對谷歌參與軍事項目和監督任務，並對與國防部的合作提出了抗議。其實在 DeepMind 被谷歌收購之初，雙方的協議中就表示 DeepMind 的技術將永遠不會被用於軍事或監控用途。

此時，谷歌還沒對外公佈 Maven 項目，只在內部高層引發了熱議。

員工抗議升級，高管“充耳不聞”

但是不出預料的是，李飛飛的擔憂還是成真了。

消息是從谷歌內部的交流平臺洩露的。這導致的最直接後果就是引發了巨大轟動的內部員工“聯名上書”事件——3 月份時，谷歌 3000 多名員工聯名上書，強烈抵制谷歌與五角大樓的合作。

但是，員工的不滿並沒能阻礙公司的計劃。谷歌內部發言人只是反覆保證，“（我們的技術）僅供人類審查，不會存在侵犯隱私性的使用”。此番毫不負責的言論員工們並不買單。次月，事件進一步發酵。

據外媒 Gizmodo 報道，截止 5 月有近 4 千名員工向公司呈交了書面請願書，希望谷歌立即取消該項目，並建立“未來不與軍方摻和”的規定。此外還有十幾名谷歌員工集體請辭，以抗議公司繼續參與軍方的 Maven 項目。

與此同時，國際機器人武器控制委員會（ICRAC）也向 Alphabet CEO 拉里·佩奇、谷歌 CEO Pichai、谷歌雲 CEO Diane Greene 和谷歌雲首席科學家李飛飛發出公開信，呼籲谷歌退出軍方項目，承諾不將其技術武器化。

如上圖所示，為公開信上的部分學者名單。其中的兩位發起人 Peter Asaro 和 Lucy Suchman 已經在聯合國面前聽證了自動武器報告，第三位發起人 Lilly Irani 是位科學教授，同時也是谷歌前僱員。

支持還是反對？谷歌 CEO Pichai 正面回應

而且，Maven 項目也與谷歌一貫的“不作惡”原則嚴重矛盾。步步緊逼之下，為了擺脫“道德的枷鎖”，5 月份，在最新修改的行為準則中，谷歌還悄悄地將“不作惡“原則調整到了最後。

在修改準則的整個期間，關於支持還是反對 Maven 的討論也一直不斷。

比如，一位（目前已）辭職的工程師將谷歌一個會議室更名為克拉拉·伊墨瓦爾（為抗議將科學用於戰爭在 1915 年自殺的德國化學家）；負責谷歌 AI 研究的傑夫·迪安在反對將機器學習用於自動武器的公開信上簽名；谷歌雲的 CEO 戴安娜·格林與谷歌創始人塞爾蓋·布林舉辦了圓桌會議，討論谷歌參與 Maven 項目的性質和使用 AI 的道德問題；谷歌副總裁和著名的前國防部研究員溫特·瑟夫、谷歌 AI 研究員梅雷迪斯·惠塔克向全球谷歌職員直播討論情況......在以谷歌員工及學者為代表的反對派和以谷歌部分高管為代表的支持派僵持不下之時，谷歌雲 CEO Diane Greene 出面了。

據《紐約時報》報道，Greene 表示，這個項目沒有殺人目的，並且規模很小，交易金額僅為 900 萬美元。外媒 Defense One 也報道過，去年，美國國防部對 Maven 預算的資金規模為 7000 萬美元，谷歌手持的 900 萬佔比 12.8%。谷歌 2017 年財報也顯示，去年，谷歌總營收為 319.14 億美元，單看交易金額，Maven 僅僅只佔去年穀歌營收的 0.28%。

但 Greene 的澄清並沒有止住谷歌群眾的憤怒，各種反對的聲音仍日趨高漲。因此在上週四的谷歌全員會議上，谷歌 CEO Pichai 直接正面表示，公司考慮了職員意見，將會提出新的“經得住時間考驗”的準則，作為谷歌在國防和情報承包等事項的行動指南。

這場“勝利”可以說是來得十分突然。

寫在最後

從“稜鏡門”事件到 Facebook “數據洩露門”，再到如今的谷歌“軍事門”——科技與軍事政府的界限一直是群眾們極為敏感的話題。

谷歌此次的“AI 武器化”事件只是其中的一個縮影。注重個人隱私安全的網民們，和亟需掌握技術利益的第三方，此間的矛盾必定是難以調和的。

從長遠角度來看，AI 的快速發展下其應用場景只會越來越為廣泛，軍事化應用似乎也是可以預料的——但是此次谷歌的妥協，還是表明了想要獲取用戶利益者的同意，還有很長很長的一段路要走。