05.16 內部員工請願辭職,外界發公開信批判,谷歌能否恪守不作惡信條?

偉大的公司通常都有一個廣受認同的價值觀,谷歌的“不作惡”(Don’t Be Evil)就是一個典型。這一價值觀過去20年裡不僅讓谷歌成為全球市值最高的公司之一,而且其美譽度也處於科技公司的金字塔尖。然而就在這幾天,一件事情的發生讓谷歌公司這一形象遭遇嚴重挑戰。

內部員工請願辭職,外界發公開信批判,谷歌能否恪守不作惡信條?

不滿公司參與軍事項目,谷歌員工請願辭職

據美國科技網站Gizmodo、TNW等15日報道,近期有不少谷歌員工在得知公司正與美國國防部合作,向一個名為“Maven計劃“(Project Maven)的軍事項目提供人工智能(AI)支持時,為表抗議先是發生了4000人聯名請願,後又出現了約12名員工向公司集體辭職的事件。

對此,TNW報道指出,看起來谷歌內部員工有些困惑於公司的決定,不確定“不作惡”的信條是否應該對向國家軍事項目提供AI機器學習的項目一視同仁。言外之意,這部分員工認為,向軍方提供AI協助,已經觸犯了谷歌“不作惡“的公司理念。

當然必須指出的是,據極客網瞭解,谷歌AI技術在Maven計劃中發揮的作用不是直接研發生產什麼新式武器——儘管這方面業界多有擔憂AI會催生“殺人“機器人——而是幫助軍方基於谷歌的TensorFlow分析無人機拍攝的視頻錄像。

但也有報道指出,是谷歌的雲計算部門支持開發了Maven計劃,這一計劃會為谷歌創收數百萬美金。該計劃旨在增強無人機的性能,以幫助其進行機器學習,具備思考和觀察能力。瞭解人工智能和無人機的都應該知道,這兩項技術都被認為極有可能被用於武裝軍事領域的新殺傷性武器。那些能夠自動定位併發起射擊或投彈的無人機,已經在電影中不止一次地出現。

因此,谷歌參與到美國軍方AI項目已成事實。而對於事態的嚴峻性,內部員工的集體請願,甚至不惜辭職從側面給出了一個印證,表面這些技術人士擔心不受控制的AI技術最終會禍害無窮。目前這一事件正在發酵,從外媒的預測看,不排除谷歌員工有進一步的反對行為。

科技工作者發起公開信支持谷歌員工,600多人已簽名

就在谷歌自家員工用實際行動捍衛公司信條時,來自外界的多名計算機、信息技術專家學者也發佈了一封公開信,要求谷歌結束在 Maven 計劃的工作,並支持一項禁止自動化武器系統的國際條約。

內部員工請願辭職,外界發公開信批判,谷歌能否恪守不作惡信條?

截至發稿這封公開信下方已經收集到了665個簽名,參與支持的多為教授、博士級別。在公開性中,這些外界科技工作者明確表示支持谷歌員工、以及其他反對谷歌協助美國軍方項目的行為。除了呼籲谷歌停止與美國防部的合作外,他們還特別警示谷歌,不要將公司收集的私人數據用於軍事目的。

內部員工請願辭職,外界發公開信批判,谷歌能否恪守不作惡信條?

公開信承認軍方資本在技術發展過程中發揮過重要作用,但指出即便如此也不能讓軍方牽著鼻子走,科技領域的研究和發展應該走自己的路。這些科技工作者在信中稱,在Maven 計劃中,在谷歌提供的可不是開源的深度學習技術那麼簡單,而是在給美國防部傳授技術,乃至直接協助。

在這封公開信的最後,這些科技工作者們還表示,“當前是一個關鍵時刻,劍橋分析事件的惡劣影響還沒有散去,民眾剛剛見識了技術作惡的能力。“最後,他們給谷歌及其母公司高層總結了他們的三條訴求:第一,終止與國防部的Maven計劃;第二,承諾不發展軍事技術,不把收集的個人數據用於軍事行動;第三,保證不參與、不支持開發、製造、交易或使用自主武器(人工智能武器),支持推進禁止自主武器的公約。

谷歌反應遲緩,內外施壓或使該公司做出新的回應

從外媒報道情況看,早些時候發生的4000名員工聯名請願並沒有並沒有影響谷歌的決定,Gizmodo報道指出,谷歌非但沒有叫停Maven 計劃,甚至還在競標美國國防部另一個重要的雲計劃項目——聯合企業防禦基礎設施(Joint Enterprise Defense Infrastructure,簡稱JEDI)。

谷歌雲的CEO Diane Greene甚至表示,谷歌的技術不是用來“操作或飛行無人機“,也不會被用來“發射武器”。看起來,谷歌高層仍然沒有意識到事態的嚴重性。參考Facebook數據洩露的案例,不作惡可不意味著一定非得親身作惡,輔助作惡或為作惡提供援助,也算是“幫兇”。

在朱飛看來,Facebook數據洩露和谷歌AI助力Maven計劃實質上是同一類事件,前者因影響美國大選而廣受關注,後者則因為事關殺人武器而引人注目。正如核能技術一樣,技術本身不存在好壞之分,善惡取決於使用它們的人,以及它們被使用的方式。谷歌員工和外部科技工作者在這件事上選擇站在了正義一方,接下來就看谷歌能否恪守其“不作惡”的信條了!


分享到:


相關文章: