美國國家人工智能研發戰略規劃2019（下）

來源:中國科協創新戰略研究院《創新研究報告》

第41期（總第307期）2019-09-29

編者按： 2016年10月，奧巴馬在白宮前沿峰會上發佈了《國家人工智能研究和發展戰略計劃》報告。2019年2月，特朗普簽署了行政令《維護美國人工智能領導地位的行政命令》（Executive Order on Maintaining American Leadership in ArtificialIntelligence），就美國聯邦政府層面人工智能（AI）的研究、推廣和培訓做出全面部署，以確保美國在AI研發及相關領域的全球領先優勢。2019年6月，美國白宮科技政策辦公室（OSTP）發佈了《2019年國家人工智能研發戰略規劃》的最新版。本次更新包含了2016版原始文本中的7項戰略，此外又增加了新的第8項戰略，本報告就其主要內容進行摘編。

一、保持在基礎人工智能研究上的長期投資

自2016年《國家人工智能研發戰略計劃》發佈以來，人工智能在機器學習及其應用的能力上不斷增強，並在各種不同的應用中形成巨大影響，如基因序列分類、無線頻譜資源管理、解讀醫學圖像以及對癌症分級等。這樣迅猛的發展需要對技術和應用進行數十年的研究。為保持美國自身在AI其他領域取得進步，並努力實現AI的長期目標，聯邦政府必須繼續支持機器學習和人工智能的長期基礎研究，以促進技術轉型及應用。

在具有潛在的長期收益的領域中，我們需要對人工智能研究加大投資力度。雖然長期研究的一個重要組成部分是具有可預測結果的漸進式研究，但對高風險研究長期而持續的投資可以帶來高回報，這些回報可以在未來五年、十年或更長時間內看到。戰略1主要包括以下幾個方面：推進以數據為中心的知識發現方法；增強AI系統的感知能力；理解AI的推理能力和邊界；追究研究通用人工智能；開發可伸縮的AI系統；促進對類人AI的研究；開發更強大、更可靠的機器人；為AI的改進發展硬件；為改進硬件創建AI。

二、開發增強人類能力的人工智能系統

自2016年《國家人工智能研發戰略計劃》發佈以來，人們對人機協作的研究興趣日益濃厚。當人工智能系統補充和增強人類能力時，人類和人工智能將成為一系列共享甚至自主場景的合作伙伴。特別是在未來工作環境中，人類與人工智能的合作既是挑戰也是機遇。

過去三年，聯邦政府根據任務目標增加了人工智能投資，主要聚焦在人機認知、自主和代理，如在決策支持、風險建模、態勢感知和可信的機器智能方面。通過這類研發投資，研究夥伴關係在許多方面得以發展，將計算科學家，行為、認知和心理科學家及其他領域的科學家和工程師聚集在一起。展望未來，聯邦機構應繼續促進AI研發和系統設計，以促進融合並適應用戶情況和目標，以便人工智能系統和用戶可以在預期和意外情況下協同工作。戰略2的關鍵信息技術研究挑戰主要包括以下幾個方面：

為人工智能尋求新的算法；開發人工智能技術用於人類增強；開發可視化和人機界面技術；開發更有效的語言處理系統。

三、應對人工智能的倫理、法律和社會影響

自2016年《國家人工智能研發戰略計劃》發佈以來，針對人工智能系統開發和部署的倫理、法律和社會影響的研發活動有所增加。人們越來越認識到人工智能系統必須是“可信賴的”，並且人工智能可以改變社會和經濟生活的許多領域，包括就業、醫療和製造業。經濟合作與發展組織（OECD）和G7創新部長等國際組織都鼓勵研發活動以增強對AI的信任。因此，需要深入開發AI架構，通過透明度和可解釋性等技術機制，將倫理、法律和社會問題結合起來。聯邦機構已針對這些關鍵領域推出了各種新的研究計劃，迫切需要技術專家、利益相關者和其他領域的專家之間的密切合作。主要研究領域包括開發符合理論、法律和社會原則的人工智能設計方法。

2019年《維護美國人工智能領導地位的行政命令》強調，在促進創新和技術進步的同時，應培養公眾對AI技術的信任與信心，保護公民的自由、隱私以及價值觀，充分發揮AI技術的潛力。戰略3的關鍵信息技術研究挑戰主要包括以下幾個方面：①通過設計提高公平、透明度和問責制：研究人員學習如何設計系統，以使其行為和決策是透明且易於人類理解的，其中的任何偏差都可以被檢測到。此外，還要研究符合倫理的人工智能的體系結構設計。②建立道德人工智能：道德本質上是一個哲學問題，而AI技術依賴並受制於工程學。因此，在技術可行的範圍內，研究人員必須努力開發與現有法律、社會規範和倫理相一致的算法和架構，這是一項極具挑戰的任務。道德原則通常具有不同程度的模糊性，很難轉化為精確的系統和算法設計。道德問題也因文化、宗教和信仰而異，然而可以開發可接受的道德參考框架來指導AI系統的推理和決策。③設計符合倫理道德的人工智能體系：隨著AI系統變得更加通用，其架構可能會包含能在多個判斷層級上處理道德問題的子系統。研究人員應關注如何最好地對AI系統進行總體設計，使之符合倫理、法律和社會目標。

四、建立安全可靠的人工智能系統

自2016年發佈《國家人工智能研發戰略計劃》以來，人們對人工智能安全的科學性和社會性理解迅速增長。現在，人工智能系統如何實現通過對抗性的例子、數據中毒和模型反轉來做錯誤的事情、學習錯誤的事情或揭示錯誤的事情則顯得尤為重要。然而，針對這些AI安全和保障問題的技術解決方案仍懸而未決。

為解決這些問題，必須在AI系統生命週期的各個階段都考慮AI系統的安全性，從初始設計和數據/模型構建，到驗證、確認、部署、操作和監視。確實，“設計安全（或安全性）”的概念會帶來一個錯誤的觀念，即這些只是系統設計人員所關心的。相反，它們必須在整個系統生命週期中考慮，而不僅是在設計階段，因此必須成為人工智能R＆D的重要組成部分。在廣泛使用人工智能系統前，我們需保障該系統以可控的方式安全可靠地運行；我們需進行研究來解決並創建值得信賴的人工智能系統。與其他複雜系統一樣，人工智能系統同樣面臨著安全挑戰。戰略4關鍵信息技術研究挑戰主要包括以下幾個方面：提高可解釋性與透明度；建立信任；加強核查與驗證；防範攻擊等。

五、增加對數據集和相關挑戰的訪問

在2016年《國家人工智能研發戰略計劃》發佈之時，公開可用的數據集和環境已在推進人工智能研發方面發揮了關鍵作用，尤其是在計算機視覺、自然語言處理和語音識別等領域。2019年《維護美國人工智能領導地位的行政命令》中明確指出：所有機構的負責人都應審查其聯邦數據與模型，以確保更廣泛的非聯邦人工智能研究領域的訪問和使用機會，同時還應保證安全、隱私和機密性。具體而言，各機構應改進數據和模型庫存文檔，以支持發現和可用性，並應根據人工智能研究領域的反饋，優先考慮改進相應的AI數據和模型的訪問和質量。另外，還需針對各種AI應用程序開發高質量的數據集和環境，並使可靠地訪問良好的數據集、測試和培訓資源成為可能。我們還需額外的開源軟件庫和工具包來加速AI研發的進程，戰略5的關鍵信息技術研究挑戰主要包括以下幾個方面：開發和訪問各種數據集；以滿足各種AI興趣和應用程序的需求；根據商業和公共利益制定培訓和測試資源、開發開源軟件庫和工具包。

六、支持人工智能技術標準和相關工具開發

2016年《國家人工智能研發戰略計劃》指出：AI領域的標準、基準、測試平臺及人工智能的採用對於指導和促進人工智能技術的研發起到至關重要的作用。近三年，對於標準和基準的重視程度在美國及全球範圍內不斷提升，2019年《維護美國人工智能領導地位的行政命令》明確提出這些標準的重要性。

評估、促進並確保人工智能各方面的可信度都需要通過一定的基準和標準來衡量和評估AI技術性能。人工智能除了要安全、可靠、有彈性、可解釋和透明，還必須能夠在檢測和避免不適當的偏見的同時保護隱私。隨著人工智能技術的發展，開發新指標和測試需求來驗證這些基本特徵。戰略6亟需進一步取得進展的領域包括：制定廣泛的AI標準；建立AI技術基準；提高AI測試平臺的可操作性；讓AI領域參與標準和基準測試。

七、推進人工智能研發隊伍的發展

自2016年《國家人工智能研發戰略計劃》發佈以來，對AI研究人員和從業者的需求迅速增長。研究表明，在未來十年，就業機會有望增加到數百萬。美國勞工統計局預測，2016—2026年，計算機和信息科學家與工程師的職位數量將增長19％，幾乎是所有職業增長平均數的三倍。另外，各種報告呼籲繼續支持各級計算機科學教材和教師的發展。2019年《維護美國人工智能領導地位的行政命令》要求：提供教育補助金被視為現有聯邦獎學金和服務計劃的優先事項；必須提高傳統意義上在計算機及相關領域中代表性不足群體的參與度；AI研發人員由多學科團隊組成，包括計算機和信息科學家及其他領域的專家，包括認知科學與心理學、經濟學與博弈論、工程學與控制理論、倫理學、語言學、數學、哲學及可能應用AI的許多領域。因此，聯邦機構必須繼續培養跨學科和技能類別的人工智能研發人員的專業人才，以維持美國的領導地位。實現戰略7概述的所需AI研發進程將需要：足夠的AI研發人員；進一步的研究探索人工智能勞動市場的供需結構以預測未來的勞動需求；瞭解預計的AI研發的勞動力通道。

八、公私合作伙伴關係對研發人工智能日益重要的地位

美國在科學和工程研究與創新方面的領導地位，植根於國家獨特的政府-大學-產業研發生態系統。自2016年《國家人工智能研發戰略計劃》發佈以來，通過與學術界、產業界、國際合作夥伴、盟國以及其他非聯邦實體合作，促進對人工智能研發的持續投資，以促進人工智能和相關技術方面實現技術突破，並將這些突破迅速轉化為有助於美國經濟和國家安全的能力。自該戰略計劃發佈以來，人們更加重視公私夥伴關係的益處，包含戰略性地利用資源；包括設施、數據集和專業知識，以推動科學和工程創新；加速創新向實踐的轉變；加強對下一代研究人員、技術人員和領導者的教育和培訓；加速將開放和已發表的研究成果轉化為市場中可行的產品和服務，促進經濟增長；通過將大學教師和學生與行業代表、行業環境和行業工作聯繫起來，提高研究和勞動力的能力。

戰略8是2019年版本中新增的戰略，其反映了公私合作伙伴關係對人工智能研發日益重要的地位。公私合作伙伴關係有許多結構和機制，包括以下幾個方面：基於項目的個人協作；項目聯合可以促進開放、競爭和基礎研究；加強研究基礎設施和合作部署；加強人力開發的合作，包括擴大參與範圍。

聯邦機構正在積極尋求公私夥伴關係以實現這些目標。因此，聯邦機構必須繼續尋求加強人工智能研發領域的公私合作，通過在政府、行業和學術界共同關心的領域中利用投資和專業知識來推動技術開發和經濟增長。

https://www.whitehouse.gov/ai/ai-american-innovation/

編譯：王堅 王達

編輯部成員：張麗琴 王國強 劉 薇 王 達 曹學偉

感謝您的支持與關注，歡迎賜稿交流

投稿郵箱：[email protected]