卡內基報告:新技術、新威脅和新治理挑戰

卡內基報告:新技術、新威脅和新治理挑戰

2019年8月28日,卡內基國際和平基金會發布了報告《新技術、新威脅和新治理挑戰:更明智應對策略的機遇?》。該報告評估了信息通信技術、人工智能、生物技術和空間技術四個科技領域,認為科技具有顛覆性的潛力,同時也帶來了治理困境,比如明確核心價值原則,有效納入各利益相關方,拓寬現有的多邊協作平臺,如何加強透明性、可問責性等方面,呼籲國際社會加強對話與合作,為應對與新技術相關的治理挑戰做好準備。

一、信息通信技術(ICT)

信息通信技術正與其他技術領域的進步趨同,大大增加了人類對數字工具的依賴,世界各國政府正建立新機構研究由此產生的經濟社會變革的影響。同時,人類對信息通信技術的日益依賴,將會對網絡安全以及系統穩定性等方面構成重大風險。

卡内基报告:新技术、新威胁和新治理挑战

1、當前規範與治理現狀

當前信息通信技術的相關規範主要來源於現有的國際法、政治協議以及相關技術協議和標準等,這些規範和治理機制旨在全球範圍內加強網絡安全,但在許多方面仍進展緩慢,如網絡犯罪等,各國仍未能達成一致協議。

在國際和平與安全方面,一系列聯合國全球安全條約重申了國際法在網絡空間的適用性,鼓勵各國制定信息通信技術方面的規範準則,主要包括不進行破壞關鍵基礎設施基本服務活動,維護數字時代的在線人權和隱私權,加強涉及網絡恐怖主義等刑事案件的合作與信息共享等。

2、治理挑戰與困境

儘管在互聯網數據保護、隱私和人權以及國際安全問題等方面取得了很大進展,但對於網絡空間治理仍面臨著巨大挑戰,主要分為網絡犯罪、數字鴻溝、治理模式、技術濫用、國際安全五個方面。

新的問題將會加劇現有的威脅和脆弱性,如與物聯網相關漏洞正在出現,人與智能穿戴設備之間的界限日益模糊,與人工智能相關的關鍵衛星系統、信息決策過程等越來越受到政治影響和操縱,國家間戰略競爭以及信任惡化要求國際社會需要重新考慮安全概念,適時調整現有規範和治理框架,促進在對社會構成最大風險的信息通信技術相關問題上加強對話、合作與協調。

二、人工智能(AI)

關於人工智能的研究已有五十多年,直到近些年才開始迅速發展,並快速成為協調數字技術和管理業務運營的重要工具。

人工智能已經在通信、醫療保健、疾病控制、教育、農業、交通(自動駕駛)、空間探索等領域取得了巨大的經濟和社會效益,但也給國際社會帶來一些巨大風險和挑戰。

卡内基报告:新技术、新威胁和新治理挑战

1、當前風險與挑戰

(1)對人工智能的日益依賴,將使現有的網絡安全威脅和脆弱性不斷擴大;

(2)人工智能與生物技術、核領域等其他技術日益趨同;

(3)算法歧視和偏見;

(4)人工智能決策過程透明度和問責制薄弱;

(5)對道德問題概念化的方式過於狹窄;

(6)對人工智能安全研究和協議的投入有限;

(7)人工智能在改變人們的生活方式、工作方式的同時,也會加劇人們在工作機會、食物等方面的焦慮;

(8)人工智能可能會加劇了國家間的軍備競爭以及地緣政治衝突。

2、當前規範與現狀

人工智能的進一步發展可能會在很大程度上改變經濟、社會政治生活,而在制定人工智能規範方面,非營利組織和多方利益相關者、商業公司、

政府以及多邊論壇發揮了重要作用。

3、相關治理措施

人工智能在未來幾十年的潛在利益和風險,將迫使國際社會必須面對一系列相互關聯的治理問題。因此,國際社會必須建立參與性合作機制,共同應對人工智能未來發展的不確定性和風險。

(1)需要就發展複雜的人工智能模型和系統而面臨危險的道德價值觀和原則以及它們所產生的變革的性質和方向進行更廣泛的公開對話;

(2)需要加強技術監管,增加透明度,強化問責機制;

(3)需要更深入地討論如何最好地平衡在研究和設計安全協議、公平、透明和負責任的決策方面的投資與對技術進步的投資之間的平衡;

(4)隨著對與人工智能相關國家安全政策和戰略發展的研究不斷深入,為了防範系統性風險,各國在制定人工智能國家安全政策方面應保持目標趨同;

(5)在全球力量博弈不斷變化情況下,需要防止人工智能濫用,制定相關國際規則,維護國際社會的和平與穩定。

三、生物技術(Biotechnology)

近年來,生物技術領域的突破主要在基因編輯、基因驅動和合成生物學方面,生物技術的進步也促進了生物經濟的快速增長,但生物技術領域也出現了倫理和監管的困境。

公眾對生物技術風險和挑戰的認識正逐漸增強,國家監管機構也正在努力跟上生物技術變化的速度與範圍,並且隨著世界越來越依賴生物系統,需要不斷加強現有治理體制,強化監管機制。

卡内基报告:新技术、新威胁和新治理挑战

1、當前風險與挑戰

2000年初,人類基因組計劃完成了對人類基因組的繪製,從那時起,研究人員在基因編輯和基因驅動研究方面不斷取得重大進展,但基因編輯也會帶來不可預測的永久性遺傳變化。生物技術領域的若干進展帶來了新的道德規範問題和風險:

(1)生態風險:基因的改變會在轉基因物種和其他物種中產生不可預測後果,甚至產生新的未知物種。

(2)健康安全風險:實驗室事故將使致命病毒更具傳染性和致病性,而公開這類技術的研究成果有可能會引發公共危機,尤其是恐怖分子可以利用相關成果製造生物武器,釋放毀滅性的流行病。

(3)法治風險:執法機構越來越多地使用生物技術敏感數據,如指紋識別、系統收集人類DNA樣本以及採用生物特徵識別器和智能植入物,這些都將對社會構成重要潛在風險。

(4)國際安全風險:隨著生物技術的不斷進步,基因組工程和基因驅動技術應用的多樣性和潛在風險將不可預測,特別是在生物戰爭、生物犯罪和生物恐怖主義的風險尤其嚴重。

2、相關治理與措施

目前,與生物技術相關的倫理規範以及治理框架分散在不同的政府間機構以及國家監管機構之間。世衛組織幫助制定了有關生物技術、醫療保健以及生物倫理的規範;聯合國及其他國際和區域組織在生物技術原則、標準和規範方面發揮了重要作用。

除了正式的多邊機構之外,科學學會、研究機構和出版商也在制定指導生物技術研究和創新的原則、標準和規範方面發揮著重要作用。

鑑於目前關於生物技術道德和規範問題日益突出,各國政府及相關國際和區域性組織需要營造一個更加一致、合作參與性更強的政策環境。

四、空間技術(Space Technology)

從歷史上看,外太空是由大國之間的戰略和資源競爭決定的,如今隨著空間技術的進步,正在逐步促成新形式的空間商業和軍事活動。

卡内基报告:新技术、新威胁和新治理挑战

1、空間技術的發展

雖然外太空最初由國家主導,但現已成為經濟增長、創新和商業活動的舞臺。與此同時,外太空活動的增加也將會帶來新的風險,各國越來越將空間經濟視為新的戰略競爭,地緣政治日益緊張。現代軍隊嚴重依賴衛星系統,這意味著空間技術已成為各國潛在競爭目標。

2、當前規範與現狀

隨著外太空商業和軍事活動的不斷增加,需要調整外太空活動的國際規範框架,制定相關國際政策和條例。

1957年,蘇聯發射Sputnik衛星,隨後引發了美蘇之間的空間競賽;1959年,聯合國成立和平利用外層空間委員會(外空委),加強和平利用外太空方面的國際合作,研究外太空探索方面存在的法律問題;1967年,《外太空條約》正式生效,成為當今外空活動的主要框架;自1982年以來,聯合國大會每年都會通過決議《防止外空軍備競賽》;2011年,聯合國大會設立政府專家小組,專門從事研究外空活動研究,旨在擴大外空活動透明度的行為規則並提出建議。2018年,裁軍談判會議設立四個附屬機構,推進防止外空軍備競賽工作。

3、相關治理與措施

展望未來,一些與空間技術相關問題仍然存在,並不斷出現在國際空間議程上,很可能需要重新審查空間法,以便促進新形式的商業探索,解決各國在國際合作方面的問題。同時,在空間技術領域,保持外空活動核心規範、防止破壞穩定行為的對話,並確保在私營部門、行業協會以及

政府機構中其他利益相關者有更多發表意見的機會。

五、結語

當今世界正在出現一系列新技術,這些新技術帶來了新的威脅和治理挑戰。國際社會需要對新出現的風險和挑戰做出廣泛努力,各國需要加強對話與合作,積極分享經驗教訓,完善相關政策規範,創新全球治理模式。

研究所簡介

國際技術經濟研究所(IITE)成立於1985年11月,是隸屬於國務院發展研究中心的非營利性研究機構,主要職能是研究我國經濟、科技社會發展中的重大政策性、戰略性、前瞻性問題,跟蹤和分析世界科技、經濟發展態勢,為中央和有關部委提供決策諮詢服務。“全球技術地圖”為國際技術經濟研究所官方微信賬號,致力於向公眾傳遞前沿技術資訊和科技創新洞見。

地址:北京市海淀區小南莊20號樓A座

電話:010-82635522


分享到:


相關文章: