前段時間，引石老王被邀請回答了悟空問答的一個問題“未來哪幾個行業要垮掉？”，引石老王的回答引起了眾多讀者的留言與爭論，引石老王粗略做了統計，發現60%以上的人都在擔心人工智能的發展給人類帶來的風險！甚至有的人提出了人類被人工智能替代、消滅的擔心？

人工智能技術不可能替代人類，但確實存在致命風險

目前已經實現了很多基於物聯網的應用，諸如：無人駕駛、無人飛機、遠程醫療等等。人工智能技術正在影響和改變著人們的生活。

人工智能產品是人類製造出來的一種高科技服務產品，目的是更好地為人類服務，像美國大片描述的那樣，智能機器人自己思考、消滅人類的事情不可能會發生，大多數人對人工智能的瞭解還處在初級階段，大可不必如此擔心。但有一種風險卻一直存在：如果人工智能被非法者控制，對人類的風險來講，那將有可能是致命的。

指令是系統的最基礎單元，也是智能產品與人類實時交流的核心基礎，保護系統指令是智能產品安全防禦的關鍵

物聯網即萬物互聯，實際就是“物”與“物”之間的溝通，而由人工智能技術實現的智能產品就是物聯網的“物”。這些智能的“物”（或者叫智能產品），是通過什麼來按照人類的要求完成功能服務的呢？從系統程序本身來講，指令是系統的最基礎單元，任何系統都是通過指令來完成應用的。所以，物聯網種，智能產品之間的交互與動作，都是由它們的系統接收或發送相關指令來進行的，通過指令來處理人們的需求，完成對人們的服務。

比方說：我們想讓一臺機器人去開門，那我們就可以通過語音、遙控器或某個按鈕來控制機器人系統，執行開門指令讓機器人把門打開。所以，系統指令作為智能產品與人類交流的核心基礎，顯然對它的保護是至關重要的。你想想，一旦壞人控制了這些指令，那不就等於控制了這個產品嗎？那它就不一定聽我們的話了，我們就可能會面臨風險。所以，不管你的智能產品用了哪些高超的安全手段，如果這些手段還不能保證這些產品系統的關鍵指令安全，那隻能說你並沒有掌控這個產品，黑客們隨時會來串門的。

人工智能技術發展的初衷是要更好地為人服務。所以人工智能產品從一開始就與人的生活、工作都聯繫在一起，人工智能產品的防劫持非常重要，一定要從系統的關鍵指令入手，為它們建立起真正的主動防禦體系。當黑客入侵時，系統可以主動應對風險，杜絕非法劫持控制事件的發生。

對於人工智能來講，依靠系統升級、漏洞檢測，或者在風險發生後事後防御的傳統安全思維是沒用的，要實現人工智能的自主化、主動安全防禦才是系統反劫持、反控制的方向。

引石老王：從事信息安全工作20年的職業經理人，國內首批商業密碼從業人員，國家商業密碼應用的參與者與見證者。專注人工智能反劫持技術與信息安全反黑，為您解讀當下科技創新與發展。

關注引石老王，評論安全熱點，解讀安全風險，歡迎您留言探討，期待與您的互動，共同交流！