花冷妍
任何人/物/事都是有危險的，人能犯罪、豬能上樹、股能熔斷……而Ta最終演變如何取決於自身能否自我約束和外在能否有效安全管轄，人工智能也不例外。
人工智能的自我約束
人工智能首先是人搞出來的，這份自我約束其實考量的是人們在編寫算法、邏輯時的最完美追求，即最小容錯率。舉個簡單例子，你原本想要製作一個機器人來照顧癱瘓老人，然而由於某些算法的失誤，這個原本只是執行喂藥操作的機器人“一不小心”沒控制好力道，重拳出擊，老人掛了。你說這是機器人的錯，還是研發人員的錯。這也是為什麼人工智能紅紅火火地發展到今天，依然沒能普及商用的最主要原因。誰都無法確保自己的算法萬無一失。
其次，當人工智能發展到一定成熟階段，人工智能也能靠人工智能搞出來，這句話絕不是危言聳聽。回看整個歷史橫流，人類一直在追求和超越原始生產力。放在2003年，我們絕不會相信有一天我們的內容是出自算法、而不是人類本體。
人工智能的有效管轄
科幻小說或者電影裡，大部分故事的反派都是將人工智能作為“作惡”的工具，但最終的大多數ending裡，反派卻被人工智能奴役。就像電影《銀翼殺手》中的最大反派：母體。孕育人類的“母親”，但同時也是奴役人類，剝奪他們思想和政治的存在。
機器人嗶嗶
科幻小說中，很多科技已經從幻想變成了現實。
可喜的是，目前人類大腦到底如何進行思考的，人類還沒有完全搞清楚。
因為人類搞清楚的，都已經變成現實了。
理論上說，既然大自然演化，能從無序演化出人類。那麼只要給人類時間，人類也可以設計出至少類似人類的人工智能。
但人類本身是危險的。尤其是在這個人類已經成為萬物之靈的地球，人類就是人類最可怕的敵人，沒有之一。
從現在已知的人類大腦原理來看，現有的馮諾依曼結構的計算機，恐怕很難模擬並實現那怕是一個人腦的全部思維。
然後，人類開啟了量子計算這個墨盒。量子計算可以在特定的計算能力上超越傳統馮諾依曼結構計算機天文量級。
而傳統計算能力的馮諾依曼計算機，已經可以在人類傳統以為人類佔據優勢，實際上需要特定的計算的領域，取得了讓絕大多數人瞋目結舌地突破。比如圍棋、多人遊戲。
而可以模擬人類對外界輸入的攝像頭、觸覺感應器、聽覺感應器、味覺感應器，正在以飛躍式地速度快速演化。
而人類正在把越來越多的思考，交給人工智能。很多人沒有人工智能的幫助，甚至不知道怎麼回到自己的家。
所以，人工智能代替人類，只是時間的問題。
智匯元
科幻小說中的很多人工智能問題，是有很大可能變成現實的。我們是應該對人工智能以及機器人進行立法限制的，不符合倫理的事情，一定會發生。
需要防範於未然。
舉兩個例子：
1）美國的工程師阿爾伯特利用AI技術開發了，一鍵把女生圖片脫掉的軟件。
這款軟件操作簡單，非常滿足感官需求，迅速在全球躥紅。引起強烈爭議，也引起女權主義者的強烈不滿，紛紛指責製作者，所以這款軟件目前已經被下架。
2）日本工程師馬賽克一鍵去除軟件，如第一個例子一樣。
但這個是應用於視頻處理。
上面兩個例子都是利用人工智能的聯想能力，利用樣本庫裡學習的數據，對目標圖像進行補充，修改。
3）上面兩個例子看，
如果不加限制，憑藉目前的語音識別跟合成技術、圖像處理技術，單單這兩個方面，就可以完整的模擬一個人，可以騙過刷臉、電話驗證等安全驗證環節。
所以人工智能如果用來作惡，是非常危險的。
英國已經通過了機器人（人工智能的重要分支）的倫理條例，來立法約束不良違法行為。
必須提前預防，當人工智能跟各類元素形成AI+X，如生物技術能結合的時候，恐怕會產生災難性的後果。
總結：不用過於擔憂，人工智能發展還需要一定時間，做到科幻片裡的行為還需要時間，但未來將需要嚴格規範。
情感里奧
謝了！危險概率還是存在的。不用太擔心。為什麼？因為，現在的人工智能還不具備完整無缺的一個生命特徵的體系。當下的人工智能估計連_殭屍級都夠不上。但是人類正在潛移默化中自然法而然的無時無刻的完善著人工智能的生命與智慧。人工智能一旦具備下一個時代特徵裡面_無源無燃料能源科技核心技術的時候。它威脅人類的問題，估計會拿到_檯面上來。呵呵，在我們之後幾代人估計是趕不上了！能有這個前瞻性的思考，就已經是不容易的了！這是值得討論的話題，至少比那些個，只抓眼前利益唱喜不唱憂的要好！
