如果說督察是警察的警察。
中紀委就是監管者的監管者。
高等數學裡面的"泛函"就是函數的函數。
哲學是科學的科學。
電影«青年馬克思»就講的是哲學牛人馬克思。
軟件狗是軟件的監管者。
那麼DeepXplore就是人工智能的人工智能。
姑且不說最新科幻大片«復仇者聯盟3無限戰爭»的視覺特效如之何，不知你留意沒有，裡面提到了一個重要的問題:幾千億個神經元在平行運算，每個神經元的決策的監管是個大問題。
這個問題其實早在2017年就有一位科學家敏銳地覺察到。
美國哥倫比亞大學的計算機科學家楊俊鋒（Junfeng Yang）認為，人工智能面臨的一個關鍵挑戰是，開發者通常並不知道神經網絡內部是如何決策的，這導致出錯後很難找出根源。
於是。。。
2017 年10 月，楊俊峰開發了一個名叫DeepXplore 的程序，可通過逆向分析人工智能系統的學習過程，尋找系統中的漏洞。
該程序會把真實世界中各種容易混淆誤識的場景，輸入某個神經網絡進行測試，並且會在網絡判斷錯誤時予以告知，這樣神經網絡就能自行糾錯。
比如，DeepXplore 能夠判斷，某個無人駕駛系統在接收到攝像機傳入的照片後，是否會錯誤地把車導向行人，即使有萬億分之一的概率會發生，後果也是可怕的。
該調試工具監測神經網絡中哪些神經元處在活躍狀態，並且能單獨測試每個神經元。 
玩過軟件測試的人都知道，白盒測試工具一般是針對代碼進行測試，測試中發現的缺陷可以定位到代碼級，根據測試工具原理的不同，又可以分為靜態測試工具和動態測試工具。靜態測試工具直接對代碼進行分析，不需要運行代碼，也不需要對代碼編譯鏈接，生成可執行文件。靜態測試工具一般是對代碼進行語法掃描，找出不符合編碼規範的地方，根據某種質量模型評價代碼的質量，生成系統的調用關係圖等；動態測試工具與靜態測試工具不同，動態測試工具的一般採用“插樁 ”的方式，向代碼生成的可執行文件中插入一些監測代碼，用來統計程序運行時的數據。其與靜態測試工具最大的不同就是動態測試工具要求被測系統實際運行。
7000多行代碼測試一億行代碼的自動駕駛軟件，監管千億級的神經元的並行計算與決策。
這傢伙這麼簡單能行嗎？
不要嫌它簡單，細菌裡的CRISPR cas9簡單吧？現在它可是基因科技裡最紅的，全靠它強大的定位裁剪錄像能力。 
電影«狂暴巨獸»裡面的野獸生長和侵略性格的獲得背後的核心科技就是CRISPR cas9這種基因編輯技術。
閱讀更多 陶田園原生態食品 的文章
