<strong>本文共1145字,閱讀時長約3分鐘
<strong>關鍵詞:AI、谷歌、漏洞
提起AI,不少人覺得它高深莫測,能力無限。不僅下圍棋是一把好手,未來也許還能統治世界。
像是電影<strong>《生化危機》裡的紅皇后,就是一個超級人工智能,它控制著整個“蜂巢”的運行,還肩負著保護人類的使命。
要是AI有了<strong>自主意識,認為人類的存在會對它造成威脅,也許還將執行毀滅人類文明的程序,到時候真的是末日來臨了。
《黑客帝國》
反觀現實生活,AI技術這幾年進步巨大,無人駕駛、人臉識別凡是高精尖的技術都和它沾邊。我們對AI的能力也越來越認可,與此同時<strong>“AI將毀滅人類”的傳言也甚囂塵上。
不過,說三今天要告訴大家,<strong>人類高估了AI的能力,因為它可能“智障”到連一張圖都識別不出來。
麻省理工大學的一項新研究發現,AI識別好像沒那麼靠譜,<strong>它竟然把一隻3D打印的烏龜識別成了一把步槍。
不管怎麼變化角度,AI就是認定一把步槍(rifle)
實驗出現這樣的結果,也讓參與研究的科學家們大吃一驚。於是他們又找來一個棒球,心想這種形狀簡單的物體應該不會認錯吧。
不曾想Google AI再次打臉,系統識別出來的竟然是<strong>濃縮咖啡
。但是濃縮咖啡明明長這樣啊...除了顏色有些類似,一個是固體球狀另一個是液體,居然也能搞混。
咖啡心中有句MMP不知當講不當講
更搞笑的是這隻花斑貓,<strong>正臉照片被識別成鱷梨醬,只有頭微微傾斜時才被當做一隻貓。
造成這樣令人“大跌眼鏡”的結果,是AI先天算法殘疾造成的。Google AI對附帶對抗性圖像的<strong>3D物品毫無招架之力。
所謂“對抗性圖像”簡而言之就是專門用來欺騙AI的圖片。好比科學家們給AI出了一套考卷,但是一套合格的試卷不能沒有難度區分,<strong>必須在有難度的試題上處處挖坑
。
這個坑就叫“對抗性圖片”,它是通過<strong>改變圖像細節、以及大量採用3D元素實現的。雖然這些改變騙不過人眼,但對AI來說就是一招必殺。
因為AI學習方式就是教育界一直批判的“填鴨式”教育。就拿這次試驗中的Google AI舉例,它分析了<strong>1000萬張圖片後,才掌握了“在圖片出找出貓”的能力。
這種略顯笨拙的學習方式自然難以應對各種變化,所以當面對“詭計多端”地對抗性圖片時,AI圖像識別系統有時根本不知道自己看到的是什麼。
最近,有新聞報道稱將在監控中引入AI,讓它來識別那些人有犯罪動機。<strong>但是結合上面談到的漏洞,真要普及估計會帶來不少麻煩。
把行走的人和狗搞混倒是件小事,如果<strong>它把步槍認成烏龜,放行罪犯進入敏感區域,會造成什麼樣的後果?這真的是一件細思極恐的事兒。
而從目前各大公司的研究進度來看,似乎還沒有找到有效應對“對抗性圖像”的方法,所以人們在擁抱AI的時候一定要保持冷靜,<strong>別忽視了背後的風險
。記得長按二維碼關注我們哦~
閱讀更多 爻言科技 的文章