科學家:人工智慧可以迅速發展自己的偏見


科學家:人工智能可以迅速發展自己的偏見


1. AI已經在影響性犯罪和其他刑事犯罪的刑事司法系統

最近劉強東被指在美國明尼蘇達州犯下性侵重罪,華爾街、紐約時報都站出來爭相報道,讓人感覺好像實錘了,畢竟那可都是跑的比誰都快的WSJ、NYT啊!

然而,不知道是因為證據不足、還是執法阻力,劉強東並沒有得到任何實質性的指控,就默默的回國了。甚至外交部都介入了,可始終就沒有個確定的結果出來。

所以劉強東這個案件,到底東哥是被陷害的呢?還是真的做出了不應該做的事情?東哥這樣的身份,這樣的為人,他能做出性侵的可能性有多大呢?

科學家:人工智能可以迅速發展自己的偏見


前AI時代

我們知道銀行風險評估有一個非常重要的判斷依據,叫做“違約概率”。顧名思義就是一個人如果來跟銀行借貸後,違反合約不按時還款的概率。通俗的講,就是一個人成為老賴的概率。

所以在司法機構方面,是不是也可以有一個犯罪概率呢?還真有!當然人家是不這麼稱呼。

美國這樣的法治國家確實一直有在做這方面的研究。而隨著人工智能技術的發展,AI也早已經成為司法機關進行判斷的輔助手段。

科學家:人工智能可以迅速發展自己的偏見


舉個例子。劉強東這件事情,為什麼大家願意相信東哥做了不應該做的事情?因為劉強東有工具、有身份、有實力,有實施不可描述的事情的條件。

東哥這次,不知道是交了保釋金離開,還是說警方確實沒有找到任何證據來定東哥的罪呢?這都是有可能的。

美國有82%的被告在監獄中度過預審時間,是因為他們交不起保釋金。而從被逮捕,到被定罪,通常需要花費半年時間。如果法官對你有偏見,你後面的生涯將會異常艱難。

半年時間,足以讓你的老闆變成前老闆,現任變成前任。然後在你被釋放後,從你的全世界路過。

科學家:人工智能可以迅速發展自己的偏見


現AI時代

引入AI後,首先可以消除一定的偏見。算法通過隱藏性別,種族和地理等因素的後,大家可能會更理性的看到事情,不太可能受到保釋聽證會或法官當天的感受影響。

其次可以提高效率。AI出報告的速度,那是一般人趕不上的。可以大大縮短在監獄中等待保釋聽證會的時間。

科學家:人工智能可以迅速發展自己的偏見


未來AI時代

人工智能,其實是人造智能。說他真的一點偏見都沒有,就像計算器1+1=2一樣,也是自欺欺人。之前小冰跟用戶對飆髒話、OpenAI Five在比賽中發信息嘲諷對手,都表明AI其實跟人一樣,也是會有偏見。

所以我們有必要更深入地研究偏見問題。人工智能系統很可能已經消除了這個特定法官的隱含偏見,但它也納入了所訓練的所有決策的總體偏差。

可以認為,隨著時間的推移,隨著AI的準確性增加,它可以將偏差最小化到在統計上無關緊要的程度。

然而,這一論點存在許多複雜情況。首先,這不是容易測量的東西,並且在實踐中已經在現有AI系統中觀察和研究了系統偏差。


科學家:人工智能可以迅速發展自己的偏見

2. 沒想到吧,谷歌密鑰的製造商來自中國


據CNBC報道,谷歌為確保網頁服務登錄安全而推出的新產品Titan安全密鑰是由中國飛天誠信科技股份有限公司(Feitan)開發的。

谷歌目前正在與LG和三星等設備製造商進行直接競爭。考慮到近些年來谷歌一直致力於推廣硬件,此次安排確實有些不同尋常之處。去年,谷歌又加大了對於硬件的投資,從HTC手中收購了大量人才和知識產權。

谷歌在上個月舉辦的Next雲計算大會上宣佈了“泰坦”密鑰的推出並表示將在谷歌開發的固件上驗證其完整性,不過公司並未指出這款產品的製造商。

但是這款無線密鑰與飛天的一款無線密鑰產品非常類似,這是一家位於北京的安全公司,於2014年在深圳證券交易所上市。

科學家:人工智能可以迅速發展自己的偏見


CNBC電話聯繫了飛天駐加州聖克拉拉的辦公室,接電話的員工表示飛天在“泰坦”項目上正與谷歌進行合作。

另外一位熟悉此項目的知情人士也證實了這一合作關係。週四,The Information媒體也單獨報道了雙方之間的合作。

谷歌發言人表示,谷歌是泰坦密鑰“名義上的製造商”,但實際上開發泰坦密鑰的是不具名的第三方製造商。不過發言人拒絕回應飛天是否是密鑰的製造商。

科學家:人工智能可以迅速發展自己的偏見


泰坦密鑰不但看上去與飛天密鑰很相似,而且和美國一家名叫Yubico公司的USB密匙也非常相似。Yubico的密鑰可以用於安全登錄谷歌的Gmail、Dropbox、GitHub和其他網絡服務。

但是Yubico的首席執行官斯蒂娜·埃倫斯瓦爾(Stina Ehrensvard)在博客文章中明確表示泰坦密鑰不是由Yubico製造的。埃倫斯瓦爾還對該密鑰使用藍牙一點提出了批判。

週日,谷歌產品經理克里斯蒂安·布蘭德(Christiaan Brand)在博客中宣佈用戶可以通過谷歌在線商店獲得泰坦密鑰。

她還表示谷歌的固件被密封在特殊的芯片中,這些芯片是直接配送到生產線上的。“對於泰坦密鑰的信任便是源於這些密封芯片,而不是基於在設備製造過程中的後續步驟。”

科學家:人工智能可以迅速發展自己的偏見


在泰坦密鑰發佈之後,飛天也在社交媒體上分享了一些關於谷歌的消息,但並未正式發表公開聲明表示兩者之間的合作關係。

谷歌在自己的“高級保護”計劃網站上建議美國公民——如果他們沒有兩個安全密鑰的話,可以通過亞馬遜購買飛天無線密鑰以及Yubico的USB密鑰。但這兩款密鑰均不是以谷歌泰坦品牌的名義進行銷售的。


科學家:人工智能可以迅速發展自己的偏見

3. 白白胖胖的糯米糰子,專治單身狗那該死的孤獨感

在Indiegogo上出現了個超可愛的蛋形機器人——來自日本的“TAPIA”。

在日本極度高齡化的社會環境下,一人孤單終老(日文裡稱“孤獨死”)的高齡者也越來越多。

在這樣的背景下,MJI 團隊開發了這款搭載AI系統的桌上機器人,企圖提高獨身居住者的生活質量。

TAPIA 有著圓滾滾的白色蛋形身體以及一雙水汪汪的大眼睛,乍看起來很像一顆巨大的水煮蛋,讓人忍不住像抱一抱。而TAPIA 的可愛外表下還藏有一顆功能強大的“心”。

科學家:人工智能可以迅速發展自己的偏見


亮點一:安全保護

TAPIA 通過對使用者的密切觀察,並與日常活動相比較,如果覺得使用者的情況可疑,她會主動進行問詢,如果使用者在一段時間內沒有回應,TAPIA 會立刻聯繫緊急聯絡人。

同樣,如果使用者超過一定時間沒有回家,TAPIA 也會向相關人員發出警報。

具備“視覺”識別與學習能力的 TAPIA 會慢慢記住使用者的生活習慣,並通過與周遭環境的互動,持續成長學習。

有了她的忠誠保護,使用者可以更安心地享受自由的獨居生活。

科學家:人工智能可以迅速發展自己的偏見


亮點二:保持溝通

TAPIA 的感情表達系統與好感度評分系統結合,在與使用者的對話中,根據應答的內容和節奏來不斷修正交談風格,提升對話質量。

如果你經常和她對話,她也會心情變好,時不時給你講個笑話或雞湯什麼的……

科學家:人工智能可以迅速發展自己的偏見


亮點三:生活助手

使用者可以通過語音給 TAPIA 下達各種指令,讓她成為家裡不可缺少的好幫手。

她可以幫你打電話(支持 Micro Sim Card)、進行視頻通話、拍照片、念報紙、播放音樂,還可以提醒你什麼時候該吃藥了、今天天氣情況、每日待辦事項等等。

可以想象,使用者很快就會離不開她的貼心陪伴了。

科學家:人工智能可以迅速發展自己的偏見



科學家:人工智能可以迅速發展自己的偏見

4. 科學家:人工智能可以迅速發展自己的偏見


來自英國卡迪夫大學和美國麻省理工學院的計算機科學和心理學專家發現,自主機器人可以通過識別、複製、學習其他機器人的行為產生偏見,某些種類的算法已經產生性別歧視和種族歧視

科學家:人工智能可以迅速發展自己的偏見


歧視看似是人類社會中特有的、需要認知才能產生的現象。但是,某些類型的計算機算法已經從公開檔案等人類資料中習得了性別歧視、種族歧視等偏見。

最新的一項研究甚至發現,人工智能可以進化出不同的偏見群體。

為證實人工智能可以自己產生偏見,科學家用計算機模擬博弈。博弈中,每個個體都可以將錢送給自己所在的群體或其他群體,以測試每個個體的給予策略,觀察其是否對其他群體有偏見。

這一博弈由一臺超級計算機模擬,其中包括上千個個體,每個個體都可以通過複製其他來自相同群體或不同群體的個體學習新的策略。

科學家:人工智能可以迅速發展自己的偏見


參與研究的卡迪夫大學計算機科學與信息學教授Roger Whitaker表示:“通過成千上萬次模擬,我們發現了偏見是如何演化的、哪些情況可以激化偏見、哪些情況可以減弱偏見。

我們的研究表明,偏見是自然產生的、影響非常大的,它很容易被激勵、損害大範圍的連通性。來自同一偏見群體的保護可以非主觀地引起更進一步的偏見,使整個群體四分五裂。

這種廣泛傳播的偏見很難逆轉。”這些個體是通過複製那些有更高短期效益的個體使得偏見升級的,可見偏見並不需要高級認知能力。

科學家:人工智能可以迅速發展自己的偏見


在另一項關於性別的研究中,研究人員發現,微軟、IBM和Face++等的人臉識別服務中存在性別歧視和種族歧視。

這些服務對於男性白人更加友好,而對於男性黑人和女性黑人錯誤率最高。微軟在21%情況下無法識別黑人女性,而IBM和Face++有35%情況無法識別。

科學家:人工智能可以迅速發展自己的偏見




素材來源:搜狐科技、機器之心、人工智能頭條等


分享到:


相關文章: