郭一璞 發自 凹非寺
量子位 報道 | 公眾號 QbitAI
今天早上，離開微軟的沈向洋正式續聘清華，在清華講了第一堂課。
去年11月沈向洋離職微軟後，就在本週前幾天，沈向洋續聘清華，在清華的title是清華大學高等研究院雙聘教授。
清華大學校長邱勇說，這是清華大學歷史上第一次以視頻會議的形式舉行聘任儀式，校長連線發聘任書。
這次聘任儀式的兩端分別在中美兩地，校長和工作人員們在位於北京的清華大學工字廳，而沈向洋博士在位於西雅圖的清華大學全球創新學院（GIX）大樓127室。
邱勇校長還開玩笑說：“我也是第一次跟向洋博士以這種形式見面，向洋博士在屏幕上很帥，比以前都帥。”
之所以是“續聘”，是因為這其實是沈向洋在清華的第二場聘任儀式。2005年，沈向洋首次受聘清華高等研究院雙聘教授，距今已經過去了15年。
聘任儀式之後，藉助Zoom直播平臺，沈向洋進行了主題為Engineering Responsible AI的課程演講。
沈向洋提到，AI目前在社會各界中都有應用，人們藉助AI來做決策。但現在，AI已經在做我們不懂的決策。
許多AI系統就像黑箱一樣，AI做了決策，但我們不知道它為什麼這樣做。
因此，負責任的AI是很重要的，每個創造AI的人都應該瞭解一些AI創造的原則。
之後沈向洋重點討論了可解釋的AI和AI的偏差（bias）
關於可解釋的AI，沈向洋舉了一個AI分辨哈士奇和狼的例子。
在以下6張照片中，只有左下角的一張被識別錯了。
但其實，AI可能並非像我們理解的那樣，通過動物的外形來辨別的，它的辨別方法可能是這樣：
AI的判斷並非通過圖片中的動物部分，而是通過圖片中除了動物之外的部分進行的。
因此，可解釋的AI非常重要，不然你永遠都不知道AI可能是用這種作弊的方法來判別哈士奇和狼的。
而關於偏差，沈向洋舉了性別偏差的例子。
曾經有人發現一個人臉識別系統裡，識別不準的都是女性、不化妝、短髮、不苟言笑的照片，而其他人就相對更準一些。
而在詞嵌入中，問題更為明顯。
同一段描述，當文中用的是she/her等女性詞彙時，AI判斷這段文字描述的是老師；
而當裡面的she/her變成he/his/him等男性詞彙時，AI就會判斷這段文字描述的是律師。
一個典型的例子是“He’s Brilliant, She’s Lovely”。
在一個詞嵌入系統中，當主語分別是“她（she）”和“他（he）”時，出現的詞是不一樣的：
她是“姐妹”，他是“兄弟”；她是“護士”，他是“大夫”，談到這裡，沈向洋吐槽說，你們沒發現哪裡不對麼？她是“家庭主婦”，他是“程序員”；她說“OMG”，他說“WTF”；她是“女權主義者”，他是“現實主義者”；她“懷孕”了，他“腎結石”了；……
這是詞嵌入裡的偏差，很多時候人們想都不想，就直接用了。
最後，沈向洋教授總結說，我們是第一代和AI共存的人類，我們得決定怎麼構建AI、怎麼用AI。我們能接受一個AI做的決定、我們人類無法理解的世界嗎？
One More Thing
最後，沈向洋還表達了他對NLP領域的期待。
他說，CV現在還很火，但未來十年自己看好NLP：
“懂語言者得天下。”
這是沈向洋全程唯一一句中文。
傳送門
如果你想了解沈向洋演講的具體內容，清華大學微博上可以查看回放：
https://weibo.com/1676317545/Ixadc8PhK?from=page_1002061676317545_profile&wvr=6&mod=weibotime&sudaref=weibo.com&display=0&retcode=6102&type=comment
— 完 —
量子位 QbitAI · 頭條號簽約作者
關注我們，第一時間獲知前沿科技動態
閱讀更多 量子位 的文章
