【智能進化論】

作者|進化君

出品|智能進化論

IBM海法研究院Project Debater 首席研究員Noam Slonim博士（左）、Proj

導讀：

導語： 就在上海人工智能大會前夕， 進化君對話了IBM海法研究院的頂尖科學家，更多瞭解了能與人類辯論的AI系統Project Debater。

會辯論的AI能夠幫助人們在複雜世界中制定權衡利弊的決策。語料庫、知識圖譜以及大量模擬人類困境的建模是Project Debater學習辯論的關鍵。

正文：

還記得Project Debater嗎？IBM今年推出的首個能與人類辯論的AI系統。

今年6月，Project Debater參加了在舊金山舉行的與人類辯論高手PK的公開辯論賽。在沒有提前獲知辯題的情況下，Project Debater依靠強大的語料庫，獨自完成陳述觀點、反駁辯詞、總結陳述的整個辯論過程。智能進化論曾做過詳細報道，

9月7日，進化君視頻採訪了Project Debater團隊的幾位科學家，包括來自以色列IBM海法研究院的Project Debater首席研究員Noam Slonim博士、Project Debater團隊經理Ranit Aharonov博士，以及IBM AI Tech副總裁Aya Soffer博士。

IBM為什麼要研究會辯論的AI？Project Debater遇到的難題是什麼？創新在哪裡？下一步將如何發展？關於外界關注的這些問題，幾位科學家用通俗易懂的表達做了詳盡解釋。

IBM為什麼要教機器辯論？

當Watson 2011年在《危險邊緣》（Jeopardy!）益智問答中擊敗人類選手後，IBM的AI研究人員便開始尋找下一個具備重大挑戰的研究領域。科學家們希望，新的方向既要與人類實際生活相關，在難度上又要超越AI此前能夠解決的挑戰。

雖然公開辯論不是一個常見的場景，但辯論的能力卻是人們制定決策的關鍵，不管在日常生活還是工作中。被譽為批判性思維（Critical Thinking）聖經之作的《學會提問》一書中指出，無論總統還是普通人，都要面臨一個問題，那就是當別人告訴你要做A，要做B，甚至A和B 是相反的意見時，我們需要運用批判性思維，在這些不同的意見中做出獨立的明智的決策判斷。

Aya Soffer博士介紹，"真實世界中，我們並不需要像《危險邊緣》那樣完成很多瑣碎的知識問答，而是要回答真正重要的問題，並做出真正重要的決策。決策的重要性決定了我們確定要把辯論功能作為AI的下一個重大挑戰去做相關研究。"

此外，辯論還是一個開放式的挑戰，這與之前AI所解決的挑戰都不同。此前，不論益智問答還是下圍棋、玩電腦遊戲，這些活動都有明確的衡量輸贏的標準。辯論則像在真實世界中做商業決策一樣，沒有清晰的以絕對的分數高低衡量輸贏的簡單標準。

由此，Project Debater的應用主要集中在兩個領域，第一是有研究、分析、收集信息需要的人士。如金融分析師、律師、記者、科學家等。他們需要就某一個主題尋找相關信息，並且以相關的方式去組織這些信息，瞭解其利與弊。

第二個是需要做決策的領域，比如企業董事會成員和高級管理人員。往往他們要做決策是自己尚未充分了解的內容，面臨非常多的信息。Project Debater可以幫助他們迅速瞭解一個問題的正反兩面，做出更好的基於證據、基於關鍵信息的決策。

Project Debater團隊經理Ranit Aharonov博士表示，"由AI輔助去解決大多數不是非對即錯、非贏即輸的問題，將是AI將來發展的一個方向。"而辯論本身不是為了輸贏，而是為了獲得更多的決策角度。

"基於循證、基於證據的決策，這是非常大的待開發的AI領域，所以可以通過辯論去實現這一個領域的落地。"Aya Soffer博士強調。雖然有著廣泛的應用場景，科學家們也表示，目前Project Debater還處在研究初級階段，沒有商業應用的計劃。

IBM海法研究院Project Debater 首席研究員Noam Slonim博士（右）、Proj

Debater是如何應對即興、不可預測的辯論內容的？

在6月份舊金山的公開辯論賽中，Project Debater事先沒有拿到任何辯題。和人類選手一樣，拿到辯題後只有30分鐘的準備時間。在這期間，Project Debater需要首先分析辯題，然後掃描擁有3 億多個可靠信息來源的龐大語料庫，通過算法找出與辯題相關性最高的觀點性內容，同時減少重複信息，最終形成有說服力的論點和支撐論據。

這一過程中，Project Debater主要依靠三大能力：一，數據驅動的演講稿撰寫和表達，即從大量語料庫中尋找素材並撰寫結構良好的演講內容；二、聽力理解，能夠識別長段連續口語中隱含的重要概念和觀點，這與只需要聽懂一句話的語音助手完全不同；三、模擬人類困境（dilema），針對性地提出有原則的論點。

在自由辯論環節，Project Debater很難預測對方會怎樣說。那麼，它是如何實時應對完全即興的、不可預期的辯論內容，並做出針對性的反駁的？這可以說訓練Project Debater辯論時最大的挑戰。

Noam Slonim博士詳細解釋了Project Debater如何應對這一挑戰：通過構建知識圖譜，針對不同論證中的共同點建模，形成辯駁的能力。

"舉個例子，比如說涉及到是否要禁止人體器官貿易，是否要禁止酒精貿易。人們可以自然而然地推斷出，如果禁止相關交易，將導致黑市蓬勃發展的風險。模擬這一場景，可以為Project Debater建模，當遇到類似有關禁止類型的辯題時，Project Debater就可以依據模擬好的知識圖譜，等待著與黑市相關話題的出現，然後去尋找與黑市相關的論證就可以了。"

但是事情沒有這麼簡單。比如美國最近討論比較多的熱門話題，是否禁止在公共場合母乳餵養。同樣是禁止相關內容，但跟黑市一點關係都沒有。

"所以我們需要在這些方面不斷去建模、擴大語料庫，包括人類豐富的語言中各種細微和微妙的地方。這樣Project Debater在已經建模的知識圖譜中，才能夠更加精準地為自己導航，找到支持自己論點的內容。"Noam Slonim博士強調。

Project Debater的學習模式

學會辯論的Project Debater是否會像Alpha Go那樣能夠自動學習，越來越聰明？

科學家們解釋說，Project Debater並沒有用到訓練Alpha Go的強化學習工具。強化學習是機器學習中一個重要的類型，其典型特點就是在沒有人為指導的情況下，通過不斷的"試錯"獲得反饋來提升任務性能。但反饋需要明確的衡量標準，比如會導致遊戲贏還是輸。

但是Project Debater的辯論場景是開放式、不是非贏即輸的，人們對於辯論陳述的好壞評價是非常主觀的判斷。進化君理解，Project Debater 的訓練中使用了深度神經網絡和弱監督學習。深度神經網絡（DNN）和弱監督都要用到有標籤的數據去培訓機器做出正確的回答。

據介紹，除了人工標籤，研究人員還教會Project Debater通過關鍵詞判別標籤，比如一旦句子中出現"認為"、"想"、"假定"、"相信"等表達，這就判定為屬於陳述內容。科學家開發了多種工具和方法，以弱監督方式訓練DNN，以獲得訓練需要的大量人工標記的高質量數據。

此外，Project Debater是否會向人類中的一級辯手中學習？

Ranit Aharonov博士表示，"在涉及到通過建模去模擬人類困境的時候我們聽取頂級辯手的意見，參考他們是如何應對在同樣一個話題下不同觀點的衝突。"

Project Debater的構成要素與潛在應用（來源：IBM海法研究院）

Project Debater的下一步，讓人工智能更像人

作為項目的首席研究員，Noam Slonim博士加入IBM已經11年了，自2012年至今都專注於Project Debater的研究。雖然Debater團隊成員已經在各種高質量科學會議上發表了30多篇作品，並開創了計算辯論（Computational Argumentation）這一全新領域，但Noam Slonim博士認為Project Debater處在早期的階段，有長足發展空間。"有太多有趣的問題等著我們去發掘。就計算辯論本身而言就有太多有趣的問題。"

Noam Slonim博士認為，在亞里士多德提出的辯論三元素（logos邏輯、pathos情感、ethos可信）中，目前的AI研究還需要超越logos（邏輯）階段。

Project Debater的最終目標也許並不是讓機器像人一樣自由辯論或者比人辯論得更好，而是促進AI在語言理解領域的研究。語言理解一直都AI領域的重點，也是IBM在AI研究方面關注的重點。科學家們認為，目前所有企業在這個方面的研究還遠遠不夠。

"Project Debater下一步是怎麼樣的，就是要讓人工智能更像人。我們希望AI下一步的發展是從比較窄的例子上學習，擴展到比較寬泛的領域、跨不同領域的應用，以及能夠從概念上學習。不是僅僅是再學習的能力，而是自己去推理的能力。"Aya Soffer博士表示。

智能進化論是專注人工智能領域的科技新媒體。目前已入駐微信公眾號、今日頭條、百家號、一點資訊、雪球TMT、知乎專欄、天極自媒體、界面、搜狐號、網易號、企鵝號、大魚號、騰訊看點號等十餘家自媒體平臺。

進化君，資深營銷人、媒體人，專注人工智能領域科技評論。希望用思想和文字陪伴你讀懂智能時代。

閱讀更多 智能進化論 的文章

關鍵字: IBM 海法 自媒體