中國大多數朝代都是以儒家觀念為主來治理國家，而儒家觀念集中體現在“四書五經”中，在“四書五經”之中，《論語》當然是最原本、最精華的儒家思想體現。因而，就有“半部《論語》治天下”的說法。
“半部《論語》治天下”的說法與宋代的名臣趙普有關。趙普在趙匡胤沒有做皇帝時，兩人關係就很好。趙匡胤黃袍加身做了皇帝后，讓趙普做了宰相。趙普讀書不多，為了讓自己在有限的時間內學到最精要的治國思想，趙普只能精讀典籍。宋人羅大經的《鶴林玉露》記載，宋太宗與趙普聊天時問趙普：“有人說你只讀一部《論語》，是這樣的嗎？”趙普說：“臣所知道的，確實都超不出《論語》中所講的。過去臣以半部《論語》輔助太祖平定天下，現在要用半部《論語》輔佐陛下使天下太平。”《宋史》中也講趙普每次回家，都關上門從書篋中取出書來讀，第二天臨朝時處理政務總能如行雲流水一般。等趙普死後，家人翻開書篋來看，裡邊只有一部《論語》而已。
趙普熟讀《論語》，以儒家最精華的精神來處理各項國家事務，因此做出很多對後世影響很大的事情。趙匡胤建國之後，憂心仲仲，不知如何處理重臣武將的兵權問題。《五朝名臣言行錄》中記載，太祖趙匡胤問趙普：“天下從唐代末期以來，數十年間，帝王換了好幾輪，兵革不息，蒼靈塗炭，什麼原因呢？我想止息天下之兵，讓國家長治久安，怎麼做呢？”趙普說：“戰爭不止，國家不安，沒有別的原因，大臣節度使兵權太大，君弱臣強而已。要想維持統治，沒有別的竅門，只有奪其權，收其兵，天下自然安定。”話還沒說完，太祖就說：“你不用說了，我已經明白了。”此後就發生了“杯酒釋兵權”，趙匡胤解除大將兵權，讓他們頤養天年。這成為中國歷史上處理開國功臣最成功的範例，不是像朱元璋那樣殺戮功臣，而是採取溫和的方法解決了開國功臣對皇權的潛在威脅，在“杯酒釋兵權”中，君臣也開誠佈公地談論了各自的心思。
不過，也有另一種說法，“半部《論語》治天下”只是一個誇張的說法，趙普為什麼躲在房中看書呢？《鶴林玉露》中有一條說：杜甫有句詩叫“小兒學問只《論語》，大兒結束隨商賈”，意思是《論語》那個時代只是為兒童啟蒙的讀物。趙普官至宰相，但讀書不多，再讀《論語》有悖常理，只好躲起來看。當然，這種說法只是一種推測。
其實，“半部《論語》治天下”是後世產生的，趙普生前及整個北宋，沒有這樣的說法，這種說法真正流傳開來是在元朝。因為元朝是蒙古人統治，對儒家學說表示了極大的蔑視。滿腹經綸的儒生，地位相當低下，基本沒有任何機會治理天下。元代高文秀的雜劇《遇上皇》中出現了這樣的話：“每決大事，啟文觀書，乃《論語》也，此時稱小官以半部《論語》治天下。”“半部《論語》治天下”的說法才正式出現。元雜劇中的臺詞，既是地位低下的儒生們對前朝文人地位的嚮往，對自已學問的一種自負，也是向當朝執政者的一種自我推薦。由於這句話極大地誇張了《論語》的功能，得到了那些能將《論語》倒背如流的儒生們的普遍歡迎，且雜劇是一種通俗文藝形式，所以廣泛地流傳開來。
雖然“半部《論語》治天下”這個說法有這樣具體的背景，但拋開細節問題，《論語》代表的儒家思想確實對中國的政治治理起到了重要作用，中國曆代君臣為政的觀念基本都是建立在儒家思想的基石之上。所以，從廣泛意義上來說，認為《論語》在為君為臣時可從中借鑑政治智慧則未嘗不可。
如司馬遷在為政治的執行者酷吏作傳的時候說：
孔子曰：“導之以政，齊之以刑，民免而無恥。導之以德，齊之以禮，有恥且格。”…太史公曰：信哉是言也！法令者治之具，而非制治清濁之源也。
單純依靠法令是不能讓社會安定的，只有“導之以德，齊之以禮”才是“制治清濁之源”。
又如蔡澤勸說範睢退出秦國相位，就用《論語》中的思想來作為理論武器。範睢是秦國曆史上非常重要的人物，本來默默無聞的蔡澤想通過辭令讓赫赫有名的秦相讓出相位，他說：“語曰‘日中則移，月滿則虧’。物盛則衰，天地之常數也。進退盈縮，與時變化，聖人之常道也。故‘國有道則仕，國無道則隱’。聖人曰‘飛龍在天，利見大人’，‘不義而富且貴，於我如浮雲’。今君之怨已讎而德已報，意欲至矣，而無變計，竊為君不取也。”蔡澤先是勸告範睢物極必反，榮華顯達到了頂峰就會有淪落的危險，並且用《論語》中的話“國有道則仕，國無道則隱”與“不義而富且貴，於我如浮雲”分析了範睢身處的環境，並應該如何行動。範睢聽後連連稱善，奉蔡澤為上客，不久向秦昭王請辭，併力推蔡澤為國相。
《史記》太史公贊張良時說：
學者多言無鬼神，然言有物。至如留侯所見老父予書，亦可怪矣。高祖離困者數矣，而留侯常有功力焉，豈可謂非天乎？上曰：“夫運籌策帷帳之中，決勝千里外，吾不如子房。”餘以為其人計魁梧奇偉，至見其圖，狀貌如婦人好女。蓋孔子曰：“以貌取人，失之子羽。”留侯亦云。
司馬遷在張良的傳記最後總結說，張良遇到神秘的老人授予他兵書，這樣的事情很奇怪啊。不過，劉邦數次有難，張良都在關鍵時刻解救，難道真有天意？太史公司馬遷說自己想像著張良應該是魁梧奇偉的人，但看到畫像才知道，張良原來像女子一樣文雅，不禁感嘆孔子所說的“以貌取人，失之子羽”。什麼叫“以貌取人，失之子羽”？《史記·仲尼弟子列傳》中有解釋：魯國人澹臺滅明，字子羽，相貌醜陋，孔子開始看到不太願收他作學生，後勉強收之也不是很重視，子羽離開後仍以孔子為師，發揚孔子的學說，培養弟子，孔子這才發現子羽是難得的好學生，就感嘆：“以貌取人，失之子羽。”司馬遷如是說，是以孔子的話來讚揚留侯張良神偉之才。
拿《論語》是否可以治理天下，當然仍是一個值得爭論的問題。不過，《論語》對於當今的時代仍非常具有意義，當下國學熱的興盛就可見一斑，每個人都應該從《論語》中吸取智慧。
