1954年4月27日，中共中央政治局召開擴大會議，決定撤銷大區一級黨政機構，各省、市、自治區受中共中央直接領導，時任中南局副書記、中南行政委員會副主席的李先念頭，任財政部副部長。
李先念接到進京任職的通知後，曾致信陳丕顯：“我不日去京工作。我這個人你們都是知道的，深感心有餘而力不足，理論水平低，文化程度有限，工作難免不犯過錯。然而在中央直接領導下，儘可能少犯錯誤。今後請你們多加幫助，如有意見，必須提出，使我少犯主觀毛病。”深感責任重大，如臨深淵，如履薄冰，但又努力進取之心可見。
進京後，為儘快熟悉工作，進入狀態，5月23日看望徐向前，聽取教誨。陳去和鄧小平受毛澤東委託，同李先念談話。李提出，當財政部長要管理全國財政，還要懂得全國經濟，怕自己幹不了，難以勝任。陳、鄧給予鼓勵，並說，這是主席決定的。李說，請你們兩位一定要多加幫助指導，千萬不要撒手不管。
6月上旬，李先念李應約同毛澤東談話，表示怕當不好財政部長，說自己能力水平有限，請中央可否考慮他人。李的話非常真誠，從大區負責人到中央負責財政經濟工作，無疑是很大挑戰和極大轉型，因而他對主席的話是發自內心的。
毛澤東聞言，臉上的笑容漸漸消失，變得有些嚴肅起來，他知道解鈴還須繫鈴人，必須親自做思想工作才行，但以毛的雍容倜儻，又不可能去講那些可行性、必要性等，相反，他突然風趣起來，說道：你幹不了，不想幹，只好把國民黨的孔祥熙、宋子文從臺灣請回來，讓他們幹了。
聽毛如此回答，李還有些打鼓的心頓時堅定起來，立即表態堅決服從中央決定。從此在周恩來總理領導下開始參與財政部相關工作。
9月29日，毛澤東簽署主席令，任命國務院副總理、各部部長、各委員會主任、秘書長、國防委員會副主席和委員會。李先念被任命為國務院副總理兼財政部部長、國防委員會委員。
這種辭官笑勸的場景，兩年後又在毛澤東和李先念之間重現了一次。
1956年9月15-27日，中共八大在京召開，李先念被選為由63人組成的大會主席團成員。9月26日，李當選為中央委員會委員。
9月27日，當他得悉成為中央政治局候選人之後，於當日晚，立即致信陳雲、鄧小平並中共中央、毛澤東，他在信中這樣寫道：在提中央委員會候選人名單的時候，我沒有提過意見的，但是在剛才中共中央政治局候選人名單公佈之後，對我來說，等於晴天霹靂，心情極端沉重。無論從哪方面來講，能力和資歷，就在中央工作的時間來說，不應當提到我的。比我能力強、資歷深和在中央長久工作的同志多。將我的名字擺上，對黨對我個人都是不好的。而且應當說到，我的年齡雖然比黨內一些同志小些，但身體也不好，經常頭痛。因此，不行、不順，我算是最突出的。為此，我真心請求將我的名字刪掉。還是讓我在中央機關做一點工作，這對我還是一個鍛鍊。這是我的衷心話。時間急迫，心情不安，要求中央慎重考慮。
信發出後，陳、鄧及毛都沒有表示什麼，結果是他如期當選，並隨之開始參加中央相關工作。
沒看到毛對李信件的態度，但在他此後一系列談話、批示中，充分表明了毛的態度。
1960年11月19日下午，毛澤東在接見埃爾內斯托·切·格瓦拉及其一行時，李先念在座。毛對格瓦拉說：“我們剛剛革命奪取政權的時候，也是非常缺乏經濟方面的管理人才的。中國革命戰爭進行了22年，越到後來，我們越注意培養各類幹部。但是，我們培養的人手，總還是嫌不夠用。於是，我們只好抓個大兵來管錢。事實證明，我們這樣的做法也沒什麼不好的。我們的李先念同志就把中國的人民幣和其他各種錢財管理得非常好！”
自1954年進京開始，至改革開放初起，李先念一直擔任國務院副總理，領導經濟管理，對中國經濟社會發展作出了突出貢獻。
