漢高祖十二年(公元前195年)10月,劉邦在征討英布的戰爭中被弓箭射中,不得不從前線撤回。在經過自己家鄉沛縣時,他停留了下來,在沛縣行宮舉行了宴會,將自己的朋友、故鄉父老都邀請來,和他們縱情飲酒,酒過三巡,劉邦興致愈濃,親自擊築,做了一首《大風歌》:“大風起兮雲飛揚,威加海內兮歸故鄉,安得猛士兮守四方。”劉邦再沛縣一連住了十餘天才離去。
劉邦回到長安後箭傷發作,病情十分嚴重。皇后呂雉四處尋訪良醫為劉邦治病,一位醫生看了劉邦的病情後認為可以醫治,但出人意料的是劉邦立時破口大罵到:“當年我以一個普通百姓的身份,提三尺劍奪取天下,這難道不是天命嗎?我命在天,即使扁鵲來了又有什麼用呢?”於是,劉邦依然不接受醫生的治療。呂后也沒有辦法,只得問劉邦後事如何處理。呂后問:“陛下百歲之後,如果蕭相國死了,讓誰來代替他?”劉邦說:“曹參可以。”呂后問:“曹參之後呢?”劉邦說:“王陵可以,但王陵的才幹平庸,可以讓陳平輔助他。陳平雖然智謀有餘,但難以獨任,周勃為人敦厚,不善文,然而安定劉氏的肯定是周勃,可任他為太尉。”呂后又問:“這些人之後還能用誰呢?”這次劉邦搖搖頭,說道:“這些人之後的事,我也不知道了。”劉邦說罷,緩緩她閉上的眼睛。
這年四月,劉邦在長安宮病逝。