淮海戰役之前，按照杜聿明提供的作戰計劃，國軍放棄鄭州、商丘等中原據點，向徐州收縮，徹底集中兵力，將二兵團、七兵團、十二兵團、十三兵團、十六兵團五個重兵集團都集結到徐州附近，依託徐州的永備工事，與解放軍進行戰略決戰，以求擊破華野全部或一部，使華野遭受嚴重損失，然後趁機反攻濟南，打通津浦線。
這個計劃看上去有問題嗎？完全沒有任何問題，這也是當時國軍在關內剩下的反敗為勝的唯一機會了。但執行起來就完全不是那麼回事了。兵貴神速，這是大家都知道的，但是七兵團已經準備按命令從新安鎮向徐州外圍撤退的時候，徐州的劉峙突然命令他，等一下連雲港的44軍，跟著黃百韜一起撤退。這個44軍按照事前的計劃，那是要海運南撤，直接經南京到蚌埠去的，但這時候要黃百韜掩護一下，帶著一塊撤退。
黃百韜這一等，就喪失了安全撤退的機會。44軍剛接到撤退命令，還沒開始向下傳達，當地幫劉峙做生意掙錢的老闆就找到軍部了，要求44軍帶著他們一起撤退，說這是徐州劉主任的意思。這一來就好了，大家一起玩完。44軍本來就不是什麼精銳，行動速度比較慢，又帶上一大堆機關幹部、學生、商人、地主和家屬什麼的，行軍速度就慢下來了。等趕到七兵團防區，共軍早都開始追上來了。
黃百韜兵團原本下轄四個軍，除了他的嫡系25軍，還有臨時配屬的周志道的100軍，以及兩個粵軍部隊63軍和64軍。結果63軍臨陣換將，剛來的軍長情況不熟，對解放軍作戰風格也不瞭解。黃百韜已經下令撤退，他還在窯灣鎮磨磨蹭蹭，他還沒來得及走，就被華野圍住了，一頓猛揍，63軍就不敢動彈了，只能就地堅守待援，要求黃百韜派兵支援。
黃百韜倒是不含糊，當機立斷，不救援63軍，而是要求64軍先渡過運河，佔領陣地，準備掩護後續部隊渡河，100軍另外搭浮橋渡河，把自己最得力的25軍留下掩護44軍渡河。44軍倒是渡河過來了，但是隨軍行動的美援十輪大卡車把運河鐵橋卡住了，25軍拼死抵抗，才掩護44軍渡河完畢，等到25軍自己渡河完畢，也已經損失三分之一了。周志道的100軍，本來兵力就不多，被華野一頓揍，渡完河也是扒了一層皮，幾乎損失一半。
渡完河，黃百韜盤算了一下，自己的十二萬人馬還剩下七萬人，在碾莊堅守是不太行，離徐州太遠了，救援不一定能攻得過來。所以黃百韜認為，應該邊打邊撤，繼續向徐州方向撤退。但64軍軍長劉鎮湘不幹了，要求就地堅守待援，與華野決一死戰，大不了報效黨國。這時候黃百韜手下只剩下了四個軍，除了64軍先渡河，建制完整，剩下的44軍戰鬥力差，他也不信任，25軍和100軍都是殘兵敗將，64軍不肯走，他也走不了，只能就地堅守待援。
結果大家都知道，黃百韜7萬人部隊堅守碾莊，死扛了半個月，倒是一點不含糊，打出了整個淮海戰役期間國軍和解放軍最高的戰損比，達到了2.5比1，可是那又怎麼樣呢？邱清泉和李彌天天在增援，就是過不了潘塘鎮一線，黃百韜兵團被全殲，黃百韜本人也報效黨國了。
南京國防部的安排有錯誤嗎？沒有。黃百韜的撤退有點瑕疵，但本來還是可以挽救的，劉峙非要讓他登上44軍，又要讓44軍帶上機關人員和各種商人、地主，這是準備去打仗的樣子嗎？但劉老總可能覺得，自己這時候這麼做，顯得和劉備攜民渡江一樣，大仁大義。最後大家一起完蛋。
