1948年秋國民黨第12兵團開始組建，然而兵團司令官一職始終沒有人擔任，正當所有人都在猜測兵團司令究竟會由誰來擔當的時候，蔣介石的高級幕僚林蔚正悄悄趕往上海的一家醫院。
1948年9月中國人民解放軍華野戰軍攻克濟南，這是解放軍首次拿下國民黨設防的省會大城市也為解放軍的南下進軍奠定了基礎，在攻克濟南三天之後華東野戰軍代司令粟裕向中共中央軍委建議希望乘勝追擊發動淮海戰役。面對解放軍的南下蔣介石開始組建大規模的機械化兵團，於是12兵團應運而生，兵團總共12萬人下轄4個正規軍以18軍為主力，全軍清一色的美色裝備號稱“中原第一王牌”部隊，然而這12萬人司令官的人選蔣介石始終舉棋不定。
1948年秋12兵團建成在即而兵團司令官一職仍屬空缺，國民黨各派系的大員們也都在各自盤算著，然而就在這時候蔣介石派林蔚悄悄趕赴上海去看望正在養病的陳誠，此時陳誠正經歷著人生的低谷時期。1947年蔣介石任命陳誠擔任東北行轅主任，意圖消滅解放軍獨佔東北，但是陳誠上任後東北戰局卻急劇惡化，國民黨軍連連被殲，蔣介石一氣之下免去陳誠職位，在國民黨內一片“殺陳誠 謝天下”的呼號聲中陳誠被迫淡出政壇隱退上海養病，但是蔣介石對陳誠的處罰只是表面文章，陳誠在軍中的勢力任然不能小覷。眾所周知國民黨中派系林立其中軍隊根據系統劃分可以分為中央軍、東北軍、西北軍、晉綏軍以及新桂系等等。中央軍以蔣介石為首，新桂軍則唯李宗仁和白崇禧馬首是瞻。
李宗仁
1947年李宗仁出任中華民國副總統，而有“小諸葛”之稱的白崇禧也官至國防部長，一度撼動過蔣介石的地位，因此蔣介石對新桂系是百般提防，12兵團在序列劃分上屬於白崇禧指揮的“華中剿總”系統白崇禧自然虎視眈眈，想借此滲入12兵團削弱陳誠的土木系，但是12兵團的主力又來自18軍，這是蔣介石的嫡系部隊蔣介石當然不願拱手相讓，與此同時陳誠的老對手何應欽也想橫插一腳將12兵團收入囊中，於是12兵團司令官候選名單中出現了胡璉，羅廣文等人的名字。
胡璉
胡璉：國民黨中將，黃埔軍校四期學員，陳誠土木系愛將，曾任11師師長，18軍軍長抗戰期間參加淞滬會戰、棗宜會戰鄂西保衛戰中率部死守石牌要塞一戰成名。
胡廣文：國民黨中將，黃埔軍校四期學員，後留學日本，1930年畢業於日本陸軍士官學校，曾任18軍軍長，14軍軍長，陳誠系重要成員之一。
權衡之下陳誠推薦了一個人，那就是在籌備新制軍校的黃維，按資歷黃維是黃埔一期，從北伐戰爭開始便一直追隨蔣介石，同時他身為陳誠的嫡系將領，有屢立戰功從這些來看，黃維是再合適不過的人選，於是蔣介石立即下令任命黃維擔任12兵團司令官，胡璉擔任副司令，此時的黃維已經離開戰場多年正帶著妻兒在廬山上避暑。
蔣介石的這一安排雖然是維繫了國民黨派系的平衡，但是在軍中引來了眾多的不滿，胡璉更是心有不服，10月底黃維奉命率12兵團開到河南確山駐馬店一線待命，然而這其中85軍卻遲遲沒有到來，因為白崇禧死死的按住原屬於他調遣的85軍不放，幾番周折之下黃維才讓白崇禧同意將85軍“吐”出來，可是太慢黃維奔赴淮海戰場之時85軍還在湖北境內沒有開動，這樣被何應欽稱為一介書生的黃維獨自率領著殘缺的12兵團投入了淮海戰役。
粟裕
1948年11月6日夜間，粟裕率領40萬華東野戰軍迅速南下直逼駐守在徐州以東的黃百韜兵團，黃百韜見勢不妙迅速西撤向徐州集結，但是華東野戰軍攻勢如潮，5天后黃百韜12萬大軍被解放軍圍困在碾莊地區，於此同時中原野戰軍主力迅速攻佔徐州以南的宿縣，切斷了津浦路徐蚌段，完成了孤立徐蚌的作戰計劃。杜聿明在《淮海戰役始末》一文中寫到蔣介石此時還幻想南北夾攻 打通津浦路徐蚌段，於是蔣介石急電黃維救援徐州，不得已任何藉口延遲行動，黃維接到蔣介石的命令後立即與胡璉東下路線進行討論，然而誰也沒有想到黃維一意孤行也為12兵團的前途埋下了憂患。
在《徐蚌戰役見聞錄》中提到惟黃氏則認為以該兵團以往的戰績，已足以令共軍膽戰，此次救援徐州，諒共軍會聞風而逃。於是就在黃維輕率與固執之下，12兵團這支勁旅終於踏上了不歸之路。
11月19日12兵團匆匆趕到淮北蒙城，恰逢連日陰雨再加上行軍路線一路河網密集，至西向東依次有潁河、西淝河、渦河、北淝河等大小河流，沿河溝岔環繞非常不利於機械兵團作戰和行軍，士兵苦不堪言怨聲載道，這時黃維接受部下14軍軍長熊綬春的建議，以蒙城為中心修築工事穩步推進，然而這時候蔣介石再次發來電報，說黃百韜第七兵團已在碾莊陷入重圍，情況危急命令黃維火速向宿縣疾進，於是大部隊又繼續向東挺進，然而此時黃百韜的第七兵團已經覆滅，黃百韜本人也於22日自殺身亡，第18軍強度澮河後黃維命令司令部進駐南坪集，此時楊伯濤深感情況不妙當即向黃維建議犧牲一部分兵力，馬上突圍向固鎮轉移，然而此時的黃維並沒有立即做出決定，直到下午4點多黃維才命令部隊向固鎮前行，然而刺激的中原野戰軍已經四面雲集中野不僅迅速佔領了蒙城，而且在澮河北岸修建了大規模阻擊陣地，黃維這才意識到走進了解放軍的包圍圈，等待他的是30萬大軍交織的天羅地網。
在此稍前黃維的固執倔強已令胡璉感到不知黃之所為難與共事，早在10月底胡璉就以奔喪和牙病為由忍痛離開部隊，然而黃維兵團被圍蔣介石心急如焚，就在蔣介石的催促下。
12月1日胡璉乘飛機到達雙堆集，離開南京之前蔣介石囑咐他固守下去死鬥必生，同時蔣介石也命令正在向永城撤退的杜聿明集團火速東進救援，並肅令到坐視黃兵團被消滅我們將要亡國滅種，然而重圍之下面臨彈盡糧絕，黃維派胡璉再次返回南京向蔣介石求援。
12月15日晚黃維與兩個副司令胡璉吳紹周分乘3輛坦克突圍，臨撤前黃維隨身帶了大量的安眠藥，準備隨時“以死殉國”以報校長知遇之恩，誰料因黃維突圍受挫 因坦克故障最終被俘，事後蔣介石發電向杜聿明申訴道，黃維不聽命令，擅自夜間突圍是自找滅亡。
蔡若曙
1948年末黃維妻子蔡若曙移居臺灣可以享受國民黨遺屬優渥待遇，但是蔡若曙卻一直不相信丈夫已經戰死，幾個月後她悄悄返回大陸打探，最終他得知黃維並未戰死而是被俘虜關押在北京戰犯管教所功德林監獄，於是她毅然決定放棄在臺灣的生活，帶著孩子和保姆經香港取道來到上海定居，然而這一等就是十年。
1959年中共中央為了慶祝中華人民共和國成立10週年，決定特赦一批國民黨戰犯，而蔡若曙已經被提前告知做好迎接黃維回來的準備，然而在這批特赦的名單中竟然沒有黃維的名字。原來黃維在獄中拒不服從改造管教人員執意將黃維從特赦名單中劃去，黃維剛一入獄就覺得愧對黨國更愧對蔣介石，加上他性格孤僻桀驁不馴拒絕學習反對改造，每當管理所組織戰犯學習宣傳教育材料時黃維不是沉默不語就是大放厥詞，同時他還在隨身帶的本子上寫下來於謙的《石灰吟》和文天祥的《正氣歌》“自勉”，當時監獄給每名戰犯都規定了必讀的書籍，並要求結合自己的罪行談談讀書體會，同樣被關押的杜聿明在讀了《論持久戰》後曾寫下了萬餘字的讀書筆記，並要求將他的讀後感寄給臺灣的蔣介石，還有戰犯在談學習體會時發言竟長達2小時，而黃維則頑固的表示自己無罪可認。
1975年3月19日已移往撫順戰犯管理所的黃維等近300名戰犯共同收聽著中央人民廣播電臺播音，這一天第四屆全國人大作出決定，宣佈特赦全部在押的戰爭罪犯，當這一消息從播音員口中一字一頓地吐出時整個大廳掌聲雷動所有戰犯都留下了激動的淚水，而這一年黃維已經71歲。
黃維特赦後出任全國政協文史專員，但是預想之中的順逐晚年並沒有如期而至，經歷了27年的煎熬等待妻子蔡若曙僅僅在和丈夫團聚一年之後便因精神分裂症加重以至投河自殺，黃維為此傷心欲絕大病一場，含淚在妻子的輓聯寫下來“難妻”二字。
改革開放後黃維擔任了六屆全國政協常委，這時臺灣與大陸的聯繫逐漸加強，他也想對一統大業有所貢獻。1989年初臺灣方面通過民間渠道邀請黃維去臺灣訪問，黃維隨即列出要探訪的黃埔同學以及好友名單，他準備祭掃校長蔣介石和老首長陳誠等人的墓，另外他還要面師母宋美齡以及陳誠的夫人譚詳等人，然而就在準備赴臺期間黃維心臟病發作離世，享年85歲。
