1948年2月，徐向前按照中央軍委命令，率領晉冀魯豫部隊在冀城地區集中休整，積極準備奪取臨汾。
銅牆鐵壁，易守難攻
臨汾位於山西省西南部，西靠汾河天險，東臨同蒲鐵路，北面、南面均是平原，形如臥牛，故有“臥牛城”之稱，自古就是兵家必爭之地。
臨汾城內高外低，城牆依自然地形砌成，高達14米，厚達10至30米，能並行兩輛卡車，十分堅固，易守難攻。
閻錫山對防守戰法十分重視，對臨汾城防建設高度關注，經過多年經營，依山就勢，鞏固高地，修築碉堡，挖掘壕溝，構築了四道牢固的環形防線。每道防線修建有高達兩丈的水泥主碉堡，周圍配置集團工事、鐵絲網、暗道、地雷等多種防禦設施，組成相互配合的立體防線。
環城外壕寬度達8至10米，環城內壕、集團工事、炮兵陣地與城上的反射火力點，相互交錯，形成了縱深防禦體系。城裡與城外有暗道相通，直達防禦前沿陣地。
臨汾守敵總指揮是閻錫山第6集團軍副總指揮梁培璜，閻錫山第66師和胡宗南第30旅兩個團及一個炮兵營，共2.5萬餘人。梁培璜依託有利地形，現代化的城防工事，優勢的火力配備，積極進行防禦作戰，誓與“臨汾共存亡”。
三面攻城，掃清外圍
徐向前詳細勘察了地形，全面摸清敵情後，制定了作戰部署。以八縱從城南，十三縱從城東，太嶽部隊從城北，三個方向攻城，先掃除外圍。趙城、洪洞一帶同蒲鐵路兩側的部隊，就地佈防，一方面防止敵軍北逃，另一方面可以打擊敵人援軍。可以說，徐向前已經佈下了一張大網，梁培璜想跑都跑不了。
3月7日清晨，攻擊開始。八縱24旅首先發起進攻，很快控制了機場，切斷了臨汾受敵通過空中運輸逃跑的退路。梁培璜為表示堅守的決心，下了一道“八殺”的嚴令，即“奉令進攻遲延不進者殺，奉令赴援遲延不進者殺，未奉令放棄陣地者殺，鄰陣被攻有力不援者殺，鄰陣被陷不堅持本陣地者殺，濫行射擊虛報彈藥、陣前無敵屍者殺，謊報軍情企圖卸責者殺，主官傷亡次級不挺身而代行職務者殺。這次梁培璜是豁出去了，下了頑抗到底的決心。
戰鬥進行的異常激烈，攻城部隊經過一週多的激戰，付出了巨大犧牲，才奪取了外圍部分主陣地。敵人瘋狂反擊，有時還主動出擊，同我軍爭奪被攻佔的陣地，我軍攻勢受阻。
“土行孫戰術”，奪取東關
徐向前再次來到前沿陣地，查看地形，瞭解情況。他發現，東關一帶便於大部隊隱藏，有利於我軍接近城垣、實施突破。
當然，這裡也是敵主力66師的主要防禦陣地。徐向前與副司令員周士第、政治部主任胡耀邦等人反覆討論，決定改變作戰方案，重點進攻城東和城北。
3月23日，戰鬥再次打響。第十三縱隊38旅從東南方向突擊城垣，39旅從東北方向進攻電燈廠。經過反覆爭奪，25日全部佔領電燈廠。
38旅採取坑道掘進戰術，從護城垣上打開了一個缺口。但因缺口太小太陡，後續部隊跟不上去，被敵人壓了下來，第一次進攻東關未能成功。
緊接著，38旅又組織第二次攻關。這次採取坑道爆破的方法，也打開了缺口，但因聯絡中斷，登城部隊在入口處出現混亂，再次被敵人壓了下來。29日，部隊被迫停止進攻，第一階段作戰宣告結束。
由於第一階段進攻部隊損失較大，戰果不理想，士氣受到很大影響，有的人對能不能打下臨汾產生動搖，有的甚至建議撤兵。
鑑於這種情況，前敵指揮部召開了團以上幹部會議，徐向前在會上作了報告，冷靜分析原因，權衡利弊，調整作戰部署，堅定決戰信心。徐向前說：“一定要拿下臨汾，打不下來，我們圍也要把它圍下來！”
徐向前決定，集中兵力、火力，集中用於奪取東關。在戰術上，採取“土行孫戰術”，挖掘坑道，有的挖到敵人前沿陣地，有的直接挖到城垣附近。
到4月9日，攻擊部隊挖出了4條坑道，直達護城垣腳下。當天，向坑道內裝填炸藥1.6萬餘斤，完成了前期攻城準備工作。
4月10日，部隊集中全部92（榴彈炮4門、野炮6門、山炮4門、十二釐米炮12門、十五釐米炮6門、八二迫擊炮60門）門各種火炮，發起了攻擊。3條坑道同時引爆（另一條因導火線失靈未引爆），轟的一聲巨響，護城垣炸開兩處缺口。突擊部隊迅速跟進，向縱深推進，一舉拿下東關，敵66師大部被殲，取得了初步勝利。
攻克東關
突破銅牆鐵壁，“臨汾旅”一戰成名
東關被攻佔後，蔣介石派飛機瘋狂轟炸我軍陣地，整個東關幾乎炸成平地，並向城內投送糧食、藥品等，給梁培璜打氣助威。閻錫山電令梁培璜，“人盡物盡，城存成功，城亡成仁”。梁培璜向蔣介石、閻錫山表示“與臨汾共存亡”，同時下令部隊死守城池，決不後退。
徐向前再次調整兵力部署，準備進攻臨汾城池。4月15日，奪取城壕外圍據點戰鬥打響。敵人為奪回失去的陣地，竟然使用毒氣彈和燃燒彈，整個城垣外圍，一片火海，攻城部隊傷亡很大，戰鬥進行的異常殘酷。
徐先前（左一）在敵人施放過毒氣的陣地前
攻城部隊在奪取外圍據點的同時，還是採取“土行孫戰術”，挖掘坑道，爆破登城。由於部隊缺乏機械工具，全靠人力挖掘，鐵鍬供不應求，戰士們就用刺刀、瓦片作為替代工具，有的甚至用手挖，挖得手指頭鮮血直流。
由於坑道狹窄，越往裡挖，空氣越稀薄，有的戰士昏倒在地道里，救醒後繼續作業。人手不夠，領導幹部、機關幹部、勤雜人員全部參加，民兵、附近群眾自發參加後勤保障工作。為掩護坑道作業，附近群眾籌集門板達十萬餘塊，有力支援了前線戰鬥。
攻城部隊在挖掘坑道
敵軍吸取東關失利的教訓，採取反坑道作業，使用“坑道對坑道”的戰術，由裡向外挖，並安置聽音裝置，對我方坑道進行破壞。攻城部隊每條坑道設指揮部，配備戰鬥小組，安置聽音哨。每條主坑道兩側，挖兩條防護坑道，迂迴曲折，迷惑敵人。
雙方開始了鬥智鬥力的地下鬥爭。有時戰鬥就在坑道內部進行，有時挖好的坑道被敵人炸塌，雙方在地下展開了激烈的爭奪。戰後統計，雙方挖掘50米以上的坑道達70餘條。到5月上旬，我軍共挖掘破壞坑道15條，掩護坑道40餘條。最終，我軍成功挖出3條主坑道，直達城牆牆基。
此時的臨汾城內，彈藥緊張，物資奇缺，傷員無法得到及時醫治，形勢十分危急。梁培璜積極推行“肅清偽裝”政策，組建督戰隊，負隅頑抗。
臨汾城外，由於攻堅戰已經打了60余天，我軍消耗很大。大家都在默默堅持著，有的人悲觀失望，甚至提出放棄臨汾的建議。
從部隊組成看，攻城部隊大部分都是從游擊隊升級而來的，對游擊戰、運動戰較為熟悉，對攻堅戰和大兵團作戰的經驗不足。現在戰鬥持續時間這麼長，很多戰士看不到希望，情緒十分低落。
但是，徐向前始終堅持，一定要打下臨汾。他知道，我軍雖有困難，敵人也同樣面臨困難，城內糧食彈藥和兵力物資都將用盡，梁培璜比我軍更難熬，就看誰能堅持到最後一刻了。
徐向前對擔任主攻任務的王新亭說，就是鬍子打白了，也要把臨汾打下來，打不下來你和我到五臺山當和尚去！他說的雖是笑話，但表明了他堅定的決心。
5月17日，徐向前一聲令下，最後的總攻開始了。隨著兩聲巨響，臨汾東城被炸開了兩道缺口，長達三四十米。由八縱、十三縱及太嶽兵團組成的突擊隊員迅速發起衝鋒，相繼登城成功，隨即展開激烈巷戰。雖然敵軍憑藉堅固工事，瘋狂抵抗，但攻城部隊前仆後繼，當天夜晚就全殲守敵，活捉守將梁培璜。
臨汾戰役賀功大會 徐向前（前右）
臨汾戰役歷時72天，殲敵2.4萬餘人，攻城部隊傷亡達1.3萬人。戰後，徐向前到臨汾城牆走了一圈，看到如此堅厚的城牆和強固的防禦工事不禁感嘆，勝利真的來之不易呀！6月4日，在慶功大會上，徐向前將“光榮的臨汾旅”旗幟，授予戰功最顯著的八縱黃定基的第23旅。
臨汾旅接受檢閱
