林凤祥、李开芳、吉文元率军在阜城构筑土木防御工事并坚守阜城外的各个据点，他们现在的主要目的是奋力抵挡清军的凌厉攻势，等待曾立昌的北伐援军到来。华北平原一马平川，对于满蒙骑兵来说得天独厚，他们的马队在平原上横冲直撞能给敌人造成更大的杀伤力。空旷的平原地带对于源自两广山区、擅长依山据险攻击的太平军来说却是致命的弱点。在阜城无险可守的太平军由于本身各方面资源缺乏，在面对清军的骑兵冲击时损伤甚大。
北伐军团被清军围困于阜城
僧格林沁率蒙古骑兵包抄阜城西面阵地，对北伐军的军事据点进行摧毁打击，北伐军城西据点多数丢失。同时，僧格林沁命西凌阿、达洪阿、经文岱领步兵重点攻击阜城南面北伐军要塞。清军为夺取城南要塞不惜纵火焚烧民房，使太平军失去依托掩体。城南一战甚是激烈，太平军城南阵地守军悉数阵亡，损失数名高级指挥官。为了将阜城的太平军死死围困，僧格林沁命人连夜赶工，在城外开挖深壕，准备与太平军打消耗战。1854年3月13日，曾格林沁会同胜保等各路清军对阜城外围的太平军据点发起全面进攻。北伐太平军阜城外的据点相继失守，伤亡数千将士，其中包括数百湖广老兵。
临清与阜城遥相对望
城外无险可守，太平军多数将士已经退入城中，坚守城池，只有少部分重要据点仍掌控在太平军手里。次日，林凤祥、李开芳闻知曾立昌的北伐援军已渡过黄河进入山东后大喜，他们守城的信心倍增。1854年3月23日，僧格林沁、胜保再次向城西据点发动攻击，太平军伤亡甚重，北伐军团统帅之一的吉文元阵前中弹牺牲，北伐军团在阜城的处境越来越凶险了，他们急切盼望援军早日赶到。
攻打临清
1854年3月31日，曾立昌、陈仕保、许宗扬统帅的两万多北伐援军抵达临清，距离阜城的北伐弟兄仅有200多里。以曾立昌援军的行军速度，不出三日即可抵达阜城与林凤祥、李开芳部会合。然而，北伐军援抵达临清后没有趁势北上，他们作出了出人意料的举动——攻打临清！阜城的兄弟已经火烧眉毛，曾立昌的援军居然不立马北上救火？这无疑是让套在北伐军团脖子上的绳索越锁越紧。临清当时的守军不足三千人，但防御工作已经提前做好，曾立昌的大军兵临城下，要马上攻下城池也非易事。