林凤祥、李开芳、吉文元率领北伐军自洪洞翻越太行山脉的崇山峻岭直扑直隶（辖区大体与今天的河北省相同）。1853年9月29日，北伐军抵达临洺关（今永年），驻守临洺关的是已被革去钦差之职的直隶总督讷尔经额。由于在怀庆一战中清军对北伐军的伤亡和败绩出现误判，以为林凤祥、李开芳的部队已经不能构成大的威胁，清军将领出现懈怠现象，讷尔经额更想不到太平军会选择穿越太行山的高山密林攻打临洺关。太平军进攻临洺关时，讷尔经额只率领不到一千人的队伍仓促迎战。
太平军驻扎深州
讷尔经额兵力单薄，为了吓退太平军他们一鼓作气对太平军发动猛烈炮击，但太平军并不示弱，何况他们的兵力远超清军。所谓一鼓作气再而衰，清军第一轮攻击过后太平军开始主动进攻，清军最终寡不敌众，伤亡四百多，临洺关被太平军攻破，讷尔经额带领数十残兵败将趁乱逃出，往广平撤退。太平军攻下临洺关，缴获了大量军用物资。林凤祥命大军在临洺关休整一天，磨砺剑锋，整装待发。
太平军北伐军团进入直隶
次日，太平军快速向北挺进，陷沙河、任县、隆尧、柏乡，克赵县、栾城、藁城，逼近石家庄，刀插直隶中部，各路清军大震，遂不断向直隶集结。新上任的钦差大臣胜保手握皇帝御赐的神雀刀（有尚方宝剑的作用），督率大军追击太平军至洪洞后取道平遥，走大路赶在太平军之前抵达鹿泉，在滹沱河沿岸设防，阻止太平军北上。林凤祥、李开芳率领北伐军团抵达藁城后受到胜保的强力阻挡。为了避开清军锋芒，保存实力给北京致命一击，北伐军团绕开清军北面防御，向东兵进深州，离北京越来越近。
北伐军团北上
太平军大军逼进家门口，咸丰下达紧急动员令，命惠亲王绵愉为奉命大将军、命御前大臣科尔沁郡王僧格林沁为参赞大臣，统率健锐营、火器营等精锐禁兵以及四千五百察哈尔马步兵一同出京御敌，会同胜保统帅的大军拱卫京师。为了万无一失，咸丰甚至派自己的六弟恭亲王奕直接参与办理京防事务。太平军驻扎深州，北面饶阳的乡绅如坐针毡，他们在附近迅速纠集了上万乡勇，组成临时武装力量，据险坚守，阻止太平军取道饶阳北上。