勝保擋道韓侯嶺，林鳳祥愁悶，寢食難安。一晉人進言：“潞城、黎城之間有一小徑，循太行東出，可由河南之武安徑趨直隸之林洺關。近時商賈皆由此往來，其路甚捷。”
林鳳祥大喜，率兵趨南折東，四日時間，翻越太行，徑赴直隸之臨洺關。
臨洺關，保定之門戶，距京城八百裡。臨洺關失，保定危矣。直隸總督納爾經額不敢怠慢，督駕親征。
納爾經額未至，林鳳祥已遣人假扮清兵，賺取關門。
納爾經額親率兵勇至石碑口迎擊，萬餘官兵激戰一日，矢藥皆失，倉皇潰退。納爾經額製止不下，隨軍狼奔。欽差大臣關防、令箭、軍書、資械皆失。
納爾經額僅帶數人逃入廣平府城，喃喃而歎：“此之小徑，吾有具谘文請山西巡撫守護之時，何不親顧之？無奈潞城、黎城皆乃山西之地，孰能奈何！”
鹹豐帝怒斥訥爾經額：自賊竄懷慶時，節次諭令該督嚴防畿輔要隘，何以賊蹤竄及，一張即潰？且軍火器械為兵丁衛身擊賊之具，賊匪西竄，該督漫無布置，竟置軍械於後，致令如此勁旅徒手禦賊，事後歸咎車輛不敷，亦已無及。該督調度無方已可概見。速傳朕諭，勝保一軍，勿再設防山西，即刻馳入直隸，固守滹沱河，阻賊蔓延。
林軍奇襲臨洺關，獲糧資無數，士氣大振，休整一日，北攻沙河，斬知縣玉衡。1853年10月1日，攻任縣。2日，克隆平。4日，再克趙州。5日，又克欒城。林軍所向披靡，一日一城，六日時間，攻至滹沱河畔。
林鳳祥欣喜，謂李開芳道：“即刻強渡，攻占正定，北趨北京，梟妖首狗頭！”
正定知州周公灝不敢懈怠，立集兵勇鄉民萬餘，忽舉旗擊鼓，喧囂嘶喊；忽伏於滹沱河岸，聲息全無。
林鳳祥惑，攻守不定間，勝保追兵已至獲鹿。前方水流湍急，後方追兵洶洶。鳳祥不敢強渡，遂沿河東進，暫取槁城安身。
李開芳道：“北路，桂良妖兒屯兵保定，正定亦有萬餘賊民；南路，勝保妖兒亦步亦趨；吾前，滹沱河水勢洶湧；林兄務必早定去處。”
林鳳祥道：“明日強渡，擺脫勝妖，東攻深州。”
勝保飭令西淩阿馬隊繞前堵截。
西淩阿道：“林賊狡詐，約十餘合之後，常退二三十步，複一擁而進，謂之‘回馬槍’。賊每戰皆施此計，視官軍稍敗，則左右之軍追上，兩軍一合，後軍隨之一圍，如連環之式，用長矛混戰。我軍四千不到，賊軍三萬有餘；郝光甲前車有鑒，煩請大人思之。”
勝保亦知林鳳祥悍勇，道：“銜尾而追，以待時變。”
1853年10月7日，太平軍自槁城北渡滹沱河，飛馳東進，8日，克晉州，殺舉人楊雲鼇；9日，克深州，斬知州陳希敬。
深州失，朝野震驚，紫荊城亂如沸粥，士民小紳驚慌失措，達官貴人爭相離京。
鹹豐帝五味陳雜，提筆朱諭：此誠危機，存亡之秋。然棄大業而出奔，古所恥。諭各省勤王兵，勢無及。朕已無他念，必當自篤定。國君死社稷，禮也。與其坐而待亡，不若出而剿賊。唯遣師督兵，戰而捷，則長驅直搗，滅此小醜而還。不捷，則深溝高壘，待勤王之師不遲。納爾經額，督戰不力，革職逮治。直隸總督桂良，速出保定府，阻賊北進。江北大營幫辦大臣勝保，果勇有為，逐賊有方，特授欽差大臣，賜神雀刀，即督追圍諸軍，籌劃防剿；凡貽誤軍情者，副將以下立斬以聞。朕之皇叔，愛新覺羅.綿愉，特任奉命大將軍，頒銳捷刀，坐鎮京城。科爾沁郡王僧格林沁，授參讚大臣，頒納庫尼素光刀，統領健銳營、外火器營、兩翼前鋒營、八旗護軍營、巡捕五營及察哈爾各官兵，並哲裡木、卓索圖、昭烏達東三盟蒙古兵，出涿州，趨保定，竭力殺賊。恭親王奕訢，著佩金桃皮鞘白虹刀，即予軍機大臣上行走，即日起即理京城巡防事宜。前軍統領衙門筆帖式廉保，侵吞官款，罪當斬首，朕念其兄勝保馳騁沙場，特諭暫緩，家資留予一半，以使其老母得以贍養。
欽差得授，兄弟命保，勝保感激涕零，即刻督兵圈圍深州，六日之內，鏖戰八場。
勝保屢攻不克，鹹豐帝敕令僧格林沁分兵三千，星夜馳援。