二十六日，在临洺关打败了钦差讷尔经额的主力部队。此时，清朝咸丰皇帝才知道实情，钦差大臣讷尔经额上次是虚报战果，咸丰皇帝大怒：
“讷尔经额胆敢如此骗我，恨不得杀了他！”
咸丰皇帝剥夺了讷尔经额的职务，咸丰皇帝赏给讷尔经额的手书“喜报红旌”的四字匾额，成了一个天大的笑话，咸丰皇帝恨得牙根痒，命令把“喜报红旌”匾悬挂在军机处东壁，耻笑讷尔经额，激励手下的大臣，办事必须务实，虚夸就是误国。
此时，各路勤王兵马都不敢靠近太平军，只有胜保还敢于追赶林凤翔作战，于是咸丰皇帝任命胜保为钦差大臣，赐予了他神雀刀，给他先斩后奏之权。林凤翔率领部队进入河北，所向无敌，依次攻克沙河、任县、隆平、柏乡、赵州、栾城、藁城、晋州、深州，直逼保定府，北京震动。
当时清朝直隶提督保恒在保定纠集人马，人数只有两千多人，胜保连日追赶林凤翔，步兵被骑兵甩下，骑兵很多人也掉队了，能够作战的也不超过二千人。但是林凤翔等一路颠簸，兵马已经非常疲惫，于是在深州一带驻军十四天，顺手击败了清将西凌阿的追兵。
北伐军稍事休整后，即，东进沧州。
九月初九，京城流言四起，有人说太平军的兵马已经接近了京西的河北省定州，北京全城人心惶惶，很多官员告病不上班，收拾细软逃走，市集上没有人做生意，咸丰皇帝计划逃往热河，已经秘密下令各省把税收押解到承德。
京城已经全部戒严，早在五月，咸丰皇帝任命恭亲王奕訢总督京城兵马，布置京城防务。
北伐军深入直隶，清廷震动，咸丰皇帝立即命胜保为钦差大臣，率军由南而北追赶，并命惠亲王绵愉为奉命大将军、僧格林沁为参赞大臣，率军由北而南迎堵。北伐军占据静海、独流后，胜保即设大营于良王庄，僧格林沁在王庆坨设大营，进行围堵。
九月十八日，林凤翔兵马越过保定，绕过京西防守，沿着运河进攻天津，想要从这里进攻北京。
九月十九日，渡过滏阳河向北进军，晚上，攻克献县。
九月二十三日早晨，前锋到达沧州。沧州人善于练武，知州沈如潮、城守尉德成率领绿营以及当地训练好的三千民团出击，击败了太平军的先锋部队，杀死了不少人。败军回去报告了林凤翔，林凤翔出山西以来，一路无人敢挡，居然在沧州遭到了失败，于是拼命进攻沧州，士兵死伤惨重，拿下沧州之后，林凤翔命令报复，杀死了沧州所有官吏，并且抢劫百姓的钱财，焚烧房屋。
本来，河北山东一带民众受清朝徭役赋税的盘剥，非常盼望太平军到来，但是太平军每到一个地方，要求地方必须信奉拜上帝教。把白莲教等其他组织斥为异端，很多白莲教徒本来是清朝的敌人，太平军到来之后，居然纷纷加入清朝地方团练，帮助对抗太平军。再加上沧州烧杀，失去了民心，所以很少有人去投奔太平军，林凤翔的队伍没有得到扩充。
二十四日早，林凤翔丢弃沧州，沿着运河向北，攻克青县，清朝派僧格林沁率领蒙古马队进驻涿州，抵抗太平军。
二十五日，攻克天津静海、独流两县，林凤翔大队人马进攻到了天津杨柳青，胜保的部队也追到了青县，和僧格林沁形成对太平军前后夹击之势，从此之后，太平军再也没有向北京方向前进一步。
二十六日中午，到达天津西郊稍直口，当时运河大坝被冲垮，大水漫延百里，天津泡在水中，只有稍直口有一条旱路通往北京。天津知县谢子澄率领芦团练勇几千人把手这个地方。招募了天津当地船户人家作为作战部队。天津船户，在水上猎取湖中大雁为生，枪法精熟，水性极好。太平军到了这里，见到很多猎户船只，没有想到他们是作战部队，就招呼他们过来摆渡。这些猎户开枪射击太平军，当时林凤翔军中有一员猛将，外号叫做——开道王，一直作为先锋，勇猛无敌，没有来得及防备，被一枪打死，太平军的士气遭受很大打击。谢子澄趁机指挥绿营和团练掩杀，杀死了几百人，太平军畏惧船户勇猛善战，从此之后不敢走这条路。
九月二十七日，北伐军占领静海和独流镇，在此屯驻待援，前锋直下张登镇，一度抵达天津西边的杨柳青，距北京紫金城不足100公里。
北伐军如此之近，清廷大震，咸丰帝准备逃往热河，时太平天国北伐军已发展至4万多人。
天有不测风云，人有旦夕祸福。这个季节很少下雨的北方，老天突降三天大雨，河水爆涨，天津城外一遍汪洋，北伐军的大量的军备被泡在水里。此时的北方，天气寒冷，北伐军大多都是南方人，将士仍单衣薄衫，夜晚冻得士兵们瑟瑟发抖，北风吹到梢上，呼呼发叫。
二十九日，蒙古亲王僧格林沁到达东安，十月初一，逼近杨村，初二，开始试着接触太平军，和他们作战。大学士胜保、察哈尔都统西凌阿的追兵也到达了，开始组织进攻杨柳青，与僧格林沁遥相呼应。
林凤翔、李开芳、吉文元等人发现被包围，于是丢弃了杨柳青，退守静海，分兵与李开方镇守独流，为倚角之势。
太平天国北伐军孤军深入，兵力薄弱，军需匮乏，决定固守待援，派女将扮成乞丐，潜回南方，密报天京，同时用计歼灭天津太守谢子登部的进攻部队，在寒冷的冬天，坚守3个月。
十月，朱锡锟带捷报到了天京，拜见了东王杨秀清，东王杨秀清向天王奏封林凤翔为靖胡侯，李开芳为定胡侯，吉文元为平胡侯，朱锡锟为剿胡侯。剿胡侯朱锡锟再次北进，后来竟身陷囫囵，始终没有暴露身份的朱锡锟，不知所终。
十月十九日，蒙古副都统佟鉴、津勇统带谢子澄的民团进攻独流，全部被太平军击败杀死。清朝军队本来就惧怕太平军，于是不敢再进逼，林凤翔等人建立了大木城，四处收集粮草，准备持久抵抗，派遣使者多人，穿着百姓的衣服，从小路向天京求援，由于路途遥远，多数被清军抓获。
北伐军以流动作战见长，一旦在静海、独流驻止下来，即迅速陷入清军的重围。时值隆冬，军资匮乏，又久等援军不至，处境日益艰难。
当时太平军有人马一共四万多人，在静海被团团包围，难以伸展，粮草弹药日益匮乏，冬天到了，太平军多数是南方人，不习惯北方寒冷的冬天，吃不惯北方的面食，很多士兵生病，形势更加危机。十二月二十四日，林凤翔不得已向南突围，被清军赶回，僧格林沁的包围圈越扎越紧，兵马到达了静海城西的王家口。
1854年农历正月初二（这一天，是太平天国的日历是正月初八），林凤翔丢弃静海城，经过子牙村、张家庄向南突围，僧格林沁率军追击。
从静海往南，道路泥泞，加上天降大雪，沿途六十里的道路全部结冰。林凤翔等将领在车中坐着，有皮毛暖被御寒，不知道步行的艰苦，反而多次催促士兵急速南行，走得慢的就杀头。太平军主要由两广和江南人组成。没有过冬的棉鞋，光着脚在冰雪大地上行走，冻死了很多人，没有冻死的人，有不少脚都冻黑坏死，走了二三天，天气忽然变暖，冰雪都化了，太平军的部队又陷入了泥泞之中，行走缓慢，僧格林沁的骑兵渐渐迫近，太平军将领非常着急，挥刀斩杀伤员，遍地都是哭号的声音，林凤翔一筹莫展。很多掉队的士兵，被清军追上杀死。正月初四，来到了河间府束城镇，兵马才喘口气，计数道路上死亡的人，超过了一万。胜保率领人马从霸州绕行，赶到了任丘，堵住了太平军南下的道路。
洪秀全、杨秀清得知北伐军抵达天津附近后，才着手组织援军。
此时，太平军的北伐军在遥远的北方势单力薄，受困艰难，求救信使到天京，呈上求救信，杨秀清看后，也不报告天王，自己招众王、将领，在东王府厅堂议事。
杨秀清认为曾立昌坚忍不拔，有大将才，命其为主将，与名将陈仁保、许宗扬率师北援。
曾立昌，广西浔洲人，时年26岁，去年三月，林凤祥北伐而去，曾立昌任指挥，代林凤祥守扬州，五月，清闽浙总督慧成、署漕运总督查文经、漕运总督福济、左副都御史雷以诚、钦差大臣琦善等先后来攻城，并且包围杨州城。曾立昌凭城垣扼运河固守。琦善运一万五千斤大炮战车攻城，击坍城垣几处，肃州镇总兵双来乘机搭浮桥过河，架云梯，上了附城跑马楼。先是太平军因扬州城窄狭，在马路旁支铺板做楼，宽约二、三丈，高与城齐，叫做跑马楼。曾立昌等候敌人既上，放火攀烧，烈焰腾空，清兵不能骤下，死者无算，双来的哥哥只来，也坠下重伤，狼狈败退。既而复造机船来攻，立昌烧了他的船，开城纵击，斩杀只来。这时候，城围四合，粮道不通，粮尽，荒荆蔓草、狗、猫、鼠、雀都吃尽，吃到煮钉鞋底、煨牛皮箱，曾立昌与将士力悉力拒守，敌不能下。十一月，天王派名将赖汉英来救，从三汊河进扬州，击溃清围师。曾立昌见救兵到，率领军民安全撤退，会合赖汉英回到瓜州，曾立昌论功升夏官又正丞相。
陈仁保骁勇善战，以功授夏官副丞相。
许宗扬在1853年农历三月，升殿左七指挥，与朱锡琨、黄益芸、林绍璋北伐，误入六合县，宿营失火，随林绍璋走归天京。八月，随翼王石达开经安徽，克复建德、东流等处。十一月回京，封恩赏丞相。旋升冬官副丞相。
杨秀清阴着脸说：“曾立昌、陈仁保、许宗扬率7千将士北上增援北伐军。务必合兵一处，直捣妖穴北京。”
太平天国翼王石达开说：“曾立昌、许宗扬虽然作战勇敢，北上增援队伍长途跋涉，孤军深入，将有很多阻碍，很多大战，以7千人，无疑是以卵击石，不如让我率3万人北援，必将救出林凤祥、李开芳、吉文元等人，直捣清妖京城，同时也解了我天京的压力”。
杨秀清眯着眼睛说：“清妖江南、江北大营虎视眈眈，翼王不可远离京城，以防清妖攻击，俱王在一块，清妖也不敢对我轻举妄动”。
石达开轻轻嘟咙一句：“不思进取，拿天国北伐将士性命当儿戏”。
杨秀清没听清石达开嘟咙的是什么，问道：“翼王说什么？”
石达开说：“没什么！只怕7千人救不了北伐军，反倒成了肉包子打狗，把这7千人搭进去了。”
“名将都是打出来的，曾立昌、陈仁保、许宗扬也是战功卓著。”杨秀清又提高了嗓门，大声命令道：“曾立昌、陈仁保、许宗扬，我令你三人两天内出发，北上增援。”杨秀清下令道。
“保证与北伐军会合，直捣清妖京城！”曾立昌、陈仁保、许宗扬三人扬声道。
曾立昌，陈仁保、许宗扬
曾立昌、陈仁保、许宗扬虽然劳苦功高，曾立昌认为7千人，足以打到天津，与林凤祥、李开芳、吉文元等合兵一处。
杨秀清瞄了石达开一眼，对曾立昌、陈仁保、许宗扬说：
“好！不愧是我天国将领，降妖除魔，建立功业的时候到了。去吧！”
曾立昌、陈仁保、许宗扬三人整顿军马，出发增援北伐去了。
1854年正月初七，夏官又副丞相曾立昌等率领援军7000人，由安庆出发，经河南永城、夏邑，农历二月初八（公历2月16日），从丰工下游的包家楼渡黄河。
此时北伐军，2月5日在静海突围，3月转攻阜城，军事奇才吉文元战死。
曾立昌、陈仁保、许宗扬率太平天国增援北伐军部队，渡过黄河后，在江苏丰县刘家庄整顿队伍，即兵分三路：曾立昌、陈仁保、许宗扬各领一支，互为犄角，向山东挺进，疾趋千里，连克金乡、钜野、郓城、到东阿县的张秋镇集中，横扫阳谷，莘县、冠县而北。郓、钜一带捻、幅纷纷加入。三月初八日，攻克临清州。收留捻军归服、清军归服的勇营，一万多人，连北援军，已经达两万人以上，开始有了派系之隙，太平军不过三分之一，指挥已不易。进入山东境后，沿途更多的捻军加入，派系增多，指挥更加困难。十三日夜，新加入的队伍，就在临清州城内哗变，冲出城外的数千人。许宗扬以为失败飞逃，直接回到天京报信，因散布失败的情报，被东王杨秀清下牢。
第二天，北伐援军也撤出临清州，打算取道故城县，进入直隶，前往阜城增援林凤祥军。捻军和新归附的清军不听命令，相率南行，曾立昌、陈仁保率太平军退至李官庄。此时清朝钦差大臣胜保统兵扎营临清州城外，北伐援军撤出临清州城已经四天，清军才发现。
十八日，清军胜保入城，以攻复州城奏闻，并率数万大军来追。曾立昌与清军对战，失败，二十日退到清水镇，在清水镇大战，又败，无处购粮，将士都忍饥。曾立昌料敌连日追赶，人疲马乏，且连获胜仗，警备必疏懈，二十一日初更，派精兵千人，每人手拿一种叫做先锋包的火毯。乘夜突然冲到敌营帐棚放火，火随风烈，清营顷刻延烧，人马奔逃，声如山裂。曾立昌对众将说：“趁此追杀，不将清妖一纲打尽，从此返辙往北，直抵阜城，绝无阻滞，转败为胜，正在此时”。众将不从，曾立昌捶胸顿足，痛失良机。
第二天，曾立昌只得对众将说：
“不攻，我们就必须迅速撤，以防清妖粘上了，想走走不掉。”
传令立即撤退。众将以清兵已经改道，连日辛苦，要求休息一天再走，曾立昌竟无可奈何。二十三日，太平军从清水集将到冠县，为地方团练所截击，胜保率追兵也赶到，前后受敌，大败。于是经冠县、梁山、钜野、金乡，连连向南败退。二十八日，退到江苏丰县。三十日夜二更，再向南退，天亮，退到黄河漫口支河。此时河水陡涨，湍流甚急。将士骑马或浮水渡河。曾立昌亲自断后。敌人大队骑兵飞驰而来，曾立昌挺枪力战，力竭，看看身边已无一兵一卒，望着扑天盖地的清军，仰天长叹一声，乃跃马渡河，人马被急流淹没牺牲。
陈仁保这支太平军部队只剩下1000多人，四月初八晚，撤到安徽凤台县展沟集。陈仁保原以功授夏官副丞相，骁勇善战，马众信服。凤台县展沟集内有地主组织的团练，闻陈仁保将到，先将团练埋伏集外，假作恭迎。陈仁保没有警惕，贸然进集，宿营时又没有放哨做警戒，到夜深，团练从四面杀进来，措手不及，陈仁保及将士300多人被杀死，杀开血路得脱的只有几百人。
月光洒院落，树冠下，月影斑驳陆离，如梦如诗。翼王石达开正在院内走马练拳，这是多年的习武习惯，早晚各练一场。突然部属勿勿来报：
“翼王，大事不好了，曾立昌、陈仁保二位将军全军覆没了！”
“哪有这么快？”石达开怔了一怔，说。
“许宗扬已逃回天京，被东王下狱了！”部属说。
突然，石达开放声大哭，立即找到东王杨秀清，要求快速再组织北援军。
韦昌辉闻讯曾立昌、陈仁保二位将军全军覆没，恨恨不已，私下对部下骂道：
“误国者，杨秀清罪责难逃！”
韦昌辉于是有了诛杀杨秀清之意。
杨秀清闻讯不语，也不向天王洪秀全报告，于是决定派新封的燕王秦日纲率军北援，然而清军兵厚，蒙古骑兵行动迅速，秦日纲率部难以渡过黄河，很快败回。
此时，天王洪秀全居深宫，外面的事俱被杨秀清隐瞒，韦昌辉、石达开也不能见天王洪秀全，天王宫，杨秀清使计，弄些美女美食，消耗天王斗志，天王在深宫里，天天美女如云，美食无数，天天莺歌燕舞，逍遥自在，身体一天不如一天，人也倦怠懒惰，杨秀清却在外专权，飞扬跋扈。
在太平军艰苦的北伐与西征期间，洪秀全却根据杨秀清的建议，大兴土木，扩建清总督府为天王府，修建东王府、北王府、翼王府等建筑相继完成。天王府内外两重，内城为金龙城，城门朝南，叫真神荣光门，又称皇天门，二门为真神圣天门，左右有钟鼓楼，二门后大殿为金龙殿，又称天父上帝真神殿，雕梁画栋，嵌龙标凤，金碧辉煌，极为壮观，殿后为内宫，宫后建有后林苑。天王府浩浩荡荡周围十余里，洪秀全与杨秀清，制定了太平天国官员等级森严的礼制，官员一律坐轿，天王为64人抬大轿，东王为40人抬大轿，东王每次出巡，仅仪仗队就有1000多人，加上随员、侍卫军、勤杂人员等，不下几千人，浩浩荡荡。见天王要跪呼万岁，见东王要跪呼九千岁，就连北王韦昌辉、翼王石达开见了东王杨秀清，也要跪呼九千岁。洪秀全临朝时，头戴纯金制作的王冠，雕龙飞凤，十分精致，戴金项链，纯金纽扣的绣金龙袍，出门乘漂亮宫女牵的金车。当初有福同享、有衣同穿、有钱同使的豪言壮语没有了。同时，杨秀清也渐渐狂妄自大起来，与天王洪秀全争权夺利起来，许多事情不告知天王，并限制天王出宫，援北伐军在山东省被击败后，也没赶紧再派援军。
林凤祥率太平军在阜城，打不过几倍于已的清军，只好坚守城池。
二月二十五日，太平军援军进入山东，胜保分兵击败了援军，林凤祥、李开芳被困于阜城。
不知援军已到临清。由于围城的军队数量减少，林凤翔抓住机会立刻组织突围，八月初九，北伐军自阜城突围，进据东光县之连镇。当天，清军僧格林沁南下追赶，在连镇包围了林凤翔的部队。连镇横跨运河，分东西二镇，人口众多，有大量粮草，林凤翔于是占据连镇死守，林凤翔守城非常有章法，在镇外面建立木城，城外建立七座营垒作为支撑，清朝的军队不得不分兵对付，林凤翔的主力得以隐蔽出击，僧格林沁一时难以攻克。
当时东王杨秀清派遣一些能说北方话的妇女进入连镇，告诉林凤翔援军已经到了。于是李开方带领630名骑兵，突围向南，迎接援军，林凤翔继续在连镇坚守。
李开芳率630名精骑突围南下，向南接应援兵，越过吴桥、折返向西南，经过临清，然后突然向东进攻德州，甩开了僧格林沁的追兵。到达了德州南门，才知道援兵已经被胜保打败回去了，李开方带领人马越过德州，继续向南，一举攻克了高唐州。大学士胜保、察哈尔都统的西凌阿兵马来到高唐州北门，距离城池十五里扎营，胜保、西凌阿只是扼守其北上的道路，胜保、西凌阿畏惧李开方的勇猛，不敢进攻，将高唐围住。
从此，林凤祥、李开芳分驻两地，顽强抗击清军。
当时僧格林沁尝试进攻连镇，林凤翔在运河上架设两座桥梁，东西连镇互相呼应，配合外围的支撑点，拼命抵抗，僧格林沁的部队死伤惨重，无法获胜。于是僧格林沁就在连镇外围挖掘三道长壕，困住太平军。
连镇的太平军有一万多人，慢慢的粮食吃完，到了九月，军队只能用黑豆充饥，人心浮动，僧格林沁派人引诱镇子里的太平军，说投降免死，于是湖北人詹启伦、施绍恒、宁宗扬等全部投降，被编为前锋。命令这些投降的人必须冲锋在前，如果不拼命作战，就不许剃掉头发，投降的士兵为了不留长发，拼命进攻，由于这些降兵熟悉连镇内部的情况，每次都能大量杀伤林凤翔的部队，林凤翔的处境更加困难。
林凤翔困顿没有办法，当时林凤翔仿效齐国田单守即墨的办法，命令一个小兵炸称耶稣附体，林凤翔拜他作为军师，每次都欺骗部下说奉了耶稣的命令指挥作战。过了一个多月，没有取得像样的战果。林凤翔没有办法向部下解释，只好杀死了小兵。林凤翔还制作了一种叫做吕公车的兵器来填长壕，但是收效不大，只好丢弃车辆回来。降将宁宗扬知道李开方和林凤翔越好的信号，就在外面点燃了信号火，林凤翔看到了，以为李开方把援兵带来了，高兴的带兵出来接应，但是中了埋伏，兵马损失了很多。
被围的太平军看到投降的人可以不死，就纷纷出来投降。林凤翔非常忧虑，于是使用诈谋，每次抓获投降过去的士兵，都放声大哭，痛骂自己无能，连累了部下，还说谁要是想走可以给予路费。士兵们很感动，投降的人逐渐少了。
1855年春，连镇里连黑豆都没有了，士兵们只好把鞋子和剑鞘给煮了吃，最后发展到了吃人肉的地步，每次战斗，战死的尸体遭到了太平军的疯抢。僧格林沁屯住南运河的水，淹没了西连镇。正月十五日，西连镇被攻克，林凤翔烧掉了运河上的浮桥，形势更加危机。
林凤翔在东连镇的部队还有两千人，誓死不投降，正月三十日，僧格林沁发动总攻。林凤翔率领部下拼命抵抗，左臂和右腿全部被子弹击中。战斗到最后，林凤翔率领部下三十多人藏在地窖里边，太平军降将施绍恒熟悉连镇地理，搜出了林凤翔。
林凤翔被抓获的时候，衣着华丽，身后跟着两个穿着华丽的童子军，三个旁若无人，面对僧格林沁，林凤翔非常倨傲，不下跪。僧格林沁佩服他的勇猛，让医生为他医治枪伤，给他酒肉饭食，三人坐在地上，大口吃肉，大碗喝酒，十分豪壮，连僧格林沁也称奇。
1855年二月初七，林凤翔被押解到了北京，当时清朝人没有见到过林凤翔，都认为这样的智谋应该出自一个老人，所以称他为老贼。结果见到林凤翔只有30岁，那样年轻，都非常惊讶，称为奇才。
咸丰皇帝下令千刀万剐。
林凤翔被绑在法场上大木柱子上，神色自若，刽子手用刀，林凤翔眼睛看着大刀在自己身上切割，一片一片地割剔他们的肉，先手足，再开膛破肚，再砍头，一寸一寸地将肉割尽，再割生殖器，取出内脏，肢解尸体，剁碎骨头，肉被割尽，还没有断气，心脏仍在跳动，甚至还有视觉、听觉，千刀万刀，到死也没有发出一声。
林凤祥于1825年生在广西武缘县，壮族人，自幼丧母，其父怜爱未加检束，以致林凤祥放荡不羁。少年之时，但遇不平事，就挺身相助。1848年打死县城劣绅，县令缉捕，其七叔林秀中卖猪4头给他作路费，奔走他乡。林凤祥于是混迹江湖，设肆卖卜，后来结识洪秀全、杨秀清。1851年参加洪秀全金田起义，为结拜的40个盟兄弟之一。洪秀全永安建制，林凤祥受封司马。此后，林凤祥任开路先锋，率领太平军进攻桂林、长沙、武昌、镇江、南昌等，转战南北，独当一面，骁勇善战，功绩辉煌，累升至天官副丞相。
李开方只有630人，驻扎高唐州，清军大帅胜保、都统西凌阿不敢进攻。李开方于是打开城门，四处收集粮草。李开方的军队纪律非常严明，不随便骚扰百姓，由于缺少粮草，他用买麦子的价格收购麸糠。有一次，他的军队敲百姓家的门求购粮食，百姓害怕不敢开门，李开方的部队就走了，没有硬闯，所以当地的百姓并不太害怕太平军。每每接济他们粮食，李开方600多人的队伍并没有被饥饿困扰。
李开方本可以继续向南突围回到天京，但惦记静海的林凤翔，就多次派遣使者去向林凤翔报信，告诉他援军已经溃散，应该突围回国。但是使者都被胜保抓获，信息反被清军掌握，林凤翔至死不知道援兵的具体情况。
李开方的军队在高唐多次出击，袭击胜保的部队。胜保的人畏敌如虎，始终摸不清李开方的实力。咸丰大怒，多次催促胜保攻城。高唐城池并不高大，胜保的军队想尽了一切办法，不敢逼近城池挖地道。于是购买了附近的铜铁，铸出了一个一万七千斤的大炮，轰击城池，只能打碎城墙上的砖，炸不开缺口，被太平军耻笑。胜保又建造攻城车，有十丈高，士兵站在上面射击，但是李开方的大炮一开，攻城车被打碎，胜保的士兵怕死，抛弃车辆一哄而散。
农历九月初五，胜保终于挖成了一个地道，放置炸药三千斤，惊天动地的一爆，轰开了一个缺口，尘土飞扬，屑烟弥漫，胜保的兵马向缺口进攻。但是那天刮大风，胜保逆风前进，尘嚣向清军那边吹，士兵睁不开眼睛，李开方这边看得清，顺风射击，全部击溃了他的军队。那个硕大的缺口，始终没有补上，后来成了大水塘，但是胜保的军队依然不能靠近高唐，遭到了世人的耻笑。
1855年农历正月三十日，胜保再次到别的地方挖地道，但是他的士兵太窝囊，对于炸药不熟悉，居然在大营里点爆了炸药，胜保被炸伤两个手指，灰头灰脸。李开方趁机率领骑兵冲击胜保大营，大破胜保。
二月，僧格林沁活捉了林凤翔，带领大军南下来救援胜保，胜保由于打仗太窝囊，遭到了咸丰的罢斥。李开方见到了僧格林沁的旗号，知道林凤翔已经战死，就丢弃城池向南逃走，来到了冯官屯。
僧格林沁的蒙古铁骑行军速度快，马上追上了李开方，在冯官屯将他团团包围。李开方根据冯官屯当地菜农的引导，找到了大批粮食，心里比较安定，做好了坚守冯官屯的准备。冯官屯有五百户人家，有富户比较殷实，粮草多，而且能够提供器具帮助防守。李开方在屯内挖掘战壕，上面盖上木板，用来抵挡敌人的大炮。在火枪射程之内，暗地拉了条绳索，上面挂铜铃，敌人一靠近，铜铃就发出声响，李开方就开枪射击。
李开方虽然只有500多人了，但是都是百战余生的骁悍之徒。陷入了绝境，无一不以一挡百，居然多次杀出战壕，进攻僧格林沁，抓获了叛逃的将军施绍恒、宁宗扬等人，把他们全部碎尸万段。僧格林沁没有办法，只好挖掘长壕，困死李开方。
三月初八深夜，伸手不见五指，抬头不见月牙。
夜，静悄悄。
突然，杀声震天。
李开方率部进攻西南的清朝大营，进行诱敌，假装冲不出去，败逃回冯官屯，清军将领僧格林沁、都兴阿、舒保随后率大军追击，想一战定局，他们认为李开方无法突破清军防守线，哪里知道李开芳早有准备，李开方在屯内挖地道到达这里，用炸药轰开了清军炮台的前濠墙，将清军大炮的发炮口堵死，然后部队舍命从这里杀出，清军将领都兴阿、舒保都身被重创，僧格林沁的马被流弹击中而死，衣服上也有弹孔，差点儿毙命，随从戈什哈被太平军枪杀。但是僧格林沁预先挖了两道壕沟，李开方由于兵少，无法突破，只好返回冯官屯。
僧格林沁看到冯官屯难以攻克，就放运河水淹没了冯官屯，平地的水有三、四尺深，太平军全部被泡在水里，身上都长了蛆。火药全部被泡湿，只有三丈左右的干的地方，只能供李开方等几个将军把床放在那里。士兵在水中便溺，水散发恶臭，没有办法取用，冯官屯内有很多酒。虽然太平天国禁止饮酒，但是士兵们都知道不免一死，成天喝得醉醺醺，李开方也无心禁止。
僧格林沁知道冯官屯内很困难，但是他惧怕李开方勇猛，不敢贸然进攻。派使者招降李开方，李开方部将蔡连修忍受不了围中困苦，带领200多人投降，僧格林沁担心是李开方的计谋，命令他们不准来大营，让他们就近攻杀李开方。李开方此时只有140多人了，看到内部反草，知道不能防守，就通知僧格林沁自己要投降，僧格林沁知道他要耍诈，假意答应。
四月二十一日，李开方以百姓为先导，想借着招降的机会出去，僧格林沁看到先队四十个百姓出来，立刻抓获杀掉。李开方绝望，于四月二十四日投降，僧格林沁抛给他一条长的绳索，让他的士兵抓着绳索一个个走出来，出来一个绑一个，就这样，李开方和手下140人全部被抓获。
李开方进入僧格林沁大营之后，没有害怕的神色，还撒谎欺骗僧格林沁，说自己可以说服洪秀全杨秀清投降，僧格林沁知道他是欺骗自己，但是担心他自杀，就假意答应他，蒙着他的眼睛押解他去北京，却欺骗他说往南走。
李开方在路上绝食，但是并没有饿死，到了北京，咸丰下令将他和所部8名将军全部绑在法场上大木柱子上，刽子手用刀，一片一片地割剔他们的肉，先手足，再开膛破肚，再砍头，一寸一寸地将肉割尽，再割生殖器，取出内脏，肢解尸体，剁碎骨头，有两个人肉被割尽，还没有断气，心脏仍在跳动，甚至还有视觉、听觉，最多的是李开芳，割了3600刀。
林凤翔李开方所部两万多人是太平军最精锐的部队，北伐以来，一路过关斩将，所向披靡，但是由于没有得到后援，打到离北京不足百里的地方遭到失败，实在非常可惜。
李开方机警多谋，坚韧不拔。连曾国藩也不得不佩服，后来，曾国藩的奏折中提到了这次战役：“......李开方之守冯官屯，林启容之守九江，叶芸来之守安庆，皆坚忍卓绝......”。
至此，太平军北伐军全军覆灭，北伐军虽败犹荣，
第六条好汉——林凤祥，天官丞相（相当于大将元帅；第七条好汉：李开方，地官正丞相（相当于大将元帅；第二十条好汉——吉文元，春官副丞相（大将，相当于副司令员）；秋官正丞相——朱锡琨（相当于大将元帅），他们孤军作战，纵横驰骋6个省，歼灭了大量的清军，也牵制了大量的清军，为天京、西征军减轻了许多压力。