卢俊义乃大名府人氏，生得仪表堂堂，更兼学得一身武艺，惯使一条棍棒，天下无对，人送绰号“玉麒麟”。
卢俊义是大名府有名的富豪，家有钱财无数，仅是管账的仆人就有四五十人，视金银如粪土，把珠宝当瓦砾，终日花天酒地，可卢俊义却并不觉得快乐。原来卢俊义家里虽然富足，却没有丝毫的社会地位，不论是衙门里的捕头，还是巡街的兵勇，都盯着他的钱财，今日来要赞助，明天又让捐款，就是街头的小混混也敢到他府上蹭吃蹭喝，卢俊义虽然有钱，却奈何不得他们，看看自己已经三十二岁了，却一事无成，是以烦闷。
晁盖等人聚集在水泊梁山后，一直声言要来攻打大名府，府尹借机讹诈卢俊义，加固城墙、添置军械都找卢俊义资助，后来晁盖因在攻打曾头市阵亡，打大名府的事也就暂时撂下了，而那些金银却都进了府尹的腰包，卢俊义敢怒却不敢言。
卢俊义看官府惧怕梁山好汉，心想那梁山上不过是一群草寇，有甚本领，俺视那伙强贼如同草芥，如今晁盖刚死，宋江临时代理寨主，人心不稳，不如前去将这伙贼人都捉了，把俺平生学成的本事显扬于天下，也可乘机向朝廷博个功名，看以后谁还敢欺辱俺！
这卢俊义自以为自己无人匹敌，也真把宋江等人看得轻了，便聚集了五七十个精壮的家人，让贴身心腹浪子燕青带着，准备了几辆车子，带足了捆人的麻绳，与他一同去梁山捉拿宋江等人。
那些家人听说竟要去打梁山，吓得一个个面面相觑，不敢随行，哀求卢俊义：“那梁山有千军万马，官军几番都攻打不下，似这般几个人去，无非羊入虎口，主人可怜见俺众人，留下这条命罢。”卢俊义豪情万丈，喝道：“你等懂得甚么，宋江这等燕雀，安敢和鸿鹄厮并，我直一棒一个搠翻了，你们众人只管与我绑缚在车子上，把贼首解上京师请功受赏，却也少不得你们的好处！”又让家人在车子上插了两面旗子，一书“剿灭梁山擒草寇”，另一面写着“荡平水泊捉宋江”。众家人叫苦不迭，只得战战兢兢跟着。
卢俊义到了水泊梁山，宋江等人知道“玉麒麟”的威名，并不敢轻敌，知道单打独斗不是卢俊义的敌手，便用起了车轮战法，黑旋风李逵、花和尚鲁智深、赤发鬼刘唐、没遮拦穆弘、扑天雕李应、美髯公朱仝、插翅虎雷横等好汉轮番与卢俊义争斗，均抵敌不住卢俊义那根神出鬼没的棍棒，宋江看卢俊义如此英勇，就想将卢俊义收伏，以壮梁山声威。此时小李广花荣看梁山好汉竟一个个败下阵来，叫道：“一个土财主竟把俺梁山搅闹得这般凄惨，以后梁山好汉还如何在江湖上厮混？”说罢拈弓搭箭，觑着卢俊义面门便射，宋江看见，慌忙阻拦，花荣箭头一偏，却射掉了卢俊义帽子上的红缨子，卢俊义吓得大惊失色。
宋江传下号令，不准伤害卢俊义性命，只许抓活的。豹子头林冲、双鞭呼延灼听了，率军冲击，直把卢俊义逼进了水里。那卢俊义却不会凫水，被混江龙李俊、浪里白条张顺活擒。
宋江看捉了卢俊义，忙说：“卢员外名扬宇宙，目今晁天王新亡，山寨无主，如蒙不弃，就请员外为山寨之主。”卢俊义听了大喜，心想这伙人非同一般，说不定也会做出一番大事业来，既能当这伙人的领导，何乐而不为呢？便满口应承，说道：“承蒙各位英雄抬爱，卢某定然不负厚望。”
宋江本是虚让一让，为的是糊弄卢俊义上山，没想到卢俊义竟当了真，一时尴尬无语。李逵却早聒噪起来：“哥哥若让别人做山寨之主，我便杀将起来！”武松也高叫：“哥哥只管让来让去，让得弟兄们心肠冷了！”宋江假意喝阻，智多星吴用已经看出端倪，便出来圆场：“晁天王是被曾头市史文恭那厮用箭射死的，大哥临死之前曾说谁捉得史文恭那厮报仇，谁就为山寨之主，不如去攻打曾头市，若员外拿得仇人，却再让位与他。”宋江、卢俊义均皆应允。
军师吴用调拨大军攻打曾头市，卢俊义急切要抢头功，便说：“卢某上山，寸功未立，此番愿为前部先锋。”吴用已经领教了卢俊义的手段，怕他夺了头功，道：“员外初到山寨，未经战阵，何况曾头市山岭崎岖，乘马不便，不可为前部先锋，请员外别引一支军马，到曾头市后面平川处埋伏，听得厮杀再引军接应。”卢俊义明知吴用使诈，却也没奈何，只得悻悻地领着五百小喽罗去了。
宋江带领大军围攻曾头市，曾头市兵马伤亡殆尽，那史文恭本领高强，看大势已去，竟单枪匹马从梁山军的包围圈里冲突出来，落荒而逃，却正撞上卢俊义，卢俊义不知来者何人，一棒将来人搠下马来，小喽罗上前绑缚了。卢俊义讯问得知此人竟是梁山仇敌史文恭，不禁大喜过望，以为梁山寨主非他莫属了。
宋江没想到卢俊义竟有如此好的运气，无奈有言在先，谁捉得史文恭就为山寨之主，只得让卢俊义来坐那第一把交椅，卢俊义喜滋滋地刚要去坐，还是吴用又出来替宋江解围：“哥哥为尊，卢员外为次，皆人所伏，若是再三推让，恐冷了众人之心。”吴用说罢，向身边头领使了个眼色。
还是李逵挑头闹将起来：“我在江州，舍身拼命，跟将你来，宋江哥哥只管让来让去假甚鸟！若再让，我便杀将起来。”刘唐也道：“我们起初七个上山，那时便有让宋江哥哥为尊之意，如今却怎又让与后来人？”鲁智深赤膊敞怀，瞪着怪眼大叫：“哥哥如若再让，洒家们却各自散伙！”卢俊义看场面无法控制，自己在山上又没甚心腹之人，只得放下当寨主的念头。
宋江知道卢俊义心中不服，为了安抚卢俊义，便说：“梁山东面有两个州府，一是东平府，一为东昌府，我与卢员外各领一军去攻取两个州府，先攻下的便为梁山之主，如何？”此时也不由得卢俊义。为了公平，吴用写下两个阄儿，各拈一个，宋江拈着东平府，卢俊义拈着东昌府。
东平府守将是双枪将董平，众头领为保宋江登上寨主之位，人人奋勇，个个争先，不几日便打破东平府，生擒了董平。
再说卢俊义领军到东昌府，东昌府守将是没羽箭张清，那张清武艺也直平常，却有飞石打人的绝技。卢俊义围定东昌府，问哪位英雄前去搦战，大刀关胜说感冒尚未康复，双鞭呼延灼称拉肚子无法上阵，青面兽杨志用绷带缚着右边胳膊，说：“理应为员外效命，无奈前日在梁山大酒店喝醉了酒，脚下无根，摔断了臂膀，使不得刀枪。”吴用也推说关节炎犯了，要休养几天，卢俊义没奈何，只得遣鼓上蚤时迁、白日鼠白胜等出阵，尽皆输了，连败数阵，只得请宋江的得胜之师前来增援，宋江领军赶到，几位有伤病的头领也已痊愈，不一日便打破东昌府，活捉了张清。
回到山寨，按约定，宋江先攻破州府，就为梁山之主，卢俊义当了第二把手，有名无权，只为梁山接受招安增添了与朝廷讨价还价的砝码。