目炯双瞳，眉分八字，身躯九尺如银。威风凛凛，仪表似天神。惯使一条棍棒，护身龙绝技无伦。京城内家传清白，积祖富豪门。杀场临敌处，冲开万马，扫退千军。更忠肝贯日，壮气凌云。慷慨疏财仗义，论英名播满乾坤。卢员外双名俊义，绰号玉麒麟。
宋江仰慕卢俊义出身富豪，江湖名声远扬，又是位好汉且武艺高强，为壮大梁山声势，想要将他请上梁山。便派军师吴用与李逵假装算命先生与哑道童混入卢府为其算命。吴用在卢俊义府上设计让卢俊义自己写下一首藏头反诗：“芦花丛里一扁舟，俊杰俄从此地游。义士若能知此理，反躬逃难可无忧”。
卢俊义带着李固等人前往泰安州经商以逃避灾祸，在路上高举大旗向梁山泊发起挑战，在前往梁山的途中遭遇埋伏，先后与李逵、鲁智深、武松、刘唐、穆弘等大战。卢俊义寡不敌众，在乘船逃走时，被浪里白条张顺活捉上梁山。卢俊义不愿意在梁山落草为寇，宋江、吴用与梁山众兄弟表面上假意挽留，事实上却是在不断拖延时日，软禁了卢俊义两个多月，让别人认为他已经落草为寇。宋江与吴用放卢俊义管家李固先回大名府，对他说卢俊义已在山泊上坐了第二把交椅，并秘密向其解释卢俊义家中反诗的寓意，让李固去大名府告发卢俊义落草为寇的事情。由于卢俊义对落草为寇一事坚决不从，且不断要求下山，宋江等人才放其下山。
卢俊义在城中遇到已沦为乞丐的燕青，燕青告知他李固与贾氏通奸并霸占了家产，将燕青逐出家门。卢俊义并不相信，独自回家准备一探究竟。卢俊义回到家中之时，很快被官军围捕，卢俊义妻子贾氏已与管家李固做了夫妻。而李固更是诬陷卢俊义“勾结叛匪，准备里应外合攻打大名府”，告到大名府梁中书那里。梁中书随后将卢俊义抓捕进监狱。卢俊义被捕之后屈打成招，被打入死牢。
李固买通铁臂膊蔡福、一枝花蔡庆让他们在牢里杀掉卢俊义，但他们佩服卢俊义为人，并没这么做。柴进也登门拜访蔡福、蔡庆给予重金要求营救员外，蔡福、蔡庆用柴进给予的钱财上下打通关节，使得卢俊义得以免除死罪而改判刺配，但李固买通差役董超、薛霸让他们在刺配路上杀死卢俊义，幸亏燕青放冷箭将董超、薛霸二人射死，将卢俊义救下。但燕青出去找吃的的时候，卢俊义不幸又被后来赶上的官军抓走，因为杀死公差而被重新定了死罪。
卢俊义再次被抓的时候，恰逢梁山好汉杨雄，石秀下山打探消息，路上遇到燕青，便与燕青回到梁山报信，而石秀则直接进入大名府城中打探消息。在得知卢俊义即将被斩的消息之后，石秀只身一人去劫法场，但也被官兵抓走。宋江得到杨雄、燕青等人报信后，便率兵三次攻打大名府。其中，二打大名府过程中降服了索超。
征战过程中宋江得了疽疮之后，吴用代替宋江在元宵佳节时出军三打大名府，秘密派遣“鼓上蚤”时迁火烧翠云楼，其他众兄弟埋伏于城中，城里城外里应外合，攻破大名府救出了卢俊义。
卢俊义幸得燕青、石秀以及其他梁山众好汉等先后搭救，方免遭毒手，便上梁山落草。他上梁山之后，坐上了第二把交椅。忠义堂前亦竖起了“山东呼保义”、“河北玉麒麟”两面大旗。
晁盖攻打曾头市时被曾家五虎的师父史文恭毒箭所伤，不治而死。史文恭射死晁盖，刺伤秦明，使梁山其他好汉大吃一惊，共同商议为晁盖报仇。
在梁山泊率兵攻打曾头市的时侯，卢俊义自请为前部，但吴用担心史文恭被卢俊义擒获，于是安排卢俊义和燕青领五百兵在平川小路听号，结果史文恭在逃跑的时候还是撞在了卢俊义手里。
梁山受招安后，卢俊义随宋江一起南征北战，参加了数次大型战役。
两破童贯时，卢俊义活捉童贯手下大将酆美。紧接着进行了四大征，即征辽、征田虎、征王庆、征方腊。
征辽之战中，卢俊义大显神威，独自跃马挺枪与大辽四员猛将酣战一个时辰，最后战胜耶律宗霖，吓跑耶律宗雷、耶律宗电和耶律宗云。紧接着，卢俊义又将一伙约有一千多人的辽兵杀得四散奔逃。此战在整部《水浒传》中仅有一例，这是卢俊义武力发挥的巅峰，也是卢俊义最辉煌的战绩。
卢俊义在征讨宋朝其他三个心腹之患“田虎、王庆、方腊”时，活捉卞祥、斩杀杜壆、秒杀方翰、杀死厉天闰、大破司行方、秒杀方垕、捉贺从龙，展示了其强大的能力。
在平方腊之后，宋朝朝廷封其为武功大夫、庐州安抚使兼兵马副总管。
后因同杨戬、高俅有矛盾，被杨戬、高俅设计在皇帝的御酒里放入水银，卢俊义喝后不能骑马，在泗州淮河乘船时因醉失足落水而死。
王望如批《水浒》：指责卢俊义“不该有福不享，无端好使枪棒，名震京师，结果被逼上梁山做了强盗。”
金圣叹《读第五才子书法》：卢俊义、柴进只是上中人物。卢俊义传，也算极力将英雄员外写出来了，然终不免带些呆气。譬如画骆驼，虽是庞然大物，却到底看来觉道不俊。柴进无他长，只有好客一节。