宋江生得面黑身矮，在山东济州郓城县当押司，只不过是地位卑微的文案小吏，并无任何权势。宋家是个大地主，广有钱财，宋江平时只好结识江湖上的好汉，但有急需银两的，宋江并不吝啬，总要资助救急，时间久了，别看宋江相貌不佳，又没十分本事，却也得了个“及时雨”的诨名。
郓城县治下有个东溪村，村里的保正晁盖是个富户，最爱刺枪使棒，膂力过人，曾力举青石宝塔，人都呼之为托塔天王，亦是一霸，宋江与之结交甚厚。后晁盖一伙劫了大名府梁中书送给丈人当朝太师蔡京的十万贯生辰纲，被济州府缉拿，宋江利用职务便利向晁盖通风报信，晁盖等人杀了前来缉捕的官军，啸聚水泊梁山。
后来晁盖当了梁山寨主，感激宋江救命之恩，多次邀宋江上山，宋江因看不起他们落草为寇，均借故推辞，晁盖便经常派人下山送给宋江一些金银使用。此后宋江又与阎婆惜勾连上了，那阎婆惜原是看宋江有钱，日月久了，就嫌宋江嘴脸丑陋，拿着宋江与梁山交往的书信要去告官，宋江一怒之下杀了阎婆惜，为躲避官府缉捕，从此流落江湖。
按说宋江同晁盖交厚，直接上梁山足可以避难。但宋江却认为此时不是最佳时机，一则落难投奔不仅不会被重用，还要搭上偌大一个人情；二则山上没有自己的亲信心腹，去了也只能寄人篱下。有了这些想法，宋江便开始借逃亡之际笼络自己的势力，他先去拜访了小旋风柴进，他是大周皇帝的嫡派玄孙，连大宋朝廷也让三分。在柴进庄园结识了行者武松，随后他又到白虎山拉住他的两个徒弟——毛头星孔明、独火星孔亮，再到清风寨交际小李广花荣，顺便收容了锦毛虎燕顺、矮脚虎王英、白面郎君郑天寿三个强盗，驯服了青州霹雳火秦明、镇三山黄信师徒，收编了对影山的小温侯吕方、赛仁贵郭盛，还捎带上了石将军石勇。宋江看政治资本已经捞足，这才准备上梁山，没想到此时却收到弟弟铁扇子宋清的书信，称父亲宋太公病故，宋江无奈只好写信先介绍花荣、秦明等九人上山卧底，自己急急回家奔丧。
宋江回家后，才知道宋太公没死，只是骗他回来等待朝廷大赦，宋江后悔不迭，埋怨父亲迂腐，弟弟不谙世事，但已经无法挽回。当晚，宋江被捕，脊杖二十，刺配江州。宋太公贿赂押送公人许多银两，让他们一路关照宋江。
宋江刺配江州，正好路过梁山脚下，晁盖派刘唐将宋江劫上山寨。宋江想自己原本可以带着许多人马风风光光地上山，如今如此狼狈，且自己介绍上山的花荣等人还未站稳脚跟，此时上山对自己今后的发展很不利，便百般推辞，必须先到江州服刑完了再做计较。
晁盖等人苦留不住宋江，只有放其下山到江州服刑。一路上，宋江广泛交际，揭阳岭的催命判官李立，扬子江的混江龙李俊、出洞蛟童威、翻江蜃童猛、船火儿张横，揭阳镇的没遮拦穆弘、小遮拦穆春、卖药的病大虫薛永，江州牢城的神行太保戴宗、黑旋风李逵，浔阳江的浪里白条张顺等一众好汉都被宋江收入麾下。宋江好不得意，终日与戴宗、张顺、李逵等饮酒作乐。
得意总有忘形时。这日宋江独自到浔阳楼饮酒，吃得醉了，想着自己虽然是文面小吏，也曾受尽磨难，如今竟有许多英雄豪杰肯依附自己，早晚会成就一番事业，乘着酒劲，诗兴大发，在****壁上题诗一首：
自幼曾攻经史，
长成亦有权谋。
恰如猛虎卧荒丘，
潜伏爪牙忍受。
不幸刺文双颊，
那堪配在江州。
他年若得报冤仇，
血染浔阳江口。
宋江写罢，更自狂荡，又写了四句诗：
心在山东身在吴，
飘蓬江海谩嗟吁。
他时若遂凌云志，
敢笑黄巢不丈夫！
这诗后被定为反诗，宋江被打得皮开肉绽，押进死囚牢，在江州市曹问斩。晁盖率梁山好汉劫了法场，张顺又带一拨弟兄们救援，然后一同上了梁山，沿途还收编了准备去救宋江的黄门山的摩云金翅欧鹏、神算子蒋敬、铁笛仙马麟、九尾龟陶宗旺四条好汉，薛永又带来了他的徒弟通臂猿侯健。此时水泊梁山共有四十位头领，而宋江加上他介绍或直接带上山的就有二十六位，已经超过了半数，因此，寸功未立的宋江上山后就坐上了第二把交椅。
宋江上山后办的第一件事就是攻取祝家庄。祝家庄有约两万户人家，并与邻近的李家庄、扈家庄订立盟约，互为掎角，兵精粮足。病关索杨雄、拼命三郎石秀、鼓上蚤时迁投奔梁山，路过祝家庄的一家酒店，因时迁偷吃了店里的报晓鸡发生争斗，石秀烧了祝家酒店，时迁却被祝家抓住，杨雄、石秀狼狈上山。晁盖嫌他们坏了梁山的名声，要杀杨、石二人，宋江极力劝阻，并一定要亲自领军洗荡祝家庄。宋江此举不仅笼络人心，还可以将扑天雕李应请上山，进一步扩充自己的势力，关键是这也是梁山军第一次主动下山攻取村镇，意义重大，打赢了就能提高宋江在梁山的地位和影响力。本着这个目的，宋江在拣选随他出征的头领时也煞费苦心，晁盖的嫡系头领一个都没用，绝大部分是跟着宋江上山的。这一战不仅让梁山得了三五年吃不尽的粮食，又带上山十二位头领。
攻取祝家庄使宋江的威望大增，从此以后，晁盖几乎就再没有下过山，每每征战都是宋江领军，晁盖只有给宋江庆功的份儿了，此时的宋江可谓威风八面，逐步就把晁盖架空了。攻打高唐州，柴进和金钱豹子汤隆上山；大破连环马，收服双鞭呼延灼、金枪将徐宁、百胜将韩滔、天目将彭玘、轰天雷凌振；攻打青州，纠集白虎山、桃花山、二龙山的鲁智深、武松、杨志等十一位头领投拜；智取华州，收编少华山的九纹龙史进、神机军师朱武、跳涧虎陈达、白花蛇杨春；打掉芒砀山，降服混世魔王樊瑞、八臂哪吒项充、飞天大圣李衮。晁盖看宋江的势力急速膨胀，就连与他一同上山的吴用也逐渐倒向了宋江，心中也十分郁闷，但他每次要领军下山，都被宋江以“哥哥是山寨之主，不可轻动”为由阻止。
及至攻打曾头市，晁盖再也坐不住了，全然不顾宋江的阻拦。哪知晁盖时运不济，竟中了史文恭的毒箭，弥留之际，晁盖并没有把寨主之位交给宋江，而是留下遗训：谁捉住史文恭，便教他做梁山泊主。宋江只能暂时代理寨主，此后，又领军攻取大名府，救出玉麒麟卢俊义、收服大刀关胜、急先锋索超、丑郡马宣赞、井木犴郝思文、圣水将军单圭廷、神火将军魏定国。
但要想修成正果当上寨主，就必须捉住史文恭。宋江调集梁山军准备攻打曾头市，卢俊义提出要为前部先锋，吴用知道卢俊义英勇无敌，怕他立了头功，说：“员外初到山寨，未经征战，山岭崎岖，乘马不便，不可为先锋。”让卢俊义带着浪子燕青去平川埋伏，只给了他五百步军，而宋江却带着二十八位头领两万多马步军进攻曾头市，宋江料定史文恭逃不出他的手心，可史文恭那厮竟撞出他精心编织的大网，倒被闲得发急的卢俊义逮个正着，一朴刀将史文恭搠下马来绑了押回梁山。
众头领回到山寨，将史文恭那厮剖腹剜心祭奠晁盖，商议立梁山泊之主。宋江心中此时倍感失落，只得说：“向者晁天王遗言，但有捉得史文恭者即为梁山泊主，今日员外生擒此贼，合当为尊。”宋江话音未落，吴用说道：“兄长为尊，卢员外为次，众人皆伏，否则恐冷了兄弟们的心。”说完，向四周频使眼色。武松见了上前叫道：“哥哥手下许多军官都是受过朝廷诰命的，只让哥哥，如何肯从别人！”刘唐也道：“我们起初上山便有让哥哥为尊之意，今日却让后来人？”李逵、鲁智深等也纷纷闹将起来。卢俊义看了慌忙扶住宋江：“小弟德薄才疏，怎敢承当此位？卢某宁死，实难从命！”卢俊义把宋江搀扶着送到第一把金交椅前，宋江半推半就也就坐了。
宋江如愿以偿做了梁山泊寨主，最后聚集得一百单八将，直做出一份天大的事业来。