以上金、罗、陆三人，帮中人奉为“前三祖”，都与佛教禅宗有渊源，所以后来的青帮组织带有一定的宗教色彩。
青帮的真正祖师，起自陆逵的徒弟翁宕、钱坚、潘清三人，即所谓“后三祖”。
翁岩字福亭，号德慧，江苏常熟人，祖居山东东昌府聊城县，其后迁居河南南阳府。出身秀才，后弃文向河南嵩山少林寺僧习武，喜与绿林好汉交往，并入天地会，为会务奔走四方，到处为家，性情刚毅，不善词令。
钱坚字福斋，号德正，江苏武进人，迁居安徽徽州府。为人精明勇敢，幼从父经商，移居开封。16岁父母双亡，无心继承父业，改习拳术，入天地会，与翁岩同隶张岳部下。张岳是天地会中的首领。
潘清字清宇，号德林，浙江杭州人，先移住安庆，后又迁居河南开封。承父母余荫，富有财产，幼年读书，颇以诗词歌赋自豪，武艺亦佳。他为人勇义，好交游，地方上以“小孟尝”称之。
翁岩、钱坚二人奉张岳之命，到安徽访潘，三人都是天地会道友，一见如故，结拜为异姓兄弟。
三人结拜后，一起出门访求志同道合的人。到达杭州后，在陆逵处听讲，对陆非常敬服，要求投拜门下，陆见三人学道心诚，同意收为弟子。
雍正三年，清政府悬榜招贤，加强漕运，他们意图以粮帮为基础，组织一个大团体，乃至河南抚署揭榜承运。
当时的抚台田文镜是杭州人，三人向他条陈了整顿漕运办法，田与漕督同上奏本，经雍正批准，指定归漕运总督张大有节制，并听命于勘视河工的钦差大臣何国宗指挥，准许开帮收徒，以之统一粮务。
他们接受任务后，先在开封潘清家中招集各地天地会头目汇商，得到了一部分人的赞助，并联络旧有粮帮，统一了粮帮组织，推翁、钱、潘三人为首领，组成了一个“道友会”，供奉达摩为始祖，金幼孜为第一代祖师，罗清为第二代祖师，陆逵为第三代祖师。
他们开办粮运，首先设厂造船，统一尺寸，绘成图样，亲自监工督造，传说共造9999只半(所谓“无半不成帮”，半只是脚划子)。第二步是协助清廷开办浚河工程，动员山东民夫165万人，用银110万两，开浚河道，打通了南北水运。布置完成，乃大开香堂，广收门徒，翁岩接八仙之数收8名，钱坚按二十八宿之数收28名。潘清按三十六天罡之数收36名，三人按七十二地煞之数共收72人。
此后，徒弟又收徒弟，青帮组织从而扩大起来。
青帮建立承运漕粮后，翁等三人向陆逵请示，陆以祖传24字的字派相授，作为传统的帮内“家谱”。这24字就是：
清净道德，文成佛法，
能仁智慧，本来自性，
圆明行理，大通悟觉。
其中，“清净道”三字是在粮帮未成立前使用的，从“德”字起立帮，所以实际上前三字是教派，从第四字起才是帮派。
立帮后徒子徒孙越来越多，原来的24字怕不够用，乃由王德降(即王降祖，帮中称为小祖师)续订24个字，就是“万象皈依，戒律传宝，化度心回，临持广泰，普门开放，光明乾坤”。
解放以前，上海以“大通悟觉”四字辈居多，而以大字辈为最高，传说后24字也已开始用到，但究竟用到哪一个字无从查考。
青帮建立后，在杭州武林门外宝华山建立“家庙”及12座“家庵”(翁、钱、潘的高徒12人家庵)，承运漕粮事务所就设在家庙内，并公议订立了十大帮规、香堂仪式、孝祖规则、十禁十戒、家法礼节等等规则。
此后，翁、钱二人至青海、蒙古去朝佛，再无音讯，帮务由潘清一人主持。
雍正十三年，潘清在黄河大风事故中身亡，帮务由王德降继任。
清乾隆年间，白莲教中人三伦，见青帮势力雄厚，乃与帮中人交结，并自立“清门教”，于乾隆三十九年在山东起义反清，一度发展至数万人，但结果失败被斩。
至此，清廷严厉查拿一切秘密会党，不过事实上秘密组织依然存在。嘉庆五年，八卦教刘子协、宋云清继起举义，游击清军于川、湘、鄂、豫、陕、甘各地，不久也因失败被杀。
其后，山东金丹八卦教主林清和河南八卦教主李文成联合反清，林清并贿太监高广福、刘金二人为内应。事败，预伏于城外黄村的林清被捕杀。
李文成原在滑县城外的关帝庙邀集主教36人议事，被捕囚禁于滑县城内。附近教徒闻变，顿时集合近万人，其中也有青帮人员，攻占了县城，杀死了知县，救出李文成，但最后义军失败，李文成纵火自焚而死。
乾隆年间，青帮本来是公开的组织，但自清门教、八卦教等相继起义反清，其中人员牵涉到粮帮，因之粮帮也在严禁之列，稍涉嫌疑，就难免杀身之祸，于是销声匿迹，转入秘密活动。
太平天国运动兴起后，粮运复盛，北方粮船大多为清廷服务，南方粮船大多被太平军改为水师，杭州的家庙祠堂被乱军所毁。至此，青帮势力消灭殆尽。
太平天国失败后，漕运废除，粮帮裁撤，不过青帮组织仍旧流传于社会。
青帮中人收徒，必须例行一种隆重的而又戏剧化的典礼，名曰：“开香堂”。何谓“开香堂”？这就得从入帮的程序说起。
凡是“空子”(帮外人)想进门槛，必须先行觅得帮中人带领，开明履历，经引见师批准之后，再备了正式帖子去拜师。帖面上写明“信守”二字，内面写“敬拜某某老师门下”，下面写“甘心情愿”字样。在师父名字旁边，要写三代姓氏，末后署名“某字辈门生某某谨具”，旁边写“引见师某某押”，“传道师某某押”，其郑重程度，可比作过去田契纸上的卖主与中保具名一般。
开香堂的地点大都在僻静的庙宇中，事先必须禀明老头子，正中供定翁、钱、潘三位师祖的神位，在上面挂起罗祖像，各点香烛一副，桌下又点五支香，两头都用红纸包着，叫做“包头香”。庙门外，又设“陈四主爷神位”，也点一副香烛。
“陈四”者，据说是第一个进门槛的人，因为犯了帮规，被逐出山门。后人念他入帮最早，所以在开香堂时也给一副香烛，但又因此公已被逐出帮外，故将其神位设于山门之外。
开香堂大典时，凡是老头子的前人，和一般同参兄弟，都要到场，名叫“赶香堂”。赶香堂的越多，老头子的面子越大。万一开香堂时没人赶香堂，或赶香堂的人很少，那个老头子就倒了霉，不但人家瞧不起他，连他的徒弟也觉得见不得人了。
待到香堂布置妥当，候补的人也候次进入，便传令紧闭山门。老头子居中坐定，赶香堂的人分立两旁。然后由引见师引领各“空子”到罗祖和翁、钱、潘三主爷神案前同样磕头，同时在赶香堂的各人面前，也得磕上三个头。
总而言之，逢人便磕。
如果老头子面子大，赶香堂的人多至千儿八百，有些新徒弟就得磕上两三千个头。
徒弟们磕头之后，引见师便命他们在檐下排成长龙，司香的执事就把桌下的包头香划开，分给众人拿在手里。赞礼的人便高呼下跪，大家便黑压压地跪了一地。
这当儿，另有执事端上一盆清水，让大家一一净手。净手代表沐浴，取焕然一新之意。净手毕，老头子便在上面厉声问道：“你们是自愿入帮，还是有人强迫你们入帮？”
“自愿入帮！”
“入帮并没有什么好处，你们知道吗？”
“入帮为拜师，不要好处。”
“十大帮规要遵守，你们知道吗？”
“甘受约束，誓守帮规！”
老头子便再谆谆训诲一番，在末尾说道：“如果违犯帮规，定须家法从事，你们都能办到吗？”
众人齐答：“能！”
之后，便由传道师给各人分发一本小折子，上面写着三帮九代的名称，以及各种“海底”盘答方法。这是帮中最重要的东西，徒弟们必须秘密珍藏，不得让外人阅看。
至此，仪式就算完结，众人再向祖爷、老头子各磕三个头，分班侍立两旁，老头子便安排筵席，跟赶香堂的各兄弟，欢呼畅饮，赶香堂的人也向老头子道喜，然后入席。这一顿大嚼，费用概由新进门槛的徒弟分摊。经过此番典礼，“空子”就摇身一变，成为“青帮”中人了。
旧病复发了
黄金荣没有正式拜过老头子，在青帮中应被称为“空子”。按规矩，没有进过香堂，就不能开堂收徒。但因为他位高势大，无需再去投师拜祖，就一直那么“空子”。尽管如此，还是有许多人涌到他的门下，拜他为师，尊他为老头子。