兰州水烟兴盛于明清，是明清以来兰州的支柱产业，因香味柔美、吸后无痰及防瘴、防寒、顺气、提神、驱逐毒虫、防蚊蝇侵扰等诸多优点，畅销大江南北，尤其深受东南沿海人们的欢迎，被誉为“神药”。
兰州水烟历史悠久，据说已有600多年的历史。兰州民间把诸葛亮说成是兰州水烟的鼻祖。传说三国时期，诸葛亮南征渡泸时，因士兵受瘴气危害，普遍生病，士气低落。诸葛亮非常着急，亲自到兵营查看病情。后来，在一个深山里遇到一个隐士，告诉诸葛亮有一种叫九叶芸香草（即烟叶），含在嘴里能防瘴气。诸葛亮便把九叶香草带回军营让士兵含在口中，病痛果然消除，而士兵却衔之成瘾。后六出祁山时传入甘肃，经当地群众精心栽培，逐渐发展为兰州水烟的原料。
据《本草纲目拾遗》载：“水烟真者出兰州五泉，如葵，叶光泽，形如红蓼，色黄。”是说兰州五泉山红泥沟泉水浇灌之烟叶为最佳。其特点是色亮、味香、叶厚、油分足，以色味俱佳，冠于全省，驰名世界。各史料记载均对五泉红泥沟烟草评价颇高：烟草“皋兰五泉山下产者特佳”“全省烟草种植产量之丰以兰州河谷平原为最，兰州郊外水田纵横，多植烟草，称为‘兰烟’，品质最佳。”“泉水下灌城南田，产烟叶颇盛，制为烟丝，销及川、陕、津、沪以东至牛庄、营口。凡丝烟以兰州为佳，兰州又以红泥沟为佳，故兰烟则标红泥，而陇烟无不蒙兰州之称。”兰州水烟之所以风靡全国，是因为兰州特殊的地理气候条件。兰州背山临水，土质为淡栗色粉砂质土壤，肥土层深厚、石灰质和土壤中含钾较丰富，这些都是种植烟草的有利条件。
兰州水烟配料讲究。原料主要来自榆中、临洮、靖远、皋兰及兰州市区。由于收获时采取的方法不同，故有“青烟”、“黄烟”两种。霜降前拔苗置于垄上阴干者，其色深绿，故叫“绿烟”，炮制成的烟丝叫“绿条”，也叫“白条”。在小雪后经霜杀而使烟叶全部变黄后收获的叫“黄烟”，制成的烟丝叫“绵烟”。另用绿、黄混合制成的烟丝叫“杂拌”或“麻黄”。兰州水烟炮制也独特精细。制作时除搓以清油、食盐、姜黄外，还加入槐花、紫花、油菜、冰碱、当归、石红、薄荷、苍术、丁香花、三柰、大黄、冰片、麝香、檀香木、香药等20多种佐料，所以，气味芬芳，独具特色。经化验测定，兰州水烟基本不含或极少含致癌化合物，是烟中的极品，所以深受烟民的喜爱。兰州水烟还有一个特点是东出潼关后，由于当地空气湿度较大，烟丝开始由绿变白，味道也变得更加醇厚芳香了，因此也被誉为“银丝”。据说，明代镇守金城的藩王，每年向朝廷进贡的“八宝珍品”之一就是兰州水烟。
兰州水烟的吸用也颇有讲究，据清《金壶七墨记》记载：“乾隆中，兰州特产烟种，铸铜为管，贮水而吸，谓之‘水烟’。”兰州本地人俗称之为“水烟瓶”。吸时，管内之水嘟嘟作响，富有节奏感，而且烟味经水后味润而不呛。清乾隆时，兰山书院山长、著名诗人吴镇嗜好吸水烟，喜欢用好友刘时轩所赠斑竹烟管，曾以《刘时轩司马送斑竹烟管》，填《行香子》，以记其事：“斑竹一枝秋老，呼吸湘烟袅袅。泪痕宜湿淡巴菰，渠是相思草。莫问吞多咽少，钓诗竿何妨饥咬。天台云气接苍梧，珍重刘郎惠好。”从诗句可以看出，在诗人眼里，兰州水烟有助于思维，有助于锤炼诗句，也说明当时兰州吸水烟已成时尚。如今江浙一带的老年人仍然喜欢吸用兰州水烟。
兰州水烟为天下所知，清代诗人舒位功不可没。他的《兰州水烟》看似语句平淡无奇，细细读来，却颇有新意。诗人对兰州水烟做了淋漓尽致的描述：“兰州水烟天下无，五泉所产尤绝殊。居民业此利三倍，耕烟绝胜耕田夫。有时官禁不能止，贾舶捆载行江湖。盐官酒胡各有税，此独无吏来催租。南人食烟别其品，风味乃出淡巴菰。迩来兼得供宾客，千钱争买青铜壶。贮以清水及扶寸，有声隐隐相吸呼。不知嗜者作何味，酸咸之外云模糊。吁嗟世人溺所好，宁食无肉此不疏。青霞一口吐深夜，且知屋底炊烟孤。且勿呼龙耕瑶草，转缘南亩勤春锄。”
兰州解放后，私营烟庄组合为兰州水烟厂和榆中水烟厂，集中原有的能工巧匠，统一配方，统一牌号，以机械操作代替过去繁重落后的手工工艺，产量、质量大幅度提高，所生产的“兰”字、“甘”字、“肃”字等品种品牌，生产8种口味不同的水烟丝，成品畅销全国及东南亚地区。后来，随着城市建设步伐的加快，城郊种植烟草的农田逐渐消失，城内水烟作坊逐渐停业，再加上兰州卷烟的兴起，风行600多年的兰州水烟终于淡出市场。
现今，只有榆中苑川河流域、青城仍种植烟草，生产水烟，成为兰州水烟最后的守望者。