到了春秋末期，中原大国晋国日益衰落下去。晋国国君的权力下降，实权被栾家、解家、赵家、魏家、韩家、智家六家大夫把持着。他们都有自己的地盘和武装，为了争权夺势，摩擦不断，甚至互相动用武力解决。到后来，只剩下四家，即智家、赵家、韩家、魏家。这四家，以智家的势力最大。
智家的大夫智伯瑶是个十分有心计、有野心的人。他总想侵占其他三家的土地。一天，他把那三家大夫赵襄子、魏桓子、韩康子请到自己家中喝酒，喝到中间，他起身对三人说：“晋国在文公时是中原霸主，后来被吴、越夺取了霸主的地位。为了使晋国重振雄风，我主张每家都拿出一百里土地和户口交归国君掌管。”智伯瑶当时权力最大，晋国国君凡事都听他的。
三家大夫都知道智伯瑶存心不良，想借用国君的名义迫使他们交出土地，限制他们的势力。可是三家大夫各怀心腹事，都怕得罪智伯瑶。韩康子首先表示赞同，愿意把韩家的土地和一万家户口交给国家；魏桓子满心不愿意，怕得罪智伯瑶，也不得不说，把他家的一百里土地和九千家户口交给国家。
智伯瑶见韩、魏两家都答应了，剩下只有赵襄子沉默不语。智伯瑶转过脸来询问赵襄子的意见。赵襄子是个性情耿直的人，他看不惯智伯瑶那副狐假虎威的样子，没好气地说：“这事我可不敢自作主张，土地是先祖遗留下来的产业，怎么好拿来送给别人呢？”
智伯瑶一听马上翻了脸，两个人在酒席宴上争吵起来。宴会不欢而散。
智伯瑶见赵襄子拂袖而去，便想借机消灭赵家。他对魏桓子、韩康子两人说：“赵家占有那么多土地却不肯拿出来交给国家，这分明是有野心，我身为晋国正卿，不能坐视不管。”他当即决定自己率领智家人马为中军，韩家的军队为右军，魏家的军队为左军，三队人马浩浩荡荡直向赵家攻去。
赵襄子自知寡不敌众，就带领赵家人马边战边退，一直退到晋阳（今山西太原）闭门固守。
智伯瑶率领三家军队把晋阳城团团围住，水泄不通。赵襄子指挥赵家兵坚守城池，不许交战。智伯瑶组织力量多次攻打，都被赵家不是用弓箭射退，就是用滚木擂石打退，任凭怎样拼命攻打，就是攻不下来。
双方坚持了两年之久，依然如故。
智伯瑶见强攻不下，心里十分焦急，苦思瞑想也没琢磨出来个好办法。一天，他带着亲兵围着晋阳城察看地形，看到晋阳城东北的那条晋水水势很急，忽然想出一个主意：若是把流经晋阳城外的晋水引到西南，让河水一直流向晋阳，再在上游修筑一座大坝，把河水拦住，等雨季来到之时。水坝里蓄满水，再挖开大坝，这样，大水就会直冲晋阳，把晋阳淹没了。
智伯瑶回来后把所想出的主意对韩、魏两家一讲，两家都说是个好主意。于是，智伯瑶、韩康子、魏桓子三人分头组织自家兵丁修筑水坝。
这时正赶雨季，很快，水坝里的水贮满了。智伯瑶命令士兵在水坝上开挖出一个大豁口。这样，大水直奔晋阳城，一下子灌进城里去了。城里的房子被淹没了，老百姓不得不爬上房子顶上去避难。人们无法升火做饭，只得把锅挂到树上做饭。就是这样，赵家人恨透了智伯瑶的所作所为，宁可淹死，也不肯投降。
一天，智伯瑶邀韩康子、魏桓子一起去察看水势。他远远望见晋阳城一片汪洋，得意洋洋地对两人说：“照此下去，用不了几天晋阳城就要被淹没了。我早先还以为晋水象城墙一样能拦敌人，现在我才知道大水也能灭掉一个国家呢？”
韩康子和魏桓子听他这样一说，禁不住暗自惊慌，可表面还是随声附和，夸奖智伯瑶的聪明能干。魏家和韩家都有河水流过，他们想：智伯瑶能利用晋水淹晋阳，说不定将来有一天他转过脸来象对付赵家那样对付自己。
晋阳被大水淹了以后，赵襄子十分焦急，他对手下谋士张孟谈说：“现在老百姓情绪虽说比较稳定，可是要是水势再往上涨，恐怕全城要保不住了。”
张孟谈说：“事情危急，必须尽快想个办法解决。依我看，韩家和魏家把土地割让给智家，也不是心甘情愿的，我们何不派人去游说韩、魏两家，让他们帮我们去对付智家。”赵襄子觉得这个主意很好，决定让张孟谈前去做工作。这天深夜里用绳子把张孟谈送出城。
韩、魏两家本来就不是心甘情愿听命于智伯瑶，经张孟谈一说，都同意联合起来对付智伯瑶。
第二天夜晚，智伯瑶在自己的营帐里睡得正香，猛然听见外面传来一片喊杀声。他连忙披衣下去察看，才发觉床下到处都是水，还以为大堤决口漫过来的水呢。出外一看，兵营里一片汪洋，士兵们正惊慌地往外跑。水势越来越大，不大会工夫，大水就涨到齐腰深。智伯瑶正惊魂未定，突然从四面传来震耳欲聋的战鼓声。赵、韩、魏三家兵丁分由赵襄子、韩康子、魏桓子带领着，驾着小船、木筏，冲杀过来。智家的兵丁被砍的砍，淹的淹，全军覆没。智伯瑶自己跳上一条小船要逃，也被三家兵丁抓住乱刀砍死了。
赵韩、魏三家灭了智家，借此机会，三家一不做，二不休，乘势把晋国的土地全部给瓜分了。
公元前403年，韩、赵、魏三家派使者上洛邑去见周天子，要求把他们三家晋封为诸侯。周天子见木已成舟，也就乐得做个顺水人情，就把韩康子、赵襄子、魏桓子三人正式封为诸侯。从此，晋国这一中原泱泱大国就从地图上消失了。