晋阳城凭着弓箭死守了两年多。三家兵马始终没有能把它攻下来。

有一天，智伯瑶到城外察看地形，看到晋阳城东北的那条晋水，忽然想出了一个主意：晋水绕过晋阳城往下流去，要是把晋水引到西南边来，晋阳城不就淹了吗？他就吩咐兵士在晋水旁边另外挖一条河，一直通到晋阳，又在上游筑起坝，拦住上游的水。

这时候正赶上雨季，水坝上的水满了。智伯瑶命令兵士在水坝上开了个豁口。这样，大水就直冲晋阳，灌到城里去了。

城里的房子被淹了，老百姓不得不跑到房顶上去避难，灶头也被淹没在水里，人们不得不把锅子挂起来做饭。可是，晋阳城的老百姓恨透了智伯瑶，宁可淹死，也不肯投降。

智伯瑶约韩康子、魏桓子一起去察看水势。他指着晋阳城得意地对他们两人说：“你们看，晋阳不是就快完了吗？早先我还以为晋水像城墙一样能拦住敌人，现在才知道大水也能灭掉一个国家呢。”

韩康子和魏桓子表面上顺从地答应，心里暗暗吃惊。原来魏家的封邑安邑（今山西夏县西北）、韩家的封邑平阳（今山西临汾县西南）旁边各有一条河道。智伯瑶的话正好提醒了他们，晋水既能淹晋阳，说不定哪一天安邑和平阳也会遭到晋阳同样的命运呢。

晋阳被大水淹了之后，城里的情况越来越困难了。赵襄子非常着急，对他的门客张孟谈说：“民心固然没变，可是要是水势再涨起来，全城也就保不住了。”

张孟谈说：“我看韩家和魏家把土地割让给智伯瑶，是不会心甘情愿的，我想办法找他们两家说说去。”

当天晚上，赵襄子就派张孟谈偷偷地出城，先找到了韩康子，再找到魏桓子，约他们反过来一起攻打智伯瑶。韩、魏两家正在犹豫，给张孟谈一说，自然都同意了。