早在尧的时候，中原地带就经常闹水灾。常常是洪水漫天、无边无际，围绕着大山，淹没了丘陵，使老百姓叫苦连天。尧当时也向各部落首领访求过能治洪水的人。当时大家一致推荐了鲧(ｇǔｎ)。尧对鲧是不满意的，曾说：“鲧为人好违抗命令，摧残同类，是不能胜任的。”但大家说没有比鲧更合适的人出来治理洪水了，因此尧就同意鲧去试试看。
果然，鲧去治理洪水，只知道筑坝挡水，结果经过了九个年头，洪水仍然没有消退。这时候，舜代行了尧的职务，他在外出巡视时发现鲧治水不力，就立即下令撤了鲧的职务，并将他放逐到僻远的羽山地方。鲧最终死在了那里。
舜登天子位以后，他最大的心事就是为老百姓治理好洪水。于是他打开国都四面的城门，请四方诸侯及十二州首领都来反映情况，议论天子的言行，替天子提意见和建议。他问大家：“谁能光大尧帝的事业，努力工作，治理好洪水，我就请他当辅政官‘司空’。”
众人都说禹可以胜任这个职务。
于是舜就说：“啊，不错！禹，你来治理洪水，可要恪尽职守啊！”
禹跪下向舜叩头，想将司空的职务让给后稷、契和皋陶。但舜说：“你很合适，不要再谦让了。你现在应该到工作岗位上去负起你的责任了！”
于是舜就让禹带着伯益、后稷做助手出发治水去了。这时候，禹与涂山氏女儿结婚刚四天。禹为人仁爱可亲、诚实忠厚，工作勤勉谨慎，手脚又灵活、敏捷。他感伤自己的父亲鲧因没有完成治水大业而受了惩罚，自己便吃苦耐劳、殚精竭虑地从事治水工作。他随身带着测量的准绳，登高山立标志，跑九州测地形，不顾暑热冬寒，不顾雨雪泥泞，日日夜夜奔走在治水工地上；他三次路过自己的家门，甚至听到自己刚出生的儿子的哭声，都不进去看一下妻子和孩子；他自己饮食、衣着节俭，住房简陋低矮，可是治水兴修水利，却愿意出大钱、花大力气。就这样，整整十三个年头，他带领众百姓开辟了九州的道路，疏通了九条大河，整治了九个大泽，开凿打通了九座大山，终于用疏导的方法治好了洪水，安定了九州，并且命令伯益教百姓在低湿的地方种稻，命令后稷教百姓种各种庄稼。于是，使五千里见方的地带成了鱼米之乡，使各方的部落都来进贡。
禹为国家建立了大功以后，他一点也不居功自傲。舜也经常与禹对话，共同商讨治理天下的方略。有一次，舜对禹说：“啊！大臣啊，应该是我的大腿、臂膀和耳、目，你们要帮助我为百姓造福。如果我有什么邪僻不正当的行为，你们应该向我指出、匡正我，而不要当面恭维我，背后说我的坏话。”
禹说：“帝说得很对。做天子，最危险的就是善恶不分，听不得批评的意见。”
舜又说道：“我想发展六律、五声、八音等音乐，用以来体察政治、宣扬礼义智信，你看怎样？”
于是，禹就作了名叫“九韶”的乐曲，一边用以祭祀山川神主，一边用来警喻掌权的大臣和天子。例如有一首歌曲的歌词这样唱道：天子明哲啊！大臣贤良啊！众事安定啊！又有一首唱道：天子细碎无大略啊！大臣懈弛不进取啊！这样万事就要败坏啊！
舜听了非常高兴，连连说：“是啊，是啊！以后大家要谨慎啊！”于是，就决定推荐禹作为他的继承人。
