宋仁宗正在改革的兴头上，看了范仲淹的方案，立刻批准在全国推行这十条改革措施。历史上把这次改革称为“庆历新政”（“庆历”是宋仁宗的年号）。

范仲淹为了推行新政，先跟韩琦、富弼（音ｂì）等大臣审查分派到各路（路是宋朝行政区划的名称）担任监司（监察官）的人选。有一次，范仲淹在官署里审查一份监司的名单，发现有贪赃枉法行为的人员，就提起笔来把名字勾去，准备撤换。在他旁边的富弼看了心里不忍，就对范仲淹说：“范公呀，你这笔一勾，可害得一家子哭鼻子呢。”

范仲淹严肃地说：“要不让一家子哭，那就害了一路（路是北宋政区名称）的百姓都要哭了。”

富弼听了这话，心里顿时亮堂了，佩服范仲淹的见识高明。

范仲淹的新政刚一推行，就像捅了马蜂窝一样。一些皇亲国戚，权贵大臣，贪官污吏，纷纷闹了起来，散布谣言，攻击新政。有些原来就对范仲淹不满的大臣，天天在宋仁宗面前说坏话，说范仲淹一些人交结朋党，滥用职权。

宋仁宗看到反对的人多，就动摇起来。范仲淹被逼得在京城呆不下去，就自动要求回到陕西防守边境，宋仁宗就把他打发走了。

范仲淹一走，宋仁宗就下命令把新政全部废止。

范仲淹为了改革政治，受了很大打击，但是他并不因为个人的遭遇感到懊恼。隔了一年，他的一位在岳州（治所在今湖南岳阳）做官的老朋友滕宗谅，修建当地的名胜岳阳楼，请范仲淹写篇纪念文章。范仲淹挥笔写下了《岳阳楼记》。在那篇著名的文章里，范仲淹提到，一个有远大政治抱负的人，他的思想感情应该是“先天下之忧而忧，后天下之乐而乐”（意思是“担忧在天下人之前，享乐在天下人之后”）。这两句名言一直被后来的人传诵，而岳阳楼也由于范仲淹的文章而更加出名了。