这时的宰相吕夷简，当初是靠讨好刘太后起家的。太后一死，他又赶忙说太后的坏话。这种狡诈行径，一度被仁宗的郭皇后揭穿，宰相职务也被罢免。但夷简在宫廷中的因缘关系，依然根深蒂固。不久，他便通过内侍阎文应等重登相位，又与阎文应沆瀣一气，想借仁宗的家务纠纷，而废掉郭后。堕入杨美人、尚美人情网的年轻皇帝，终于决定降诏废后，并根据吕夷简的预谋，明令禁止百官参议此事。范仲淹懂得，这宫廷家务纠纷背后，掩藏着深刻而复杂的政治角逐。他与负责纠察的御史台官孔道辅等，数人径趋垂拱殿，求见仁宗面谈。他们伏阁吁请多时，无人理睬;司门官又将殿门砰然掩闭。范仲淹等人手执铜环，叩击金扉，隔门高呼质问：“皇后被废，为何不听台谏入言!”看看无济于事，大家在钢虎畔议定一策，准备明日早朝之后，将百官统统留下，当众与吕相辩论。次日凌晨，妻子李氏牵着范仲淹的衣服，再三劝戒他勿去招惹祸机。他却头也不回地出门而去。刚走到待漏院，等候上朝，忽听降诏传呼，贬他远放江外，去做睦州(今浙江建德市梅城镇)知州。接着，朝中又派人赶到他家，催促着要押他即刻离京。孔道辅等人，也或贬或罚，无一幸免。 这次至城郊送别的人，已不很多，但仍有人举酒赞许说：“范君此行，愈为光耀!”在离开谏职去浙江的路上，范仲淹心中并无悔恨，只是略觉不平：“重父必重母，正邦先正家。一心回主意，十口向天涯!”有人笑他好似不幸的屈原，他却认为自己更象孟轲：“分符江外去，人笑似骚人”，“轲意正迂阔，悠然轻万锺”! 过了几年，他由睦州移知苏州，因为治水有功，又被调回京师，并获得天章阁待制的荣衔，做了开封知府。前时一同遭贬的孔道辅等人，也重归朝廷。范仲淹在京城大力整顿官僚机构，剔除弊政，把工作安排得井井有条，仅仅几个月，号称繁剧的开封府就“肃然称治”。
范仲淹看到宰相吕夷简广开后门，滥用私人，朝中腐败不堪。范仲淹根据调查，绘制了一张“百官图”，在景佑三年(1036年)呈给仁宗。他指着图中开列的众官调升情况，对宰相用人制度提出尖锐的批评。吕夷简不甘示弱，反讥范仲淹迂腐。范仲淹便连上四章，论斥吕夷简狡诈。吕夷简更诬蔑范仲淹勾结朋党，离间君臣。 范、吕之争的是非曲直，不少人都看得分明。偏偏吕夷简老谋深算，善于利用君主之势而最终取胜。仁宗这年二十七岁，尚无子嗣。据说范仲淹曾关心过仁宗的继承人问题，或许谈论过立什么皇太弟侄之类的事。这事虽出于兴旺宋廷的至诚和忠直之心，却不免有损仁宗的自尊。加以吕夷简的从旁中伤，范仲淹便被递夺了待制职衔，贬为饶州知州。后来几乎又贬死岭南。 台官韩渎为迎合宰相意旨，请把范仲淹同党的人名，写成一榜，张挂于朝堂。余靖、尹洙、欧阳修等人，因为替范仲淹鸣不平，也纷纷被流放边远僻地。从此，朝中正臣夺气，直士咋舌。