据史料载，曹汝霖被免职后，避居天津。“五四运动”对曹汝霖的刺激非常深，他发誓不再过问政治，愿做在野之民。
抗日战争期间，日本想延揽旧北洋政府各部次长以上官员出来任职，曹汝霖、陆宗舆、章宗祥都拒绝了。曹汝霖曾公开表示要以“晚节挽回前誉之失”。华北伪政府给曹汝霖挂了个华北临时政府最高顾问和华北政务委员会咨询委员的虚衔，据说他从不到职视事，不参与汉奸任何卖国活动。日本无条件投降后，戴笠进北京捉拿汉奸，首先就把曹汝霖、章宗祥扣了起来。后来曹汝霖写信给蒋介石声明自己从未出任过任何伪职，一直在经商。蒋介石指示戴笠放人。曹汝霖1949年去了台湾，1966年死于美国底特律。
曹汝霖死前在《一生之回忆》中对“五四运动”作了评价：“此事距今四十余年，回想起来，于己于人，亦有好处……唤起了多数人的爱国心，总算得到代价……”
