“解甲归田”之后，他以读书写字、教育子女为乐趣。他的妹妹曾到香港看望他，关麟征生活有规律，洁身自好，每日早睡早起，不吸烟，不喝酒，不打牌。
关麟征喜好书法，他从青年时代就有寻访名碑的爱好。1946年，关麟征得知临潼华清池珍藏有一块北魏元苌的《温泉颂》碑，十分爱慕，想得到这块碑的拓片，特意派随员到临潼县政府交涉。以关麟征当时的地位，想要一幅拓片易如反掌，但他却以法币10万元的巨额馈赠作为临潼县中学生奖学基金，以此“换取”拓片，留下了“儒将”的赞誉。
1980年8月1日，关麟征因心脏病猝发去世。徐向前元帅发去了唁电：“噩耗传来，至为悲恸，黄埔同窗，怀念不已，特此致唁，诸希节哀。”
