1958年10月,南京军事学院奉命对蔡铁根进行了“彻底清算”。根据中央批准总政治部关于在军队中执行《中共中央国务院关于在国家薪给人员和高等学校中的右派分子处理原则的规定》的具体办法第一或第二类实行劳动教养或监督劳动为宜,但念其参加革命20余年,于是“研究决定”对他开除党籍、军籍,剥夺军衔,撤职降级(降为行政14级——正团级),调离部队,转交地方分配待遇较低的工作。总政则在1959年4月的批复中又加上了一句可再降一级(降到副团级)……因为对蔡铁根的处理无法可依,他们把他补划为“右派分子”,而其时“反右”斗争已过去一年多时间了。