新的兵种建设关键，在于有一个新的干部系列。装甲兵创立初期，遇到的一个突出矛盾是严重缺乏干部。许光达向中央军委提出，装甲兵干部不能从战士中直接提拔，一定要走学校培养这条路。这样，装甲兵成为全军第一个实行院校毕业生当军官的部队。
1950年9月1日，我军装甲兵第一所学校———坦克学校(后改称第一坦克学校)在天津光明电影院召开了成立大会暨开学典礼，许光达亲自兼任校长。在坦克学校首期学员的开学典礼上，许光达发表了热情洋溢的讲话，使广大学员倍受鼓舞。他说：“坦克学校的诞生，是人民解放军建军史上的又一创举。建设一支强大的坦克部队，责任就落在了你们的肩上。你们要下决心当中国人民的坦克手，当个坦克专家。党给了我们这样的任务，我们就一定要完成这个任务。”会后，许光达视察位于天津马场道的坦克学校临时校址。这里不仅教室、营房、教员和教材严重缺乏，而且更为严重的是没有训练场地。没有训练场地，装甲兵的实车教学就很难展开，装甲兵学校的一个重要特点也就没有了。许光达报请军委另选了校址。后来，坦克学校迁到天津大王庄。
1952年5月，许光达又将步兵第一八四师师直机关、坦克第五二一团等部合编，在北京郊区长辛店成立了第二坦克学校。学校下辖4个学员大队，1个教练大队。全校共有工作人员1000多人。尔后，许光达又筹备组建了第三、第四、第五坦克学校。1952年9月1日，在(第一)坦克学校成立2周年之际，许光达到校讲话，充分肯定了学校的成绩，同时特别指出培养出的学员要达到“思想意识健康，服从组织，遵守纪律;勇敢，顽强，艰苦朴素，有朝气，有学识，有技术，工作称职”的要求。许光达给当时的坦克学校制订了校规：“勇敢顽强的战斗作风;雷厉风行的工作作风;艰苦朴素的生活作风;虚心钻研的学习作风。”多年来，装甲兵诸多学校始终以许光达制订的这4条为办学方针。
随着坦克部队的迅速发展和正规化、现代化，装甲兵急需中、高级指挥人才，坦克学校那种以初、中级干部培养为目标的办学模式，已经不能满足部队建设的需要。1955年8月，国防部指示军委装甲兵负责筹建装甲兵学院。1958年6月1日，装甲兵学院正式成立，许光达亲自兼任院长，张文舟、黄鹄显、谢锐为副院长，李毅为副政委。许光达亲自参加装甲兵学院的党委会，研究教学、生活、工作关系问题。他经常深入课堂和训练场，参与制定和修改教学大纲，有时还亲自给学员上战术课。装甲兵学院自成立到1966年停止招生，共经历了8个春秋，积累了宝贵的办学经验，形成了一套完整的规章制度，培养军事和政工干部2002人，为装甲兵的发展作出了重大贡献。
1964年3月22日，总参谋部发出通知，要求传达毛主席2月13日在人民大会堂召开的教育工作座谈会上的重要指示。毛泽东指出，现在的教育方针路线是正确的，但方法不对。我看教育改革，这样不行。学制可缩短。课程多，压得太重是很摧残人的。学制、课程、教学方法、考试方法都要改革。7月16日，装甲兵召开院校工作座谈会，按照毛主席对教育工作的指示精神研究解决院校训练体制和任务、教员培养和补充、考试制度改革等问题。许光达对学习掌握全面指挥技能和新时期专业技能的关系问题，战术训练问题，坦克兵怎样才算过硬的问题，以及教与学的问题等，进行了科学的分析和决断，他的讲话统一了与会人员的思想，对各院校正确贯彻中央军委的训练方针，端正训练指导思想，纠正各种偏向，产生了积极的影响。
