刘伯承从严办院办出了麻烦
1950年下半年，刘伯承得知中央要办一所教育、训练中高级干部的陆军大学时，立即提笔给中央写了一封信。他恳切地写道：“要建设一支现代化的军队，最难的是干部的培养。而培养干部最难的又是高级干部的培养。我愿意辞去在西南担任的一切行政长官的职务，去办一所军事学校。战争已经结束了，我年龄这么大了，还是让我去办学校吧!”
党中央很快批准了刘伯承的请求。
刘伯承考虑到将来要开设空军系、海军系，建议将原先准备命名的“陆军大学”，更名为“军事学院”。南京军事学院筹办以后，刘伯承任院长兼政委。学院建在原国民党陆军军官学校和国防部旧址上。
刘伯承对学员要求很严。刚入校时，学员坐的是皮沙发凳子。他看到后说：“当学生的，就是要坐硬凳子，屁股那么娇贵呀?”他还引用“慈不掌兵”的古语来说明这个道理。于是大家都换成了硬凳子。外出作业时，学员都提着马扎，背着图囊。小孩子们看见了都很吃惊，说：“哎呀，老伯伯怎么还背着书包上学呀?”他本人也以花甲高龄，坚持保持着模范军人的仪表、姿态。到院部大操场会操要走很远的路，刘伯承每操必到。晚上他亲自检查内务。因为右眼失明，左眼视力也很微弱，他总是把腰弯得很低，查看被子是否叠得整齐。如果不够整洁，他会立即批评：“你们住的这个屋像个乱鸡窝，农民习气，农民习气!”
1955年，印尼总统苏加诺访问南京，参观南京军事学院。由于刚授衔，学院决定校级以上军官，身着新发的礼服，佩戴勋章夹道热烈欢迎。不巧，天下大雨。有人建议将欢迎仪式改到礼堂内进行。刘伯承说，事关国威军威，哪能随心所欲，坚持按原计划办。他自己身着元帅礼服，不打雨伞，冒雨迎接苏加诺。陪同苏加诺总统来院的陈毅元帅见状也不要雨伞。两位元帅英姿焕发，冒雨欢迎外宾，令苏加诺一行深受感动，给许多人留下了刘伯承严格治军的深刻印象。连一个旧国民党留用教员都说：“我进过国民党的黄埔军校和陆军大学，国民党训练也讲究严格，但比起你们共产党来，差得远了!”
20世纪50年代初，“学习苏联老大哥”的口号在军队里叫得很响。虽然中国军队打的仗不比苏军少，经验也不比苏军差，但当时的中国军队还来不及总结整理自己的经验，军事学院也只能先利用苏军的现成教材。刘伯承明确提出： “我们学习外国经验的时候，必须反对教条主义的学习方法，学以致用是我们的原则。”
