在中共地方党和解放军的协助下，何、张两人利用官兵对蒋介石的不满，开展多层次的动员、策反工作，争取了一批中、下层军官。1948年10月起，淮海战役酝酿过程中，周恩来就指示华东局派人与何、张联系，组织起义，配合解放军的作战。华野先后派朱林、杨斯德、孙秉超等人进入第3绥靖区，与何，张取得了联系，并根据解放军的要求，进行了起义的准备，计划让出运河防线，控制渡口?桥梁，确保解放军顺利渡过运河。
11月5日，冯治安按徐蚌会战计划的部署，命令各部退守韩庄、万年闸、台儿庄一线。何基沣秘令第77军37师111团将地下党员王世江任营长的第3营留在运河以北，以便与解放军联系。11月6日，解放军第10纵队逼近韩庄，王世江即率部起义。而此时59军的上层军官对起义还没有统一认识，军长刘振三以看病为名放弃指挥去了上海，师团长有的犹豫不决，有的要求推迟起义。而77军军长王长海也称病告假，把部队交给何基沣。何基沣、杨斯德认为形势紧迫，决定于11月8日起义，凡不同意起义者一律就地解决。就在这时，解放军已占领万年闸，并有三个团渡过运河。在解放军步步逼近的压力下，终于一致同意起义。而张克侠由于策反时有所暴露，被冯治安软禁在徐州，为了赶上起义，他几经周折，才摆脱监控于8日上午到达贾汪。
11月8日，何基沣、张克侠率领第3绥靖区第57军38师、180师，第77军之132师和37师111团，共2.3万人在贾汪、台儿庄起义。
11月28日，何基沣、张克侠、孟绍濂(77军副军长)、过家芳(77军132师师长，地下党员)、杨干三(59军38师师长)、崔振伦(59军180师师长)发表联名反蒋通电，宣布加入解放军。
12月9日，毛泽东、朱德致电何、张，盛赞他们的起义。
何、张的起义，使得国民党军的运河防线出现了大缺口，为解放军的三个纵队迅速渡过运河，切断黄百韬兵团与徐州的联系，赢得了宝贵的时间，创造了极为有利的条件。粟裕回忆说："当时只要我们在贾汪多待四小时，战机就失去了。"朱德指出："何、张的起义，打乱了敌人原来的部署，而大部队临时在敌威胁下调整部署，是犯了兵家大忌。"毛泽东称赞何、张起义是淮海战役第一个大胜利。
