陈豪人的公开身份是广西省政府秘书长，实际身份是中共广西军委负责人。他一面在桂系反蒋上层人物中积极开展统战工作，一面深入国民党军队，秘密组织、发动兵运，争取武装力量，为举行武装起义做准备。中央通过各种渠道随后派来的40多名党员干部，绝大部分是通过他的职务方便和单线领导，向俞作柏、李明瑞推荐安排到南宁教导总队担任政治教官或连排军官。不久，他又推荐张云逸任广西警备大队长，李谦任副大队长，由教导总队抽数十名党员任连排长，由此使这支武装掌握在中共手里。他还积极策动俞、李，通令释放“四一二”政变以来桂系军阀逮捕、关押的共产党员和革命群众。
8月底或9月初，中央代表邓小平(化名邓斌)到广西，经中共广西特委负责人雷经天介绍，与陈豪人接上关系，并演出双簧：明的是邓小平在陈豪人的领导下任省政府秘书，暗中则由陈豪人掩护和协助邓小平领导广西党的全面工作。25岁的邓小平已表现出举重若轻、见解非凡的特质。小他3岁的陈豪人则细致谨慎，事必躬亲。中央指示的上传下达，以及党内党外的各种组织工作，大都通过他的单线联系来实现和推动。
俞作柏、李明瑞不听陈豪人劝告，与汪精卫、冯玉祥、阎锡山联合，在南宁誓师反蒋。陈豪人和邓小平积极做好应付俞、李反蒋失败后的一切准备，紧急调遣一批党员干部到左右江各县，加强对当地农军的领导，利用时机，发展革命势力。10月初反蒋失败后，俞作柏经法属越南出走香港，李明瑞因护照原因滞留南宁。陈豪人与邓小平、张云逸、俞作豫(俞作柏之弟，中共党员)、徐冠英等，带领广西警备第四、五大队和教导总队发动南宁兵变。
10月中旬，拥蒋的桂系军阀悬重金通缉陈豪人，陈却和邓小平率领满载火药与粮草的军械船溯右江而上，于10月22日抵达百色，决定先以中共掌握的武装力量在右江举行起义，拟定前敌委员会名单作为起义的最高领导机构。11月2日，中央同意在左、右江地区武装起义和创建红军，并限定起义日期不晚于1929年11月7日(十月革命纪念日)。
据张云逸回忆，接中央这份来电时，邓小平已离开百色。邓小平本人1968年6月20日写的《我的自述》中也说：“我在同张云逸等同志作了布置之后，于11月初由百色去龙州……”22岁的陈豪人挑起了主持前委全面工作的重担，他和37岁的张云逸经与士兵代表一起研究，认为中央给的起义日期不切实际，建议改到40天后的广州暴动两周年纪念日。
邓小平走后第二天，警备第五大队蒙志仁部突然在龙州叛变，随后中央来电，欲让邓小平留桂坐镇，但已来不及追回。
起义迫在眉睫，成分复杂的起义部队又处在敌人的监视和包围中，面临决战，思维缜密、办事干练的陈豪人勇挑重担，周密安排：一方面动员、整顿、清洗以旧式军队为主组成的起义部队;一方面发动群众扑灭豪绅武装，武装农民，组织工会、农会，建立地方党部，筹措战备物资及经费。12月10日，前委在百色分别召开了工人、士兵和农民代表大会，进行革命动员工作，撤换军中的反动军官，采取措施，有效控制了百色县长等危险分子，迅速收缴了百色公安局、禁烟局和那坡、平马、果化等城镇大商团的枪支。陈豪人领导政治部拟定《中国工农红七军目前实施纲领》、《前委通告》。“实施政纲”第四条日后被证明极具前瞻性：“扩大红军割据区域，迅速与朱毛会合，实现割据两广!”“推翻军阀国民党政府，建立工农兵代表会议苏维埃政府!”陈豪人在住地清风楼指导创办了《右江日报》，许多决策、命令、标语、文告从清风楼传向右江两岸，清风楼成为百色起义的神经中枢。
