蔡孝乾在中央苏区工作两年多，接触过不少党政军领导人，如周恩来、项英、毛泽东、刘伯承等。在回忆录中，蔡孝乾对当时中央苏区的土地斗争、查田运动、扩红运动、财经运动、劳动政策、文教工作、肃反工作、合作化运动，以亲身经历与历史相结合，写出了珍贵的第一手资料。
1934年10月，蔡孝乾参加了中央红军的长征。穿越草地是长征最为艰苦的阶段之一，党和红军干部在途中大量死亡。凭着毅力，蔡孝乾追随大部队，完成长征壮举，到达陕北。蔡孝乾由此成为唯一一位参加过长征的台共干部——这是他最大的政治资本。长征途中，他与老一代无产阶级革命家培养出革命感情，为其后来成为台湾地下党最高领导埋下伏笔。
蔡孝乾后来曾回忆他随叶剑英指挥的中央纵队长征的情况。他亲眼目睹了红军惨烈的渡湘江战役：“伤员一抬一抬的被送到后面去……到这个时候为止，红五师已经有一个师参谋长、两个团长、一个团政委相继阵亡了，另有两个团长和一个团政委受伤了，连、营级干部的伤亡更多……”
1937年抗战爆发后，蔡孝乾随八路军总部赴山西抗日前线。1938年任八路军总部野战政治部敌工部部长(至1939年)，负责管理日俘和对敌宣传，战斗在太行山前线，对日军和汪伪军队进行心战工作。后因前线形势严重，在党中央“保存干部”的政策下，蔡孝乾被调回延安。
【中共台湾省工委的盲目乐观】
1933年，日共被日本政府查禁消灭。原本作为日共一个支部的台共，在中共的协助掩护下，总算得以存活。二战结束后，台湾重归中国版图，台共纳入中共党组织，成为直接受中共领导的省级党组织。中共中央在延安成立了“台湾省工作委员会”，指定台籍干部蔡孝乾为负责人。蔡孝乾向组织请调林英杰、洪幼樵和张志忠(台湾嘉义人，时在新四军工作)等人潜返台湾。
1946年5月，中共台湾省工委在台湾正式成立，蔡孝乾任书记，陈泽生任副书记兼组织部部长，洪幼樵任宣传部部长。陈泽生和洪幼樵成了蔡的两个最重要助手。(抗战前陈泽生在左翼作家联盟时就加入了中共，奉命随蔡来台时，已是有十多年党龄的老党员了;洪幼樵抗战时在福建打过游击，具有武装斗争的经验。)7月，蔡孝乾回到台湾，开始全面主持中共台湾省工委的工作，地下党正式在台运作。
由于蔡孝乾离台已有十八载，家乡人事全非。他对战后初期台湾的政治和社会情况颇为生疏，因此只好侧重于联络老台共党员以发展组织，但成效并不显著。据国民党情报治安部门公开出版的资料显示，迟至1947年台湾“二二八”起义爆发前夕，台湾省工委所招收的党员不过70余人，在起义中起不了多大作用。但此后组织发展迅速。截至1949年底，所属党员已达1300多人。1949年时，以蔡孝乾为领导的中共台湾省工委一面采用合法的统一战线的路线，将组织渗透到国民党政府各机关里面去，发动工潮和学潮，引起台湾社会秩序的动荡，以孤立国民党的统治;一面想采取游击战术，利用台湾人民的反蒋情绪，在各地建立武装组织，即成立“武装工作队”发动起义，夺取政权，来达到推翻国民党统治的目的;同时在党的建设方面，积极发展组织，借以壮大队伍。
随着1949年4月解放军横渡长江，解放台湾的工作提上了议事日程。1949年春，中共台湾省工委向各级地下党同志下达了工作方针：“各级党的组织，必须将每个党员、积极分子动员起来，在一切为了配合解放军作战的总口号下，立即转入战时体制，建立必要的战时机构。”中共台湾省工委曾向中共中央提出《攻台建议书》：“如果我们的攻台计划，需要考虑季节风势的话，则攻台日期应以明年(1950)4月最为适当。”1949年12月，中共台湾省工委又发出了题为“怎样配合解放军作战”的指示，指出：“台湾的解放更接近了，台湾的解放是肯定的，而且为期是不远的。台湾的解放主要依靠人民解放军从外面打进来……台湾组织的任务是很迅速很切实地来准备力量配合解放军作战。”
【“老郑”第一次被捕，记事本暴露“吴次长”】
但是局势很快急转直下。1949年12月，台湾当局建立“国防部总政治部”，由蒋经国出任主任，国民党军警对中共地下党组织展开有效破坏。从1950年1月起，军警相继逮捕杀害多名台共地下党员。
1949年7月，有人捡到一份台共刊物《光明报》，转交国民党台湾省主席陈诚。蒋介石大为震怒，限期破案。高雄警察局很快抓到4名持有《光明报》的台大学生，保密局侦防组组长谷正文约谈4名学生。学生戴传李承认，报纸是从妹妹戴芷芳处所得，而戴芷芳的上线是基隆中学校长、台共基隆工委书记钟浩东。《光明报》就是基隆市工委的宣传刊物。谷正文马上逮捕了钟浩东，并搜出《光明报》的印刷器材及宣传资料。钟浩东被捕后自知一死，慷慨地说：“这次我们失败了，我们难逃一死，但是，我们能为伟大的祖国、伟大的党在台湾流第一滴血，我们将光荣的死去!”夜以继日的讯问，让钟浩东濒临崩溃，恍惚间，他反问审问他的保密局侦防组组长谷正文：“老郑怎么样?”这句话犹如导火索，引发了另外44名地下党员的被捕。钟浩东及其夫人蒋碧玉，以及部属罗卓才、张奕明等7人在台北被枪决。
“老郑”就是蔡孝乾，但钟浩东并未透露谁是“老郑”。这引起了谷正文的警觉，意识到“老郑”是个大人物。很快，台共高雄市工委负责工运的党员李汾被保密局特务抓捕。谷正文为了“钓大鱼”，故意释放了李汾。1949年10月中旬，为求自保的李汾悄悄回到保密局高雄站送情报。李汾告诉谷正文，他的上级和他约好，10月31日在高雄市农会前碰面。这样，中共台湾省工委副书记陈泽民被捕。特务在陈泽民身上搜出记事本，里面又出现了“老郑”的名字。陈泽民不愿意供出老郑是何许人，只说他见过老郑几面。特务刑讯逼供，陈泽民熬不住，被迫说出了老郑落脚处的地址：台北市泉州街26号。保密局立刻派出一组人员在屋内外隐秘处轮班守候，埋伏了整整一个多月没有任何结果。
在高雄逮获陈泽民以后，保密局又把矛头指向中共台湾省工委武装工作部部长张志忠。1949年12月29日，张志忠在台北万华区老松公园被捕。1950年1月29日，化名“老郑”的蔡孝乾被捕。“老郑”只报了假名字和假身份，却要求提供美餐。被称为军统“活阎王”的谷正文晚年曾撰写《蔡孝乾吴石系列潜匪案侦破始末》一文，在文中他回忆第一次审讯：“当时，蔡孝乾是一个相当自负的中年男子，在他心里，总认为共产党很快就会将奄奄一息的国民党赶入海中。而在解放台湾的任务上，居功最大的，无疑地便将是蔡孝乾本人。他一直无法相信自己竟会落入国民党手中这件事。”谷正文承认：“我并不期望这种友谊攻势很快就能收买蔡孝乾，因为我了解，他和台大四名学生不同，他的党龄很深，党性很强，在我找出他的真正弱点之前，友谊攻势的效果是有限的。不过，我并不心急，只要他——我直觉他若不是台共的头号领导人，至少也是领导人的左右副手——在我手中，肃谍的工作很快就会结束了。”
谷正文认为，“老郑”有追求享受的弱点，便天天给他买饺子。一周后，“老郑”终于说出“想着牛排的味道都快想疯了”的话，并指定要到台北最高档的波丽露餐厅买。吃完后，“老郑”又说：为表示感谢，可带他们找共产党的一个据点。立功心切的3个小特务便让“老郑”带路，结果走进一个黑暗厂房时，“老郑”突然跑掉。
蔡孝乾被捕时，公文包里记事本上的一串名单中有“吴次长”三字，“国防部”中将参谋次长吴石直接暴露。由于吴石身居高位，又与保定军校同学陈诚及时任参谋总长的周至柔是莫逆之交，保密局并未轻举妄动。蔡孝乾叛变后，保密局还在他身上一张拾元的新台币钞票上发现了两个电话号码，其中一个便是他直接联系的华东局特派员朱枫。1950年2月底，保密局特务闯进吴石寓所，称有人指控他是共产党，请他去队部问话。吴石当面驳斥，特务搜查后带走其夫人王碧奎。经讯问，王碧奎承认“老郑”曾多次到吴家，吴石的地下党身份暴露。1950年3月1日，保密局正式逮捕吴石。
