1937年8月，国共达成协议，红军主力改编为国民革命军第八路军。王新亭被任命为八路军一二九师政治部组织部部长。一二九师师长是刘伯承，副师长是徐向前，倪志亮是参谋长，张浩是政训处主任。
八路军一二九师的初期工作是落实毛泽东的指示：“应照每师扩大三个团的方针，自筹枪支、军饷。实行减租减息，废除苛捐杂税，团结左翼力量，而以大部兵力尽量分散于各要地，发动群众，武装群众。”按照分工，师政治部副主任宋任穷、组织部部长王新亭、宣传部部长刘志坚率七七二团，分赴山西的沁县、长治、晋城、高平、武乡、平顺、壶关、安泽等地区开展群众工作。出发前，刘伯承对宋任穷、王新亭和刘志坚说：“晋东南是毛主席选定的下棋的‘眼位’，我们一定要把这个‘眼’做起来。”
1937年10月，王新亭对外以三八六旅政治部主任的身份，率七七二团3个连队到达长治。当天，王新亭拜会了国民党军第二军团司令官汤恩伯。
长治是上党地区的中心，阎锡山的第五行政公署所在地。第二天，王新亭去会见公署主任续济川。
在接下来的日子里，八路军深入大街小巷，贴标语，发传单，演讲又表演，抗日宣传搞得有声有色，群众参加八路军的热情很高。但是，一股谣言也在悄悄地出现：“八路军仅仅是宣传工作做得好，参军与日本人打仗就是去送死。”“八路军过黄河到山西，是来抢地盘的，根本不是来抗日的。”“参军不如保家乡，保家乡还是参加保安队好!”等等。
宣传抗日和参加八路军的工作，在谣言面前，受到了影响。王新亭一深入调查，发现这些都是阎锡山的第五行政公署一个叫聂士庆的科长搞的鬼，并搜集到了他的一次私下谈话记录。于是，王新亭拿着证据，到行政公署找续济川，严肃地责问：“八路军到山西来抗战，这是国民党同意了的;委员长也曾说过：‘地无分南北，人无分老幼，无论何人皆有守土抗战之责任。’这是你们知道的吧?!为什么有人故意散布种种谣言，阻挠我军的动员工作?”
