正在此时，中共代表周恩来来到上海。在潘汉年的安排下，周恩来与叶挺见了面。周恩来告诉叶挺，他正在与蒋介石谈判国共合作抗日的事，陕北主力红军改编的问题大体就绪后，下一步将谈判改编南方各省红军游击队的事。周恩来表示，考虑到叶挺或许是蒋介石能够接受的人选，因此希望他能够参与这支部队的改编，并出任改编后的领导人。周恩来建议叶挺，在适当的时候可向陈诚等国民党军政要人表示自己愿意领导这支部队，并通过他们争取蒋介石能尽早同意，以便使南方各省红军游击队尽快下山集中，开赴抗日前线。
1937年8月13日，日军大举进攻上海，战火已直接烧到国民党统治的心脏地区，蒋介石的对日态度有所转变，对南方各省红军游击队的改编也有所松动。为了后方安全，蒋介石迫切希望南方各省红军游击队下山集中开赴前线。此时的叶挺重上战场的愿望更加强烈，他找到了正在上海指挥作战的陈诚，表明自己愿意参加改编南方各省的红军游击队，而且建议将这批游击队改编为国民革命军新编第四军，继承铁军的光荣传统，尽快开赴前线对日作战。蒋介石迫于当时的战场形势，同时错误地估计了叶挺，以为叶挺能为其所用，在未征得中共中央同意的情况下，就急急忙忙地由国民政府军事委员会铨叙厅正式通报，“任命叶挺为新编第四军军长”。叶挺没有料到蒋介石会如此快地任命自己为新四军军长，内心深感不安。由于此事还未来得及向中共中央汇报，并未得到中共中央的同意，为此，叶挺从上海来到南京与博古、叶剑英接洽。
11月3日，叶挺前往延安，向中共中央请示关于组建新四军等问题，毛泽东、周恩来、朱德等亲自为他主持召开了欢迎大会。毛泽东致欢迎词说：“我们今天为什么欢迎叶挺同志呢?因为他是大革命时期的北伐名将，因为他愿意担任我们的新四军军长，因为他赞成我党的抗日民族统一战线的政策，所以我们欢迎他。”叶挺则表示：“今后一定遵照党所指示的道路走，在党和毛主席的正确领导下，坚持抗战到底。”11月9日，叶挺离开延安，12日到达武汉。11月13日，叶挺第一次以新四军军长的身份，向新闻界发表了谈话。随后，叶挺带着中共中央关于新四军改编的初步方案来到南京。11月21日，叶挺由叶剑英陪同，与蒋介石商谈改编事宜。蒋介石在新四军的隶属、编制、干部配备等问题上，均否定共产党的方案，并以延安所提新四军干部名单均为共产党员为由，挑拨叶挺与共产党的关系说：“你不是共产党，将来你有性命危险。”叶挺请拨军费，蒋介石不允。叶挺见蒋介石不以合作抗日为重，愤而向蒋介石提出辞职，蒋介石不得不在经费等问题上作出让步。11月下旬，叶挺由南京返回武汉，在汉口设立了新四军筹备处，为新四军的组建开始了艰苦不懈的努力。
