毛泽东虽认可“新四军”这个番号，但对叶挺改编南方红军游击队却不完全放心。因叶挺已不是共产党员，所以没有推选叶挺为军长人选，而中共推荐的其他人选，国民党反对。国民党随之提出由陈诚或张发奎指挥“新四军”，中共不同意。国共两党在南方红军游击队改编后由谁指挥这支抗日武装相持不下。9月28日，蒋介石突然单方面委任叶挺为新四军军长。在蒋介石看来，叶挺在国外过了10年流亡生活，已脱离共产党且失去了共产党信任，想乘机把叶挺拉过去，通过叶挺把红军游击队抓在自己手里。
中共中央没有立即同意叶挺就任新四军军长，因为叶挺长期寓居海外，虽然归国后见到周恩来时有一个表态，但中央对他的政治态度和立场还缺乏全面掌握，需要有一个考察了解的过程。10月9日，毛泽东致电正在南京同国民党谈判的博古和叶剑英，询问叶挺是否愿意恢复党籍或完全接受党的领导，而不受国民党的干涉，并是否愿意到延安来一趟。叶挺获知后明确表示，愿意接受中国共产党的领导，并决定赴延安。
10月12日，国民政府军事委员会宣布，南方8省14个地区（不含琼崖）的红军和游击队，改编为国民革命军陆军新编第四军，军长叶挺、副军长项英。中共认可叶挺任新四军军长，同时决定成立以项英、陈毅为正副书记的军委新四军分会，以加强党对新四军的领导。
11月3日，叶挺到达延安，受到热情欢迎，毛泽东致词：“我们今天为什么欢迎叶挺军长呢？因为他是大革命时代的北伐名将，因为他愿意担任我们新四军军长，因为他赞成我党的抗日民族统一战线的政策，所以我们欢迎他。”叶挺激动地说：“同志们欢迎我，实在不敢当，革命好比爬山，许多同志不怕山高，不怕路难，一直向上走。我有一段爬到半山腰又折回去，现在又跟上来。今后，一定遵照党所指示的道路走，在党和毛主席正确领导下，坚决抗战到底。”
11月9日，叶挺告别延安回到武汉。12月25日，新四军军部在汉口成立。1938年1月移驻南昌，2月部队开始集结整编。全军1.03万人，编为4个支队：第1支队司令员陈毅，第2支队司令员张鼎丞，第3支队司令员张云逸，第4支队司令员高敬亭。
改编结束后，新四军向皖南、皖中集结，整训后开赴华中敌后开展抗日游击战。
