西安事变和平解决以后，从1937年2月开始，中共中央的代表和国民党中央的代表在西安、杭州、庐山多次会晤，就两党合作抗日和红军改编举行谈判。
在谈判中，共产党方面就提出了坚持南方3年游击战争的红军游击队的改编问题。与此同时，南方8省的红军游击队也分别向当地国民党军政当局发出了和平谈判的呼吁。
但是，国民党却实行了所谓“北和南剿”的方针，在西北基本上停止了对红军主力的进攻，在南方则调集重兵加紧对红军游击队的“清剿”。在“清剿”未达到目的后，又想以抗日之名收缴瓦解红军游击队。
中共中央考虑到，南方各游击区是今后南方革命运动的战略支点，不应该轻易地放弃。因此，起初的想法是将各边区红军游击队改编为独立团、民团或保安团等地方武装形式；各地队伍不集中，不要求大地方，不脱离根据地，坚持在原地开展抗日斗争。
但是，随着局势的迅速变化，这一构想很快作了新的调整和改变。
西安事变和平解决后，围绕着如何实现国共合作共同抗日，国共两党1937年先后在西安、杭州、庐山和南京进行了五次重要的谈判，最终在9月实现了第二次国共合作。
在庐山一共进行了两次谈判，在由中共代表周恩来、博古、林伯渠同蒋介石、邵力子、张冲之间进行。第一次是1937年6月4日至15日第二次为7月13日至18日。
13日，中共代表周恩来、博古、林伯渠抵达庐山。图中从左往右为周恩来、博古、林伯渠在庐山合影
谈判体现了国共坚持合作抗战的民族大义和正确方向，在两党合作形式上达成共识，保留了中国共产党的名称，确定了红军改编和辖区政府组成等问题。
谈判中，蒋介石放弃了要朱德、毛泽东出洋的提议，同意了释放被关押的共产党员，而他预设的对共严格方针，多半未能落实。
7月15日，中共中央将《中国共产党为公布国共合作宣言》送交国民党。不久，国民党中央通讯社发表了这个宣言，标志着抗日民族统一战线正式形成。
宣言中，中国共产党提出：
“取消红军名义及番号，改编为国民革命军，受国民政府军事委员会之统辖，并待命出动，担任抗日前线之职责。”
正在国共谈判期间，北伐名将叶挺离开寓居的澳门来到上海。
1927年大革命失败后，叶挺先后流亡苏联、德国、法国等地，1930年春，周恩来来到柏林，发现叶挺对革命失去了信心，就与他促膝长谈。同时，旅居德国的廖承志等人也曾不断鼓励。
1931年，国内形势的发展使得叶挺再也不能呆在国外，“九一八”事变后，他每天翻阅大量报刊，密切注意国内局势。但是，由于远居海外，消息毕竟太少，也来得太慢。为此，叶挺离开德国，来到澳门，结束了海外流亡生涯。
此时，中央给在香港做统战工作的军委后方司令部参谋长张云逸下达任务，请叶挺复出，参加抗战。
张云逸和叶挺是老朋友，又都是广东人。他们在北伐战争时期就结下了深厚的革命情谊。
1937年8月，张云逸在地下党员柯麟医生带领下到澳门会见叶挺。张云逸代表中共中央向叶挺介绍“七七事变”爆发后中央实行的战略转变：
与国民党合作抗日，拟将南方各省红军游击队改编为国民革命军。改编部队的军长必须是国共两党均能接受的合适人选。中共中央敦请叶挺复出组建改编这支部队。叶挺闻言激动不已，当即表示绝不辜负共产党对自己的信任。
张云逸向叶挺介绍了西安事变的发生、中共处理西安事变的方针政策及和平解决西安事变的经过，介绍了国共谈判的进程，分析了国共重新合作的趋势，详谈了中共中央关于抗日民族统一战线的政策等，鼓励叶挺出来参加抗日救国神圣事业。
其实，在三年多以前，即1933年11月福建事变时，张云逸与叶挺就在福州见过一次面。当时，张云逸正受中共中央派遣，担任第十九路军的军事联络员。而叶挺以“客座参谋”身份，在福州帮助事变策划。
两位老友在福州相遇，十分高兴。叶挺向张云逸详细介绍了广州起义失败以后自己的遭遇与心态，表示盼望能与党组织取得联系，争取党的帮助教育。
张云逸亲切慰勉叶挺，向他介绍了当前国内革命斗争形势的发展和中央苏区的情况，以及中共对福建事变的态度。张云逸答应将叶挺的要求转达给党中央，派人与他联系。
紧接着，，叶挺从澳门回到上海，国民党当局曾派陈诚等人进行专门会见，想利用他在北伐战争中的威望，委任他担任国民党军的高官要职。但叶挺表示，自己不求高官厚禄，只求为抗战出力。
正在此时，中共代表周恩来也来到上海，在潘汉年的安排下，周恩来与叶挺见了面。
周恩来对叶挺说：“希夷，我正在和蒋介石谈判，主要是谈我们陕北红军部队改编的问题。”
叶挺听着，十分高兴，看来国共两党真的有机会联合起来一致对付日本帝国主义了。
周恩来说：“除了陕北的红军问题，还有南方8省的游击队问题，他们也要改编。这也要看蒋的态度。”
叶挺说：“为了抗日，这恐怕没什么问题吧。”
考虑到叶挺或许是蒋介石能够接受的人选，因此，周恩来希望他能够参与这支部队的改编，并出任改编后的领导人。
周恩来以商量的口气问道：“如果能谈通，希望你能参加这些部队的改编工作。怎样？”
叶挺回国本意就是为抗日报国，于是，他对周恩来的这一建议欣然答应。
周恩来建议叶挺，在适当的时候可向陈诚等国民党军政要人表示自己愿意领导这支部队，并通过他们争取蒋介石能尽早同意，以便使南方各省红军游击队尽快下山集中，开赴抗日前线。
叶挺申明完全接受中国共产党的领导，并开始向南京国民政府积极活动。
1937年8月13日，淞沪会战爆发。8月18日，蒋介石被迫同意红军主力改编为八路军。
淞沪战事爆发后，南京、上海、杭州及长江下游地区形势不断恶化，中共中央又向国民党当局提出了统一整编南方各区红军游击队，开赴华中敌后抗战的建议，得到同意。
此时的叶挺，重上战场的愿望更加强烈，他找到了正在上海指挥作战的陈诚，表明自己愿意参加改编南方各省的红军游击队。
而且，他还建议将这批游击队改编为国民革命军新编第四军，继承铁军的光荣传统，尽快开赴前线对日作战。
9月下旬，中共中央和八路军驻宁代表博古、叶剑英等，在南京同国民党代表何应钦、张冲等谈判，初议将南方8省14地区的红军游击队改编为一个新的军，在南方举起抗日旗帜。
蒋介石迫于当时的战场形势，同时错误地估计了叶挺，在他看来，叶挺在国外过了10年流亡生活，已脱离共产党且失去了共产党信任。
于是，在未征得中共中央同意的情况下，9月28日，就急忙地由国民政府军事委员会铨叙厅正式通报，任命叶挺为新编第四军军长。
叶挺旧照 图片来自网络
叶挺没有料到蒋介石的任命会如此之快，内心深感不安，由于此事还未来得及向中共中央汇报，并未得到同意，为此，他从上海来到南京与博古、叶剑英接洽。
博古、叶剑英考虑到党中央还不太清楚叶挺主动“请缨”这一内情，便于10月8日与董必武联名致电中央：
“叶挺事，据他说，恩来第一次在沪曾和他提过这个办法，故他才敢活动。现已委任为新四军军长，拨发了五万元活动费。他表示，如我们不赞成，他仍可辞职。”
电报正式向中央提出“南方游击队集中编为一个属我党直接领导的军”的建议。
蒋介石认可“新四军”，是他任总司令的北伐军中有个第四军。毛泽东认可“新四军”，是他创建人民军队的第一个军是红四军。
毛泽东虽然认可“新四军”这个番号，但对叶挺改编南方红军游击队却不完全放心。
虽然，叶挺归国后见到周恩来时有一个表态，但中央对他的政治态度和立场还缺乏全面掌握，需要有一个考察了解的过程。
10月9日，毛泽东致电正在南京同国民党谈判的博古和叶剑英，询问叶挺是否愿意恢复党籍或完全接受党的领导，而不受国民党的干涉，并是否愿意到延安来一趟。
叶挺获知后明确表示，愿意接受中国共产党的领导，并决定赴延安。
10月12日，国民党江西省主席熊式辉转发蒋介石10月6日电令：
赣粤边、湘鄂赣边、闽赣边、湘赣边、皖浙赣边、浙闽边和闽西等地红军游击队，统交国民革命军新编第四军军长叶挺编遣调用。命令还要求叶挺等迅速组编部队，向华中敌后进发。
10月18日，中共中央致电博古、叶剑英、董必武等，同意南方八省红军游击队集中改编为一个军的建议。
10月下旬，叶挺抵南京八路军办事处，与八路军参谋长叶剑英会见，商谈关于组建新四军的有关问题。
大家详细地交换了意见，充分估计了可能遇到的各种困难与问题。叶挺坚定地表示：“麻烦还多着呢，管他，新四军是要搞起来的，你看吧！”
10月30日，中共中央作出决定，将南方各地红军游击队集中五分之三改编为一个军，以叶挺为军长，项英为副军长，陈毅或刘英为参谋长，反对国民党插入任何人。以4个月为清理时间，任何游击队、游击区均须党中央派人亲去传达，然后集中。
11月3日，叶挺专程前往延安，向中共中央请示关于组建新四军的工作问题，党中央在延安为叶挺开了一个欢迎大会。
叶挺受到党中央如此隆重的欢迎与款待，心情十分激动。他在会上表示：
“同志们欢迎我，实在不敢当。革命好比爬山，许多同志不怕山高，不怕路难，一直向上走。我有一段爬到半山腰又折回去了，现在又跟上来。今后，一定遵照党所指示的道路走，在党和毛主席正确领导下，坚持抗战到底。”
在叶挺到达延安的同时，项英奉命也于11月7日抵达延安，他向党中央详细地汇报了南方三年游击战争和红军游击队谈判改编的情况。
在延安时，叶挺同项英见了面，一起研究了南方红军游击队改编和新四军组建事宜。
叶挺在延安一共逗留了6天，于11月9日离开延安，先行前往武汉，负责新四军军部的筹建工作。
武汉的新四军军部旧址，汉口大和街26号。
11月12日，叶挺到达武汉。为了便于工作，他选中了离武汉八路军办事处只有一街之隔的大和街26号作为新四军的办公用房，并挂起了“新四军筹备处”的牌子。同时，等待副军长项英的到来。
第二天，叶挺第一次以新四军军长的身份公开亮相，向新闻界发表了谈话，揭露日本帝国主义侵略中国的罪行，强调“只要团结一致，前途一定是胜利”。
同时，叶挺还在汉口就新四军具体编制，以及部队活动范围等问题与何应钦反复磋商。
12月14日下午，中共中央政治局召开会议，讨论新四军的编组原则问题：
其一，各游击区的红军和游击队，大部分要下山集中，主力要到抗日前线去，以增强抗日力量，并扩大中国共产党的影响。同时，各游击区应留一少部分武装坚持，以求得将来的发展。
其二，撤销中共中央分局，成立中共中央东南分局和中共中央革命军事委员会新四军分会，由项英、曾山、陈毅、涂振农等人组成。以项英为书记，曾山为副书记，负责领导东南各省党的工作；
军分会以项英、陈毅、张鼎丞、曾山等为委员，项英为主席，即后称书记，陈毅为副主席，即后称副书记。
随后，叶挺带着中共中央关于新四军改编的初步方案来到南京。11月21日，叶挺由叶剑英陪同，与蒋介石商谈改编事宜。
蒋介石在新四军的隶属、编制、干部配备等问题上，均否定共产党的方案，并以延安所提新四军干部名单均为共产党员为由，挑拨叶挺与共产党的关系说：
“你不是共产党，将来你有性命危险。”
叶挺请拨军费，蒋介石不允。叶挺见蒋介石不以合作抗日为重，愤而向蒋介石提出辞职，蒋介石不得不在经费等问题上作出让步。
经过叶挺、项英、陈毅等与国民党当局的多次协商，双方就新四军的建制、编制、干部、装备、经费等达成了相关协议。
在建制问题上，国民党当局不同意新四军隶属八路军，经过反复商讨，最后确定隶属于第三战区，第四支队则由第五战区管辖。
在编制问题上，军以下不设师、旅，军部直辖四个游击支队，每个支队设两个团，国民政府军事委员会总体上同意这个方案，
关于干部配备，国民党一再要派人担任新四军各支队直到团营的军职，被共产党拒绝，最后的协议是在军和支队，可以由国民党军事当局派驻联络副官。
关于装备和经费，国民党竟要新四军自行解决，后来商定由第三战区拨给，但标准略低于国民党军。
1937年12月，新四军军部领导人在武汉合影，左起周子昆、张云逸、叶挺、项英、曾山。图片来自
12月下旬，叶挺由南京返回武汉，23日，项英来到武汉，与叶挺等人商讨和部署新四军的组编工作。
25日，在筹建处召开了新四军干部大会，出席大会的人员除了叶挺、项英等主要领导人外，还有部分游击区的领导人，中共中央派来的第一批干部，如赖传珠、李子芳等，以及叶挺动员来新四军工作的军事、医务人员和文化工作者，如朱克靖、叶辅平、沈其震等，共50余人。
会上，叶挺、项英分别以抗日战争形势和新四军的任务为题做了重要讲话。这次会议，标志着新四军军部的正式成立。
12月27日，项英就新四军的编制和主要干部的配备等问题致电毛泽东、张闻天等中央领导。次日，中共中央批准了新四军编四个支队和支队以上干部人选，随后报送国民政府军事委员会核定。
1938年1月4日，项英率领新四军军部工作人员从汉口乘船去南昌，叶挺留在武汉继续办理同国民党交涉的有关事宜。
1938年1月6日，项英、张云逸、周子昆等到达南昌与陈毅等人会合，即在南昌市三眼井高升巷张勋公馆，以新四军军部名义正式对外办公。
在此期间，首先建立新四军的领导机构。正式确定:
叶挺任军长，项英任副军长，张云逸任参谋长，袁国平任政治部主任，周子昆任副参谋长，邓子恢任政治部副主任。
其次，健全军部内部机构设制。司令部建立参谋处、军法处、副官处、军需处、军医处、秘书处，政治部建立组织部、敌工部、民运部，并开始工作。
同时，分批派员赴各地传达中央指示，动员、指导红军游击队集中整编，指挥部队向安徽岩寺集结，筹备各种军需物资，建立新四军兵站。
4月4日，新四军军部从南昌出发，迁往安徽。
