1946年9月中旬，国民党精锐王牌74军改编为74师后，堪当了内战的急先锋，分两路向华野大举进攻。74师看着是从军级降为了师级，但人数上却没有减少。这是蒋介石仿制美国的模式，以整编师和集团军的模式指挥部队，74师里还有不少美军顾问和参谋，清一色的美式装备。部队火力强大，单兵作战能力强，军费给的足，整个师在国民党其他部队中都要高人一等，一个普通的士兵都是最低都是班长级别的待遇。
在张灵甫的领导下，74师分别从两个方向向解放区大举进攻。在此之前，山东野战军在陈老总的指挥下对泗县发动了进攻。不幸的是，由于缺乏准备，解放军士兵在两天两夜的激烈战斗中付出了巨大的人员伤亡，仍未能攻下泗县，驻泗县的国民军是桂系精锐第七集团军的一个王牌师。部队遇挫，士气受到影响，在这种情况下，淮阴之战就非常重要了，淮阴是苏皖的首府大城市，马虎不得，必须打胜。再败，山东大片的解放区一旦要丢失，部队士气将大受影响。
华野的各部紧急做好防御工作，准备迎接74师的到来，淮阴的防御之战就此开始了。可惜的是，敌强我弱，不仅在兵力上差异很大，部队的武器装备更是没放比，而进攻淮阴的是74师，国民党军王牌中的王牌。此外，敌机占据了空中优势。在双方实力如此巨大的差距之下，淮阴最终沦陷了，被以74师为主的国民党军占领。
陈毅接连的失败归咎于自己指挥不利，在打通西部京浦线的计划遭到挫败后，他还对自己进行了自我审查。
陈老总说：最近的几场战斗并没有打好，不是因为部队不好，而是因为我这个总司令犯了两个错误。他总结了自己的两个错误：一是先打强敌，就是说不该打泗县。其次，不坚决捍卫淮阴，以至于失去苏皖边境地区的首府。他还谦虚地在电报中表示，他应担当战败的一切过失，并且要对过失负责。
党中央和毛主席收到陈老总的报告后，根据当前情况，党中央也作出了安排，甚至开始计划合并华中野战军和山东野战军，并准备集中力量与国民党军队在山东进行一系列的大决战。党中央发给陈毅的电报中有一句话：“我们要派徐向前同志到鲁，负责指挥鲁南南部前线。你将领导第2、第7师和第九纵队组成了淮海前线，备敌切断陇海时亦有一个时期留在淮海区域”
这封电报的意思很清楚，中央政府向陈毅传达了一个重要信息，即中央有意派徐向前去山东负责一线指挥，接替陈毅所有的指挥权。
当然，陈毅也很清楚中央的意图，他坚定地支持这一决定，于是他向中央回复，欢迎徐向前同志前来主持山东大局。但是，出乎意料的是，陈毅等了20多天，却还没有等徐向前的到来，这是发生了什么？
实际上，中央做出这一决定后，也开始考虑该决定是否可行，在最后的关键时刻，毛主席做出了决定，他拒绝了派遣徐向前接替陈毅的位置，不能临阵更换指挥官。毛主席认为，尽管整个华东野战军在此阶段都出现了一些失利，但总体上是好的。尽管敌人占领了一些城镇，但付出了巨大的代价。解放军已经失去了许多城镇，但基地地区仍然存在，可以随时反击。最后，在毛主席的支持下，陈毅继续担任了领导华东地区的重要任务。
后来，山东野战军和中原野战军共同行动时，中央做出了非常明确的决定，这是对陈毅担任第一任领导人的信任。但是，党中央发布了关于运动指挥的新指导方针，这是战役指挥官的责任。
事实证明，毛主席远见卓识的决定为山东野战军在次年1月成功并入华东野战军奠定了基础。此后，陈粟两人率领华野在华东疾驰，五个月后，他们在孟良谷战役中消灭了国民党王牌74师，并且击毙其师长张灵甫。
陈不离粟，粟不离陈的王炸组合最终形成，陈毅统筹全局的能力十分强，帮粟裕搞好后方和军队建设，粟裕全权负责华野军事。没有陈毅，粟裕搞不定许世友等山东军区的刺头们，山东军区主要由原115师的老八路发展而来，他们不服新四军游击队出身的粟裕指挥，没有粟裕，华野这么大的军事盘子陈毅搞不定。比如粟裕在苏中七战七捷时，陈毅在山东五战五输，但后来陈毅调离华野前往中野时，粟裕直接跟中央不妥协，要求陈毅必须担任华野司令员，而自己担任代司令员，以便遇到刺头时陈毅好开骂。
