3月下旬，国民党军发起对山东解放区的重点进攻。至4月上旬，打通了津浦铁路徐州至济南段，占领了鲁南山区，打通了临沂至兖州公路，基本实现了其第一步战略目标。
3月27日，已到华东军区司令部驻地的陈毅等人，鉴于国民党军已发起重点进攻，致电粟裕、谭震林（华东野战军副政治委员），并报中共中央、毛泽东主席：华东野战军在胶济路之休整，如可以告一段落，则应考虑作战问题。4月初，如敌第5军等部已到济南之线，集中力量修复津浦路，而济南之敌又拟重占胶济线，则我军可考虑，向敌各师之间隙较大、便于分割，且距第2、第3兵团较远的第1兵团所在地域临沂、东海、新安之间突击。
次日，粟裕、谭震林与参谋长陈士榘致电中共中央及陈毅、饶漱石、张云逸（张云逸，华东军区副司令员）、黎玉，提出：“为粉碎顽之企图，使顽防线延长，逼顽分散兵力和支援华中斗争，以便取得华中可能的物力人力支援长期作战，我们拟以3个纵队（2、7、8纵共82000人）伸入郯城、码头、新安镇。到新安镇后，向西扩张，占领运河线，继而渡运西进，威胁津浦南段之势，诱顽74、83两师南援。”“以我主力5个纵队（1、3、4、6、9）、集结于蒙阴东南、临沂西北地区，待机歼灭南线之74、83两师，或歼灭由泗水向东南增援之11师，或歼灭大汶口向东进犯之第5军。以上部署于4月1号开始运动，14号左右才能打响。如何？望复示”。（《粟裕陈士榘关于四月中旬作战部署向中央、陈饶张黎的报告》，1947年3月28日）中共中央军委复电同意这一部署。
4月1日，华东野战军开始南下。但南下行动于4月3日即被国民党军察觉。随后，国民党军第1兵团即开始向临沂地区收缩，转入防御。为加强第1兵团的守备力量，顾祝同于4月10日急调第7军和整编第48师东开临沂附近，整编第9师进至新安镇地区。同时，国民党军参谋总长陈诚决定：第2兵团的第5军东移太平邑，准备向蒙阴进攻；第3兵团的整编第11师东移费县，准备向青驼寺进攻，以威胁华东野战军的侧背。
因此，华东野战军南下企图未能实现，南下的3个纵队停止在新泰、蒙阴、十字路之线待机。