八路军的胜利发展，给驻在鲁南地区的日伪军造成严重威胁，特别是白彦被八路军115师攻占后，日伪军更是恼羞成怒。4月中旬，敌人集中了第12集团军第32、第21师和独立混成第6、第10旅各一部及部分伪军近8000人的兵力，分别从邹县、滕县、枣庄、峄县、临沂、费县等据点，分十几路出动，向抱犊崮山区根据地，进行大规模的春季“扫荡”，企图乘青纱帐未起来的时候消灭115师。
日军在这次“扫荡”中更加阴险狡猾。进攻部队采取宽大正面和梯次配备，并于夜间行动，先以伪装八路军游击队的小部队为先导，主力则避开大路，隐蔽前进。各路敌人互相策应，步步为营，首先在边沿区“扫荡”了一个星期，从21日起，向大炉中心区形成了大的合围。
这时，罗荣桓正在主持召开全师政治工作会议。敌人“扫荡”的消息传来，有的同志建议会议停止进行，罗荣桓冷静地分析了敌情，决定继续把会议开完。敌人采取的是分进合击的战术，大有鲸吞我根据地之势。罗荣桓与陈光确定的对策是，尽量使集中之敌分散，以粉碎敌人的合击。除师直机关率特务团2个营，配合鲁南地方武装坚持内线与敌周旋外，其他主力部队均置于外线，从背后拖敌人的腿。
罗荣桓把潘振武叫来，要他带着峄县县大队，打着东进支队的旗号，大张旗鼓地到郯城码头一带去，沿途都用东进支队司令部、政治部的名义号房子，把敌人的注意力吸引过去。潘振武走后，政工会议在罗荣桓主持下继续进行。4月21日，他在吴家沟作了政工会议的总结报告。
面对8000多敌人的“扫荡”，罗荣桓异常沉着镇定。留在山区内的机关多，战斗部队少，为了缩小目标，便于机动，师司令部、政治部和鲁南三地委都分散活动。罗荣桓率领师政治部机关，只有1个特务连掩护，单独与敌人周旋。
有一天，峄县支队王六生带的一个连队，和康矛召带的另一个连队与大队失去联络，在路上相遇。他们听说罗政委身边只有1个连队，就在附近活动，马上派人送去一封信，说明有2个战斗连队就在这里，愿意不避任何艰险，保卫首长和领导机关。在四面敌情异常严重，而又缺乏警卫部队的时候，他们以为罗政委接到信后一定很高兴地把他们留下。但是，罗荣桓考虑的是战略全局，而不是个人安危，他立即写了回信，说明他不需要警卫部队，叫王六生、康矛召赶快到外线去，执行原定的任务。
罗荣桓把政治部的干部、宣传队的宣传员和机关勤杂人员，分别组成战斗班，有的担任警戒，有的外出侦察敌情。有一次，罗荣桓派组织干事周之同和一个油印员换了便衣出去侦察。他们没有侦察经验。罗荣桓耐心地教给他们如何分辨敌人的马蹄印、炮车印，如何监视敌人和如何及时报告。罗荣桓准确地掌握着当前的敌情，有时在几路敌人中间穿隙插空；有时尾随一路敌人，不即不离，与敌人捉迷藏。
罗荣桓率师政治部转移到核桃峪后，有一天拂晓，人们还没有起床，警卫班的哨兵突然发现北面有敌情。这时，特务3连也离开政治部去执行任务了，掩护罗荣桓和政治部机关的只剩下1个警卫排和1个警卫班。罗荣桓命令警卫排的一个班掩护政治部机关向南转移，他带另外两个班和警卫班，爬上核桃峪村旁的一个山头，监视敌人的行动。
这时，在东北角和西北角两面都发现了敌人，正面的敌人被山挡着看不清楚，只见山下有几匹敌人的洋马，罗荣桓对警卫班长罗贵明说：“你们派几个人下去看看，把洋马牵来。”
警卫班3个战士绕到山下一看，原来敌人的大队人马都隐蔽在山沟里。他们急忙回来报告。罗荣桓听了不慌不忙地说：“不要着急，山下的敌人还没有发现我们，再等一等。”
罗荣桓的判断非常准确，正面山下的敌人虽近在咫尺，却没有发现他们。两翼的敌人虽然直线距离很近，但是山路崎岖，一时还过不来。罗荣桓举起望远镜，沉着地观察着。敌人越来越近了，500米、400米、300米……当罗荣桓预计政治部已转移到安全地带，敌人相距已不到200米时，他才转移。
罗荣桓面临强敌如此镇定沉着，泰然自若，给大家留下深刻的印象。政治部的同志都说：跟着罗政委最安全，用不着担心。在反“扫荡”中，机关随时会和敌人遭遇，在紧张的行军和作战间隙，罗荣桓要求大家：“该出报的出报，该开会的开会。”机关日常工作一直没有停顿。
罗荣桓与师直属队坚持在内线迂回穿插，与敌周旋，弄得敌人晕头转向。686团和苏鲁支队等部队，以机动灵活的战术，在外线狠狠打击敌人，有力地牵制了“扫荡”我中心区的敌军。