5路大军合力作战半个月，战果辉煌。至8月下旬，山东的日伪军已被压缩至铁路沿线和解放区内少数孤立的城市里，惶惶不可终日。
在这些攻势作战中，打得最惨烈，持续时间最长的是临沂战役。
日本政府宣布投降后，驻山东日军纷纷向城市集中。驻守临沂的日军不久逃往枣庄，临沂周围的伪军亦大部随日军逃走。但也有横的。这就是伪军临沂保安大队长许兰生。日军和临沂伪军主力撤走后，有人劝他走，许兰生把大眼珠子一瞪：“我就不信八路军是三头六臂，我就要守在临沂。”
许兰生下决心守，并不是他多么无畏，实际上他是想向蒋介石献媚。好等国民党军主力打回来，弄个“开国功臣”。他也深知自己势单力薄，临沂难守。于是他与伪费县保安大队邵子厚商定，两部集中共同防守临沂城。为增强实力，两个人又与位于临沂以北、汪沟西南的伪军王洪久取得联系，商定3人协同守卫临沂。这样3股敌人总兵力已近5000人。部署是许兰生和邵子厚两部依托日军多年经营的临沂城坚固工事固守，王洪久率部防守建有筑垒工事的汪沟西工事。两点互为依托，相互策应。
白沙埠战役后，鲁中军区决定对临沂大沙河以北的王洪久部暂取守势，集中兵力收复临沂。
为迅速拔除山东区内敌伪军这个坚固的堡垒，山东军区决定以滨海第4团、鲁中第11团等部组成攻城集团。
8月15日，先期到达临沂的鲁中军区第2军分区第11团，在团长陈宏、政治委员董超的率领下，向临沂城发起攻击。工兵携带炸药，实施抵近爆破，以伤亡70人的代价，将城北门楼的3道古城门炸开了两道。正在部队进攻最后一道城门时，滨海军区2分区攻城指挥所赶来，命令11团撤出战斗，攻城任务由滨海军区2分区执行。
11团指战员眼巴巴望着已被打开的两道城门，无奈地撤出战斗。
不久，鲁中2分区司令员吴瑞林赶到，11团团长陈宏向他汇报了刚才攻城的情况，吴瑞林后来不无遗憾地写道：
我在攻克白沙埠后，向临沂城进发到11团团部时，才得知这一情况。两支兄弟部队在各自执行任务的具体作战行动中出现的这一小小的插曲，虽是由于战事变化急剧和山东军区新部署来不及下达所致，但终于丢失了一次不应丢的破城战机；否则，如两支兄弟部队协同破城，则结局就很有可能是另一个样子了。
8月17日，经过两天准备，滨海2分区决定改从临沂城南关发动进攻。战斗发起后，攻城部队利用美教会医院楼房这一制高点，组织火力掩护突击队登梯攀墙而入。虽然指战员打得异常英勇。并两次突上城墙，终因敌火力较猛，两次被击退，部队伤亡达300余人。攻城战斗受挫。罗荣桓得知这一情况后，非常焦急，急令军区参谋处长李作鹏为前线指挥。率山东军区特务团、教导团参加战斗。
18日，李作鹏来到滨海2分区指挥所在听取了攻城指挥所的汇报后，传达了罗荣桓的指示。之后决定，以山东军区特务团、原教导2旅4团和鲁中军区2分区11团3个团协同攻城。为确保攻城成功，李作鹏带领攻城部队团以上领导用两天时间勘察地形。之后，李作鹏召集担任攻城任务的3个团的营以上干部召开会议研究打法。
会议开始后，李作鹏简要地讲了这次会议的主要议程，之后请大家发言。多数人认为，攻城时间以夜间发起为好。爆破时间最好选在黄昏。
大家发言时，李作鹏没有插话，静静地听着，当大家把意见说完后，李作鹏站起来，宣布了他的攻城决定：“8月20日夜间3时攻城部队从东、西两面发起攻击，东面首攻，西面后攻。东西两面均由11团3营组织连续爆破，之后，攻城第一梯队特务团、4团3营和11团3营发起突击。其余部队为第二梯队。”
8月20日，经过短暂准备，攻城部队再次发起攻城战斗。虽然部队连续组织了4次爆破，终因城墙太厚，炸药包威力小，未获成功。
爆破失利，攻城部队仍于5时按时发起冲击，特务团、4团3营和11团3营两次架梯登城，均被守城之敌击退，被压在城墙外的护城河内。
至此，攻击临沂的战斗两次受挫。