1945年，中共山东分局和八路军山东军区部队根据中共中央的指示，向日伪军发起全面大反攻。在抗日军民的沉重打击下，日军的抵抗迅速土崩瓦解。与此同时，国民党军则迫不及待地勾结日伪，和共产党领导的人民武装抢夺胜利果实。8月15日日本宣布无条件投降后，盘踞临沂城的日军于16日逃往枣庄，但城内的伪临沂第八保安大队许兰笙部和伪费县保安大队邵子厚部4000余人，在国民党顽固派、“反共摩擦专家”王洪九的唆使下，拒不向共产党领导的人民武装投降，并依仗临沂城日军遗留的武器弹药、城防工事和王洪九派来的“援军”负隅顽抗。为保卫胜利成果，使临沂城早日重回人民手中，八路军山东部队根据上级指示，抽调二师四团、警备二旅四团、军区特务团、临沭独立团等，发起解放临沂城的战役，坚决消灭拒不投降的敌人。

为打好解放临沂城的战役，中共山东分局和八路军山东军区进行了精心部署，并组成前线指挥部，具体指挥这次战役；同时，还抽调得力干部组成城市工作委员会，由城工委率3000名民兵、民工担任前线勤务和后方运输，及时供应弹药、物资、给养，还组织了城市工委，准备在城市解放后协助部队接管城市，做好群众工作，维持社会秩序。

8月17日，八路军滨海军区、鲁中军区参战部队向临沂城守敌发起进攻，当即占领四关，并在城外消灭了王洪九派来的增援部队。20日、22日，八路军又发起两次强攻，但由于敌人火力强劲，两次攻城均没有奏效。

9月初，攻城部队调整战术，经研究确定在城西北角进行坑道作业，实行大面积爆破。在民兵和当地群众的密切配合下，经8昼夜紧张作业，攻城部队挖成一条100多米长的坑道。工兵连夜将2000公斤黑色炸药和75公斤“梯恩梯”炸药从坑道内送进城墙下。10日晨8时，随着一声巨响，炸药将城西北角城墙外侧炸塌30多米，但因古城墙过高过厚，墙内侧仍然屹立未倒，坍塌的砖石只在外墙形成了一个50度的斜坡。

攻城部队迅速向突破口发起攻击，攀援而上，但遭到守敌的拼命抵抗，战事暂时出现胶着。12时，攻城部队又发起第二次冲锋，也未能奏效。指挥部随即调整部署，决定实施夜间攻击。

当夜9时，爆破组在猛烈的火力掩护下，把一包包几十公斤重的炸药相继送到突破口，经过连续爆破，扩大了突破口。同时，攻城部队全体指战员发出震天的呐喊声，并吹起军号，造成冲锋的假象，迷惑敌人。守敌向城下猛烈射击，其火力点完全暴露。如此反复6次，守敌被搞得筋疲力尽。11日凌晨1时15分，攻城部队的突击队秘密地扑向突破口，当守敌发觉时，突击队已冲上城墙，推倒敌人设下的铁丝网和障碍物，在城墙上形成了一个突破口。守敌慌忙组织力量向突破口反扑，突击队坚守阵地，连续向敌人投掷了7000个炸弹，打退了敌人的8次反扑，并迅速向两翼发展。在突击队和后续部队的打击下，城墙上敌人设置的暗堡被逐一摧毁。

随着攻城部队冲入城内，战斗又逐渐向城内各个区域扩展。负隅顽抗的伪军见势不妙，大肆施放日军留给他们的毒气，八路军指战员冒着毒气逐巷逐房和敌人展开争夺，将守敌设在城中的工事一一击毁，并将守敌分割包围。在八路军的英勇打击下，守敌各部很快失去联系，敌人千名“敢死队”队员被消灭了七八百，八路军指战员乘机发动政治攻势，残敌纷纷击毙伪军官和“督战队员”，缴械投降。

天亮时，历时26天的攻坚战宣告结束，鲁南重镇临沂获得解放。此次战斗，八路军全歼守敌，俘获伪临沂县长韩文龙、伪临沂第八保安大队队长许兰笙、伪费县县长韩金声、伪费县保安大队队长邵子厚以及王洪九派来协助守城的参谋陈维章以下2000余人；缴获步枪3000余支，轻重机枪10余挺，手炮50余门，汽车11辆以及大批弹药、物资。