8月23日，敌人从东北两面向我晋察冀军区领导机关和主力部队合围。早就有所准备的晋察冀军区司令部和主力部队及时转移并跳到了战役外线的敌后，而处在敌人合围之内的老百姓也都有组织有秩序地朝狼牙山撤离疏散。当日军扑向南北娄山准备合击时，不仅没见到八路军，就连老百姓的踪影也没发现。
此后，日伪军以1/3的兵力，留在抗日根据地内，实行分区“清剿”。或化装成八路军和群众，长途奔袭、多股继续寻歼主力部队、分散部队和机关及地方组织；或抓捕、屠杀人民群众及耕畜，抢粮、抢物、烧屋等。敌人采取活埋、刀砍、破肚、剥皮、喂狗、点灯、毒熏等手段，大肆残害抗日群众。
日军仅在平山黄泥、通家口、冷泉和曲阳县沟里村，就惨杀600余人。许多村庄化为灰烬。针对敌人的暴行，晋察冀军区于9月7日、15日，先后发出第二阶段反“扫荡”的指示，要求：各军分区部队一方面适当集中主力一部，打击敌“清剿”部队；另一方面，以一部兵力，开展更为分散的游击战争，打击伪政权，恢复社会秩序；各地区队和区、县游击队，协助群众进行秋收。
9月上旬，敌人又将进攻的目标转向了狼牙山方向。
狼牙山虽然称不上最高、最险，但它却以它的神秘错综、沟壑延伸多次掩护过我抗日军民并帮助他们脱离险境，可是，这次日寇发动的“百万大战”的规模比以往任何时候都大、都凶，易县、金坡、满城、徐水、大王店据点及保定守敌也纷纷出动拉开了一张巨大的网，把整个狼牙山都严严实实地兜住了。而隐蔽在山上的除了晋察冀第1军分区，还有易县、定兴、徐水和满城4个游击支队以及4个县党政机关人员和狼牙山周围村庄的群众，共计约4万人。目标之大，既不便隐蔽，又难于突围，情况十分危急。
9月23日凌晨，敌封锁兵团突然来到了狼牙山脚下，把南淇村、北淇村包围起来，开始施行惨绝人寰的“三光政策”，他们把村民全部赶出村庄，用绳子把他们绑成一串，往村口押去。顷刻间，祖祖辈辈生活的家园便淹没在一片火海之中。谁也没想到，日寇竟把绑在一起的男人押到村口一口水井边，逼着他们一个个往下跳。百姓不从或反抗，便遭来日寇一顿毒打。他们用铁蹄和枪托强行往井里踢、踹、打，最后是连推带扔硬给一个个塞入井里。为了防止上边的爬出来，鬼子又四处找来大石块压在上面，水井填满后，剩下的百姓一个也不放过，被敌人用机枪扫死。
这一灭绝人性的惨状和孩子、妇女的哭喊，老人的惨叫，青壮年人的怒骂声，都映入潜伏在狼牙山上的第1军分区指战员的耳目里，一种难以名状的刻骨铭心的仇恨火焰旋即在他们胸中升腾、燃烧，热血直往上涌，他们真想立即冲下山去解救百姓，消灭那帮畜生。可是，如果轻举妄动，山上近4万人的生命也会难保，那样敌人就会达到把我们一网打尽的企图。
据后来了解到，南、北淇村的村民“除少数乡亲在民兵的掩护下逃出敌人的魔掌外，大部分男女老幼都惨死在日军的屠刀下。敌人除了惯用的残忍手段外，又增加了开膛破肚、刀铡、大卸八块、剜心挖眼、活剥皮、喂洋狗、点天灯、滚水汤、毒气熏、逼乡亲跳井等，尤其对妇女和儿童用尽一切野蛮手段，甚至用带钉的皮鞋踩烂婴儿的脑瓜，再顺手撕开两条细腿，扔到其母亲的面前……”