中条山之战，中国抗战史上最耻辱的一战。
当重庆的军政大员为庆祝上高会战的胜利而推杯换盏之时，蒋介石认为：在军事上，一场小胜不足以证明中国军队素质低劣的现状得到了根本改变；而在政治上，国民党作为执政党的危机正在日趋加重，因为中国的民众根本不信任国民党，信任危机源自执掌权力的军政大员们的精神堕落。
一九四一年四月一日，中国国民党五届八中全会召开了每月例行的“国民月讲会”。军政大员尚未完全落座，蒋介石便突然进入会场。他没说任何开场白，直接把他亲自制订的《国民精神总动员纲领》朗诵了一遍，然后说他很惭愧，因为本党同志的“精神基础”仍未树立起来，所以“要完成抗战建国，实行三民主义，前途还很渺茫”。接着，蒋介石列举了一系列本党的“精神问题”，其核心是前方在流血打仗，后方在醉生梦死：
我们主义之所以不能实行，民众之所以对于我们不生信仰，就是因为我们只有标语口号而没有工作成绩，只有文字的规定而没有实际的行动，这是本党目前最大的缺点。我们再不深自惕励，痛加改革，那我们革命的前途，是非常危险的！……要知道，《国民精神总动员纲领》的颁布，已经在历两年以上了，而我们精神上、生活上、行动上还留着许多缺点，反而一般民众老弱妇孺却有誓死不屈、持久耐苦的精神，我们回想以往抗战所得的成绩，应该怎么样负责知耻！今后国家的存亡，革命的成败，完全要看我们全党的精神毅力如何以为断……
甲，醉生梦死之生活必须改正。生活者，精神之根本，无合理之生活，即无健全之精神，是以沉溺于声色货利之醉生梦死的生活，必须加以彻底的改正，而实行新生活之信条。否则不仅个人之精神耗散，自误误国，且必致相习成风，使整个社会顿呈亡国之现象，而招致世界之鄙视与寇仇之深入，不唯有害于国家，尤必影响于军事——现在外面许多人说我们党内同志和政府高级官吏还有悉求享受的，有级情逸乐的，我们今天要切实反省，赤裸裸地检讨出来！
乙，奋发蓬勃之朝气必须养成。次于醉生梦死之生活，而为国民精神之蟊贼者，厥为消沉颓废之风气，此风气之存在，实由于心理与生活两方面之原因所造成。在心理方面：由于民族自信心与个人自强心之缺乏，不谓民族无复兴之望，即视民族复兴之事业与己无关，此两种心理若不纠正，奋发蓬勃之朝气就无法养成。在生理方面：则运动、卫生、整齐、清洁，乃至早起之习惯，均须提倡与实行……其实国民精神总动员的要求，并非陈义过高，做起来并没有什么困难，但我们总不去做，当然没有结果！这就是我们没有革命力行的精神，因而丧失了革命领导的资格……
丙，苟且偷生之习性必须革除。于抗战中有一不可不注意之精神现象焉：即在前方，民众欠缺誓死复仇之决心，而在后方之人员，多有避难就易之私图也。前一现象，足使敌人之顺民增多，而寇氛愈张；后一现象，足使民族之战士减少，战意薄弱。究其动机，则皆由民族至上观念之不固，苟且偷生之习性犹存……要革除我们一般同志和国民苟且偷生的习性，真是非常困难！这真是我们国家民族一个最大的致命伤……其实除病不难，而难于无决心，只要看我们过去恶习惯中最难革除的莫过于吸鸦片烟，而现在一般有烟瘾的老百姓都可以戒绝……而我们还有许多同志，连一般普通国民应该做到的事情都没有做到，这就是我们党的耻辱，不仅不能革命，反要成革命之累了！……
丁，自私自利之企图必须打破。只图保全个人之生命与财产，增长个人之名位与权力，而不顾民族全体之利害与存亡者，亦犹有兵权者之欲保存其实力与地盘，同一私的动机也。充此自私之心理，必至私见高于一切，私利高于一切，乃至于个人名誉地位权力欲望之扩张满足必先于一切，推衍所极，必至牺牲民族利益、破坏抗战计划而后已。当今抗战剧烈，存亡呼吸之际，而犹不自觉悟，岂唯不智，实亦不仁，在国民精神总动员之目的下，此种痼习，必须排除，所当发扬舆论之权威，加以尽量之纠正，务使尽祛私见，共输肝胆，而归于至公与至诚……
蒋介石的话音未落，巨大的耻辱接踵而至。
中国山西省的南部地区，位于黄河由南北走向转为东西走向的巨大弯曲处的北岸。此处的黄河成为三省的界河：黄河转弯之前，河西为陕西，河东为山西；黄河转弯之后，河南是河南，河北是山西。三条著名的山脉高耸其间：太行山在东，吕梁山在西，中条山在南。东西走向的中条山，横亘在黄河北岸，东西长约一百七十公里，南北宽约五十公里，与太行山、吕梁山形成一个箕形山地，贯穿山西的汾河在此注入黄河，其下游河谷就是箕形山地的箕底。三省交界处向东控制豫北，向南控制洛阳，向西控制潼关，是正面战场上中国军队在华北的战略支撑点。中国第一战区的二十万大军驻守在中条山一线。
一九四一年五月，华北日军向中条山地区实施了大规模的突击作战。这次突击作战造成中国军队自抗战以来罕见的巨大损失。日军的战场统计是：中国军队“被俘三万五千名，遗弃尸体四万二千具”。而日军的损失微乎其微：“战死六百七十三名，负伤二千二百九十二名。”日军没有对中国军队的负伤人数进行估算。按照之前作战的常规计，中国军队每战负伤人数要比阵亡人数多出近一倍。无法想象在日军士兵的剌刀下，三万多被俘的中国官兵组成的将是怎样一支冗长的悲惨人流；更无法想象在并不开阔的战场上横陈数万具尸体，会是怎样一种令人惊悚骇然的景象。
中国第一战区的二十万人马伤亡殆尽。
中条山战略要地尽失。
蒋介石所说的“前途渺茫”顿成现实。
中条山扼守着中原的战略中枢，在战场划分上，被列为中国抗战诸战区之首，即第一战区。第一战区部队在卫立煌的指挥下，在这片至关重要的地区已经驻扎三年。三年来战区内没有发生大战，主要原因是这一地域内交叉驻防着卫立煌军、阎锡山军以及共产党领导的抗日武装，特别是八路军创建的太行、太岳抗日根据地，成为拱卫第一战区的重要前沿屏障。
毫无疑问，中条山是华北日军的心腹之患。但是，日军也知道，只要不断壮大的共产党武装仍在苦战不休，只要国共抗日民族统一战线仍然牢不可破，进攻并占领这一地区仅仅是设想而已。
进入一九四一年，日军终于等来了良机，那就是：国共似乎要彻底分裂了，中国的抗日统一战线也许会随之瓦解。
除了不断爆发的国共间政治和军事的剧烈摩擦外，让日军作出这一判断的最重要的原因，是一九四一年初发生在距此千里之遥的安徽大山里的一个惊人事件。
这一事件，史称“皖南事变”。
一九四〇年七月间，国民党内部妥协和投敌之风盛行，国民党军队与共产党武装的摩擦日渐频繁。特别是当新四军为开辟苏北抗日根据地进驻黄桥地区后，鲁苏战区副总司令韩德勤先是严密封锁新四军的粮食来源，后又调集重兵企图趁新四军立足未稳将其歼灭。新四军一再呼吁韩德勤团结抗日，甚至为了避免冲突主动退出姜堰地区。但韩德勤自恃兵多粮多，妄想与新四军在黄桥决战。中共中央决定后发制人，在黄桥歼灭韩德勤的部队，以彻底解决苏北的问题。新四军苏北指挥部指挥第一、第二、第三纵队，正面阻击诱敌，两翼设伏夹击，歼灭韩德勤部第三十三师师长以下一万余人，其中国民党军的一个整团向新四军缴械投降。黄桥战斗的胜利，使新四军得以坚持苏北敌后抗战，苏北抗日根据地也得以发展。新四军的凌厉的战斗力，令重庆方面很是不安。蒋介石以避免发生冲突为借口，指派参谋总长何应钦和副参谋总长白崇禧，向共产党方面提出“八路军、新四军的作战区域”问题，并附带着一个命令式的要求：八路军和新四军之各部队，限时全部开到河北、察哈尔两省以及河北与山西北部地区，“并将新四军加入第十八集团军战斗序列”。并规定无论是八路军还是新四军，“非奉军事委员会命令”不得擅自越出“规定之地区”；除“军事委员会别有军事命令规定外，在其他战区以及任何地方，一律不得再有十八集团军及新四军名义之部队”。“十八集团军除编为三军六个师三个补充团外，再加两个补充团，不准有支队（师之编制为整理师，两旅四团制）”；“新四军编为两个师（师之编制为整理师，两旅四团制）”，等等。
命令在敌后已经形成有利作战局面的抗日部队后撤，放弃艰苦作战和付出巨大牺牲开辟的敌后抗日根据地，从军事上讲与助敌为虐无异，因为这等于解除了日军在敌后战场上的军事压力。
蒋介石的这一命令连日军都感到意外。
日军华北方面军参谋部在惊讶之余，努力判别蒋介石这一命令的深意：
判断
目前不断发生的国共矛盾，结果共产党方面虽表示让步以至妥协，但重庆方面的要求，也将不能全部付诸实行。新四军一部虽可勉强实行一定程度的移动，但全部移至华北，则可断定决不能实行，矛盾的祸根依然继续存在，甚至有加深的危险。
理由
一、华北方面的共产党势力，从未得到重庆方面大量物资援助，痛感武器、弹药、物资等不足之苦。而今敌方物资普遍贫困，从日军占领地区取得物资愈加困难，加以遭受日军讨伐作战的损失等，穷困处境更趋严重。在此情况下，又使华中方面的新四军移驻华北，其生存将更加困难，尤其可以断定，河南、江苏方面的共产党部队，是负有从上海取得物资供给陕西根据地的。
二、重庆方面的意图是，华中方面的共产军移驻华北后，使之与日军战斗，彼此相互消耗力量，并将华中完全养成自己的势力加以确保，此乃一举三得之计，同时重庆势力又可截断陕西省后方。不难想象，熟知重庆居心的共产党方面决不会轻易听从重庆的命令。
三、尽管如此，共产党在武力方面尚不能与重庆抗衡，而且破坏一致对日抗战，也有悖于共产党本来的使命。更必须看到，历来由重庆支给的军费（七十万至九十万元），乃是共产党方面从日军占领区或第三国取得物资唯一的外汇来源，因此在重庆战局困难的今天，应尽量避免与之发生正面冲突。
四、从重庆方面来看，共产党势力在华中的存在，以及在当地的互相斗争，不仅妨害抗战的统一，而其所盘踞的河南、江苏各省及长江沿岸，是各种生活资源的重要地区，也是从上海秘密输入物资的重要路线。由于正当物资缺乏之际，该地区被共产党夺取，对重庆是相当痛苦的事情，故其首要目的即须除去此一弊端。
五、然而，对重庆方面来说，共产党的势力虽比较小，但也不可轻视。因为与拥有战斗力、斗争心及工作能力的共产党发生冲突，必将严重影响全面抗战。并且又有需要苏联援助的问题，即使诉诸武力，恐也难以彻底达到要求。
六、……然而，共产党方面在华中的势力全部移驻华北一事，虽如此说但并不执行。重庆为保全面子，始终强烈要求执行，同时在各地经常采取督促、驱逐的方法，因而双方的矛盾，无论在中央在当地，即使在将来也将继续，并且随着抗战及生存困难的增加，可以看出斗争肯定会日益激化。
七、由于国共有本质上的矛盾，难以调和，有关情况不予详述。
参考情报：
据一个中国要人观察，重庆要求新四军移驻华北，是蒋介石的和平准备工作。
据中国某要人说，在不久将来，蒋介石必然为共产势力失去性命。
“和平准备工作”即指对日妥协谈判。
日本方面的判断，仅仅窥视到了蒋介石命令内涵的局部。
让新四军移驻华北不是蒋介石的根本目的，蒋介石是要寻找借口将新四军彻底消灭。至于怎样寻找借口，那就是，只要共产党方面表示不执行命令，他就可以中国军队最高统帅执行军法的名义，对新四军进行军事制裁。位于第五战区的国民党军部队曾接到过蒋介石这样的电报：“该地区战斗序列无新编第四军或第十八集团军部队。如有上项部队或该战区无案之游击队在该战区活动时，即系匪伪潜入冒充，仰自即日起，由该战区长官指定部队，分区剿办，彻底肃清，以遏乱萌，并克日部署实施具报。”
归根结底，蒋介石所进行的是政治设防。
就执政的国民党而言，无论如何不能让共产党武装不断壮大，因为这种壮大的后果几乎可以预见，即直接威胁国民党政权。
一个月前，蒋介石在重庆接见了那个一直游走于中国战场上的美国记者怀特，他这样表述了自己与日本人、共产党之间的关系：“日本人是疥癖之患，共产党是心腹之患。”——削弱敌后的抗日力量会使日军在战争态势上得利，这就如同身上的某一部位长了疥癣，但是顶多溃烂却不会夺命；而共产党武装的不断壮大，等于是致命病毒侵入了内脏。蒋介石这句露骨而又诡异的话令怀特惊讶之余明确认定，蒋介石自欺欺人地忽视了一个重要现实，那就是，即使处在抗日民族统一战线的政治框架内，中国共产党也是一个有着明确政治宗旨、严密组织系统以及铁一般纪律的独立政党，而决不是对蒋介石一面俯首帖耳，一面与他玩弄割据游戏的地方军阀集团。
敌占区的社会已经瓦解，纪律松弛的部队忽而充当军阀部队，忽而变成恣意劫掠的土匪。日本人的暴行和各类中国人的激烈反抗，已使战争脱离了一切文明的习尚。唯独共产党人以其理论、思想和政治技巧，使人们重新结合成抱有共同奋斗目标的集体。共产党人不同于其他地方集团和军阀集团，虽然他们可能和其他人一样激烈，但他们却能把他们的激烈手段同某项意图和战略紧密配合起来。
七月，周恩来从重庆回到延安。
在听取了周恩来关于南方局工作和统一战线问题的汇报后，毛泽东特别指出，过去中央工作方向偏重军事和战区，过去对南方和日本占领区关注很少，今后政治局须用大力加强这个方面。中央今后的注意力，第一是国民党统治区，次而是敌后城市，第三是我们的战区。这是抗日战争爆发后，“中国共产党第一次把国民党统治区域的工作放在如此重要的战略地位”。针对目前的政治形势以及国共关系，周恩来主张在与国民党方面交涉时，采取“小问题上让步而在大问题上求得有利的解决”的方针。中央政治局召开会议，就何应钦和白崇禧的要求进行讨论，最终形成的意见是：同意陕甘宁边区名义上改为“陕北行政区”；同意取消冀察战区，将冀察两省以及山东黄河以北并人第二战区，但冀察两省省府主席须由共产党方面保荐；要求八路军编为三军九师而不是三军六师，新四军编为三师而不是两师。
八月二十五日，周恩来回到重庆，先后与蒋介石、白崇禧以及何应钦会晤，周恩来表示共产党方面愿意“稍做让步”，但蒋介石坚持“八路军、新四军一律开到旧黄河以北，游击队留在当地交战区司令长官指挥”。九月，针对调整新四军作战区域问题，周恩来再次向国民党方面提出：“一、扩大第二战区至山东全省及绥远一部；二、按照第十八集团军、新四军各地游击队部队全数发饷；三、各游击队留在各战区划定作战界线，分头击敌。”十月十九日，国民党方面断然拒绝了周恩来的建议，并以参谋总长何应钦、副参谋总长白崇禧的名义，向八路军总司令朱德、副总司令彭德怀以及新四军军长叶挺发出电报，指责八路军、新四军“不守战区范围自由行动”“不遵编制数量自由扩充”“不服从中央命令，破坏行政系统”等等，再次限令八路军和新四军一个月之内全部开到“规定之作战境地内”。
此时，蒋介石已调动部队包围了共产党中枢所在地陕甘宁地区，兵力达四十万以上；又密令第三战区司令长官顾祝同从浙赣前线抽调部队，包围位于皖南的新四军军部和所属部队；同时密令第三十一集团军汤恩伯部和第二十一集团军李品仙部，分别由豫西和鄂东同时向东移动，配合鲁苏战区韩德勤部，准备向华中的八路军和新四军发动进攻。
十月底至十一月初，毛泽东、朱德、王稼祥等先后分别或联名致电周恩来、彭德怀、叶挺和项英，指示八路军和新四军做好各项应急准备。毛泽东甚至想到：“我们应估计到最困难、最危险、最黑暗的可能性，并把这种情况当作一切布置的出发点，而不是把乐观情况作为出发点。”就目前局势来讲，共产党人需要面对的很可能是“最黑暗的局面”。十一月九日，朱德、彭德怀、叶挺和项英，分别以八路军和新四军的名义答复重庆军事委员会，除了驳斥对八路军、新四军的种种诬蔑之外，婉言拒绝了强令八路军和新四军全部集移至黄河以北的要求。但同时表示，新四军位于皖南的部队可以遵照蒋介石的命令向北移动，只是部队移动需要准备，须宽限时日。
鉴于抗日民族统一战线的大局，更为重要的是鉴于国民党军已有围攻皖南新四军的迹象，中共中央命令新四军皖南部队须于一九四〇年十二月底之前全部北移。
中共中央书记处致电新四军副军长项英：
（一）希夷及一部工作人员必须过江北指挥江北大部队。
（二）你及皖南部队或整个移苏南再渡江北，或整个留皖南准备于国民党进攻时向南突围，二者应择其一，这一点可以确定。
（三）如移苏南须得顾祝同许可，如顾不许可则只好留皖南（因据来电直过皖北已无可能），但须准备打内战，并承受政治上不利（蒋介石进剿新四军的计划是决定了的）。望考虑复电。
叶挺，字希夷。
新四军军长叶挺专门前往江西上饶，与顾祝同当面商谈新四军移动问题。新四军谋求移至皖北，其次是移至苏南，特别要求顾祝同保证新四军在移动中不受国民党军的袭击。就在这时候，共产党方面突然发现，位于豫西的汤恩伯部的九个师正在东进。毛泽东立即致电新四军军部，请叶挺当面质询顾祝同，“一面苏北言和，皖南令我北移，一面派二十万大军东进，是何用意，是否彼方已准备决裂”？毛泽东嘱咐叶挺，在与顾祝同谈判时，“应以此项大局为第一位问题，其余都是第二位问题”。叶挺与顾祝同的会商没能解决任何具体问题。顾祝同同意新四军北移经过苏南，但不准驻扎停留；至于汤恩伯部的东进，顾祝同说他不知此情。
叶挺和项英致电中共中央，表示：一、因为“地方工作之转变，残废伤病之安插，各种资财之处置，特别是大多数士兵均系本乡本地之人，如无相当之教育与政治的巩固工作，无法消灭大批逃亡的严重现象”；二、从皖南进入苏南向北到达长江边，沿途日军据点众多，“特别是溧河至铁路之封锁甚严，小部队通过尚有困难，若无相当时间逐渐分批转移，大军是不能停留该区，又无法一下通过，停留则受敌打击”；三、部队进至苏南后，如果没有安全北移的充分时间，一旦发生战事“我甚不利”，因为日军在溧阳一线已布重兵，进入该地区的皖南部队，将“处于河湖及敌封锁线之狭小包围圈中”；四、皖南部队有很多非战斗人员，随大部队行军“不利作战”，只有“分批先行”，才能使作战部队“便于应付敌顽之进攻”……综上所述，“皖南部队开动需相当时间”，要求中央同意目前“暂留皖南”，同时积极部署北移之事。
一天之后，毛泽东、朱德、王稼祥致电叶挺、项英，语气和措辞已经没有商量的余地：
（一）你们必须准备于十二月底全部开动完毕。
（二）希夷率一部分须立即出发。
（三）一切问题须于二十天内处理完毕。
同一天，毛泽东、朱德、王稼祥再次致电叶挺、项英：“立即开始分批转移，否则一有战斗发生，非战斗人员及资财势必被打散。”
延安方面之所以一再催促，是因为有关皖南方向的所有情报均显示，十二月底之前各路国民党军将完成对新四军的合围。
十二月九日，蒋介石发出最后通牒式的命令：
长江以南之新四军，全部限于本年十二月三十一日开到长江以北地区，明年一月三十日以前开到黄河以北地区作战。现在黄河以南之第十八集团军所有部队，限本年十二月三十一日止，开到黄河以北地区。
距离蒋介石的最后时限，已经没有多少时间了。
新四军皖南部队，包括军部、一个教导团、一个特务团以及第一、第二、第三纵队各两个团，总计九千余人。
国民党方面给新四军北移规定了一条路线：出新四军军部所在地皖南云岭后，向东偏北方向，沿着马头镇、杨柳铺、孙家埠、毕家桥、郎溪、梅渚镇、南渡镇，进入江苏南部的竹箦桥、水西地区，然后北渡长江到达苏北。这条路线，要通过第三战区第五十二师的防区。为防止意外，新四军制订了一旦受到攻击就深入日军占领区的策略，因为国民党军是不敢往那里追击的。但是，十二月十日，蒋介石突然命令改变北移路线，要求新四军部队出发后向北偏西，在皖南的铜陵与繁昌之间北渡长江。这是一条陌生的路线，也是一条危险的路线。新四军军部派出精干的侦察兵，携带电台，从铜陵与繁昌之间渡过长江，潜入江北的无为县一带。侦察兵们在沿江二十多公里的范围内周密地观测了江水水位，选定了十几个渡江地点，并在当地党组织和民众的协助下，筹集到一百多条大小船只并联络了三百多名有经验的船工。但是，他们发现长江江面上日军的巡逻舰艇过往频繁，江边据点里的日军和伪军也有准备出动的迹象。
事实证明，皖南的新四军正在走向一个巨大的陷阱。
在蒋介石发出最后通牒式命令的同时，顾祝同调集了七个师八万人的兵力，任命第三十二集团军总司令上官云相为“前敌总指挥”，准备在新四军渡江后的移动路线上对其买施堵截和袭击。二十九日，上官云相确定了围歼新四军的作战部署：以第五十二、第一〇八师为右翼，在南陵、泾县、永济桥、丁家渡一线展开；以第四十、第一四四师和新编第七师为左翼，在茂林、包村、钱家桥一线展开，构成以云岭为中心的东、南、西三面包围，然后齐头向北推进，把新四军皖南部队压缩至长江边，予以歼灭。同时，第七十九师在太平、第六十二师在三溪镇附近形成防线，阻止新四军皖南部队向南撤退；第八十八军、忠义救国军和第二游击区部队布防郎溪地区，阻止新四军皖南部队东进。以上部署限于十二月三十一日前秘密完成。
尽管新四军的将领们已有相当的戒备，但仍然不愿相信也不敢相信蒋介石会下达令中国抗日军队自相残杀的作战命令。
新四军的官兵高唱着一首名为《国共进行曲》的歌曲：
国民党和共产党，现在已站在了一条线上，
他们贡献了全部力量，一起走上了抗日的战场。
全国精诚团结，促成了中华民族的全民动员，
两党亲密合作，发挥了抗战杀敌的坚强力量。
看！抗日高于一切，二党是站在一条线上，
他们贡献了全部力量，一起走上了抗日的战场。
在当时的国内舆论乃至外国记者看来，新四军是共产党领导的抗日武装中十分特别的一支。这支部队几乎全部由知识青年组成，官兵要么来自富庶的江南乡村，要么来自上海、南京、杭州等沿江城市，其中还有不少归国参加抗战的青年华侨。这支部队的文化程度之高，在之前中国历史上的各色军队中绝无仅有。他们每人都有一身军装，包括一顶军帽、一件上衣和一条裤子，同时他们还有一身卫生衫之类的内衣；起床号响过之后，他们在河边蹲成一排用牙粉刷牙的情景，令中国的百姓们很是好奇；他们开展各种文化娱乐活动，而行军时就是战士的模样了，重约三十多斤的背包是他们的全部财产：一支步枪、一柄刺刀、一条子弹带和一百多颗子弹、四颗手榴弹，当然还有一双筷子、一只搪瓷碗、牙刷、牙粉、毛巾和一本书。他们的脚上穿的大多是布鞋或草鞋，女战士的草鞋上有一朵红色的绒花。他们给中国江南的农村带来了新鲜的生活样式和生活态度：他们为百姓开办识字班，宣传抗日主张，讲解平等自由，号召民众觉醒；他们在春种秋收时帮助百姓干活，尽管药品十分紧张还是为百姓诊病，那些被治好了病的百姓挑着鱼和肉来谢新四军，若是官兵们不收他们就跪在医院门口不走。新四军受到了广泛的拥护和支持。
上海的《华美》杂志发表文章，描述了新四军官兵的生活：
……他们现在的人数相当于普通军，中央每月发给他们的经费是十七万，所以他们不得不在生活上力求紧缩，所以他们从上到下都不拿薪饷，只拿津贴。过去战斗员（他们的士兵称战斗员，官长称指挥员）每月拿津贴二元，按次递升，五毛钱一级（这五毛钱的差别，在他们也有解释的，那是因为指挥员有时公出，需要一些零花），到军长拿五元。最近实行节约运动，战斗员每月的津贴减到一元五毛，军长津贴减到四元。除此之外，他们每天每人可以领到一斤八两米和一毛的菜钱。对这样的生活他们甘之若饴，这一种耐于刻苦的精神，是该从他们传统的历史上找解释的……
上海的《大美晚报》刊登了美国记者对新四军医院的描述：
在过去五十年的任何一次战争中，伤兵所受的待遇，再没有比此次抗日战争中中国士兵所受的那样难堪了。中国士兵时常得不到照顾，死在前线上，即使他被人抬了起来，也大半让他独自躺在人家屋子里，没有医药也没有看护。要是他负的不是重伤，他大半要走上几百公里，回到后方的伤兵医院去，即使路上有空车开过，也不会让他搭载。到了医院里，服侍他的人也许要偷他的衣物和钱财，而得到的至多是潦草的治疗……因此，当你看到新四军所设的那些新式整齐而又十分简单的医院时，你就不免大吃一惊，新四军对士兵的救护，大概比中国任何军队都要好……新四军救护事业中最特殊的一点，是所有的医师都是胜任舒快的。其次，他们对各自分内工作也都感到极大的兴趣。从病人入院到出院，他们全有详细的记录。每个医生平均每天工作十二个小时以上。他们每晚轮流值班。这些事情你看来似乎十分普通，但在一个陆军医院里，特别是一个距离前线那样近的医院里，这是十分罕见的。
更为重要的是，在江南日军占领区的残酷环境中，新四军发动的袭击日军据点的作战，有时竟然那样地靠近上海、南京和杭州这样的大城市，几乎每场战斗都会引起社会舆论的惊呼和热议，他们被中国江南的报刊称为“第一等的抗日军队”。
新四军聚集着一群有着崇高信仰的青年。
美国记者史沫特莱采访过一位年仅十七岁但已经参军两年的新四军战士。当问他为什么参加新四军时，这位小战士回答说，在这支军队里他学到了“关于中国的一切”，包括抗日救国、自由民主、国际主义、道德修养和人生目标。他讲述了自己如何成为一个不怕死的抗日战士的经历，如同这支军队的将领一般，他在讲述中总是严肃地把新四军称为“本军”。史沫特莱认为这位新四军小战士很是神奇：
我对任何人都不爱用“美丽”这个字眼儿，但他却正像一个新日子的黎明那样“美丽”，想到他在两年前本是怎样一个孩子，而五年后（那时中国将解放了）他又将变为怎样一个人，我惊讶起来。这两年来，世界的知识之门已向他打开来，他满怀着兴趣和惊异穿过门进去，不管他在这支部队里多久，那些门将永远向他打开着，而他也将更向前迈进。当我望着他时，忽然转念到他可能在什么时候会倒在一颗鬼子的子弹前而不能再起来了。这念头使我战栗。人生中有些事情在我看来往往是完全不可能的，可是它们却常常存在着。我曾经看见像他一样的别的青年，受了致命的重伤，却说：“我不怕死，我加入这部队来救我的国家。”
新四军开始移动了。
年轻的官兵不会想到无情的袭击来得突然而短促。
此时，无论是从皖南北渡长江，还是从苏南北渡长江，都已是万分危险了。新四军北移的消息被国民党方面故意宣传出去，皖南铜陵与繁昌之间的日军已在江北据点增兵，而苏南的日军严密封锁了公路和铁路。特别是国民党军李品仙部的三个师，进驻庐江和无为一线，控制了铜陵与繁昌之间的长江北岸，挡在了新四军的北移之路上。
大雨滂沱，山路泥泞。
新四军皖南部队九千余人编成三个纵队，由驻地云岭一带艰难地向东南方向行进，准备经过茂林、三溪、宁国和郎溪，沿着天目山麓进至苏南根据地，在那里待机北渡长江。一九四一年一月七日拂晓时分，走到皖南泾县茂林地区的新四军部队，突然遭遇国民党军第四十师的拦截。军部立即停下来开会，讨论还手还是不还手、前进还是后撤的问题。会议从下午三时一直开到晚上十时，还是没有形成统一意见。长达七个小时的会议严重地耽误了时间，丧失了突围而出的最后时机。八日，部队改向前进，再次遭遇国民党军第七十九师的拦截。于是，改向茂林方向突围。此时，国民党军第五十二师、第一四四师、第四十师、第七十九师、第一〇八师共五个师已完成了对新四军的合围。军长叶挺指挥部队顽强抵抗，激战一天，部队移至茂林以东五公里的石井坑。在整顿队伍的时候，国民党军合围部队又从四面发起猛攻，新四军官兵陷于苦战。
十日，叶挺、项英致电毛泽东、朱德：
我全军被围于泾县茂林以南，准备固守，可支持一星期。请以党中央及恩来名义，速向蒋、顾交涉，以不惜全面破裂威胁，要顾撤围，或可挽救。上下一致，决打到最后一人一枪，我等不足惜。一周后若无转机，则将全军覆没……
身在重庆的周恩来获悉新四军陷入国民党军的重围后，受中共中央委托向蒋介石、何应钦、白崇禧、顾祝同提出严重抗议。周恩来致信蒋介石，要求国民党军“立即撤围”，给北渡长江的新四军让路，说否则新四军渡江无路，后退无援，将导致全军覆没的灾难性后果。蒋介石答复说将下令查处攻击新四军的将领，但同时又命令顾祝同把新四军一网打尽。
十三日，朱德、彭德怀、叶挺、项英等人联名发布抗议通电。通电的抬头从蒋介石一直开列到全国各地的国民政府党政军首脑：
……我江南新四军军部及部队万人遵令北移，由叶挺等率领至泾县以南茂林地区，突被国军七万余人重重包围，自鱼（六日）至文（十二日），血战七昼夜，死伤惨重，弹尽粮绝。挺等率部遵令北移，并遵守顾长官祝同指定路线向苏南转移北上，不意全是诱我聚歼之计。在战斗中据所获包围军消息，此次聚歼计划，蓄谋已久，布置周密，全为我不备，诱我入围，其所奉上峰命令有一网打尽生擒叶、项等语。德等远在华北，未悉命令移防底蕴，迄今始知聚歼计划。今不问对敌行动如何，但对我则是聚歼，何、白两总长皓（十九日）电、齐（八日）电所称之仁义道德何在？所谓破坏抗战破坏团结者究属何人？所谓军政军令军纪者究在何处？似此滔天罪行，断不能不问责任。同时全国正准备大批逮捕，大批杀人，与袭击八路军各办事处，在西北则修筑万里长城之封锁线，在华中派遣二十余师正规军实行大举进攻，国内局面顿改常态。我八路军、新四军前受日寇之扫荡，后受国军之攻击，奉命移防者则遇聚歼，努力抗战者则被屠杀，是而可忍，孰不可忍？特电奉达，敬恳中央立即解皖南大军之包围，开放挺等北上之道路，撤退华中之剿共军，平毁西北之封锁线，停止全国之屠杀，制止黑暗之反动，以挽危局，以全国命。敬恳诸公仗义执言，予以援助，临电悲愤，不尽欲言。
十四日，经过八昼夜的抵抗，新四军皖南部队弹尽粮绝，固守阵地全部被国民党军占领。政治部主任袁国平战死，副军长项英和参谋长周子昆被叛徒杀害，军长叶挺前去与国民党军上官云相谈判时被扣押，部队除突围而出的两千余人外，七千余人少量被俘大部阵亡。
近万名新四军官兵，没有牺牲在对日作战的战场上，却死在了国民党军的联合夹击下。那些昨天还充盈着青春热血的身躯，如今冰冷地横陈在皖南被阴雨浸透的山峦中。
十七日，蒋介石以国民政府军事委员会的名义，宣布新四军为“叛变”之军，决定撤销新四军番号，将军长叶挺交军事法庭审判。同时，命令李仙洲的二十万大军向长江以北的新四军发动全面进攻。
十八日，中共中央发布《关于皖南事变的指示》，言皖南事变“是抗战以来国共两党之间，也是抗日民族统一战线内部空前的重大事变，应该引起全党及全国人民的注意。国民党现已公开宣布新四军叛变，叶挺交军法审判，国民党这一政治步骤，表示他自己已在准备着与我党决裂，这是七七抗战以来国民党第一次重大政治变化的表现”。二十日，中共中央政治局召开会议，决定以中共中央革命军事委员会的名义，发布重组新四军军部的命令。同日，这一命令在延安发布：任命陈毅为代理军长、刘少奇为政治委员、张云逸为副军长、赖传珠为参谋长、邓子恢为政治部主任。命令号召新四军全体官兵继续高举团结旗帜坚持抗战。同日，毛泽东以中共中央革命军事委员会发言人的名义，对新华社记者发表关于皖南事变的谈话：“我们还是希望那班玩火的人，不要过于冲昏头脑。我们正式警告他们说：放谨慎一点吧！这种火是不好玩的，仔细你们自己的脑袋。如果这班人能够冷静地想一想，他们就应该老老实实地并且很快地去做下列几件事：悬崖勒马，停止挑衅；取消十七日的反动命令并认错；承认事变的祸首是何应钦、顾祝同和上官云相；恢复叶挺的新四军军长；交还皖南新四军的全部人枪；抚恤皖南新四军全部伤亡将士；撤退华中的剿共部队；平毁西北的封锁线；释放全国一切爱国的政治犯；废止一党专政，实行民主政治；实行三民主义；逮捕亲日派首领，交付国法审判。”
二十五日，新四军军部在湖北盐城重新设立。
皖南事变发生后，全国的舆论乃至海外华侨的谴责铺天盖地。原因很简单：这是抗击日本侵略者的国难时期！谴责给国民政府带来了严重的政治恶果：“政府那条绕在自己脖子上的自我毁灭的绳索从另一端拉紧了。”驻重庆的美国记者贝克说：“新四军事件的最严重的影响在于，它在许多非国民党又非共产党的人群中造成了不安和不满。政府不久就不得不再次加强‘思想控制’了。有些非共产党人士被捕，有的逃往香港或共产党统治区去了。”
共产党方面的强硬和社会舆论的愤怒，令蒋介石不得不在公开讲话中反复解释，强调事件仅仅涉及军令军纪问题，而决不涉及党派和政治。他甚至在参政会上发表演说，表示“决不忍再见所谓‘剿共’的军事，更不忍以后再闻有此种‘剿共’之不祥名词留于中国历史之中”。只是，包括共产党人在内，没有人再相信蒋介石了。
皖南事变后，被俘的新四军官兵被关押在上饶集中营。一九四二年，日军逼近上饶，集中营转移途中，新四军官兵发动暴动，除少数人越狱而出外，多数被国民党军屠杀在江西北部的山涧里。
叶挺军长拒绝蒋介石的万般利诱，作《囚歌》以明志：
为人进出的门紧锁着，
为狗爬出的洞敞开着，
一个声音高叫着：
爬出来呵！给你自由！
我渴望自由，
但也深知道，
人的躯体哪能由狗的洞子爬出！
我只能期待着，
那一天——
地下的烈火冲腾，
把这活棺材和我一齐烧掉，
我应该在烈火和热血中得到永生！
皖南事变，是国民党当局在抗战时期所犯的带有“自我毁灭”和“助纣为虐”性质的政治错误之一。
国民党当局将为此付出巨大的政治代价。
关于这个代价，毛泽东说得十分明确：
我们的让步是有限度的，我们让步的阶段已经完结了。他们已杀了第一刀，这个伤痕是很深重的。他们如果还为前途着想，他们就应该自己出来医治这个伤痕……如若他们怙恶不悛，继续胡闹，那时，全国人民忍无可忍，把他们抛到茅厕里去，那就悔之无及了。
仅就中国抗日战争的艰苦进程而言，皖南事变的发生是一个绝大的民族悲剧，事件导致中国的抗战几乎失去了华中敌后战场的支撑，中国南方的敌后战场自此进入了最艰难的时期。
鉴于国共之间的剧烈冲突，日军在其占领区和战场拉锯区内开始了极为凶狠的作战。
日军华北方面军的主要任务是确保华北占领区，其作战对象主要是共产党领导的八路军。特别是百团大战之后，慑于八路军的强大威力，日军确定了以剿灭共产党武装为核心的策略。但是，就华北地区而言，以中条山为轴心的中国第一战区毕竟还驻扎着卫立煌的二十万人马。日军认为：“由于晋南的重庆军牵制着日本军三个师团”，因此必须“首先将其消灭”，这样日军才可以“全力对付中共军”。由此可见，中条山作战是日军对共产党敌后抗日武装全面作战的前期准备；也由此可见，日军根本没把中国第一战区的二十万国民党正规军放在眼里，认为很快就能将他们一举歼灭干净，为之后的真正作战——与八路军的决战——腾出兵力与战场空间。
华北方面军司令官多田骏对中条山作战目的的阐述是：
利用这次增兵之机，本军对晋南地区的中央军，努力以大兵力作战，除图谋一扫黄河以北的中央军势力外，主要是为了好集中力量对共产军根据地进行毁灭战。
中国第一战区卫立煌部共有十一个军。其中四个军配置在太行山和太岳山地区，与八路军的太行和太岳两个抗日根据地呈对峙状。其余的七个军约十五万人配置在中条山地区。中条山西侧守备：孔令恂的第八十军，辖新编第二十七师、第一六五师和游击第四、第八纵队以及河北民军。垣曲、桑池以西的中条山西部守备：第五集团军总司令曾万钟，指挥唐淮源的第三军，辖第七、第十二师和第三十四师；高桂滋的第十七军，辖第八十四师、新编第二师和游击第一纵队。中条山北侧守备：第十四集团军总司令刘茂恩，指挥武庭麟的第十五军，辖第六十四、第六十五师；武士敏的第九十八军，辖第四十二、第一六九师；刘戡的第九十三军，辖第十、第一六六师和新编第八师；赵世铃的第四十三军，辖第七十师和暂编第四十七师。中条山东侧守备：裴昌会的第九军，辖第四十七、第五十四师以及新编第二十四师。
而日军位于中条山周围的部队是：晋城附近的第三十六师团，运城附近的第三十七师团，临汾附近的第四十一师团以及豫北的第三十五师团。确定实施中条山作战后，为加强这个方向的兵力，日军从华中方面军的第十一军抽调出第三十三师团，配属给华北方面军的第一军；还将位于上海方向的第十三军的第十七师团与位于苏北方向的第二十一师团换防，把第二十一师团抽出投入中条山战场。同时，日军第一军还从本辖区内抽调了独立混成第九、第十六旅团以及骑兵第四旅团各一部参战，这就使得进攻中条山的总兵力达到十万以上。东京大本营又从关东军调来飞行第三十二、第八十三战队，加强给第三飞行团，以运城和新乡两个机场为基地，协同陆军作战。
日军第一军司令官筱塚义男决心以“不顾”华北占领区“治安状况下降”为代价，集中兵力将中条山一线的中国军队一网打尽：
一、置作战地区于张马—垣曲一线，分成东西两个地区，把重点始终保持在西部地区。为此，决定从四十二个大队中集结三十五个大队，俾能保持优势兵力（敌九个师五万人。敌我战斗力对比大致为一比零点七），把敌人完全包围起来予以歼灭。
二、为此，在正面利用已设阵地及黄河的障碍，以挺进部队切断退路，从两侧地区神速楔入突破敌阵，将敌完全包围，接着以迅速的内部歼灭战和反复扫荡，将敌完全围歼。
三、为了确保包围圈，部署了双重包围部队（外侧包围兵团为第三十七、第四十一师团，内侧包围兵团为第三十六师团与独立混成第九旅团），在作战过程中还要调整退路切断线（包围线），防止敌人逃脱，并且特别要增强外侧包围兵团的兵力。
四、要特别重视切断作战，防止敌人向黄河南岸逃走。为此要部署许多经过挑选的挺进队，走在敌人退却和逃脱的前面，占领黄河北岸的主要地点，截断敌人退路。为此要采取一切措施，隐蔽企图，在黄昏以后开始行动，快速袭击敌人。
五、为使作战准备周到、完善，各兵团长及幕僚们在“胜败在于八分准备”的口号下，共同对作战指导进行彻底的研究。另外，各兵团在进行地图、兵棋和现的研究的同时，要进行适应作战地区的地形、战况的部队训练。
日军向晋南调动兵力的幅度很大，中国方面很快便察觉日军有攻击第一战区的企图。为此，军事委员会军令部制订出三个方案：一是主力向黄河南岸撤退，巩固河防，这是放弃中条山而退守黄河的方案；二是趁敌人尚未部署完毕，先发制人，用攻势作战粉碎日军的战役企图，这是主动进攻的方案；三是采取机动战术，变内线为外线作战，即放日军进来在中条山里与之周旋的方案。
四月十八日，参谋总长何应钦从重庆抵达洛阳，召集第一、第二、第五战区高级军官会议，研究晋南作战问题。何应钦认为，日军进攻中条山是为了夺取洛阳并西窥西安：“在北战场方面，第一、第五战区甚为重要，如第五战区方面巩固，则不独洛阳免受威胁，而第六战区亦得巩固。在第一、第二战区方面，中条山地位异常重要，如现三角地带一部为敌占领，则陇海路不独深感威胁，且洛阳恐亦难保，西安亦危。设洛阳西安不守，则第五战区侧背完全受敌威胁。”目前，“晋南之敌似将逐次夺取我中条山各据点，企图彻底肃清黄河北岸之我军，然后与豫东之敌相呼应，进取洛阳、潼关，以威胁我第五战区侧背，或西向进窥西安”。会议持续至二十日，最后由何应钦拍板决定，采取军令部提供的第二方案，即以主动的攻势作战粉碎日军进攻中条山的战役企图：
（一）第一步，应相机各以一部由北向南（九十三军），由东向西（二十七军），与我中条山阵地右翼各部，合力攻取高平、晋城、阳城、沁水间地区，以恢复二十九年（一九四〇年）四月前之态势。
（二）第二步，与晋西军及第二、第八战区协力，包围晋南三角地带之敌，而歼灭之。
（三）最低限度，亦须能确保中条山。
何应钦的作战指示近乎异想天开：在日军的大规模进攻面前，正面战场上的中国军队绝少有发动主动攻势以提前瓦解对手进攻意图的行为，中国军队尚不具备这样的作战能力。在日军已集结起如此大的兵力，进攻作战意图已非常明确时，何应钦竟然幻想向日军出击合围并一举收复失地——“恢复二十九年四月前之态势”，这到底是重庆的军事统帅机关对敌情掌握不清呢，还是本来就昏庸？
五月三日，第一战区作战计划制订完毕：中条山东面，第二十七军在豫北向新乡、博爱之间的铁路沿线游击；第二十四集团军在豫北与晋南交界地带向安阳、淇县和壶关一带游击；第九军的游击第一纵队在豫西北向温县以东游击。中条山西面，第十四集团军在晋东南向高平、沁水和翼城方向游击；第八十军和河北民军在晋南向同蒲路、安邑和闻喜方向游击；第三十六集团军向中条山西段游击。——如此四处游击，哪里是以攻势作战破敌围歼的计划？
但是，即便这样一个简陋的作战计划，也没能得到实施。当时，第一战区司令长官卫立煌在四川，等他五日返回洛阳司令长官部后才将上述命令发出。而所属部队接到命令尚未动作，日军的攻击已经开始了。
第一战区部队自一九三八年春进入中条山以来，除了与共产党抗日武装发生过摩擦之外，在长达三年的时间里没有打过大仗。官兵日子过得懒散，军事训练懈怠，阵地疏于戒备，工事修筑拖沓，部队原定一年内完成的整训拖了两年半仍未完成。
由此，中条山的苦难降临了。
一九四一年五月六日，日军航空兵首先轰炸了西安、咸阳、潼关和郑州等地，并炸断了陇海铁路。七日晚，日军六个师团外加两个半混成旅团，采取“中间穿透、四面合围”的战术，向中条山地区的中国军队发起了全面进攻。其作战部署是：在中条山西部地区，第四十一师团和独立混成第九旅团分别从翼城、绛县并列南下，直插中条山的核心地区垣曲，割断中国军队第五集团军与东面的第十四集团军之间的联系，并对第五集团军实施双重包围；第三十六、第三十七师团分别从闻喜、运城并列向东向北，与第四十一师团、独立混成第九旅团会合，合围中国军队第五集团军和第八十军；独立混成第十六旅团在运城以南，从平陆沿黄河北岸快速东进至济源，与东路的第三十五、第二十一师团会合，切断中国军队第五、第十四集团军以及第八十军向黄河南岸的退路。在中条山东部地区，日军第三十五、第二十一师团分别从豫西北的温县、沁阳并列西进，攻占邵源后与独立混成第十六旅团会合，切断中条山地区中国守军向南或向东的退路，然后沿济源至邵源的公路向北压缩，攻击中国军队第十四集团军。在中条山北部地区，日军第三十三师团从沁河岸边的阳城南下，协同第三十五、第二十一师团，对中国军队第十四集团军实施南北夹击。
显然，中条山西部是日军攻击的重点方向。
这个方向上的中国守军，是第八十军以及第五集团军的第三军和第十七军，而日军投入了第四十一、第三十六、第三十七师团以及独立混成第九、第十六旅团。无论在兵力还是武器装备上，日军都处于绝对优势。日军首先实施的是第四十一师团和独立混成第九旅团的穿透行动，他们要从中国军队第五集团军与第十四集团军的中间插过去，先把这两个集团军割裂开来再实施各个包围。日军事先侦知，中国军队第四十三军为阎锡山的晋军部队，战斗力较弱，于是选择了第四十三军所在部位发动了猛烈突击，而这里恰恰是第五集团军与第十四集团军的接合部。七日傍晚，第四十三军的两个师和第十七军的两个师据守木耳河、天盘山阵地，中国官兵与日军彻夜作战，八日拂晓日军突破了第四十三军的十八坪阵地。第十四集团军总司令刘茂恩命令第十五军协同第四十三军对日军实施反击。十八坪阵地一度被中国官兵夺回，但日军在攻击中释放毒气，第四十三军不得不撤退，第十七军阵地也随之被日军突破。日军地面部队迅速向垣曲推进，日军伞兵已抢先投放到垣曲周边。八日晚，日军步兵和伞兵协同攻占了中条山的核心部位垣曲。中条山西部中国守军被日军分割成了互不联系、各自为战的两部分。与此同时，沿着黄河北岸，日军第三十六、第三十七师团和独立混成第十六旅团，在晋东南的夏县至张店间展开，并列向西，攻击中国守军第八十军与第三军的接合部。八日拂晓，日军突破第八十军的右翼阵地，切断了第八十军与第三军之间的联系，然后沿着黄河北岸迅速向东突击，迫使中国军队退守秦家岭、望原等二线阵地。
至此，中条山西部中国守军的防线全面瓦解。
日军攻占垣曲后，第四十一师团和独立混成第九旅团以垣曲为核心，分头向东西两面扩展。向东的一路攻占了晋南与豫西交界处的邵源，向西的一部逼近中国军队第五集团军总司令部所在地马村，总司令部匆忙转移到漳南沟。在漳南沟，曾万钟接到卫立煌的电报。电报命令第五集团军南渡黄河撤出战场，并说已派黄河南岸的第八十五师的两个团北渡黄河，占领黄河渡口五福涧以北高地，并提前在河边征集船只，以掩护第五集团军撤退。但是，第八十五师的两个团还没抵达五福涧，日军独立混成第十六旅团的先头部队提前抵达，经过激战，中国军队的两个团退回到黄河南岸，第五集团军的南撤之路由此被封堵，部队完全陷于日军的包围中，只能独自拼死苦战力图解脱。
中条山北部中国守军，是第十四集团军所属的第十五军、第九十八军、第四十三军以及第九十三军第十师。七日晚，日军第三十三师团和骑兵第四旅团一部，从晋南南岭至阳城一线，向第十四集团军正面阵地发动攻击，八日拂晓突破第四十三军的阵地后，继续向南突进到煤坪。在这里，日军遭到了中国军队第九十八军的顽强抵抗。中条山战场上的第九十八军由西北军杨虎城部所属陕军一部编成，军长武士敏。武军长跟随冯玉祥多年，受杨虎城、张学良影响很深，主张全民抗日，与共产党人关系融洽，曾与八路军并肩作战。在中条山北面，他指挥官兵顽强作战，仅在王村一处就击溃日军两千多人，毙伤数百人，缴获重机枪十二挺、步枪两百支。第九十八军一直抵抗到十三日，日军得到增援后突破其守卫的董村阵地。第一战区命令第九十八军向西北方向的沁水至翼城公路以北转移，武军长率领部队开始了艰难的突围。
在中条山东部地区实施进攻的，是日军第三十五、第二十一师团以及骑兵第四旅团一部。中国守军是裴昌会的第九军。七日，在飞机和坦克的助战下，日军第二十一师团从豫西的沁阳和博爱出发，第三十五师团和骑兵第四旅团从沁阳以南的温县出发，并列沿着黄河南岸向西突击。中国军队第九军是由浙军和奉军合编而成的部队，曾在忻口会战中与日军苦战，军长郝梦龄不幸殉国。现任军长裴昌会指挥部队拼死抵挡日军的进攻，其据守沁阳至济源公路的第五十四师七十二团官兵毙伤日军二百多人。八日，日军增援部队抵达，在航空兵的助战下再次猛烈突击，终于突破了第五十四师的阵地，攻占孟县。日军第三十五师团继续西进，与第二十一师团一起合击济源，企图把中国军队第九军包围在济源以东地区。第九军撤出济源既设阵地后，济源城在日军的狂轰滥炸中陷落。军长裴昌会命令第五十四、第四十七师退往济源以西的王屋方向，新编第二十四师主力和第五十四师的一个团固守封门口阵地，独立第四旅和该军指挥的几支游击队在孤山一带打游击。九日，日军兵分三路追来，新编第二十四师和第五十四师一部在封门口一线与日军激战，双方都伤亡惨重。日军在进攻中施放了大量毒气，第五十四师一一六团官兵大多中毒。午夜，裴军长接到卫立煌的电话，鉴于日军已突入黄河北岸各渡口，河防空虚，命令第九军撤到黄河南岸建立防线，掩护第十四集团军的后方。第九军各师立即向黄河北岸的官阳渡口转移，军直属部队和第五十四师在日军的轰炸中冒险渡河，午夜时分才渡河完毕，而后续部队就不那么幸运了。十一日，日军的持续轰炸导致黄河渡口的渡河设施和船只全被炸毁，第四十七师和新编第二十四师已无法渡河，不得不退回到王屋至邵源的公路附近。徘徊中，他们试图与第十四集团军取得联系，但第十四集团军正处在日军的南北夹击下。第九军未能渡河的部队只能跑向济源北面的大山里。
至此，日军控制了中条山地区沿黄河北岸的平陆、垣曲、济源、孟县等县城，封锁了黄河北岸中国守军退往黄河以南的所有渡口，彻底完成了对中条山中国军队内外侧的双重包围。
十一日，第十四集团军总司令刘茂恩给蒋介石打电报，说他不能再坚持原的作战了，原因是部队饿坏了，必须突出去找饭吃了：
连日以来，晋南之敌大举向我进犯，职部所属四十三军防地被敌突破，刻十五军及四十三军在同善镇以东拒止敌人，第十师及九十八军仍在阳城西南及董封附近与敌激战，九十三军本夜由北向沁水一带攻击。惟垣曲渡口既已不保，第九军在封门口阵地，亦被敌突破狂口，补给线已被截断。潦山内瘠苦，又无屯粮，大军绝食业已三日，四周皆有强敌，官兵枵腹血战，状至可悯，若不急筹办法，恐有溃散之虞。拟率军主力向沁（沁水）、翼（翼城）以北展开，并于阳城以南酌余一部，以期就食，而便截击。
第十四集团军总司令部在第九十三军第十师的掩护下，在中条山里辗转半个月才得以分散突围而出，部队损失惨重，七零八落的幸存官兵有的向南偷渡黄河，有的向北进入山区。第九十三军主力在日军战机的跟踪轰炸下疲于奔命，十八日抵达太岳山区，在共产党人领导的山西新军的帮助下，经过沁源，越过同蒲路，由临汾渡汾河进入陕西韩城境内，直接归第三十四集团军总司令胡宗南指挥了。豫北的第二十七军在军长范汉杰的率领下，曾试图册应第十四集团军突围，但遭到日军的阻截后，索性全部撤出了晋南地区，向东转入太行山东麓的河南辉县一带。第四十三军军长赵世铃带着他的基本部队经沁水和翼城躲进浮山，其他部队则在日军的包围圈里转来转去，大部队溃散后，少数官兵渡过汾河向西溃逃，后勤人员以及随军家眷在黄河滩上被日军俘虏。
中条山西侧的第八十军终于撤到了黄河边，因为争抢渡河导致溃不成军：
敌人的飞机数架向我部队狂炸，混进我军之敌伪便衣队，穿着新编第二十七师士兵服装，在各部队之间进行扰乱射击，河北民军到处乱窜。一时间敌我阵营无法分辨，所有部队都各自跑散。配属我师之炮兵连，因目标暴露，受敌轰炸较重，该连王连长负伤。我二营营长姚汝崇奋不顾身，率兵抢运火炮，与敌便衣队激战，不幸身负重伤，因无人抢救而殒命。傍晚，跑散的各部队陆续集中在南沟附近（南沟与河南岸白浪渡口遥相对峙）。当时，新编第二十七师、河北民军之溃兵，仍与各部队混杂在一起，少数人造谣生事，扰乱军心。军长孔令恂目睹此情，束手无策，竟率军直属部队争抢船只渡河逃跑，并令第一六五师师长王治岐跟随渡河。此时，师直属部队尚未跑回，王师长乃令四九四团三营营长赵承志率该营护送他们抢渡黄河。河面上拥挤不堪，新编第二十七师与河北民军散兵千余人，争抢船只，鸣枪怒吼之声震撼人耳。亦有抢夺不到船只而寻找木板、木头漂浮过河者，淹死的不下百余人。
第二十七师担负着掩护主力渡河的任务，多数官兵坚守阵地，奋力作战，激战中师长王峻、副师长梁希贤和参谋长陈文祀相继阵亡。——师长王峻，陕西蒲城人，时年三十九岁，曾任陕西警备第一旅旅长，跟随杨虎城参加西安事变。抗战爆发后，身先士卒，屡立战功。副师长梁希贤，陕西铜川人，时年四十三岁，黄埔军校第五期毕业，由于在军中表现优异，从排长逐级升任至现职。参谋长陈文祀，福建莆田人，时年三十七岁，黄埔军校第五期毕业，战前已接到赴陆军大学深造的通知。
第五集团军的损失最为惨重。部队被包围后，第十七军以团为单位分散向西突围。军长髙桂滋与大部队分离，带着少数官兵在日军的包围圈里转了二十多天，其间参谋长金醒吾和副官长王秀泉被俘，高军长本人几次遇险并企图自杀，最终侥幸逃了出来。而第十七军官兵都已跑散，在日军的包围圈中四处乱突，最终渡过汾河进入吕梁山的只有四个团，那些没有冲出来的官兵散落在中条山里不知所终。向西北方向突围的第三军几乎全军覆没。第三军从五福涧南渡黄河无望后，军长唐淮源率部开始突围。但是，直到十一日，仍旧无法冲出日军的包围圈。此时，第五集团军总司令部以及第十七军军长高桂滋都已不知去向。十三日，天降大雨，日军的攻击没有丝毫减弱，中国军队第七、第十二和第三十四师凭借山的抵抗，伤亡惨重，山谷里的溪流被官兵们的血染成了红色的泥浆水。十四日，日军的包围圈越缩越小，中国官兵浸在大雨中已数天没有吃饭和休息。唐军长召集第七师师长李世龙、第十二师师长寸性奇和第三十四师师长公秉藩在山谷中的一座庙里开会，决定把伤员藏在山洞里，部队化整为零以团为单位向外突围。
军长唐淮源率领一个团奋力突围未成，被日军包围在一座小山上。不愿做俘虏的他在日军逼近时举枪自戕于山顶。——唐淮源，云南江川县人，家境贫寒，自幼丧父，母亲在乡绅家做佣人供他读书。他苦读私塾，辛亥革命前入同盟会，继而毕业于陆军讲武堂。加入滇军后，参加推翻清王朝的云南起义，护国战争时是蔡锷手下的一名营长。抗战爆发，他率部北上，在太原会战中与日军苦战于娘子关。其后他的部队驻守中条山三年。此战前，他曾对各位师长表示，无论遇到什么情况，自己将为国家和民族保全人格。
第十二师师长寸性奇带领三十六团突围，但该团很快陷入日军的追击。大雨倾盆，山路难行，部队伤亡严重。寸师长的右肩中弹，官兵们用滑竿抬着他继续奔逃。十三日，三十六团又被日军第三十七师团第二二七联队包围，双方在泥泞中展开了残酷的肉搏战，日军联队长上田胜大佐被打死，而寸师长再次负伤——他的右腿被炮弹炸断。由于伤势严重，为免被俘受辱，在一个名叫毛家沟的山坳里，寸师长用平时佩带的短剑自戕，时年四十六岁。——寸性奇也是云南人，曾参加护国战争和护法运动，深受孙中山器重，曾任孙中山大本营少将参军和中央直辖宪兵司令。
在第三军的指挥序列中，第三十四师的身份有点特殊。这支部队不是滇军出身，而是由陕军改编而成的，一九三八年隶属第五战区第三十九军，参加了武汉会战和随枣会战。中条山作战前，该师突然接到命令被划归第一战区指挥。这一调动，连第五战区司令长官李宗仁都感到奇怪。后来才得知，蒋介石把第三十四师的番号给了川军，新成立了一个新编第十二军（下辖第三十四师、第三十七师），目的是以给番号及升官为诱饵调动川军出川抗战。中条山里这支不明不白的部队开始突围了。师长公秉藩带领部队跑入一个小镇时陷入日军的围攻，战斗中部队全被打散，军长公秉藩、副师长王自强、参谋长唐汝昌、政治部主任欧阳瑛等各自逃命，最终公军长本人被日军俘虏。有史料称“公秉藩率两万余人投敌”。其实，公秉藩身边根本没有两万人，只有他的两名卫兵刘荫学和赵学仁。无论怎样，战前公军长就已满腹牢骚，认为他的部队被无端的调来调去，调到哪里都低人一头。部队始终缺员严重，上边虽然补充了一点，但远赶不上逃亡的数量。士兵大量逃亡的原因有三：一是兵役人员贪污腐败，买卖壮丁成为公开的生意，洛阳附近一名壮丁可以卖一千斤棉花或三十石小麦。壮丁来了就跑，跑了又被买回来，第三十四师中就有反复逃跑以至被买卖十次以上的壮丁。二是这一带乡镇的保甲都有民间武装，士兵一旦逃走，就被保甲们收容保护起来，部队根本不敢去寻问。三是中条山里的生活太苦，只要一听说进中条山，士兵们都争相逃跑。
苦到什么程度？公军长的描绘是：
第五集团军前线部队距黄河渡口白浪渡一百二十里，第一战区后方勤务部在这里设立粮食供应站，让前线士兵从这里背粮，遇着好天气披星戴月往返需要两天多，遇着刮风或雨雪天，就要三四天才背一回。士兵要自己推磨，把原粮变成面粉，还需上山打柴，才能有燃料。没有副食，油、盐也很困难。士兵营养不够，劳动繁重，疲惫不堪。中条山气候寒冷，士兵在高山放哨，冻手裂足，只有一套棉衣，日夜不脱，夜间睡草铺，遍身生虱，虱子传染病，名曰回归热，或曰阵地热。师医院在前线设立灭虱站，用蒸笼把士兵的棉衣脱下蒸一次，不久虱又重生。疾疫流行，重病号送至师医院，缺少医药病床，医院附近尽成坟墓。士兵把中条山视为活地狱，强壮者争先逃命，乘夜间放哨之际，放下武器，逃至黄河边，乘当地人的牛羊皮筏渡河。前线各师缺额日增，每连士兵多者七八十名，少者五六十名，甚至三四十名者也有之。
这样的军队，纵然号称二十万之众，又能如何？
日军进攻中条山时，八路军向晋南战场伸出了援手。
日军发动进攻的当天，即五月七日，八路军攻入白晋路（白圭至晋城）上的牛寺，捣毁日军的地堡，破坏了铁路。九日，又连续攻克同蒲路上十几个日军的据点。十日，八路军第一二九师对同蒲路以南、白晋路长治以南、平汉路石家庄以南的各条铁路进行了破袭。十三日，又伏击了日军运输队，突袭并烧毁了日军位于阳曲的仓库。太行山根据地内的八路军，由于受到第一战区与其对峙的国民党军四个军的阻挡，不能向西进入中条山，于是他们向东而出，破坏了邢台附近的铁路，令日军的后方交通中断了三天。毛泽东特别致电八路军副总司令彭德怀，告知因为晋南战事危急，国民党方面“非常恐慌”，“望我援助甚切”。因此，八路军的“基本方针是团结对敌，是配合作战”，是“周密考虑情况”前提下的“有计划的配合”。两天后，彭德怀致电八路军所有部队将领：“为提高与坚定国民党作战决心，兴奋民众，扩大我之政治影响，除由一二九师及决死一纵队各以一部兵力在安阳以南之平汉路、洪桐南北之同蒲路先行破击外，我华北各兵团（除山东部队外）应立即准备于最近期内作较大规模之行动，配合友军作战。”八路军的具体部署是：第一二〇师贺龙部在平遥以北，破袭同蒲铁路和汾离（汾阳至离石）公路；平北军分区萧克部破袭平绥路；晋察冀军区聂荣臻部破击正太路、石德路、沧石路以及石家庄以北之平汉路；晋冀豫军区第一二九师刘伯承部继续破袭平汉线和邯郸线。重庆中央社对八路军的作战进行了连续报道：“第十八集团军在同蒲路北段崞县与原平间，破坏铁路数段，并向忻县以北日军据点攻击，共毙伤敌二百余，其他在白晋、平汉、平绥路沿线，纷纷破坏敌之交通，敌甚恐慌。”
日军大规模的军事进攻告一段落后，仍在中条山里反复搜索和扫荡，继续围歼第一战区失落的零散官兵。直到六月十五日，日军才宣布“中条山会战以赫赫战果胜利结束”。
关于中条山作战的失败，第一战区列举了一系列原因：战场条件恶劣，崇山峻岭，交通不便，背靠黄河，战场调动艰难，作战补给困难，阵地没有防御纵深，“徒具有阵地之躯壳，并无阵地战之条件”；日军的兵力过于强大，还有航空兵和伞兵的配合，武器装备上占据绝对优势，不要说数百架战机，仅就火炮而言，日军拥有七十五毫米以上口径的火炮多达五百门，而同样口径的火炮中国军队每师只有一门。中国军队普遍缺少真正能投入作战的士兵。由于中条山缺乏粮食，所有给养都要靠士兵自己运输，“运粮、磨面、挑水、打柴各种勤务，实占全连三分之一以上。此外更有突击队、搜索队、侦察队、便衣混城队等特种勤务，复占去若干兵额。加以新兵、病兵，所余战斗兵不及编制数二分之一”。更重要的是，官兵普遍骄怠，每每都说“中条山有金汤之固，恃而无恐”；而当战事真正来临时又士气低落，不仅因为士兵待遇很差，还由于各部队之间待遇相差很大，“饷糈显有丰窘，待遇间不平均，相形见绌，啧有烦言”。
对于中国军队的状况，外国记者有现的报道，所描绘之情景令人难以置信：
最前面的是骑马的指挥官，身披带彩穗的值星带，腰悬带装饰品的指挥刀，其次是他的高级部下。他们步行或骑马，装备由勤务兵背着。然后，在由下一批下级军官和可靠士兵组成的武装卫队当中，夹着一长列被劫持来的农民，那是用来扛战地用的大锅和其他重装备的民夫。入了伍的士兵走在民夫后面，有时用齐步，有时则疲疲沓沓地移动着，就像一群乌合之众……不难看出，这些士兵是想逃的，其中也偶尔夹杂着少数虽然消瘦，但穿着整齐的，吹嘘说他们从军阀混战时就南征北战了……但大多数人面露愁苦之色，通常都是四肢消瘦，手脚腕子由于营养不良而纤细异常，眼神显得满怀心事或亮得像发烧。发肿的双脚上裹着血迹斑斑的破布。在武装卫兵之后，跟着一批病、弱或面临死亡的士兵，呻吟着移动，对他们，用不着看守了，除非他们能跟上队伍，他们就没有什么用处了。他们的情况越糟，就越不想逃走，因为逃回遥远家乡的可能性越来越小了。当然也无法另找别人照料他们。国民政府故意把拉来的壮丁都编入远离家乡的军队，致使他们无法逃跑回家……
蒋介石认为，中条山惨败为“抗战史最大之耻辱”。
中条山作战的结果，暴露出正面战场上的中国军队作战能力严重低下，而当地国民政府的军政官员在日军刚开始进攻时就丢下百姓跑了，他们的惊慌失措和仓皇逃亡也是导致“最大之耻辱”的重要原因：
国民政府官员的撤退在老百姓撤退的好几天前就开始了，他们在当前这场混乱中是带头的。几乎所有的汽车和半数以上的大车，都装着文武官员的家眷和家具以及省府文武衙门的公文。政府看来也是只顾自己、不管别人的气氛的主要制造者。他们的大车是征雇来的，或者，干脆就是不给钱的。……他们有权有势，可以命人运任何东西。一切家庭用具，从帽架、吊床到油瓶，什么都有，有的甚至是些坏家具、零星木板、碎草垫子之类的东西，简直如从地窖里搜罗出来的破烂集市……在这种状态中，带头无所不为的正是政府官员，连警察也和政府官员一样，匆忙逃走了……没有人试图告诉老百姓，他们面临的是什么危险，其基本情况如何。也没人告诉他们，到什么时候撤退，往哪儿撤退，如何撤退……过了几个星期，人们一回忆起在敌人对中条山进攻前的这场撤退，就觉得异常愤慨，好像国民党政府的仓皇逃跑对造成这次洛阳大混乱的作用仅次于日本人……
战后的史料显示，在中条山作战中被俘虏的中国军队官兵，大部分被押送到了南洋、“满洲国”或日本本土做苦工。他们绝大多数都悲惨地死于非人的劳动强度和日本监工的虐待。但是，这仅仅是中条山苦难的一部分，中国军队在中条山战场上的溃败，使得这一地区的普通百姓遭受了空前的浩劫。
为防止中国军队再次于中条山立脚，日军对中条山一带的中国百姓采取了彻底的“三光”政策，实施了极为野蛮和残忍的屠杀、抢掠和强奸。特别是沿着黄河北岸的平陆、夏县、垣曲、济源等地，日军所到之处，县城与村庄皆成一片废墟，百姓不分男女老幼皆遭屠杀。在疯狂的烧杀劫掠中，日军以屠杀中国平民取乐，其残忍程度令人发指。中条山里的百姓为躲避日军的蹂躏，往往整整一个村镇全部逃亡，除了逃到邻近的省市之外，甚至还有辗转四川、云南、甘肃和新疆的。难民们因衣食无着而冻死、饿死和病死者遍布田野山路。在这场浩劫中，究竟有多少中国平民被杀害，多少中国妇女被蹂躏，多少人成为异乡的孤魂野鬼，直至数十年后的今天，依旧有人在试图追查统计，但仍是无法取得准确数字。
……通往上凹岭路旁的赵家凹是第三个杀人场。日军把我同胞捆在一起，拉到崖根，从崖上撬土先后活埋七十余人。本村七十四的张振华说，他小时候在这里看见日本兵杀死三个人，先挖好坑，再命令这三个人喝水（据说，人喝了水，刺刀好戳）。这三个人中，两个较矮，一个大个子，日本兵把两个小个子连续背起摔倒，折磨半死再用刺刀戳死，对这个大个子的人摔不倒，就用刺刀戳，那个日本兵戳进去的刺刀拔不出来了，另一个军官模样的日本人夺过带刺刀的枪，用脚蹬住被刺者的肚子，再抓住刺刀扭了几下拔出来，然后连戳数下，把三个人一起推进坑里埋掉……
由于国民党军在中条山的惨败，华北抗日根据的失去了重要的战略支撑。日军在完成中条山作战后，终于可以毫无顾忌的打击共产党武装创建的抗日根据地了。——“对于方面军来说，发动中条山会战歼灭了重庆军，使过去被牵制在该方面的日本军获得了行动自由，以后可以举全力对共军作战了。”只是，日军华北方面军突然发现，情形并非如他们预想，把中条山一带的蒋介石的军队赶走了，日军在华北丧失了牵制共产党武装的另一股力量。由于共产党武装极强的渗透与扩展能力，对于日军来讲，整个华北地区的局势“反而恶化了”：“作为蒋系中央军扰乱治安基地的中条山脉据点的确受到重大打击。但是这个所谓扰乱治安的游击基地，实际上有名无实，拿他们与共产军系统相比，其活动是极其差劲的。然而，当蒋系军受到打击失掉其根据地时，使虎视眈眈寻找机会的共产军，立即将其势力侵入该地区，取代蒋系军确立了根据地。从此，华北的游击战便由中共军独占了。”
于是，日伪军对华北敌后抗日根据地的围剿，其残暴到了丧心病狂、灭绝人性的程度。
在冀东敌后抗日根据地，有个名叫潘家峪的村庄，村民坚决不肯领“良民证”。自一九三八年夏到一九四一年初，日军对这个不屈服的小村庄进行了一百三十八次围攻，却始终没能让这个村庄低头。一九四一年一月，驻扎唐山的日军第二十七师团第一联队，在联队长佐佐木的指挥下准备再度突袭潘家峪。潘家峪的中共党支部得到情报后，把全村的老弱妇孺转移进深山里。眼看着春节要到了，想回家过年的乡亲们纷纷返回村庄。二十五日凌晨——这一天是腊月二十八，三千多日军和两千多伪军突然包围了潘家峪。乡亲们在敌人刺刀的威逼下被赶出家门，老弱病残不能走动的全部被当场杀死。村民潘凤柱的老母亲被日军用木棒击碎头颅，潘瑞德的老母亲被日军砍成了两段，潘忠元八十多岁的双目失明的祖父和潘树弟九十多岁的祖母被日军士兵用刺刀刺死。全村一千多村民被驱赶到村西的一个大坑里，坑里满是积雪，凌晨的气温在零下二十多摄氏度。佐佐木逼问乡亲们，八路军和八路军伤员在哪儿，没有人回答。沉默持续了数小时之久，妇女和婴儿被冻僵，但依旧无人回答。在这数小时内，日军彻底洗劫了每一户人家，把年轻的姑娘和媳妇集中在一起肆意奸污。中午，佐佐木下令将所有被押村民赶进一个院落，然后开始了集体屠杀。在一片惨绝人寰的呼喊声中，乡亲们用木棒、石头和牙齿拼死搏斗，迎着机枪子弹和刺刀向日军冲过去。由于院落狭窄，不少人虽然已经死了，仍呈互相依靠而站的状态。为彻底灭绝这个村庄，日军士兵从尸体中搜索没有死去的人，然后用刺刀再次刺死。在村南的山沟里，三十多名躲在那里的妇女和孩子被搜出，日军把他们逼上山崖，然后用刺刀全部刺死。日军士兵在杀害婴儿的时候，或用石头压死，或用布袋闷死，或扔向高空摔死，潘家峪村东的一个藤萝架下，婴儿的小尸体堆成了一堆。
潘家峪被杀的村民共一千二百三十人。八路军冀东军分区十二团的官兵连夜奔袭而来，他们看到的已是人间炼狱般的惨景。幸存的村民中有二百七十六名青壮年村民，当即参加了八路军，他们和八路军官兵一起组建了一个“潘家峪复仇团”。一年后，日军军官佐佐木被“潘家峪复仇团”击毙。
日军认为，用最残忍的手段令中国百姓身处噩梦般的恐惧中，是达到其殖民统治的最有效的办法。但是，日本侵略者忽略了这样一个现实：有相当一部分中国人骨头是硬的，特别是表面看去格外温良的中国农民。农民在被残暴彻底激怒的时候，他们会义无反顾地进行无情的复仇。在华北敌后的任何一个地方，被激怒的农民很容易寻找到能够给予他们胆量和信心的八路军。
自一九四一年开始，共产党敌后抗日武装进入了最艰难的时期。日军对抗日根据地的“扫荡”持续不断，其总兵力一度达到八十多万，甚至超过了正面战场的兵力投入。在日军的不断进攻下，华北抗日根据地被切割分隔，散布很广的八路军各部队相互之间的联系十分困难，每一支部队都处在激烈的作战和频繁的转移中。由于在日军进攻时不能置根据地的百姓于不顾，因此八路军必须首先拼死作战，然后才能疾速转移，所以伤亡极大。八路军处在日军、伪军和国民党军的三重重压下，物质极度匮乏。虽然名义上是中国军队的一部分，但在涉及一支军队需要的所有方面，从来没有享受过国家军队的待遇。由于必须面对十四个师团以上的日军，即使装备物资乃至生活用品极度短缺，也不能不扩大作战部队的规模。这个几乎无法克服的矛盾始终困扰着敌后战场的抗日作战。武器简陋，弹药奇缺，衣食无着，伤病无医，武器装备大多需要依靠战斗缴获，维持生存的衣食来源只能依靠民众支持或者是自力更生。由于得到武器的渴望到了朝思暮想的地步，鲁西的八路军提出了“打胜仗，缴大炮”的口号，官兵们在郓城附近的潘溪渡，围绕着几门大炮进行了一场伏击战。八路军用刺刀和手榴弹与日军展开血战，经过反复残酷的肉搏战，官兵们终于得到了“日思夜想的九二步兵炮”一一“干部战士解下绑腿做绳索，像护送宝贝一样把火炮送往杨孟庄，然后用牛车运往范县根据地。”战斗后仅两天，日军就发动了疯狂的报复。在猝然而至的进攻中，八路军第一一五师教导第三旅特务营的两个连，为掩护鲁西根据的机关和部队转移全部阵亡。
八路军的作战往往伤亡巨大。在冀鲁豫根据地，八路军第二纵队在攻击安华时，遭到大批日伪军的包围，周旋两个昼夜后，掩护部队转移的二营五连成功突围，六连和七连的官兵全部牺牲。在冀中根据地，日军集中五万余兵力，在飞机和坦克的配合下，对八路军部队展开大规模扫荡。日伪军在封锁圈内反复进行拉网式作战，尽管八路军和当地抗日民众一起进行了不屈不挠的抵抗，但日伪军还是占领了冀中所有的县城和重要集镇。抗日根据地被分割成两千多个小块区域，每一个区域都处在日军的严密封锁下。在日军的来回扫荡中，冀中根据的八路军减员一万多人，抗日民众被杀五万余人。
中条山作战后，日军大本营撤换了华北方面军司令官多田骏，委任所谓的“中国通”冈村宁次到华北任职。
冈村宁次把华北地区分成日军可以控制的“治安区”、八路军控制的“未治安区”以及双方交错控制的“准治安区”——对应八路军的说法，便是“敌占区”、“根据地”以及“游击区”。冈村宁次发现，前任多田骏对抗日根据地进行的作战效果并不明显，以致在华北地区“日军与中共军势力深入的状况大致相等”——“主要城市、交通干线及重要资源地的周围等，约占总面积的百分之十为治安区。而约占总面积百分之十，为中共的中心根据地地区，是日本势力所不能达到的。剩下的百分之八十，为双方势力交错地区，其中百分之六十大致是日本方面势力占优势，称之为准治安地区。”
冈村宁次认为，八路军“的确长于情报，而且足智多谋”，导致经常出现一个日军小队“被全歼的惨状”。由此，他亲自主持编纂了一本《缴共指南》，以指导部队如何对八路军采取“综合措施”：
他们是党、政、军、民结成一体的组织，具有明确的使命观。他们为了实现革命，力图通过争取民众，组织民众，以扩大加强其势力。他们巧妙地把思想、军事、政治、经济的各项措施统一，且将其努力分配于七分政治、三分军事之上，从而使我方单靠军事力量无法进行镇压，也必须统一贯彻多元、综合措施。
日军在“治安区”和“未治安区”之间，修筑了大量的隔离壕沟以及碉堡据点，仅沿着平汉路两侧十公里的地带，修筑的隔离带就长达五百公里。关于与八路军打仗，日军有着深切的体会。日军第八师团师团长塚本政登士曾专门撰文，分析他的部队与八路军周旋的经验和教训，结果这篇文章立即成为华北日军的作战教材。塚本政登士介绍了八路军抗日根据地的情况，说那里不但有兵营、仓库和医院，甚至还有大学——“经过教育的工作人员，开始以献身精神对日军占领区进行政治工作。”而在平原地区，看去似乎没有八路军的踪影，实际上八路军已经藏身在地下——“村庄与村庄之间挖通地道”，在整个村子的底下可以挖出“两层、三层的地洞”。八路军的游击战原则贯彻精到，以致日军“发动千百次大大小小的讨伐作战，几乎都未能给敌以重大的打击，很遗憾我们不能不承认这一事实。以此相反，讨伐中的日军司令部、小部队和后方部队，被共军全歼的例子却非常多”。所以，日军必须对八路军的谋略格外小心。
日军部队为了讨伐共军，一到基地，居民手拿太阳旗在城门外列队欢迎。如果看不到居民，日军就要警戒，但居民如此热情地欢迎，使日军疏忽大意进入城内，于是在城内同时受到四面八方的攻击，造成很大的损失。有时，中国人的送葬队伍在日军的碉堡前面通过，如此大殡，实在少见，正当日军守备士兵以好奇的眼光看得入迷的时候，送葬的中国人从孝服里拿出步枪，从棺材里取出机枪，一起向碉堡开火。
塚本政登士认为，八路军的本事出自“狩猎民族”的传统——“他们事先选好易于消灭敌人的地形，像张网一样展开部队，然后用一部兵力诱使日军进入其中，日军小股部队或后方部队遭到全部覆灭，大都因为上了口袋战术的当。”
更令日军头痛的是八路军与老百姓的关系：
根据地附近，全村百姓不论男女老少都参加民众组织，如抗日青年团、妇女团、少年团和老年团等，每个组织都承担一定的任务。青年团担任自卫，少年团和老年团专管站岗放哨监视敌人，妇女团负责缝补被服等。日军拂晓出发讨伐，一出基的大门，村民立即跟随日军的行动发出信号。一部分民众组织与日军同时并进，随时监视日军动静。共军命令并训练他们在日军到达之前把情报送给共军。通常有一部分群众在道路上埋设地雷、破坏桥梁，以妨碍日军的行动。日军一接近共军根据地时，几乎每一个民众都可看作是共军的哨兵和侦察员。可以肯定，在田里干活的农民会用铁锹示意的方式传送情报。
与游击战术同样被认为十分可怕的是八路军作战不怕死：
不用枪，只肉搏，见到了对方的机关枪，那可红了眼，不管火力多么硬，不管火网多么紧，他们都硬着头皮冲上去……如果命令一下，干起来，向敌人冲去，即所谓“光荣”的躯干倒在地下，也不要紧，后面的马上实行“同志爱”，为保护这流尽最后一滴血的遗体，也要保护这支枪，使用绳子把他拉下火线，先是你拿枪，我解子弹，然后再把尸体背回去……在攻城夺寨的时候，没有飞机，没有大炮，就索性搬出几千年几百年前的办法来，几个木梯接连到一起，多少个勇士扛着一个梯子，拥到碉堡根底，很快竖起来。他们穿枪林、冒弹雨地跑上去，死的伤的掉下来，后面的又接着爬上去，这办法虽然愚笨，有的时候血多肉多，也会得到胜利的。
一九四一年八月十七日，在冈村宁次的亲自部署下，日军第一一〇、第三十三、第二十一师团企图合围八路军晋察冀边区，封锁、消耗、摧毁八路军根据地。冈村宁次决定改变以往作战目标过大的弊端，集中兵力专门针对共产党武装最早创建的晋察冀根据地，一路自长城向南，一路自石家庄、井陉、阳泉一线向北，两路对进“采取鱼鳞式的包围阵”，“动用一切可以动用的装备”以确保达成作战目标。晋察冀军区令员聂荣臻派出一支小分队携带一部电台，不断地与找寻八路军首脑机关的日军周旋，而晋察冀军区机关以及主力部队则向西奔袭，进入太行山北麓，利用日军在龙泉关方向敞着的口子，顺利跳出了敌人从河北阜平至山西五台一线设置的包围圈。九月二十五日，日军侦察到晋察冀军区第一分区杨成武部指挥机关隐蔽在易县西南六十余里的狼牙山地区，立即集结起三千多兵力对狼牙山实施奔袭。晋察冀军区命令第一分区机关和主力部队转移至外线，第一分区一团七连则奉命扼守险要地形阻击敌人，以掩护游击支队、地方党政机关以及狼牙山周围村庄的百姓转移。一团团长邱蔚叮嘱七连连长刘福山、指导员蔡展鹏：必须死死地拖住敌人，至少明天中午十二点以前，不能让鬼子越过狼牙山顶峰棋盘坨。面对三千多日军的进攻，七连官兵在山上到处开火，让鬼子以为满山都是八路军。激烈的战斗从凌晨一直持续到太阳落山，在七连的前沿阵地上，二班和机枪班的战士大部阵亡，刘连长身负重伤。危急时刻，六班班长马宝玉奉命坚守阵地掩护连队撤离。六班拼死作战，誓死不退，入夜时全班只剩下五名战士。天又亮了，日军猛烈炮击棋盘坨后，步兵小心翼翼的开始向山上爬，六班的五名战士投出最后的手榴弹、打完最后的子弹，高呼着“八路军誓死不当俘虏”，砸烂枪支，从棋盘坨右侧的牛角壶峰纵身跳下悬崖绝壁。马宝玉、胡福才和胡德林坠落崖底牺牲，葛振林、宋学义挂在山腰的树枝上脱险归队。狼牙山五壮士的英雄壮举流传至今。
十月，日军第三十六师团，独立混成第四旅团主力，独立混成第一、第九旅团一部，共一万五千余兵力，奔袭八路军第一二九师师部。由于八路军早有准备，提前跳出了日军的合围。扑空的日军只有转而袭击黄崖洞兵工厂。黄崖洞位于晋东南，是八路军官兵艰苦创建的最大的兵工厂，一九四〇年生产出八路军自己制造的第一批步枪，时逢八路军总司令朱德五十五岁生日，步枪即被命名为“五五式步枪”。为了让兵工厂有足够的时间坚壁清野，八路军总部特务团凭借有利地形抗击日军的攻击——“共军进行了罕见的顽强战斗。”日本战史记述道，“第一线小队遭到敌人猛烈射击，不断出现伤亡。小队长市原少尉身中数弹，在‘懊恨！懊恨！’的绝叫声中倒下来，鲜血染红了山坡，然而无任何隐蔽物，从头顶上方遭受敌人猛烈射击。中队长命令第二线小队超越突击，激励市原少尉越过死亡者向敌弹雨中冲进。梅津少尉一边注视前方高地上敌之阵地，一边高叫‘继续前进’！犹如凶神敏过猿猴，迅速冲上陡坡，带伤攀登顶部，挥舞战刀砍倒数名敌兵，不幸此时一颗敌弹穿透了他的头部……”八路军总部特务团与日军血战八个昼夜，毙伤日军七百余人。
为了把侵华日军大量的牵制在华北和华中地区，共产党领导的抗日武装自一九四一年后承受着中国抗日战场上的空前牺牲。根据日方统计，仅一九四一年，在华北地区，日军就与八路军交战一万七千一百九十八次。这也就是说，平均每天发生近五十次战斗。而在这一年里，八路军及抗日根据的民众死亡“九万八千三百一十八人”，日军的损失是：“战死二千三百五十三人，负伤五百零一人。”事实上，在日方称之为“三光作战”、中方称之为“三光政策”的残酷屠杀中，被杀害的中国军民远远超出九万多人这一数字。
在日军对敌后战场的共产党武装发动全面攻击的同时，日军航空兵再次对中国抗战大后方重庆实施了“第一〇二号作战”。七月三十日，日军出动战机一百三十架以上，八月初的五天之内，日军出动战机三十余次五百架次，对重庆不分昼夜地进行了间隔不足六小时的“疲劳轰炸”，轰炸时间最长的一次竟然持续五个小时之久。日军的轰炸导致了一桩大惨案的发生。六月五日黄昏，正是重庆市民下班、下课和换班的时候，日机再次来袭。空袭警报中，重庆市民纷纷涌入防空隧道避难。由于避难人数超出了正常容量的一倍，隧道内拥挤不堪，严重缺氧，在炸弹强大冲击波的冲击下，通风机无法启动，濒临窒息的市民只好拼死向洞外拥挤，而洞外的市民还在往洞里拥挤，反向而挤的人群相互踩踏导致死亡惊人。重庆市市长吴国桢赶到现场，见“洞门之内，一望若有二三百人，手持足压，团挤一堆。前排脚下之人多已死去，牢握站立之人解之不能，拖之不动。其后层层排压。有已昏者，有已死者，有呻吟呼号而不能动者。伤心惨目，令人不可卒睹。”重庆当局调动军队前来救援，仅仅是拖出死难者的尸体而已。
在大隧道里，特别是洞口一带，遇难者你抓我扯，相互扭成一团，很难分开。有的尸体浑身汗如水淌；有的身上青一块紫一块，衣裤撕成了襟襟片片；有的两眼鼓凸，舌头伸出口外；有的抓破身子；有的手指抓地，嘴啃岩石泥土；有的赤身裸体，遍体鳞伤；有的全身发黑，披头散发，口角流血；有的孕妇被拥挤践踏，大小齐死。洞内悲惨情景，令石人下泪。
有资料统计，重庆大隧道惨案，平民死亡万人以上。
山河破碎，生灵涂炭。
民族耻辱，椎心泣血。
苦难的中国，有人醉生梦死，精神颓废；有人唯利是图，蝇营狗苟；有人贪生怕死，临阵脱逃；有人助纣为虐，叛变投敌。
也有人在与残暴的入侵者作决死的战斗。
而这些人，是让苦难中国屹立不倒的脊梁。