在长达八年的全面抗战中，中国第一战区从未打过一场好仗。
爆发于一九四四年上半年的豫中会战，是抗战期间中原战场上规模最大、交战双方投入兵力最多的一次会战。
这场作战，深刻地暴露出中国社会政治、经济和军事诸方面正在全面恶化——国民政府麾下的党政部门的大员、地方各级官吏以及隶属于不同派系的军队将领，抗战初期的爱国热情和作战意志都已被漫长而残酷的战争、内部复杂的私利角逐以及令人难以置信的贪污腐败消磨殆尽。而国民政府指挥下的军队，其一战即溃已不再是单纯的军事问题，而是战场上呈现出的一种全局乱象。包括国民党内部高层人物在内，绝大多数的中国人都意识到一种令人担忧的可能性：领导全面抗战的重庆国民党政权，很可能在日本人尚未被赶出中国时自己首先崩溃，这种崩溃不是来自于日本侵略的军事压力，而是一种无法逆转的自我销蚀与自我毁灭。
“此次中原会战挫师失地，罪戾难辞。然而追怀过去，冀策将来，此一段血的教训，深足警觉，确有坦白地检讨之价值”。第一战区在战后检讨报告里这样写道。
这场被称为“挫师失地，罪戾难辞”的会战是从黄河岸边开始的。
第一战区的防区，北抵北平附近的大清河，西至陕西门户潼关，东到津浦铁路，南至平汉路上的许昌以南，是抗战中国防区面积最大的一个战区，区域内平原千里，黄河横贯，中条山、太行山、伏牛山耸立其间。全面抗战开始后，中国军队于平汉线战败，黄河以北国土尽失；翌年徐州会战再败，掘开黄河大堤后乃保住半壁中原。卫立煌主持战区时，国共团结抗战，华北敌后战场活跃，但中条山守军疏于防范，与日军交战中损失惨重，中条山遂被日军攻占，加之庞炳勋等将领先后投敌，除了共产党敌后武装仍在这一地区与日军艰苦周旋外，国民政府统辖的军队从此全部退到黄河以南。第一战区的西面，是负责封锁共产党中枢陕甘宁边区的胡宗南的第八战区，东面与鲁苏战区连接，南面则是担任湘西地区防务的李宗仁的第五战区。三个战区连接在一起，形成与日军对峙的广阔而漫长的中原对峙线。
第一战区划分为由司令长官蒋鼎文和副司令长官汤恩伯分别指挥的两个部分。
司令长官蒋鼎文的长官部设在洛阳，指挥的部队是：
第四集团军，总司令孙蔚如。下辖：第三十八军，军长张耀明，其第十七师，师长申及智；新编第三十五师，师长孔从周。第九十六军，军长李兴中，其第一七七师，师长李振西；新编第十四师，师长陈子坚。以上两个军都是由西北军杨虎城的旧部改编而来。第四集团军防区右接汤恩伯部阵地，担任着枣树沟、汜水、巩县、偃师、孟津一带的黄河河防。
第三十六集团军，总司令李家钰。实际所辖部队只有第四十七军，军长李宗昉，其第一〇四师，师长杨显明；第一七八师，师长李家英。该军为川军，担任孟津以西新安、渑池一线的黄河河防。另外，在该集团军的序列表上，还有张际鹏的第十四军，其第八十三师，师长沈向奎；第八十五师，师长王连庆；第九十四师，师长张士光。第十四军为中央军嫡系部队，实际上由战区司令长官蒋鼎文直接指挥，驻扎在洛阳吕家庙附近。
第三十九集团军，总司令高树勋。实际所辖部队只有新编第八军，军长胡伯翰，其新编第六师，师长马润昌；暂编第二十九师，师长尹瀛洲。该军由河北民军改编而成，因此还指挥乔明礼的河北民军约一个师。该军的防区西面与胡宗南的第八战区接壤，负责渑池、观音堂一线的黄河河防。
第十四集团军，总司令刘茂恩。实际所辖部队只有第十五军，军长武庭麟，其第六十四师，师长刘献捷；第六十五师，师长李纪云。该军前身为豫西地区的镇嵩军，驻扎在洛阳附近。
刘戡兵团，总司令刘戡。下辖：第九军，军长韩锡侯，其第五十四师，师长史松泉；新编第二十四师，师长宋子英。该军基本部队由浙军和奉军混编而成。暂编第四军，军长谢辅三，其第四十七师，师长杨蔚；暂编第四师，师长马雄飞。该军在战前由第九军第四十七师扩编而来。兵团部驻扎在洛阳附近。
副司令长官汤恩伯，兼任鲁苏豫皖边区总司令，司令长官部设在叶县，指挥的部队是：
第二十八集团军，总司令李仙洲。下辖：第八十五军，军长吴绍周，其第二十三师，师长张文心；第一一〇师，师长廖运周；预备第十一师，师长赵琳。该军为中央嫡系部队，担任郑州以北花园口至广武的黄河河防。暂编第十五军，军长刘昌义，其新编第二十九师，师长吕公良；暂编第二十七师，师长萧劲。该军由河北抗日义勇军改编而成，担任花园口、中牟一线的黄河河防。第八十九军，军长顾锡九，其新编第一师，师长黄永瓒；第二十师，师长赵桂森。该军前身为西北军宋哲元部，驻扎在密县和新郑一带。
第三十一集团军，总司令王仲廉。下辖：第十二军，军长贺粹之，其第二十二师，师长谭乃大；第八十一师，师长葛开祥；第五十五师，师长李守正。该军前身是西北军韩复榘旧部。第十三军，军长石觉，其第四师，师长蔡剑鸣；第八十九师，师长金式；第一一七师，师长刘漫天。该军为中央嫡系部队。第二十九军，军长马励武，其第九十一师，师长全英；第一九三师，师长郭文烁；暂编第十六师，师长吴求剑。该军是一九四一年由新编第二军改编而成。第三十一集团军部队驻扎在临汝、登封、叶县、郏县和襄城地区。
第十五集团军，总司令何柱国。下辖：骑兵第二军，军长廖运泽，其骑兵第三师，师长徐长熙；暂编第十四师，师长李鸿慈；骑兵第八师，师长马步康。第七十八军，军长赖汝雄，其新编第四十二师，师长彭赍良；新编第四十三师，师长黄国书；新编第四十四师，师长姚秉勋。还有陈又新的泛东挺进军，驻扎在沈丘一带。
第十九集团军，总司令陈大庆。下辖暂编第九军，军长霍守义，其第一一一师，师长孙焕彩；第一一二师，师长王秉钺；暂编第三十师，师长洪显成。该军以东北军部队为主，一九四三年底由暂编第八军番号改编而来，驻扎在安徽阜阳一带。
以上八个集团军，十七个军，共四十多万人，部署在汜水、广武、郑州、中牟、尉氏一线的黄河河防，许昌至遂平之间的平汉铁路沿线以及密县、临汝、襄城和洛阳的纵深地带。
自一九四一年中条山会战溃败，第一战区部队基本上没再打仗。国民党方面普遍认为，太平洋战争爆发后，侵华日军已无力发动大规模作战。因此，蒋鼎文和汤恩伯自一九四二年主持第一战区后，两个人很清楚蒋介石赋予他们的主要任务是什么：绝对不要主动对当面日军发动攻击，在求得长期对峙局面的同时，寻机与共产党抗日武装发生冲突，以遏制共产党敌后武装的壮大趋势。
蒋鼎文，字铭三，浙江诸暨人，时年四十九岁，是国民党军将领中与蒋介石关系甚为密切的人。一九一一年武昌起义爆发后，十六岁的他加入学生军，后入绍兴大通陆军中学堂和浙江讲武学堂，参加过反对袁世凯称帝的斗争以及孙中山领导的护法战争。一九二一年孙中山就任非常大总统时，他被任命为大元帅府参谋部中校副官。他是黄埔军校的首批学员，为学员队的区队长，深得蒋介石的赏识。在东征战役中他身负重伤，伤愈后升任团长，成为北伐军中干将。在对待中国共产党的问题上，他与蒋介石的政治立场高度一致，曾率部镇压了第十九路军于福建的倒戈。使他声名大噪并与蒋介石关系更为牢固的，是他在西安事变中的表现。事变中，他和蒋介石一起被张学良扣押，为营救蒋介石，他充当了西安与南京之间斡旋的中间人，是促成蒋介石安全脱身的核心人物之一。全面抗战爆发后，作为蒋介石的心腹，他被任命为西安行营主任，在政治、军事、经济诸方面对共产党的陕甘宁边区实施围困。在兼任陕西省政府主席的任上，他买官卖官，贪污受贿，积累了惊人的财富，生活极其糜烂，在黄河北岸一带到处可见日本人张贴的他一手抱着美人、一手提着钞票的宣传画。一九四一年底，他调任第一战区司令长官兼冀察战区司令，开始和蒋介石的另一个心腹汤恩伯共事。
一九四〇年冬，汤恩伯率部进入河南，任鲁苏豫皖边区总司令。一九四一年初豫南会战结束后，汤恩伯就再没向日军发射过一炮一弹。除了奉蒋介石之令对付共产党抗日武装外，他的主要精力都放在了横征暴敛和扩充实力上。他以他的基本部队为核心，排除异己，结党营私，势力达到最高峰时竟拥有四十多万人马。他之所以把司令长官部设在叶县，是因为叶县是汉武帝的发祥地，也是曹操设在中原的巢穴，为此他自称“中原王”。为了靠近国民政府的权力中心，他用暴敛来的金钱财富大肆行贿，蒋介石身边的大小权贵几乎都收到过他的重贿；他还把用大价钱从日战区搞到的贵重物资，动用专车专船辗转千里运往重庆。他的金钱财富全部来自对百姓的残酷盘剥。中原大旱，蝗灾又起，赤地千里，饿殍遍地，十室九空，兵匪喧嚣，流民盈野，河南百姓从此有“水”“旱”“蝗”“汤”四灾并重之说。
蒋鼎文与汤恩伯的矛盾几乎不可调和。蒋鼎文在汤恩伯面前摆老资格，汤恩伯不但不以为然，且有意与蒋鼎文分庭抗礼。蒋鼎文为了制服乃至孤立汤恩伯，拉拢北方部队和川军头目，但汤恩伯针锋相对，在叶县延揽招待各色人等，馈赠厚礼，巩固自己权位的同时，还把蒋鼎文身边得不少人拉到了他的集团中。两人在同一战区分任司令长官和副司令长官，本应在一个指挥部里同心协力，但他们各自统帅着自己的部队，盘踞在相互分割的区域里，闹矛盾的时候相互拆台，暂时平静的时候便井水不犯河水。难以想象，如此一个战区内，一旦发生大战将会出现什么局面。
所幸这里长期未战。
日军之所以在这一地域长时间没有发动大规模攻势作战，除了日本国力军力财力的衰退、太平洋作战导致兵力不够等原因外，最为重要的是日军认为，与共产党敌后抗日武装的战斗才是这一地域日本占领军的主要作战内容。
日军华北方面军认为：
中国东部的重要部分，已落入日军手中，重庆军被迫撤到黄河以南的山岳地带，只能苟延残喘。与此相反，中共军却乘日军抽调部队、兵力减少之机，在华北、华中的广阔地带，建成牢固的根据地，站稳了脚跟。
日军还发现，这一地域的国民党政权显露出不稳定的倾向：
坚决反共的蒋介石及其一派（国民党）现在很孤立。各民主党派是所谓不满分子，很有可能使国民党陷入孤立。此外，南京现政权和华北政权所掌握的与日本合作的新军，由于中共军的活动而发生动摇，其战斗力颇有被粉碎、吸收之虞。
日本方面认为，共产党之所以是大敌，是因为它与国民党的区别极大：
如不了解中共军的传统和特性，尤其是忽视了其基干部队人人都是优秀战士的特点，而谈论中共军，就等于脱离实际的纸上谈兵……他们的领导人员，由于多年来一直在逆境之中，排除万难，冲破艰险，因而其坚强意志和狡诈智谋，决非一般人所能比。
作为日军华北方面军司令官的冈村宁次，自上任起便把主要精力投入到了与共产党抗日武装的作战上，但无论“治安作战”“剔除作战”，或是“大扫荡”，结局却是共产党抗日武装越来越强盛。后方不稳便无法在正面战场上作战，越“扫荡”共产党抗日武装越活跃，于是更不敢在正面战线上发动攻势了。——日军的这种两难使得中国第一战区内三年来一片平静。
只是，这种平静就要被打破了。
中原战场上将发生一场规模空前的大战。
促使日军发动大规模进攻作战的起因，还是常德会战期间美军战机从中国基地起飞对台湾新竹日军机场的轰炸，这次轰炸令日本方面再次强烈意识到本土安全将受到严重威胁。同时，进入一九四四年二月以来，太平洋战局越发对日本不利了：美军突破日军的马绍尔防线，已经压到日本海军联合舰队司令部所在地特鲁克。美军随即对特鲁克展开了大规模空袭，同时用强大的舰炮火力轰击岛上的日军。接着，美军在布拉翁环礁成功登陆，直冲马里亚纳群岛。在东南海域，二月底，日军连续丢失了重要岛屿上的支撑点，战略前沿拉包尔陷于孤立，美军突破了丹皮尔海峡，威胁到新几内亚岛的北岸。——日军在太平洋上连续的失败，导致了陆军参谋总长杉山元和海军军令部总长永野修身的下台。被天皇任命兼任参谋总长和陆军大臣的首相东条英机认为，在欧洲战场上，美英会很快开辟第二战场，盟军将向欧洲大陆纵深挺进；在苏德战场上，苏联已经渡过了危机，战场优势将继续扩大；而在亚洲战场上，美军将在太平洋上继续与日军拼死争夺诸岛，以逐渐向日本本土压缩；英军也将从印度洋方向，试图夺回缅甸南部、安达曼群岛以及苏门答腊北部。从全局上看，日本只有全面采取守势，而这种守势能否保持相对的主动，将取决于对中国战场的控制程度。——“因为在太平洋受到美军的压制，所以无论如何也必须确保西面的中国大陆和南方的联络。在海上正面万一发生问题，对南方的五十万军队不能坐视不救。”
所谓的“确保西面的中国大陆和南方的联络”是基于这样的现实：尽管中日全面开战已经第七年，但纵贯中国南北的铁路交通平汉线、粤汉线和湘桂线，日军依旧没能完全控制。日军虽然占据了中国东南部的大片国土，可仅就交通线而言，南北交通大动脉却被中国军队阻断了。在平汉线上，中国第一战区部队卡在许昌附近；而粤汉铁路线在长沙附近被中国第九战区部队占据着；湘桂铁路也处于被切断的状态。也就是说，从日军占领的中国东北地区往南，进入华北平原、中原地带、两湖地区，直到广东和广西，再到日军占领的中南半岛上的缅甸，陆地上的南北交通是不通的。此时，日本海军在太平洋上几乎被美军摧毁殆尽，孤悬于印尼和新马地区的数十万日本陆军，一旦危机降临，除了往中国境内撤退之外，再没有其他的逃生之路。因此，中国大陆的南北交通线必须打通。
日军大本营认为，日本与美英盟军、与中国军队决战的那一天迟早要到来，估计这一时刻应该在一九四六年。为了最后的决战，现在就应该准备，即在太平洋各个岛屿上尽力阻击美军的同时，还要打通并保持住中国大陆从南到北的交通，以保证未来的进退能够有机动的空间。——“打通华北、华中、华南分割的中国战线，并联接法属印度支那，虽是极大的作战，但考虑到该地区存在美空军基地的现状，无论如何必须在一九四四年内实现以上措施。”
一九四四年一月二十四日，大本营上奏天皇，对在中国战场发动大规模攻势作战阐述了理由：
摧毁中国西南要地的敌各飞机场，以保本土及中国东海的防护安全为其第一目的。打通大陆后，即使在海上与南方的交通被切断，也可经大陆运输南方的物资，以加强战斗力，为其第二目的。这样，估计今后大战的形势将会好转。同时，作为附带的收获，可以取得攻占地区的钨矿等重要资源。
天皇批准了这次作战。
大本营当天便下达了作战纲要，并把此次作战命名为“一号作战”。
这是一个规模空前庞大的作战计划。其要领是：首先在平汉路南部，动用第十二军以及第一、第十一、第十三军各一部，约六个师团的兵力，于一九四四年四月发动攻势；然后，动用第十一军以及第二十三、第十三军各一部，约十三个师团，对湖南境内的长沙和衡阳、广西境内的桂林和柳州以及湘粤赣边区，发动三个阶段的攻势作战；大约在一九四五年初攻占南宁，与南方军驻法属印度支那的第二十一师团会师于越南的谅山。日本方面的设想是：完全打通平汉铁路、粤汉铁路和湘桂铁路，将中国的南北交通大动脉贯通，以便让从“满洲国”始发的列车，南下数千公里，开到越南境内，一路没有任何阻拦，从而把中国战场与南方战场完全连接起来。
为了完成这次史无前例的大规模作战，日军大本营再次进行了国内动员，征集新兵，相继编组了十四个独立步兵旅团，并即刻派往中国战场；又成立了八个野战补充队跟随作战，以作为伤亡补充。同时，把原准备调往南方作战的第三、第十三、第二十二师团仍留在中国战场上。为了加强空战力量，把第三飞行师团扩编为第五航空军，并从关东军调来七个飞行战队。——尽管东京大本营已经尽了最大努力，可是与中美联合空军相比，日军在中国战场上的空中力量依旧处于劣势。
日军在平汉路南部的作战发动于河南境内：
方针
一、于四月下旬，以华北方面军由黄河岸京汉沿线地区发动攻势，击溃敌军，尤其是第一战区的部队，将京汉铁路南部沿线要冲占领并确保之。
二、命第十一军及第十三军各一部分，册应支援华北方面军的作战。
三、主要作战期限预定约一个半月。
作战使用的主要兵团如下：
华北方面军
第十二军（第三十七、第六十二、第——0师团、坦克第三师团、独立混成第七旅团、独立步兵第九旅团、骑兵第四旅团）。
第一军一部分。
第十一军（独立步兵第十一旅团之主力）。
第十三军（第六十五师团长指挥之第六十五、第六十四师团各四个大队）。
第五航空军一部分。
指挥要领
一、华北方面军大致应于上旬以前，进行新建部队的组织及警备交替，命作战所需兵团在驻地附近集结，进行训练。
二、华北方面军应在四月上旬以前，修复霸王城附近黄河铁桥。
三、华北方面军大致应在四月中旬，命第十二军主力集中于新乡南方地区，一部分集中于开封西面黄河左岸地区，完成作战准备。第十二军向前方开动时，命第五十九师团长一并指挥独立混成第五旅团，独立步兵第一、第四旅团等部，由方面军直辖，负责山东省警备任务。
四、第十二军大致应于四月下旬发动攻势，击溃敌军后，进入郾城附近，做好向洛阳方面作战的准备，同时以一部兵力进攻信阳方面，配合第十一军的部队打通通往武汉地区之陆路联络线。
五、第十二军主力，以后应迅速由郾城附近向右迂回，突入洛阳方面，击溃敌第一战区部队。
六、华北方面军在发动本次作战前，命第一军向西方佯动，并于作战开始后，命第一军一部及时由垣曲附近渡过黄河，切断陇海路，支援第十二军主力作战。
七、第十一军大致于五月上旬，以一部兵力，由信阳附近向确山附近采取攻势，支援华北方面军作战。
八、第十三军于四月底前后，以一部兵力在阜阳附近作战，牵制敌人，使华北方面军作战顺利进行。
九、由关东军调用的第二十七师团，先在黄河左岸待命，随着本作战的进展，经陆路向武汉地区推进。
十、作战完成后，华北方面军应即派遣第三十七师团和坦克第三师团的各约半数，经陆路开往武汉地区，划归第十一军指挥。
十一、作战完成后，华北方面军大致将洛阳、临汝、舞阳及泌阳东方一线，作为对敌第一线，确保京汉铁路南部沿线要地。
十二、用于确保新占领区的兵力，预定大致如下：第六十二师团、第一一〇师团、坦克第三师团（缺少一半）、独立混成第七旅团。
十三、华北方面军随着作战的进展，应抓住时机在郑州、洛阳、郾城附近建设飞机场，同时迅速修复京汉铁路南段。
但是，“按照一号作战的提议，虽然在华北打通京汉线作战势在必行，但方面军以黄河的险阻为理由，对之不感兴趣”。冈村宁次的解释是，华北方面军的主要作战对象应为中共抗日武装。华北方面军司令部的幕僚们经过研究，商定还是“在某种程度上暂时牺牲我占区的治安，从而可在属下各军最大限度地抽出兵力”，以执行大本营赋予的作战任务。冈村宁次对此次作战提出了两点要求：“一、目标为汤恩伯军。作战时如果猛攻密县，汤军主力当来应战，应考虑对其进行大举包围以歼灭之；二、本作战期间绝对杜绝三恶（不烧、不抢、不杀）。”
担任主攻的日军华北方面军第十二军，下辖三个师团又六个旅团，其中的三个旅团还是刚组建的部队。为了加强其力量，日军大本营下达了第十二军新的战斗序列，使得其兵力大大得到了扩充。第十二军，司令官内山英太郎中将。下辖长野祐一郎的第三十七师团、本乡义夫的第六十二师团、林芳太郎的第一一〇师团、竹下义晴的第二十七师团、野副昌德的第六十三师团、山路秀南的坦克第三师团，以及多贺哲四郎的独立混成第七旅团、长岭喜一的独立步兵第九旅团、藤田茂的骑兵第四旅团。军直属部队：野战重炮兵第六联队、独立野战炮兵第十一大队、独立山炮兵第一大队、野战高炮兵第七十四大队，以及独立工兵第三十八、第四十联队和第五十九、第六十大队以上参战部队，加上册应第十二军的部队，日军总兵力至少在十六万人以上。
但第十二军的军官们还是不放心，对峙线两边多年不战，令他们无法彻底掌握中国第一战区的底细。因此，他们对派遣军总司令部让他们从正面突破中国军队的防御阵地十分不满，认为黄河铁桥和霸王城以南的中国守军必定力量强大、布防严密，正面攻击会带来很大的伤亡。经过研究，他们认为可从郑州东面的中牟地区渡过黄河，进攻郑州、新郑和密县，直接威胁黄河铁桥附近中国守军的侧后，形成前后夹击的局面，这样一来中国守军的防线必定全面崩溃。根据这一设想，第十二军制订了详细的作战计划：
一 方针
军于四月二十日左右，以主力自黄河河畔平汉路沿线地区，以一部自开封西南方正面发动攻击，击溃第一战区为主的敌人后，占领平汉路南段沿线之要地。
二 指导要领
―、军以第三十七师团、独立混成第七旅团，集结于开封及其东方地区；第一一〇、第六十二师团，集结于黄河郑州铁桥北岸两侧地区；独立步兵第九旅团集结于汲县附近；为欺骗敌人，第二十七师团集结于新乡以西之博爱、沁阳地区；坦克第三师团在汲县及其以北地区集结；骑兵第四旅团在商丘现警备地区进行战备。
二、作战开始前，第二十七师团在黄河以北之孟津，骑兵第四旅团主力在霸王城与开封间之黄河北岸，分别进行牵制性佯动，并适时推进军主力，准备对霸王城及中牟正面敌阵地实施攻击。
三、第三十七师团指挥独立混成第七旅团，于四月十八日拂晓，在中牟正面渡过新黄河，向郑州及其以南地区突进；军主力第六十二、第一一〇师团，独立步兵第九旅团，突破霸王城正面敌军阵地，迅速向以南之郑州、汜水、密县、郭店、新郑等要地推进，将敌军捕歼于郑州平原。为使霸王城正面敌军阵地能在作战一开始时就遭到沉重打击及被突破，坦克第三师团应以一部协同。军主力预定四月二十日拂晓开始进攻。进攻开始前先占领鸿沟以西汉王城附近高地。
四、军主力到达郑州附近时，坦克第三师团、骑兵第四旅团即应迅速向黄河以南开进；军主力继续击溃所在地区之敌，直趋郾城，准备向西回旋，同时以一部迅速向信阳方向推进，与第十一军之部队会合，打通平汉路。而后随平汉路之打通，将预定使用于湘桂作战之第二十七师团向武汉地区前进。
五、军主力到郾城后，应以极迅速之突然行动向右回旋，向洛阳地区突进，以寻歼第一战区主力部队。
六、第五航空军除以一部支援此次作战外，必要时应以有力之战斗、轰炸部队进行直接支援。
七、作战开始后，第一军将于山西之蒲州、第十三军将于安徽之阜阳地区进行牵制。
八、此次主要作战结束之时间，大致在五月下旬。
内山英太郎制订的计划，是一个三路闪击的计划：先由左翼的第三十七师团、独立混成第七旅团和骑兵第四旅团，由中牟附近南渡黄河，强占新郑，然后接应中央一路的部队夺取郑州和密县；右翼的第二十七师团在黄河北岸摆出攻击洛阳的态势，牵制蒋鼎文的四个集团军，使之不能增援汤恩伯的防区；中央一路部队由第六十二、第一一〇师团、独立步兵第九旅团、坦克第三师团组成，从黄河铁桥渡河后，攻击霸王城要塞，夺取荥阳和广武，把中国军队第三十一集团军压缩到密县以西。然后第十二军主力沿着平汉路南下，寻歼中国军队第二十八集团军，夺取许昌、禹县和襄城等要地，预定在郾城或许昌附近突然向西回旋，包围汤恩伯部主力于登封地区，予以歼灭后直逼洛阳城下。从日军的作战计划看，其作战规模、作战决心和作战目的坚定而明确，中国第一战区在养尊处优三年之久后，即将面临一场吉凶未卜的恶战。
最早判断出日军要在中国的中原地区发动一场大规模攻势作战的是美国人。蒋介石的中国战区参谋长史迪威，早在一九四三年九月便向蒋介石提出报告，认为日军鉴于太平洋战场上的节节失利，必定要以确保其通往南洋各地的交通线为目的，在中国的南北铁路大动脉沿线发动大规模攻势作战。为了避免中国军队被日军各个击破，史迪威建议中国北方部队主动向日军发动攻势，以瓦解日军的作战企图。史迪威甚至提出了各路中国军队同时行动的具体进攻计划：傅作义指挥第三十五军沿着平绥铁路东进，孤立包头的日军；邓宝珊指挥第二十二军配合傅作义，在包头至归化之间打击日军；阎锡山的部队全线袭击同蒲路；汤恩伯部主力向东移动，渡过黄河威胁开封和新乡；朱德指挥第十八集团军进入五台地区，袭击平汉路。但是，蒋介石认为，中国军队的装备太差，进行如此规模的反攻作战，美国必须给中国装备十五个美械军才行，史迪威的建议就此被搁置了。
进入一九四四年，来自第一战区的情报显示，日军已经开始修复黄河铁桥，并有兵力频繁调动的迹象。重庆方面意识到这很可能是日军南下的前奏，于是对第一战区的兵力配置和防御阵地进行了重新部署，并于三月四日下达了较为详细的以全面防守、局部出击为原则的作战指导要领。根据军事委员会的指导要领，第一战区于十天后下达了一个在嵩山附近与日军决战的作战指导方案，其主要内容是：
一、扶沟、汜水间河泛防部队，应力阻敌人渡犯及突围。
二、如敌渡犯突围成功时，河泛防部队应凭藉许昌、洧川、长葛、新郑、郑州、荥阳一带据点，疲惫敌人。
三、同时汤兵团及第四集团军应以其控制部队，于登（登封）、密（密县）北侧山地，迄汜水间构成守势地带，于襄城、叶县、临汝、登封、密县、禹县地区构成攻势地带。如敌向我守势地带进犯时，守势地带之部队，应坚强抵抗；攻势地带之部队，应向左旋回，侧击敌人。如敌主力向我攻势地带进犯时，攻势地带之部队应与敌即行决战；守势地带之部队，即转移攻势，向右旋回，侧击敌人。
四、汤兵团以第十二军、第十三军、第七十八军、新一师、第二十师，隐密配置于登封、临汝、禹县、襄城、叶县攻势地带，并抽集一个师固守许昌。临泉附近部队，应有西移参加平汉路以西作战之准备。
五、第四集团军除固守原河防外，应以一个军固守老饭沟迄金沟主阵地，并以一部占领张庄、铁山、高山寨前进阵地，并确保虎牢关据点。
三月十六日，重庆军事委员会连续两次致电第一战区修改作战计划，特别强调了对许昌等重要据点的固守，并认为汤恩伯上报的作战计划并不符合军事委员会的意图。第一战区于三十一日重新修改了计划并再次上报，把决战地域改在了襄城、禹县和许昌附近地区。
汤恩伯上报的作战计划，不但把日军将要发动的大规模攻势作战称为“突围”——仿佛他多年来一直在包围着日军似的——而且煞有介事地声称自己要与企图“突围”的日军进行“决战”。有史料表明，汤恩伯曾向蒋介石提出过一个主动进攻的建议，说他要在中原麦收季节里“先发制人”，命令暂编第十五军袭击开封和中牟，第十三军袭击新乡，第八十五军夺取霸王城，第二十九军作为预备队。——明知蒋介石不会同意所谓的“主动攻势”，汤恩伯兴师动众的表态除了冒充勇猛之外没有任何意义。关键是他提出“主动进攻”的时间，是在军事委员会下达作战指导之后，如果他真的想要“主动进攻”，不要说他的部队与日军沉闷的对峙了三年，就是按照史迪威的建议于几个月前积极动作，也不会致使日军发动攻势后第一战区一败涂地。
最能体现汤恩伯在军事上不作为的，莫过于对黄河岸边霸王城附近的邙山据点的丢弃。早在一九四一年十月第二次长沙会战时，日军华北方面军为了册应第十一军作战，曾以第三十五师团强渡黄河，第一战区由十二万大军构成的黄河河防当日便被日军突破，郑州城在两天之内丢失。日军华北方面军完成册应作战回撤时，除了留下一部兵力驻守中牟县城之外，还在第一战区一线阵地的要点霸王城修筑起桥头堡阵地。这个阵地孤悬于黄河南岸，日军驻守兵力仅为两个步兵大队和一个炮兵大队，而在近三年的时间里，第一战区竟然对此无动于衷。——对一个嵌入自己前沿的至关重要的据点尚且不管不问，凭什么还能说出自己要“主动进攻”？
仅从第一战区最后确定的防御部署上看，也无法理解蒋鼎文和汤恩伯在军事上何以如此低能——中条山会战失利后，黄河沿线成为中日两军对峙的第一线，日军随时可能强渡黄河发动攻势，而就在日军进攻企图已经相当明了的时刻，第一战区的部队依旧是一线排开、散乱不堪的态势：陈大庆的第十九集团军在皖西和豫南，主要任务是应对共产党领导的新四军；何柱国的第十五集团军在汜东和淮北，主要任务是应对共产党领导的八路军；在灵宝至垣曲之间担任河防任务的，是在华北地区与共产党抗日武装摩擦失败的杂牌军高树勋部；李家钰的第三十六集团军在新安；刘戡实际指挥的兵力仅有三个师，散布在伊阳和伊川一带；孙蔚如的第四集团军在汜水与偃师之间。第一线本来就漏洞百出，而作为战区主力的李仙洲的第二十八集团军和王仲廉的第三十一集团军，却被散布在郑州、荥阳一直到许昌平汉路沿线以及黄泛区以西地带。——第一战区的整个防线，既没有梯次配备，也没有控制主力于后方，完全是被动挨打的部署，一旦前沿的任何一点被日军突破，整个防线便再也没有一个位置可以支撑反击。——中国第一战区官兵，在这样两位长官的指挥下，面对即将降临的空前规模进攻在劫难逃。
会战是从日军第三十七师团于中牟附近偷渡黄河开始的。
四月十七日黄昏，长野祐一郎召集第三十七师团各部队军官，在中牟县城的警备队里下达了攻击命令。此时，第三十七师团的先头部队已经开始行动了：
中牟一带一片漆黑，寂静无声，掠过河面的风轻轻吹动河边的草。右翼队利用黄昏，占领了重庆军阵地前面五百米的沙丘要地。左右两翼队于二十三时分别由准备进攻的位置出发。右翼队由中牟西南方，左翼队从中牟东方和南方，在军旗下肃静地向重庆军阵地逼近。零时过后，右翼队正面的重庆军可能发觉我军的进攻，突然向我军猛烈射击，立即枪声四起，整个中牟正面乱成一片。我第一线部队保持沉默，继续匍匐前进，逼近重庆军阵地。阵地前方杂草丛生，音响很大，已难隐蔽，于是满怀强烈斗志发起了猛攻。
黄河中牟一带的河防阵地，是刘昌义的暂编第十五军的防区。
暂编第十五军是一支刚组建的部队，本来只下辖一个师，即萧劲的暂编第二十七师。进驻中牟河防阵地后，吕公良的新编第二十九师被划归该军指挥。军长刘昌义，河北人，行伍出身，性格耿直暴烈，但他接纳的大都是有军校毕业文凭的军官。因此，尽管全军新兵很多，战斗力很弱，可军官们个个来历不含糊：副军长李强是黄埔一期的老资格，参谋长赵蕴奇进过陆军大学干训班，暂编第二十七师师长萧劲是赴德留学生，新编第二十九师师长吕公良毕业于黄埔六期。两个师的团长们，无一不是黄埔或陆大的，最低也是讲武堂出来的。至于营连级军官也都个个有学历，排级军官里的军校生占到了三分之一。
四月初，第二十八集团军调整部署时，把暂编第十五军的两个师拆开，其部署相隔很远：暂编第二十七师负责中牟河防，新编第二十九师防守许昌城。关于这样的部署，不少人议论纷纷，认为把武器最差、战斗力最弱的暂编第二十七师放在了最前沿，而把武器精良、战斗力较强的新编第二十九师放在了后方许昌，有本末倒置之嫌。但是，刘军长还是认真执行了这个部署。他把暂编第二十七师的七十九团和八十团部署在黄河岸边的一线阵地上，八十一团留在师部所在地滹沱张庄附近当预备队，他的军部设在距离前沿不远的新郑西南的大高庄，军直属部队离他两公里，他住的大房子里只有一名副官、一名侍从参谋和八名卫士。
十八日凌晨二时，前沿一线阵地发生战斗的消息传到军部，刘军长立即决定副军长、参谋长留在军部，他带着侍从参谋由特务连跟随出发上前线。侍从参谋提醒他是否带着军官队，说这些军官尽管打起仗来很难说有什么用处，但至少可以让他们当传令兵吧！刘军长表示，如果带部队，就从新郑附近的新编第二十九师八十六团调一个营来。
上前沿的刘军长走出不远，就碰上了暂编第二十七师运送伤病员和军官家眷的三十多辆大车正在浩浩荡荡地向后撤退。刘军长对伤病员们说，路上必须遵守纪律，不得扰民，否则统统枪毙。
下午，刘军长在暂编第二十七师师部见到萧劲师长，他立即意识到了局面的严重。
日军第三十七师团和独立混成第七旅团，正在暂编第二十七师正面阵地前强渡。日军在中牟县城东面的邢庄、荣庄、傅庄以及县城西面的三王庄，开辟了四个强渡突击点。面对日军的优势兵力和多点突击，仅凭暂编第二十七师阻击显然十分单薄——在与日军对峙的黄河天险第一线，中国军队的河防薄弱得令人吃惊——暂编第二十七师只有几门迫击炮，三个团加起来才有五挺机枪，官兵们只能用手榴弹与冲上来的日军战斗。在付出很大伤亡代价后，河防全线都处在边打边撤的状态。天亮时分，日军扩大了渡河面，后续部队不断地涌上南岸，守军的小李庄、小辛庄、桃村庄、大潘庄和洞上村等阵地均被日军突破。后退中的暂编第二十七师官兵，利用村落、沟渠、树林和沙丘节节抗击，很大程度上迟缓了日军的推进速度——“该敌利用原有和新筑阵地对我军的进攻进行了顽强的抵抗，斗志也很旺盛。阵地似有斜射、侧射的设备标识，效果也颇可观”。暂编第二十七师的下级官兵，基本上都来自河北抗日义勇军，是有抗日热情的河北农民，他们没有经过正规军的军事训练，打起仗来也不懂那么多的战术，凭借的只是一股死拼到底的精神——回顾整个豫中会战，首先接战的暂编第二十七师虽然最终没能守住阵地，但官兵们的战斗精神令人刮目相看。
到了十八日晚上，中牟一线的河防阵地已全部丢失，日军打到了暂编第二十七师师部滹沱张庄附近。师部给刘军长准备了晚饭，可刘军长却举箸难咽。萧劲师长认为，连预备队都派上去了，各团还是不断地后退，黄河天险和坚固的阵地工事尚且挡不住日军的进攻，日军已经突入纵深，我军再想依靠沙丘平地把日军打回去，基本上没有可能。但刘军长固执的命令必须组织部队实施反攻，并表示他要亲自率领他带来的那个作战营和特务连，再加上戴眼镜的军官队参加反击，非要把日本鬼子赶回黄河以北去。
十九日凌晨二时，刘军长率队出击了——在国民党军部队中，军长带着部队打冲锋的情景极其罕见，或许这就是行伍出身的刘昌义的血性所在——在黑夜中迎着日军向北搜索时，作战营的先头连在黑牛张村附近被日军发现，当即展开了战斗。刘军长命令另外两个连左右迂回，命令特务连和军官队跟在先头连后面正面强攻。各路官兵杀声震天地冲进了黑牛张村，日军丢下十几具尸体后向北退去，战斗中刘军长的突击队伤亡五十多人。与此同时，暂编第二十七师的八十一团和七十九团也分别发动反击，收复了两个村庄。天亮之后，刘军长的突击队和暂编第二十七师部队把当面的日军向北逼退到刘巧村附近。——形势似乎有了好转的趋向，如果此时中国军队的后续部队上来的话。
但是，暂编第二十七师的周围没有任何增援部队。
十九日天亮之后，日军骑兵在炮火的助战下，向中国守军发动冲锋，暂编第二十七师抵挡不住，一直撤到昨天反击开始的位置，全师已经伤亡上千人，双方胶着在树头村附近的沙丘地带。日军第三十七师团师团长长野祐一郎有些不安，赶到前沿亲自督战，他看到中国守军虽然已没有固定阵地，但“利用附近村庄的围墙、树木等为掩体，抵抗相当顽强”。他们投出“很多手榴弹，爆炸声在树林中猛烈回响”。几门简陋的迫击炮尽管对冲锋的日军没有很大威胁，可还是对日军“后方集结部队造成若干损失”。
刘昌义直接指挥暂编第二十七师作战，令师长萧劲认为军长的越级指挥扰乱了他的作战计划，两人之间产生了冲突。更令刘军长烦闷的是，昨晚他亲自指挥的反击取得了成效，而现在的反胜为败却让他很难接受。——刘军长不知道，就在他闷闷不乐时，日军的一支突击部队已绕到了他的身后。
就在日军第三十七师团突破暂编第二十七师河防阵地的同时，步兵第二十二联队第一大队大队长佐藤正混，率领“先遣挺进队”的三百名官兵偷偷渡过了黄河。这三百日军一律轻装，没有马匹和行李，除了随身携带的轻武器外，全队只携带着四挺机枪。为了行动更加隐蔽，三百人的脚下全穿着日本人称为“足袋”的布袜子。“先遣挺进队”的任务是不顾一切直扑郑州城。他们十八日晚上八时出发，遇到中国守军以及可能惊动狗吠的村庄便绕过去，走过田野，蹚过河流，置体力不支者于不顾，始终以每小时八公里的速度猛跑。他们利用通往郑州的被废弃的铁路路基作为直线行军的路标，一些士兵累倒掉队，没倒下的边跑边往嘴里塞饭团，竟然于十九日凌晨跑到了郑州火车站的城墙附近，而一路上中国守军没有丝毫察觉。在城墙下，佐藤正混命令第一中队立即攀城。日军利用黎明前的暗夜和晨雾，用绳索爬上了城墙，然后在微明的天色中摇晃太阳旗——“由于出其不意，敌人毫无斗志，从城墙上开始后退，中队即以两个小队向北门猛扑。城里到处是被枪声和手榴弹爆炸声吓得惊慌的老百姓。冲进一处像是司令部的房屋里，重庆军刚刚逃跑的迹象历历在目。”
位于中国第一战区纵深、城防坚固的郑州城，竟在会战开始的第二天便被日军攻占了城池一角，而突袭郑州城的日军仅为缺少一个中队的大队，实施攻城的日军仅仅是一个中队，这实在令人难以置信。
日军第三十七师团于中牟附近发起攻击的同时，第二十七师团也开始向洛阳方向实施佯攻。在黄河边，日军工兵架设浮桥，调动船只，步兵在河岸边侦察边测量——“伪装成和真的渡河一样。”趁着中国守军的注意力被吸引到中牟方向和洛阳一线黄河对面的时候，中央一路的日军悄悄经过黄河铁桥，潜伏到黄河南岸那个被日军占据已久的邙山头桥头堡附近——在长达三年的对峙期间，中国守军竟然看着日军在眼皮底下对黄河铁桥进行修复。修复黄河铁桥不是一件容易的事情，不要说实施步兵攻击，就是用炮火干扰也定会迫使日军停止修复。但是，日军竟然把桥修好了，现在又堂而皇之地从桥上过来了，这也是咄咄怪事。——十九日晨，太阳刚刚升起，日军向中国守军第八十五军预备第十一师的阵地开始了猛烈炮击。与此同时，在洛阳以东，日军第四十四、第十六飞行战队起飞战机二百多架次，轮番向中国守军黄河前沿阵地狂轰滥炸。日军第一一〇师团第一六三联队第二大队向邙山头高地发动了冲锋。预备第十一师的一个营在营长王鑫昌的率领下奋力抵抗，激战到中午时分，王营长和全营三百多名官兵全部阵亡。接着，在邙山头阵地以西，日军第一一〇师团第一九联队第三中队，在中队长涩谷幸雄的带领下，向黄河前沿阵地摩旗岭发动攻击。日军集中重炮、野炮和山炮一起轰击，第一三九联队也集中了所有的重武器支援作战，中国守军利用工事障碍顽强阻击，但阻击阵地很快就在日军的炮火中被毁，日落时分摩旗岭主阵地丟失。第八十五军当即命令预备第十一师动用预备队三十三团对日军实施反击，军工兵营和特务营也紧急增援前沿。但日军已经从中国守军的防御线上撕开了口子，后续部队从缺口处蜂拥而至，三十三团多次冲击未果，团长佘子培身负重伤。霸王城东西两侧的邙山头和摩旗岭高地相继失守后，日军消除了黄河河防正面最前沿的障碍，中国守军的炮兵也由于失去了前沿观察点而无法准确射击。二十日，吴绍周的第八十五军全线向塔山、万山地区撤退。
日军第六十二师团渡过黄河后，向荥阳县城猛扑过去。中国守军第八十五军的数百名官兵依城防守，二十日傍晚时分城墙被日军攻破，荥阳失守。
从霸王城撤退的吴绍周的第八十五军，潮水般地向南面的郑州涌去，与抢先占据郑州城墙一角的日军“先遣挺进队”撞到了一起，第八十五军立即对这股突进到纵深的日军小分队展开了围攻。混战中，中国官兵缴获山炮一门，日军“先遣挺进队”伤亡惨重，被打死十六人，十五人身负重伤。就在这支日军小分队几乎绝望之时，第六十二师团的第六十三旅团赶到了郑州城下。第六十三旅团是第六十二师团的左翼，任务就是攻击郑州城。该军一路南下郑州时，不断地向撤退中的第八十五军部队实施追击，追上的基本上都是行李大车队，因为不需要停下来作战，所以推进的速度很快，二十日下午二时其先头部队第十二大队就看到了郑州的城墙。大队长贺谷当即决定与那支惊魂未定的“先遣挺进队”联合攻击郑州城。日军第十二大队从已被占据的城墙一角向城内突击，中国守军在日军的攻击下很快溃退，郑州全城随即陷落。
郑州失守后，根据蒋介石的指示，汤恩伯把第一战区部队编成了南北两个集团，进行了紧急调整部署：南集团由李仙洲为司令，统一指挥贺粹之的第十二军的三个师、马励武的第二十九军的三个师、赖汝雄的第七十八军的三个师、刘昌义的暂编第十五军的两个师以及陈又新的泛东挺进军的两个旅，在平汉路及其以西的临颍、许昌、禹县、郏县、宝丰、叶县和襄城等地，阻击消耗南下的日军；北集团由第十三军和第八十五军组成，以第三十一集团军总司令王仲廉为指挥，集结在南集团西面的登封、临汝一带的山区里养精蓄锐，等沿着平汉路南下的日军与沿途节节阻击的中国军队拼得精疲力竭，开始向黄河以北撤退时，汤恩伯将亲自督率藏在山区里的那两个军，快速出击拦截，围歼日军。
以上部署完全是汤恩伯的一厢情愿：让精锐的中央军部队躲在山区里不与日军接触，把至关重要的平汉路沿线防御，全都交给只掺进一支中央军的众多杂牌军，在明知道如此部署平汉路必丢无疑的情况下，却煞有介事地说要等日军力竭向北撤退时出击围歼。——日军发动此次攻势作战，就为占领平汉路且巩固之，根本没有打完就撤的计划，汤恩伯对日军将会精疲力竭以至北撤的判断凭据何在？自台儿庄作战起，徐州会战、随枣会战、枣宜会战，及至这次豫中会战，日军每一次的作战目标都有寻歼汤恩伯部主力之意，而汤恩伯硬是每一次都能令日军根本见不到他的主力。他那装备精良的中央军嫡系部队，总是早早地、远远地躲到核心战场以外，理由永远都是待机出动。汤恩伯就这样为蒋介石保全着精锐部队，而让台儿庄战场上的池峰城、枣宜战场上的张自忠孤军抗敌。
部署完毕之后，汤恩伯致电蒋介石：“军决以有力之钳形态势，包围由中牟及邙山头方面进犯之敌于许昌、襄城、禹县、密县之间地区而歼灭之。”
二十日下午，日军第十二军发布作战命令，其要点是：攻占密县附近一带，摧毁中国军队的支撑要点，主力向新郑推进，准备围歼汤恩伯部主力。
按照作战命令，日军第三十七师团除派遣一支小部队向密县方向突击外，主力部队沿着平汉铁路迅速南下直趋新郑。平汉铁路两边的道路已被中国军队破坏，日军艰难推进。下午，日军与中国军队第七十八军新编第四十二师以及从中牟撤下来的暂编第二十七师遭遇。中国守军凭借既有阵地工事、地堡和壕沟展开猛烈的阻击，但在日军的强大攻击下，新编第四十二师伤亡惨烈，两名营长和六位连长阵亡，士兵死伤过半。当身后的新郑县城已被日军攻占的消息传来时，中国守军只有继续撤退。一一二十一日凌晨三时，日军独立混成第七旅团突击到了新编第四十二师和暂编第二十七师身后的新郑城下，拂晓时分向城垣发动攻击，守城的新编第二十九师和新编第四十二师的两个团，不敌日军的猛烈攻势，纷纷溃退。上午八时，平汉路上的重要据点新郑城落入日军之手。
在新郑城以北阻击日军的暂编第十五军军长刘昌义，从中牟一路退下来却心有不甘。二十一日，他指挥暂编第二十七师官兵阻击了日军第三十七师团整整一天，日落后，阵地侧翼一个名叫绪张村的阵地丢失，导致师部失去了掩护屏障。师长萧劲认为没有再阻击的必要了，建议继续后退，但刘军长坚持死守不退。两人僵持不下，萧师长带着暂编第二十七师甩下军长走了。性格倔强的刘军长带着特务连、作战营还有军官队集中在绪张村西面几百米外的小树林里。此时，特务连加上军官队仅剩下一百三十多名官兵，作战营加上配属该营的迫击炮排也仅剩下四百余人。刘军长说，郑州和新郑都已陷落，我们是在敌后孤军作战，但汤长官命令我们在此阻敌，我们哪怕牵制住一部分日军，也能给相邻友军减少一点压力，因此必须与当面日军拼上一场。侍从参谋陈正风把这五百来人分成两支冲锋队，一支由陈参谋带领，从绪张村的西口往里冲；一支由八十六团二营营长胡光耀带领，从村北往里冲；军官队同时在村南佯攻，军长带着特务连当预备队。但是，刘军长坚持要亲自带领部队冲锋，并要求军官队带头冲锋，一方面给士兵做出榜样，一方面让当面日军认为冲锋的是暂编第二十七师的主力。
晚上九时，冲锋队出发的时候，迫击炮排开炮掩护，但只听见五声炮响就再没了声息，原来没有炮弹了。绪张村里的一百多名日军认为中国军队已经垮了，不可能回过头来打仗，加上行军疲惫正在睡觉，刘军长率领官兵冲进来时，村子里顿时一片混乱。这是一场惨烈的白刃战，百余名日军不是被手榴弹炸死，就是被刺刀捅死。战斗刚刚结束，村庄的四周突然升起了无数日军发射的信号弹，刘军长立即命令部队向暂编第二十七师师部所在地八岗村转移。但是，等他们跑到八岗村，却发现暂编第二十七师已经走了，师部里空无一人。刘军长命令特务连去找，结果在村东街口和一股日军撞上了。这是包围而来的大股日军，刘军长的数百人被围困在村庄狭窄的街道上无处躲藏，当终于打开了一个缺口突围而出的时候，很多弟兄没能跟上来，那些不得不遗弃在八岗村里的重伤员全部被日军杀戮。
刘军长带着残部向许昌方向撤退，官兵们一路看见的都是悲惨的景象：
黎明时分，部队从东门进入薛店。此时的薛店较之四天前我们经过时已是面目全非，一片凄凉。镇内镇外看不到一个行人，绝大多数老百姓为躲避战火已远走他乡，少数未来得及逃走的全都惨死在日军的屠刀之下。所有的院门、屋门都被推倒或砸坏，粮食、财物和家禽家畜被洗劫一空。我随刘军长走进一座小院，看见一位老汉倒在血泊中，屋内的床上躺着一具披头散发的裸体女尸。我们又来到大街上，见路当中有几十堆麦秸，周围布满了洋马蹄印和许多炮车留下的车辙。
日军发起会战五天后，郑州、新郑、尉氏、洧川、荥阳、广武、汜水、塔山、万山都已接连失守。二十二日，日军第一一〇师团和第三十七师团第二二五联队，分别从东面和北面联合攻击密县。中国守军蔡剑鸣的第四师和廖运周的第一一〇师对日军展开了阻击战，张文心的第二十三师适时对日军实施了反击。此时天降大雨，战场上一片泥泞，战壕里的雨水齐腰深。二十三日，日军第二二五联队突破中国守军的阵地攻入密县。同时，第一一〇师团绕过密县，向撤退的中国军队展开猛烈追击。第一三九联队的第十中队，在没有接到命令的情况下，向密县北面中国守军的高地发起攻击，日军官兵的作战状态几近疯狂——“中队全体成员不顾疲劳和饥饿，敬诵五条圣谕（明治天皇发布的五条规范），欣然冲破黑夜，蹚着暴雨后没膝的泥水向前挺进。中队长中岛献夫中尉虽身负重伤，仍坚持不下反复发起冲锋，终于占领五二八高地的一角。然而中岛中尉于二十三日在五二八高地东侧常家附近战死。”
密县丢失后，日军对廖运周的第一一〇师紧追不舍，已丧失战斗能力的第一一〇师遭到毁灭性打击：
登封附近为高山道路，两旁地形十分险峻。联队当夜将广田中尉指挥的一个小队派到卢店附近。该小队搜索到溃败的敌军，以刺刀刺杀约一百五十人。挺进队命第一大队占领孙家店东西一线阵地，截击南逃的敌军，命三大队占领卢店阵地，切断向西南溃逃的重庆军七百人的退路，歼灭其中三百人，少将代理师长被俘。
二十四日，中国第一战区第四集团军部队全部退守到荥阳以西的虎牢关、马驹岭一线。
日军第十二军司令官内山英太郎认为，他已经把黄河河防一线的中国守军打残，令其退守到密县以西的山地中，至少在这个方向上中国军队短期内无法发动反攻作战。于是，他留下第一一〇师团和独立步兵第九旅团固守虎牢关一线，命令第三十七、第六十二师团以及独立混成第七旅团、骑兵第四旅团，在坦克第三师团的配合下，沿着平汉路线继续南下，发起对许昌和禹县的作战，完成打通平汉路的作战目标。
此时，李仙洲指挥的南集团部队，在连续丢失各个要点后，为了确保重镇许昌和禹县，急忙部署阻击作战：新编第二十九师等部固守许昌；第二十九军固守禹县；第八十一师守卫郏县；第二十二师守叶县，其中一个团守襄城；暂编第五十五师守宝丰。
此时，豫中战局处在一个微妙的时刻：对于日军而言，各师团连续攻击数日，加之中原连降大雨，官兵疲惫，战力下降。二线兵团第二十七师团奉命紧急南下，然而因为暴雨，部队行军艰苦，这个从关东军调来的师团，竟然因为天气阴寒，数十人被冻死，两千多人被迫滞留在后方医院治疗。由此可见日军已出现大纵深作战的困难。为了弥补战力的不足和下降，坦克第三师团的加入至关重要，而此刻坦克第三师团尚在向南运动途中。对于中国方面来讲，尽管连续丢城失地，但沿着平汉路南下的日军过于深入，且人困马乏，如果在日军坦克第三师团抵达作战区域前，除了在许昌以北的正面顽强阻击，甚至适时发动反击作战之外，密县以西的汤恩伯部主力如能迅猛出击，侧击进犯密县之敌，甚至直逼郑州，势必会令日军忙于应对南北两端，不但南攻许昌的计划将受到干扰，也将被迫辗转于郑州以南的狭窄战场中，虽然是否能够扭转战局尚未可知，但至少可以令战场局面大为改观。
可是，汤恩伯部迟迟未动，“良好战机稍纵即逝”。
第一战区曾给汤恩伯下过“以第二十九军全部以第十三军两师击灭密县之敌”的命令，汤恩伯也曾命令第十三军暂编第十六师由禹县向密县实施反击，但是，汤恩伯的敷衍仅仅使日军第一一〇师团采取了守势而已，于日军第十二军对许昌的围攻作战没有产生任何影响。
二十三日晚，日军第三十七师团突然袭击了和尚桥，二十四日凌晨攻占新郑与许昌之间的长葛县城。
二十六日，日军第十二军召开将领会议，认为第一阶段作战已达到目标：突破了黄河防线，占领了战略要点，各部队已推进到预定地域，伤亡也不算大，仅仅阵亡一百四十一人，负伤三十八人，却打死重庆军二千四百七十七人、俘虏五百零三人。从整体上看，作战进展顺利。但是，内山英太郎提醒他的将领们，不要认为中国军队总是一触即溃，要实事求是地总结中国军队的优缺点，以利今后作战：
一、敌军斗志一般旺盛，我军发起冲锋以前，坚持抵抗，并且屡次进行反攻。在正面战斗时抵抗尤其顽强，但受到侧后方攻击时则易崩溃。
二、高级指挥官的部署极为迅速，各部队的行动大致能按命令执行，部队彼此之间也能保持良好的联系，但初期受到我军突然袭击，似乎发生了混乱。
三、敌军撤退，特别是将重武器逐渐后撤阻止我军追击的方法，均极巧妙，在撤退时一定要进行反攻或炮击。
四、大量使用手榴弹，使用地雷则较预料为少。
会议决定了攻击许昌的作战方案：以第三十七师团担任许昌的正面攻击；第六十二师团在许昌西北的颍桥附近，负责阻击从禹县增援许昌的中国军队；独立混成第七旅团在许昌至临汝的公路以东，负责阻击从襄城方向增援的中国军队；骑兵第四旅团推进到许昌以南，负责截断中国军队的退路，并准备转向西北方向进至宝丰和临汝；第二十七师团在许昌东面，与独立混成第七旅团一起，防止许昌守城部队向东面和东南面突围而出，并须在攻占许昌后沿着平汉线继续南下，与第十一军北上部队会合，彻底打通平汉铁路，之后归属第十一军序列；坦克第三师团负责突击许昌南门。预定攻击时间为三十日清晨。
二十九日夜，日军第六十二师团首先行动，任务是攻占颍河两岸，以掩护其他攻城部队进入攻击位置。
在颍河指挥阻击作战的，还是刘昌义军长。
刘军长指挥的暂编第十五军，于中牟县的黄河边首先接敌，部队一路向南边打边撤，现在又奉命固守许昌。他的暂编第二十七师基本上打完了，守城任务由新编第二十九师承担。刘军长虽曾决心将日军赶回黄河北岸，但在短短的几天之内，渡过黄河的日军已占领九座县城，其中的八座在第二十八集团军的防区内。现在的许昌成为平汉路上最北端的阵地，也是暂编第十五军的最后一个据点。根据战前制订的作战计划，许昌附近乃第一战区与日军的决战地域，可汤恩伯只让新编第二十九师一个师守许昌，着实有点令人费解。可是，既然领受了任务，只能与许昌城共存亡。二十九日，第二十八集团军司令部下达命令，命令新编第二十九师守许昌，命令刘昌义同时指挥第七十八军的新编第四十二师和第八十九军的第二十师即刻开赴许昌外围颍桥阵地，阻击日军向许昌靠近。刘军长有点舍不得离开自己的部队，在与新编第二十九师师长吕公良告别后，才带队出城。——刘昌义军长不知道，这是他与吕公良师长的永别。
刘军长带着几百人在漆黑的夜里去寻找新编第四十二师。他本来以为新编第四十二师在灵井镇，到了那里才发现，在这个许昌外围的重要据点上竟然没有任何中国守军，新编第四十二师也不知到哪里去了。三十日凌晨时分，刘军长才遇到了新编第四十二师的补充团。在向颍桥方向行军时，突然听见猛烈的枪炮声，刘军长判断这是从灵井镇方向南下的日军，是去攻击许昌城的。刘军长立即率部迎敌，在颍桥附近，他终于见到了归他指挥的第二十师的五十八团，该团是从叶县向颍河开来的。刘军长来到五十八团团部，七十九团的一名下级军官跑进来报告，说该团在颍桥以北的余张村阻击日军，团长刘耀军阵亡，全团现在只剩下几十个人了。此时汤恩伯打来电话，命令刘军长撤退，倔强的刘军长说他要与日军在颍桥拼一下，否则就是没有尽到军人的天职。
刘昌义指挥第二十师的五十八团和六十团在颍桥一线的阻击，算得上是整个豫中会战中少有的像样的作战。迎面而来的是日军第六十三、第六十四两个步兵旅团。颍桥是一个古老的镇子，许昌到南阳的公路穿镇而过，镇子四周有很高的寨墙，寨墙外颍河环绕，河水虽不深但两岸是数米高的土崖，地形有利于防守。下午二时，日军开始炮击，中国守军都上了寨墙，用猛烈的火力阻击日军。刘军长所在的指挥部被炮火炸塌了半边，他向集团军总司令李仙洲请求增援，李仙洲说已命令第二十师师长赵桂森火速赶往颍桥。这一消息令刘军长信心大增。黄昏时分，逐渐接近寨墙的日军开始冲锋，集中兵力向西寨门涌来，中国守军在日军冲到寨墙下时，数百枚手榴弹雨点般地砸下去。日军几次进攻未果后，集中炮火反复轰击寨墙，导致寨墙多处坍塌，中国守军冒着炮火用麻袋堵塞缺口。天黑后，日军攻占了东南面的营庄，颍河东岸的日军也强渡成功，颍桥镇已处在四面受敌的状态。夜里十一时，颍桥镇东南寨墙首先被攻破，刘军长带来的暂编第十五军的特务连与突入的日军展开肉搏战。至五月一日凌晨，颍桥镇已被日军攻占了大半。退守一角的刘军长不甘心，因为李仙洲说过增援部队已经派出。可是，随着阵地被逐渐压缩，官兵们相继倒下，援军仍旧不见踪影。最后时刻，刘军长下令五十八团向寨西、他带着特务连向寨东分别突围。
这个名叫颍桥的小镇，恐怕是日军第六十二师团南下以来遇到的最难啃的一块硬骨头——“田村大队当日伤亡四十一人，金木队伤亡六人。田村大队派战斗救护班，在开店设立了包扎所，直到二十四时许，才将伤员收容包扎完毕。战死者有：第二中队中队长杉山岩中尉、第四中队中队长崛武中尉、步兵炮小队小队长泷泽彦作少尉；负伤的有机枪中队中队长横江义一中尉、步兵炮小队长笠井英雄少尉。”
冲出颍桥镇，刘军长一行人跑在漆黑的田野上，最前面的特务连突然接了火，打了一会儿才知道，是李仙洲派来的第二十师的部队。不甘心的刘军长立即组织反击，日军第六十三旅团正在集结准备攻击许昌，结果被打得措手不及：
旅团长中岛少将命令福井部队和旅团直辖各队迎击。工兵队以及卫兵、传令、防疫、供水、宣传各班也均投入了战斗。工兵队和卫兵在敌我相距不足五十米处展开手榴弹战。重庆军一面连续增加兵力，一面向陈庄方面推进。工兵队自六时四十分许逼近陈庄以北攻击敌军，因队长金木大尉负伤，攻击一度受挫。
随着第六十二师团后续部队的加入，刘军长的队伍除了赶快撤退外别无他路。
行伍出身的刘昌义和他带领的官兵，虽然武器简陋，训练不足，但自中牟前沿的河防作战开始，在日军的凶猛打击和追击下，他们虽然在不断后退，但绝不是望风而逃，且只要一有机会便主动歼敌。——战后，刘昌义军长得到奖励是：一枚三等云麾勋章和一尊蒋介石的半身塑像。
颍桥一线失守后，日军直抵许昌城下。
第三十七师团师团长长野祐一郎，下达了三十日拂晓开始攻城的命令。
与此同时，在蒋介石的严令下，汤恩伯表示他将率部与日军在禹县附近决战，以牵制攻击许昌的日军。
五月二日，汤恩伯下达了作战部署：李仙洲南集团的第十二军在郏县和宝丰集结，第七十八军推进到襄城，第八十九军在漯河和郾城集结，第二十九军固守禹县，第十二军第二十二师在颍桥附近阻击日军，暂编第十五军新编第二十九师固守许昌；王仲廉的北集团第十三军一部守临汝，一部监视密县，主力在白沙附近集结，第八十五军在登封集结。这还是一个散点式的防御部署，既没有防御重点也没有战场协同，无法得知汤恩伯部署的依据是什么，目标又是什么，唯一明确的是这一部署并没有显露出他向蒋介石保证的要与日军决战的态势。汤恩伯的命令刚刚下达，五月二日，许昌外围颍桥一线的守军便撤了，更为离奇的是紧接着许昌陷落了。
许昌城的陷落没有悬念。
只是城池陷落得太快，中国守军付出的代价太大。
三十日拂晓，日军的攻城战开始。第十一炮兵联队的几十门野炮以及第三十七师团、独立混成第七旅团的步兵炮一起，猛烈轰击许昌城垣和各个城门，大批的日军战机飞临上空，对城内投下了大量的航空炸弹。许昌城墙上的防御工事大多被摧毁，城内到处燃起大火。接着，日军从四面向中国守军发起了冲锋。
新编第二十九师，原为第三十一集团军直辖部队，一九四三年整编时改隶暂编第十五军，属于中央军半嫡系部队。主要军官的姓名是：师长吕公良，浙江人；八十五团团长杨尚武，湖南人；八十六团团长姚俊明，陕西人；八十七团团长李培芹，山东人；辎重团团长傅中枢，江苏人。
此时的许昌城孤悬于平汉路上。
在许昌以南、以西的中国军队，均被日军阻击不得前进，新编第二十九师只有与孤城共毁灭之唯一一途。
三十日整日激战，双方死伤严重。黄昏时分，南门先破。日军坦克第三师团冒着弹雨，数次攻击，最终将镶嵌在城墙中的南城门撞开。大批的坦克随之涌入城内，搭乘的步兵跳下坦克与中国守军展开白刃战。与此同时，十二架日军战机再次飞临许昌上空，配合地面炮兵集中火力轰炸和轰击西门，之后，大批的日军步兵对西门阵地发起决死冲锋——“小川决死队二十七人毅然冒着炮火，跳进河沟，游过了六十米宽的水面，利用炮弹、炸弹的硝烟掩护，逼近城下。随即赤身进行冲锋，打退了在城墙上三间房屋中据守的重庆军，并将其占领。十七时三十分，踏上了攻占许昌的第一步。”接着，在北门因为地雷太多而推进缓慢的日军，也于午夜冲入城内。天亮的时候，新编第二十九师已经伤亡数千官兵，师长吕公良率领残部从城东北角突围，在城外被日军布置的封锁线阻挡，战斗中吕公良师长和随行的三百余名官兵全部战死。
许昌被攻占后，日军第十二军司令官内山英太郎在日记中写道：
五月一日许昌城内的作战于上午结束。今晨攻占东北角后，由该处逃出的部分部队，六时二十分许在于庄附近被工兵第二十七联队小野部队围歼。由缴获名片中，得悉该部为包括新编第二十九师师长吕公良中将在内的司令部。因战时匆忙，未能郑重掩埋敌将遗体，并竖立标志，身为武士，不胜惭愧。
吕公良师长，黄埔六期毕业，从陆军第八十九师当见习排长开始其戎马生涯。全面抗战爆发后，他随部参加过百灵庙战役、居庸关战役、台儿庄战役、赣北战役、随枣战役等。一九三九年任第十三军参谋长，一九四一年任第三十一集团军高级参谋，其后还担任过华中抗日总队第五纵队司令、安徽界首警备司令和河南因江警备司令，一九四三年春始任新编第二十九师师长，阵亡时年仅四十一岁。
日军攻占许昌后，第二十七师团和第三十七师团的第二二七联队，在第二十七师团师团长竹下义晴中将的指挥下，由许昌沿着平汉铁路迅速南下，攻击平汉路上的郾城时，遭遇中国军队第八十九军新编第一师的阻击，日军第二二七联队第三中队中队长建部正中尉被打死。攻击漯河时，中国守军于正面阵地顽强固守，日军打了一天一夜才攻进漯河。日军第二十七师团主力超越第二二七联队，向漯河以南攻击占领了遂平和确山。与此同时，占据武汉的日军第十一军派出第十一旅团由信阳出发，沿着平汉铁路一路北上，防守确山的中国第五战区第六十八军部队不战而退，致使南下的日军第二十七师团和北上的日军第十一旅团在确山会合。自此，平汉铁路南段被日军打通。
只是，在这个过程中，日军第二十七师团发生了极大的混乱。这个混乱不是源自中国军队的阻击，而是因为豫中地区的狂风暴雨。日军第二十七师团，前身为中国驻屯军步兵旅团，是挑起卢沟桥事变的部队。扩编为第二十七师团后，归属第十一军序列，参战武汉会战，也是针对八路军发动“冀东大扫荡”的主力部队。一九四三年，该师团调归关东军序列，开赴锦州地区。当日军大本营决定实施打通南北交通线的作战时，才又将其调入关内，任务是沿着平汉铁路南下，打通铁路线后回归第十一军作战序列。第二十七师团一路走到黄河边时，因为连降阴雨冻伤了二千多人。从许昌继续南下后，又因为天气骤然炎热而令官兵大量生病。从确山继续往南前往信阳的途中，部队先是因为渡河秩序发生混乱，接着天又下雨了，刚刚还为炎热痛苦的官兵立刻又被风寒袭倒：
日落前后，阴云密布，劲风吹来，白天的闷热突然变成了冷雨，气温约为摄氏十度，风速约达十米。霎时间天昏地暗，大雨倾盆，田野间的汽车路立即被水淹没，道路两旁的沟渠变成激流，中途有两处桥梁被冲断，马车不能通行。行军部队只得在黑暗中伫立，雨越下越大，部队不能点灯，只靠同前后的人取得联系。为了抵住寒气，用大声呼喊，等待前进。至二十三时许，各队终于决定放弃迟迟不前的行军，设法避雨。各队长开始分头寻找避雨的村庄和房屋，但因夜间黑暗，雨水又大，看不清道路，未能找到避雨的村庄。纵然发现村庄，道路也极难走，人掉在沟里，马陷于泥中，尤其是车辆部队，虽然有的返回原宿营地，但大部分留在途中，其困难极为严重。至后半夜，发现有的士兵倚在炮车上昏迷过去；有的在辎重车下避雨，竟然爬不起来了……派遣军使该师团不丧失战斗力到达武汉地区的设想未能实现，尽管方面军做了周密的安排和指导，仍然遭受重大损失方到达信阳……于是，不得不使一千五百名伤病员留在信阳、汉口、武昌的医院。师团长竹下中将的病症疑为伤寒，于五月二十六日住进了武昌陆军医院。
多年转战中国战场的日军师团，如今变成这等弱不禁风，这从一个奇特的角度印证了侵华日军的衰落。
日军攻占许昌之后，认为新的战机随之到来。
在日军看来，中国第一战区的核心兵团，即是汤恩伯的第十三军，而中国军队的一大特点是，一旦核心兵团垮了，全盘就会迅速崩溃。因此，打垮汤恩伯部势在必行。此时，中国军队第十三军正在密县附近反击第一一〇师团。于是，内山英太郎认为，这正是围歼汤恩伯部的好时机。冈村宁次随后也发来电报，命令第十二军立即咬住汤恩伯部。
由此，日军打通平汉铁路南段后，主力部队开始猛烈地左旋，以求对平汉路西侧的汤恩伯部展开捕捉和围歼：长野祐一郎的第三十七师团、本乡义夫的第六十二师团、滕田茂的骑兵第四旅团以及多贺哲四郎的独立混成第七旅团，以坦克第三师团为先导，主力分别沿着许昌一襄城一临汝和禹县一郏县一临汝两条路线，向临汝平原实施向心突击；另有一部日军超越主力向伊河河谷开进，以断绝汤恩伯部第十三军的退路。而在密县和虎牢关一带的林芳太郎的第一一〇师团，则向密县以西的登封攻击前进；另有一部向登封北面的山地迂回，以夺取郭店，切断汤恩伯部向洛阳方向的退路。
信誓旦旦地声称要与日军决战，却躲在平汉路以西看着其他部队与日军血战的汤恩伯，这下灾难降临到他自己头上了。
“第十二军消灭汤恩伯军的努力，是从第六十二师团企图消灭禹县附近的重庆军开始的。”禹县附近的中国守军，是马励武的第二十九军。尽管第二十九军接敌后进行了阻击，但禹县外围阵地还是一夜之间全垮了。五月三日，日军开始攻城，当天禹县陷落。禹县的丢失，令位于平汉路以西的汤恩伯部，彻底失去了向西进日军发动反攻的支撑点。与此同时，日军坦克第三师团抵达了郏县城外，用坦克撞开城门后，独立混成第七旅团的步兵未受到激烈抵抗就占领了该城。在北面的密县方向，第一一〇师团向登封实施攻击时，中国守军还在部署之中，没等部署完毕，日军就突进到登封西北十六公里处，切断了登封与偃师之间的交通，令蒋鼎文指挥的中国军队第四集团军在巩县以东的阵地侧背完全暴露。三日，中美联合空军对日军实施了猛烈轰炸，从密县出发的日军第一一〇师团司令部遭到毁灭性打击，师团长林芳太郎仅因提前离开司令部三十分钟而幸免。
四日，奉汤恩伯之命增援临汝的第八十五军，没能抵挡住日军的进攻，拂晓时分临汝失守，第八十五军往南退去。日军坦克第三师团继续西进，当晚在伊川附近西渡伊河，切断了汤恩伯部第三十一集团军的后方联络线，中国军队第九军与第十三军被日军分割。五日，第九军在突围中遭到日军的层层截击，损失巨大，残部退往嵩县东北地区；第十三军在白沙附近试图摆脱日军的攻击，但在日军坦克的冲击下伤亡惨重。由于第九军和第十三军的溃败，导致第四集团军的阵地侧翼全失，第四集团军部队随即向洛阳西北地区撤退。
此时，在战场的北面，汜水、登封一线已落入日军之手；在战场的南面，宝丰、鲁山也相继陷落。更为惊人的是，跟随坦克第三师团一起推进的日军步兵第三联队，在坦克第十三联队一部的配合下，竟然出现在洛阳南面的龙门附近，封锁了伊河渡口。——从日军主力自许昌附近出发，短短的五天之内，日军在汤恩伯的防区内迅猛推进了五百余里。号称中央军嫡系精锐的汤恩伯部主力部队，不但作战意志和作战能力与平汉路上的杂牌军相差甚远，简直就如同一群乌合之众一触即溃。要不是日军步兵跟不上坦克的推进速度，让汤恩伯部得以丢盔卸甲地逃进了豫陕边界处的山区，该部在日军精心布置的包围圈内被歼灭几乎没有悬念。
汤恩伯部在日军的追击下一路溃撤，保卫豫西的任务就落在了第一战区司令长官蒋鼎文的头上。而日军如此迅速的突破了汤恩伯部四个集团军的防守，一路向西打到了他的面前，这对蒋鼎文来讲无疑是晴天霹雳。
日军主力突然转向豫西，有攻占洛阳进而逼近潼关的态势，这令蒋介石万分焦灼。他分别给第一战区司令长官蒋鼎文、第四集团军总司令孙蔚如、第十四集团军总司令刘茂恩以及所有副师长以上的将领发电，令其必须固守阵地不得后退，否则中原的战局将不堪收拾。
五日电：
兄部阵地为此次中原战场之轴心，关系全盘作战之成败与国家之存亡，务希督饬全体忠勇将士，抱与阵地共存亡之决心，发挥我国民革命军之战斗精神，奋勇歼敌，达成使命，庶不愧为总理之信徒与本党之战士。此次作战，兄部能遵令屹立不移，指挥若定，至用慰念，至系激励所部，始终保持阵地，完成任务，是所厚望。
六日电：
此次洛阳龙门之会战，实为我抗战成败之最大关键，正我全体官兵杀敌报国成功成仁完成革命之职责，用慰我国父及阵亡先烈在天之灵。凡我忠勇将士，务须抱定必胜信念，死守阵地，发挥城存与存、城亡与亡之决心，上下一致，共生同死，服从命令，严守纪律，重申连坐法，如有怕死后退伤害我全军之荣誉者，必斩无赦！望我各级官长尤应身先士卒，严督勤教，完成此重大之使命。我军荣辱，主义成败，国家存亡，民族盛衰，全在此一举，希共奋勉，争取胜利，勿使长沙与常德战绩独美于前也。
然而，蒋介石电报发出的时候，第一战区司令长官蒋鼎文已于五日拂晓率长官部离开洛阳，撤向了陕西方向。
日军大本营认为，一旦攻占洛阳，不但可以防止中国军队向平汉路反击以保障平汉路的畅通，更重要的是太平洋战局正在急剧恶化，攻占洛阳或许是一针振作士气的强心剂：“近来，我对英美的整个战局非常恶化，情况紧迫，极为凄惨。五月六日发表古贺联合舰队司令长官殉职的消息（山本五十六死后，出任日本海军联合舰队司令官的古贺峰一大将，一九四四年三月底在飞往棉兰老岛途中，飞机遇难身亡）。美军在新几内亚登陆。九日下令由确保新几内亚西部的重要战线后退。另方面，在缅甸自本月上旬以来，英帕尔战线的苦战更加困难。在欧洲意大利战线失利，传说卡西诺已撤退，据报道在法国北部开辟第二战线的登陆也迫在眉睫。”为此，冈村宁次急切地敦促第十二军：“东条首相鉴于形势需要，希望迅速攻克洛阳。第十二军准备何时攻占洛阳？”
第十二军司令官内山英太郎对此持有不同意见。
内山英太郎对上一阶段围歼汤恩伯部的作战耿耿于怀，认为由于坦克第三师团过于快速的急袭，反而致使汤恩伯部即刻丧失了决战意志，而中国军队的特点是一旦撤退，瞬间就能从战场上消失得无影无踪。因此，当前第十二军的主要任务应是继续猛烈追击向西逃跑的汤恩伯部，攻击洛阳周围的蒋鼎文部是次要任务。他向冈村宁次建议：对洛阳采取围而不攻的战术，留下独立步兵第九旅团、第一一〇师团和坦克第三师团各一部，对洛阳保持围攻态势；同时集中第十二军主力，趁汤恩伯和蒋鼎文两军阵势混乱之际，沿着洛河河谷以及嵩县通往卢氏的山路穷追不舍，务必使蒋介石的中央军主力彻底丧失作战能力。然后再折返与包围洛阳的部队合力拿下洛阳。最后，在豫陕交界处的灵宝附近，与中国第八战区中央军精锐部队胡宗南的援军决战。——直到一九四四年，日本人仍旧认为，在正面战场上的中国军队中，死硬抗战的都是黄埔出身的中央军部队，只要把这些蒋介石的嫡系部队一一打垮，中国战场上的战事就能迅速了结。在日本人看来，汤恩伯部和胡宗南部，都是中央军绝对的嫡系主力部队。
因为寻歼汤恩伯部也一直是冈村宁次的愿望，因此他立即同意了内山英太郎的建议。为册应第十二军的追击作战，日军再次向中原战场增派了兵力：第一军派第六十九师团师团长三浦忠次郎，率领第五十九旅团的五个步兵大队以及独立混成第三旅团的三个大队，九日夜由垣曲南渡黄河攻击渑池，以阻断中国第八战区胡宗南部向东增援的企图，并和第十二军沿着洛河河谷并肩追击；由警备北平的第六十三师团师团长野副昌德，率领第六十七旅团以及三个独立步兵大队赴郑州，并指挥独立步兵第九旅团以及第一野战补充队，突破孙蔚如的第四集团军在洛阳以东布设的阵地，抵达洛阳并围困该城。待第十二军主力完成追击作战后，加入到联合进攻洛阳的作战序列。
五月十日，重庆军事委员会发布作战指导大纲：武庭麟的第十五军以及从第十四军中加强给第十五军的张士光的第九十四师，固守洛阳城；第四集团军部队和刘戡兵团的第九军，迅速向伊川以西的宜阳方向增援汤恩伯部；汤恩伯兵团以主力固守汝阳、宜阳和洛宁一线，待孙蔚如的第四集团军增援部队抵达后转入攻势；刘戡兵团集结在洛阳西南约十七公里的磁涧，侧击由渑池向洛宁或洛阳进攻的日军，册应李家钰的第三十六集团军作战；第三十六集团军以一部守河防，主力攻击渑池方向的日军；高树勋的第三十九集团军阻击南渡增援的日军。重庆军事委员会命令第一战区必须控制汝阳、宜阳、洛宁和嵩县各据点，然后实施反攻。鉴于蒋鼎文的第一战区司令长官部已经撤离洛阳，军事委员会同意其转移到洛宁附近，向刘茂恩的第十四集团军总部靠拢。
尽管上述作战指导仍属于纯粹的防御计划，但如果得以落实执行，至少可以遏制日军的攻势。可是，重庆军事委员会命令下达的当日就已如同一张废纸。日军第十二军主力绕过洛阳向西的猛烈追击，令汤恩伯部和蒋鼎文部同时陷入了巨大的混乱。五月十二日，日军第三十七师团第二二五联队，击溃了中国守军第十二军第八十一师后占领嵩县。天降大雨，追击的日军在泥泞的道路上艰难行进，有的士兵因为极度疲劳而累死在雨中，沿途到处可见掉队的官兵，以致行军队伍长达二十公里。即便如此，中国军队仍是没能组织起真正的阻击作战，只顾一路向西狂撤。已经与自己的部队失去联系的汤恩伯，不断地向重庆发出捏造的战报，说他的主力兵团已抵达攻击前线。导致蒋介石十三日向蒋鼎文通报说，汤恩伯兵团已经抵达宜阳和韩城，命令蒋鼎文指挥的刘戡兵团和张耀明的第三十八军，配合汤恩伯部向进击洛阳的日军实施反攻。而实际上，汤恩伯部抵达韩城附近以及洛河对岸沙坡头的第十三军部队，只有四个营。结果，刘戡遵照命令向洛阳外围发起了反攻，遭到日军坦克第三师团的猛烈打击；而汤恩伯的“兵团主力”，那四个营，早已被追击而至的日军击溃。十四日，据守宜阳的中国守军第一〇六师的两个团，遭到日军第六十二师团的攻击。宜阳城不但有涨满雨水的护城河，还有高达十米的城墙，但在日军独立步兵第十四大队的攻击下，仅仅两小时城墙防御阵地就被突破。大雨中的巷战又持续了两小时，下午五时宜阳失守。
鉴于战局的危急，蒋鼎文紧急命令第三十八军占领韩城附近阵地，第九十六军占领温村附近阵地，努力阻击迅速推进的日军，掩护刘戡兵团以及第三十六、第三十九两个集团军部队向西撤退。但是，当第三十八军抵达韩城附近时，由于宜阳已经丟失，数千日军步兵在坦克的配合下已冲到了洛河岸边，第三十八军还没来得及部署就被日军冲散了。此时，刘戡兵团撤到了洛宁附近的程村，蒋鼎文命令他们占领长水镇以西的高地，力争把阵地与第三十六、第三十九集团军的阵地连接起来，形成一道防线以稳住阵脚。可面对潮水般追上来的日军，中国军队新的防线根本无法形成。蒋鼎文随即又命令部队后退到长水镇至观音堂线，建立起阻击日军的阵地，掩护第四集团军部队在长水镇西北地区集结。但是，刘戡兵团立足未稳，日军已越过三乡和洛宁逼近了长水镇。守卫长水镇的预备第八师无心抵抗，一触即溃。日军突破长水镇后，其前锋部队于十七日抵进中山镇。中国军队各部队为避免被日军追上，纷纷离开公路跑进了洛宁西北的山地，指挥部与部队之间的联络完全断绝，导致日军如入无人之境，一路向西直逼豫陕交界处的卢氏。
十八日，蒋鼎文终于与汤恩伯联系上了。汤恩伯言辞肯定的表示，他已经命令第二十九军第九十一师开往卢氏，部队可以归蒋鼎文直接指挥。蒋鼎文立即命令第九十一师和预备第八师一起，在通往卢氏的十八盘隘路阻击日军。但是，蒋鼎文很快便接到了预备第八师师长林伟宏打来的电话，说他在十八盘阵地根本没见到第九十一师的影子。——后来才得知，第九十一师并没有向十八盘开进。卢氏是中国军队退往陕南的唯一通路，狭窄的山路上到处可见丢弃的武器和装备——“村庄的入口、出口或岔路上，写有很多重庆军的师、团等撤退地址，可见其撤退情况何等混乱。”预备第八师抵挡不住日军的冲击，十八盘阵地很快被突破，日军的一支特遣队冲进了卢氏县城。
卢氏的陷落，令蒋鼎文部队的退路被截断，各部队只有进入崤山山区，通过狭窄的山路拐向憧关，去与第八战区胡宗南的部队会合。但是，日军骑兵第四旅团已经占领了长水镇的隘路，导致在长水镇以西的刘戡兵团以及高树勋的第三十九集团军、李家钰的第三十六集团军部队，受到北面日军第一一〇师团、坦克第三师团和第六十九师团的截击，东面和南面又有日军第三十七师团、第六十二师团和骑兵第四旅团的围攻。结果部队各自为战，陷入困境，濒临崩溃。
日军在向豫西追击中国军队期间，除了恶劣的天气带来的困难外，最大的威胁依旧是中美联合空军对他们的打击。美方空军记录：“第七、第八两中队开始此四日毫不怜悯之役，实起自五月十八日上午，合并总数十三架之机起飞掩护第四大队P-40十二架，俯冲轰炸长水镇敌部队及车辆。此任务起始不佳，俯冲轰炸机各机仅炸中目标区二处，担任掩护之十三架乃低飞扫射自长水镇至洛宁道路。据第七中队估计，此一任务中毁坏彼等卡车十辆，创损卡车及装甲车辆二十余辆，击毙敌骑兵约三百名。第八中队自鸣得意：‘吾等深感自傲’，算来‘至少占了五十辆的光，损坏坦克八辆，毙马二十匹及敌兵七十五名。’此实该两中队之过低估计，事后华方报告敌骑兵整个一团实际被歼，中国人不胜欢腾。”
但是，即使有空军的大力支持，第一战区部队的颓势已无法挽回。
在相邻部队不断溃散的时候，第三十六集团军总司令李家钰指挥的部队，仅剩下第四十七军的四个步兵团。在渑池以南与追击而至的日军苦战多时后，部队伤亡巨大，李家钰决定突围。五月二十一日，部队刚刚撤至陕县，数千日军骑兵分三路包围上来，当日军逼近集团军指挥部所在地姚店时，李家钰亲率特务营反击试图突围，他身穿黄呢军服，脚蹬长筒马靴，在突围的队伍里很是醒目。在日军机枪的射击下，李家钰身中数弹当即阵亡。第四十七军军长李宗昉和特务营营长指挥官兵拼死上前，终于抢回了李家钰的遗体——“李满身都是枪眼，但形态面貌可辨。随同总司令部的少将参谋处长萧某、上校副官周鼎铭等均牺牲……我部因李家钰阵亡，停火后立即做通宵转移。军长李宗昉在前，李家钰的尸首用麻袋装着跟后，杨显明师长（第一〇四师）护后。”
李家钰是四川蒲江人，毕业于四川陆军军官学校。一九一五年跟随护国军开始了从军生涯。因战功卓著，他从见习官一路升任排长、连长、营长，直至川军第一师师长。抗战初起，川军出川抗日，在山西长治一战中，率第一〇四师抗击日军第十八师团的进攻，表现英勇，战后升任第四十七军军长。一九三九年，因在山西南部指挥部队不断打退进犯的日军，升任第三十六集团军总司令。他有一颗爱国之心，与共产党将领朱德和刘伯承交往甚密，配合八路军打了不少胜仗。当豫中战场上的中国军队陷入混乱之际，他曾召集各部队将领开过一次会。他对将领们说，别人害怕逃跑，我不怕，我愿意殿后。咱们吃了河南百姓四年的饭，见了日本鬼子就跑对不起百姓。
决心对得起老百姓供养的李家钰，是阵亡于豫中会战中级别最高的中国军队将领，死时五十二岁。
那些同样吃着百姓饭的第一战区部队，连同他们的司令长官蒋鼎文一起逃到了豫陕边界处，而汤恩伯的部队逃进了伏牛山。
为了挽回局面，中国第五、第十战区部队曾发动反击，一度收复遂平、鲁山和嵩县，并逼近宝丰，迫使日军不敢再向西追击，放弃卢氏而退守洛宁，但是战场大局已无法转变。
此时的洛阳城，已是暴露在日军围攻下的一座孤城。
洛阳东有虎牢、崤函之险，北有黄河、南有洛河和伊河之阻，地势极为险要。作为中国第一战区司令长官部驻地，多年来中国军队在这里修筑了大量的城防工事，形成了看似难以攻破的城市要塞。
守卫洛阳的主力，是武庭麟的第十五军和从第十四军加强给第十五军的第九十四师。中国陆军第十五军是一支性质特别的地方部队，由辛亥革命期间嵩山绿林组成的强悍民间武装改编而成。全军的主要军官大都为豫西本地人，个人财产以及父老家眷都在洛阳地区，因此他们与日军血拼起来万分勇猛。
围困洛阳的日军发动攻城作战后，曾三次攻入洛阳城关，但都被守城部队击退。日军曾委托白马寺的和尚向城内送过劝降书，但城内守军不为所动。五月二十三日，守城部队全部退入城垣后，日军第十二军主力完成追击任务后折返至洛阳城下。这天一大早，日军的高音喇叭便抵近城垣，广播了内山英太郎致武庭麟的劝降书：
武庭麟将军：皇军自入中国以来，所向无敌，攻城没有超过一周而不下者。今将军守洛阳，十有余日，尽到了守土之责，也显示了你的军事才能。现在洛阳外围，百里内外，已无中国军队，援军无望，坐以待毙，实属不智。为将军计，以停战归顺为上策。如果从命，自将军以下各级官佐一律不动，薪饷照发，今限二十四小时内答复。如不从命，皇军已准备就绪，攻城旦夕可破，到那时玉石倶焚，悔之晚矣。
洛阳城内中国守军没有答复。
二十四日拂晓，日军第十二军集中重炮向洛阳城内猛烈轰击，坦克第三师团配合步兵从城的西北角和西南角同时发起攻击。中国守军借助城垣、城壕和坚固的工事顽强抵抗。首先登上城垣的是步兵鹈川中队：
天田小队和配属的工兵一起战斗在中队的最前面。天田准尉的过壕腹案，原拟将工兵的铁梯子扔下壕去，将绳子绑在坦克上，士兵顺着绳子下到壕内，然后将铁梯子搭在对岸，再杀奔城墙。但是，坦克遭到敌军的猛烈射击，地形也不适宜。不得已，改由士兵互相拉着绳子滑到壕底去，但这时开始出现伤亡。滑到壕底的工兵虽将铁梯子搭上对岸，不料壕太深，只能到达半腰，然而情况紧急，刻不容缓，天田准尉命令冲进，亲自率领以相原军曹等五人的尖刀班冲了上去。天田准尉在壕底遭到机枪扫射，被子弹打穿了右肘关节造成骨折，登上铁梯子时又被手榴弹片炸进左大腿，但仍想尽了办法靠近城墙。相原军曹也想靠近城墙，一颗手榴弹在头上爆炸而战死。天田准尉率领井上兵长等四名士兵，一起登上城墙，冲进了重庆军阵地，时间是十三时十分。
随着洛阳城西北角和西关的失守，数小时后，城东北角和东关也相继被日军突破。黄昏时分，日军的各路坦克部队和步兵全部涌入城内，与中国守军展开了惨烈的巷战。
二十五日午夜，率部抵抗到最后时刻的武庭麟军长，下令所剩官兵从城的东南角突围。中国守军突围时，受到日军布设在外围的骑兵第四旅团的伏击，伤亡惨重。
直到二十七日，洛阳城内的抵抗才彻底结束。
洛阳，这座中国的历史名城，落入日军之手。
按照日军的预定计划，攻占洛阳后会战结束。但是，二十七日这天，蒋介石向胡宗南下达了夺回失地大举反攻的命令。此时，日军打通大陆交通线的作战已经向南延伸，内山英太郎奉命抽调第十二军部队准备南下。面对中国第八战区的突然反击，冈村宁次决定在南下之前先打击胡宗南的部队，巩固豫中占领区。
根据蒋介石的命令，也为保护自己的陕西地盘，胡宗南拿出了他的主力部队四个军，由第三十四集团军总司令李延年指挥，东出潼关向日军发动攻势。李延年一开始的攻击，令日军有点措手不及。在日军抢占的险山庙阵地，李延年部经过数天的反复肉搏，攻占了数处外围据点，但由于日军不断增援，战场上最终打成僵持。奉命配合李延年的刘戡兵团，被日军阻击不得前进。到了六月四日，李延年部攻势减弱，而日军重炮第六联队的五十多门大口径火炮上来了，坦克第三师团的数百辆坦克也冲来了，李延年部被迫后撤——胡宗南的反攻很快就演变成了防止日军攻入陕西的阻击战。
李延年部依靠坚固的防御工事，顽强阻击日军西进达数天。为了尽快突破中国军队的阻击，日军第六十九师团绕过秦岭，攻击潼关中国守军的侧背，但遭到了中国军队的阻击。阻击日军的是李家钰阵亡前指挥的那支川军，总司令的死令官兵们很是痛苦，此时的川军官兵头缠白布，赤膊上阵，发誓要为他们的总司令报仇。川军顽强地与日军血拼数日，日军第五十九旅团木村千代太旅团长被地雷炸死，第六十九师团部被围困在断密涧一带。天气闷热，粮弹匮乏，被困在山岭重叠涧谷纵横的绝地之中，日军疾病流行，军心开始动摇。
这又是一个微妙的时刻：尽管日军坦克部队攻势顺利，增援部队也逐渐抵达，但鉴于地形的险要以及时间的不允许，日军还是下达了撤退的命令。如果此时中国第一、第五和第八战区部队能联合一致，一鼓作气地持续保持攻击态势，已经作战一个多月的日军第十二军未必能够抵挡得住。——在战场的东部再次截断平汉路，甚至收复郑州；在战场的西侧把日军推回到洛阳，甚至收复洛阳城，都存在着可能的战机。但是，胡宗南的部队也同时撤退了。
撤退是从位于灵宝前线的第一军开始的。十日上午，当灵宝外围阵地被日军突破后，第一军提出了撤退请求。第一军是胡宗南的主力部队，灵宝前线要垮的消息一经传开，引起后方的一片混乱。陕西省政府强行扣押了陇海线上的火车以及通往宝鸡的汽车，要把官员们的家眷和财物紧急运往汉中，甚至宣布陕西省政府也要迁往汉中。结果，西安的军政要员和富商们纷纷向重庆、成都和兰州搬家，导致西安火车站内人山人海，行李堆积如山。蒋介石听闻后下令查询是谁命令省政府迁移的，但是查无结果，没人知道消息到底是从哪里传出的。蒋介石还严令灵宝前线的部队不准撤退，可胡宗南的第一军还是潮水般地溃退了。为了弄清楚到底发生了什么致使胡宗南部如此仓皇西撤——已有明确情报表明，日军已开始东撤，准备结束在河南的会战了，根本没有进攻西安的意图——蒋介石命令中美联合空军前去查看并在空中拍照，看看到底是哪支部队在哪个将领的带领下在逃离战场。结果，美军飞行员看到，在没有任何敌情的情况下，胡宗南的部队正沿着公路混乱地滚滚向西。美军飞行员愤怒异常，驾驶飞机俯冲扫射，试图阻止地面部队的溃退，但是这却加剧了中国军队的相互推搡，任凭枪弹横飞，他们根本没有停住脚的迹象。
事后，蒋介石根据空中照片斥责胡宗南，说美军飞行员报告灵宝一带守军撤退时，是整师整军沿着公路混乱后撤的，并不是由于伤亡惨重不能固守阵地而撤退，应据实查明未奉命令而擅自撤退的将领，予以严惩。胡宗南在回复的报告中没有提及他的基本部队第一军，而是说擅自撤退的是第九十七师师长傅维藩、第一六七师四九九团团长贺一迟、第一〇九师三二五团团长刘明等人。蒋介石随即下令统统枪毙。
枪毙傅维藩师长，是由第八战区执行的：
上峰打来电话，说胡宗南传见第九十七师师长。傅维藩急忙赶到西安小雁塔胡宗南的副长官司令部。当即被软禁在一间小屋里，一连等了好几天，胡宗南也没有传见他。一天，傅维藩在陆大同学、当时任副长官部参谋长的罗泽闾请傅吃饭。进餐时，罗问傅：“你对妻子有什么话要说吗？”傅不解其意，随口答道：“没有。”饭后，突然响起了空袭警报，罗让傅上汽车去躲空袭。汽车开到武家坡附近停下，车上的卫兵说：“到了。”傅一下车，几个警卫就架住了他。一名执刑军官宣读了胡宗南处决傅维藩的命令。事出意外，傅维藩当即抗议说：“没有经过军法审判就要杀我，不行！我要见副长官，有话说。”可是不由他抗辩，枪就响了。
社会舆论对傅师长被枪决颇有争议。
豫中会战，日军达到了作战目的。
战后，中国第一战区司令长官蒋鼎文和副司令长官汤恩伯均被撤职。
关于第一战区失败的原因，除了部队布防不合理、会战指导不符合实际、战场没有任何协同以及战斗能力和作战意志低下等原因之外，还有一个原因令人诧异，那就是：在日军进攻的同时，战区内的河南百姓居然趁机攻击汤恩伯的部队，这也许就是汤恩伯在河南数年横征暴敛的结果。
会战后，在国民参议会第三届第三次会议上，一百多名参议员联名提出了一个《请申明军令严惩失机将领以明责任而利抗战案》，要求国民政府严办丧师辱国的汤恩伯。汤恩伯为自己开脱的理由之一是：这次豫中会战失败，“不是败于日军，而是败于河南民众”，因为河南民众被共产党利用起来反对他，使他“不能按预定计划同日军作战”。——汤恩伯很清楚，无论什么事，只要把罪责推到共产党身上，蒋介石就会相信。果然，蒋介石声称，要惩办汤恩伯就先惩办他。——汤恩伯的这条理由，荒诞到了连国民党内绝大多数人都无法相信的程度。谁都知道，在日军发动豫中会战期间，共产党抗日武装也在拼死作战，只是汤恩伯受到河南百姓的攻击倒有真凭实据。第一战区的战后检讨中对此开列了一系列事实，说河南百姓袭击国军，坚壁清野，给国军造成的损失比与日军作战损失还大，但战区的检讨并没有说这与共产党有关，倒是承认这是国民党的“政治”出了问题：
此次会战期间，所意想不到之特殊现象，即豫西山的民众到处截击军队，无论枪支弹药，在所必取，虽高射炮、无线电台等，亦均予截留。甚至围击我部队，枪杀我官兵，亦时有所闻。尤以军队到处，保、甲、乡长逃避一空，同时，并将仓库存粮抢走，形成空室清野，使我官兵有数日不得一餐者。一方面固由于绝对少数不肖士兵不守纪律，扰及闾阎，而行政缺乏基础，未能配合军事，实为主因。其结果各部队于转进时，时受民众截击之损失，殆较重于作战之损失，言之殊为痛心。又敌在行政下级干部阶层及各乡镇、各警所，多已隐伏汉奸分子，淆惑民众，阻扰国军，无不用其极。敌自龙门突破后，即窜大屯，开伪保甲长会议，当时民众竟尔持旗欢迎。当时宜阳县地方团队奉令破坏洛宜段、新、洛、潰公路，洛阳民众竟以不敢触怒倭军为辞，持械抵抗，入夜又潜将破坏处修复。以上不过举其一例，政治如此，更安所望于军民配合之原则耶？
陈诚接任第一战区司令长官后，在西安召集军事将领会议，分析豫中会战失败的原因。陈诚发现的问题有：一、军队内部的腐败。战区司令长官部内竟然有一个“抢购委员会”，用军车到黄河北岸的日军占领区抢购物资用以买卖走私。结果，打仗的时候部队需要补给，兵站的运输车辆竟然没有了。同时，部队征用民间很多交通工具，多数是为军官运输私人货物或走私物品。战区的各仓库，平时把作战用的军粮用髙利贷的形式放贷给当地民众，坐收利息，甚至还有盗卖军粮的事情发生，以致部队没有粮食吃，士兵只能自己弄来小麦自己磨面，有的部队直接去民间找饭吃，军民关系极度恶化。二、部队战斗意志衰退，在日军少量突击部队的攻击面前，不战自溃。当日军占领大片地域后，防务空虚，往往一个主战场周围多达六七个军的部队，却都袖手旁观，无动于衷。三、蒋鼎文与汤恩伯勾心斗角，一个战区内两个长官部，两边的部队互不往来，各自行动，一旦崩溃，不可收拾。尤其是汤恩伯排斥异己，使得战区内的杂牌军与中央军离心离德。四、战区长官部在会战中几乎瘫痪，日军一旦发动进攻，长官部首先仓皇撤退，二十多名电报员全跑了，连电报密码本都丢了，导致无线电台与各部队的波长和呼号都发生了错乱，根本无法进行作战指挥。五、战区上上下下都在经商赚钱。蒋鼎文的长官部在洛阳开设了面粉厂，并利用陇海线运煤图利；汤恩伯的买卖更多，开有卷烟厂、酒精厂、造纸厂、纺织厂和煤矿。长官如此，下级军官纷纷效尤，部队中的军官都成了腰缠万贯、穷奢极欲的不法商人。部队军官普遍吃空饷，把吃空饷得来的军粮拿到市场上贩卖以饱私囊，洛阳城内出售的粮食一半都是由部队军官出售的。六、军纪废弛。河南民间有“宁愿敌军烧杀，不愿国军驻扎”之说，第一战区部队对百姓的残酷盘剥，导致第八十五军、第十三军和第四十军惨遭民众洗劫，连军司令部都被百姓抢得“鸡犬不留”。七、军队的政治工作有名无实。各部队的政治部，平时不能宣传鼓动，战时望风而逃，只热衷于干涉地方行政，假名营私。——“由检讨而知的缺失尚不止此，此不过其荦荦大者而已。这样的部队，还希望它能够打胜仗，岂不是做梦？”
蒋介石也在重庆官邸召开了以整军为主题的会议，要求与会将领们把会议开成一个“彻底反省，雪耻图强”的会议。蒋介石首先说到了现在国民党军队在中国社会舆论乃至世界舆论中的地位问题：
你们要知道，现在外国人对我们中国军人的心理，要知道他们对于我们中国军人的地位、人格是一种什么看法？不要以为他们把我们当作四强之一，就自己以为是了不得。须知他们实际上不仅不把我们当一个军人，而且简直不把我们当一个人。这种心理，这种耻辱，不知道你们都已痛切感觉了没有？长此下去，眼前就要亡国！长此因循下去，再不力求振作，不要说我们的力量不能消灭日本，就是日本失败而灭亡了，也绝不是我们的胜利。
蒋介石认为，豫中会战就是令世界各国看不起国民党军队的一个例证：
讲到这一次中原会战的情形是怎样呢？有一些美国和苏联的军官和我们军队一同撤下来，据他们所见，我们的军队沿途被民众包围袭击，而且缴械。……这样的军队，当然只得失败！我们军队里面所有的车辆马匹，不载武器，不载弹药，而专载走私货物。到了危急的时候，货物不是被民众抢掉，就是来不及运走而抛弃道旁，然后把车辆来运家眷。到后来人马疲乏了，终于不及退出就被民众杀死！部队里军风纪的败坏，可以说到了极点……这样的军队，还存在于今日的中国，叫我们怎能做人？
陈诚专门提到了郭沫若轰动一时的文章《甲申三百年祭》。郭沫若把一九四四年和三百年前的一六四四年相比，认为明朝败亡的现象已经复见于今日。陈诚认为，发表在《新华日报》上的这篇文章虽然“别有用心”，但其“对时局的看法，有相当的代表性”。在陈诚看来，当前最可怕的莫过于“国民精神”的崩溃以及人人都不肯和不敢讲真话：
最可怕的现象，就是一般国民精神的崩溃，悲观、消极、怨愤的气氛到处弥漫。反映在生活方面，就是可以享乐的人，无不尽情享乐，以“今朝有酒今朝醉”为准则；而无力享乐的人，则以怨天尤人的方式，过“活一天算一天”的生活，毫无自力更生的打算。这种人人觉得没前途的心情和行动，表现在部队上的，就是士气更消沉，纪律更败坏，战志更低落。豫中会战就是这一背景产生出来的标准范例……还有人认为国家最大的危机，是没有人能讲有用的话。其所以如此者，一因有官做的人不必讲真话；二因想做官的人不敢讲真话；三因知道不能讲且讲了无用的人不肯讲话，于是人人缄口不言，伪装一种天下太平景象。
历史经验证明，一个民族的精神状态到了“今朝有酒今朝醉”的地步，到了人人都不愿讲真话也不敢讲真话的地步，这是极度危险的。
“就是日本失败而灭亡了，也绝不是我们的胜利。”蒋介石的这句话出自肺腑。
在日本侵略者尚未被赶出国土之时，国民党政权就已经岌岌可危了，这样的政权领导之下的军队是无法彻底战胜侵略者的，哪天日本真的战败了，也绝不是被国民党军队彻底打败的。——历史证明，在日本投降后，国民党政权果然很快就垮台了。
但是，对于正处在战争进程中的中国而言，就算蒋介石认识到了国民党的政治危机，实际上他既无法顾及也没有能力解决这些危机，因为此刻日军打通南北交通线的作战正在迅猛地向南延伸。
日军遇到的下一个对手，既不是胡宗南，也不是蒋鼎文，更不是汤恩伯，而是中国的抗日悍将薛岳。