一九四四年六月，注定是一个血腥之月。
豫中会战结束后，日军立即向湖南方向集结，其兵力之庞大令人震惊。
侵占华中地区的日军第十一军司令官横山勇，自一九四三年十二月结束常德作战进入对峙状态后，便再没有进行大规模作战的计划，原因是常德会战期间他已接到命令，他的部队将被调出中国战场：第三师团去澳大利亚北部改隶第二军；第十三师团调往西太平洋的塞班岛、关岛和提尼安岛，划归海军第四舰队作战序列。两个师团派出的先遣设营小组已经从汉口出发了。同时，第三十九师团也将调出，作为日军大本营的战略预备队。为弥补兵力的巨大缺口，第十一军从其余各部队抽调人马，在当地编成了独立步兵第五、第七旅团，分别接替荆州和南昌方向被调走师团的防区。就横山勇而言，他有限的兵力能守住现有防区就不错了。但是，转入一九四四年，大本营决定发动打通中国大陆交通线的作战后，第十一军奉命承担粤汉铁路沿线的作战任务。
打通中国大陆交通线的目的，日军在发动豫中会战前就已明确，只是随着战局的发展，这一规模庞大的作战变得更加急不可待了。就日本方面来说，沿着中国南北交通线发动的作战，已不仅涉及未来东南亚兵败之后数十万陆军如何转退的问题，更是出于对盟军利用中国大陆向日本本土实施攻击的日益加剧的恐惧：“鉴于目前战局的形势，来自中国大陆的美空军必将对帝国本土进行轰炸。因此，制止驻华美空军的频繁活动，实为当务之急，希望坚决以摧毁敌空军基的作为重点。”“桂林是摧毁敌机场的最重要的目标，必须下决心一举攻下长沙、衡阳、桂林。”
在日军大本营的作战策划中，竟然还有一个更加令人匪夷所思的纵贯大东亚铁路的计划：“从釜山（朝鲜南半岛南端）出发，经奉天、北京、汉口、衡阳、进入桂湘铁路，复经桂林、柳州、谅山（越南北部），从法属印度支那抵达泰国曼谷，纵贯马来半岛，直至新加坡，长达七千九百四十四公里（如绕行泰国、柬埔寨的金边时，为九千一百六十四公里）。在这约达八千公里的长距离之中，设想需要新铺设的地段为京汉线南段（黄河南岸——长台关间为二百九十八点七公里）、南宁——谅山间（约二百公里）、安义省东部——公博哇丕间（约四百公里），总计约九百公里。”——很难说日本当权者的思维还是正常的，这一疯狂的臆想只能出于肆无忌惮的狂妄。
眼下，仅仅为了打通中国大陆交通线，日军就必须在河南作战后立即开始沿粤汉路、湘桂路的作战。在这个被称为“一号作战”的预案上，日军所动用的兵力数量令人难以置信：调集第三、第六、第十三、第二十七、第三十四、第三十七、第四十、第五十八、第一一六共计九个师团，再加上半个坦克师团、五个独立炮兵联队、两个独立工兵联队、两个飞行团、一个独立骑兵联队，共同担任进攻任务；另以第三十九师团，独立混成第十七旅团，独立步兵第五、第七、第十一、第十二旅团，再加上第一、第二、第五、第九、第十野战补充队，用来补充伤亡并警备后方。以上兵力共计三十六万二千余人，并配有六万七千匹战马、九千四百五十辆汽车、一千二百八十二门火炮以及二百八十架作战飞机。如果加上豫中会战时已经使用的兵力，日军为打通中国大陆交通线的作战，投入总兵力高达五十一万人，马匹约十万，炮一千五百门，汽车一万五千辆。——“这对于日本陆军来说，是史无前例的。中国派遣军自中国事变爆发以来，虽然在华北进攻作战、徐州会战、攻占武汉等大规模野战中取得不少经验，但也不能和‘一号作战’相比。其规模和兵力相当于一九四二年只有计划而未实现的‘五号作战’（重庆攻略战）。”而日军大本营之所以还能调集如此众多的部队，与日本政府和苏联政府签订《苏日中立协定》有关。日本陆军的精锐部队关东军，长期屯兵中国东北中苏边境线。《苏日中立协定》签订后，近八十万的关东军可以调入关内了。
日军大本营在其战争颓势已无法逆转之日，不惜动用除太平洋和东南亚战场以外的众多兵力来打通中国大陆交通线，这一癫狂之举至今仍令史家不解：在国力和军力都已捉襟见肘的境况下，孤注一掷地投入如此大的财力、物力和兵力，于整个战争来讲军事战略上的可靠依据是什么？即使此次贯穿作战全盘胜利，中国大陆的交通线打通了，甚至那条长达九千公里的铁路线也通车了，难道就能将日本从战争的泥潭中拯救出来？况且，大规模的攻势作战结束以后，日军将要投入多少兵力和物力才能守住这条交通大动脉？在沿途全部是敌对力量的环境中，日军怎样才能确保如此漫长的交通线的任何一处不被截断或是不被破坏？
纵贯中国大陆南北实达一千五百公里。如细分一下作战距离：黄河、信阳间约为四百公里，岳州、衡山间约为四百公里，衡阳、广东间约为六百公里。在这中间，要击败超我数倍的蒋介石所属全部野战军的半数，进行贯穿作战。同时，还要克服在敌方制空权下的许多艰难。而且这一作战，又是为了日本整个战局的要求断然进行的，不要说增加兵力，就连重要装备的补充，都必须大大压缩。此外，随着太平洋及西南方面战况的进展，过去熟悉对华作战的优秀士兵，大部分相继被抽调出去，不得不增添许多训练期短、缺乏实战经验而又装备不良的新编兵团参加这一作战。
唯一可能的解释是：日本人认为中国是他们的永久占领区，如果在盟军的打击下失去太平洋和东南亚战场，未来日军与盟军决战的战场决不是在日本本土而是在中国。可实际上，关于在中国大陆与日军决战这一点，精明务实的美国人认为是非常不合算的，因为美国并没有侵占中国的意图，也没有在中国获取权益的打算。美国人的最终目的是把日本打败，然后在太平洋地区独享其长久权益。因此，从海上直接攻击四面都是大海的日本本土岂不是最合理的途径？日本人把中国当成日本的一部分，这种感觉经过了七年的战争，在败局已经日渐明显的时刻依旧如此，日本人的思维方式实在令人费解。只是，也有尚存冷静的日本人：“这是一场具有消极目的的作战。”——“消极”二字，指的是被动的、被迫的、缺乏积极目的的状态。那么，倾巢出动进行一场目的消极的作战，这只能意味着日军知道末日已近，只不过希图抓住最后一根稻草。
进入六月，日本海军和陆军的悲惨呼号，飘荡在硝烟弥漫的太平洋海面上以及烈焰熊熊的岛屿丛林上空。美军在太平洋舰队总司令尼米兹的指挥下，对小泽治三郎指挥的日本海军第一机动舰队和角田觉治指挥的第一航空舰队以及驻扎在太平洋诸岛上由小畑英良指挥的陆军第三十一军，发动了名为“征粮者”的毫不留情的凶猛攻势。美军要彻底歼灭日本驻守在太平洋西部马里亚纳群岛、马绍尔群岛、加罗林群岛以及硫磺岛上的陆军，重创日本海军在太平洋上的舰队以及航空兵集团。
“征粮者”战役集结了美军在太平洋战场上的众多兵力。第五舰队司令海军上将斯普鲁恩斯，指挥由海军中将米切尔率领的第五十八特混编队，共拥有航母十五艘、舰载机九百零一架、战列舰七艘、巡洋舰二十一艘、驱逐舰六十九艘。登陆部队则由两栖作战舰队司令海军中将特纳指挥，分成南北两个登陆集团。北集团拥有战列舰七艘、航母护卫舰十一艘、巡洋舰十一艘、驱逐舰六十九艘和辅助舰船二百八十二艘，载有准备在塞班岛和提尼安岛登陆的步兵七万一千人；南集团拥有战列舰三艘、航母护卫舰六艘、巡洋舰三艘、驱逐舰四十艘和辅助舰船二百六十七艘，载有准备在关岛登陆的步兵五万五千人。同时参战的还有二十八艘潜艇、太平洋中部的预备兵团以及海军和陆军航空兵的八百七十多架战机。日军除了第一航空舰队的一千六百四十四架战机外，第一机动舰队拥有航母九艘、舰载机四百四十架、战列舰五艘、巡洋舰十三艘、驱逐舰三十四艘。而在大洋中守备各个岛屿的日本陆军是第三十一军的五万五千人，其中二万七千五百余人驻守塞班岛，四千余人驻守提尼安岛。
六月初，美国陆军和海军航空兵先后对加罗林群岛、硫磺岛和关岛列岛上的日军基地实施了连续轰炸，令日军第一航空舰队的基本兵力一周之内损失大半。接着，美军进攻马里亚纳群岛的首战，血腥惨烈的塞班岛登陆战开始了。——“马里亚纳基地对于日本本土来说，等于是太平洋上的一道防波堤。”十五日，美国海军第五舰队的十艘航母、七艘战列舰、十四艘巡洋舰、四十六艘驱逐舰和四百七十多艘两栖登陆船，在两千架作战飞机的支援下，配合海军陆战队的两个师以及一个步兵师，向塞班岛发起了猛烈突击，塞班岛登陆战自这一刻起成为人间地狱。日军密集的海岸封锁火力，令滩头上美军伤兵的呻吟声与炮弹引发的浓烟烈焰裹杂在一起，美军要想不被全歼在海滩上，只有不顾一切地保持进攻。午后，美军突破日军的防线，占据了一个宽约四公里、纵深为数百米的桥头堡。美军的一支突击队进至塞班岛南部，于十七日晚占领了阿斯利特机场。日军开始利用岛上密布的雨林和洞穴进行顽固抵抗，几乎每一棵树下和每一个洞穴里都发生过殊死搏斗，那些宁可战死也不放下武器的日军赤身裸体，没有食物后嚼食草根树皮，打光子弹后用自己的牙齿与美军肉搏。惨烈的战斗持续了二十多天，直到七月九日，美军才宣布塞班岛上的日军没有一个人还活着。此战，三千四百名美军官兵阵亡在这座大洋中的小岛上，负伤官兵更是达到了惊人的一万三千人。就在美军即将攻占全岛之际，塞班岛上的日本海军中部太平洋方面舰队司令南云忠一中将以及第四十三师团师团长斋藤义次中将自杀身亡，其理由是“以此来为最后冲锋的将士壮行”。——日本军人信守的武士道令美国人精神恍惚，难道太平洋上每一个被日军盘踞的岛屿都将是美军官兵血流成河之地？
塞班岛上的血战正在进行时，在马里亚纳群岛以西、菲律宾海以东的海面上，日军的九艘航母、五艘战列舰、十三艘巡洋舰、二十八艘驱逐舰以及一百七十三架战机，与美军的十五艘航母、七艘战列舰、二十一艘巡洋舰、六十九艘驱逐舰、二十八艘潜艇以及九百五十六架战机，进行了一场规模空前的大海战。十九日晨，日军三百余架舰载机首先对美军舰队实施远距离突击，但立刻遭到美军强大舰载机群的拦截。日军飞行员回忆道：“在冲破美军的堵截中经历了空前的苦战。”与此同时，日军旗舰“大凤”号航空母舰遭到美军潜艇的鱼雷攻击，六个小时后弹药库发生大爆炸沉没；继“大凤”之后，“翔鹤”号航空母舰同样被美军潜艇的鱼雷击中，六百多名官兵在熊熊烈火中随舰沉没。此战，美军损失舰载机一百三十架，只有四艘军舰受到轻伤；而日军损失了战列舰两艘、巡洋舰一艘、航空母舰三艘，还有两艘航空母舰遭遇重创，三百六十架舰载机仅保全下来二十五架。海战结束后，菲律宾海面上漂浮着绵延数十海里的油污、战舰和战机的残片以及人的尸体。——“实际上，联合舰队司令长官估计，这次海战将是日本海军的航空和水面部队全力以赴的最后决战。决战开始时曾以‘皇国兴废在此一战’训谕全军。可是，尽管联合舰队下了如此的决心……日军终被美军的航空母舰和潜艇所压倒，吃了败仗。”
六月六日，第二次世界大战中最著名的登陆战在法国北部的诺曼底海岸开始了。盟军方面动用了隶属远征军第二十一军群的美军第一集团军、英军第二集团军、加拿大第一集团军，共三十二个师、十二个独立旅，还有一万一千架作战飞机、六千九百三十九艘各类战舰、运输船以及登陆舰，加上第二波次的登陆部队，投入总兵力为二百八十七万六千人，其中美军一百五十三万三千人。五日，在空军强大机群的掩护下，盟军在卡朗坦以北空降了两个美国师，在卡昂东北空降了一个英国师；同时，庞大的登陆舰群冒着肆虐的风雨开始横渡英吉利海峡。由于盟军战前成功地进行了战略佯动，部署在法国、比利时与荷兰海岸的两个德军集团军群的大部分兵力，被配置在了法国最北端的加莱海岸，而在盟军真正的登陆地诺曼底沿岸仅有三个德军师。但是，当盟军的登陆部队抵达法国海岸后，虽有强大的舰炮和战机连续突击，登陆部队还是遇到了猛烈抵抗，并随之出现巨大伤亡。盟军官兵只有前赴后继，顽强地爬上海滩，在登陆开始后充满死亡气息的十七个小时内，涌上法国海岸的美军已达十三万，而英军在海岸上卸下了六千件各种兵器、九百辆坦克、六百门火炮以及四千三百吨的装备和弹药。情报的错误使得德军付出了惨重代价，一线部队遭到毁灭性歼灭。法国海岸上的流血持续一周后，盟军的胜利已经没有悬念。诺曼底登陆的第二十九天，冲入法国境内的盟军已达百万，德军统帅部仓促投入了包括四个坦克师在内的十二个师，可除了充当盟军的追杀目标外没有其他用途。诺曼底登陆战为盟军开辟出欧洲第二战场，随着盟军向法国国土纵深的迅猛推进，战火将很快烧到德国边境，德国法西斯的末日已近在眼前。
在苏德战场上，进入一九四四年六月以来，苏军连续发动的大规模攻势作战令德国人惊慌失措：二十三日，发动维捷布斯克-奥尔沙战役，苏军攻入白俄罗斯、立陶宛、拉脱维亚，进而攻入波兰境内，并逼近普鲁士边境，德军中央集团军群的左翼完全崩溃；二十四日发动博布鲁伊斯克战役，全歼德军六个师，为彻底解放苏联全境奠定了基础；二十九日发动明斯克战役和波洛茨克战役，全歼德军第四、第九集团军群十万余人，夺回波洛茨克市，把前线向前推进了数百公里。——一九四四年六月间，苏军完全掌握了苏德战争的主动权，德军庞大的精锐部队土崩瓦解，斯大林已经把德国本土确定为攻击目标，开始着手制订进攻柏林的最后决战方案。
德国和日本的最后崩溃，在一九四四年六月间已成定局。
这便是日本执意要在中国战场上发动空前规模的攻势作战令人困惑的原因。
日军大本营承认，此次作战有一个“不公开的原因”，即“鉴于战局的现状，切望籍此鼓舞国内外的士气，大本营极端期待此次将成为今年最出色的作战”。
“敌积愤数年，耻深三败，且以世界局势威逼，不能不倾国力以图苟延，屡进屡退，长围血污。”——中国第九战区司令长官薛岳如是说。
以不断的死伤提升士气，此时的日本人已经无法理喻。
薛岳的慨叹是：“侵略者伤死固不足惜，而我以一军之众，力御数倍强寇，搏战十余昼夜，竟使我忠烈将士与名城倶殉，可哀也。”
日本人所称的“湘桂会战”，在湖南境内的作战被中国方面称为“长衡会战”，由日军第十一军实施攻击，第十三军、第二十三军以及第五航空军册应作战。第十一军计划以五个师团为一线攻击兵团，分三路于湘江两岸南下，进攻长沙和衡阳：中路兵力为两个师团，沿岳州至衡阳的铁路及其以东地区南进；东路为两个师团，沿平江、浏阳、萍乡、茶陵山区进行左翼迂回；西路为一个师团，由湘北的南县渡过洞庭湖，沿湘江以西的沅江、益阳、湘乡南进，进行右翼迂回。一线攻击部队抵达长沙、浏阳、宁乡一线后，二线的两个师团投入战场。
其作战计划的要点是：
一、最初将兵团分成二线。第一线五个师团并列在华容、岳州南部、崇阳一线。在湘江以西以一个师团（第四十师团），湘江以东以四个师团（第一一六、第六十八、第三、第十三师团），分别展开（预料重庆军将集中兵力向我进攻，故在外侧部署优秀兵团第二线师团中，以两个师团部署在监利（第五十八师团）及蒲圻西南方附近（第三十四师团），另一个师团（第二十七师团）正在集中途中，调到崇阳附近。
二、第十一军于五月二十七日至二十八日开始发动攻势，围歼沅江、益阳附近及新墙河、汨水间的重庆军。为了对付第六战区，以独立混成第十七旅团、独立步兵第五旅团的各一部及步兵第一〇九联队（第一一六师团），掩护第十一军右侧。为此，进占松滋河一线以牵制重庆军。第二线师团除用于决战外，并负责扫荡背后残兵及修补道路。
三、如攻破汨水附近的重庆军，即可向捞刀河一线追击，并准备进攻重庆军主要防线的宁乡、长沙、浏阳。为了攻取长沙，必须攻占其西方的岳麓山。为此，派遣有力兵团（第十四师团）在湘江左岸进攻该山，与直接担任进攻长沙的兵团（第五十八师团）相互册应。预料重庆军将从浏阳方面进行侧击，对此，以第三师团从西北方、第十三师团从东南方予以围歼。又，在湘江西岸攻取益阳、宁乡，尤须设法切断由第六战区前来增援的重庆军。
四、如将浏阳河一线的重庆军击溃，即以部分兵团急袭突进占领衡阳。此时，第十一军主力则搜索围歼从东方、西方和南方汇集而来的重庆军。攻取衡阳时，须特别重视作战速度。根据需要命炮兵、坦克、铁道部队等急速推进，以配合进攻时的急袭或强攻。
此时，同样是为了打通国际交通线，中国军队主力大部已开往印缅战场。薛岳的第九战区因久战疲惫，每个军都有一个师在后方整训，因此整个战区兵力部署十分薄弱。
赣北方面：卢汉第一集团军的江西保安第九团、新编第三军新编第十二师、第一八三师以及第一挺进纵队附属江西保安第四团，担任梁家渡、市汊街跨赣江至松湖街、高安、奉新、靖安之线防守；第五十八军新编第十师和江西保安第三团驻扎在樟树和清江；新编第十一师在分宜整训。鄂南方面：王陵基第三十集团军的第七十二军第三十四师、江西警察第十四大队、第三挺进纵队一部以及新编第十三师，担任大港、武宁、九宫山、塘口、通城、麦市、九岭、保定关之线的防守，新编第十五师在修水附近整训。湘北方面：杨森第二十七集团军的第四挺进纵队、第二十军第一三四师一个团以及新编第二十师，担任黄岸市、杨林街、新墙、八仙渡、鹿角一线的防守，第一三三师在长乐街附近整训。湘西方面：梁汉明的第九十九军担任营田、湘阴、芦林潭、沅江、南咀、小港、汉寿一线的防守。战区直辖部队：罗奇的第三十七军一部担任汨罗江防守，主力集结于瓮江铺、浯口地区整训；王泽浚的第四十四军担任长沙守备；沈发藻的暂编第二军在株洲、渌口整训；方先觉的第十军在衡山、衡阳之间整训。
重庆军事委员会判断，日军在河南境内打通平汉线后，必会向粤汉铁路沿线发动攻势，因此不断要求第九战区准备作战。
五月二十八日电：
一、战区以现有兵力（六战区抽调一师增于益阳），准备长沙附近与南犯之敌决战。
二、第四十四军守浏阳，第四军固守长沙及岳麓山。
三、第二十七集团军及第三集团军（欠第四军），在现阵地迟滞消耗敌人后，以主力向平江、浏阳附近地区转移。
四、第三十七军在汨罗江沿岸迟滞消耗敌人后，向浏阳、永安市地区转移。
五、孙渡兵团（欠第五十八军）应以持久战掩护战区之右翼，以五十八军即向浏阳以南地区转进。
六、第六战区应于第二十四集团军抽一师，即开益阳，归第九十九军梁军长指挥，拒止渡湖来犯之敌，掩护岳麓侧背。
五月二十九日电：
第十军（附暂编五十四师主力）固守衡阳，但以一师主力开易俗河，掩护湘潭、衡阳交通线。暂编第二军以主力在渌口、朱亭间，掩护湘江右岸通衡阳之交通线，以一团位置于醴陵，掩护醴陵至攸县之交通线，均归薛长官指挥。但无命令，不得参加长沙决战。
无论幕僚们如何提醒，薛岳认为日军不会一次次地反复进攻长沙，因为从军事上讲这等于在做无用功却要平添伤亡和损耗。薛岳的轻敌令战区参谋长赵子立很是担心。第九战区原参谋长是吴逸志。一九四三年秋，吴逸志私下给美国总统罗斯福写去一份关于盟军应加强亚洲战场作战的报告，报告得到了美国军方的重视。吴逸志把这件事电告蒋介石期望得到嘉许，谁知蒋介石回了个“免职，交军法执行总监部法办”的电报。随后，在薛岳的举荐下，参谋处长赵子立接任战区参谋长一职。尽管得到了晋升，赵子立和薛岳之间因为作战观点相左，矛盾时有发生。此刻，薛岳固执地认为日军已没有能力进行大规模攻势作战，无奈的赵子立只能托人直接向蒋介石陈述第九战区即将面临大战的态势。——当日军频繁调动的情报得到证实，战区必须制订作战方案的时候，中国军队内部再次出现了错综复杂的矛盾局面。
作战的第一个预案，是白崇禧受蒋介石指派到达桂林行营后制订的。桂林行营主任为李济深，白崇禧的职责是在那里统一指导第四、第六、第七、第九战区作战。这首先就让薛岳很不以为然，蒋介石莫名其妙的指挥已经很令人厌烦了，现在战区上面又多了一个白崇禧。果然，白崇禧不主张在长沙附近决战，建议将决战地域放在广西境内。薛岳一听就火了：“丢他妈！我就不去给广西看大门，不在湖南打，把部队都拉到广西他家里去，可恶！”——把决战地域放在湘桂边境或是广西境内，可以使日军的战线拉得很长，一定会造成日军的严重消耗和补给困难，所以说白崇禧的预案不是一点道理都没有。“对攻者来说，像橡皮带子一样，拉得越长，就愈薄弱，超过了极限，它就要绷断。”但是，薛岳因为对白崇禧心怀不满而坚决反对。
作战的第二个预案是薛岳提出的，即根据前三次长沙会战的经验，在长沙城下再次复制“天炉”战法。薛岳的方案，受到包括赵子立在内的战区幕僚们的反对，理由是日军再次上当的可能性很小。赵子立认为：敌人在江南江北到处抓夫，水陆运输极其繁忙，其形势与第一、第二、第三次长沙会战显然不同。日军兵力很大，仍在长沙照老样子决战，到时候敌人有打内线的，有打外线的，还有预备的，我们难以取胜。可薛岳坚持自己的意见，强调日军东拼西凑凑不来多大的兵力，在长沙城下复制以往的胜利是完全可行的。
作战的第三个预案是赵子立提出的，其主要内容是：针对日军兵力强大的特点，把他们放进更远的纵深地带，在衡阳附近与之决战相对合理。因为从日军发动攻势的起点新墙河算起，一路南进至衡阳约五百里，日军深入至此补给线必定拉长，便于我军予以切断；同时日军的攻势受到我军节节阻击，抵近衡阳的时间大约需要一个月，这就给我军调集部队赢得了足够的时间。衡阳是交通中心，第三、第四、第六、第七、第九战区以及军事委员会的直辖部队，都便于集中至此，衡阳周边的地形也有利于决战。——从纯军事的角度看，第九战区参谋长赵子立的方案合理性最大。
但是，蒋介石最后同意的却是薛岳的方案，这在重庆军事委员会给第九战区下达的作战指导中便可窥见一斑——无论是重庆方面还是薛岳，所确定的作战计划完全是第三次长沙会战的翻版：在湘江东岸的新墙河、汨罗江、捞刀河、浏阳河、渌水之间，以及湘江西岸的资水、沩水、涟水之间，节节阻击，消耗日军，待日军兵临长沙城下，钻入中国军队布置的“口袋”里时，部署在浏阳、平江、江西铜鼓地区的中国军队主力，以长沙为轴向左旋转发起自东向西的侧击，将日军压迫在湘江东岸加以围歼，并在日军撤退时全力追击，最后把日军赶回出发地。
薛岳信心满满。
为了实施这一方案，除了从赣北调来鲁道源的第五十八军和傅翼的第七十二军外，薛岳还呈请军事委员会从第三战区调来丁治磐的第二十六军，从第六战区调来彭位仁的第七十三军、施中诚的第七十四军、王甲本的第七十九军和李天霞的第一〇〇军，从第四战区调来黎行恕的第四十六军，从第七战区调来黄涛的第六十二军。手里有了这么多的部队，薛岳认为横山勇必在长沙城下重蹈其前任冈村宁次和阿南惟几的覆辙。
薛岳忽视了两个前提：一是日军的兵力不同以往，他很快就会发现在中国军队阻击的各个方向，都会出现日军的主力师团；二是他低估了对手的智商，横山勇绝不会愚蠢到按部就班地重复冈村宁次和阿南惟几的失败。恰恰相反，横山勇吸取了孤军深入坚城之下、大军遭受侧翼围攻的教训，部署了强大的作战兵团于主攻方向，务使长沙城在巨大的冲击下无法成为久攻不下之地；同时还专门部署了第十一军中最强悍的第三、第十三师团于左翼，担负击溃从湘江以东发起侧击的中国军队的任务。另外，横山勇还制订了牵制中国各战区增援部队的详尽的作战方案。——日军于战前不但已经看见了薛岳部署的“口袋”在哪里，而且还看到了这个“口袋”的底部和边缘布满了漏洞。
长衡之战，已不可避免地成为一场空前残酷的血战。
五月二十三日，横山勇和幕僚们从汉口乘火车南下，前往设在蒲圻的战斗指挥所。——“水稻刚插过秧，幼苗约十五厘米尚未扎根，在掠过水面的微风里，软弱无力地摇摆着。”“第十一军战斗司令所以作战室为中心，分散设在山谷间坡道上间隔五十到一百米的农民家里”。“此处十分寂静，只有双方搜索和联络用的单引擎飞机不太强烈的轰鸣声，会打破初夏芳香的空气”。
横山勇的战斗指挥所向战场推进时，各路日军蜿蜒在湘赣、湘鄂交界处河湖密布的水网地带。二十五日，日军全部抵达攻击出发地：一线部队的西路，第四十师团抵达石首与华容间，步兵第一〇九联队抵达石首以北的藕池口，由独立步兵第五旅团为基干组成的野地支队抵达弥陀寺与闸口之间，由独立混成第十七旅团组成的峰支队抵达藕池口以北的杨林市附近；一线部队的中路，第一一六师团抵达岳州东南的新开塘地区，第六十八师团抵达岳州东北的临湘地区，步兵第二一八联队抵达岳州东北十公里处的城陵矶；一线部队的东路，第三师团抵达崇阳地区，第十三师团抵达崇阳东北的白霓桥地区。二线部队，第五十八师团抵达石首东北的监利与沙市东南的郝穴之间；第三十四师团抵达蒲圻西南的白石铺地区；第二十七师团在武汉集结完毕后改编为驮马装备，将于二十六日车运至蒲圻东北的咸宁地区。
二十六日，日军参谋总长东条英机上奏天皇，除了报告前一阶段河南作战的战果外，对即将发动的湖南作战进行了特别阐述：
随着我军作战准备的进展，敌方估计我将对岳州、常德、宜昌以及浙赣地区，也发动进攻，因而试图加强各个阵地。但其原有兵力分散各方，未能认真采取对策。对于我方的进攻，尚未看到敌人从其他方面集中兵力的情况。据现观察，目前敌方虽担心我今后作战将发展成大规模的进攻，但对我方的作战设想尚未能作出准确判断。
此外，可以判断：本作战与正在进行的缅甸方面的决战是密切相关的，依靠本作战将摧毁敌方在衡阳、桂林、遂川附近的主要空军基地，加以缅甸北部作战挫败敌方开辟印度支那联络线的企图，从而得以钳制驻华美空军的活动，以保卫皇国疆土的安全。另一方面，对敌方，特别是对重庆政权和美国将使之大为动摇和焦虑。总之，中国派遣军于翌二十七日发动的湘桂作战，虽然预料将是历时很久的作战，其间将有许多变化，但确信在我皇威之下，必能达到预期的作战目的。
五月二十七日五时，东路日军第三师团、第十三师团向中国守军第七十二军的阵地发起进攻；晚上八时，第二一八联队搭乘海军船艇由岳州南入洞庭湖；一个小时后，中路日军第六师团（欠第一〇九联队）和第六十八师团强渡新墙河，向中国守军第二十军阵地发起进攻；三个小时后，西路日军第四十师团、第一〇九联队、独立混成第十七旅团的两个步兵大队以及独立步兵第五旅团的野地支队，向松滋河东岸的中国守军第九十九军第九十二师阵地发起攻击。
面对日军大规模的兵力投入，中国一线守军纷纷告急。
西路日军突破第九十二师的阻击，于三十一日抵近天心湖，然后乘汽艇在大通湖登陆，与从赤山岛北侧登陆的日军会合后攻占赤山岛。战斗中第九十二师二七六团团长邹鹏奇因负伤被俘。当日军逼近第九十九军军部所在地益阳时，军直属部队抵挡不住，向东南面的沧水铺、箐华铺、宁乡方向撤退，军部与在湘江东岸担任营田和湘阴防御的第九十九师失去了联系。
中路日军强渡新墙河时，中国守军第二十军在新墙河两岸的姑姑桥、铜鼓岭、七里山和三江口等防御阵地进行了顽强抵抗，一部退守黄岸市、杨林街、龙凤桥一线后继续阻敌，主力则奉命增援东路阻击日军。日军连续突破第二十军的防御阵地，三十日抵近汨罗江北岸的长乐街、大荆街、黄谷市一线，负责防守汨罗江的中国守军第三十七军与日军接战。由于日军第三十四师团一部乘坐汽艇沿湘江迂回至青泥湾，当晚攻占位于汨罗江南岸的归义，汨罗江中国守军的防线被日军撕开。第十七军留下一部与日军纠缠，主力南撤至上杉市。而第二十军也从新墙河一路退至汨罗江南岸。日军第一一六师团在战斗中出现了伤亡，第一三三联队是该师团最强的部队，由联队长黑濑大佐指挥，在攻击汨罗江北岸中国守军阵地时，第三中队中队长塚本助夫等数人战死。在接下来强渡汨罗江的战斗中，日军遇到的阻击更加顽强，第七中队中队长吉川五郎等四名军官、七名下士和三名士兵被打死。六月二日，第一三三联队等炮兵上来后继续强渡，但中国守军是军官学校的学生队，“抵抗极为顽强，尤其是迫击炮射击技术巧妙，战况因此无进展”。其间，联队的几名中队长非死即伤：“第九中队长福原贞行少尉等二十二人战死，第十中队长长谷川勇次中尉等多人负伤。截止本日的战斗，结果第七、第八、第十、第十一各中队的小队长职务均早由下士官代理。从三十一日以来，在连续两天的激战中，联队虽已突破汨水河畔重庆军的主要阵地，但从开始作战以来不到十天，竟然损失这样多的官兵，联队长黑濑大佐感到异常痛心。”
东路日军突破中国守军新编第十三、新编第十五师的防线，二十八日抵近通城外围，六月一日抵近团山铺和长寿街。在日军连续攻占通城、麦市、龙门驿和平江后，新编第十三师绕过日军的攻击线，向北退至幕阜山区，第二十军部队则撤至平江以南的祖师岩一带。第九战区命令第五十八军和新编第三军第一八三师，火速开赴醴陵一带布防以阻截日军。六月一日，日军第十三师团司令部进入长寿街，司令部参谋在战地日记中记述道：“该地为汨水河谷的要冲，市街正在划区整顿，沿路看不到村民的影子，抗日意识极为强烈。”
二日，日军第十一军下达命令：第四十师团攻占沅江后，以一部向南突击乔口、靖港、白沙洲一线，切断湘江以东中国守军向西的退路，主力于五日开始攻击益阳、宁乡；第一一六师团四日拂晓突破长乐街以南中国守军的防线，向捞刀河以南的黄花市攻击前进；第六十八师团四日拂晓从瓮江附近出发，一部向南攻击金井，然后经上杉市推进到长沙东北方向的春华山附近；第十三师团限七日晚抵达浏阳东北的永和市和蒋埠市，准备向浏阳东南攻击前进；第二线部队第三十四、第五十八师团立即投入作战：第三十四师团第二一八联队负责歼灭中国军队渡江部队以及湘江两侧的部队；第五十八师团须于七日突击到金井西南的福临铺东西之线。
与此同时，蒋介石命令第九战区部队必须固守长沙、浏阳和衡阳要地：
饬薛长官转各总司令，各军、师长，上下一致，争取最后胜利，并规定凡命令固守地点，不得擅自撤退，违者照连坐法治处。
根据蒋介石的电令，薛岳报呈了第九战区准备固守的四个要点：第九十二师固守沅江，第九十九师固守湘阴，第七十七师固守益阳，第一六二师固守三姐桥。——薛岳把防御重点移向了战场的西面，重庆军事委员会随即命令第六战区第二十四集团军全部归第九战区指挥。
但是，湘江东面的浏阳方向首先告急了。
此时，在浏阳以北，守卫汨罗江一线的中国守军第三十七军，在进行了轻微抵抗后已撤至浏阳以东的山区，导致湘江东面的战场上已没有能够阻挡日军推进的中国军队了。尽管西面的苐九十九军仍在日军侧后方的青山、乔口、湘阴、营田等阵地顽强抵抗，可对于日军兵力庞大的多路攻势来讲无法形成任何牵制作用。薛岳命令新编第三军第一八三师六日前抵达浏阳东南三十公里处的桐木，命令从第三战区调来的第二十六军星夜兼程赶往萍乡。八日，东路日军逼近浏阳。中路日军突破汨罗江防线后，抵近捞刀河北岸以及春华山地区，中国守军第九十九师撤入三姐桥附近的山区；日军第三十四师团突破新开市阵地，抵达捞刀河北岸的桥头；第五十八师团主力推进到汨罗江以南的栗山港，其步兵第五十二旅团攻占湘阴。西路日军攻占沅江后，再占茈湖口，逼近白马寺，中国守军撤守宁乡以南的沩水南岸。
连日倾盆大雨，战场道路泥泞，日军的步兵和车辆在浑浊的积水中行动艰难。特别是负责战场供应的车队为泥水所困，作战物资的接济只能依靠湘江水运。但海军的舰船开辟湘江水道同样艰难，因为中国军队在航道上布设了大量的水雷，海军告诉陆军要将水雷完全清除至少还要十五天。更为严重的威胁来自中美联合空军的空袭，日军第四十师团的后方野战医院和辎重部队在轰炸中几乎损失殆尽，而在水路航道上日军投入了一百二十艘护卫船，到八日那天只剩下三十多艘了。
尽管如此，长沙已经近在咫尺。
横山勇深思熟虑后决定：先攻占宁乡和浏阳再进攻长沙。
鉴于前三次的作战失利，横山勇对攻击长沙十分谨慎。他选定的攻城部队是第五十八师团，其官兵大多来自日本九州南部，以性格强悍著称于日本陆军；而他选定攻击岳麓山的部队是第三十四师团，该师团战前特别进行了各兵种协同的山的作战训练。为了粉碎薛岳的“天炉”阵型，他命令西路的第四十师团攻占宁乡，命令东路的第三、第十三师团攻占浏阳。——浏阳和宁乡，于东西两边夹长沙而立，一旦长沙的两翼被日军占领，薛岳的“天炉”就等于失去了炉壁。而中路的第一一六师团和第六十八师团，将避开中国守军的正面阵地向浏阳河畔攻击推进，为攻城的第五十八师团扫清侧翼障碍。这样一来，薛岳的“天炉”就只剩下一个单薄的“炉底”——长沙城了。
被蒋介石放在战场西面的第二十四集团军，是王耀武指挥的机动精锐部队，蒋介石原指望能在长沙城的西部保持住中国军队主力进出的通道。第二十四集团军九日开赴战场，日军第四十师团正在围攻益阳，王耀武急令第一〇〇军驰援。十二日，当第一〇〇军抵达益阳附近时，守军第七十七师因伤亡过大连夜突围。第一〇〇军官兵在不知守军撤退的情况下开始攻击益阳外围的日军，因日军主力都已南下宁乡，第一〇〇军一鼓作气收复了益阳。在把城防交还给第七十七师后，第一〇〇军开始尾随日军主力南下。
宁乡守军是配属第七十三军的第五十八师。日军十五日突入宁乡城内，第五十八师抵抗之顽强出乎了日军的预料，激烈的巷战持续四天四夜后，第五十八师仅剩下二百多人，而日军仍旧不能完全控制该城。十九日凌晨，日军主力绕过宁乡继续南下湘乡，尾随日军的第一〇〇军第十九师官兵乘机突入城垣，与第五十八师所剩不多的官兵会合了。——在长沙城的西面，尽管宁乡始终没被日军攻占，但日军第四十师团长驱直入，基本掌握了湘江以西战场上的主动。
在长沙的东面，日军第三师团由西面和北面、第十三师团从东面开始进攻浏阳，其中一部日军甚至悄悄绕到了浏阳城南。薛岳命令第五十八军军长鲁道源统一指挥第二十军一部、第一六二师、第九十五师和第一八三师，向日军第十三师团实施反击，两军在浏阳至萍乡之间展开了混战。日军第十三师团不断出现伤亡：第六十五联队第三大队队长永井博大尉被击毙，师团工兵队在中美联合空军的袭击中被炸死二十多人、炸伤三十多人。在强渡蒋埠江时，伊藤联队第二大队遭到中国守军的猛烈袭击，出现严重伤亡后被迫停止强渡，直到第三大队迂回到中国守军的侧背，第二大队官兵才再次跳入蒋埠江内。可中国军队的机枪子弹依旧密集地射来，被击中的日军在因暴雨而猛涨的河水中沉没。中国军队的伤亡也很大，第五十八军派往第一八三师的督战官张天举阵亡，第一八三师师长余建勋负伤。中国官兵苦战到十四日，固守浏阳的第一六二师被迫突围，浏阳城随之陷落。
中路日军的第一一六、第六十八师团在春华山附近强渡捞刀河，中国守军暂编第七师因抵挡不住日军的攻势退守渌水南岸。日军第三十四师团则渡过湘江抵近岳麓山的东面和北面；第五十八师团在向长沙以东推进的过程中，受到中国军队迫击炮的袭击，师团长毛利末广被弹片击中负伤。这时候，在长沙城背后的湘潭，突然出现了一支日军——第一一六师团的黑濑联队，竟然单枪匹马向长沙以南秘密突击。而携带着火炮的这支日军，竟然在中国守军的眼皮底下渡过了湘江。抵达湘潭附近后，发现这里的中国守军已经撤退，黑濑联队未经流血占领湘潭城，甚至还修复了湘潭机场。更不可思议的是，黑濑联队继续向前，占领了石潭城。石潭城瀕临涟水，水面上密集地排列着从长沙和湘潭开来的满载着难民和物资的船只，对于突然出现在眼前的日军，难民们目瞪口呆。而黑濑大佐听见北面响起了隆隆炮声，他判断第十一军主力已经开始进攻长沙城了，于是很为自己的行动感到飘飘然：“联想到联队冲进石潭市的重要意义，甚为高兴；同时对湘潭附近的三个师（中国守军）轻易退却，竟放弃长沙背后的防守，致使我抬着火炮步履艰难的联队，一举冲入距易家湾五十公里的石潭市，此实令人不解。”
长沙已被日军四面围城。
薛岳照搬前三次长沙会战的样式而设计的那个“天炉”，早已破败不堪。——以长沙为核心，日军在东西两面都部署着重兵，阵形散乱的中国军队于任何一个方向上都不可能发动侧击或夹击，长沙成了铁桶般重围之下的孤城。
或许，此时萦绕在日本人脑海中的，已不再是薛岳津津乐道的“天炉”，而是发生在日军南下作战期间的一件事：美国空军六十八架B-29和B-24轰炸机，从距离八幡市三千二百英里的中国成都机场起飞，于五月十五日深夜猛烈轰炸了日本九州八幡炼钢厂。东京大本营电告日军中国派遣军：“美第二十空军部队（以B-29为主的轰炸部队，司令沃尔福中将驻在中国）是在联合军参谋总部管辖下，由美国陆军航空司令阿诺德直接指挥作战的。它不仅对一方面的战场，而且由于续航能力增强，更可广泛用于各方面的战略目标的攻击。这次空袭北九州，是为了全面破坏我工业资源的战略性轰炸的开端。”既然日军发动大规模攻势作战的目的之一，便是摧毁中国大陆上的美国空军基地，那么美国人此举就如同在催促日本人作战一样。——得知本土落下了美国炸弹的日军第十一军，其攻占长沙的急切已经无法抑制了。
守卫长沙城的中国军队，是隶属第九战区的第四军。该军前身是粤军第一师，一九二〇年由孙中山亲手创建，中国军队中的粤系将领大多出自该部，因此这支部队有“粤军之母”之称。一九二五年，广州国民政府改编军队时，粤军第一师被改编为国民革命军第四军，首任军长李济深。该军在北伐战争中参加攻克武昌之役，因战功卓著被国民誉为“铁军”。目前，第四军下辖第五十九、第九十、第一〇二师。因为是粤系将领薛岳的嫡系部队，因此团长以上人选均由薛岳亲自任命。在三个步兵师中，第五十九师和第九十师是粤军的老底子，第一〇二师则是由黔军第二十五军演化来的，论战斗力第五十九师最强，其次是第九十师和第一〇二师。每个师配置三个步兵团，加上配属的炮兵第三旅以及军直属的特务、工兵、炮兵、通信和辎重营，全军共约三万余人。时任军长张德能，副军长柏辉章，军参谋长罗涛溪，第五十九师师长林贤。二师师长陈伟光。
对于薛岳来讲，他并不情愿让自己的老部队第四军固守长沙城。但是，第四军一直驻守在长沙和湘潭一线，日军兵临城下之际让第四军撤下去换上别的部队，薛岳实在说不出口。于是用“第四军善于攻不善于守”为由，启发参谋长赵子立把撤换第四军的话说出来，可赵参谋长就是不开口。赵子立的用意是：长沙城眼看着要面临苦战，这时候把第四军换下去，薛岳保存实力的做法过于明显，将严重影响战区部队的士气。更重要的是，当初制订作战计划时，自己主张在衡阳与日军决战的建议被薛岳否决，现在如果让第四军坚守长沙，一旦危急时刻来临，再向薛岳提出放弃长沙改在衡阳决战，薛岳为了保全自己的基本部队定会立即同意。
薛岳已经意识到了，这次作战与前三次长沙会战完全不同，至少当面日军的师团和旅团番号就有八九个之多，他并不确信第四军能够守住长沙，更何况长沙的东西两翼都已失去遮蔽。薛岳产生了让战区指挥部撤离长沙的念头，但在撤往哪里的问题上他与赵参谋长再次产生矛盾。赵子立认为将来的战事将向西南发展，战区指挥部应该移动到湘西去；可薛岳坚持要去湘东，理由是“我不去给重庆守大门”！——薛岳因为白崇禧之故，表示“不去给广西看大门”；现在又因为蒋介石之故，表示“不去给重庆守大门”。那么，作为抗战中国的一个战区司令长官，他到底要给谁守大门？
粤系将领薛岳很明白，无论他打多少大仗胜仗，他都不是蒋委员长的黄埔嫡系。
薛岳走了，去了耒阳。
留下战区参谋长赵子立在长沙岳麓山指挥所。
赵参谋长很快就发现，他根本没有指挥权。
第四军的部署是：两个师在城里，一个师在岳麓山。赵子立认为，岳麓山守不住，长沙自然就守不住，因为岳麓山可以俯瞰整个长沙城，所以主张将第四军的主力调到岳麓山来。可第四军军长张德能说，薛岳走时有交代，第四军仍归他直接指挥，参谋长要想改变部署，得先经过司令长官的同意。赵子立立即给薛岳打电话，问自己是否可以指挥第四军，薛岳明确表示“你不要指挥它”。赵子立立马火了，问那留他这个参谋长在前线有什么用，薛岳的回答是“你在那里联络”。
既然司令长官已经无心守长沙，赵子立索性只留下一个通信班、一个警卫排以及少量随从，命令其他与打仗无关的人全撤到耒阳去。高级参谋马良骥不愿意走，因为他与赵参谋长是陆军大学第十四期的同学，上校参谋陈驭远也不愿意这个时候离开，还有司令长官部的陈副官，结果他们和赵子立一起留在了岳麓山指挥所。
大战未始，军心惶惶。
更严重的是，关于长沙的防御部署仍在争吵不休。
五月十七日，为协调防御部署，战区参谋长赵子立、第四军军长张德能和炮兵指挥部三方开了个紧急会议。多数与会者认为，这次日军兵力强大，主攻长沙的就有两个师团，日军必会吸取前几次失利的教训，把攻击重点放在岳麓山。岳麓山与长沙城隔着湘江两岸对望，但岳麓山的地势高于长沙城，如果守住岳麓山，纵使日军攻进城里，也不算占领了长沙，因为我军火力依旧可以隔江覆盖城内日军；而一旦岳麓山先失守，日军便可居高临下实施攻击，那时的长沙城也就无险可守了。但是，张德能军长坚持他只听薛岳的：“长官叫我以主力守长沙，我只好以主力守长沙。”争论的结果是：步兵依照张军长的意见把两个师放在城里，炮兵依照赵参谋长的意见把重炮集中部署在岳麓山。
长沙守城战最后形成的防御部署是：第一〇二师守长沙北半部，第五十九师守长沙南半部，两个师的防御分界线自小吴门起向西延伸到湘江边，线上属于第五十九师的防御范围，张德能的军部在第五十九师的防区内。岳麓山由第九十师防御，二六八团守岳麓山，二七〇团守船形山，二六九团为预备队配置在两山之间的山口。第九十师师部在湖南大学里，指挥所设在岳麓山山顶。由此，长沙城中国守军的指挥机构分成了两个部分：赵子立参谋长和炮兵指挥部在岳麓山，张德能军长留在长沙城里，两个指挥部中间隔着一条湘江，一开始便是各顾各的局面。
薛岳没有给第四军下达必须死守多少天的指令。
但是，谁也没想到长沙城竟然丢失得如此之快。
就在赵参谋长和张军长还在争执的时候，日军对长沙城的攻击已经开始了。
由于等待海军扫雷部队扫清湘江航道，以便把野战重炮第十四联队运上来，还要等待第六十八师团和第一一六师团扫清长沙外围，所以直到十六日傍晚，横山勇才命令第三十四师团对岳麓山、第五十八师团对长沙城发起进攻。当夜，在飞机和重炮的支援下，第五十八师团突破中国守军第五十九师的一线防御，第五十九师撤守妙高峰和天心阁核心阵地。而第三十四师团攻占了岳麓山东西两侧的虎形山和牛形山。十七日清晨，日军新一轮的攻击开始。第五十八师团猛攻天心阁桃花山阵地，天上是成群的战机助战，地面上毒气弥漫，第五十九师拼死抵抗，部队伤亡严重。同时，攻击岳麓山的日军第三十四师团得到第六十八师团第五十八旅团的增援，中国守军第九十师的阵地遭到左右迂回包抄，守卫燕子山阵地的二六八团官兵死伤过半，岳麓山岌岌可危。
部署在岳麓山上的中国军队重炮群，自战斗一开始就昼夜不停地发射，给攻城日军造成极大的杀伤。日军的重炮部队在向长沙移动途中，不但受到湘江航道里水雷的困扰，更在中美联合空军的空袭中损失巨大，其独立野战重炮第一联队奉命对岳麓山上的中国重炮实施压制，但其炮兵阵地受到十几架美军战机波浪式的轰炸，炮兵死伤惨重，四门大口径加农炮被炸毁，刚刚运上来的堆积如山的炮弹被击中，爆炸声传及数里。日军的重炮部队不顾伤亡，重新开辟阵地后，继续向岳麓山上的中国重炮群开火，双方的炮战令岳麓山陷入一片火海中。
张德能军长这时候才看出来，如果岳麓山丢了长沙城也就完了，于是决定守城的第一〇二师和第五十九师各留一个团继续坚守城内阵地，其余主力全部渡过湘江去增援岳麓山。——且不论张军长的醒悟是否已经太晚了，在日军开始向城内涌入的时刻，部队离开现有作战工事进行大规模移动，谈何容易？
中国长沙守军第四军的混乱始于十七日夜晚。
岳麓山上的赵参谋长知道这种移动的危险，紧急命令长沙城两侧的中国军队侧击攻城日军，以缓解城内日军的攻击力度，但此时长沙城两侧的中国军队根本无力攻击。于是，在日军一波接一波的攻击中，第四军的军官们跑到湘江边临时征集船只，在混乱的江边只找到两艘小火轮和十几条满载货物的民船。夜色中，大批中国官兵已涌到江边，人多船少，互相争抢，头顶上是日军战机的轮番轰炸和扫射，不少官兵失足落水，船只更是因为严重超载而倾覆——“当时情况危急，渡河未及，船舶、渡口、部队时间均未十分计划，渡河后之集中地点、指挥人员亦未指派，以致秩序混乱，无法掌握，坠江溺毙者，不下千余。”
就在湘江这边一片混乱时，岳麓山上的第九十师已经支撑不住了。十八日凌晨，日军突破岳麓山船形山的山口阵地，攻上岳麓山山顶。第九十师师长陈侃带着几名卫兵进入密林中，全师剩余官兵则潮水般地向湘乡方向退却，退却中遭遇日军堵截，部队伤亡极重，部分官兵被俘。
渡江而来的第四军主力看见岳麓山已经丢失，便开始自寻出路。第一〇二师在下游找到一些船，除了三〇四团团附张克俭率领的掩护部队未能冲出日军的包围圈外，大部分官兵跑到了湘江西岸。第五十九师一七五团渡过湘江的官兵只有一千余人；一七六团向浏阳方向突围，最后归队的官兵不足一千；一七七团的残部突围至长沙南面的黑石铺，也仅剩下千余人。
午夜二时，军长张德能带领几名卫兵乘一艘小船渡过湘江，到湖南大学的时候已是四时。他疲劳至极，倒头便睡，天明后被人叫醒，报告说部队已经溃退了。——“张闻讯大怒，匆忙跑出湖南大学转弯的公路上，大叫：‘统统回来，不回来，我枪毙你们！’”但是，已经没有人听他指挥、听他叫喊了。
赵子立与岳麓山指挥所的人一起从城南突围而出。
至于被滞留在城里的少量部队，因无法抵挡蜂拥而入的日军，纷纷四处突围逃生。
这是十八日清晨，距日军发动攻城战仅一天两夜。
国民党方面的有关文件对长沙城这一刻的记述是：“十八日晨，增援部队始得渡江，斯时敌已突破竹山，冲至岳麓山，袭击我炮兵阵地。未及布置，桃花山亦告失守。适于战斗指挥所，尚未预备，增援部队渡河未毕之际，岳麓山核心阵地已失，四面受敌包围，无法支持战斗，乃被迫退出岳麓山。其后复被尾击，队伍星散，无人掌握，直溃退至邵阳，始得收容位数不及四千。而残留长沙之四个团，于是有一部分千余，由北门冲出东山，沿途与敌战斗，退至茶陵归二十七集团军欧副总部收容、指挥。”
长沙城沦陷了。
日军从开始攻城直至全部占领仅用了不到两天的时间。
第四军在守城期间伤亡三千余官兵，渡江时淹死一千多官兵，残留在城里的部队最后突围而出的仅千余人。岳麓山上中国守军的重炮四十余门、野战炮九门、美式山炮十二门全部损失。全军步枪损失了百分之七十，轻机枪损失了百分之八十，重机枪损失了百分之九十，所有的迫击炮、通信、防毒和工兵器材全部损失。
有“粤军之母”和“铁军”之称的第四军几乎全军覆灭。
二十日，日军第十一军对长沙作战的战果进行了初步统计：中国军队战死三万五千四百人，被俘多达十一万一千三百人。日军战死一千五百零三人，其中军官一百零一人；负伤三千六百六十二人，其中军官二百二十五人。
第四军战后总结的“失败主因和责任问题”如下：
一、教育方面：
A、军自三十二年（一九四三年）六月中旬驻防长沙以来，因修筑工事，部队教育无暇顾及。
B、平时教练偏重基本教练，战斗动作生疏。
C、忽略实弹射击演习，以致士兵射击技术不精。
D、师各级主官忙于应酬，对部队训练敷衍塞责。
二、军纪方面：
A、平时管教疏忽，虚图表面，实则官兵骄傲任情，对上级阳奉阴违。
B、部队主官因营商应酬，脱离部队，致使部队精神不能团结。
三、战斗军纪废弛：
A、六月三日，长沙疏散时，各级官兵擅入民房，攫取财物。
B、军部副官处负责控制船只，该处长潘孔昭假公济私，擅扣商船，重价勒索，以饱私囊，并将攫取之财物，用五艘火轮装出，致长沙战斗紧急，转用兵力晚，渡河困难，贻误不少。
C、城防团五十九师一七七团与警备部官兵，以强迫疏散为名，大肆发洋财。
D、红山头守备部队，当敌攻击时，尚在掩护部中赌牌，以致失守，影响全线战斗。
四、战术方面：
A、兵力薄弱，并无控置预备队。阵地、据点被敌突破后，无兵增援，重点无法形成。
B、固守防御，并无逆袭计划。当敌由竹山口突入，冲上云麓宫时，无法歼灭，致使敌得以少数兵力，直捣我司令部核心，击破我指挥所。
C、步、炮协同不良，以致炮弹时落我第一线阵地中。
D、无空军助战，一任敌昼夜摧毁我炮兵阵地。
五、责任问题：
A、军参谋长罗涛溪，未能辅助主官（张军长决心渡河时，并未拟定渡河计划，即饬迥日拂晓进袭），战斗间未派员视察阵地，获得紧急情况，又不指示部下办理。
B、九十师长陈侃，十时许失守岳麓山阵地，部队溃散。
C、军部副官处长潘孔昭，派赴交涉船舶失职、舞弊，以致是夜渡河困难、迟滞。
以上报告显然避重就轻。
且不说严重轻敌、部署不当、协同混乱、战力薄弱、斗志销蚀，仅就一支军队而言，军官忙于“营商应酬”，部队只顾“虚图表面”，危急时刻甚至能够勒索百姓“以饱私囊”，官兵皆无心作战却“骄傲任情，对上级阳奉阴违”，这样的状态和境况怎么可能不打败仗？！
可是，白崇禧还是亲自向蒋介石为张德能军长说情：“窃查张军长在四军服务多年，向以勇敢著称，过去北伐……此次抗日，无役不从；尤以第三次长沙会战，协同友军侧击攻城之敌，因而获得胜利，厥功尤伟。此次守备长沙，因有种种原因，未能尽持久防御之责，恳请钧座体念前劳，从轻议处，无任感祷。”
但是，蒋介石还是把张德能军长枪决了。
同时被枪决的第四军军官还有：第五十九师一七七团团长杨继震、军副官处处长潘孔昭、军军务处处长刘瑞卿、军副官处中校股长陈继虞、长沙船舶管理所所长夏德达。
关于第四军的三个师长，薛岳呈报的意见是：“九十师师长陈侃于岳麓山作战不力，指挥无方，遗弃部队，个人逃生，拟请先行撤职，发交军法处执行监部讯办。又五十九师师长林贤察、一〇二师师长陈伟光，于长沙渡河至岳麓山时，均未掌握部队，致不能战斗，拟请各记大过两次。”蒋介石的批复是：“此三师长皆应革职交军法审判，以重军纪为要。”于是，第四军的三个师长都被送上了军事法庭。
长沙城失守后，按照前三次长沙会战的先例，日军应该向北回撤，恢复原来的对峙状态。此时中国第九战区主力，大多位于长沙两侧的山区里，按照薛岳的战前计划，当日军回撤时中国军队应对撤退中的日军发动侧击或尾击，以恢复原来的阵地。但是，攻占长沙的日军不但没有转身回返，还在保持占领地的同时大举南下了。
日军的下一个目标是衡阳。
攻占衡阳是战前日军第十一军的预定目标，因此在第三十四师团和第五十八师团攻击长沙城时，横山勇已命令其他部队迅速向衡阳突进：中路的第六十八师团和第一一六师团渡浏阳河南下，抵达株洲及其以东的清江铺地区，然后沿湘江两岸快速推进直趋衡阳；东路的第三师团和第十三师团占领浏阳后，经过醴陵大距离地南下，向衡阳以东、以南的攸县、安仁、耒阳方向推进；西路的第四十师团攻占宁乡后南下湘乡，向衡阳以北、以西的永丰、渣江方向推进。横山勇认为，衡阳一战成功与否，取决于能否击退中国第三、第六战区的援军。他知道在攻占长沙的作战中，薛岳的野战部队并未被完全歼灭，目前大部还在湘赣边界的山区里，显然在等援军抵达后再次对日军发起攻击。为此，横山勇特别强调必须保持东西两翼的攻击力度。
二十日下午四时，横山勇下达命令：
第一一六师团应以主力经易俗河、白果市、两路口（衡阳西北二十九公里）附近，向衡阳西南地区挺进，就地歼灭敌军，占领衡阳。
第六十八师团应继续执行以前任务，歼灭所在之敌，迅速占领粵汉铁路及衡阳机场，攻取衡阳。
第二一八联队应溯航湘江，协同第六十八师团，力谋完整占领涞水、耒水及衡阳东侧铁道桥，并应协助第六十八师团渡河。
第十三师团应继续执行以前的任务，以主力围歼萍乡附近之敌，另以一支有力部队向攸县方面挺进，根据情况，再以主力向攸县方面挺进。
第四十师团一经占领湘乡附近，即行扫荡附近残敌，并做好在益阳及永丰方面作战的准备。在长白湖南侧地区及朱良桥附近部署部分兵力，以加强湘江的运输。
第三十四师团应以主力迅速渡过湘江，扫荡湘江以东的翎坑一永安市以北和永安市一金丼一愛江市以西一带残敌，并摧毁达摩山周围敌军据点。
第五十八师团应迅速协助在长沙及湘潭附近设立机场。此外，应直接掩护从渌口到湘江下游的运输，并应确保长沙岳麓山及湘潭附近一带。
第三师团应以主力经上栗市附近，搜索并围歼萍乡以南地区之敌，随后在萍乡南部地区集结，以部分兵力仍留驻浏阳附近，与第二十七师团的先遣队相册应，围歼浏阳北侧地区之敌。第二十七师团应继续执行以前的任务，以松井大佐指挥的部队与第三师团的一部相册应，围歼浏阳北侧地区之敌。
同日，重庆军事委员会向第九战区下达了作战命令：
一、国军以阻敌深入，确保衡阳为目的，以一部于渌口、衡山东西地区持久抵抗，以主力由醴陵、浏阳向西，由宁乡、益阳向东，夹击深入之敌而歼灭之。
二、王副长官（王陵基）指挥七十二军、五十八军、二十六军，速击破醴陵东北地区之敌，攻击敌主力之左侧背。
三、杨副长官（杨森）指挥二十军、四十四军，先击破醴陵以北地区之敌，而后转移于王副长官所部之左翼，协力向西攻击敌人。
四、欧副总司令（欧震）指挥三十七军、暂编第二军及第三师，在渌口、衡山间坚强持久抵抗，阻敌之深入。
五、王总司令耀武指挥七十三军、七十九军、九十九军、一〇〇军及第四军之残部，向湘江左岸之敌攻击，但以一部守备湘乡。
六、李副总司令玉堂指挥十军、暂编五十四师，固守衡阳。
七、第七战区开来之六十二军，仍归本会直辖，控置于衡阳西南地区待机。
中国方面采取的是当面阻击、东西夹击的战法。
横山勇结合空中和地面传来的情报，对中国军队的作战意图作出了正确判断，随即令东西两路日军迅速推进，加强醴陵和宁乡的两面作战，以掩护中路日军向衡阳逼近。
东路日军第十三师团二十日攻占醴陵后，一部分兵力继续南下，主力则向东攻击准备实施夹击的中国军队，并迫使第五十八军和第七十二军向东退却。二十二日，日军第十三师团主力占领萍乡。第三师团渡过浏阳河后，在刘公庙附近重创中国守军第二十六军，并在萍乡以西击溃中国守军第五十八军。第十三师团参谋部判断的战果是：对萍乡周围中国军队第二十六军、第五十八军的打击，“都达到了歼灭的程度”。十九日，西路日军第四十师团攻占宁乡后，击退中国守军第七十三、第七十四军的阻击，于二十二日占领湘乡。中路日军主力第一一六师团十九日由株洲附近渡过湘江，然后兵分两路，沿着湘江西岸以及易俗河向衡阳急进；第六十八师团在第一一六师团的东侧渡过渌水，突破中国守军暂编第二军的防御阵地，沿着湘江东岸扑向衡阳。
此时，沿湘江东西两面战场上的中国军队，均被击溃或陷于被动，重庆军事委员会试图两面夹击日军的作战计划已无法实现。
日军逼近了衡阳。
蒋介石亲自打电话给衡阳守军第十军军长方先觉：
你第十军常德之役，伤亡过半，装备兵员迄未补充，现又赋予衡阳核心守备战之重任。此战，关系我抗战大局至巨，盼你第十军全军官兵，再次国难当前，人人奋发自勉，个个肩此重任，不负我对第十军期望之殷。我希望你第十军能固守衡阳两个星期，但守期愈久愈好，尽量消耗敌人。我规定密码二字，若战至力不从心时，将密码发出，我四十八小时解你衡阳之围，你是否有此信心？
方先觉向蒋介石表示，第十军将“不惜任何牺牲”，一直战斗到死而后已，誓与攻城日军决一死战。
二十三日凌晨，日军第六十八师团抵近衡阳市郊。
按照第十军的预定计划，军工兵营营长陆伯皋按下了炸桥的电钮一花费巨资修建而成，位于衡阳市郊的湘江大桥，事先已被中国工兵安放了价值上百万元的炸药。一声巨响之后，大桥断成数截。
中国抗战史上异常惨烈的衡阳保卫战自此开始了。
第一九〇师五六八团一营负责据守耒水的新码头据点。当日军第六十八师团的先头部队南渡耒水时，面对兵力数倍于己的日军，按照预定防御方案，一营本可稍作抵抗后退至身后暂编第五十四师的阵地上，但营长杨济和认为，初次接敌不战而退，会灭自己的威风长敌人的士气，决心强硬地打一下。微明的天色下，日军的数十艘木船和橡皮艇满载着步兵开始强渡。一营官兵在日军半渡之时突然开火，六门战防炮和二十多挺轻重机枪打得日军猝不及防，人仰船翻，未死伤的日军狼狈不堪地退了回去。整整一上午，日军多次发起强渡，但均被击退。战斗中，包括战防炮连副连长王惠民在内，一营军官伤亡七人，士兵伤亡五十余人，但日军的伤亡远大于此。下午，日军开始实施左右迂回，一营因腹背受敌被迫后撤。
十四日，日军战机疯狂轰炸了衡阳机场和市区。拂晓，渡过耒水的日军开始攻击外围的五马归槽阵地，第一九〇师五七〇团奉命紧急增援。五马归槽阵地被日军的炮火覆盖，城内的中国守军炮兵开炮还击，炮弹在湘江江面上密集交错，呼啸声、爆炸声震耳欲聋。双方在五马归槽阵地上反复冲杀，五七〇团团长贺光耀身负重伤，团附冯正之接替指挥。鏖战至二十五日正午时分，中国守军转移到范家坪、橡皮塘、莲花塘和冯家冲阵地。日军一部由东阳附近渡江西进，五六八团的阵地被突破，日军遂攻入衡阳机场。第十军搜索营一连组成机动部队，出城渡过湘江增援机场，晚上该连对当面日军发动攻击，恢复了一个小高地。不料午夜时分，日军前来偷袭，砍伤了站岗的两名中国士兵。排长杜有才大怒，认为日军这种偷鸡摸狗的行为很不地道，他跑到山脚下的民房里，找来数支湖南山民用来打野猪的标枪，带上五名精壮的士兵，手持标枪，腰插手榴弹，决心摸上日军的阵地实施报复。——“约一小时后，忽听敌阵一阵大乱，呐喊声、大叫声、枪声、手榴弹爆炸声凝成一团，接着又是一片沉寂。约三十分钟后，杜排长及随行士兵均安然返回，每人军服湿透，满身泥浆。杜排长兴奋地将标枪插在地上，枪杆摇摆不停，他开始向我报告说：‘报告连长，我们赚啦，鬼子摸哨砍伤了我们兄弟两名，我们连刺带炸，最少也杀死了他五六名。’”
二十六日，日军炮兵在衡阳城的西面和南面开设了阵地，然后向城内中国守军阵地实施猛烈轰击，步兵同时向城垣附近的警戒阵地发起冲锋。日军把攻击重点放在了预备第十师据守的丘陵地带，三十团据守的江西会馆、五桂岭以及二十九团据守的虎形巢阵地战斗最为激烈。日军数次突至阵地前沿的障碍物附近，均被中国守军的火力击退。三十团枫树山和张家山阵地南侧的停兵山和高岭据点，是整个阵地的战略支撑，团长陈德垡专门派出战斗力最强的七连据守。七连连长张德山率主力守停兵山，排长李建功率一排守高岭。两个据点四周环绕着地雷、铁丝网和深壕，据点内还囤积着大量的手榴弹。日军贸然突入被击退后，又连续数次强攻，并传唤战机和炮火支援，但激战到黄昏中国守军阵地仍在。七连虽然伤亡过半，但日军横陈在据点前的尸体也有百具以上。湘江东岸的第一九〇师五六九团，对突入衡阳机场的日军实施了反击，双方均伤亡很大，但中国官兵最终未能夺回机场。
此时，湘江两岸的外围主阵地都处在日军的猛攻下。军长方先觉对战况进行了判断：湘江东岸的第一九〇师和临时归第十军指挥的暂编第五十四师的一个营，加起来兵力已不足两千，隔着湘江陷于日军的轮番围攻，有被全歼的危险；而沿着整个衡阳以东城郊，与日军苦战的部队不足五个团，防区过于宽大，不易集中兵力。方先觉决定将湘江以东的部队全部撤回衡阳城内。
二十七日，李建功排长防守的高岭阵地上枪声停止，一排官兵已经全部阵亡。三十团在江西会馆、五桂岭、一四一高地和枫树山阵地上依旧苦战不休。双方战机飞临阵地上空助战，一架中美联合空军的战机被日军地面炮火击中，迫降在高岭与停兵山之间的水田里。停兵山上的七连连长张德山派排长王三禄带领六名士兵冒死冲下山去营救飞行员。冲击的过程中，王排长和三名士兵被日军拦截的子弹射中阵亡，但迫降负伤的中国飞行员陈祥荣最终被另三名士兵抢了回来。——预备第十师三十团于衡阳城外围苦战不休，无惧生死，重庆军事委员会当日宣布颁发陈德垡团长忠勇勋章一枚。
日军第一一六师团和第六十八师团已从三面包围了衡阳城。两个师团所属部队的攻击位置是：第六十八师团独立步兵第六十四、第一一六大队位于湘江以东的衡阳机场附近；第五十八旅团位于湘江以西的衡阳南郊；第一〇九、第一二〇联队以及炮兵第一二二联队位于衡阳城西南；第五十七旅团位于衡阳西北的小西门、体育场和蒸水桥。
衡阳位于湘江中游西岸，既能倚靠湘江水路，又为粤汉铁路和湘桂铁路的交会点，是中国第九战区的战略基地之一。抗战爆发后，从上海和汉口等地迁移至此的工厂，围绕着城区于湘江岸边密集林立。由于这里是通往西南数省的通道，一旦丢失，日军便可继续向广西南宁推进，切断黔桂铁路和公路，封堵通往川、滇、黔的通道，中国抗战的大后方将面临物资供应的枯竭。
日军逼近衡阳时，城内居民已被命令出城避战，如今偌大的城区内只有方先觉的第十军官兵。中国陆军第十军组建于一九三九年七月，参加了第一、第二次长沙会战，在常德会战中伤亡惨重，长衡会战爆发前仍处在整补中。此时第十军下辖第三师、第一九〇师和预备第十师，主要军官是：军长方先觉，参谋长孙鸣玉，第三师师长周庆祥，第一九〇师师长容有略，预备第十师师长葛先才。方先觉的守城部署是：第三师守衡阳西北部，预备第十师守衡阳西郊，第一九〇师守衡阳南郊，临时归属第十军指挥的暂编第五十四师守衡阳北郊。
相比守卫长沙城的第四军，第十军的兵力少了一半：第一九〇师是后调入的部队，全师仅五七〇团是完整的，其余两个团仅有军官没有士兵；第三师的一个团尚在衡山附近；临时配属的暂编第五十四师也只有个团。炮兵更是由第四十八师的一个战防炮营、第四十六军的一个山炮连和第七十四军的一个野炮连临时拼凑而成，全军加起来兵力约两万左右。
军直属炮兵营营长张作祥是条血性汉子。战前他奉命率领全营去昆明领取新装备的美式山炮并接受训练，训练结束后带着六门新式火炮往衡阳赶，谁知走到桂林时被炮兵第一旅截留了，全营都被编入该旅序列。参战心切的张营长心急如焚，万般无奈下直接给蒋介石发电报，终于获得立即归队参战的批准。在距衡阳还有三十多里时，张营长碰上了第十军的老军长、现任第二十七集团军副总司令的李玉堂，因为此时的衡阳已面临日军重兵压境，李玉堂怕在入城过程中新式火炮被日军抢了去，于是令他们留下来归他指挥。张营长不愿意，非要冒险进城，要与自己的部队生死在一起。为了说服副总司令，张营长把三位连长召集来说明他的主张，三位连长当即指天发誓，同样愿与全军官兵共存亡，人存炮存人亡炮毁，决不反悔。李玉堂无奈只有批准。炮兵营官兵冒死往衡阳城里冲，三十多里的路途遇到多次遭遇战，最后竟连人带炮全部冲进了衡阳城里。——明知九死一生而固执如此，第十军的军心和意志由此可见一斑。
一九四四年六月二十八日，日军对衡阳城的总攻开始。
日军第十一军司令官横山勇认为，同样是动用两个师团联合发起攻击，而守城的中国军队依旧是一个军，且从兵力数量和武器装备上讲，衡阳城内方先觉的第十军远不如长沙城内张德能的第四军，因此攻城过程必如长沙一样绝不会超过两天。
但是，接下来的战斗大大出乎了横山勇的预料。
衡阳不是长沙。
衡阳之战将以血流成河般的惨烈载入中国抗战史。
日军的攻击一开始，便有一举拿下衡阳城的气势，各路部队对中国守军实施无休止的轮番冲锋，衡阳城三面都陷入了昏天黑地的搏杀中。日军采取的是先战机轰炸和火炮轰击，然后施放毒气，等中国守军阵地呈现出半瘫痪的状态时，步兵便发起潮水般攻击的方式。而中国守军则在日军轰炸和炮击时蛰伏在散兵坑或掩体中，忍受着爆炸的地动山摇以及毒气在阵地上弥漫飘散，等日军的炮火延伸时他们才纷纷爬出来，向涌上来的日军猛烈开火，在阵地前沿与日军展开刺刀战和肉搏战，然后高举着成捆的手榴弹实施反击。这样的反复，一轮接一轮，昼夜不停，直杀得所有的阵地上尸横累累。
第三师七团据守的城西阵地地形平坦，日军的平射炮可直接瞄准守军的地堡，加之日军战机的轰炸，地堡内的守军已伤亡过半。二十九日，日军突入庙前街，一营营长许学启率队反击，与日军展开巷战，许营长战死后，营附穆鸿才接任指挥。七月一日晚，日军突破三营据守的瓦子坪阵地，团长方人杰指挥二营数度发起反击未能收复。师长周庆祥大怒，当即将三营营长李桂禄就地枪决，将团长方人杰撤职查办。三营仅剩的一百三十名官兵集合在一起，表情悲愤，要求仍用三营的番号在新任营长王金鼎的带领下与日军决死一拼。
第三师九团一营的阵地依托蒸水，不利于日军攻击，二连的辖神渡据点遂成为日军选择的突破口。二连在日军攻击的当天拼命阻击，令日军遗尸百具未能得逞。二十九日午夜，二连连长苏毓刚阵亡，排长黄宗周指挥仅剩的二十余名官兵，一直血战到七月二日全部殉国。在蒸水岸边的来雁塔和望城坳据点坚守的是三营，官兵背水而战，誓死不退，给当面日军极大的杀伤。二十八日正午，九连连长许健和两名排长先后阵亡，望城坳阵地被日军突破，营长孙虎斌和七连连长周炳生率队反击，反击中周连长阵亡，排长张志贞接替指挥。同日，八连据守的来雁塔阵地也被日军突破，团长萧圭田严令孙营长反击，孙营长派工兵冒着日军的弹雨炸毁了蒸水水面上的石桥，日军的冲锋受阻。
二十八团为预备第十师预备队，团长曾京，一营营长赵国民，二营营长余龙，三营营长李若栋。日军全面攻城开始后，二十八团官兵向师长葛先才要求上前沿，理由是：“我二十八团在此役中应该死些人，这样才心安理得。”二十八团上去了！在江西会馆外新街与五桂岭南段阵地，三营顶住了日军的疯狂进攻，据守阵地整整两天，阵地一角被日军突入后，李若栋营长率队逆袭，至少把二百多名日军打死在阵地前。李营长左腿负伤后送，二营营附翟玉岗接任。三十日，日军再次对据守五桂岭的七连阵地发起进攻。翟营长用电话与七连联系，无人应答，随即派预备队冲上阵地，阵地上的情景令人心惊：七连除了当时不在阵地的特务长和三名炊事兵外，全连包括连长朱中平在内的八十余名官兵全部中毒身亡。——日军罔顾国际法，屡屡在作战中使用毒气，中国军队虽有防范，但数量不多的防毒面具不敷分配。军长方先觉把所有的防毒面具集中起来送往一线，但也仅可供机枪手和作战班长使用，大部分士兵在毒气袭来时只能用浸湿的毛巾掩住口鼻，但这一方法在浓度极高的毒气面前没有效果。那些中毒者往往浑身水疱大如银元，四肢麻痹，不能直立，陷入昏迷后很快死于窒息。
日军要为他们的疯狂和残忍付出代价！
二十八团迫击炮连连长白天霖在望远镜中发现正南方八百米处，有一群日军军官正在指指点点，当即命令全连的八门迫击炮集中射击。第一波射击命中目标，敌群大乱；接下来的两波射击，日军军官全部被炮火覆盖。——事后査明，日军第六十八师团师团长佐久间为人中将正在召集部队长开会，在二十八团的炮火下，佐久间为人师团长、原田贞三郎参谋长、松浦觉参谋以及数名部队长均被炸倒在地。——在总攻衡阳的第一天，日军第六十八师团的指挥系统就瘫痪了，第十一军司令官横山勇不得不命令第一一六师团师团长岩永汪统一指挥攻城部队。
二十九团阵地前有丘陵断崖，易守难攻。三营的范家庄阵地前是片开阔的水田，侧面有峭壁，日军在水田中跃进的时候，因受到猛烈的火力打击而伤亡惨重，好不容易蹿到峭壁下，头顶上又落下雨点般的手榴弹，范家庄阵地数日内无恙。但是，在同样地形的虎形巢阵地前，日军却不顾一切地昼夜猛攻不止。虎形巢阵地是一座孤立的山包，正面的水田约有二百多米宽，阵地前设置了大量的障碍物，峭壁下则是手榴弹的投掷区。这里的守军是一营三连，连长梁耀辉。由于是打开突破口的必经之地，日军连续数日进攻失败后，一度因伤亡严重而停顿，但很快就在增强了炮火打击力度后再次发起连续不断的冲击。日军每次冲击均是百人以上的规模，三连官兵打红了眼一样就是不让日军前进一步，虎形巢阵地峭壁下尸首重叠。三十日夜，天降暴雨，一股日军于障碍区缺口处潜入并跳进外壕，搭人梯攀登峭壁，突入中国守军阵地一角，占据了三座碉堡。梁连长立即率领官兵反击，双方在雨夜里混战成一团。在日军后续部队冲上来之际，营长劳耀民率部赶到，他一面阻击日军的后续部队，一面派出战斗小组对突入的日军进行清剿。闯入阵地的日军大部被击毙，仅剩的日军死守两座碉堡顽抗。梁耀辉连长率领官兵发起最后的突击，梁连长中弹阵亡后，一营的官兵轮番向两座碉堡攻击，将碉堡里的日军全部打死。天亮后，日军发动报复性攻击，兵力达到数日以来的最大规模。一营官兵在硝烟火海中苦战竟日，伤亡过半，弹药不济，入夜后阵地大部被日军攻占，但营长劳耀民依旧指挥部队坚持在阵地的东北角。凌晨三时许，二营营长李振武率部增援，由东向西对日军实施反击，黎明时将阵地大部分收复，日军留下数百具尸体溃退，而此时一营幸存兵官不足百人。
就预备第十师的防区而言，三十团的阵地受到的攻击最烈。该团防守阵地位于湘桂铁路修械厂附近，枫树山和张家山是两个最坚固的据点。特别是张家山，由于部位突出成为整个防御线的支撑点，日军不攻占张家山便无法接近预备第十师的核心阵地。二十八日，日军攻击张家山阵地的前沿支撑点停兵山。自张德山连长指挥七连防守以来，该阵地始终处于日军的连续攻击下，多层障碍物被摧毁，工事坍塌，弹药告罄。当日军再次攻上来时，七连只剩下包括张连长在内的四人。最后时刻，师长葛先才命令他撤回主阵地，张连长在电话里向师长报告了战况，然后表示自己要与日军拼到死。葛师长再次命令他后撤，张连长的一番话令葛师长热泪滚滚：
师长！不必了！我之死，一则以报国，一则以报师长这些年来爱护栽培之恩。自认如此结束此生，公私咸宜。我母早故，老父有二胞弟赡养，我应去阴曹地府侍奉母亲。再则，只因敌人太多，我弹无虚发，杀个痛快。我宁愿被敌人刺刀插入胸膛，而不愿意在撤回途中被敌弹由背后射入。就算能撤回主阵地，还是要与敌拼个偕亡。两个方式一个结果，那又何必舍近求远呢！师长！本连官兵之死不会无代价的，敌人必须付出数倍于我之死亡。刻下，我只有一个愿望，我这支木壳枪还有六十发子弹，希望能全数射出而后死！哦！师长！敌人快冲上来了，官兵枪支已上好刺刀，正在投掷手榴弹，我要去参加战斗！师长保重！
电话中断后不久，停兵山阵地上的枪声停止。
中国军中的一条好汉，让敌人横尸在他的面前后，到另一个世界侍奉母亲去了。
张家山阵地由三个小高地组成，东南面是二二七点七高地，西北面是二一一高地。两个高的分别被日军称为“X”高地和“三三”高地。张家山主阵地在中央后方一百五十米处。日军在总攻开始后，向张家山阵地发动了数十次进攻，伤亡很大却未能攻占。为了拿下张家山，日军第一一六师团投入了最强悍的第一三三联队——黑濑联队。在停兵山阵地丢失后，防守张家山的二营伤亡已达百分之七十，营长徐声先阵亡，团附甘握接替营长指挥作战。三十日夜，日军再次猛扑上来，两军在暗夜中混战，陈德垫团长亲率一营预备队和团直属队赶来增援，最终把日军赶了下去。黑濑联队夜袭失败后，七月一日凌晨，把全联队的二十四挺机枪和数十门火炮集中起来，对张家山阵地实施猛烈轰击和扫射，之后联队的步兵倾巢而出：
第一大队在火力支援下，奋力进击。右第一线的第四中队（中队长米井高雄中尉于拂晓准备进攻时战死，现有小队长田中清准尉等三十余名）和左第一线的第三中队（小山长四郎中尉等约三十名），各带竹梯，在阵地展开肉搏……然而，第四中队预先接到从阵地右面突出角附近冲入的指示，可能是为了避开来自突出角以东高的方面的侧射，而迫近阵地中央凹角（突出角西北）的崖下，竟遭到从该凹角堡垒背后和右后方的灌木丛中集中投来的手榴弹攻击，瞬间中队完全被硝烟所笼覃。从硝烟的间隙，可以看到上边灌木丛中连续投弹的重庆兵。由于双方过于接近，不能进行炮击……左面的第三中队也在悬崖山上架起梯子，小山中尉正要登上梯子的一刹那间，又遭到从上边阵地集中投来的手榴弹攻击，整个中队立刻被白烟所包围。转瞬间，这两个离眼前最近的中队，从联队长的视野中消失了。至此已无计可施，联队长和炮兵队长只有默祷部下的平安。稍时，爆炸停止，白烟渐渐扩散。第四中队全体伏卧不动，想是全部战死了……第一次的冲锋因重庆军手榴弹兵的攻击而受到挫折，深感痛心……这时大陆正值盛夏，火般的太阳冉冉上升。联队长看到敌前附近焦土上倒卧的死伤士兵，心如刀绞。
天黑后，黑濑联队发动夜袭，岂料失败得更惨：“参加夜袭的干部，屡经战斗，差不多全部战死，幸存者一大部负伤。”仅阵亡的军官就有第一大队队长大须贺大尉、第五中队小队长山下芳信少尉、第二机枪中队小队长鹫野升少尉；而负伤的有第二大队队长足立大尉、第五中队代理队长石松三男少尉、第七中队代理队长高山成雄少尉和第一大队代理副官安藤旭准尉。
七月二日上午，日军向张家山中国守军阵地施放了毒气，然后黑濑联队向张家山前面的两个高地进行最后突击。预备第十师师长葛先才的指挥所距离第一线前沿不足七百米，距离三十团团部不足三百米。葛师长知道陈德垡团长手里的预备队所剩无几，因此他指派工兵连和搜索连向张家山增援，自己则率领参谋人员向三十团团部靠近。两个高地上中毒昏迷的中国官兵，在日军冲上来时做了最后的搏斗：一营营长萧维、营附赵毓松负伤，二连连长刘铎铮、三连连长应志成阵亡，全营排长仅活下来一人。增援的工兵连连长黄仁化负伤后，拉响手榴弹和日军同归于尽；搜索连排长王振亚与日军滚在一起肉搏时阵亡。
就在中路日军猛攻衡阳时，东路日军第三、第十三师团连续攻占攸县、安仁，进抵耒阳；西路日军第四十师团攻占了衡阳西北三十五公里的渣江。衡阳城的四面都已被日军围死。
只是，日军第十一军司令官横山勇无论如何也没想到，对衡阳的总攻已经进行整整五天，除攻占了张家山前面的两个小高地外，各部队仅仅向前推进了不足千米，却付出了伤亡数千人的代价，且弹药已近消耗殆尽。烈日之下，战场上尸臭冲天，不得不每隔两天焚烧一次，战况的惨烈和胶着令横山勇不知所措。看来，必须要重新审视眼前的这座中国城市以及守城的这支中国军队了。
七月二日，横山勇下令暂停进攻。
横山勇向东京大本营强调了由于他的部队推进过快从而导致补给跟不上等客观原因，对于攻击衡阳城失利的具体原因他列举了以下三点：一、地形（各处有无数池沼）和坚固阵地（侧射火力猛烈、敌军抵抗顽强）；二、缺乏弹药；三、敌空军处于优势。——“在此情况下，如再继续进攻，损失恐将更大。”
横山勇将再次发起攻击的时间，定为九天后的七月十一日。
在张德能的第四军仓皇丢掉长沙后，方先觉的第十军在日军同样的重兵围攻下，不但守住了衡阳城，且给日军以极大杀伤，全国舆论不禁惊喜若狂。蒋介石发表通电，嘉勉第十军的作战精神并奖励有功人员。重庆的《大公报》特刊登消息：
据军事委员会七月七日发表战讯：在保卫衡阳恶劣战斗中，我某师师长葛先才将军亲率所部，亲冒毒气，恢复张家山阵地有功，政府特颁给青天白日勋章，并记大功一次。其关于参加该役作战之各连长、各排长、各班长亦各颁忠勇勋章一枚，并各记功一次；并对守城之忠勇奋斗卓著勋劳全体官兵，亦奖励有加。
这份《大公报》被空投到衡阳城内。
无法得知历经五天五夜残酷血战的第十军官兵看后心情如何。
蒋介石接下来的电令是：第十军“务必再奋神勇，固守两星期，配合外围友军，内外夹击，以完成歼灭敌人，造成空前湘中大胜利”。
战前，蒋介石赋予第十军的任务就是固守两个星期，为此第十军准备了半个月的粮弹。从六月二十三日衡阳外围战开始，直到日军第一次攻城战暂停的七月十日，战斗已经进行了半个月以上，第十军的步枪子弹消耗了百分之六十，手榴弹消耗了三分之二，迫击炮弹消耗了百分之八十，山炮弹已消耗殆尽。然而在这半个月期间，不见外围有任何解围动作，更不见任何一支援军到达，第十军孤军伴孤城如何能再“固守两星期”？更严重的是，由于日军连续的轰炸，衡阳城在燃烧的大火中已成一片废墟，第十军的给养极为匮乏，只能用米仓里烧焦的大米充饥。虽然曾经得到过空投，但市区和城郊阵地面积狭窄，大多数空投物品不是飘到了日军阵地上就是落到了湘江里，且空投的物资除刊登嘉奖令的报纸外，大多是毛巾、肥皂、香烟和万金油之类的东西，没有急需的弹药、药品和食物。城内一个酱菜园里的酱菜，已成为第十军官兵唯一的佐餐食品，但大酱缸在日军的轰炸中破裂，酱菜满地，群蝇乱舞，蛆虫蠕动，食之腹泻不止，不少官兵因此身亡。更为悲惨的是遍地的伤兵，日机轰炸时无法隐蔽，眼看着炸弹落下来后血肉横飞，仅第十军野战医院里被炸死的伤兵已达七百多人。还有更多来不及转运医院的伤兵，在残垣断壁下、在炸弹坑中、在少量的防空洞和临时构筑的隐蔽部里呼号呻吟。没有药品也没有卫生材料，医护人员只能每日用盐水为伤兵擦洗伤口。在江南夏季的酷热天气里，伤口往往迅速溃烂化脓，伤兵们除了等死别无出路。
对于日军第十一军来讲，最大的困难也是弹药的接济。通往衡阳前线所有的大路都已被中国军队破坏，连日的大雨使得残破的土路难以通行，况且各个方向上都有中国军队在骚扰，依靠陆路补给希望渺茫。湘江航道虽然被打开，可水道上中国军队布置的水雷不计其数，触雷的情况频繁发生，加上中美联合空军持续不断的轰炸，水运的速度也极其缓慢。根据这一现实，第十一军的高级参谋岛贯武治向横山勇提议，在等待弹药补给、整理部队、增加兵力期间，可以制造日军要从衡阳撤退的假象，这样一举两得：一是不要让中国方面破罐子破摔放弃衡阳，给他们点守住衡阳并收复失地的希望，从而把中国军队主力吸引在衡阳附近，以便将其围歼后向桂林挺进，完成整体作战计划；二是当衡阳城里的第十军误以为日军已经撤退时，必会向城外出击，日军便能一举歼灭之。
实际上，衡阳城里的第十军已无力向城外出击，方先觉军长自然没有上当。但事后证明，重庆方面却被日军停止进攻的假象所迷惑。从军事常识上讲，日军在攻击衡阳失利后，粮弹匮乏，伤亡累累，士气动摇，这本是中国军队主力大举反击的最佳时机，但重庆方面却寄希望于等待日军撤退时再实施追击，因此丧失了解围衡阳并重创日军的战机。——至此可以看出，重庆方面对日军策划的庞大的打通大陆交通线的作战计划，尚不甚明了。
七月十日，后方运来的火炮和弹药抵达衡阳前线。
日军第六十八师团新任师团长堤三树男到任。
日军航空部队准备完毕。
十一日，日军对衡阳城的第二次攻击开始。
在城西，第三师七团一营据守庙前街，二营据守青山街和县立中学，中国守军的阵地连日遭到日军猛烈的轰炸和炮击，日军地面部队再次施放大量的毒气，二营营长谢英阵亡，该团团附侯树德接任。接着，二连连长储壁畲阵亡，继任连长戴楚威率领部队反击。日军战机投下大量的燃烧弹，戴连长和众多士兵极端痛苦地阵亡于熊熊燃烧的烈焰中。
日军终于攻占了张家山，但张家山一线主阵地有很长的纵深，日军突破的仅仅是防线的一角而已。因此，第二次攻击开始后，日军把进攻重点由城南正面向西稍移，仍旧主攻预备第十师的防御阵地。在二十八团方向，日军彻夜猛攻后，九连据守江西会馆的一个排的官兵全部阵亡，九连主力与据守五桂岭南段的八连陷于苦战。当五桂岭阵地上弥漫起毒气的时候，八连连长林可贤阵亡，全连官兵伤亡惨重。情势危急之时，第三师八团四连前来增援，于十六日天明后巩固了阵地。在一四高的防守的一营，击退了日军的多次攻击，营长赵国民和一连连长李炳山先后负伤，得到搜索二连的增援后阵地转危为安。二营据守的枫树山阵地由于峭壁地形，日军多次攻击受挫，随即从一四一高地西侧迂，竟然潜入了二十八团的指挥部，混战中二营营长余龙负伤，四连连长李浚阵亡，葛先才师长亲率特务连和搜索三连前来增援，团长曾京指挥直属队配合反击，最终把突入的日军赶尽杀绝。十五日，日军突入外新街南端，守军官兵伤亡殆尽，只剩下一名班长和两名士兵坚守着西北角的一座碉堡。营长翟玉岗率部和军部搜索一连一起发动反击。军部搜索一连是支剽悍的部队，他们甚至在战斗最残酷时夜渡湘江，袭击了日军的炮兵阵地，给攻城日军以极大的震撼。外新街一带民房都为木造，盛夏烈日，气候干燥，连长臧肖侠决定用火攻。他命令四班班长王嘉祥挑选五名精壮士兵，携带煤油、酒精和棉花，冒死冲进外新街引火焚屋。在日军阻击的弹雨中，王班长和他带领的五名士兵先后中弹倒下，但外新街上的大火已经点燃，日军被烈焰所阻后退，中国守军反击部队奋力追击。一排杜排长是河南南阳人，行伍出身，战斗凶猛，为人讲义气重情义，颇受官兵的爱戴。此刻他身先士卒，连续刺杀数名日军士兵，自己全身也多处被刺刀刺伤，最后在与一名日军肉搏时被手榴弹炸倒。官兵们把他抬下来，遍体鳞伤的杜排长已不能说话，手却依旧指向日军的方向。杜排长的阵亡令官兵们大为悲痛，呐喊着冲向当面日军，日军死伤狼藉，遗尸累累，而搜索一连也伤亡过半，清点人数后仅余五十多名官兵。
二十九团方向争夺的重点依旧是虎形巢。日军事先进行了长时间的炮击，工兵也抵近阵地前沿实施爆破作业，随后日军以百人梯队的阵形轮番进攻。二营营长李振武率部奋勇阻击，战斗中日军第一二〇联队联队长被击毙。但是，日军不顾生死猛攻不止，二营伤亡超过三分之二，阵地一角被日军突破，李振武营长在激战中阵亡。团长朱光基命令一营营长劳耀民率部实施反击，一营经过连日苦战，全营残存官兵不足百人，再次彻夜激战，以伤亡过半的代价巩固了阵地。为了加强一营的兵力，团部直属人员拼凑了七十多人归劳营长指挥。但是，日军在毒气弹的掩护下再次冲锋，劳营长率领的百余人中毒昏迷，蜂拥而上的日军甚至爬到了营指挥所的地堡顶上。苏醒过来的劳营长带着两名士兵冲出去，用手榴弹把地堡顶上的日军赶了下去。在手榴弹即将告罄之际，朱光基团长指挥第三师九团三营营长孙虎斌率领八连和九连加入反击，双方再次陷入混战，战壕被尸体塞满，惨烈地叫喊声不绝于耳。三营营长孙虎斌、战炮连连长陈以居以及八連、九连的连长先后阵亡，劳耀民营长负伤。与此同时，防守范家庄的二十九团三营阵地也出现了危机。三营官兵发动两次反击，阵亡了两名连长、五名排长和百名士兵，最后阵地上只剩下排长章振宏带领数名士兵坚守着三座碉堡。由于虎形巢和范家庄阵地突出前沿，守军伤亡过大，军长方先觉命令二十九团退守西禅寺二线阵地。
十二日夜，日军渗透到三十团防守的张家山阵地前。在阵地的西侧高地之间，三营营长周国相率领全营拼死阻击。十三日，日军的攻击更加凶猛，几进几退后，日军冲入中国守军阵地，在双方展开的近距离争夺战中，三营营长周国相、九连连长王云卿、机枪三连连长何振洪相继阵亡。在张家山阵地的正面，日军百人为一梯队，在战机和火炮的掩护下，一波接一波地向前凸的两个小高地发起冲锋。十一日午夜时分，张家山阵地丢失。二营组织起一百三十名官兵拼死反击，天亮时将阵地夺回。可十二日午夜阵地再次失守，预备第十师的防毒连和三十团直属队联合反击，阵地再次收复。十四日天黑后，阵地又一次丢失。军工兵营营长陆伯皋指挥两个连发起反击，暗夜里阵地上伸手不见五指，双方的扭打常常被脚下的尸体绊倒，中国官兵用手摸对方的军装，棉衣者为自己人，卡其布者为日军，刺刀的相撞声和双方地咒骂声此起彼伏。天明后中国官兵刚收复阵地，日军新一轮的进攻又开始了，张家山前面的小高地就这样数次易手，致使伤亡枕藉，伏尸没胫，阵地上已无可插足之地。
进攻张家山的日军主攻部队，依旧是那支黑濑联队。在记述该联队进攻作战的日方战史中，弥漫着浓重的血腥气和悲伤感。十五日拂晓的冲锋中，第二大队第六中队中队长奥山“正要冲入‘三三’阵地的一刹间，身受重伤倒下，小队长松谷夏生少尉也阵亡”。第五中队在冲锋时遭到中国守军机枪子弹的猛烈拦截，“立即有数人伤亡，负伤人员倒在灼热的土地上，稍微一动，即引来射击，掀起烟尘”。“由于奥山中尉重伤和板谷少尉战死，使第五以至第八中队里再无一名军官，各中队由下士官负责指挥”。“十四时，接到大队长足立初男大尉战死的消息，联队长深感沮丧”。第三大队“除大队长迫八郎大尉和第十中队长加藤英一中尉均负重伤（伤后身死）外，十六日拂晓，第九中队代理队长池崎觉少尉也负重伤，第十中队小队长佐藤晃雄少尉（加藤中尉负伤后代理中队长）战死。此外，还有下士官三名、士兵三十三人战死，多人负伤”。
战至十六日，中国守军的一线阵地相继被日军突破。
只是，日军由于连日攻击，伤亡极大，每个大队所余兵力都不足百人，且弹药再度消耗殆尽，因此攻势逐渐减弱。十九日，横山勇再次下令暂停进攻。
为缩小防御阵地的宽度，方先觉军长决定将残破的第一线阵地全部放弃，以第三师和预备第十师的残剩兵力合力防守二线阵地。
至七月二十日止，日军的初步统计为：战死三千八百六十人，负伤八千三百二十七人，因天气炎热和后勤供应困难而患病七千零九十九人，总计一万九千二百八十六人，其中军官七百九十八人。
就在横山勇再次下令暂停进攻的十九日，蒋介石命令衡阳守军无论多么困难也要向友军增援的方向出击，否则会让日军认为守城部队已无力作战，那样日军便不会自动撤退。——且不说日军根本就没有撤退的打算，就算有，筋疲力尽的第十军哪还有力量出击？而衡阳城外的增援友军又在哪里？
早在衡阳第一次受到攻击时，重庆军事委员会命令王陵基指挥第第五十八、第二十六军，杨森指挥第二十、第四十四军，欧震指挥第三十七军和暂编第二军，王耀武指挥第七十三、第七十九、第九十九和第一〇〇军，分路夹击日军。之后，又数次命令以上各部队速解衡阳之围。各部队奉命与东、西两路的日军展开激战，双方都伤亡很大。日军第三师团第十八联队联队长大桥彦四郎大佐，被中国军队第二十军击毙；第三十九师团参谋长佐治直影大佐，也被中国江防军部队打死。但是，尽管衡阳外围的中国军队努力作战，却始终未能进一步靠近衡阳城，甚至连现有阵地都难以保持，总体趋势仍是不断地向后退。特别是衡阳以东的中国军队，均散落在日军的侧后，距离衡阳城还很远。
由于湘江以西的第六十二、第七十九军较为靠近衡阳，蒋介石电令两军无论如何也要向东突击，争取与方先觉的第十军取得联系，并命令第二十七集团军副总司令李玉堂进驻第六十二军军部直接督促作战。但是，蒋介石的这封电报被日军情报部门截获，横山勇当即将中国军队的动向通报给各师团，并命令第四十师团占领衡阳西南、正西和西北约十至十五公里处的各要点，对自西向东增援衡阳的中国军队实施截击。
中国军队第六十二军努力向衡阳靠近，一度突进到衡阳火车西站附近。日军第四十师团第二三四联队拼死阻击，双方鏖战两昼夜，第六十二军官兵反复冲击都没能冲入衡阳城，最终因伤亡惨重无力攻击被迫后撤。
就在第六十二军奋力作战时，衡阳城内的第十军曾与第六十二军取得电台联系，方先觉军长随即命令军特务营选出一百五十名精壮官兵，编成五个突击排，由营长曹华亭率领，趁暗夜冲出衡阳，去寻找第六十二军。“天明以前，突击部队抵达西南部的五里亭，不意友军踪影已渺。历尽险阻，竟未能相会，遂于二十一日夜失望而回。”——区区一百五十名官兵，不但能从日军的重围中冲出去，还能接着返回城内来，尽管伤亡过半，但也证明日军的围城并不十分严密。而第六十二军一个军的努力竟未达目的，不免令人扼腕。与此同时，中国军队第七十九、第七十四军主力以及第一〇〇军第十九师，皆因受到日军的猛烈阻击不得前进。
此刻，衡阳城里的第十军面对的境况是：预备第十师的三个团及直属部队，伤亡达百分之九十；第三师的三个团伤亡达百分之七十，第一九〇师全师仅剩下不足四百人；军直属部队除辎重团尚存官兵五百人之外，其余的搜索、工兵、通信、特务和炮兵营兵力都已不足三分之一。其中步兵团所有干部非伤即亡，战斗中连续晋升军官的情况每天都在发生，最高纪录产生于五桂岭阵地，半天之内先后晋升了五位营长，而这五名新晋营长也很快相继阵亡。第十军的弹药也已枯竭，手榴弹消耗了百分之八十多，步枪子弹所剩无几，官兵伤亡后大多人枪俱毁无法补充，多数官兵使用的是缴获的日式三八步枪，以至于三八步枪特有的射击声从中国阵地上传出时，日军官兵很是错愕。除了把最后几发炮弹埋在地下，做最后时刻的决死之用外，炮弹基本告罄。第十军的伤员数量已达六千人以上，在没有药品的情况下，伤员在烈日下的废墟中辗转悲号，绿色的苍蝇漫天飞舞，白色的蛆虫布满伤口，有因极度绝望而投湘江者。到处是腐烂的尸体、沾满脓血的绷带和纱布，城内瘟疫流行，因患病而奄奄一息者比比皆是。
守城的第十军官兵已不把生命当回事了。城西，交战双方士兵隔着一个大鱼塘对峙。几名中国士兵赤裸身体朝日军喊话，说想弄点鱼吃吃，不带武器，让他们不要射击，要打约定时间再打，然后就奔向鱼塘下水摸鱼。日军果然没有开枪，中国士兵渔获颇丰。但第二天准备了渔具拟再干一场时，日军开枪了。中国士兵火了，跑回来拿起几枚手榴弹，胆大的后面跟着，端着刺刀来了个集体冲锋，竟以负伤三人的代价把日军前沿的这个观察哨全窝端了。第一九〇师五六八团三连官兵发现与日军对峙的草地上有三头牛在吃草，一位班长思肉太甚，忍无可忍，无视日军的机枪封锁，翻下陡坡，越过百十米的开阔地，居然牵回来一头，不但全连大吃一顿，还给军长方先觉送去一条牛腿。更有甚者，第三师九团的几名士兵，请求越过日军防线离开衡阳城，到附近山里的一个小镇上去看一眼。按照战场纪律，任何人都不得脱离战场，一旦违反枪决无疑，但连长的态度是“你们敢去我就敢批准”。几名士兵每人携带三枚手榴弹、三个充气的汽车轮胎和一大笔钱，悄悄渡河，到了距衡阳城三十多里的集镇上。百姓听说他们是守衡阳城的第十军，纷纷拿出慰问品却分文不要。两天一夜后，几名士兵竟然每人背着数十斤的食品安全回来了。——当该连把部分食品送到军部的时候，军部要追究其脱离战场的责任，可全连的官兵们不服：他们身携巨款，如果想当逃兵的话，还回到这必死无疑的衡阳城里干什么？更何况他们出去的时候，为全连寄出了几十封家书，此刻还有什么比向父老妻儿通报自己还活着更重要的事？几名不要命的兄弟重情重义，忠勇可嘉，应该给他们颁发勋章才是。
七月二十七日，蒋介石亲自致电第十军军长方先觉：
方军长：守城官兵艰苦与牺牲情形，余已深知，此时只有督率所部，决心死守，以待外援之接应，余对督促增援部队之急进，必比弟在城中望援之心更为迫切，弟可体会此意。以后对于求援与艰危情形，非万不得已，不必发电详报，以免被敌军偷译，余必为弟及全体官兵负责全力增援接济勿念。中正手启。
但是，方军长回电还是诉说了第十军面临的极端困苦：
本军固守衡阳，将近月余，幸官兵忠勇用命，前赴后继，得以保全，但其中可歌可泣之事实，与悲惨壮烈之牺牲，令人不敢回忆！自开始构筑工事，迄今两月有余，我官兵披星戴月，寝食俱废，终日于烈日烘炙雨浸中，与敌奋战，均能视死如归，恪尽天职，然其各个本身之痛苦，与目前一般惨状，职不忍详述，但又不能不与钧座略呈之：
一、衡阳房舍，被焚被炸，物质尽毁；幸米盐均早埋藏，尚无偌大损失。但现在官兵饮食，除米及盐外，别无任何副食，因之官兵菅养不足，昼夜不能睡眠，日处于风吹日晒下，以致腹泻腹痛，转为痢疾者，日见增加，既无医药治疗，更无部队接换，只有激其容忍，坚守待援。
二、官兵伤亡惨重，东抽西调，捉襟见肘；弹药缺乏，飞补有限。自昨日三十日辰起，敌人猛攻不止，其惨烈之战斗，又在重演，危机隐伏，可想而知！非我怕敌，非我叫苦，我决不出衡阳！但事实如此，未敢隐瞒，免误大局。
第二天，蒋介石回电，语气里有了一抹悲怆：
我守衡官兵之牺牲与艰难，以及如何迅速增援，早日解危围之册励，无不心力交痒，虽梦寐之间不敢或忽。唯非常事业之成功，必须经非常之锻炼，而且必有非常之魔力为之阻碍，以试验其人之信心与决心之是否坚定与强固。此次衡阳得失，实为国家存亡之所关，决非普通之成败可比，自必经历不能想象之危险与牺牲。此等存亡大事，自有天命；唯必须吾人以不成功便成仁以一死报国之决心赴之，乃可有不惧一切，战胜魔力，打破危险，完成最后胜利之大业。上帝必能保佑我衡阳守军最后之胜利与光荣。第二次各路增援部队，今晨皆已如期到达二塘、柘里渡、水口山、张家山、七里山预定之线。余必令空军掩护，严督猛进也。
蒋介石发电之日，第六十二军和第一〇〇军抵达三塘、两母山地区，第七十四军抵达佘田桥、新桥，第七十九军抵达望城坳附近，但各路增援部队都未能突破日军的阻击线。
日军在衡阳上空投下香烟、钞票、劝降的“归来证”以及传单：
能征善战的第十军诸将士：任务已达成，这是湖南人固有的顽强性格。可惜你们命运不好，援军不能前进，诸君命在旦夕！但能加入和平军，决不以敌对行为对待，皇军志在消灭美空军。
焦灼的横山勇亲抵衡阳前线。
飞机刚刚降落在衡阳机场，中国军队的迫击炮弹就飞了过来，炸死了他身边的二名卫兵，炸伤了随从军官。
为了最后攻占衡阳城，横山勇把第十三师团、第五十八师团和第四十师团全部投入到攻城作战中——方先觉残破的第十军，竟然要抵挡五个日军师团——横山勇不得不孤注一掷了。
即便如此，日军也到了筋疲力尽的时候，各部队实际能够参战的官兵数量大幅减少。黑濑联队把残余兵力集中起来，编成了三支突击队，人数最少的一支只有七十六人，最多的不过八十人，且三分之一是伤员，军官只有五人。第六十八师团的第五十八旅团，联队一级的军官已全部伤亡，残余部队也只能编成四支突击队，由幸存的两名大队长指挥。持续的苦战令日军官兵接近疯癫，饥肠辘辘的他们发现水田里的稻谷快要成熟了，就用钢盔捣米煮饭，阵地附近可以吃的绿叶也已被他们全部吃光。由于长期蹲守在前沿战壕里，那些被浮土掩埋的尸体逐渐腐烂，以致整个战场上臭气熏天，阵地踩上去扑哧扑哧地响——他们宁愿冲出去战死，也不愿在这如同地狱般的战壕里再忍受下去。
八月四日，横山勇下达了第三次攻击命令。
日军展开了最后的近乎自杀式的疯狂冲锋。
这是方先觉的第十军的最后时刻。
日军的火炮从各个方向向衡阳城内倾泻。据守城防阵地的第十军官兵不眠不食，与日军展开昼夜相接的搏斗，双方在反复的冲锋和反冲锋中浴血死战。
第三师八团的五桂岭阵地大半沦入敌手，三营营长蒋国柱负伤。张金祥团长命令二营营长苏琢率领仅存的六十余名官兵发动反击，午夜时分中国官兵闯入敌阵，苏营长阵亡。
预备第十师二十八团的阵地全在炮火中毁坏，官兵伤亡巨大，渐渐不支。团长曾京率部逆袭，第三师师长周庆祥也命令师工兵连加入逆袭行列，阵地失而复得得而复失往复十次，三营营长翟玉岗和二营营长余龙均负伤。
第三师九团据守的天马山、西禅寺阵地以及一四一高地，被日军列于阵前百米之外的炮火直接瞄准轰击，守军无炮弹还击，只能在日军步兵冲上来时用手榴弹抗击。据守一四一高地的六连官兵全部阵亡，阵地失守，但西禅寺和天马山阵地依旧还在。
八月五日，日军继续猛攻，最前沿的第三师预备队只有一个营，官兵们奔跑在各个阵地上四处逆袭，但无法阻挡潮水般的日军。七团团长鞠震寰、九团团长萧圭田先后负伤。五桂岭阵地再度被日军突破。第一九〇师五七〇团拼凑起九十余名官兵发动反击，把日军赶下阵地。但二十八团阵地又被日军攻占了一角。预备第十师师长葛先才亲率一个班的卫士以及司令部的勤杂人员三十余人前往增援，二十八团的残剩官兵看到师长上来了，大声呐喊，最终把阵地夺了回来。可是，二十八团全团只剩下官兵七十多人，夺回的阵地岌岌可危。
六日凌晨，第一九〇师五六八团五连的阵地被突破，连长罗夫和阵地上二十多名官兵全部阵亡。接着，三营的阵地也出现危机，反击中团附李适和二连连长井启第阵亡。下午，烟尘笼罩的西禅寺阵地上，二十九团二连只剩下了一名士兵。这名士兵平时不善言辞，久而久之他的姓名被人忘却，大家都叫他傻子。傻子人缘好，有吃亏不计较的品性。他打枪不行，却是个投弹好手，他在阵地上来回奔跑，投出的手榴弹下雨一般。增援的二十多名士兵上来了，傻子大骂不止，说他们怕死，鬼子一上来都跑了。上来的排长告诉他，他的排，谁都没跑，人都阵亡了。傻子坐在地上嚎啕大哭。士兵们让他下去，他不肯，当日军再次冲锋时，他朝那位排长喊：“我什么也不要了！我战死后，若有可能，请排长把我的尸体和我们排阵亡的人埋在一起。如果不能抢回我的尸体，就让红头苍蝇子子孙孙吃掉吧！”说完，举着手榴弹向前冲，手榴弹在日军冲锋的人群中爆炸了。士兵们没有找回傻子的尸体。——“火线上，无论敌我，双方的战死者，皆无法抢回尸体，否则只有增加伤亡。日积月累，故尸积如丘。”
傻子不傻，他知荣辱，但愿他的在天之灵得以安息。
七日，军长方先觉给蒋介石发出最后一封电报：
敌人今晨由城北突入以后，即在城内展开巷战。我官兵伤亡殆尽，刻再已无兵可资堵击，职等誓以一死报党国，勉尽军人天职，决不负钧座平生作育之至意。此电恐系最后一电，来生再见！职方先觉率参谋长孙鸣玉、师长周庆祥、葛先才、容有略、饶少伟同叩。
冲入城内的日军逐渐向第十军军部逼近，二十八团团长曾京带人来掩护军长突围，被方军长拒绝。他让大家各自去寻生路，然后夺过卫士的手枪企图自杀，被卫士阻止。
就在这一时刻，战局突然发生陡转。
先是传来了一个消息：白马山九团残存官兵停止抵抗，并在阵地上竖起了一面白旗。
更令人错愕的是，方军长随即召集师长们开会，会议最后作出这样一个选择：放下武器，与日方取得联系。
晚上十时，方先觉的第十军与日军第一一六师团接上了头。
日方指定方先觉军长八日拂晓出城，到五桂岭面谈，守军的全部武器集中到南门外马路两旁。
历史的档案残缺不全。
历史的真相模糊不清。
无法确切地知晓，刚刚给蒋介石发出“以一死报党国，勉尽军人天职”的方军长，何以紧接着作出了放下武器的决定。在这段短暂的时间内，战场上到底发生了什么？第十军的将领们是如何商议的？方军长的心灵深处又是怎样抉择的？
事实是：八日上午，方先觉一行抵达五桂岭，在一所学校里与日军进行谈判，谈判后方先觉在谈判书上签字画押。
中国衡阳守军第十军官兵阵亡万余人，最后放下武器的为一万三千余人，其中一万人左右为伤员。
一九四四年八月八日，历时四十七天的衡阳血战结束。
方先觉签字画押之时，中国军队外围部队仍在试图靠近衡阳，而从第四战区调来的第四十六军已经抵近距衡阳仅八公里的二塘。
日军第十一军高级参谋岛贯武治对这一天的记述令人无语：
上午八时攻克衡阳。力攻四十天，虽说时机已经成熟，却是一场竭尽全力的战斗。只晚了一天，敌机械化兵团就出现了。我方部队面对前来解围的敌军，多少有些动摇。战争的胜负诚然在于最后的五分钟。如固守衡阳之敌誓死决一死战，或将出现“英帕尔”的结局。
后人对方先觉此时的行为记述多使用“投降”二字。
从一般认知上讲，我们只能如此揣摩方先觉最后这一举动的真正因由：或许是城已破，人伤弹尽，再打下去只能是任日军杀戮；或许是满城皆是伤员痛苦的呼号，如果再打下去，等于断绝了他们生还的最后一点希望；或许是苦盼援军不至，心已绝望，最后时刻的责任已不再是去死，而是最大限度地保全残存官兵的生命。——如果说方先觉和他的第十军官兵贪生怕死，那么数十天的血战与牺牲又该作何解释？
日军第十一军发给东京大本营的电报说：“第十军军长方先觉、军参谋长、第三师师长、预备第十师师长以及暂编第五十四师师长均已投降。”而日军第十一军的战的记录是：“敌军第十军军长和参谋长，第三师师长、第一九〇师师长和参谋长、预备第十师师长、暂编第五十四师师长，已全部由我军收容。”
方先觉本人对“投降”一说做了坚决否定。三十多年后，他向日本《产经新闻》记者回叙道：当时有一位自称是日军第十一军军使的名叫竹内的参谋前来接洽停战，他当即表示第十军没有投降之意，同时提出了两个条件：一是保证生存官兵的安全并让他们休息，二是收容伤兵并郑重埋葬阵亡官兵。竹内在对第十军的顽强作战表示钦佩之后，答应了这两个条件。——“日本记录说我们投降，甚至说举行了投降仪式，是绝对错误的，我以军人的名誉发誓没有那回事。”
“一个月后，方先觉在敌军的监视下，一行十余人，穿着日本军官制服，佩着日本指挥刀来到东洲，召集所有被俘官兵讲了一次话。大概的意思是：大家辛苦了。今后可以安下心来。现在我们已经改编为‘先和军’第一军了。今后的粮饷，都是由南京国民政府供给。南京国民政府是‘和平阵营’的领袖，正在致力于新中国的建设。我们不久就可以开到南京去，大家安心吧！”
可是，突然，方先觉和第十军的几名师长先后出现在了重庆——他们趁日军监视松懈逃了出来。蒋介石接见了方先觉，方军长和几名师长都得到了青天白日勋章和慰劳金，并被任命了新的军内职务。
往事如烟，百口百言。
根据日方的保守统计，从长沙之战到衡阳之战，日军伤亡高达五万人——“到下旬（八月）则约六万，扣除运送期间发生事故部分，也有四至五万人”。
尽管中国第九战区在战后检讨中陈述了中国军队不能协同、缺乏机动性、纪律废弛以及装备低劣、部队严重缺额等痼疾，但毫无疑问的是，中国军队的衡阳血战足以令侵华日军胆寒。
日军打通大陆交通线的作战，铺展在地域广阔的中国战场上，当这条战线的中段衡阳血肉横飞之时，战线的末端缅甸战场则让日军陷入了岛贯武治所说的那个“英帕尔”的结局，处于纵贯作战中的日军其溃败之势在这一结局中暴露无遗。