长衡会战的第一个回合下来，湘北之战日军优势尽占，国军大败亏输。好一阵子直弄得不但是兵们抱头乱窜，尉找不到校，校找不到将，就连将也找不到帅，第九战区长官司令部都搞不清楚自己各个军的具体位置，战区主力各军被挤压到湘赣边的崇山峻岭之中。而奉蒋委员长命令前来配合协同作战的第六战区之王耀武的第74集团军又被日军阻隔在湘江西岸。蒋老头子和国军统帅部的战略部署形同一纸空文，如何执行得了！
薛岳原本就没有打算有湘南之战，也就是说根本不会有什么衡阳保卫战。长沙都大捷了，还用保卫衡阳，哪来的衡阳保卫战。所以，才会有第10军匆匆忙忙来守卫衡阳。工事还没挖好，又要预备第10师北上渌口；部队刚上火车出衡阳到茶山坳又接到不用出衡阳的命令；原本有桂军新编第19师协同第10军守衡阳，刚挖好外围工事，又将第19师调往全州作桂林的外围警戒部队……总之是令出多门，朝令夕改，叫人无所适从。
方先觉临时受命率第10军守卫衡阳，接到固守衡阳的命令时，居然没有人给他通报湘北的战况和大局。好在方将军久历疆场，经验老到，一面命令第3师滞留衡山一带阻敌快速推进，掩护其他各师加紧构筑野战工事；一面动员空城，坚壁清野，储运战备物资，要不然，还不知到这衡阳怎么守法呢！
当6月18日，长沙失守的消息传到衡阳时，方先觉正在市郊外围阵地视察防御工事修筑情况。只见葛先才师长匆忙跑来报告说：“军座，长沙已失！”
方先觉颇感突然，说：“怎么这么快就丢了长沙？这个张德能怎么搞的！号称‘铁军’的堂堂的国军王牌第4军就这么点铁性？当年北伐时所向披靡，锐不可挡呀！”
葛先才也露出复杂的神情来：“此一时，彼一时啊！他老张这回是将脸丢尽了。外面又该会有人质问校长了：此人何德何能，你让他挑如此重担！？”
方先觉感叹道：“张将军也是有战功的。这次阴沟里翻船一日而丢长沙，还不知道能不能保住性命啊！”不觉顿生兔死狐悲之感。
葛先才担忧地问道：“军座，你以为日军何时会进攻到衡阳城下？”
方先觉说：“应该没有那么快吧！快则月底，慢则下月初。艺圃啊，我军重武器不足，你要想法多弄点手榴弹回来。看来，这次日军是下了血本，衡阳是战局的关键点，他们肯定会拼命争夺！”
“得令！”葛先才不失本色幽默地拖腔答曰。
然而，方先觉的推断还是太乐观了点。6月23日，日军第68师团的先头部队已经到达衡阳市北郊的泉溪寺。接报，方先觉不禁大吃一惊，赶紧命令本军全体进入临战状态，外围部队边大边退，阻击日军进攻步伐。可是，日军却于6月24日绕道衡阳城以南约10公里的东洋渡迂回前进，随即渡过湘江，与从湘江西岸攻击而来的第116师团将衡阳合围起来。
第二天，方先觉在晚上召开的军事会议上忧心重重地说：“各位袍泽，我军在长沙外围没有打好，长沙一日之间易主，衡阳一下子就成了一座孤城！因此，我们一定要重视，切不可掉以轻心！首先要打好外围仗，打出士气来，打出气势来！不能让小鬼子小瞧了我们！大家放手去打，城中粮食不成问题，弹药支持十天半月也没有问题！”
6月26日，日军第68师团即向北推进到了衡阳西南近郊黄茶岭。27日，岩永汪的第116师团也推进到了衡阳市西郊汽车西站附近。这一晚，横山勇可睡了个好觉。战局发展顺利，一切尽在掌握中。衡阳只有支那一个残破不全的军，周边方圆100里内再无其他中国军队。以两个主力师团攻占衡阳，不敢说像长沙一样，一日而下，三日总算足够的啦！
横山勇舒服地躺在床上，想着自己的神机妙算正在一步步实现，感到全身轻松，不久便进入梦乡。
6月27日上午，日军第68、第116两个师团按计划向衡阳城发起总攻。横山勇正在长沙悠然自得地欣赏着刚刚搜刮来的字画古玩，等待着前线传来的捷报。但衡阳前线的电报，直让横山勇两眼发黑：原来，就在不久前的10点30分，第68师团长佐左久间为人中将、师团参谋长原田贞三郎大佐等一大批将佐在前线观察敌情时，被国军迫击炮弹击中，死伤惨重，第68师团整个指挥系统陷于瘫痪。
横山勇见势头不对劲，赶紧命令道：“立即电告岩永汪将军，要他立即接过第68师团的指挥权，指挥两个师团继续猛攻衡阳城。要不惜一切代价，保障三天之内如期攻占衡阳！”
下完命令，横山勇在长沙的指挥所里转来转去地琢磨这第68师团长的人选。志摩源吉应该是一个人选，但是他不堪大任，只是一个决死队队长的材料。琢磨来，琢磨去，最后还是决定向畑俊六建议，把现驻无锡的第55旅团长提三树男调来。提三树男是横山勇的老乡，但这是其次，主要是提三树男能够很好地把握大局，且十分擅长攻坚作战，这么做，于公于私好交代。
岩永汪这回没有上次进攻常德那么好的运气，指挥两个师团多的兵力，直大战至7月1日，4天只推进了不到1公里，伤亡却大大超过2000人。
横山勇这时才感觉到有些失算，没想到衡阳这么难打。他原想将衡阳作一个鱼饵，吸引薛岳的主力前来解围，然后指挥第3、第13、第27、第40等4个师团的优势兵力全歼薛岳第九战区的主力。如果薛岳不上当，拿下衡阳对下一步入桂作战也是大有好处的。再说，如果不迅速拿下衡阳，恐怕会将精锐的中国远征军从缅甸吸引回来。要是那样的话就麻烦大了。
横山勇不是逞匹夫之勇的人，他精明过人，在综合各方面因素后，当即于7月2日夜即5下达了停止进攻衡阳的命令，并把下次进攻的时间定在7月11日。他认为部队整训、补给需要一个星期的时间。
然而，横山勇已经无法按自己的思路来进行本次作战了。