抗战胜利后的时局飞速发展，原有的地方军政机构已不能适应新形势的需要。中央考虑重新组合各根据地，建立新的中央局和军区。“七大”结束后，中央就在酝酿这方面的工作，进行人事安排。
晋冀鲁豫根据地是当时全国7个较大的抗日根据地之一。包括太行、太岳、冀鲁豫、冀南4个分区。所辖地域西起同蒲铁路，与晋绥根据地相邻；东至津浦铁路，与山东根据地相接；北至正太路、石德路，与晋察冀根据地相依；南至黄河。到抗战胜利时，这4个分区基本上已连成一片，控制了80多个县城，拥有2400万人口，军队近30万人，民兵40万人左右。这个战略区处于与其他根据地四面呼应的中间地带，又是华北的大门，正堵住国民党军队的北进之路。用刘伯承的话说，这个地方是“四战之地”。
正是看到晋冀鲁豫地区的重要性，8月20日中共中央决定：撤销原来的中共中央北方局，成立晋冀鲁豫中央局，邓小平为书记，薄一波为副书记。在中央局领导下成立晋冀鲁豫军区，司令员刘伯承、政治委员邓小平，第一副司令员滕代远、第二副司令员王宏坤，第一副政治委员薄一波、第二副政治委员张际春，参谋长李达，政治部主任张际春，副主任王新亭。
晋冀鲁豫中央局和军区建立后，中共中央又对各军区的人事作了安排调整。人事调整完毕后，形势的飞速发展令各战区的领导人和主要将领在延安坐卧不安，急切盼望立即回到各自的岗位上去。前方也一再催促首长们尽快回来。晋冀鲁豫军区参谋长李达致电刘邓：“组织大军与指挥强大野战军，急需主要干部，请带陈锡联等同志回太行。”
这时，恰巧有一架美军观察组的飞机从西安飞到延安执行公务。中央紧急决定：刘伯承、邓小平、林彪、陈毅、陈赓、薄一波等将领搭乘美军运输机返回各自地区。
1945年8月25日凌晨一二时许，那架破旧的美制道格拉斯运货机穿云破雾，越过夜空，最后停在了晋东南黎城长凝临时机场。
晋冀鲁豫军区参谋长李达派了一个骑兵排来接刘邓首长和军区的各位领导。林彪、陈毅等则将从这里转赴其他战略区。
刘邓和军区的首长们一下飞机，就直接来到涉县赤岸村晋冀鲁豫军区司令部驻地，急奔作战室。
刘伯承一边听取参谋们的汇报，一边在作战地图上做着标记，嘴里念叨道：
“这个史泽波速度够快的啊！你们看，他已占领了上党6城，把他的长官部设在长治，放两个师1万余人，周围长子、屯留也设有重兵，分别是1000至2000余人，襄垣、潞城、壶关是保安部队，在千人以下。看样子他已经完成了防御体系，下一步就要进犯晋东南，攻打太行山喽。”
当刘伯承说道：“蒋军直接冲我晋冀鲁豫解放区开来的，共有两路大军。一路是胡宗南，有3个军，北渡黄河，沿同蒲线北进；另一路是孙连仲，有7个军，正在郑州、新乡集结，准备打通北汉线。我们这第一仗，该怎么打呢？”
刚下飞机的军区和纵队首长们七嘴八舌地说开了。意见可分为两方，一方说，要先打上党，以免形成背腹受敌、虎狼夹击之势；另一方则说，现在国民党大军压境，应该集中精力对付强敌，倘若平汉线有失，一着不慎，满盘皆输，问题就大了。
作战室里烟雾缭绕，指挥员们的思路仿佛就如这烟雾，纠缠一起，双方意见相持不下，一时很难统一。
赤岸村的雄鸡此起彼伏地叫开了，天差不多亮了。讨论了半宿，也没有形成统一的意见。奔波了一夜的将军们也确实有点累了，有的干脆打起了哈欠。刘邓便说：“大家先回去休息吧，关于这一仗怎么打，我们再开会研究决定。”
等大家都走了，刘、邓两主帅却仍无睡意。
刘伯承在房中缓缓踱步，沉思道：“看来，是否发起上党战役，这个决心还很难下啊。不过，我看在上党打一仗，时间上还来得及。胡宗南正忙着分兵，可暂时放着。关键是孙连仲，他原来在鄂西，有十几万人，临时转身北上，谈何容易。没有1个月来不了。有这1个月，我们就可以打上党，1个月内打不下来，就先放着，把它周围扫清了，由地方部队把它围困起来。”
邓小平道：“我看可以，先打上党，再回师平汉线。”
刘伯承当即要通了正在武乡县段村指挥攻打日伪据点的李达。李达显然也是一夜没睡，说话的声音有些嘶哑。
简单交谈几句之后，刘伯承用毋庸置疑的口气对李达说：“你当前首要任务，是要尽快攻下襄垣，在上党的北面打开一个缺口，而后就地集结太行军区部队主力，以便会合太岳、冀南军区部队，准备进行上党作战。”
主意拿定了，第三天，刘邓再次召集各路将领开会，统一认识，进行部署。
赤岸村军区作战室其实就是一间普通的民房。这些指挥千军万马的将军们有的围着八仙桌就坐，有的随意找条长凳坐下来。每人面前一大海碗白开水。
刘伯承开门见山，道：“蒋介石的军队沿四条铁路开进，四个爪子伸开向我们扑来。人家的足球向我们华北解放区的大门踢来，我们要守住大门、保卫华北解放区，掩护我东北解放区战略展开。的确，平汉、同蒲是我们作战的主要方向，但现在的问题是，阎锡山侵占我上党6城，这好比在我们的背上插一把刀子，我们芒刺在背，脊骨发凉，不拔掉这把刀子，心腹之患未除，我们怎么放得下心分兵平汉、同蒲去守大门呢？”
邓小平的话不多，但字字掷地有声。他说：“根本问题是抗战胜利果实落到谁手里的问题。蒋介石、阎锡山伸手来抢，绝不能让他们抢走。”
刘伯承指着陈赓、陈锡联、陈再道，说：“你们‘三陈’都在这里，这就是本次战役的基本力量。我们过去是打游击战，现在要打集中的运动战了，打惯了小仗，现在匆忙上阵，要打大仗了。我们还能不能赢，就看你们的了。朱总司令本月9日在延安发出大反攻命令后，我立即给太行、太岳、冀南、冀鲁豫各军区发出电示，要求你们迅速扩充兵力，尽快集中分散作战的部队，形成野战兵团，我们现在是边打、边建、边练，尽快组成太行、太岳、冀南3个野战纵队，保证上党战役力量需要。现在就是看谁集中得快，集中起来了，形成了拳头就是胜利。”
邓小平接着说：“主要在你们纵队一级指挥员。要打就打好，打不好的换指挥员。事先讲明，要令行禁止。这是大兵团作战，个人不能随心所欲。你们马上回部队进行战斗动员。”
上党战役的决心就这样定了下来。