朱怀冰自从撤到武涉公路南边以后，并没有停止活动，而是到处构筑工事，占领高地，修建碉堡。他这些动作，并不是针对日本人采取的防御措施，而是针对八路军的敌视动作。为了打破国民党军对太行、冀南的进攻，八路军总部决定收拾朱怀冰这个“摩擦”专家。
此时，八路军打朱怀冰的条件和时机也已具备和成熟。因为，在这一带活动的国民党孙殿英部为了保存和发展实力，采取了谁也不得罪的态度。八路军打击朱怀冰的战役发起后，追歼朱怀冰的部队曾在途中遇到孙殿英部的阻拦，386旅参谋长周希汉上前说明八路军专打朱怀冰部后，孙部军官立即命令让开了道路。另一支国民党的部队庞炳勋部位于长治以南的荫城、西火地区，当时正与八路军344旅、385旅对峙，暂时还不敢北进。国民党3支主要力量中这两支比较收敛，只有朱怀冰自恃是国民党中央军的主力而常常蠢蠢欲动。
鉴于上述情况，129师师部领导开会研究了具体作战计划。会上，邓小平指示道：“朱怀冰是进攻我们的急先锋，根据目前顽军的态势，我们的作战意图应该是：集中主力歼灭朱怀冰部，监视鹿钟麟部和孙殿英部，尽可能争取他们中立。”
由于作战地区涉及磁县、武安、涉县、林县，所以这次战役又叫磁武涉林战役。
以129师为主的作战部队共有13个团，是朱怀冰部兵力的3倍左右。作战部署是：13个团分为左、中、右3个纵队，分路进攻，采取包围穿插战术，插入朱怀冰部的纵深，直捣朱部防御纵深。
作战计划形成后，刘伯承又指示说：“这次作战关键是在于迅速，叫朱怀冰来不及跑掉，其他顽军也来不及救援。这次作战的成败，关系整个华北的抗战局面。因此，各部队都在加强政治动员，讲清这次作战的重大意义，要不怕疲劳，不顾一切地坚决消灭他们！”
在这里刘伯承极有预见性地提出了“要不怕疲劳”的口号。因为他深知，要想打痛、打垮朱怀冰部，必是一场不轻松的艰苦战斗。
“擒贼先擒王”“打蛇要打在七寸处”，这些古老的谚语早已深深印在每个中国人的心中。朱德、彭德怀及其他军区领导人一起研究了国民党军这次行动的“王”和“七寸”。他们认为，打垮“摩擦”专家朱怀冰，就是擒住了“王”、打在了“七寸”上。这是八路军敌后抗战以来，第一次和武器精良的中央军交锋。
当时129师同时在冀鲁豫开展讨伐石友三战役，甚感兵力不足，讨伐朱怀冰除使用太行、太岳、冀南的部队外，并请18集团军总部从晋察冀、冀中调来部分部队，共计有13个团，委派参谋长李达为讨逆总指挥。
八路军参战部队及其指挥者名单：
右冀纵队指挥：周希汉
386旅第1团
师部特务团
中央纵队指挥：李达
青年纵队：易良品
晋察冀挺进支队：陈正湘
冀中警备旅：王长江
左冀纵队指挥：王树声
先遣支队：张贤约
别动队指挥：桂干生
独立游击支队：桂干生
总指挥李达根据刘伯承、邓小平的作战意图，将部队作战任务区分如下：
一、独立支队以两个团为别动队，由桂干生指挥，经卢家寨进至观台、漳河间的漳河南岸，选择隘路险要，构筑坚固工事，堵截可能渡漳河溃逃的朱军。
二、386旅第1团一部和独立支队，师部特务团为右翼纵队，由周希汉指挥，截断朱军后方交通，由南向北兜击，协助中央纵队消灭朱军主力；于3月2日进至任村集以北一线，3月3日继续北伸到甘泉、南王庄，选择要隘，构筑工事；另派出足够兵力伸延到王家庄、两岔口兜击可能向西南逃窜之敌。
三、青年纵队、晋察冀挺进支队，冀中警备旅附炮兵两个连，组成中央纵队，为进攻军的主力，由李达统一指挥：于3月2日拂晓，通过朱怀冰的嫡系部队94师与新编24师的接合部安子岭、南坡、南庄及王金庄、刘家庄、古台，迅速歼灭朱军的94师的280团；同时突入关防、岭底、北王庄，随时东撤，兜击两岔口、花园以东的朱怀冰97军司令部及其主力94师，对新24师则采取争取方针，如顽固不化，则一并消灭之。
四、先遣支队为左翼纵队，由王树声指挥，于2月29日到达天井地区，逼近94师，积极袭扰，疲惫敌人；3月2日拂晓，即向天井西北侧击朱军280团的右侧背，配合中央纵队消灭之。