防守临汾的是阎锡山的第6集团军副总司令兼晋南武装总指挥梁培璜。他是河南光山县人，保定军事学校第三期毕业，历任阎锡山部的旅长、军参谋长、军长等职，是阎锡山的“铁军组织”的28名骨干之一。驻守临汾的国民党军除胡宗南的第30旅和阎锡山的第66师两支正规军队外，还有先到临汾的4个伪军公署和14个流亡伪县政府所属的各种杂牌武装还乡团、保警队等，整编成的8个团，总兵团近3万人。
梁培璜深知用这3万人来固守临汾是难以和强大的人民解放军对抗的。况且在这3万人中有一半是地方团队，战斗力很差。因此，梁培璜的如意算盘就是凭借工事固守，进行顽抗。于是，他搜刮了巨大的人力物力，在临汾原有工事的基础上，构筑了四道防线，形成了一个完整的防御体系。
第一道防线是外围警戒阵地，以城东、南、北各2.5公里，城西7.5公里内的较大村镇为据点构成。筑有高碉堡、明暗火力点和外壕、电网、地雷等障碍物，形成一个个独立支撑点，各点驻有一个连至一个营的兵力，配有重机枪、迫击炮、山炮，既可独立作战，又可相互支撑。
第二道防线是护城阵地，以环城周的31个碉堡构成，三碉一组作品字形布局，以水泥、片石构筑的主碉居中，距城50米至80米不等，周围并有地堡、暗火力点和外壕、铁丝网、地雷等防御物，有的还有暗道通往城内。
第三道防线是外壕和城墙阵地，外壕在旧护城壕基础上挖成，深20米，宽30米，紧靠城墙，在城墙顶部四角和四个城门楼上修有火炮、各种枪和喷火器使用的据点工事，将城墙腰部挖空，修筑轻机枪、步枪和喷火器的发射掩体。
第四道防线是城内纵深阵地和地道工事，城墙内有一条深、宽各3米至6米的内壕，壕内每隔15米修一伏堡，城内主要街道和高大建筑物上，共修了11个巷战据点，在城东偏南的东关，高度略低于主城，也构筑了完备的防御工事，与主城形成一个整体。
面对如此坚固的城防工事，梁培璜极为得意，说：“八路军作战，向来是以多胜少，我们把临汾城周工事筑成法国的‘马其诺’，来个以少胜多。”
梁培璜自认为他的“马其诺防线”万无一失了。几天以后，他给阎锡山发去一份电报，说：
第一、城防工事，在日本朋友帮助指导下，按计划全部加固改造。如果徐向前敢来进攻，他所指挥的土八路，定叫他死在我坚固阵地和各道防线之前沿。
第二、66师接防，30旅交防，交接将毕，将设宴迎送。
第三、坚守临城，唯粮荒在即，难以持久。
阎锡山看过电报，甩在一边，向参谋长郭宗汾大发雷霆：梁培璜真是个糊涂虫，守城没有粮食，还守个甚？傅作义当年守涿州教训还不够吗？快给梁培璜发急电，趁共军大练兵尚无攻城之意，还不出城把粮食抢到手？