济南，位于津浦、胶济两条铁路的交会处，是一个拥有70万人口的大城市。当时为国民党山东省政府和第2绥靖区所在地，是国民党军赖以支撑其华北、华东残局的少数战略要点之一。
1948年7月在华东野战军胜利结束豫东战役和津浦路中段战役后，济南便处在解放军的包围中。守住济南，是当时国民党军的战略需要。蒋介石为了屏障徐州，隔断华东、华北两解放区的联系，并使青岛不致处于孤立，决心确保济南。当时驻守济南的国民党军为第2绥靖区司令官兼山东省政府主席王耀武所率的3个整编师（军）12个旅共11万余人。
在解放军结束胶济路中段战役后不久，王耀武鉴于其所部在胶济路上连连被歼，感到“分散兵力，处处设防，易被击破，况济南形势又十分孤立，只靠现有的部队是无论如何守不住的”，即于5月15日乘飞机到南京见蒋介石，向他报告军事情况。
蒋介石亲自出来迎接，这属破例。蒋介石此前还未曾出门迎候过任何一个文官武将。这与其说是看重王耀武这员大将，不如说是看重济南这座孤城。
几句寒暄后，蒋介石直入主题：“俊才此次来京，你要找我谈些什么？”
“此次来京，主要是想将济南的军事情况向校长报告一下，同时谈一下我个人的想法。”王耀武小心翼翼地说。
“哦，你有什么想法？说来我听听。”蒋介石微有诧异，因为，对于济南的方针政策他已经明确：死守。
王耀武也顾不得许多了，把自己的看法和盘托出：
“校长，共匪转入全面进攻后，山东战场上我所指挥的部队伤亡日渐增加。从今年3月到现在，短短两个月的时间，在胶济路上我部就伤亡了8万多人。学生感到分散兵力，处处设防，易被击破，况且，当前济南形势又十分孤立，只靠现有的部队要守住济南难度很大。因此，根据当前的形势，学生建议放弃济南，将在济南一带的军队撤至兖州及其以南地区，与徐州一带的部队连成一片，巩固徐州至兖州的铁路交通，以利而后的作战。不知学生所虑是否得当？请校长赐教！”
蒋介石听到这个建议，不满意地说：“你应从大处着眼。对于济南的问题，我曾考虑过。我们必须确保济南不能放弃。第一，济南是山东的省会和华东的战略要地，济南至徐州的铁路已修好通车。为了不让华东及华北的‘匪区’打成一片，不让他们掌握铁路交通的大动脉，必须守住济南。第二，为了不使驻在青岛的美国海军陷于孤立也必须守住济南。否则，不但在军事上、政治上于我们不利，且将影响美国对我们的援助。因此，无论华东战况如何变化，济南绝不可放弃。第三，我们有空运大队随时可以增派援军。在空军优势的条件下，济南并不孤立，没有后方也可以作战。”
最后蒋介石给王耀武打气说：“济南如果被围攻，我当亲自督促主力部队迅速增援。只要你能守得住，援军必能及时到达，我有力量来解开你们的包围。为了确保济南，必要时还可以增加防守部队。打仗主要是打士气。鼓励士气，首先自己不要气馁。你要知道，我们的失败是失败于士气的低落。你们如不发愤努力，坚定意志，将死无葬身之地。”说到这里，本是鼓气，他自己却长长地叹了一口气，也许蒋介石已经感觉到了什么不祥之兆吧！