鉴于国民党军主力损失殆尽，大半江山丢失，眼看南京风雨飘摇，蒋介石焦头烂额，心灰意懒，国民党内各派及数个省份要求蒋介石下野。
蒋介石终于认识到，一方面，他如不下野，国民党内许多人不答应；另一方面，共产党又要大军压境。在内外交困的情况下，与其在台上度日如年，倒不如退居幕后，以党领政。
1月21日上午，蒋介石正式宣布下野，下午乘飞机离开南京城，从此就再也没有机会回到南京了。
1949年1月24日，李宗仁在纪念孙中山会上举行了一个简短的仪式，就任代总统，面临着一个收拾不了的烂摊子。
蒋介石“下野”回到溪口的第4天，1949年的1月25日，将何应钦、顾祝同、汤恩伯等人召集到溪口，开了一次小规模的军事会议，部署长江防务。这是背着李宗仁、白崇禧召开的一次军事会议。
蒋介石说：“我决定把长江防线划分为两大战区。湖口以西归白崇禧他们去管，其兵力大约有40个师，湖口以东归汤恩伯，大概有75个师，45万人。”
蒋介石面对汤恩伯说：“你在南京孝陵卫总部指挥所，要经常控制一二百辆卡车，以便随时使用。你要把主力放在镇江以东，确保沪杭。”
蒋还对汤恩伯说：“江宁要塞的大炮，你要秘密拆运去上海。”
汤恩伯根据蒋介石的作战方针，策定长江防御要领。他就具体作战方案向蒋介石汇报说：根据总裁批准的作战方针，我们决定长江防线指导要领如下：
一、共军如由镇江，南京段正面渡江时，应以机动部队阙汉骞的54军、胡长青的99军突击歼灭之；如不奏效，第一绥靖区顾锡九的123军、王克俊的第21军、王秉钺的第51军，由镇江沿公路和铁路逐次抵抗，直到退至上海。海空军全力协助地面部队，以确保淞沪地带。
二、共军如由皖南渡江时，张世希的第七绥靖区的第66军、20军和刘汝明的第8兵团各部队应独立作战。曹福林的第55军、于兆龙的第96军、刘汝珍的第68军应伺机反扑。如不奏效，应适时退出皖南，以确保浙赣线的安全。南京以东部队，确保长江、钱塘江三角地带，不得已时再退守淞沪。
三、共军如只从正面渡江时，各部队应根据上述两项布置指导作战。
汤恩伯向蒋介石誓言：“总裁放心，长江防线固若金汤。我们还在长江方向部署了机动部队，如共军由镇江、南京段渡江，我军可以突击歼灭之；如不奏效，第一绥靖区各部队当由镇江沿公路和铁路逐节抵抗，退至上海，然后以海军全力协助地面部队，确保淞沪。”
蒋介石在地图上比画了一阵，表示很满意。他笑着说：“这才是我们治国的根本大计。至于和谈，只不过是争取一点时间而已。”
根据上述作战指导要领，汤恩伯把京沪杭警备司令部所辖的兵力作了如下的部署：
第一、淞沪警备司令部，司令官陈大庆，下辖罗泽第37军、刘玉章第52军、吴仲直第75军、朱致一第95师和马志超交警总队4个团。防区为白茆口、昆山、青浦、嘉兴、嘉善、浦东之线，任务是以有力一部守备金山卫、奉贤、南汇，特别警戒上海市区。
第二、第一绥靖区，司令长官丁治磐，下辖顾锡九第123军、王克俊第21军、王秉钺第51军、王作华第4军、董继陶暂编第1军。其主要任务是以有力部队确保八圩港至仪征各桥头堡阵地，以一部守备白茆口至沙头峰之江防，并确保浒浦、福山、鹿苑镇、杨舍、江阴，孟河、大港、镇江、高资、桥头各据点。对鹿苑镇北之夹江洲岛、扬中、新码头、瓜洲、礼州、义渡局特别警戒。该绥靖区另以一部迅速肃清茅山、苏浙边区及太湖区之游击队。防区东至白茆口、昆山，西至镇江与南京间之桥头镇。
第三、首都卫戍司令部，司令官张耀明，下辖陈沛第45军、刘秉哲第28军，其防守任务是以一部巩固大海、乌江镇各桥头阵地。江南地段，迅速加强工事，以一部守备桥头镇至铜井镇间的江防，并确保龙潭、栖霞及大胜关。对新州车站附近江岸应特别警戒。
第四、第七绥靖区，司令长官张世希，下辖罗贤达第66军、杨干才第20军、杨宝毂第88军。以一部守备铜井镇至钢陵镇间之江防，确保采石、当涂、芜湖。对荻港附近之江面特别警戒。控制有力部队于芜湖繁昌机动。对各桥头堡阵地、江心洲，须派必要部队占领。防区东至钢井，西至钢陵。
第五、第8兵团，司令官刘汝明，下辖曹福林第55军、于兆龙第96军和刘汝珍第68军，担任铜陵至湖口之江防，各桥头堡阵地派有力部队确保之。
第六、机动兵团由汤恩伯直接指挥，包括驻守在丹阳的阙汉骞第54军和驻守龙潭的胡长青第99军。在做完兵力部署之后，汤恩伯严令各部队立即在各自的防区修筑江防工事。汤恩伯还不断到各部队视察，督促沿江部队加紧备战。他在常州召集京沪线守备部队团长以上军官开会，为他们打气说：“我们一定要守住长江，才能扭转局势。……我们天上有飞机，江上有兵舰，岸上有要塞，炮火优于共军，对民船偷渡不足为虑，所以守住长江，阻止共军渡江应该是没有问题的。”