唐生智的部队号称百团，但基干主力实际只有三个军，其余大多是临时拼凑而成的乌合之众，战斗力并不强。同时，这三个可供指挥的军又都分别集中在安庆、芜湖、武汉，每座城市驻一个军，成了一条长蛇阵，力量很分散，并不利于作战。西征军势如破竹，为时不足一月，便已攻至武汉城下。
其实唐生智本来有更好的选择。早在蒋介石遭到“李白”“逼宫”时，黄郛和蒋百里就曾到汉口找过唐生智。他们认为，以当时军事人物所拥有的影响力而论，蒋介石、新桂系、冯玉祥、阎锡山可谓并驾齐驱。既然蒋与桂已有意见，黄郛建议唐生智与蒋合作，然后以蒋、唐合作为中心，再联合阎、冯，这样，新桂系就不敢动了。
蒋百里也向唐生智强调了与蒋介石合作的重要性，甚至还说：“你们可以拜把子嘛！”
那个时候，唐生智谁都看不起，无论蒋还是桂，遂一口回绝。
黄郛来汉口，当然是替蒋介石说话。与之稍有不同的是，蒋百里主要还是为唐生智着想。作为民国时期首屈一指的兵学家，蒋百里曾任保定军校校长，唐生智就读于保定军校第一期，在校时学习成绩优异，是蒋百里的得意门生。
眼见得唐生智终于被新桂系一步步逼至绝境。蒋百里又重新联络已从日本归国，即将准备复出的蒋介石，蒋介石表示仍愿意与唐生智合作，并授之以计：能打垮新桂系就打，否则按兵不动，并退回湖南，经济上可由他负责接济。
唐生智的部队以湘军为主体，收缩至湖南后，他们既有熟悉地形之利，又能相对地集中力量，至少守住湖南是有可能的。要说有问题，其实也就是经济会遭遇困难，过去唐生智遇到军费不足的情况，都得靠湖北、安徽两省的税收接济。
在蒋介石已经承诺由他补贴银子的情况下，蒋百里感到这是帮助唐生智摆脱困境的一条上上之选，因此急忙托人转告唐生智。
没想到一番好意却并没有能够得到爱徒的理解。唐生智认为，蒋、桂以后终究要发生冲突，如果他同蒋合作，桂一看情势不对，也可能会迅速改变立场，转而与蒋合作，那还不如回到先前的状态呢。
唐生智的说法可以说有道理，也可以说毫无道理。民国交战，本来就是分分合合、合合分分，但这种分合也都会依条件维持一段时间。蒋既答应跟唐生智合作，只要不出现太大的意外，不见得就会马上抛下自己的合作伙伴，否则于情于理都不太讲得通。
唐生智实际上还是看不惯蒋介石，不想跟他合作。第一次北伐战争期间，蒋介石在南昌召集会议，着重讨论军队整编问题，唐生智也参加了那次会议。他认为蒋介石持论不公，私心很重，从此就对蒋心怀不满。
在唐生智的心目中，他是把自己和蒋、桂放在一个盘子里的，所谓三足鼎立。按照他的算计，如果他不下野，就会有三种可能。第一种，他不出所料地被桂打垮，那么他将和桂两败俱伤，占便宜的是蒋介石。第二种，发生奇迹，新桂系被他打垮，但唐、桂还是两败俱伤，占便宜的仍然是蒋介石。第三种，蒋、桂合起来打他，那他唐生智就可能万劫不复了。
为了不让这三种可能中的任何一种发生，唐生智下决心离开部队，通电下野。当然他的下野跟老蒋一样，都是暂时离开，没有打算从此洗手不干。
无论湘军还是桂军，维系首领与军队关系的，都不是什么“革命”，而是私人感情。说穿了，就是首领与各层面军官们的利益关系。因为军官们都知道，只有提拔自己的大头头在，他们的利益和位置才能得到最大程度的维护。唐生智估计，至少两三年内，他的湘军不会出问题，也就是说两三年后等他回来，那些军官大部分还在，他仍然可以掌握住这支军队。
唐生智在江湖上摸爬滚打多年，早就练就了一套生存技能和过硬的心理素质。决心既下，他立即做出部署：自己东渡日本，部队退回湖南。
这时唐生智得到情报，说程潜与张国威、何键有联系。张国威是第八军第一师师长，何键是第三十五军军长，先前他还被唐生智任命为安徽省主席，两人所掌握的部队都是湘军主力。有人建议将张、何一齐杀掉。唐生智回答道：“不要把部队搞散了。目前不必操之过急，先找他们来问问再说。”
对程潜联系何键、张国威，唐生智并不感到特别意外。毕竟大家都是湖南小同乡，程潜又主湘多年，过去与何、张都有些旧关系，来打招呼是很自然的，事情并不奇怪。他要确定的是，何、张是否真的已变了心，若果真有了异动，再杀头也不迟。
在乘船离开武汉的当天晚上，唐生智把三个主力军的军长李品仙、何键、刘兴叫到自己的公馆，对他们说自己将去日本，部队“暂时撤回湖南，把湖南搞好”，今后的问题由三人负责商量。
正在谈话的时候，张国威也应召走了进来，并报告了对军队布置的情况。见何键、张国威都在，唐生智就把他们与程潜有联系的事提了一下。
何键与张国威是同乡兼同学，都毕业自保定三期步科，两人同时在部队见习，又同时靠搞地方游击队起家。不同的是，何键在那一期步科中年龄最大，城府最深，相对而言，张国威则头脑简单，心胸狭窄。听唐生智提到程潜，何键情知不妙，顿时吓得浑身发抖，唐生智问什么他答什么，不敢有丝毫隐瞒。张国威却依旧一副无所谓的样子，对程潜委任他当第八军军长的事也继续瞒着不说。
唐生智见状，便让张国威退出了，其他人继续讨论。
张国威是第八军军长李品仙的部下，但平时却不大听从李品仙的指挥。这时李品仙被触动了情绪，便痛哭流涕地说自己反正也指挥不动这个张国威，不如和唐生智一起下野出洋（出国）的好。何键和张国威在被唐生智收编时就有很深矛盾，如今牵扯到程潜的事，为了帮自己解脱，也连忙插嘴说：“我们的部队向来很好。部队不听指挥，那还行吗？”
唐生智本来已暗暗做出判断，即何键无反心，可不予处分，而张国威则有意谋反，罪在不赦。何键的落井下石，更起到了火上浇油的作用，他马上让副官再把张国威叫回来。