李冯二人势力被严重打击，地盘萎缩殆尽后，除了赵书礼的第五集团军外，四大集团军中就只剩阎锡山的第三集团军和蒋瑞元号称中央军的第一集团军，能够一战了。此时阎锡山心里清楚，蒋肯定不会放过自己。于是蒋冯战争一明朗，他立刻就派割命元老，跟冯玉祥有交情的李书城去陕西会见冯玉祥。李书城邀请冯玉祥到山西做客，并告诉冯玉祥，如果他一到山西，蒋瑞元必然知道冯阎已经联手，一定不敢动手对西北军余部赶尽杀绝。冯玉祥觉得很有道理，欣然前往，受到了阎锡山的热情接见。
冯玉祥到了山西后，很快就密令宋哲元再次反蒋。宋哲元当即以西北军总司令的身份发表反蒋宣言，说明是受冯玉祥和阎锡山两人的名义，要兵出潼关再次跟老蒋在河南戮战。
阎锡山这个老狐狸果然厉害，这一手果然让蒋瑞元忌惮起来，既担心阎系晋军真的跟西北军连接一气南下，又不敢真的部署兵力去跟西北军作战，担心阎锡山突然发难从山西南下攻其侧翼。但老蒋还是计高一手，他明知道宋哲元的后台是阎锡山和冯玉祥，但是他仍然派人去游说阎锡山，给他带去了中央的任命――北方讨逆总司令，讨的当然是冯系余部。而且抛出了一个海陆空三军副司令的头衔给他，阎锡山动心了，这真是利令智昏啊，看了胡萝卜大棒政策确实非常管用，有时候明知道里面有毒还是有人愿意冒险要钩。阎锡山觉得这个位子适合自己，于是通电就职，这下子让宋哲元觉得被出卖了，想联系冯玉祥看看老领导啥意思，却发现无论如何都联系不上了。
这时候西北军才发觉情况不对劲了，接着就传来老蒋的消息，说冯被软禁在山西的建安村了。于是西北军高级将领陆钟麟立刻赶到了山西，千方百计秘密拜访了建安村，见到了冯玉祥，证实了他确实被软禁了。
陆钟麟离开山西又悄悄拜访了蒋瑞元，此时蒋瑞元已经趁着阎锡山就职国府副住席的机会，调集兵力在河南把西北军残部打的大败，但是要彻底消灭这只作风顽强的西北军也不是那么容易的。陆钟麟拜访蒋瑞元后，双方讲和了，然后相约共同对付阎锡山。一时间蒋控制的报纸上全是声讨阎锡山的消息，阎锡山知道这是蒋瑞元动手的前兆，前两次对付桂系和冯系的时候，都是先让媒体声讨，然后才制造事端挑起战争。
这次他阎锡山凶多吉少了，西北军已经开始在山陕交界处集合军队了，幸而这时候突然赵书礼在塞北掀起了一浪高过一浪的反英运动，最后更是导致了英国人兵发中国。这打乱了蒋瑞元的军事行动，西北军停留在陕西按兵不动静观局势，南方的蒋军更是不敢进入有英军存在的河北担心引起误会。
阎锡山喘了口气，但是他觉得自己并不安全，于是开始积极备战。在内，动员起了四十万军队，太原兵工厂有大量的储存，北伐时候他就组建了三十万大军，还大量出售军火给友军，现在组建四十万军队武器上没有压力。但是训练就不足了，不过是拿起武器的农民而已，但是抱着保卫山西的精神，他们斗志还算昂扬。在外，他开始拉拢各路反蒋势力，在西北军中去解释，但却被那帮子冯玉祥死忠把他派去的使者赶了出来，放言不释放冯大帅，西北军就跟晋军不死不休。又派人去香港联系上了逃亡的李宗仁白崇禧二人，资助了一批资金，希望他们能够重返广西给蒋在南方制造一些事端。
但是他更用心的是对地盘相连的塞北军阀赵书礼进行拉拢，他自己觉得跟赵一直关系不错，礼尚往来不断。他知道赵书礼也是山西人，山西太谷县人，手下不管是文官还是武将大多是山西人或者山西移民。更重要的是，上次北伐奉军和这次跟英国人的争斗，让他看到了赵书礼军队的战斗力。于是不惜重金拉拢，派商震给赵书礼承诺一百万大洋的军费请他一起出兵讨伐蒋瑞元，同时表示希望从塞北的兵工厂购买军火。
塞北的兵工厂屡经扩建，现在已经跟沈阳兵工厂，巩县兵工厂，太原兵工厂，汉阳兵工厂合成中国五大兵工厂了。虽然阎锡山有太原兵工厂，但是他的兵工厂制造机步枪，手榴弹迫击炮还行，至于重炮就不如塞北兵工厂了，而他这次去购买的正是三百门重炮，他要靠这些重炮把山西打造成一个堡垒，任谁也进不来。
就在双方厉兵秣马的时刻，突然蒋瑞元发了份通电，要求他阎锡山退出河北。
这可是太难以让阎锡山接受了，他一生谨慎，精研儒家中庸哲学。连印度大文豪泰戈尔到中国来，除了拜会辜鸿铭外，就是来跟他探讨了一下中国哲学，什么鲁迅，胡适之流是懒得见的。可见阎锡山的儒学功底不是盖的，他绝对心淫中庸之道。自从辛亥革命开始，他就立足山西，从此数十年如一日，不管是袁世凯，段祺瑞还是吴佩孚，张作霖在北京主政，他都稳坐山西，被称为不倒翁。但谨慎不代表没有野心，唐生智反蒋的时候，他就打算响应，可是最后看到唐把他的名字列在第二，于是就没有参与。而河北这块地盘可是他好不容易才得来的，这几乎是他主政山西后，晋军第一次大举出晋，而且河北加上北京，天津就牢牢控制住了山西的出海通道，况且京津地区向来也都是富庶的地区，是他能不能在官场上更进一步的契机，他怎么可能轻易放弃。
但是不接受蒋瑞元命令的话，那么英国人显然会把责任归咎于自己头上，他可不是塞北的那个年纪轻轻的愣头青，他深知道这些列强的厉害。于是跟蒋瑞元一样，头疼了一阵后，他也决定以退为进。通电宣布接受中央的命令，让晋军撤出京津河北地区。然后大军全部聚集在山西，尤其是在晋南风陵渡一线排开，一方面积极操练，防备西北军度过黄河。另一方面更加积极的联络各路势力，甚至远至东北的张学良他都派人去拉拢。