张学良宣布东北易帜服从国民政府后（这意味着北洋军阀已经彻底失去历史大戏的主角地位），曾经的合作者、新的军阀们又开始了新一轮的争权夺利、逐鹿中原。
奉系军阀撤回东北，让出河北和平津后，冯玉祥和阎锡山就都在心里打起了自己的小九九，他们都想把这块肥肉吞进肚子里。老冯的部队在北伐中的功劳比较大，蒋介石本来想让老冯占据这块地盘。但在一次会面的时候，“阎老西”偷偷跟老蒋嘀咕说：“总司令，请您翻开历史看看，有多少人吃过他老冯的亏。”于是，后来老蒋把河北以及平津给了“阎老西”。
冯玉祥表面上虽然没有公开表示自己的反对意见，但心里一直不痛快。有一次他对自己的士兵发表讲话说：“蒋委员长是多么英明啊，我们一定要唯他马首是瞻！他说什么我们就做什么，他放的屁我们也要包起来供着！总而言之，地盘要小，军队要少，工作要好！”明白人都能听出来，话里面老冯透着无限的哀怨。
老蒋还真响应老冯的话，在南京一次军队编遣的会议上，老蒋极力扩大自己的嫡系部队，而打压老冯等杂牌军。这一次，好强的老冯心灵又一次受到沉重的打击。如果说上一次，老冯还只是有点怨气的话，这一次老冯是痛恨上了自己的拜把子兄弟。
1929年2月5日，冯玉祥以养病为借口离开南京，从而宣告自己与义弟的蜜月期结束。桂系军阀（李宗仁、白崇禧领导的国民党西南新军阀，一直与老蒋不对付）一听到老冯“出走”的消息，非常高兴，马上派人与老冯联系倒蒋事宜。老冯二话没说就答应了。
后来，老冯觉得倒蒋事业要成功，必须把“阎老西”拉到自己的队伍，虽然他一直很痛恨阎锡山（在以往的军阀混战中，阎锡山曾经给老冯使过绊子）。于是，为了拉到“阎老西”这个重量级的盟友，他决定闯一闯“阎老西”的虎穴。
“阎老西”还真不是什么善茬儿，老冯一到太原，就被“阎老西”给软禁了起来。但“阎老西”并没有要伤害老冯的意思，他只是把老冯当作一张牌，以便合适的时候打出去。所以，老冯虽然被软禁，但自由度还是比较高，生活还是比较滋润的。
有一次，国内一家着名报纸的记者来采访老冯。记者到的时候，正是晚饭时间，于是，老冯就请记者留下来一起吃饭。期间，老冯指着热气腾腾的火锅对记者说：“记者先生，不瞒你说，这火锅现在是我唯一的消息来源！”记者看着老冯，一脸“丈二和尚摸不着头脑”的样子。
老冯见记者不明白，于是又解释说：“每次他们打了胜仗，这里面肯定有肉片肉丸。如果打败仗了，对不起，就只有白菜粉条啦。每次都是这样！记者同志，今天你的运气不错啊。你瞧瞧，今天这里面有肉片肉丸，还有海参，‘阎老西’肯定打了个大胜仗。”
在“阎老西”这儿，虽然有吃有喝，但老冯可从来没忘记自己的任务。有一次，他把一个亲信叫到自己被“软禁”的地方，如此这般的嘀咕了一番。亲信回去后，马上打出“拥护中央，开发西北”的旗号，并频频向南京的国民政府抛去“艳电”。这些故意不保密的“艳电”，全部被“阎老西”的情报部门给截获了。
这下可把“阎老西”吓坏了，他心想：自己以前得罪过老蒋，如果现在又把老冯给彻底得罪了，他们联起手来打我，那自己肯定会吃不了兜着走。于是，他派人马上把老冯接到了太原，两人握手言和，共商倒蒋大计。
在战争开始前，一个国民党的元老给老冯来了一封信，信的内容主要是，劝冯玉祥与自己的结拜兄弟蒋介石重归于好。老冯看了看这封来信，一脸冷笑。他回了这么一封电报：您老也是一大把年纪了，不言党，不言革命，也不言真理是非，而甘心当一个人的走狗。你这样做，死后有脸面在九泉之下见总理（孙中山）吗？国民党元老看了信，羞得恨不得找个地洞钻进去。
1930年5月上旬，冯阎联军开始了讨伐老蒋的军事行动。刚开始的时候，联军打得还挺顺手，但越打就越感觉老蒋还真是个不好对付的主。
老蒋因为有大财团的支持，所以购买了很多西方先进的作战武器。战斗机就是其中最厉害的家伙。老冯和“阎老西”的军队为此吃了不少铁蛋蛋，以至于后来联军一听见飞机的轰鸣声，个个吓得直哆嗦。
为了给自己的士兵壮胆，老冯有一次对士兵们说：“弟兄们呀，你们看是蒋光头的飞机多，还是天上的乌鸦多？”士兵们一听，心想：这还用问嘛，蒋光头的飞机再多也多不过乌鸦。于是，他们齐刷刷回答“乌鸦多”。老冯于是接着说：“那你们有没有谁被乌鸦尿到过？”士兵们有点发懵地回答“没有”。老冯像是获得胜利似的大声说：“这就对嘛！所以，怕他什么破飞机，根本就打不着咱们！”
但精神胜利法不能解决根本的问题。最后，老冯由于实力的悬殊，张学良倒向老蒋，以及盟友阎老西的“不仗义”，惨败给了蒋介石。从此，他“摘掉”了军阀的帽子，但也失去与人叫板的资本。