6月21日，冯玉祥携妻带女，跟着李书城来到了太原。阎锡山见李书城竟然真把冯玉祥拉到了山西，不由得喜出望外，如获至宝。

冯玉祥和阎锡山过去也拜过把子，哥儿俩一见面就抱头痛哭，阎锡山对冯玉祥百般安慰，发誓会与冯合作到底。过后，他专门在晋祠为冯玉祥安排了“晋祠行馆”居住。“晋祠行馆”是一个叫江瀚的山西大学文科教授住过的房子，又名“江氏花园”，其实只是一座平房四合院，不过休养闲居倒是挺适宜的。

阎锡山每隔三五天就会去“江氏花园”看望冯玉祥。知道冯对反蒋感兴趣，他会与冯商谈反蒋的办法，同时也允许冯的部下前来探望，甚至于其他地方的反蒋代表如果要见冯，也不阻拦。那段时间，连冯的部下都觉得阎对冯礼遇极优，是很够朋友的。

阎锡山从来不肯做亏本买卖，他的付出都得有代价才行。冯玉祥一到太原，他就把这作为自己的“调停之功”报告给蒋介石，并说自己之所以留冯于太原，是为了设法对其进行劝导，使之不得逞兵作乱，以尊中央，而维和平。

接到报告后，蒋介石很快给予回报，不仅给予台阶，让阎锡山暂时不要出洋，而且还派他为西北宣慰使兼办军事善后事宜。

阎有阎的算盘，冯有冯的计较。住在晋祠期间，但凡见到前来拜访的客人，冯玉祥总是首先露出一副自怨自艾的表情，说：“我从前以为我做别的事不行，练兵还是行的。在今日看起来，我练兵也失败了。”

他让阎锡山给他请了几个老师，教授经济学和书画，还自撰自书了一副对联，曰：“家居好山好水地，人在不夷不惠间。”

退隐山林，不问世事，这当然不是冯玉祥的真实想法。发现阎锡山确实够意思，没有把他“献俘”于蒋，而且两人也不必马上出洋后，老冯又开始琢磨起如何倒蒋的事。

晋祠位于太原附近，又是风景名胜区，