一九二六年八月，冯玉祥由苏联返国，于同年九月十七日，抵达绥远五原。广东方面的国民党军，也在这时出师北伐，并已令冯玉祥为国民联军总司令。冯受任后，即举行了著名的五原誓师，发表了宣言。宣言说：“我三月间的出国，不是洁然鸣高，这次返国，也不是东山再起。过去，我对革命认识不足，经过访问苏联，见到了世界革命形势高涨，受到极大的鼓舞，也才认识到：要救中国，必须进行国民革命。我决心参加国民党，信仰孙中山先生的三民主义，服从国民政府指挥，联合国民党军北伐，从事国民革命。……”誓师后，冯玉祥把西北军的精神教育改为政治思想教育，从此，西北军的政治空气浓厚异常。

冯玉祥出国期间，西北军各高级将领，曾出现各有主张、不相协调现象。如韩复榘、石友三与晋军相峙时，因困难重重，向阎锡山输诚，蒋鸿遇则拒绝西撤等，以致军中出现裂隙，士气逐渐消沉。五原誓师后，韩、石相率归来，冯并未追究其投晋之事，反而归咎张之江指挥无方。同时，韩复榘进谮，谓蒋鸿遇蓄有异谋。冯在辞色间予蒋以极大难堪，后来蒋只得称病，退僦西安僧寺。由于冯对韩、石的抚慰，西北军的团结似又曙光在望，顿时士气升腾，军心大定。

同年十月，十二师在宁夏接到援陕命令。援陕部队为第二师、马鸿逵师、第十二师和吉鸿昌的三十六旅等部，统归援陕总指挥孙良诚指挥。那时，镇嵩军刘镇华部，号称十万之众，且粮弹充足，早于三月底就把西安城团团围住，陕军杨虎城、李虎臣两部，坚守待援。援陕总指挥孙良诚率其第二师及吉鸿昌新编三十六旅由甘肃平凉出发，孙连仲第十二师及马鸿逵第七师由宁夏向西安挺进。我军虽有数师之众，但与敌相比，实力悬殊，居于劣势，且我军跋涉千里，苦战业经半载，粮弹均缺，寒冬风雪已来，士兵尚着单衣。以如此疲备之师，力解西安之围，胜败实难分晓。(www.daowen.com)

十月底，吉鸿昌率三十六旅，到达了咸阳，并迅速攻占了县城，指挥部进驻城西猴儿寨。指挥部有苏联军事顾问，建议固守咸阳，集结兵力，相机对围城之敌，猛烈进攻。孙良诚以为：依我军情况，速战则城围可解，固守则我军必溃。乃下令全军，在第一线各配置有力部队，发动佯攻，主力沿终南山麓，突袭围城敌之侧背。三十六旅投入战斗后，极为活跃，该旅有沪造山炮一连，射击和观测，无人指挥，因为我是炮科出身，孙连仲令我到吉旅帮忙，因此我认识了吉鸿昌。我到达山炮连阵地，即开始射击，在各炮轰鸣声中，三十六旅攻占西安近郊的阁老门。徐福胜团进驻并设防。黄昏时，我在徐团获得敌人缩短战线，变更军队部署的命令。命令要旨为沿灞河东西之线，集结兵力迎击我军。我急速通过吉鸿昌转报孙良诚，孙急令各师分路突袭，敌军措手不及，一点被突破，全线乱作一团，迅即崩溃，纷纷向临潼方向逃窜。我以第二师和三十六旅，跟踪追击。至此，被围困达八个月之久的西安城，宣告围解。孙连仲师及吉鸿昌旅，奉令驻营渭南整休。这时，孙连仲应吉鸿昌之请，调我任三十六旅参谋长。