袁世凯称帝和张勋复辟先后垮台后，北京政府形成皖系段祺瑞和直系冯国璋相互角逐的局面；在全国范围，南北对立的形势更加明显。一九一七年八、九月间，孙中山先生在广州召集护法的非常国会，成立军政府，被选为大元帅，声讨北方军阀。冯玉祥受北京政府内阁总理段祺瑞命令，率军去南方援助北洋军阀的军队。一九一八年二月，冯军开到湖北武穴镇，冯玉祥通电主和，反对段的“武力统一”政策，触犯了段祺瑞，冯被免职。当时驻在汉口的曹锟派孙岳找冯玉祥愿作调停，趁段祺瑞四月“南巡”来汉口的机会，约冯到汉口与段会面。冯怕遭段暗算，就挑选了手枪连的十几个人随行，树勋随冯玉祥到了汉口，住在督军王占元准备的一座小楼内。手枪连的人昼夜站岗，严加防范，段未能下手。调停结果，任命冯玉祥为湘西镇守使，带队援湘。冯的军队就从武穴到石首又经津市到了湖南常德。树勋也随军到了常德。军队驻常德周围三、四个县的地方。

一九一九年北京爆发了“五四”运动。反对日本帝国主义、抵制日货的行动很快就传到常德。冯玉祥当时支持学生反对日本帝国主义的爱国行动，他叫官兵换上便装去到市街里帮学生查封日本商店。有一次，日本领事高桥曾无理取闹的向冯提出抗议，遭到冯的驳斥。树勋从冯玉祥的强硬态度认识到对待帝国主义就是你硬他就软，从而提高了爱国主义觉悟。

在常德期间，树勋从手枪连的班长调为冯的马弁班长，那时赵登禹是马弁。以后又调到学兵营学习使用机关枪。在学兵营六个月内学了放机关枪、测绘、军事典范等军事知识。以后调到机关枪教导营当司务长。他当司务长一年多，廉洁奉公得到官兵的好评，后被提升为排长。

这时北京政府派往湖南的军队越来越多地反对段祺瑞“武力统一”的主张。驻衡阳的直系吴佩孚屡次通电主和，一九二〇年六月，吴把军队从湖南撤到河南郑州，七月吴佩孚到保定，发动了以曹锟、吴佩孚为首的直系军阀反对皖系军阀段祺瑞的直皖战争。与此同时，湘军以“湘人治湘”口号驱赶北洋军阀，担任湖南督军的北洋军阀张敬尧被赶走，换了谭延闓为湖南督军。冯玉祥的军队也从常德撤离湖南，开往河南信阳。

这次行军正值伏天，河南闹大水，霍乱传染病蔓延，军队中死人很多，树勋也受到传染。病愈后，为准备参加远东运动会，他曾被选为选手练习跳高赛跑等，但后来因为发生战争，未能参加运动会。

皖系失败后的北京政府，对于驻在信阳的冯玉祥军队停止粮饷供应，冯的军队就和河南督军赵倜打了一仗，然后开往西安。直皖战争得胜的吴佩孚就派冯军去打皖系的陕西督军陈树藩，一九二一年七月，陈树藩退出西安，八月，冯玉祥继任陕西督军。

树勋被提升为连长，先在骑兵连，后调回机关枪营。

直皖战争后，直系吴佩孚同当时已入关内参与北方政局的奉系张作霖的矛盾尖锐起来，一九二二年四、五月间爆发了第一次直奉战争。冯军从陕西开到河南洛阳参加对奉军的战斗。树勋随军绕道北京以西的万寿山一带，击溃了在长辛店的奉军，张作霖退至滦州。直系获胜。

原河南督军赵倜，乘直奉战争之机偷袭郑州，冯军赶回，解了郑州之围，追击赵倜军队至开封，赵倜逃走。北京政府任命冯玉祥为河南督军。(www.daowen.com)

这年十月底，冯玉祥受吴佩孚排斥，免去河南督军职。冯军离开河南开封调到北京，冯玉祥被任命为陆军检阅使。树勋调升为营副，随冯到了北京南苑。

这些年来，树勋从作排长起，每月薪金三十七元多：除去自己零用，所余全部寄回老家。他过着节俭朴素的生活，直到后来当了师长，仍过着一被一褥的戎马生活。其间，他祖母逝世，回老家给祖母送葬，是他离家后第一次回故乡。因他幼年深切了解贫苦农民的困难，就在老家买了一头牛给全村穷人使用。又在村里办了一所小学校，让全村儿童免费读书，这所学校直到日本入侵才停办。

一九二三年春天，树勋二十六岁，他的母亲和大哥送他的未婚妻韩素贞到北京南苑结婚。

在南苑期间，树勋在冯军的高级教导团受训一年，毕业后派到初级教导团当队长。

冯玉祥在他的军队中提倡信基督教，树勋在常德手枪连时受洗礼入教。在南苑时，各团部都有牧师，每星期给士兵讲圣经。据后来了解，有些共产党和进步人士当时就是以牧师身份到冯军中做工作的。如余心清（前人大副秘书长）、蒲化人（中共党员）等人。

第一次直奉战后，直奉两系军阀由于妄想争夺全国政局的利害冲突，一九二四年九月爆发了第二次直奉战争。直皖战争后上台的总统曹锟电召吴佩孚到北京组织讨奉军，冯玉祥受任第三军总司令，由古北口、喜峰口向平泉（河北省东北部、邻接辽宁省）出发。这时树勋已当营长，由南苑随军出征。当时冯玉祥和吴佩孚已有矛盾，冯的军队开到古北口即折返北京，举行了联奉反吴的北京政变，逼曹锟下台。冯把军队改称国民军。曹锟、吴佩孚失败后，段祺瑞又上台作“执政”。这年年底，段任命张作霖为东北边防督办，冯玉祥为西北边防督办。冯军开往察哈尔、绥远、甘肃等处。树勋同志带的军队驻绥远。

树勋从当兵以来，参加了反袁称帝、反张勋复辟、一、二两次直奉战争等多次战事，当时他只知道服从冯玉祥的指挥，跟着冯走，叫打谁就打谁，对于那时的中国政局以及各次战争的意义，是没有认识的。