民国五年（1916），徐世昌在袁世凯洪宪称帝失败病逝以后，归隐河南辉县百泉山，对外故意表示消极，愿优游田园以终天年，自颜其居曰“水竹村”，自号曰“水竹村人”，并自镌闲章一方，曰“芒鞋布袜从今始”。徐曾约先叔忱由邺至辉，相与徜徉山水，商酌诗文。一次，对先叔曰：“吾与清室及项城（袁世凯）皆有不可解之关系，如今清室退位，项城故去，吾其安云泉、狎鹿鹤矣！”徐此言乃故作姿态，其实内心方自恃其为北洋元老，坐观变化，待机而起。

同年十一月，徐世昌归隐数月之后，黎元洪与段祺瑞发生“府（总统府）院（国务院）之争”，僵持不下，双方皆属意于徐出任鲁仲连，从中调解，乃托其弟徐世章（时任铁路局长）专程赴辉迎迓，徐欣然进京。调停结果，府孙（洪伊）院徐（树铮）均去职，藉息争端。事毕，仍欲返百泉，双方执意挽留，乃就近移居天津。

北洋军阀中，在袁世凯死后有人主张欲“还政于清”者，而日本在华浪人唯恐中国不乱，也从旁推波助谰。张勋在徐州四开督军会议，酝酿复辟，附和者众。然徐世昌毕竟黠者，知复辟之举必赖有外力支援，爰乘陆宗舆东渡之便，试探日本底蕴，不料碰壁而归。后张勋奉黎元洪召来京调停黎、段冲突，过津时，徐曾告之曰：“时机未至，勿遽举。”张亦首肯。及至入京后，受万绳栻，康有为辈之怂恿，率尔拥溥仪复辟，张自任议政大臣，畀徐世昌以弼德院院长，徐托故不就。不旋踵而事败，徐赶赴京，为清室谋善后，取得冯国璋、段祺瑞之同意，溥仪仍得居宫禁如故。

徐世昌目睹时局变动频仍，袁世凯称帝失败，张勋拥清帝复辟又失败，已知“君主立宪”为大势所不许。面对现实，亟欲统一北洋军旅而掌握之。民国六年（1917）八月，冯国璋任总统，冯（直）段（皖）之间，矛盾日益尖锐。徐揆其利害，决意拥段而疏冯，企图借段排冯，以为己之助。在冯、段对抗过程中，段部下对冯曾拟有二策：急进者主张立即由临时参议院另推段或徐世昌为总统以屏除冯，此派以倪嗣冲为主；缓进者主张俟总统任满，由国会不再选冯而使之去，此派以徐树铮为主。段采纳徐说。及风声外露以后，社会上一般多厌恶军阀跋扈，欲换一文人总统，各将领也怵于此争彼夺，欲举一超然派者。由是，徐世昌出任总统之拟议，甚嚣尘上。(www.daowen.com)

民国七年（1918）十月，冯国璋任期满，段祺瑞指使安福系议员选徐世昌为总统。其首先唱出拥徐者，实由于徐树铮之大力鼓吹。徐树铮风雅自赏，与徐世昌时相过从，相互唱和，时有大徐、小徐之称。徐树铮推举徐世昌，为段所采纳，此事经梁士诒走以告徐。徐世昌见出山有望，乃由津移京，居于东四五条胡同。当时国会中，安福系议员占绝大多数，以王揖唐为魁首；此外尚有旧交通系，以梁士诒为代表；以及研究系，以籍忠寅为代表。安福系议员皆主张选徐，交通、研究二系自唯追随于后，况且王、梁皆徐之旧部，籍与徐有乡谊，故皆乐于拥徐。在太平湖预选会中，到会三百八十四人，徐竟得票三百八十三张，酝酿已臻成熟。及选举会成立，三方达成一致协议，水到渠成。民国七年九月四日举行正式选举，计到会议员四百三十六人，除段祺瑞得五票，张謇、王士珍、王揖唐各得一票，又废票三张外，余四百二十五票一致举徐。徐佯示谦让之后，以自己题名照片分赠各议员，藉示纪念。

徐世昌既获选，向南北发出歌电试觇风色。其电文以“爱民爱国岂敢后人”为基调，而以“非衰老之躯所能称职”为托词，措词婉转磨棱，言外余音其自有抱负，可以就职。歌电发出后，北方各省包括长江三督在内，一致表示拥护，惟独吴佩孚复电请徐先出任南北调停，勿骤就任，于调停中解决国会问题，再由国会选其为总统；西南军政府总裁岑春煊、伍廷芳复电虽同意徐为适宜于总统之人选，但不认为此次选举为合法，劝其先任调停，与吴佩孚之言如出一辙。各方虽有异议，徐仍决意就职。当时有忆及徐隐居辉县旧事者，从而诮之曰：“芒鞋布袜从此脱，三海原来水竹村。”可谓谑矣！