第3章 皖系军阀——段祺瑞：“北洋之虎” “三造共和”
“北洋三杰”之“段虎”，本为袁氏江山之功臣，却反对帝制初衷不改；“三造共和”有功，却实行军事独裁一系专治；一心要做北洋派老大，却小看了直系“吴小鬼”；过分宠信徐树铮，却成也萧何败也萧何。一生清正耿介，为官清廉，晚年甘守清贫不落水，颇具人格魅力。
小档案
姓名字号：段祺瑞 原名启瑞 字芝泉 晚号正道老人
祖籍：江西饶州（今江西波阳）
籍贯：安徽六安
生卒年月：1865.3.6—1936.11.2 卒年72岁
毕业院校：柏林军校
军衔：陆军上将
最高官职：北洋临时政府执政
军阀派系：皖系
家世：
曾祖父——段友杰。妻子杨氏。
祖父——段佩，系淮军名将刘铭传麾下骁将，官至统领，因功被擢提督，记名总兵，授荣禄大夫、振威将军。妻子赵氏、曾氏。
父亲——段从文，粗识文字，当过军中管带。妻子范氏。
兄弟姐妹——弟：段启甫、段启勋。妹：段启英。
妻妾子女
元配夫人吴氏，生长子段宏业，长女段宏淑。
继室张佩蘅，生四女，分别为段宏彬、段宏巽、段宏筠、段宏荃。
大姨太陈氏，生一儿一女，均夭折。
二姨太边氏，生一女。
三姨太刘氏，生次子段宏范。
四姨太刘氏。
五姨太李氏。
简历
1865年——3月6日，生于安徽六安县。
1868年——随父母迁至寿州。
1879年——祖父段佩去世。
1881年——到山东威海投奔任管带的族叔段从德，被收留在军营中做哨书。
1882年——父亲段从文被人杀害。
1883年——母亲范氏因悲伤过度去世。
1885年——考入武备学堂第一期预备生，被分入炮兵科。
1889年——以官费入德国柏林军校，学习两年炮兵，后独自留在德国克虏伯炮厂实习。
1896年——被调往天津小站，任新建陆军左翼炮队统带。
1899年——随袁世凯的武卫右军开赴济南。
1900年——元配夫人吴氏在济南病故。
1901年——任北洋军政司参谋处总办，后因镇压农民起义升为补用道员，加二品衔，被赏戴花翎，加“勇”号。
同年——娶袁世凯义女——江西巡抚、都察院左副都御史张芾的孙女张佩蘅为继室。
1903年——清政府在北京设立练兵处，任练兵处军令司正使，加副都统衔。
1905年——袁世凯将北洋军扩编为“北洋六镇”，段祺瑞出任第三镇统制，兼督理北洋武备各学堂。
同年——在北洋军第一次秋操中任“北军”总统官。
1906年——兼任“陆军行营军官学堂”督办。
同年——在南北两军第二次秋操中任“北军”总统官。
1908年——任会考陆军留学毕业生主试大臣。
1909年——任陆军第六镇统制。
1910年——调任江北提督。
1911年——辛亥革命爆发，任第二军军统，出兵湖北。
1912年——完成“一造共和”。
同年——任陆军部总长。
1912年——被授予陆军上将。
同年——被特授勋一位，及二等嘉禾章。
1913年——代理国务总理。
同年——代湖北都督。
1914年——袁世凯建立将军府，任建威上将军，管理将军府事务。
同年——被授予一等文虎章。
1915年——辞去陆军总长。
1916年——任参谋总长，后任国务总理。
同年——完成“二造共和”。
同年——任国务总理兼陆军总长。
1917年——完成“三造共和”。
同年——因第一次南伐失败，11月16日递交辞呈。
1918年——把持官僚政客组成的“安福系”。
同年——复任国务总理。
同年——辞去总理职，任督办参战事务处督办，仍把持朝政。
1920年——直皖战争爆发，皖系战败，段祺瑞下野。
1924年——任中华民国临时执政。
1925年——其心腹徐树铮被冯玉祥谋杀。
1933年——受蒋介石之邀，前往南京，后移居上海。
1936年——11月1日突发胃病，2日在上海宏恩医院病逝。卒年72岁。
自强不息，暗中贵人相助
人生之路虽然漫长，但关键处只有几步，这几步将决定人的一生。
段祺瑞一生中最最关键的有两步，第一步是武备学堂操练得到同乡前辈李鸿章的赏识，第二步是小站练兵得到袁世凯的青睐。
1886年秋季的一天下午，北洋武备学堂的操练场上，炮科操练正待进行，忽然风雨交加，虽说雨不是很大，但是风很大，海上浊浪翻滚，活动靶子在波浪中起伏不定。这样的天气绝对会影响操练成绩。
可是，所有学员和教官都知道，今天的操练非比寻常，因为有一个大人物——北洋武备学堂的创始人李鸿章，就在山顶上临时搭起的观操棚内，用望远镜观看着这场操练。此时，李鸿章的望远镜已经瞄准了海上漂浮不定的靶子。
学员们的心情异常紧张，可越是紧张越是难以打出好成绩。“轰——轰——轰——”几声炮响之后，水花在距离靶船很远的地方被炸起。接着又是几炮，情况所差无几，靶船依旧在海上飘摇。教官变了脸色。
可想而知，山顶观操的李鸿章早已气得面色铁青：“这等水平拉上战场，岂不是白白送死！”
为了挽回败局，教官拉出最好的学员：“段芝泉，你上！”
随着教员的喊声，一个瘦削青年从队列中走出。只见他表情坚毅，沉着冷静，三发炮弹打出去，三发三中。教官笑了，练兵场上响起一片热烈的掌声。接着，青年被带到山顶观操棚。
“你叫什么名字？哪里人？”李鸿章打量着这个略带稚气的年轻人问。
“报告长官，学生叫段祺瑞，合肥人。”段祺瑞先向李鸿章打了个敬礼，腰板挺得笔直，看上去十分精神。
“很好！很好！”李鸿章连连夸赞。
李鸿章一向惜才爱才，见段祺瑞炮打得好，又是一副铮铮铁骨的军人模样，自然心生喜爱，一问又是合肥人，地道的老乡，心里更是高兴；再问段祺瑞的家庭情况，原来段祺瑞的祖父段佩是淮军名将刘铭传麾下的一员骁将，最后官至统领，因功被授荣禄大夫、振威将军。旧部子弟，自然又多了一层感情上的亲近。李鸿章接着又问了段祺瑞一些军事上的问题，段祺瑞对答如流，令李鸿章十分满意，当即令手下记下了段祺瑞的名字。
其实，段祺瑞的祖父虽官至统领，但段祺瑞早年的生活却充满坎坷。段祺瑞15岁那年，祖父病逝于军中，段家家道中落，甚至连段祺瑞读私塾的钱都付不起。段祺瑞17岁时独自步行2000里，从合肥赶到山东威海，投靠任管带的族叔段从德。从军后第二年，其父段从文从合肥来看他，在返回途中，拿出携带不多的银子，买了些生丝和布，准备以后给儿子成亲用。不料，同行的两人见到这点布和银子，竟将段从文这名老实巴交的庄稼汉杀死，将他身上的物品洗劫一空。一年后，段祺瑞的母亲范氏也因伤心过度去世。一连串的打击，让小小年纪的段祺瑞脸上从此失去笑容，取而代之的是与年龄不相称的冷峻与刚毅。1885年，李鸿章创办北洋武备学堂，逆境中的段祺瑞以优异的成绩考入学堂炮科。
李鸿章欣赏的就是这种军人的坚强，当1888年清政府选派武备学堂毕业生赴德留学的时候，李鸿章给了这位小老乡特别的关照。当时赴德学习军事的名额只有五个，名单报上来后，五人中有三名山东人，两名安徽人，李鸿章随手拿起笔，划掉一名山东人，换上了段祺瑞。
段祺瑞并不知道，他的命运就在李鸿章大笔一挥之间改变，使他由一个普通的武备学堂毕业生，变成了留洋德国的高级军事人才。段祺瑞于1889年以官费进入柏林军校，学习两年的炮兵后，李鸿章出于栽培的目的，又让他一人留在欧洲著名的德国克虏伯炮厂实习深造。学成回国后，段祺瑞被派到威海卫港，担任随军武备学堂的炮兵教官。
应该说，留洋是段祺瑞日后升迁的基础，有了这个基础，才得以作为新军骨干被推荐到小站，机缘巧合地得到袁世凯的青睐，从此跟随袁世凯飞黄腾达，青云直上。
常言说三十而立，1895年，30岁的段祺瑞奉长辈之命回家完婚。段祺瑞与元配夫人吴氏早年相识于宿迁，由于他一直忙于求学、深造，追求事业有成，将成家之事一拖再拖，直到女方长辈发出最后通牒，才不得不给女方一个交代。
偏偏事有凑巧，段祺瑞请假回家之时，正是袁世凯就任“新建陆军”督办到处网罗人才之际，段祺瑞到家第二天，便接到天津小站练兵处发来的电报，通知他已被调往小站，参加编练新军，并限期报到。
得此消息，段祺瑞兴奋异常。由于对西方现代军事有了较深的了解，段祺瑞对中国旧军队的落后与腐败深恶痛绝，认为只有建立新式军队，才是强国之本，因此在威海担任武备学堂教官，总觉得抑郁不得志。此前他已得知小站将编练新军，心中十分向往，只是苦于无人引荐。而此次举荐他到小站练兵的，是武备学堂总办荫昌。
如今如愿以偿，段祺瑞恨不能马上赶赴小站报到。但是婚未结，倘若一走了之，无法向家族长辈和吴氏家长交代。但不走，又将耽误军期，违反军令，这是作为军人的段祺瑞无论如何不能接受的。
正在为难之际，又一封电报不期而至，这是袁世凯命属下发来的，大意是让段祺瑞妥善办理好婚事，然后再赴小站。袁世凯还特地赠送银票以示祝贺。看罢电报，段祺瑞感激万分，没想到赫赫有名的袁大人竟如此礼贤下士。
办完婚事，段祺瑞一刻不敢停留，立刻起身北上。不料一到小站，早有一群小站将领在此迎接，而大名鼎鼎的袁世凯袁大人竟然也在迎接队伍中。段祺瑞真是惊异万分，诚惶诚恐，急忙行大礼道：“祺瑞不才，怎敢劳大人亲迎！”袁世凯却笑呵呵地拉起段祺瑞，问长问短，没有一点上司长官的架子。
当晚，袁世凯在营中设宴，为段祺瑞接风。席间，两人聊起对旧军队的改造，竟然有诸多相同看法，大有相见恨晚之感。几天后，段祺瑞在一家酒楼回请小站将领，待到饭后结账时，酒楼老板却说已经记入袁世凯的账下，让段祺瑞心中更是充满感激。想自己何德何能，竟能得到袁世凯如此青睐，与其他将领相比，无非是多留了几天洋而已。于是暗下决心，一定要尽心尽力效忠袁世凯，以报知遇之恩。
当时小站将领中，许多人出自北洋武备学堂，如曹锟、段芝贵、张怀芝、卢永祥、王占元、陆建章等。而荫昌为袁世凯推荐的四名新军骨干，王士珍、段祺瑞、冯国璋、梁华殿，除梁华殿在一次夜操中失足跌落河中溺死外，其余三人全都成为袁世凯在军事方面的得力干将，就是后来的“北洋三杰”，号称“王龙”、“段虎”、“冯狗”。
段祺瑞凭借自己的军事才干与对袁世凯的忠心不二，很快成为袁世凯的左膀右臂，并跟随袁世凯一路升迁。1899年，段祺瑞跟随袁世凯赶赴山东镇压义和团运动，1901年袁世凯升任直隶总督，段祺瑞随后担任北洋军政司参谋处总办，负责北洋常备军的编练。后因镇压农民起义升为补用道员，加二品衔，被赏戴花翎，加“勇”号。1903年清政府在北京设立练兵处，袁世凯任会办大臣，段祺瑞出任练兵处军令司正使，加副都统衔，成为袁世凯的得力助手。1905年袁世凯将北洋军扩编为“北洋六镇”，段祺瑞出任其王牌军第三镇统制，兼督理北洋各武备学堂。此后，他还担任过保定军官学堂总办、陆军各学堂督理、会考陆军留学毕业生主试大臣等职位，因此，北洋军官多半都是他的门生故吏，他在军中的影响也越来越大。
1900年段祺瑞的元配夫人吴氏病故，一年后，袁世凯将义女——江西巡抚、都察院左副都御史张芾的孙女张佩蘅嫁给段祺瑞为继室，从此，二人除了袍泽之谊又多了一层姻亲关系。
出于对袁世凯的忠心与崇拜，段祺瑞在生活中经常模仿袁世凯的样子，如闭目养神，当睁开眼睛时，让人顿觉双目炯炯有神，或咄咄逼人，威严凛冽。甚至走路姿势、穿衣打扮，段祺瑞也喜欢模仿袁世凯，尤其袁世凯常戴一顶黑色方顶小帽，与他的五短且发胖身材颇为和谐，而段祺瑞身材瘦削，也戴上一顶同样的方顶小帽，看上去便有了些不伦不类，甚至怪异好笑。
知恩图报，制造南苑“兵变”
正所谓树大招风，功高震主，在袁世凯北洋势力迅速膨胀之时，清廷已用明升暗降的方法，开始了对他权力的遏制，尤其对北洋势力的分化与削弱，无论袁世凯还是其他北洋将领，无不感到一种咄咄逼人的态势。
1908年11月，一个看似平常的日子，正在保定北洋陆军各学堂督办公署办公的段祺瑞，突然接到袁世凯的亲笔密函，要他尽快赴京。当段祺瑞赶到北京，进入位于紫禁城东边锡拉胡同袁府后，袁世凯已经被传入宫。
袁世凯的长子袁克定惊慌失措地告诉段祺瑞：“大事不好了，皇上和太后都驾崩了！”
原来，光绪帝驾崩后，袁世凯于当天夜里被召到宫中商量立嗣之事，第二天慈禧也晏驾了。根据慈禧懿旨，立醇亲王载沣之子溥仪为嗣君，由载沣监国摄政。而袁世凯却一直留在宫中未归。
这个消息令段祺瑞大吃一惊，且不说一朝天子一朝臣，仅载沣上台就对袁世凯极为不利！长期以来，以载沣、铁良等人为首的满族排汉派一直对袁世凯耿耿于怀，而当年戊戌变法袁世凯告密导致光绪被囚瀛台一事，载沣作为光绪的胞弟，更不会放过袁世凯。对此，段祺瑞心急如焚。
滴水之恩，当涌泉相报。袁世凯的知遇之恩，段祺瑞没齿难忘，何况袁世凯之于北洋将领，本为一荣俱荣一损俱损的关系。返回保定后，段祺瑞决定以“兵谏”解救袁世凯。当他与手下第一谋士徐树铮商量时，徐树铮却认为不妥。
“贸然进行‘兵谏’，实为大逆不道之举，名不正言不顺，难有取胜把握。”徐树铮分析说，“不如先向朝廷称病开缺，再放出风声，举行冬操，以引起朝廷重视，让他们不敢轻易对袁大人下手。若事后追查起此事，也可留有退路。”
徐树铮是江苏萧县人，自幼聪颖过人，才华横溢，与段祺瑞相识于袁世凯的山东巡抚任上，两人性情相投。后来徐树铮自日本陆军士官学校毕业归来，直接投入段祺瑞门下。
段祺瑞觉得徐树铮的主意不错，急忙着手施行。可就在此时，一个实行“兵谏”的更好理由送上门来。驻扎北京南苑北洋第六镇第十一协的协统李纯打来电话，说几个士兵聚赌闹事，发生火并，问该如何处置。段祺瑞一听，在这种时候，居然为这点小事打电话请示，立刻来了火气，刚想训斥几句，突然灵光一闪，大声说：
“秀山啊，这是发生兵变了！”
李纯号秀山，他与段祺瑞同是北洋武备学堂首届毕业生，对光绪帝与西太后相继晏驾、袁世凯滞留宫中虽有耳闻，却不像段祺瑞那么敏感，他一时没有明白过来，坚持说：
“没那么严重，只是几个士兵赌博……”
“是兵变！”段祺瑞厉声打断对方的话，“你那里发生了兵变，立刻派兵弹压，声势越大越好，明白吗？”
“哦，我明白……”李纯有些开窍了。
“我马上派兵增援！”
段祺瑞放下电话，立刻命令出兵南苑。南苑位于北京南城脚下，一时间军号齐鸣，战鼓震天。段祺瑞派出的增援部队赶到后，竟然动用了大炮，隆隆的炮声震动了紫禁城，清廷顿时乱成一片。
与此同时，段祺瑞上报陆军部：北京南苑发生“兵变”，他正率部镇压。载沣原本优柔寡断，缺乏经天纬地之才，虽意欲除掉袁世凯，却又瞻前顾后，担心由此引发动乱，征求荫昌、张之洞等人意见后更不敢轻举妄动，在“兵变”面前，自然会做出让步，最终于1909年1月2日，以袁世凯患“足疾”为由，一道谕旨将其开缺回河南“养疴”。
袁世凯“死里逃生”，随即带着一家老小登车返乡。离京时，不仅往日前呼后拥的风光不再，连送行者都寥寥无几。人们唯恐避之不及，哪里还敢车站送行招惹麻烦呢！车到保定，段祺瑞上车相见。见到段祺瑞，袁世凯感慨万千，连说：“芝泉啊，项城没看错人！项城没看错人！”
段祺瑞见袁世凯往日威风全无，心中颇感凄凉，也动了感情：“大人于我有知遇之恩，纵是赴汤蹈火，也在所不惜。”
袁世凯被开缺后，段祺瑞的命运也随之发生了变化。摄政王载沣下令重新改编全国武装，建立新军三十六镇，各镇高级将领均由满族人担任。1910年12月，段祺瑞被调任江北提督。提督是清朝从一品的官衔，表面上看段祺瑞被提升了，实际上，清廷用明升暗降的办法，夺去了他的兵权，并把他从直隶省调开。
段祺瑞焦急万分，上任途中绕道袁世凯“隐居”的彰德洹上村，袁世凯劝他要沉住气，北洋将领总有咸鱼翻身之日。
果然，1911年10月，辛亥革命爆发，清政府派出陆军大臣荫昌率北洋军队前去镇压，同时派冯国璋为第二军军统增援。由于荫昌指挥不动袁世凯的北洋军，清政府被迫敦请袁世凯出山，袁世凯出山的条件之一，便是在调任冯国璋为第一军军统的同时，任命段祺瑞为第二军军统，前往湖北镇压起义军。
赴京之前，段祺瑞再去彰德洹上村请示机宜，袁世凯对段祺瑞推心置腹：“芝泉啊，我不妨对你直说，尽管南方闹得很凶，但要害之处不在南，而在北！”
“大人的意思是北方不能乱？”
“是的。出兵南方，更要随时准备回师北方，不能让人家把我们的老窝端掉。就让华甫（冯国璋）在前面打吧，你在后边要控制铁路，以便进可以援于武昌，退可以左右直隶和北京。”
后来事实证明，袁世凯此举可谓有先见之明。段祺瑞到信阳尚未坐稳，北方便出了大乱子。山西新军中革命党人首先在北方发动起义，推举新军标统阎锡山为军政府都督，准备进攻北京。清政府急令驻扎滦州的第二十镇统制张绍曾出兵讨伐。岂料这位“士官派”代表联合其他将领，电奏朝廷，宣布实行“兵谏”。清廷情急之下，派出第六镇统制吴禄贞前往滦州说服。吴禄贞与张绍曾、蓝天蔚同为“士官三杰”，三人关系甚笃，清廷原以为吴禄贞的说服工作会大见奇效，岂不知吴禄贞是一位以尽快推翻清政权为己任的激进革命者。吴禄贞一到滦州，便提出联合阎锡山，合围攻打北京的主张。
此时，清廷刚刚任命袁世凯为内阁总理大臣，由他出面组织责任内阁，清廷军政大权已落入袁世凯的掌控之中，倘若在这个时候清廷被北方革命力量所消灭，则皮之不存，毛将焉附？尤其严重的是，袁世凯便有被逐出政治舞台的危险。幸亏他早有防范，已收买张绍曾手下的协统，因此在第一时间内知道了内幕。
北方所发生的事，段祺瑞在信阳已有所耳闻。10月31日，袁世凯赴湖北孝感视察的专车抵达信阳，段祺瑞上车拜见袁世凯，方知事态远比想象的要严重。两人就如何平乱进行了一番商议。由于兵谏将领中许多是段祺瑞的旧部与学生，因此决定由段祺瑞北上以攻心战进行瓦解。
段祺瑞旋即带领数名亲信赶到北京，以发送公开或秘密电报的形式，以同僚或师长身份，劝说兵谏将领们服从袁世凯指挥，率部南下。同时派出徐树铮等得力干将到自己旧部和学生中进行游说。段祺瑞在北洋将领中素有威望，此招一出，将领们纷纷倒戈，张绍曾很快被架空。
与此同时，袁世凯授意军谘府以令吴禄贞率部赴山西镇压起义为名，将吴禄贞从滦州调开。而吴禄贞率部赶到石家庄后便停滞不前，他一面谎报军情麻痹清廷，一面与阎锡山取得联系，约定组成燕晋联军，于11月8日联合举事，围攻北京。
就在吴禄贞与阎锡山密谋举事的同时，袁世凯已采取行动，决定暗杀吴禄贞以除后患。袁世凯的亲信收买了一个叫周符麟的协统，负责暗杀事宜。周符麟先到北京面见段祺瑞，然后遄赴石家庄组织暗杀行动，11月7日深夜，在约定举事的前一天夜里，吴禄贞在石家庄的临时办公处被刺杀身亡。
为了给舆论一个交代，段祺瑞按事先约定传讯周符麟，两人合演了一出双簧，然后便把周符麟放走了。喧嚣一时的北方事件终于风平浪静，段祺瑞为袁世凯又立一功。在接下来对南方的用兵中，段祺瑞由于吃透了袁世凯的意图，屡屡为袁世凯排忧解难，再建功绩。
此时，担任前敌主将的冯国璋打得十分卖力，先攻克汉口，又攻克汉阳，接着要一鼓作气拿下武昌。这下急坏了袁世凯。袁世凯的策略是“养敌自重”，无奈他连发七道急令，并三次派员南下让冯国璋停战，冯国璋都不得要领。而袁世凯“借敌自重”要挟清廷的目的又不便明说。情急之下，袁世凯走马换将，命段祺瑞为湖广总督，兼办剿抚事宜，同时以第二军军统兼任第一军军统，将冯国璋调回北京。
段祺瑞果然不负厚望，他深知袁世凯早已无意于清廷，更不会安心于内阁总理大臣，他追求的是大总统的宝座，于是，与袁世凯一南一北，一唱一和，配合默契，既利用革命军胁迫清廷谈条件，又利用清廷向革命军“讨价还价”。
在“南北议和”进行中，南方的黎元洪等人与袁世凯基本达成默契，黎元洪等人表示，“如袁反正，将拥其为总统”。
然而，就在袁世凯做着大总统美梦的时候，孙中山自海外归来，于1912年1月1日在南京就任中华民国临时大总统。
这一变化令袁世凯与段祺瑞万分震惊与愤怒，因为正是袁世凯试图“借敌自重”，汉阳战役之后停止进攻，才使武昌民军化险为夷。如今孙中山做了总统，袁世凯岂能善罢甘休？立刻电令段祺瑞炮击武昌。
在各方面的压力下，孙中山作出让步，南方代表以“清帝退位和保证共和”作为袁世凯出任大总统的先决条件。袁世凯对民主共和不以为然，不过是想借机逼迫清廷，达到其上台的目的。但是，清室少壮亲贵对清帝退位一事反应激烈，而袁世凯本人不愿承担背叛清廷的骂名，逼宫的重任便落到了段祺瑞肩上。
1月下旬，段祺瑞振臂一呼，率前线北洋将领46人，先后两次联名致电朝廷，吁请清帝退位，称“人民进步非共和不可”，必须“立定共和政体”，否则“即率全体将士入京”，并随即将司令部从湖北孝感迁往河北保定，做出一副进京逼宫的样子，对清廷造成咄咄逼人的态势。
1912年2月12日，隆裕太后迫于压力，终于以宣统的名义下诏清帝退位，在中国延续两千多年的封建帝制自此寿终正寝。
3月10日，袁世凯在北京就任临时大总统。段祺瑞也因逼宫有功，被视为“一造共和”的英雄，不久被任命为陆军总长，执掌戎机。
反对帝制，与小舅子叫板
正所谓共患难容易共富贵难，升任陆军总长之后，段祺瑞蓦然发现，当了大总统的袁世凯对原先的股肱干将却不那么信任了。矛盾首先在陆军次长人选上暴露出来，段祺瑞圈定的陆军次长是他最信任最得力的助手徐树铮，名单递上去之后，袁世凯却沉下了脸。
“又铮（徐树铮字）面带煞气，不是个安分守己的人物，还是换个人吧。”袁世凯看着那份名单说。
“又铮对大总统很忠心，人也能干，这陆军次长最适合他。”段祺瑞立刻回应。
但是段祺瑞没有想到，袁世凯不同意徐树铮出任陆军次长，正是因为徐树铮能干！徐树铮不仅才干超群，而且对段祺瑞忠贞不二，被视为段祺瑞的灵魂。且徐树铮敢想敢干，胆量过人，段祺瑞身边有这么个重量级人物，令袁世凯心中很不舒服。早前“北洋三杰”势力相当，能够相互制约。袁世凯出任大总统后，三足鼎立的局面被打破，王士珍留恋清廷退隐还乡，冯国璋外调南京，中央军事大权落到段祺瑞一人手中，袁世凯深知枪杆子的重要性，怎能将这军事大权放心地交给别人掌管呢？又怎能让“段祺瑞的灵魂”出任陆军次长，任由段祺瑞如虎添翼呢？
而段祺瑞一向是军人做派，性格直率，刚愎自用，职权范围之内不愿受他人掣肘，因此，有关军队的编制、调遣、军官的提拔与降黜，除个别重大事件向袁世凯报告外，一般都擅做主张。而他所提拔之人，大多是亲信、部属和学生，这就更加重了袁世凯对他的猜忌与疑虑。于是，两人之间有了裂痕。
尤其令袁世凯耿耿于怀的是，徐树铮一直在陆军次长的位子上安之若素，他一直想借故将其开缺，却始终没找到机会。有次段祺瑞到中南海公干，与袁世凯一起沿着湖边散步。当时气氛融洽，两人心情大好，袁世凯认为时机已到，趁机说：
“很多人对陆军部有意见，都说又铮目高于顶，受不了他那个做派，还是给他换个地方吧？”
一听袁世凯旧话重提，段祺瑞不由得心头蹿火。段祺瑞历来脾气火爆，说一不二，其部下与家人都深有体会。但在袁世凯面前，他不得不有所收敛，但也仅仅是控制着大为光火的程度而已。
“又铮是有些个性，可这个人有能力，给我做助手我放心、省心。若是换个用着不顺手的，倒不如连我一起撤了。”
甩出这几句硬梆梆的话后，段祺瑞转身走了。袁世凯被晾在湖边，心里恨得直咬牙：“好！终究有一天，我会连你一起撤掉的！”
其实在当时，这不过是袁世凯的气话，他一心要削弱段祺瑞的兵权，但在民初政局不稳的情况下，在很多方面还离不开段祺瑞这个北洋军中的老大。后来随着袁世凯称帝步伐的加快，两人的矛盾开始激化，尤其是段祺瑞反对恢复帝制，得罪了一心想当太子的袁克定，段祺瑞的命运很快发生了逆转。
1913年秋，在袁世凯镇压“二次革命”后，京城中复辟帝制的舆论开始甚嚣尘上。为此，段祺瑞曾当面询问袁世凯，此事是否属实。在段祺瑞看来，袁世凯不至如此糊涂，毕竟复辟不得人心，倒行逆施必然会招来千古骂名，尤其会引发动乱，成为众矢之的。在得到袁世凯的断然否认后，段祺瑞才稍稍放下心来。
可是时隔不久，袁世凯的心腹幕僚阮忠枢便找上门来，他是受袁世凯的长子袁克定指派，专为袁世凯称帝寻求奥援而来。阮忠枢与段祺瑞素称莫逆，袁克定以为，由阮忠枢出面，段祺瑞定然不会反对。而他要段祺瑞做的，是段祺瑞做梦都不曾想到的：联络北洋将领，再来一次全国通电，拥护袁世凯称帝。
“真是滑天下之大稽！”不等阮忠枢说完，段祺瑞便愤愤地打断他的话：“我段某人只知通电共和，岂能通电复辟？大总统早就说过不当皇帝，你们还敢胡闹！”
其实，对于复辟帝制，袁克定远比袁世凯热衷得多，毕竟袁世凯做了皇帝，他便是皇太子，理所当然的皇位继承人。为了促成复辟帝制，袁克定甚至捏造政治谎言欺骗袁世凯。当时列强忙于第一次世界大战，无暇东顾，袁世凯十分关注日本人对其称帝的态度。而他揣测日本人态度的重要信息来源，便是日本人在北京办的报纸《顺天时报》。由于该报经常刊登一些对恢复帝制不利的文字，为了坚定袁世凯称帝的决心，促成袁世凯称帝，袁克定竟别出心裁，自己出资找人编造了盗版的《顺天时报》，经常刊登一些日本人赞成中国恢复帝制的文章。袁世凯看了信以为真，加快了称帝的步伐。后来袁世凯称帝失败，始知事情真相，不禁仰天悲呼：“克定误我！克定误我！”
而此时，段祺瑞的不予配合，令袁克定火冒三丈，从此经常在袁世凯耳边聒噪，说段祺瑞坏话，挑拨离间，以达到剥夺段祺瑞兵权的目的。
1914年5月，袁世凯宣布在总统府成立陆海军大元帅统率办事处，袁世凯亲自任大元帅，由“北洋之龙”王士珍任办事处坐办，陆军总长、海军总长、参谋总长。
看着摆在办公桌上的这份公文，徐树铮愤愤地说：“看来老头子要卸磨杀驴了！”
段祺瑞摇摇头：“怕是没那么容易，老头子有多大本事能把所有事都亲自抓起来！”
“不管怎么说，这是一个夺权信号！”徐树铮甚至认为，这个“夺权”，其实只是冲着段祺瑞这个陆军总长来的，其他人手中的“兵权”，对袁世凯以及袁克定来说，实在构不成威胁，大可不必如此费尽心机。
两人不曾料到的是，这个“夺权”的点子，正是袁克定所献计策。袁克定甚至亲自前往河北正定，恭请王士珍出山。王士珍以善操权谋于腹中而被推为“北洋三杰”之首，由于忠于清廷，他对袁世凯的高看并不买账，以岁数已大不愿再参政为由拒绝出山。无奈袁克定软磨硬泡，最终以看望其父为名将王士珍拉到北京。王士珍一到，袁世凯立即授为陆军上将，委以统率办事处坐办。
如此一来，陆军部等于名存实亡，掌控陆军部的段祺瑞兵权尽失。从此，退居办事员的段祺瑞开始了消极怠工。段祺瑞居住的府学胡同私宅，是袁世凯被开缺回原籍时，为感谢段祺瑞的鼎力相助拱手相送的，价值30万元。该宅有侧门与陆军部相通，此前段祺瑞去陆军部常由此门出入。如今，段祺瑞将一切部务交给陆军次长徐树铮代行，自己整日在家里下围棋，打麻将，不仅极少去部里，甚至统率办的会议也常借故缺席。
段祺瑞消极怠工，倒给袁世凯独揽兵权减少了许多麻烦。只是段祺瑞羽翼已丰，在陆军中隐然形成一股强大势力。为了尽快将段祺瑞的势力排挤出去，加强军事集权，同时培植“太子”袁克定的军事实力，1914年10月，袁世凯在军事上又采取了一项重大举措——建立模范团。
所谓模范团，其实是类似军事教导团式的军事学校，以其在军队中的模范作用，对北洋军进行逐步改造。段祺瑞对这个方案持否定意见，但段祺瑞越是反对，袁世凯越是认为这项举措是对的。关于团长人选，袁世凯宣布由袁克定担任。段祺瑞也毫不留情，在统率办会议上当众顶撞袁世凯，语出惊人：
“云台（袁克定字）没带过兵，我看他不行！”
“你看我行不行？”袁世凯肺都快气炸了，立刻针锋相对。
段祺瑞无话可说，只好偃旗息鼓。后来模范团成立，袁世凯做了一期团长，便把位子让给了袁克定。
袁克定如愿以偿做了模范团团长，对段祺瑞更是怀恨在心，伺机报复。1915年初，袁世凯为取得日本对其称帝的支持，与日本酝酿签订卖国条约“二十一条”。5月2日，袁世凯亲自主持会议讨论签约事宜。会议名曰讨论，实际不过是通知大家而已，因为所有人都看得出袁世凯的意向，因此，即使反对也无人敢拿着鸡蛋往石头上碰。唯有段祺瑞拍案而起，慷慨陈词：
“小日本欺人太甚，如此条件过于苛刻，绝对不能接受！”
在劝阻不起作用的情况下，为了阻止签约，阻止袁世凯称帝，会后，段祺瑞以陆军总长名义，领衔19省将军通电请缨，称“天下兴亡，匹夫有责”，表示坚决反对签订“二十一条”，甚至不惜与日本人决一死战。
令段祺瑞不曾想到的是，袁世凯不顾北洋将领以及全国各方面的强烈反对，于5月下旬与日本签订了“二十一条”；更有甚者，袁克定竟混淆视听，将一盆污水泼到段祺瑞头上，公开对外宣称：
“政府之所以向日本屈服，是因为陆军不能打仗，段总长亲口说，一旦打仗，三天之内便可亡国。陆军如此无用，政府能不接受日本的条件吗？”
明明是为了称帝邀宠于日本，出卖国家主权，却说成是陆军无用被迫与日本签订不平等条约，段祺瑞气得鼻子都歪了。
尽管如此，段祺瑞仍坚持反对复辟帝制。后来随着复辟帝制行动的升级，许多反对袁世凯称帝的官员、将领都违心地改变了态度，进入“劝进”的行列。即使不愿意违心“劝进”的也都闭上了嘴巴，唯独段祺瑞仍然坚持反对袁世凯称帝。有人好心劝他，哪怕违心地表示一下“劝进”，也可改善他与袁世凯的关系，否则他的日子会越来越不好过。段祺瑞则公开宣称：
“当年我领衔通电主张共和，如今要我领衔通电取消共和，拥项城称帝，这种出尔反尔的事我是绝对不会干的！”
段祺瑞的态度令袁世凯大为光火，决定搬开这块绊脚石，他对段祺瑞说：“你脸色不好，是不是有病？要注意休息。”随后又特地托人给段祺瑞捎话，告诉他要少操劳，多休息，注意身体。这明显是逼段祺瑞辞职。
段祺瑞对这个办事员级别的陆军总长也干够了，索性于5月31日以身体不适请辞。袁世凯假意挽留，没有立即批准辞职，只是批准休息两个月，但在段祺瑞辞职当天，便任命王士珍为陆军总长；而两个月期限一到，便迫不及待地正式免除了段祺瑞陆军总长的职务。
还是在段祺瑞刚刚请假时，袁世凯就以徐树铮订购军火虚报40万元为由，指使肃政厅弹劾徐树铮，撤了徐树铮陆军次长的职务，终于消除了他心头的一大宿疾。
段祺瑞被免职回家养疴后，袁世凯一边派人暗中监视，一边派医送药，并经常派人给段祺瑞送去鸡肝、参汤之类补养品。段祺瑞不敢食用，全部悄悄倒掉。但袁克定行起事来比他的老子直接多了，由于段祺瑞在北洋军中的威信无人可替代，倘若段祺瑞对袁世凯称帝一直不肯“劝进”，显然对恢复帝制极为不利，袁克定急于当太子，岂容段祺瑞如此执拗，于是，他派人在段公馆里安放了一枚炸弹。
这颗炸弹很快被发现，虽没有爆炸，却给段公馆带来一片恐慌。段祺瑞的夫人张佩蘅将这件事告诉了她的干娘、袁世凯的发妻于夫人，于夫人转告了袁世凯，袁世凯知道事出袁克定之手，将袁克定训斥一番，说：
“你姐夫反对恢复帝制，只是口头上的劝阻，并没有采取过激行动。如今事情未定，这个时候内部不能出事，尤其你姐夫在北洋军中威信极高，弄出事来不好收场！”
袁克定不得不承认，姜还是老的辣，到底是老头子考虑事情周全。尽管他对段祺瑞阻碍恢复帝制恨之入骨，此时也只好收手。
横遭贬黜，笑看护国战起
1915年12月12日，袁世凯正式宣布接受帝制，随后进行大封爵，在获得爵位的128人中，唯独没有跟随袁世凯多年出生入死打江山的段祺瑞。
段祺瑞躲在自己的府里，对闹闹哄哄的称帝活动了解得一清二楚，他不稀罕什么封爵，但对袁世凯果真倒行逆施当了皇帝，以及围在他身边撺掇其称帝的那帮小人深恶痛绝，整天像坐在火山口上，对其大加指责。有一天在餐桌上，段祺瑞又指责袁世凯称帝，气愤地说：
“项城称帝之日，就是走向灭亡之时！”
这在他的夫人张佩蘅听来，似乎是在诅咒袁世凯。于是张夫人说：“不要忘了你今天的一切从何而来，人不能如此没有良心！”
段祺瑞勃然大怒，照着张夫人的脸左右开弓，“啪啪”就是两个耳光，同时怒斥道：“妇道人家，这里也有你说话的地方！”
在一起生活多年，张夫人素知段祺瑞脾气大，但也没想到他竟当众对自己连打带斥责，让她在姨太太和晚辈面前颜面尽失。但段祺瑞对帝制的诅咒却“应验”了，几乎在袁世凯宣布称帝的同时，护国运动便率先在云南发起，爱国将领蔡锷联络各派反袁力量，组成“护国军”，宣布云南独立。接着，贵州、广西相继宣布独立，反袁斗争风起云涌，在全国各地迅速发展。面对中国人民反对复辟帝制的怒潮，帝国主义列强也纷纷转变态度，表示反对袁世凯称帝。
段祺瑞闭门家中坐，全知天下事。他知道袁世凯在公府丰泽园成立了“征滇临时军务处”，亲自处理军事，并军事、外交、内政事必躬亲，且身边没有得力助手，撺掇他称帝的那帮亲信见势不妙，一个个都在另做打算。而战局对袁世凯极为不利，开始时北洋军与护国军在四川泸州一带形成拉锯战，但不久双方竟信使往来，协议停火了。尤其是云贵独立后，又有广西宣布独立，湖南陷入孤立之中。冯国璋拥兵静观，袁世凯无可奈何。北洋军已不再听其调动，袁世凯内心深受重创，其焦头烂额程度可想而知。想到袁世凯不听劝阻咎由自取，段祺瑞总算出了一口恶气。
正在心情好转之时，徐树铮带来一个匪夷所思的消息：被剥夺了陆军次长职务的徐树铮，突然被袁世凯任命为将军府事务厅厅长！
“项城对你恨之入骨，今日请你出山，太阳是打哪边出来的？”
“还用说，当然是为了讨好你！”
徐树铮说的没错，面对内外混乱的局面，袁世凯自然想到请段祺瑞出山稳定局势。这不仅因为段祺瑞是北洋元老，在北洋军中下属、学生众多，还在于他人缘好，自身清廉，虽刚愎自用，却心地善良，不易树敌。但唯恐段祺瑞不给面子，只好先从任命徐树铮入手，希望通过徐树铮打动段祺瑞。
随后，袁世凯又走夫人路线，让发妻于氏通过段祺瑞的夫人张佩蘅，转达他的意思：请段祺瑞出山，共济时艰。只是张夫人话未说完，便被段祺瑞一声怒吼所打断：
“宿疾未愈，何以出山？”
张夫人赶紧闭嘴。此后不久，又传来袁世凯病重的消息。原来早在南方讨袁运动兴起之时，袁世凯便在忧急之中病倒。3月中旬，袁世凯获得一份五将军秘密通电。五将军即江苏将军冯国璋、山东将军靳云鹏、江西将军李纯、浙江将军朱瑞、湖南将军汤芗铭，这五人联名发密电致各省将军，就“迅速取消帝制，以安人心”，同时“惩办祸首”，征求各省将军同意。袁世凯没想到他一手培养起来的北洋将领会成为他的敌人，而领衔者竟是他多年的左膀右臂冯国璋。受此打击，病情骤然加重。在走投无路的情况下，袁世凯只得再次请发妻于氏出面，给他们的干女儿张佩蘅打电话，希望段祺瑞摈弃前嫌，去中南海探视。
这次连张夫人都慌了，她结结巴巴地向段祺瑞叙述了袁世凯的病情。听说袁世凯病得很重，段祺瑞动了恻隐之心，他摆了摆手，表示已经知晓，什么都没说。张夫人一看段祺瑞没有明确表示反对，立刻告知于氏。袁世凯听后非常高兴，第二天便写了亲笔信派人送到段府，交到段祺瑞手中，信中言辞恳切，希望段祺瑞看在两人多年的交情上，能去中南海一叙。
段祺瑞看完信，觉得袁世凯可能是真的想取消帝制了，便不再推辞，如约来到中南海。见到病榻上的袁世凯，段祺瑞顿生一种凄凉之感，对袁世凯的怨恨也平复了许多。
袁世凯充满歉意地说：“芝泉，你能来真是太好了，都怪我当初不听你的劝阻，闹到今天这个局面。我老了，身体也不好，还是请你出山，再帮我一次……”
“若取消帝制，我愿全力相助。”段祺瑞答道。
“好，取消帝制。”袁世凯不再犹豫。
3月21日下午，袁世凯在公府召开紧急会议，参加会议的除段祺瑞、徐世昌外，还有黎元洪，此三人皆为袁世凯称帝前一脚踢开的大员。会上，袁世凯首先宣布取消帝制，复任大总统，随后任命段祺瑞为参谋总长、徐世昌为国务卿，黎元洪仍为副总统，责成三人稳定局势。
但是，袁世凯并非真心想下放权力，不过是想借用三人在北洋军以及对西南的影响，挽回败局，继续其专制统治。3月22日通电取消帝制后，便催促三人尽快向西南方面电劝和谈。3月24日，段祺瑞、徐世昌、黎元洪决定以三人名义向护国军首领陆荣廷、梁启超、蔡锷等人通电，但电文拟定好后，觉得应该再等一等，看看西南方面有什么动向，然后再将电报发出。
可是，袁世凯却等不及了，在没有知会任何人的情况下，私自以黎、徐、段三人名义将电稿发出。
段祺瑞听说后勃然大怒，他算彻底看明白了，袁世凯费尽心机把他请出来，却根本没把他放在眼里，不过是把他当做了稳定局势的工具，危机一过，他仍然难逃鸟尽弓藏的命运。他当即怒冲冲找到袁世凯，明确表示：“既然你仍然事事抓在手里，那你就一个人去处理吧！”说罢，转身离去。
段祺瑞说到做到，4月1日，当袁世凯将亲拟的关于议和条件的电稿拿给段祺瑞征求意见时，段祺瑞将电稿原封不动退回，并再次表示，从今往后再不过问袁世凯的事情。
袁世凯以为，有了三个人的电劝和谈，他可以根据自己的愿望与西南方面谈条件，却不料，西南方面非但不买账，而且坚决要求袁世凯下野，称袁世凯复辟帝制，已经背叛了民国，没有资格再任民国大总统。
袁世凯万分失望，此时他已经看出，黎元洪与他仍貌合神离，徐世昌对南北双方都不起作用，只有段祺瑞，既在北洋军中有威望，又对西南方面有影响。特别是他反对签订卖国的二十一条，又是反对复辟帝制的急先锋，深得南方的认可，且他与蔡锷等人交情匪浅，进可以讲和，退可以付诸武力，此时非段祺瑞不能稳定局势。恰逢徐世昌请辞，袁世凯便再次向段祺瑞示好，任命段祺瑞为国务卿兼陆军总长。
段祺瑞接受了任命，但不甘心做傀儡，直接提出将政事堂制改为责任内阁制，全权处理国事；同时要求裁撤大元帅府统率办事处，将其权力归还陆军部；并要求将模范团与拱卫军交陆军部接管。但袁世凯只是将政事堂改为了国务院，走了一下形式。其所谓责任内阁，不过是个名称而已。至于其他条件，则采取口头答应实际拖延搪塞的办法，不仅自己独揽军权，连人事权都不肯放手。
段祺瑞出任国务总理后，提出由徐树铮出任国务院秘书长。袁世凯听后脸色陡变，恨恨地对带话的张国淦说：“又是徐树铮！军人总理，军人秘书长，真是天大的笑话！”但他想到众叛亲离的处境，又缓和了口气，对张国淦说：“你告诉芝泉，徐树铮是军人，还是当陆军次长吧。”
段祺瑞听后勃然大怒：“没想到落到了这个地步，他还是一点都不肯放权！”
袁世凯直接任命他的机要秘书王式通为国务院秘书长，其用意十分明显，他担心段祺瑞走他的老路，与西南方面联手逼宫，令王式通在秘书长的位子上对段祺瑞实施监督。段祺瑞只得让徐树铮退居副秘书长之职。本来段祺瑞组阁后曾想有所作为，替袁世凯摆平时局，但由于袁世凯处处掣肘，根本不让他“负完全责任”，因此很快心灰意冷，做壁上观。
段祺瑞主张和平解决时局问题，但西南方面和谈的首要条件便是要求袁世凯退位，而且全国各地要求袁世凯退位的呼声也越来越高。段祺瑞虽不会像当年袁世凯对清廷一样逼宫，但他仍然主张和谈，坚决反对付诸武力。
而袁世凯既然不愿意退位，继续当大总统的出路只有一条，那便是武力解决。到5月上旬，袁世凯对段祺瑞的和谈没有进展已经忍无可忍，直截了当要求段祺瑞对南方用兵。段祺瑞也不含糊，直接回敬袁世凯说：
“既然总统坚持用兵，那就另请高明吧，我辞职！”
“好，你请便！”
袁世凯当时气晕了头，完全没想到段祺瑞会真的辞职。第二天段祺瑞便递交了辞呈，重新开始了对时局的冷眼旁观。他知道袁世凯已经骑虎难下，批准他辞职风险太大，不批准吧君无戏言。结果不出所料，辞职之事不了了之，袁世凯自己披挂上阵，亲自布置对独立各省的军事进攻。
虽然北洋军在实力对比上占优势，但已不听袁世凯指挥调遣。5月下旬，袁世凯最亲近的两名心腹陈与汤芗铭，在四川与湖南相继通电独立，袁世凯闻讯如五雷轰顶，从此一病不起。
1916年6月5日，袁世凯病危，表示想见段祺瑞最后一面。段祺瑞也没想到袁世凯身体垮下来的速度比政局变化还快，当他赶到中南海，见到袁世凯，心中不由得暗暗吃惊。看得出，一直紧紧抓住军权不放的袁世凯，已经走到了生命的尽头。
“芝泉，我不行了，今后一切……都要靠你了……”袁世凯说完，大口大口地喘着气。“人之将死其言也善”，段祺瑞两眼发热，重重地点了点头。
次日，袁世凯病逝。
段祺瑞摈弃前嫌，拨巨资为袁世凯举行隆重国葬，先是按照袁世凯生前遗愿在河南彰德为其修建陵墓，又代表总统为袁世凯主祭，6月28日出殡，段祺瑞亲率全体内阁成员执绋，与袁世凯的亲属一道扶柩还乡。
袁克定再三向段祺瑞表示感谢，称此次操持国葬，多亏了“姐夫”。
再造共和，段氏出掌中枢
按照袁世凯本人制定的《修正大总统选举法》规定，总统候选人由现任总统推荐。袁世凯去世前，已将三名候选人的名字写在“嘉禾金简”上，藏在“金匮石屋”中。袁世凯去世后，众人从金匮石屋中取出“嘉禾金简”，只见上面写着黎元洪、徐世昌、段祺瑞三人的名字。
据说这候选人名单中本来有袁克定的名字，可袁世凯在去世前终于想通了，自己在世时尚不能保全皇位，死后又如何能指望别人辅佐自己的儿子？所以在去世前几天，他瞒着袁克定，将其名字改成了段祺瑞。
那么，三人中由谁继任总统呢？最后由徐世昌提议，段祺瑞拍板，由黎元洪出任总统。段祺瑞自然也想做总统，他之所以将总统的位子让给黎元洪，自然有自己的打算。由于黎元洪是副总统，又是“金简”名单中的第一号人物，无论按南方承认的“旧约法”，还是按袁世凯制定的“新约法”，他都是理所当然的法定继承人。而黎元洪又是武昌首义的革命元勋，是护国军拥护的领袖，由他出任总统，还可以笼络南方的护国军和国民党。
而段祺瑞本身是内阁总理，按南方承认的“旧约法”，做总统可谓名不正言不顺，尤其西南方面反对北洋系继续独霸中央政权，希望一个与南方有关的人物出任总统，因此若由他出任总统，势必会带来南北大动干戈。而北洋军内部并不团结，冯国璋对北洋派领袖的位置虎视眈眈，此时若打起仗来，很难说最终鹿死谁手。反不如把总统的位子让出去，一可以团结北洋军内部，二可以保持和平。而黎元洪无一兵一卒，可任意摆布，段祺瑞可以内阁总理身份实行军事独裁统治。
6月7日，黎元洪在东厂胡同私宅举行就职典礼，继任大总统，段祺瑞因反对帝制并在取消帝制过程中立有头功，被称为“再造共和”的功臣。29日，段祺瑞就任内阁总理，负责组织新内阁，同时兼任陆军总长。黎元洪自然明白他这个总统是要看总理的眼色行事的，因此对段祺瑞言听计从，处处忍让，唯独在讨论内阁班子时，黎元洪提出了一个条件：
“谁干秘书长都可以，只有徐树铮不能干。”
“为什么？”段祺瑞颇为好奇。因为黎元洪完全没有必要像袁世凯一样担心他如虎添翼。
“我，我害怕他。”黎元洪不好意思地说。
段祺瑞听后哈哈大笑。
原来，早在1913年袁世凯当权时，黎元洪就任副总统，却迟迟不肯北上就职。任凭袁世凯怎样催促，黎元洪自有一定之规：绝不就范。他滞留武汉，控制着湖北地区，让袁世凯寝食难安。为了帮袁世凯排忧解难，段祺瑞主动请命，决定劫持黎元洪北上。
段祺瑞以看望黎元洪为名，带着徐树铮几人来到武汉，渡江前往黎元洪的住处。段祺瑞时任陆军总长，按照官场的规矩，告辞时黎元洪需要亲自送行。他将段祺瑞送至江边，然后挥手告别。不料就在这时，徐树铮迅速走到黎元洪身边，附在他的耳边说：“黎副总统知道又铮的脾气吧，又铮历来说一不二！”同时将手枪抵住黎元洪的腰部。
黎元洪顿时惊出一身冷汗，颤声说：“好，我跟你们走，千万别开枪……”
就这样，黎元洪被段祺瑞劫持到北京，一路上都被徐树铮看管。至今，只要一想到徐树铮那副凶神恶煞的模样，黎元洪就忍不住颤抖。一旦徐树铮做了秘书长，黎元洪就少不了要与他打交道，这是他最最不能忍受的。因此黎元洪一再强调：“我宁愿不做这个总统，也不能和徐树铮共事。”
但段祺瑞任国务总理，就必定要让徐树铮出任国务院秘书长，袁世凯在位时未能如愿，如今段祺瑞主持国政，岂能再受他人掣肘。段祺瑞好言相劝，说尽徐树铮的好处，后来又搬出徐世昌说项。黎元洪对徐世昌说：
“请你转告总理，一万件事我都可以同意，唯独这件事不行。”
“一万件事你都可以不同意，唯独这件事不行！”徐世昌也不含糊，他对段祺瑞的了解远在黎元洪之上。
事实正是如此，不管黎元洪同不同意，段祺瑞都会让徐树铮做秘书长的。段祺瑞征求黎元洪的同意，也算是对他的尊重。而他的一再反对，只能加深他与徐树铮之间的隔阂。徐树铮对黎元洪阻挠自己出任秘书长了如指掌，上任后便对黎元洪颐指气使，没有一点尊重的意思。有一次，徐树铮拿着一份文件去总统府盖章，那是一份对几位外省厅长的委任令，黎元洪看了一下上面的任命，疑惑地问：“咦，这是谁，还有这个，我没有听说过这几人的名字……”
“这些与你何干？”徐树铮毫无情面地顶撞道，“我忙得很，没时间陪你嗦！你赶快盖章，闲话少说。”
黎元洪气得涨红了脸，却又不敢与徐树铮理论，只好忍气吞声。对于徐树铮的专横霸道，黎元洪能忍，他的亲信、幕僚却忍不住了，尤其是内务部长孙洪伊。孙洪伊是在反对袁世凯称帝中脱颖而出的，在政治上相当活跃。黎元洪之所以将他提名入阁，是看中了他在国会中的影响，以及与直系冯国璋的特殊关系。由于他一贯主张以直排皖，黎元洪一方面把他当做对付段祺瑞的武器，一方面通过他进而讨好直系冯国璋。一旦得到冯国璋的支持，黎元洪便可挺直腰杆，用不着再怕段祺瑞了。
孙洪伊果然出手不凡，他以黎元洪为靠山，联合国会中的反段力量，联直排皖，联冯排段，与徐树铮针锋相对，频频引发冲突。段祺瑞见孙洪伊处处与皖系作对，一怒之下签署了对孙洪伊的罢免令。岂料，总统府秘书长丁世峄主张拒绝盖章，黎元洪也以为孙洪伊有冯国璋做奥援，开始与段祺瑞叫板，使府院之争升级。
就在双方剑拔弩张之时，黎元洪请出北洋元老徐世昌进行调解，徐世昌提出各打五十大板的方案，将徐树铮、孙洪伊二人一起免职，但段祺瑞犹嫌不够，指定再加一个总统府秘书长丁世峄。总统府本来对“一比一”的方案都不愿接受，如今变成了“一比二”，岂能善罢甘休！
为了给黎元洪壮胆，使其顶住这次不公正的罢免，孙洪伊请冯国璋出面说话。孰料，冯国璋的回电却是对段祺瑞的支持。尽管在北洋内部段、冯一直互争上下，但对外方面还是会一致考虑共同利益的。
黎元洪失去靠山，只好同意“二比一”罢免方案。孙洪伊被罢免后，原想利用国会继续与段祺瑞抗争，不料其住宅突然遭到警察搜查，只好连夜出逃。而徐树铮被罢免国务院秘书长一职后，仍然任陆军次长。第一轮的府院之争以黎元洪败北而告终。
但府院之争远远没有结束，不久，更大的风波再次发生。1917年2月3日，美国宣布与德国绝交。开始时，府院一致赞成对德宣战。但当内阁会议顺利通过对德绝交案，请黎元洪在对德绝交咨文上盖章时，黎元洪却变卦了。
由于段祺瑞是亲日派，黎元洪走的是亲美路线。美、日双方都想通过中国对德宣战取得在华的最大利益。但美国很快发现，如果中国对德宣战，将有利于日本乘虚而入，扩大在华影响，严重影响美国的在华利益，于是改变主意，不再支持中国参战，黎元洪便跟着改变了态度。但黎元洪不敢与段祺瑞硬顶，只好委婉地说：“我认为不能操之过急，毕竟绝交之后就是宣战，我们应该先征求一下军界的意见再做决定。”
段祺瑞立刻反唇相讥：“军界意见用不着总统操心，我自然会处理好的，总统只需盖章便可！”
但无论段祺瑞如何气势汹汹，黎元洪主意已定，支支吾吾地拖延时间就是不肯盖章，段祺瑞一气之下使出杀手锏——干脆辞职去了天津。这一招对黎元洪果然奏效，黎元洪立刻转变态度，派人前往天津请回段祺瑞，3月6日段祺瑞回到北京，黎元洪乖乖地在咨文上盖章，3月14日，北京政府正式照会德国公使，宣布对德绝交。
但接下来是否参战，成为府院之争的新焦点。为了达到参战目的，段祺瑞将下属十几个督军请到北京，组成“督军团”，以“督军团”为工具，对黎元洪施加压力。黎元洪则以国会为外援，与之对抗。尽管后来黎元洪做出让步，在段祺瑞拟定的“对德宣战书”上，勉强加盖了总统大印，但段祺瑞犹嫌不足，又在国会开会讨论时以一支支“公民团”、“请愿团”大肆干涉，终于招致众怒，内阁成员纷纷辞职，最后只剩下段祺瑞一个光杆总理。
恰在此时，英文《京报》披露了段祺瑞与日本签订一亿元军事借款的秘密，使段祺瑞在国会所做“中日之间绝无秘密外交”的证词被揭穿，段祺瑞陷入被动之中。尽管如此，段祺瑞也没有想到黎元洪会挺起腰杆，一改往日唯唯诺诺的柔弱作风，于5月23日果断下令，免除了段祺瑞国务总理与陆军总长的职务。
段祺瑞万分震惊与震怒，指责黎元洪滥用职权，根据临时约法，总统无权撤销总理职务，因此不承认黎元洪的免职令。
与此同时，段祺瑞离京赴津，在天津的住所很快便车水马龙，门庭若市。段祺瑞也很快弄清了黎元洪挺直腰杆的原因，他得到了一位实力派人物的支持，这位实力派人物便是大名鼎鼎的“辫子大帅”、驻扎徐州的长江巡阅使张勋。
在民初的军界中，张勋可谓一大“怪物”。民国六年了，他依旧垂着一条大辫子，人称“辫帅”。他的定武军全体将士，也人人拖着一条大辫子，被称为“辫子军”。张勋拥有58个营，2万多兵力。而张勋愿向黎元洪伸出橄榄枝，不过是想借机出兵，行复辟清廷之实。
在段祺瑞电召各省督军进京参加军事会议的时候，张勋仅派了一名代表进京，他本人坐镇徐州，静观北京政局变化，随后电召督军代表20多人到徐州开会。段祺瑞派徐树铮参加了徐州会议。此间，张勋想从徐树铮口中窥探段祺瑞对复辟清廷的态度。
徐树铮见张勋明确表示要“还大政于今上”，决定促成张勋复辟，以假张勋之手赶走黎元洪，解散国会，然后让段祺瑞以拥护共和为名，攻打张勋，重掌政权。于是，徐树铮对张勋说：“芝老只希望赶走黎元洪，至于采取什么措施全不在意。”这就给张勋造成一错觉，即段祺瑞不会反对复辟，最低限度，会保持沉默。
徐树铮回到天津后，向段祺瑞汇报了徐州会议的情况，并讲了自己的连环妙计。段祺瑞不置可否，但表示不会公开支持张勋的复辟活动。
而黎元洪罢免段祺瑞后，陷入内外交困之中，新内阁组不起来，各省督军纷纷宣布独立，北京局势动荡不安，各国使节纷纷表示“忧虑”。在孤立无援的情况下，黎元洪把扭转局面的希望寄托在张勋身上。6月1日，黎元洪以总统令急调张勋火速入京。
6月7日，张勋亲率4000精锐辫子兵，以拱卫京师、武装调停为名，北上“勤王”。途经天津时，张勋首先拜见段祺瑞，征询段祺瑞对复辟的意见，段祺瑞说：“我反对袁项城搞复辟，自然也会反对你搞复辟。你敢让小皇帝复位，我就敢派兵打你。”
但当时张勋复辟心切，根本听不进段祺瑞的劝告。后来张勋再赴段宅，段祺瑞的态度便模棱两可起来。6月13日，张勋邀请段祺瑞赴京“共筹国是”，段祺瑞婉言谢绝，但对复辟之事不置一词。
而张勋由于抵津后受到徐世昌、段祺瑞等人的劝阻，尤其日本政府的干涉，态度有所动摇，准备将复辟的步子放缓，先扶植李经羲内阁做过渡，然后再寻机复辟。赴京后即通电各省，称“组织内阁万不能缓”。
段祺瑞见此反而着急起来，生怕拖延下去夜长梦多，与徐树铮商议后，决定给张勋复辟烧一把火，促其快速将生米煮成熟饭。于是，段祺瑞先指使各省督军反对李经羲组阁，随后又指使安徽督军倪嗣冲于19日通电取消独立，在各省督军纷纷效仿的情况下，张勋不免飘飘然起来。虽然李经羲于25日通电宣布就职，但各省督军在段祺瑞的授意下，仍采取不合作态度，内阁仍迟迟不能组成。
既然各省督军取消了独立，又反对李经羲组阁，何必再为组阁之事浪费时间？加上康有为等复辟派怂恿，张勋决定直接发动复辟。6月30日晚，张勋入清宫召开“御前会议”；当夜，辫子军占领火车站、邮电局等要地；7月1日凌晨，张勋穿上清代的朝服朝冠，率康有为、王士珍等50余人，拥12岁的溥仪登基。张勋自任议政大臣、直隶总督兼北洋大臣，掌握了军政大权。
黎元洪没想到搬来的救星原来是灾星。7月2日，黎元洪秘密签署了罢免李经羲总理一职的命令，重新任命段祺瑞为国务总理，并下令段祺瑞讨伐张勋；又签发了由副总统冯国璋代理大总统职务的电报，随后躲进了东交民巷。
段祺瑞早在7月1日张勋复辟当天，即开始筹划出兵讨伐事宜，7月3日在天津附近的马厂组成“讨逆军”。段祺瑞以讨逆军总司令的名义，发出讨伐张勋的通电，并发布讨逆檄文。讨逆军很快攻入北京，辫子军复辟不得人心，士气大减，一触即溃。7月12日，张勋仓皇逃入荷兰使馆，溥仪再次宣布退位。
段祺瑞赢得了“三造共和”的美誉，于7月14日进京，重掌政府大权。
兄弟阋墙，“虎狗”两败俱伤
张勋复辟失败后，黎元洪自知引狼入室，中断民国，无颜再做总统，只好灰溜溜下台，冯国璋做了代理大总统。
由冯国璋做总统，对段祺瑞来说也是万般无奈之举。两人虽是北洋武备学堂的老同学，又同为小站宿将，也都是袁世凯的心腹，但多年来总是在暗中较劲。袁世凯死后，两人一北一南，实力相当，互不服气，北洋派无法形成一个中心。段祺瑞虽多年没有直接统兵，但在陆军中党羽众多，在政界更有一批支持者；冯国璋占据江苏一省地盘，统兵数万，又有一些南方省份相呼应，两人的势力在北洋派中逐渐形成皖、直两系，段、冯两人为了谁执北洋牛耳，明争暗斗，互不相让。
冯国璋进京之初，段、冯二人合作还算愉快，8月14日，即将黎元洪为此下台的导火索——对德宣战案，以总统令顺利发布。但好景不长，新的府院之争在南北统一问题上凸显出来。
由于段祺瑞废除约法，拒绝恢复国会，遭到以孙中山为首的国民党的强烈反对。孙中山联合西南各省召开非常国会，成立了与北京政府对峙的护法军政府，掀起轰轰烈烈的护法运动。对此，段祺瑞力主“武力统一”，其公开目的是削平西南地区的陆荣廷、唐继尧两大山头，消灭孙中山领导的武装力量。而背后的目的则是“以皖统直”，借直系力量讨伐护法军，在消灭护法军的同时，削弱直系势力，扩大皖系力量。
冯国璋自然明白段祺瑞的目的，针锋相对地提出了“和平统一”的主张。
冯国璋当初被国会选为副总统，得益于国民党议员的投票，而一些国民党议员也曾得到过冯国璋的保护。且冯国璋与陆荣廷一直保持着秘密盟友的关系。同时，冯国璋认为其副总统是经国会选举而来，代理总统职位法律上有依据，因此南方反对的是段祺瑞，而非冯国璋。
在此背景下，府院之间围绕“主战”还是“主和”展开殊死搏杀，揭开“虎狗之争”的序幕。
段祺瑞的战略计划是攻湘以占领两广，入川以进攻云贵。8月初，段祺瑞任命其亲信傅良佐为湖南督军，王汝贤、范国璋为攻湘各军正、副司令，开始了第一次南伐。然而，当北洋军刚刚攻占衡山、宝庆，准备由此进军两广时，遭遇战局突变。10月20日，冯国璋授命其亲信“长江三督”李纯、陈光远、王占元通电主和，发出“倒段”先声。接着，又由“长江三督”鼓动处于湖南前线的攻湘总司令王汝贤、副司令范国璋公开背叛段祺瑞，通电“停战主和”！
冯国璋这一釜底抽薪之计，使湖南战事急转直下，令段祺瑞腹背受敌。段祺瑞惊异万分，他无论如何不曾料到前方军人竟然公开背叛他，尤其他对王汝贤有提携之恩。他忽略了王、范本身为直隶人，其官兵又多出于直隶，因此出于乡谊，常为直系所左右。
这第一个回合的较量，使段祺瑞败下阵来。加上北洋军在四川战场上失利，段祺瑞被迫于11月中旬，先后辞去陆军总长与国务总理之职，返回天津。
段祺瑞下野后，冯国璋的日子并没有想象的那么好过。段祺瑞虽辞职，却“阴魂不散”，不仅日本人出面干涉，来自北洋派内部的劝阻更是不绝于耳。尤其北洋元老徐世昌，早已有了明显拥段排冯的态度，如今更是站在段祺瑞一边；而另一位北洋元老王士珍，深知其中利害，唯恐避之不及，以致冯国璋竟然找不到一个可以接任国务总理的人，最后不得不问计于段祺瑞。段祺瑞出于北洋派内部团结的考虑，说服王士珍出山。
与此同时，段、冯两人的心腹在背后展开了较量，较量的焦点，则是对直隶督军曹锟的争夺。曹锟一向为直、皖两栖将军，直、皖两系哪边都不得罪，而由于其实力强大，偏向任何一边都有着举足轻重的作用。冯国璋的亲信“长江三督”率先出击，拉拢曹锟发“巧电”停战议和，一下子使“长江三督”变为“直系四督”，给段祺瑞以更沉重打击。哪承想，曹锟根本就不想得罪段祺瑞，发“巧电”后即矢口否认此事，使“长江三督”弄巧成拙。
而段祺瑞的心腹徐树铮，远比“长江三督”棋高一招，他用一个“副总统”的允诺，便将曹锟拉向了皖系，使持中立立场的曹锟，摇身一变成为了主战派急先锋。接着，在徐树铮的活动下，“督军团”迅速复活，以曹锟为首的七省三区督军、都统、护军使会议于12月2日在天津隆重召开，会议除“长江三督”外，囊括了北洋派控制的各个省区。其中心议题便是主战和对西南用兵，决定由各省出兵，集六万之众南征。
在天津会议的压力下，12月15日，冯国璋不得不下达对西南的讨伐令。三天后，再次对皖系做出让步，任命段祺瑞为“参战督办”，段芝贵为陆军总长，使皖系完全控制了北京政府的兵权。这第二个回合，段祺瑞扳回一局。
在接下来的较量中，段祺瑞虽处于优势，但依然无法控制前方战局。冯国璋在南方的压力下曾一度下令停战，并于1918年1月25日突然通电宣布南巡阅兵，26日晚即乘车南下，令段祺瑞顿生疑窦。
当时的前线在湖南湖北，冯国璋南巡阅兵应走京汉线，而他走的是津浦线；其次，既是南巡，却挑选一个旅重兵护卫，并携带子弹200箱，辎重数十车，一路上行色匆匆，徐树铮当即便提醒段祺瑞说：“总统该不是借机溜回南京吧？”
“完全有可能！”段祺瑞早已意识到问题的严重性，一旦冯国璋回到南京，另立中央，说不定会下达对皖系的讨伐令，到那时局面将不可收拾，“马上给倪嗣冲发电报，要他无论如何在蚌埠将总统截回！”
1月28日，冯国璋的专车抵达蚌埠，倪嗣冲登车拜谒，请总统下车视察。在此前，专车抵达天津时，曹锟上车拜谒；抵达济南时，张怀芝上车拜谒并随行；车到徐州，张敬尧也登车拜谒随同南下。唯独在蚌埠，车站重兵把守，令冯国璋颇感意外。
“怎么车站有这么多部队？”
“特地调来保卫总统安全的。”
倪嗣冲回答得十分恭顺。冯国璋明知并非如此，却也无话可说。但在接下来的接风宴中，倪嗣冲的部下奉命将总统专车的车头卸了，冯国璋心里暗暗吃惊，表面上却不敢发作，只好隐忍着用半开玩笑的口吻说：
“丹忱你这是什么意思啊，不是想让我长期住在蚌埠吧？”
“岂敢？总统既然到了蚌埠，我就要为总统的安全负责。南方战火纷飞，总统若南下，恕我不能从命。总统若回京，我立刻挂车头。”
倪嗣冲口口声声为总统安全着想，并且口气软中带硬，冯国璋自然明白是受段祺瑞指使，只好乖乖返回北京。1月30日，在皖系强大力量的逼迫下，冯国璋再次被迫下达了对西南的讨伐令。
紧接着，北洋军在两湖前线连连取得胜利，段祺瑞欢欣鼓舞，终于看到了武力统一全国的希望。偏偏在此时，第十六混成旅开到湖北武穴，其旅长冯玉祥立即与“长江三督”相呼应，于2月14日发表主和通电。
冯玉祥的主和通电激怒了段祺瑞。由于冯玉祥的舅父陆建章是总统府顾问，段祺瑞认为冯玉祥是受其舅父指使，因此迁怒于冯国璋，认为冯国璋言而无信，表里不一，决定逐冯国璋下台。但由于京津没有足够兵力支持其这一计划，情急之中，段祺瑞决定铤而走险，借助奉军势力赶走冯国璋。
其实早在年初的时候，徐树铮就向段祺瑞建议，请奉军入关以震慑冯国璋，但段祺瑞深知“请神容易送神难”的道理，迟迟未予采纳。在段祺瑞看来，土匪出身的张作霖并非北洋嫡系，他与冯国璋作为正统北洋元老，其争斗显然是北洋内部的争斗，让一个局外人插手岂不贻笑大方。可如今段祺瑞被冯国璋气昏了头，一想到自己好不容易建立起的讨伐局面很可能再次被冯国璋击毁，便毫不犹豫地采纳了徐树铮的建议。
而徐树铮对拉拢奉系早有策划，在段祺瑞任总理时曾和日本签订秘密协定，其中一项是从日本购买2.7万支新式步枪及弹药。这些军械弹药除准备给晋、陕两省调拨一部分外，其余由中央支配，冯国璋决定利用这批军械扩充其嫡系部队。徐树铮得知这一情报后，做出一个大胆决定——利用奉军劫夺军械，既使冯国璋扩充计划落空，又可拉拢奉系为皖系效力。
得知徐树铮要送如此一份丰厚“大礼”，张作霖立刻派参谋长杨宇霆和旅长张景惠，率两个步兵营、一个机枪连，前往秦皇岛劫收武器。杨宇霆等人抵达秦皇岛时，冯国璋派出接收军械的政府军官员已同时到达。按照徐树铮的部署，杨宇霆一行特地与政府军官员住进同一客栈，并天天约请这些官员吃喝玩乐，取得其信任。
日本载运军械的货船抵达秦皇岛港口时，杨宇霆等人装作好心，帮政府军卸货。待军械全部装上火车，政府军官员与日方办理完交接手续后，杨宇霆等人立刻率兵将政府军官员包围，拿出徐树铮开具的接收军械证明，说明这批军械已经得到中央允许，调拨奉天。与此同时，早有部属倒挂火车头，载着满车军械扬长而去。
1918年2月23日，在段祺瑞决定引奉军入关的时候，劫械一事已在徐、张运作之中。在劫械当日，奉军已有部队开进滦州、秦皇岛。
冯国璋闻讯，既震惊，又大为恐慌。而劫收军械令段祺瑞也大吃一惊，气得对徐树铮大加训斥：“胡闹！你是在教猱升木，总有一天你会坏我大事！”段祺瑞所言没错，徐树铮此举虽在眼下帮了大忙，但却埋下了永久祸根。
张作霖拿到2.7万支新式步枪后，一口气扩编了六个旅。3月5日，奉军前队抵达廊坊；3月7日，冯国璋通电辞职；3月9日，内阁总理王士珍挂冠而去；3月12日，奉军在军粮城设立总司令部，张作霖为总司令，徐树铮为副总司令代行总司令职权；3月23日，段祺瑞重新出山，再任内阁总理。
为了缓和局势，段祺瑞没有同意冯国璋辞职，而是决定“合法驱冯”。此时京津一带已完全控制在皖系与奉军手中，湖南前线北洋军也接连取得胜利，助长了主战派的声势。
同年9月，段祺瑞操纵安福系，国会选举徐世昌继任大总统，冯国璋于10月10日届满卸任，随后返回直隶河间老家，从此不问政事，“虎狗之争”终于以冯国璋的失败而闭幕。
没有了权力之争，作为多年的老同学、老朋友，段祺瑞与冯国璋很快和好如初。1919年9月，冯国璋重返北京，从此两人经常聚在一起，把盏小酌，无话不谈。10月1日，段祺瑞又设家宴招待冯国璋。席间，二人谈起北洋军内部派系林立，难以统一，深感痛心不已。直皖本是同根并蒂，非弄到煮豆燃萁的地步，是冯、段两人都不愿接受的。回想当年小站练兵的情景，以及此前的“虎狗之争”，两人感慨良多。
冯国璋语重心长地劝段祺瑞说：“芝泉，不要再那么偏信徐树铮，他树敌太多，早晚会害了你！”
段祺瑞何尝不知道徐树铮的个性，但徐树铮对他忠心耿耿，又才干超群，对他的信任谁都无力动摇。冯国璋见段祺瑞对自己的话听不进去，也只能悻悻地住嘴，但心中不免担忧。
然而，让段祺瑞万万没有想到的是，两个月后，冯国璋突然病危，12月28日竟溘然长逝！段祺瑞闻讯赶到冯府，当众失声痛哭。1920年1月12日，段祺瑞再次到冯府吊唁，回想起与冯国璋几十年的交往，以及其中的争争斗斗，无不让段祺瑞悲痛不已，泪流不止。
事后，段祺瑞曾对亲信感慨道：“我和华甫斗来斗去许多年，结果谁也没得到什么好处，反倒弄得两败俱伤，想想真感到无地自容……”
直皖战败，小瞧了吴小鬼
其实，早在10月10日冯国璋下台的同时，段祺瑞已通电辞去国务总理的职务，只是保留了参战督办一职。
段祺瑞之所以辞职，主要是借机摆脱来自前方的军事压力和来自后方的舆论压力。在前线，主战派吴佩孚突然通电倒戈，打乱了段祺瑞的整个军事部署；在后方，由于“西原借款”被披露，群情哗然，而安福系包办选举也遭到舆论抨击，段祺瑞为了摆脱困境，不得不再次以退为进。
辞去国务总理后，由于内阁全是安福系的人，段祺瑞依然把持着北京政府。但在前线段祺瑞却力不从心了。直系的后起之秀吴佩孚青出于蓝，段祺瑞完全没想到会败倒在这个不起眼的晚辈手下。
吴佩孚是曹锟手下的头号大将，毕业于保定陆军学堂，说起来还是段祺瑞的学生。而早在吴佩孚崭露头角时，便有山东隐士郭绪栋向段祺瑞举荐过吴佩孚，当时郭绪栋说：
“吴子玉是潜龙在渊，总有一天会一飞冲天。”
“与又铮比如何？”段祺瑞急问。
“各有长短。论手腕、心计、纵横捭阖，当属又铮。若论带兵打仗，进退攻守，北洋后起将领中无出吴子玉之右者。”
郭绪栋素有识人之能，经常为北洋中上层人士举荐人才，段祺瑞对其所言深信不疑，随后便找到曹锟，以军火为交换条件，借走了吴佩孚。
曹锟对吴佩孚一向纵容，敬重有加，但吴佩孚对曹锟的贪婪非常不齿，所以并不以追随曹锟为荣。对段祺瑞的清廉和自律，吴佩孚早有耳闻，心中敬仰之极，听说段祺瑞请他过去帮忙，自然喜不自禁。
然而，两人的第一次见面并不愉快。那天段祺瑞刚刚与冯国璋大吵了一通，冯国璋前脚走，吴佩孚后脚就来了。段祺瑞一向不擅隐藏情绪，喜怒都挂在脸上，对吴佩孚的态度便显得冷淡而不耐烦，甚至没看吴佩孚一眼，只是淡淡地交代了一句：“这份演习计划，限你一周完成。”
吴佩孚何曾受过如此冷落？心里十分窝火，回敬道：“何须一周，一日便可完成！”
吴佩孚的狂妄口气，让段祺瑞忍不住抬起头来，看到吴佩孚不屑的眼神，段祺瑞立刻怒火中烧，恨恨地说：“好，就一天，完不成休来见我！”
吴佩孚心高气傲，不擅巴结上司，习惯被人敬重，见段祺瑞对自己如此不屑，不再说话，而是转身离去。看着吴佩孚的背影，段祺瑞的心情更加败坏。
第一次见面，两人对彼此都没有留下好印象。但是，印象毕竟是可以改变的，或许相处久了，就会发现彼此的优点。到那时，说不定吴佩孚会成为段祺瑞的心腹，那么，历史说不定会重新改写。可是，徐树铮亦非等闲之辈，他怎会眼睁睁看着别人跟自己“争宠”？于是，当吴佩孚回到住所，开始着手做演习计划之时，徐树铮笑呵呵地登门拜访。
“吴兄，久仰大名。今日相见，真是三生有幸。”
徐树铮对吴佩孚一副万分敬重的样子，令吴佩孚心中顿生好感。吴佩孚热情地将徐树铮迎到室内，两人隔桌而坐，畅谈时事，竟越谈越投机。吴佩孚惊异地发现，徐树铮在许多问题上见解高深，比自己有过之而无不及，立刻心生敬仰。吴佩孚生性豪爽，见今日得一知己，兴致高涨，便吩咐人定了一桌酒席，邀徐树铮外出喝酒，不醉不归，完全将段祺瑞布置的任务抛到了脑后。
吴佩孚向来贪杯，这顿酒席直吃到半夜，与徐树铮分别时，吴佩孚已烂醉如泥，话都说不清了，不可能再去完成什么演习计划。看到吴佩孚这种状态，徐树铮得意地笑了。
第二天一早，徐树铮就找到段祺瑞，装作不经意地提起吴佩孚，段祺瑞想起给吴佩孚布置的演习计划，应当今早交上的，一打听，吴佩孚这会儿根本没在差上。在徐树铮的挑拨下，段祺瑞以为吴佩孚妄自尊大，不将自己放在眼里，立刻备车，前往吴佩孚的住所。
令段祺瑞吃惊的是，吴佩孚竟然宿醉未醒。段祺瑞登时火冒三丈，指着吴佩孚的鼻子就是一顿臭骂。吴佩孚吃软不吃硬，既不解释也不认错，当天就返回曹锟军中，两人至此不欢而散。
段祺瑞没有想到，1918年初二次征湘时，在湖南前线连打胜仗的竟然是吴佩孚。当时曹锟为第一路总司令，吴佩孚率部打前阵，很快脱颖而出，晋升第三师师长。3月上中旬，他先克临湘又克岳阳，接着夺取长沙、湘阴，可谓战功赫赫。直到这时，段祺瑞仍然没把吴佩孚放在眼里。在吴佩孚攻下长沙之后，段祺瑞任命其亲信张敬尧为湖南督军兼省长，而张敬尧入湘后连吃败仗，这让卖命苦战连打胜仗的吴佩孚愤愤不平。
但段祺瑞完全没有注意到吴佩孚的反应，而是急电曹锟饬令吴佩孚继续追击湘粤桂联军，直捣两广。吴佩孚撤出长沙后，于4月末一举攻克衡阳。捷报传来，段祺瑞欣喜若狂，再次命令吴佩孚继续南下，扫平两广。
这时，段祺瑞第一次感到武力统一全国已稳操胜券。岂料，吴佩孚在这个时候却不买账了！徐树铮带来的一封电报将段祺瑞从天堂推向了地狱，电报云：吴佩孚按兵不动，第三师全体大罢兵！
段祺瑞盯着电文足有一刻钟，然后“啪”地拍了桌子，一声怒吼：“他为什么要罢兵？”吼过之后，段祺瑞颓然坐在椅子上，直到这时他才意识到，慢待了吴佩孚这个武力统一的关键人物。徐树铮似乎也明白过来，两人赶紧商量补救措施。但是为时已晚，无论段祺瑞如何安抚曹锟、吴佩孚，吴佩孚均不买账，而且很快与南军达成停战协议，气得段祺瑞暴跳如雷。
冯国璋下台后，曹锟、吴佩孚成为直系领袖，开始酝酿反皖倒段战争，矛头直指徐树铮及安福系。1920年5月，吴佩孚开始撤防北上，6月中旬，直军全部抵达中原，并在郑州到保定的京汉铁路沿线部署兵力。吴佩孚此举不仅宣告段祺瑞的“武力统一”政策彻底破产，同时预示着直皖大战不可避免。
段祺瑞对此早有准备，其心腹徐树铮早在徐世昌上台之初便出任西北筹边使、西北边防军总司令，在西北地区大练“边防军”，如今已重兵在握，成为名副其实的“西北王”。其边防军无论在数量上还是在装备上，都远远胜过直军，倘若直、皖一对一较量，段祺瑞自信稳操胜券。
在此情况下，被请入关的奉军便成为了直皖战争的关键砝码，奉军偏向任何一方，都有可能导致另一方的失败。6月下旬，张作霖翩然入京，前往团河拜访段祺瑞，信誓旦旦地表示：严守中立。段祺瑞对此深信不疑，因为他知道张作霖素与曹锟不和，但是他万万没有想到，张作霖与徐树铮有着更深的嫌隙。
秦皇岛劫械之后，张作霖与徐树铮的关系曾一度十分热络。为了感谢徐树铮，张作霖任命徐为关内奉军副司令代行总司令职务。然而好景并不长，在对西南方面的作战中，徐树铮将奉军放到最前线充当替死鬼，引起张作霖的不满。后来张作霖调查到徐树铮以奉军名义代领军费335万元，用来编练自己的军队，气得破口大骂，当即下令免去徐树铮的副司令一职，两人从此势同水火。
直皖战争爆发前，张作霖再次来到北京。7月5日，徐树铮专程拜访张作霖，不仅态度异常诚恳，而且对张作霖反省了自己以前的所作所为，重新取得了张作霖的信任。随后，徐树铮邀请张作霖到团河开会，指导皖系下一步军事行动，张作霖欣然答应。
7月7日，就在张作霖到达团河之前，徐树铮告诉段祺瑞一个惊人的计划：在宴席上行刺张作霖！段祺瑞听后大吃一惊，立刻严厉劝阻：
“又铮，不能胡来，会引发事变的！”
“顾不了那么多了，万一直奉联手，皖系就是死路一条，不能坐以待毙！”
“不行，我们应该从长计议……”
“你若是不忍心，一会儿躲别处去，我一个人应付得来。”
段祺瑞知道徐树铮对自己一片忠心，不想与他争执。而且张作霖就要进门，争论下去无益。但段祺瑞实在不忍心杀掉张作霖，尤其是把人家引到自己府邸，然后杀掉，传出去舆论上都不好交代，何况段祺瑞最厌恶这种背后捅刀子的事，在他看来不符合军人的做派。
宴席开始后，徐树铮对张作霖热情招待，执礼甚恭。段祺瑞为了提醒张作霖，一直铁青着脸，一言不发，冷冷地瞪着张作霖，张作霖震惊之余顿时明白过来，随后便故意大口地喝酒，然后由侍卫搀扶着到外边呕吐，借机逃走了。徐树铮得知张作霖已逃，顿足长叹：“完了！放虎归山，后患无穷。妇人之仁会坏了大事！”
7月14日，直皖战争在京津一带爆发。皖系以五个师四个混成旅组成定国军，段祺瑞任总司令，徐树铮任副总司令兼参谋长。直系以一个师九个混成旅组成讨逆军，以曹锟为总司令，吴佩孚为前敌总司令兼西路总指挥。尽管皖军在人数与武器装备上优于直军，但徐树铮完全不是吴佩孚的对手，吴佩孚不仅作战勇猛，且战术多变，使皖军连吃败仗。
17日，严守中立的奉系张作霖果然对皖系宣战，直奉联合攻皖，使得皖军腹背受敌，失败已成定局。
19日，直皖战争旋即结束。徐树铮被悬赏10万元通缉，走上四处流亡之路。边防军在如此短的时间内一败涂地，令段祺瑞痛心疾首。家人和亲信下属劝他去天津避避风头，他暴躁地大喊：“我哪里也不去！我倒要看看他们能把我怎么样！”
曹锟、张作霖自然不能把段祺瑞怎么样，而且两人都先后派代表到段府慰问，吴佩孚也摈弃前嫌，亲自登门拜见段祺瑞，并以“老师”相称。此后段祺瑞一直住在北京，直到1922年2月才返回天津居住。
傀儡执政，最后一点辉煌
直皖大战使皖系根基动摇，元气大伤。段祺瑞时年55岁，有人断言他从此将以在野之身终老此生。岂料几年后，段祺瑞再次咸鱼翻身，走上政坛。
直奉联合倒皖后，很快因利益之争决裂，并于1921年4月爆发直奉战争，结果奉军大败，退出关外。吴佩孚控制北京政府后，重走段祺瑞的老路：武力统一。如此一来，直系的对手除了皖系、奉系以外，又增加了西南方面的势力。
段祺瑞虽然在直皖战争中元气大伤，但受损的主要是徐树铮的边防军和安福系，皖系在沪、浙、皖、鲁等地尚有一定势力，所以作为北洋元老的段祺瑞，在军中仍有很大影响。于是，逃亡中的徐树铮又开始为段祺瑞重掌政权四处奔走，很快与南方的孙中山、东北的张作霖组成“反直三角同盟”。
1924年9月，第二次直奉战争爆发，双方出兵达40余万，为北洋军内战史上用兵数量之最。战争一开始直军便处于劣势，而直军第三军司令冯玉祥战场倒戈，班师回京发动北京政变，囚禁贿选总统曹锟，给了吴佩孚致命一击。
然而，吴佩孚在回救北京失败，前线亦因主帅离去迅速溃败之后仍不死心，一面率残部固守杨村、北仓等地，一面等候江苏督军齐燮元、湖北督军萧耀南驰援。岂知，段祺瑞早已指使山东、安徽等地皖军，切断了江苏援兵通往京津的道路；湖北通往京津之路也被阎锡山所部与冯玉祥所部封锁。而此时，冯玉祥正在调集军队向杨村、北仓等地包抄而来，准备一举歼灭吴佩孚残部。
值此危急时刻，段祺瑞动了恻隐之心。吴佩孚所率直军主力第三师其前身乃袁世凯的精锐部队北洋第三镇，段祺瑞曾任第三镇统制。于是，段祺瑞以第三师老师长的身份给吴佩孚修书一封，劝吴佩孚放弃抵抗，“速离去，否则被擒耳”。
当时很多人认为，段祺瑞此举是为回报皖系战败后吴佩孚的礼遇之恩，也有人认为段祺瑞吃斋念佛慈悲为怀，其实也是性格使然，段祺瑞脾气暴躁刚愎自用，但却心地善良，犹如当初放走张作霖，这也是他在北洋集团中落下好人缘的重要原因。
吴佩孚到天津后曾给段祺瑞打过一个电话，说准备将部队开进租界以引起外国插手干涉。段祺瑞说：“你是中国最优秀的军人，为什么要引起国际问题呢？”吴佩孚听了连称“是”，当即由塘沽乘船逃走。
直系倒台后，张作霖与冯玉祥请段祺瑞出山。1924年11月24日，段祺瑞在北京铁狮子胡同陆军部宣誓就任中华民国临时总执政。这是段祺瑞在国务总理任上三上三下之后，又一次登上北京政府最高领导者之位。
中华民国执政，这个职位是民国开国以来从未有过的，集总统与总理于一身，因此段祺瑞似乎比以前更加威风。但事实上，此时北洋内部的分裂和军阀割据的状况比以往任何时候都更为严重，而段祺瑞作为北洋前辈，与各地军阀都有渊源，加上皖系尚有一定的潜在实力，他这个执政不过是在几派军阀相持不下的情况下，作为平衡关系被请上台的，因此他不得不看张、冯的眼色行事。正如冯玉祥在段祺瑞入京之日对其重要将领所说：“……就是段芝泉出山，也是个木头人。”
张作霖的形容更加贴切：“就像只北京烤鸭。”意即段祺瑞夹在冯、张矛盾之中，前后受煎烤，左右不是人。
1925年12月，面对内忧外患以及学潮的困境，段祺瑞为了减轻自身的压力，在执政府下增设国务院，以把针对执政府的示威游行转向内阁。而在新组的内阁中，大部分总长都是亲近冯玉祥的人物。
恰在此时，徐树铮自国外考察回到上海，提出直皖奉大联合，北洋派大团结，拥护段祺瑞为唯一领袖的主张。并与直系孙传芳、齐燮元等督军会晤，商议联合对抗冯玉祥和准备北伐的革命军。
此间，段祺瑞以京津局面混乱对徐树铮极为不利，电嘱徐树铮暂缓进京。但徐树铮不以为然，自觉肩负使命，一定要尽快进京，依照礼法复命。12月19日，徐树铮由上海乘船北上。一路上，段祺瑞又数次发电并派员阻止他进京，徐树铮仍不为所动。
12月23日，徐树铮来到北京。见到徐树铮，段祺瑞虽然满心欢喜，但担忧更甚，他责备徐树铮：“说了不让你来，你为何如此任性？这里是冯玉祥的地盘，他现在对你恨之入骨，你竟如此大胆，硬要往火坑里跳！”
段祺瑞所言，是指徐树铮杀害冯玉祥的舅舅陆建章的一笔旧账。早在段祺瑞与冯国璋为主战还是主和明争暗斗时，陆建章悄然前往天津，准备说服曹锟重回直系。徐树铮为避免不利于段祺瑞的局面发生，盛情邀请陆建章到奉军驻津司令部做客。在电话中，平日目高于顶的徐树铮，一口一个前辈，态度极尽恭谨。第二天陆建章如约前往，徐树铮亲自在门口迎候，席间亲自为陆建章斟酒，饭后又邀陆建章到后花园密谈。陆建章毫无戒备地欣然前往，岂料，当两人在后花园中边走边谈的时候，卫士从后面向陆建章开了枪。
徐树铮如此不顾后果、明目张胆地枪杀了陆建章，自然遭到冯玉祥的记恨，加上徐树铮联合直奉倒冯，段祺瑞担心他会遭到冯玉祥的暗算，所以一再告诉他不要进京。可徐树铮还是来了，他说：
“年关将至，无论多危险，也得来看望一下芝老。”
徐树铮说着，眼圈红了。徐树铮向来以处事干练果断心狠手辣而著称，但对段祺瑞却是忠心耿耿，感情至深。段祺瑞深受感动，想到目前境遇，心情无比沉重。此后，两人就联合直、奉打击冯玉祥，重建皖系势力做了详细商议。
既然来了，段祺瑞就劝徐树铮住些时日，过了风头再走。可徐树铮是个急性子，只在北京待了5天就要匆匆南下，段祺瑞只好通过交通总长为徐树铮安排了专车。12月29日，也就是徐树铮离开北京的当天，段祺瑞在书桌上发现一张字条，上面写着：“徐树铮不可行，行必死。”
段祺瑞赶紧把字条拿给徐树铮，阻止他南下。但徐树铮看到字条后，只是淡淡一笑，根本没当回事，他认为枪杀陆建章那笔旧账已过去多年，冯玉祥未必会对他施行报复，而当时国民军四面楚歌，冯玉祥不能不顾及影响，执意当日离去。
然而，徐树铮的入京早已给冯玉祥敲响警钟，尤其他在上海报馆发表谈话，公开提出直皖奉大联合，令冯玉祥感到严重威胁，值此冯奉大战爆发在即，为防止段祺瑞倒向奉系，冯玉祥已做好刺杀徐树铮的准备。
徐树铮的专列从北京开出后，冯玉祥立即对驻廊坊的张之江下达了行刺命令。当天夜里车到廊坊，张之江的手下强行将徐树铮拖到车下枪毙。随后，冯玉祥派人连夜将陆建章的儿子陆承武送到廊坊，第二天便在各报刊出陆承武为父报仇的新闻，以此掩盖徐树铮被国民军枪杀的事实。
段祺瑞与徐树铮的感情，远远胜过袍泽之情，甚至胜过父子之情。徐树铮的死讯犹如晴天霹雳，令段祺瑞呆若木鸡，继而失声痛哭：“断我股肱！断我股肱！”都说徐树铮是段祺瑞的灵魂，如今“灵魂”不在，段祺瑞一夜之间苍老了许多，他为此恨透了冯玉祥，从此与冯玉祥的关系彻底破裂。
1926年2月，冯奉战争拉开序幕。3月12日，日本军舰驶入大沽口，炮击国民军；16日，日本以国民军破坏《辛丑条约》为由，纠集签订《辛丑条约》的八国公使，向段祺瑞执政府发出最后通牒，要求拆除大沽口国防设施，并集各国军舰于大沽口，以武力威胁北洋政府。
八国的最后通牒激怒了中国人民，3月13日起，北京开始爆发大规模学潮。3月18日，众多学生聚集在执政府门前广场列队请愿，广大市民也纷纷加入其中。在这次请愿中，执政府卫队开枪射杀请愿群众，造成46人死亡，150余人受伤，酿成历史上著名的“三一八惨案”。
当时段祺瑞在家中养病，没有去执政府，究竟是谁下令开枪，不得而知。段祺瑞得知惨案发生后，异常震惊，立刻下令严惩凶手，接着赶到事发现场，面对死者，长跪不起。他哽咽着宣布自己将终身食素，以示忏悔。
“三一八”惨案发生后，执政府已丧尽民心。1926年4月20日，段祺瑞通电下野，自此，他在民国舞台上的表演彻底结束。
段祺瑞下野后回到天津，在租界做起寓公，表面上不问政事，每日埋首棋局，而他的目光却一直没有离开过政局。
两个多月后，蒋介石就职国民革命军总司令，誓师北伐。当时，北洋政府被奉系军阀所控制，东山再起的直系军阀吴佩孚占据两湖、河南、河北、陕西，控制京汉铁路，直系军阀后起之秀孙传芳占据长江中下游。北伐军一路势如破竹，北洋军阀很快败下阵来。1928年6月，张作霖撤离北京，乘专列在皇姑屯被日本关东军预埋的炸药炸成重伤，随即死亡。12月末，张学良宣布东北易帜，中国大陆地区在形式上统一在了蒋介石的国民政府之下。
1930年，冯玉祥、阎锡山、李宗仁等联合反蒋，日本人认为有机可乘，打出“北洋派大同盟”旗号，推举段祺瑞主政，吴佩孚主军，试图在北京组织政府。段祺瑞对时局看得很清楚，知道反蒋成功之希望甚微，因此一口回绝，而“北洋派大同盟”果然很快土崩瓦解。
但日本人仍不死心，日本特务头子土肥原四处活动，想要拉拢段祺瑞和溥仪，还安排两人在载沣家中会晤。然而这次会晤进展并不顺利，溥仪端着皇帝的架子让段祺瑞十分不屑，而段祺瑞一副执政的架势，溥仪也看不顺眼，于是两人不欢而散。段祺瑞曾对身边人愤怒地说：
“鄙人不才，忝为国家元首……这小子到今天还摆皇帝的臭架子，真是岂有此理！”
九一八事变发生后，日本人扶持溥仪在东北建立了伪“满洲国”，随后又将矛头指向华北地区，企图利用段祺瑞在北洋军人中的影响，建立华北伪政权，由段祺瑞做华北伪政府首脑。但无论日本人如何拉拢利诱，均被段祺瑞一口回绝。
虽然段祺瑞坚决不为日本人做有损中国利益的事，坚决不下水做汉奸，但日本人的一次次拉拢让蒋介石非常不安。蒋介石生怕段祺瑞与日本人合作，号召北洋军人对抗南京政府，所以对段祺瑞极力拉拢。由于蒋介石是保定陆军学堂的学生，所以他以段祺瑞学生的身份会见段祺瑞的侄子段宏纲，请他帮忙说服段祺瑞南下。
随后，蒋介石又派国民党要员、合肥人吴忠信北上看望段祺瑞，并为他送去二万元生活费。蒋介石知道段祺瑞下野后生活拮据，以后每过一段时间，就会为段祺瑞送去一笔生活费。1933年初，蒋介石又亲笔致书段祺瑞，恳请他“南下颐养”，段祺瑞为避免日本人“骚扰”，决定答应蒋介石的请求。
他对前来送信的交通银行董事长钱永铭说：“我已经老不中用了，如中正认为我南下于国事有益，我可以随时上路。”
1月21日，段祺瑞悄悄离开天津南下。抵达南京时，南京所有少将以上的军官早已过江在南京浦口车站等候迎接，迎接队列达600多人，大家高举“欢迎抗日救国元老段老先生”、“欢迎三造共和的段老先生”等横幅，簇拥着段祺瑞登上长江轮渡。
蒋介石一身戎装，亲自前往下关码头迎接段祺瑞。远远看到段祺瑞乘坐的船朝岸边驶来，蒋介石便吩咐乐手奏起军乐。船一靠岸，蒋介石率先登船，先是向段祺瑞敬礼问好，接着恭敬地将段祺瑞搀扶下船。这天晚上，蒋介石率南京军政要员设宴款待段祺瑞，第二天，又陪同段祺瑞拜谒了中山陵。
由于段祺瑞的女儿在上海，于是段祺瑞决定去上海居住。1月23日晚，段祺瑞结束了在南京两天一夜的旅程，乘火车来到上海，住在法租界霞飞路1487号陈调元的公馆里，蒋介石每月赠送一万元生活费，将段祺瑞供养起来。
二妻五妾，原来执政不风流
段祺瑞先后娶了两房太太和五房姨太太，第一位太太吴氏去世后，留下一儿一女。第二位太太张佩蘅，也就是袁世凯的干女儿，生了四个女儿。而他的五房姨太太，都是张夫人先后为段祺瑞讨进门的。张夫人因为没有儿子，生怕别人说她不够贤惠，不得已而为之。
大姨太陈氏，早在1914年便过世了，留下一儿一女均不幸早折；二姨太边氏只生了一个女儿；三姨太和四姨太都姓刘，仆人们称她们为刘三、刘四。五姨太姓李，便顺着称为李五。这三个姨太太出身都很低微，都是花钱买进门的。
段祺瑞脾气很大，在家中说一不二，对夫人、姨太太要求很严，但从某种角度来说，他的治家却很失败。他本人素有“六不沾总理”之称，即不贪污肥己，不卖官鬻爵，不抽大烟，不酗酒，不嫖娼，不赌钱。他尤其痛恨抽大烟，没想到他的夫人、姨太太个个背着他抽大烟。
段祺瑞下野之初，住在天津日租界须磨街他的部下魏宗翰的公馆里，第二年应皖系下属田中玉之邀赴大连疗养，随行的有张夫人和二姨太，留在家里的几个姨太太没了管束，常常打扮得花枝招展偷偷溜出去看电影、听戏、划船、逛市场，四处招蜂引蝶，常常半夜三更才回公馆。
段祺瑞返回天津后，突然发现家里有什么不对劲。下人们在窃窃私语，三姨太和四姨太说话总是躲躲闪闪。有天夜里段祺瑞睡不着，一个人起来到院子里散步，正好撞到三姨太从外面归来。当时段祺瑞的惊愕无异于见到了外星人，他完全没有想到自己的女人竟然打扮得像歌女，而且夜半归来！
三姨太也惊呆了，吓坏了。她了解段祺瑞的脾气，知道等待自己的是凶多吉少。段祺瑞注视着三姨太，照着三姨太的脸一掌打过去，喝斥道：“不要脸的东西！”
第二天，段祺瑞吩咐张夫人将三姨太送回在北京的娘家。张夫人早已听说了三姨太和四姨太的风流韵事，只是一直瞒着段祺瑞。以段祺瑞的脾气，她担心会闹出什么大事。如今见段祺瑞如此冷静，倒也放下心来。只是三姨太哭着闹着不肯离去，让她有些于心不忍。
送走了三姨太，不久四姨太的风流韵事又传了出来，段祺瑞一怒之下又将四姨太休掉，打发回了娘家。
对于子女，段祺瑞更是要求严格，而且从不给什么特殊照顾。吴夫人所生长子段宏业，从小寄养在亲戚家，十几岁才回到段祺瑞身边，虽然没有受过良好教育，但与段祺瑞一样，十分喜爱围棋，是当时围棋界里响当当的人物。正因为如此，段祺瑞对段宏业十分喜爱。但仍没有为他的前途铺平道路，而是教育他从最低层做起，靠自己的能力一步步向高处攀登。
段祺瑞治家严明，夫人姨太子女都不得干预公事。有一次一个姨太太想替一位老妈子的亲戚谋个差事，在段祺瑞面前求情，段祺瑞一听气得鼻子都歪了，怒斥道：“你想买官吗？得了人家多少钱，快说！”
这位姨太太委屈得当场就流下了眼泪，但段祺瑞毫无怜香惜玉之情，又将她狠狠训斥一番才罢休。从此，家中再也没有人敢向段祺瑞求情。
段祺瑞当官以后，合肥老家经常来人拜访，目的是想求他给谋个好差使，段祺瑞一概不予办理，只是好吃好喝地招待这些亲戚几日，然后给些钱将他们打发走。就连他的胞弟段启甫上门，他也是毫无情面。当时他已任国务总理，安排个差使是一件很简单的事，但段祺瑞认为段启甫不是做官的料，对他说：“你不适合做官，还是给你一笔钱，回家做个买卖吧。”
因此，段祺瑞的亲朋好友中很少有做官和发大财的，这在当时的军政要员中极为罕见。
唯一的一次破例，是段祺瑞为他的一个远房侄子安排了事由。他见那个侄子能吃苦，是个可造之材，就给他谋了个军校的勤杂工。令段祺瑞意外的是，这个侄子没当几天勤杂工，很快被升为军需采办。这不是因为他个人有什么能力，而是因为他是段祺瑞的亲戚，军校负责人处处巴结他，心甘情愿把这个肥缺送给他。
这个侄子当上军需采办后，异常高兴，决心尽职尽责做好这份工作，可每天看着从自己手中流过的白花花的银子，他很快便把持不住，手脚变得不干净起来。直到捞足了油水，他才想到这一切都是沾了族叔的光，于是决定登门拜访段祺瑞。
一进段府，这位侄子看到一位妇女正和一个米贩子讨价还价，妇女虽衣着普通，但言谈举止很不一般，一看就是段府女主人。这位侄子不由得暗暗吃惊，想不到族叔做了那么大的官，家里买米还要如此算计。
这位侄子没有进去拜见族叔，而是转身离开了段府。第二天，他带着一辆大车来到段府，车上装满了米面油盐、鸡鸭鱼肉等食物。他向段祺瑞的续弦夫人张佩蘅做了自我介绍，然后说：“以后我每月都来送食物，您再也不用和那些小贩子讨价还价了！”临走前，他还特意嘱咐张夫人，不要将此事告知族叔，他早就听说段祺瑞不收礼，担心这些东西被送回。
可是段祺瑞治家甚严，张夫人岂敢隐瞒，当天晚上便将此事告诉了段祺瑞，段祺瑞听后立即火冒三丈：“这小子哪来这么多钱？还要每月都送，我倒要看看他这些钱是哪儿来的！”
不久后，段祺瑞到军校视察，特意向学员们打听伙食问题，学员们普遍反映菜种单一，而且不新鲜，米也不好。段祺瑞气呼呼地来到伙房一看，果然如学员们所说，他立刻叫来军需主任，劈头就是一顿臭骂。军需主任哆哆嗦嗦，只是嗫嚅道：“这不关我的事，这不关我的事……”再问他，他又说不知道，气得段祺瑞吼道：“不知道是吧，那就给我拖出去打50军棍！”
这话果然见效，军需主任立刻口齿清晰地供出段祺瑞的侄子，并拿出账本给段祺瑞过目。段祺瑞早就对他侄子有所怀疑，如今人证物证俱在，立刻叫人把他侄子绑了来，“赏”了他100军棍。100军棍足以要人性命，幸亏执行人手下留情，这个侄子才保住性命，但也因此落下终身残疾。
打完侄子，段祺瑞又做出一项惊人之举，他不顾别人劝阻，主动走进禁闭室，不吃不喝地在里面待了整整两天，以惩罚自己任用私人。
而段祺瑞本人也从不收礼。有一次，江苏督军齐燮元送给他一个精致的围屏，围屏上镶有各种宝石，五颜六色，光彩夺目，一看就知价值不菲。段家的人看了都爱不释手，甚至半夜里偷偷起来玩赏。可第二天早上，段祺瑞见到围屏，只是淡淡地扫了一眼，就叫人给齐燮元送回去了。
还有一次，张作霖给段祺瑞送来一些东北特产，并不是多么值钱的东西，但段祺瑞死活不肯收，最后在张作霖副官一再恳求下，才收下两条江鱼。唯独有一次冯玉祥送来一个大南瓜，段祺瑞非常喜欢，破例没有送回。逢年过节时，按照习俗，给段祺瑞送礼的人更是络绎不绝，但段祺瑞只是在每人的礼品中挑一样最不值钱的留下，其余的一概退回。
段祺瑞一生清廉，没有购置过一处房产和地产，甚至连合肥老家也没有一处住房，在北京住的房子是袁世凯赠送的，到天津之初，住的是他的部下魏宗翰的公馆。后来搬出日租界，租住在英租界47号一套房租较低的住宅中。
段祺瑞在位时，尽管经常要接济老家的亲戚和夫人姨太太们的家属，但政府的拨给还是可以满足这些开支的。由于没有财产与积蓄，段祺瑞下野后，生活一下子便没了着落，所幸他的部下、学生众多，这时候不得不依靠他们的接济。
到天津后，段祺瑞想方设法节省开支，家里的每一笔开支他都要亲自过问。他的每日三餐基本都是米粥、馒头、素菜，四季衣着全是布制，仆人的数量也一降再降。由于人手不足，他和夫人姨太太们经常要亲自做些简单的家务。
移居上海后，有了蒋介石每月赠送的生活费，段祺瑞不再为开销担忧，每日在公馆里下一盘棋，其余时间不是诵经便是读书。每当有朋友来访，谈及日军向华北扩张，沦陷区一天天扩大，段祺瑞总是伤感良久。
1934年春天，段祺瑞胃溃疡发作，引起胃部出血，被送到医院治疗。由于段祺瑞身体虚弱，医生家人纷纷劝他开荤，以加强营养，段祺瑞断然拒绝：“人可死，荤绝不能开！”
1936年11月1日，段祺瑞胃病复发，胃部出血不止，11月2日晚即在上海宏恩医院去世，时年72岁。
在遗嘱中，段祺瑞就国家之复兴，之转弱为强，向政府提出了“八勿”：“勿因我见而轻启政争，勿空谈而不顾实践，勿行不急之务而浪用民财，勿信过激之说而自摇邦本，讲外交者勿忘巩固国防，司教育者勿忘保存国粹，治家者勿弃固有之礼教，求学者勿趋时尚之纷华。”此“八勿”体现了段祺瑞的政见与忧国忧民之切。
11月5日，国民政府明令褒扬段祺瑞一生功勋，予以国葬，按佛教礼仪大殓。上海市长吴铁城代表国民政府主席林森、军事委员会委员长蒋介石前往吊唁，军政要员于右任、张群、居正及段祺瑞旧部、生前友好，以及各国驻沪领事纷纷前往致祭，上海下半旗致哀。
蒋介石的唁电称：“老夫子令德考终，薄海永悼。”
吴佩孚的唁电称：“追念师门恩义，感涕难忘，遥望海天，悲痛不已。”
南京国民政府本想将段祺瑞安葬在南京，但段祺瑞由于一生事业都在北方，临终前特意叮嘱儿子段宏业，死后一定将他葬于北平，最好葬于西山。按照段祺瑞的遗嘱，其灵柩于12月7日由上海启程，运往北平，暂厝于西山卧佛寺，等候段宏业请人卜地建墓后入土为安。然而这一等就是半年多，所看中的土地，不是风水不佳，便是地主不愿出让。1937年北平沦陷后，日军强征卧佛寺，迫使段宏业将段祺瑞的灵柩移出，匆匆埋葬于西郊其三叔段子猷墓旁的一小块空地上，仓促地举行了葬礼。所有送葬之人，见段祺瑞被如此“随意”地安葬，无不感到悲痛。
直到1963年秋，段祺瑞的侄子段宏纲及章士钊才将段祺瑞移葬西郊万安公墓，章士钊在墓碑上题写了：“合肥段公芝泉之墓。”
历史评说
在很多人的眼中，段祺瑞作为北洋时期皖系军阀的首领，作为鲁迅先生《纪念刘和珍》一文中被鞭挞的对象，一定是独裁、腐败的，实际上，段祺瑞一生中可圈可点之处颇多。
段祺瑞一生中“三造共和”功不可没。1911年，段祺瑞率前线北洋将领46人联名致电清政府吁请清帝退位；袁世凯蓄意称帝时，段祺瑞不惜惹怒袁世凯，以致不断被贬被黜，仍然坚决反对帝制；1917年张勋复辟，段祺瑞率兵讨伐，使复辟破产。但我们也要看到，段祺瑞“三造共和”的目的是为自己争权，在推翻袁世凯和张勋复辟帝制后，仍实行独裁统治，实际是换汤不换药。
段祺瑞虽然亲日，并且多次同日本秘密签订借款合同，但在日本请他出面建立伪政权时，他态度坚决，绝不落水做汉奸。在这一点上可以看出，段祺瑞是爱国的，他的亲日是有底线的。
段祺瑞一生中最大的争议，莫过于“制造”“三一八”惨案，说他“制造”并不公允，因为当时他在家中养病，不在执政府，并非他直接下令枪杀游行示威者。但作为执政，他负有无法推卸的责任。段祺瑞在得知惨案发生后，曾面对死者长跪不起，并立誓终身食素以赎罪，而这个誓言，在他病危时医生一再劝他开荤增加营养，他都不曾动摇，直到去世。
段祺瑞性格耿直，为人坦诚，不逢迎，不谄媚，虽脾气暴躁，但心地善良，尤以为官清廉而闻名，素有“六不总理”之称，即不贪污肥己，不卖官鬻爵，不抽大烟，不酗酒，不嫖娼，不赌钱，一生没有购置房产，死后没有余财，尽显其人格魅力，这对于一个多年处于旧中国政权巅峰的官员来说，实属不易。