要说段祺瑞虽然强势，但比起袁世凯来，差的不是一个等级。
至少他想借势的各省督军，并没有像他想象的那样给力。这些督军团开始也含糊，为什么？一宣战要他们去打仗，他们怕死，不敢去！
段祺瑞只好说不用，我们宣战后只需要派一些民工到欧洲支援就行了，你们都听我的。这些人看段祺瑞大权在握，说行，都同意了，集体宣布要向黎元洪施压，同意宣战。可黎元洪这个时候保持了少有的强硬，就不同意。
5月1日，内阁讨论对德宣战问题。皖系打手倪嗣冲、张怀芝、孟恩远、李厚基等督军闯入会场。倪嗣冲并以军界首脑名义表示，“各省督军一致支持估总理的对德方针，政|府应当立即对德宣战！”有人说军人干政，傅良佐却辩解道：“军人也是国民的一员，对国事发表意见，怎能说是干政？大总统这么害怕军人的意见，难道是心中有鬼不成？”
参加内阁会议的阁员可怜只有3人：海军总长程璧光、司法总长张耀曾、农商总长谷钟秀，军人倒有一大班。
在督军团的胁迫下，内阁匆匆通过对德宣战案，段祺瑞便想趁热打铁，利用督军团使国会和总统屈服，他随即率领当日出席会议的阁员到总统府面请黎元洪核准。同日，日本驻华公使林权助拜访黎元洪威胁说：“如国会否决参战案，政局将发生纷扰！”
黎元洪这里终于通过了，但国会却出了问题。本来国会通过宣战案问题并不大，汤化龙、梁启超早就在议员中活动支持段祺瑞，但傅良佐却在国会里帮了倒忙。
一周后，段祺瑞到国会解释对德政策并接受质询，他矢口否认中国参战背后有着中日幕后交易，声称宣战是本着正义的需要。当两院即将讨论宣战案的时候，各地人民团体纷纷来电支持宣战，北京城中也有一些“自发”的群众的代表强烈要求对德宣战，段祺瑞闻之十分满意。一些外地人民团体的电报实际上都是傅良佐派人从北京电报局发出的。
5月10日下午，成群的“自发公民”包围了众院大楼，他们或摇旗呐喊，或散发“请愿书”，有的甚至闯进议长办公室，要求汤化龙允许公民代表列席讨论。
“公民团”的行径引起了众议员的义愤，大家集体罢会，以示抗议，并准备离开会场，于是一场骚乱发生了。傅良佐急于求成，结果弄巧成拙，反而使段祺瑞的宣战案中途告吹，内阁总长纷纷辞职，只剩下一个光杆总理。
段祺瑞决定坚持下去，此时他急切需要加强实力，决定一意孤行，不理睬反对声浪。他一面酝酿新的阁员，一面授意滞京的部分督军和代表们，继续对国会施压，企图重开议会通过宣战案。
在黎总统要支持不住的时候，有一件事出现了。
英国的报纸（其实是英文的《京报》）把一个秘闻给揭出来了，说段祺瑞跟日本的军政|府签了一个协议，有一亿元军事借款。这个事根本没通过国会，国务院总理就敢私自跟日本签这个协议，这不等于私自勾结日本吗？这个事揭露出来，段祺瑞威名扫地。
段祺瑞在国会所作关于中日之间绝无秘密外交的证词完是一个谎言！这个时候黎元洪逮着机会了，他一改此前软弱可欺的形象，利用人们反段要求，在国会的支持和美国公使“允为后盾”的情况下，突然挺直了腰杆，一拍桌子，你有这事？我以大总统名义罢免你国务院总理和陆军总长的职务！
5月23日，黎元洪口授总统令免去段祺瑞国务总理职，令伍廷芳代理。时任总统府秘书长的张国淦听说黎元洪要免段，刚想开口劝说，站在旁边的金水炎冲了过去，拔出手枪对准张国淦：“不许开口！开口我就打死你！”
金水炎是陆军次长，黎元洪的铁杆。不用说，老黎是铁了心要撕破脸了，段祺瑞气得鼻子又歪了。由于京冀的地方势力倾向于黎元洪，所以段祺瑞为安起见，便跑到天津，就是跟黎元洪分裂了。
张作霖审时夺势，就此发出“勘电”，抨击黎元洪，吹捧段祺瑞，要求黎元洪“解散国会、重新任命段总理组织内阁”，并以与中|央“断绝关系”相要挟。