随后,内阁总理唐绍仪因为与袁世凯的矛盾而下台,陆征祥短暂的担任过内阁总理的职务,但很快也因国内问题下台。之后,陆征祥做过总统府的高级顾问,随即又再次接任了外交总长一职。而这次,却把陆征祥推向了深渊。
1915年,欧洲各个帝国忙于一战,放松了对于中国的侵略。日本见此情景,便产生了独霸中国的野心,于是日本人向袁世凯政府提出了灭亡中国的“二十一条”。袁世凯见到此条约大为骇然,立即让当时的内阁总理孙宝琦来处理此事。孙宝琦自知这是个烫手山芋,因此便把这件事情交给了陆征祥。万般无奈之下,陆征祥只得坐上了日本人的谈判桌。
弱国无外交,这是在当时“适者生存”的国际社会中的准则。陆征祥深感于此,便采用拖延的战术与日本人周旋。争取条约中的每一条每一个字都要仔细的进行研究。同时,陆征祥还把条约的内容有意的透露出去,希望以中国的舆论和英美国家的反对来抗衡日本人的强权。但是,舆论终究是没有枪炮管用,在日本人以“最后通牒”的形式照会中国政府后,袁世凯政府也只能签订这一丧权辱国的条约。虽然,陆征祥凭借着谈判,划去了条约中侵略中国最严重的几条,但是《民四条约》的签订也是非常的耻辱。而且陆征祥也知道,一旦在这个条约中留下了自己的名字,那将是遗臭万年。只可惜时局如此,陆征祥一人之力,不能挽大厦将倾。签订条约之后,陆征祥沮丧的对袁世凯说:“从此我陆征祥千秋万代被人唾骂!”