1924年，冯玉祥率领第22师回师京城，他有一个目的，那就是推翻曹锟政府。当然，推翻曹锟政府还不算完，冯玉祥还要干一件大事，那就是派鹿钟麟将溥仪驱除出紫禁城。
时任北京警备总司令鹿钟麟是一个久经战阵的军人，而当时的溥仪只是一个19岁的小孩子。1924年11月5日，鹿钟麟伙同警察总监张壁，还有社会知名人士李煜瀛，并领着20多名军警，直奔紫禁城，开始了驱除溥仪的行动。
当时，溥仪领着清室正在召开“御前”会议，商量如何面对冯玉祥“改朝换代”之策，他们听说鹿钟麟前来，内务府大臣绍英一溜小跑，前去出迎，鹿钟麟拿出新制定的《清室优抚条例》，然后说道：“立刻请溥仪出宫，否则我们就要开炮了!”
溥仪想打电话向外界求援，可是电话线已经被鹿钟麟给掐断了，没有办法，保命要紧，他只得答应鹿钟麟出宫。
溥仪年轻怕死，他答应出宫，可是宫里的两位老太妃可不干了。这两位老太妃一个是敬懿皇贵太妃，另外一个是荣惠皇贵太妃，(最有名的端康太妃在溥仪出宫前病逝)。
这两位老太妃死活不肯离开紫禁城，一个劲地要和鹿钟麟拼命，连哭带喊气得浑身打颤，鹿钟麟之所以敢带20几个人来B宫，就是算准溥仪怕死，可是他遇到了不怕死的敬懿皇贵太妃和荣惠皇贵太妃，他就没辙了，只得答应两个老太妃暂时住在宫里，等过些日子在撵她们走。
这两个老太妃在皇宫里可没老实地呆着，敬懿皇贵太妃略懂书画，她就把王献之的《中秋贴》和王珣的《伯远帖》弄到了寿康宫，半个多月后，这两位老太妃终于答应出宫，这两幅名帖，就被她们偷偷地藏在了箱子里，带出了皇宫。
这两位老太妃觉得不管多么有名的字帖，都不能当饭吃，她们就命手下的小太监，三瓜两枣地就将这两幅名帖，卖给了京城后门桥的一家小古玩店“品古斋”。
后来，这两幅字帖被这家小古玩店卖到了台湾，后来又到了香港，被抵押给香港的汇丰银行，1951年，党中央领导人做出指示用50万港币，将这两贴回购到了国内，并藏于故宫博物院。
敬懿皇贵太妃和荣惠皇贵太妃出宫后，住在了京城的东城麒麟碑胡同，也就是有名的老公主府，这座老公主府只是一座中等宅院，虽然她们都成了落架的凤凰，可是谱非常大，根据当时拜见过两位太妃的人，回来说：两个人都盘腿坐在炕上，叼着长杆纯银水烟袋，伺候的太监，跪在地上，给她们的烟袋小心地点火。
她们两个出宫干的最大的一件事是，溥仪在长春当了康德皇帝，可是祭天的时候，没有龙袍，两位老太妃就将道光皇帝一件九成新的龙袍，从箱子底拿了出来，帮助溥仪复辟成功，可是她们原本盼望着，溥仪称帝后，她们也能跟着过上好日子，可是岁月不饶人，1932年2月5日，敬懿皇贵太妃先行病逝，1933年5月8日，荣惠皇贵太妃也接着病逝。
