张之洞晚年入值军机处，从地方封疆大吏晋升到拥有决策之权的枢臣，位高权重。张之洞进入权力中枢后，将相当多的精力和心血倾注到朝政事务中，但却遇到了不小的困难，让他心力交瘁。主要有以下几件事：

● 朝中仍存在对汉族大臣的歧视，张之洞早在任湖广总督时，就曾努力消除满汉的差异，为此他特地上奏，但被慈禧驳回。

● 光绪三十四年（1908年）10月，溥仪继位，醇亲王载沣以摄政王监国，据说光绪死前留下的遗诏要求杀了袁世凯，于是载沣等人以此为名由密谋杀袁，张之洞曾极力维护袁世凯，因此与载沣爆发了不小的冲突。

● 载沣在朝中用人唯亲，他掌权后，将其弟载涛、载洵分别任命为训练禁卫军大臣和筹备海军大臣，引发很多人的不满，张之洞强烈反对却一再被驳斥，最终二人爆发激烈争论，其后不久张之洞就病倒了。

宣统元年正月，张之洞被任命为德宗实录总裁官。六月，他肝病发作，病体垂危，但仍在坚持处理朝政，而载沣却权势日盛，欲独揽大权，他联合载涛、载洵等人夺得政权、军权，张之洞更为忧愤。张之洞临终时载沣去看望他，他仍试图让载沣改变主意，改革朝政，却仍没有用。最终张之洞在哀叹声中逝去，享年七十二岁。