1865年，段祺瑞出生于今安徽合肥市，他的爷爷段沛是李鸿章手下的淮军将领，官至记名总兵。

1885年，段祺瑞考入了李鸿章创办的北洋武备学堂。

1888年，段祺瑞以第一名的成绩被李鸿章保送到德国留学。