退休制度，古已有之。据《周礼》记载：“大夫七十而致仕。”意即做官的到了70岁就要“还禄位于君”，告老还乡。但退休后，朝廷是不再发给俸禄的。例如东汉大臣郑均在建初六年（81年）退休时，章帝（刘旭，76年-88年在位）只赐给他一个“终身尚书”的空名，没有分毫退休金。
到了唐代，朝廷规定，只有五品以上官员退休后才发给一半的禄米，但不发银两。极个别的经皇帝特批，才多少发点钱。至于六品以下官员，退休后俸禄也即停发。因此，绝大多数官员一般情况下，只要身体和精力应付得了，都不愿退休，能混一天是一天。
直到宋代，据叶梦得（1077年-1148年，高宗时官拜尚书左丞）所著的《避暑录话》一书记载，998年，真宗帝赵恒登基后才正式颁诏规定：文武百官退休后一律按其俸禄发给一半退休金，从此，才形成一种固定的退休金制度；明代，退休年龄提前到60岁，由于退休后，地位和权力都失去了，所以不少官员尽量拖延退休时间，成为官场上的一大弊端。有人写诗讥讽道：
绿水红莲客，
青衫白发精。
过厅无一事，
咳嗽两三声。
这首诗生动地勾勒出这种官员吃喝玩乐，饱食终日，无所事事，尸位素餐的丑态。
与上述情况相反，也有少数有自知之明的贤达之士，退休年龄一到（有的还不到）就主动请求退休，让年轻官员顶替上来。他们当中有人还作了退休诗以表明心志。
南北朝时期的梁代，文学家、医学家、人称“山中宰相”的陶弘景（456年-536年）就作过“退休诗”：
眼前流水自悠悠，
歇卧偷闲恋绿畴。
笑看金笼牵鼻去，
等闲落得用鞭抽。
这首诗题在一幅画
