察举制开始于汉武帝时期，但最初发轫于惠帝时期奖励孝悌力田的民众，孝悌就是对父母兄长恭敬，力田则是干农活勤快。这种奖励并不是做官，而是免除赋税徭役或者给予钱财，目的是矫正社会风气，稍稍类似于现在的十佳青年、感动中国等荣誉。到了吕后时期则专门设置了孝悌和力田的常员来教化民众，但也并没有形成后来察举的常制。
汉武帝开创察举制是中央和地方根据需要的人才种类进行推举，制定察举制的初衷是想从民间和下级官员中选拔人才，打破当时的事功主义和赀选等入仕模式。察举制的种类很多，孝廉秀才是地方察举，除此以外还有中央举贤良方正文学兵法等，这种中央的特科最终没有形成常制，但延续时间也很长，东汉名将张奂和皇甫规等人就被举过贤良。
由于带着很强的政治目的性，因而汉武帝察举孝廉的措施也显得颇为激进。实际上察举孝廉的模式天生存在着硬伤，地方太守并不可能接触到领地内的所有民众，让他在自己所知范围内察举孝子廉吏也是有限的，很难在每年都发现新的孝子廉吏。因而在察举制实行之初，出现了大量的郡国举不出孝廉的情况。于是汉武帝下诏，认为举不出孝廉是地方官员对领地了解不够的表现，要处罚不举孝廉的地方官员，于是所有官员不得不硬着头皮来举孝廉，为后来察举制重乡议名声埋下隐患。
宣帝也延续了武帝的这一方针，由于举廉吏的目的在于发现中下层官吏中的人才，当时举的廉吏很多都不属于这一范围，而具有相当地位。宣帝便下令禁止举六百石以上的官员为廉吏，令察举制度进一步完善。
孝廉最初是分开的两科，前者举的是民，后者举的是吏，两者偏重的都是道德层面。相比之下，贤良文学等特科才是用来选拔能力出众之人，这种特科推举的人才都会经历考试的环节，而孝廉就不用。但是凡事成制度之后就会有变化，想要出仕的人才们与其指望不定期推举的特科，显然每年要定期推举秀才孝廉才是更加靠谱的出路，于是秀孝科渐渐成为了重要甚至是主要的人才选拔模式。
到东汉时期，孝廉逐渐合并，相比创立之初所具备的道德教化功能，人们更看重它的出仕功能。于是各种奸猾之徒靠手段博取孝和廉的名声，借以出仕的行为层出不穷，便有了那句著名的童谣：举秀才，不知书。举孝廉，父别居。寒素清白浊如泥，高门良将怯如鸡。除此之外，察举秀孝也成了官员们为自己捞取政治资本的重要手段，那些年轻有前途的人才进入官场后往往成为察举者的支持者，这种现象在后来的科举时代也很常见。
于是在东汉中期，由尚书令左雄主导了一次察举制的改革，在察举孝廉中加入了考试环节，考试未通过者取消孝廉资格，并追究举荐官员的责任，同时规定40岁以下人员不得被举孝廉。这种强力的改革使得当时官场选拔风气为之一新，但随着政治的腐化，即使加入考试环节也无法阻拦察举制的衰变，甚至还滋生出了新的问题。
考试环节的出现令孝廉更加名不副实，成为一种矛盾的存在(孝廉合并时已经有了这种矛盾)，德和才究竟谁才是孝廉真正适用的标准？同时由于察举孝廉有了风险，官员们便热衷于举荐高官子弟，这样即使自己举荐的人才不过关，凭借其家族势力也能使自己不受重罚。此外则是加重了乡里清议的现象，同样是因为接触范围有限，官员在察举人才时会更加看重他们的名声，这种风气愈演愈烈最终酿成了党锢之祸。在左雄之后，陈蕃黄琬等人也试图整顿察举风气，结果因触犯权贵利益反受处分，此时的官场风气已经比左雄时期更加糟糕。
由此可见，察举制虽然在两汉推行得十分成功，很好地契合了当时的民众受教育水平，为朝廷输送了大量人才。但在东汉末年，察举制已经面临着严峻的问题，一方面是士人崇尚虚名，清议也有垄断舆论的倾向，另一方面则是察举制的常年实行形成了大量的世家大族，成为瓦解皇权的存在。因而察举制的改革势在必行，九品中正便是基于这一背景诞生的。
曹操提出唯才是举，实际上已经是否定了将举孝廉作为道德教化的一环，曹丕设置中正官，则是想摆脱乡里清议的影响，将人才评判的权力牢牢把握在朝廷手里，两父子的出发点都包含整治汉末察举制当中存在的乱象。加之汉末战乱，人口迁徙流动大，原来的乡里清议遭到破坏，察举制度难以正常实行，正好需要一套新的标准，因而九品中正制的出现也适应了当时的环境。
但九品中正本身就存在着问题，首先是品级的判定从一开始就没有严格的标准，很大程度地受中正官个人爱憎喜好的影响。其次是品级评判和人才擢用是分离的环节，九品中正是察举制的补充内容，中正官评定等级后，被评判者依然要通过举秀孝来出仕，两汉时长官举秀孝是给自己找做事的下属，还会顾虑才能问题，不会找一无所长的人来为自己办事，但中正官评判品级时则完全没有这样的担忧。其三则是九品中正制在实行过程中很快就侵夺了尚书台选人用人的权力，在中正官的职权已经过大的前提下，司马懿又设立了掌管一州人才评判权的大中正。一般认为司马懿设立大中正是出于夺权收买人心的需要，但我认为这其中也未必没有依靠大中正来加强中央对于人才评判话语权的考量。
然而实际情况却是，身处中央的士族依靠把持大中正的职位将影响力施加到了地方，导致人才评判权被顶级士族所垄断，于是九品中正制迅速地走歪了。
因而在西晋统一天下仅四年后，便有卫瓘刘毅司马亮等多人上书请求废除九品中正制，认为九品中正制已经严重阻碍了下层人才的晋升。而司马炎出于稳固自身地位统治以及乡议短时间内难以恢复等考虑并没有采纳这一建议。司马炎自然不会想到，朝廷已经失去了今后三百年里最佳的改革时机。
六年后司马炎驾崩，他所留下的外戚和宗室很快就陷入了权力斗争，由此引发的八王之乱令朝廷的实力和威严跌落谷底，随即发生的永嘉之乱和晋室南渡使得东晋皇室不得不进一步加深对士族的依赖程度，改革九品中正更加成为了镜花水月。
此后南朝的许多帝王虽然想方设法提拔重用寒人，架空士族，但两百年来根深蒂固的势力使得他们依然保持着强大的政治影响力，且大量侨置郡县和士人的存在也使得九品中正有其实行的价值。直到南梁末年的侯景之乱和江陵沦陷终于从各个角度摧毁了南方士族，但此时的南朝在强大的北周政权面前也已经成了风中残烛。九品中正即使还存在，也只是历史的残响了。
