从新中国成立初期到党的十三大召开的近40年时间里，公务员群体更为人们熟悉的称呼一直叫“干部”。
1982年的政府机构改革，将人事局与国家劳动总局、国务院科技干部局、国家机构编制委员会合并，成立劳动人事部。
党的十三大提出要改革干部人事制度，对“国家干部”进行合理分解，建立科学的分类管理体制，重点是建立公务员制度。
1988年，劳动人事部一分为二，专门成立人事部，人事部的一个重要职责就是建立和推行公务员制度，也是管理公务员的主要机构。
1993年10月1日，《国家公务员暂行条例》正式颁布，标志着我国公务员制度的诞生。此后，全国各地自上而下逐步开始建立和推行国家公务员制度。
当时，国务院明确提出：“争取用三年或更多一点时间，在全国范围内基本建立起国家公务员制度，然后再逐步加以完善。”按照中央部署，各级组织人事部门秉承“整体推进，突出重点，分步到位”的思路，从1994年重点抓考录制度的建立实施、严把公务员队伍“进口”开始，一年一个重点，公务员制度建设稳步推进：凡进必考机制基本建立；激励机制开始运行；奖励制度发挥有效作用；竞争上岗制度逐步推开；轮岗、回避初见成效；“出口”初步畅通；培训开始步入轨道；廉政约束机制发挥作用；公务员权利有了保障。其间最重要的成果，当首推公务员管理法规体系初步形成，集中体现为以《国家公务员暂行条例》为主，与之配套的几十个单项法规和实施细则相继颁布，涉及公务员录用、考核、奖惩、职务任免等多个方面。
2005年4月27日，公务员法在十届全国人大常委会第十五次会议上顺利通过。“作为中国政治制度的重要组成部分、公务员制度建设的最新成果，公务员法的颁布，不仅填补了立法空白，更重要的是使政治体制改革中非常重要的干部人事制度改革产生了实质性飞跃。”国家行政学院教授应松年这样评价公务员法出台的意义。
2008年7月22日，国家公务员局组建完成，又将中国的公务员管理工作带入一个新的发展阶段。
