日常所说的公务员单位，不仅包括《公务员法》所指的政府组成部门，还包括参照《公务员法》管理的党委、人大、政协、群团机关，和政法部门。参照《公务员法》管理的，有两类机构，一类是使用行政编制的党群团机关，也被习惯上列为“公务员单位”；而另一类，是参公事业单位，不被列入“公务员单位”之列，是真正的参公单位。
公务员单位主要包括五类：
1、政府组成部门：这是《公务员法》所指的正式的公务员单位，包括政府办公室、财政局、发改局、教育局、农业农村局、自然资源局、文化旅游局等各个与人们生活十分贴近的政府部门。政府部门为行政机构，干部使用行政编制，为公务员身份，工人使用工勤编制，为辅助人员。各级政府级别不同，政府部门数量不同，最小的县区行政部门数量为23个，最大的省会城市，行政部门有50多个。省级政府组成部门一般为60个，部委更多一些。
2、党委机关：党委机关参照《公务员法》管理，和政府行政机构的公务员一样，干部使用行政编制，工人使用工勤编制。党委机关的干部，也是公务员身份，可以在政府行政机构的公务员岗位之间自由转任，这也是参照管理的公务员单位的特点之一。党委机关包括县委办、组织部、宣传部、纪委、统战部等。
3、人大、政协机关：和党委机关一样，也是参照《公务员法》管理，干部为使用行政编制的公务员，也可以在公务员岗位自由转任。其机构只有人大办公室和政协办公室两个单位。
4、群团机关：也就是所谓的人民团体机构，主要是指工青妇机关，即工会、妇联、团委，和党委机关一样，参照《公务员法》管理，干部使用行政编制，为公务员身份，可以在党政机关公务员岗位上自由转任。群团机关总共有28个之多，但县区一级，一般只有工青妇才是使用行政编制的群团机关，而其他科协、文联、残联等都是参公事业单位，其他群团机构根据需要设立，大多为挂牌机构，或者职能由其他单位代为承担。因工作职能原因，以及行政机构个数限制较小，行政编制更多，市级以上使用行政编制的群团机关逐渐增多。
5、公检法司部门：即公安局、法院、检院、司法局、政法委五个部门。政法委是党委部门，司法局为政府组成部门，分别代表党委和政府，统管政法工作。公安局也算是地方政府工作部门，法院检院为省级垂直管理部门。在地方党政部门组成中，公检法一般单列，之所以把政法委和司法局拉进来，因为根据机构和编制管理规定，这五个部门都使用行政编制中，单独为政法部门设立的“政法专项编制”。也就是说，公检法司和政法委中的干部使用政法专项编制，为公务员身份，这也是这些部门享受每月1200元政法津贴的人员范围。政法公务员同样也可以在党政机关公务员岗位自由转任。根据改革，人民警察今后将不再使用地方政法专项编制，其职级并行也和公务员有所不同，县区一至四级警长对应一至四级主任科员，不同的是不受名额限制，两年一晋升，条件更为优待。
想进入公务员单位工作，必须通过部委和省级公务员管理部门组织的公务员考试。除此之外，在职事业人员还可以通过公选、晋升、转任等方式，转变为公务员身份，进入公务员单位工作。基层公务员也可以通过调任、晋升、遴选等方式，进入市级以上公务员单位工作。