基层治理体制在我国一样是历史悠久，有文献考证，从西周时期开始，我国就有较成熟的基层治理制度。
先秦时期：乡遂制
根据历史文献《通考·职役考一》所记载，在遥远的西周时期，当时实施了一种独特的“国”“野”分治制度——乡遂制。这一制度将整个国家划分为六个乡和六个遂。
所谓的乡，乃是天子、诸侯、士大夫，以及从事工商业活动之人的聚居之地，大致类似于现代城市中的市区范围。在乡的层级结构下，进一步细分出了比、间、族、党、州等不同级别。这些划分是以户为基本单位，并按照五五递增的方式来设定的。
具体而言就是：每五户人家组成一比；五个比则构成一个闾；五个闾又组合成一族；五个族联合起来成为一党；五个党汇聚一起就形成了一州；最后，五个州共同构建起一个乡。
每个级别的组织都分别设置有相应的负责人，如比长负责管理比这个小单元，闾骨掌管闾内事务，族师统辖族的运作，党正则领导党的各项事宜，州长把控着州的大小事情。
与此同时，遂作为农户们的居住区域，同样也有着自己的一套严密组织体系。它以下设邻、里、赞、鄙、县、遂等层级，通过对居民的编户来实现有效管理。
在这里，依次设有邻长、里长、赞长、鄙师、县正以及遂大夫等各级官员，他们各司其职，确保遂地区的秩序井然。
值得一提的是，乡遂制并非仅仅是简单的行政区划安排，实际上还巧妙地将行政组织，与军事组织有机融合在了一起。
这种结合使得乡遂制不仅具备了常规的行政管理职能，同时还兼有军事方面的重要作用，例如可以迅速动员和集结兵力应对外敌入侵或内部动乱。
此外，乡遂制在社会教化和民众行为监控方面，也发挥着不可忽视的功效，有助于维护社会的稳定和谐以及良好的道德风尚。
春秋战国时期沿袭了乡遂制度，但也有变革。县下设乡、乡下设里，乡里制已成为基层行政组织，分别由乡长或有司掌管。
但是由于春秋战国的大动荡，乡里制度还称不上真正意义上的地方行政制度，而是更多地与军事组织关系密切。
比较有代表性的，如春秋时代，鲁、齐、卫、吴、越诸国都采用以25家为一社的"；书社制度"；。
"；社之户口，书于版图"；。战国时，秦献公10年(公元前375)立"；户籍相伍"；制度。后商鞅变法时，把原来的户籍编制与军事相结合，称为"；什伍连坐法"；。民5家为伍，10家为什，一家有罪，十家连坐。
秦汉时期：乡亭里制
秦王朝建立之后，大力推行专制主义中央集权制度，对整个国家实施了全面而深入的改革与规划。
首先，他们把广袤无垠的国土划分为三十六个郡，每个郡又下设数量众多的县。而在县之下，则精心构建起了一套严密且细致的乡里组织体系。