认真说来，“地方上”这个概念，也是要到秦以后才会产生的。因为只有一个幅员辽阔且又实行郡县制的统一大国，才会有中央和地方，也才会有中央和地方的关系。这种关系，仍然要算汉代最好。钱穆先生就说：“中国历史上讲到地方行政，一向推崇汉朝，所谓两汉吏治，永为后世称美”，是为笃论。
汉代地方行政制度之好，在于简单，只有郡、县两级。加上中央，也不过三级。层次少，效率就高，腐败的可能性也小，这是大家都明白的道理。再说层次少，也亲切。县以上就是郡，郡以上就是中央，用钱穆先生的话说，大家都不觉得这个中央政府高高在上。
层次少的另一个好处，就是官级少，升转快，官员的政治前途明朗，工作积极性就高。西汉中央政府的“高级干部”实际上只有两级，即“三公”和“九卿”。三公就是丞相、太尉和御史大夫，都只有一个人。丞相相当于总理，金印紫绶；太尉相当于三军总司令或兵马大元帅，也是金印紫绶；御史大夫相当于副总理兼监察部长，银印青绶。九卿其实就是九个部长或“部长级干部”（比如廷尉就是司法部长，大鸿胪就是外交部长，大司农就是财政部长），官俸二千石。地方上也是两级。最低一级是县。大县行政长官叫县令，官俸六百石至一千石。小县行政长官叫县长，官俸三百石至五百石。县以上是郡，行政长官叫守，景帝时改称太守，官俸二千石。也就是说，郡守和九卿是平级的。西汉的郡大约一百个，一个郡管一二十个县。这样算下来，当时一个郡守，也就相当于现在一个州长。请想一想，一百个州长（郡守）和九个部长（九卿）平级，是什么概念？自然是州长变部长并不稀奇，部长变州长也不委屈。这就有利于“干部交流”。再说中央政府的部长虽然只有九个，地方上的州长却有一百来个。县长们（大约有一千三百左右）即便当不上部长，当个州长总还有希望。县长和州长之间又不再有等级。只要加把劲，一步就能跨入“高干”行列，没准还能到中央工作，县长们岂能不努力？实际上汉代官制的最大特点就是“轻中央而重地方”。所以汉代的地方政治是最好的，吏治也是最好的。
不过好景不长，这个制度很快就遭到了破坏。始作俑者不是别人，正是那位雄才大略的汉武帝。汉武帝在元封五年（公元前106年）把天下分为十三个州部，每州派去一位刺史，许多学者便据此认为汉代地方行政区划是三级：州一级，郡一级，县一级，州领导郡，郡领导县。其实这是不对的。因为刺史不是行政官，而是监察官，是中央派到下面去监督地方官的“特派员”。他只能奉诏察问六件事情，不得干预地方行政，还没有固定治所，俸禄也只有六百石，相当于“县处级”。你想，哪有县处级领导地市级的道理？显然，刺史不是一级地方官员，州也不是一级地方行政区域。所以在汉武帝时代，这事还不算乱套。
但是到汉成帝绥和元年（公元前8年），情况就变了，刺史变成了牧，级别也是二千石。以后反反复复，一会儿刺史一会儿牧，州也逐渐成为地方行政实体（比如冀州牧袁绍、荆州牧刘表、兖州牧曹操，便都是拥兵自重割据一方的诸侯）。这样折腾到隋文帝开皇三年（公元583年），朝廷干脆废了郡，直接以州统县。至于州的行政长官，则有叫刺史的，有叫太守的，还有叫牧的，因为隋唐两代的州，其实就是汉代的郡。如果是特殊的州（比如首都和陪都），就叫府，其行政长官则叫牧（从二品）或尹（从三品）。这是唐人的发明，宋人也跟着做的。只不过宋代的府比唐代的多。稍微特殊一点，就不叫州，叫府。
可见唐代地方行政区域原本也只有两级：州府一级，县一级。但是唐人和汉人一样，也喜欢从中央往地方派上级官员。汉代只派了刺史，唐代派的就多了，其中最重要的是观察使和节度使。观察使和汉的刺史一样，原本是中央派下来巡视地方的，结果巡回变成常驻，成为名不正言不顺的更高一级行政长官。节度使原本也是特派员，只不过观察使管监察，节度使管军事。结果也一样，也成为名不正言不顺的更高一级行政长官。中央监察官变成地方行政官已是不妥，军区司令员变成地方行政官就更成问题。最后，节度使变成割据一方的“藩镇”，唐王朝也就灭亡。
唐代观察使监临的区域叫“道”，宋代则叫“路”。宋代地方行政区域原本同样只有两级：州府一级，县一级，但开国不久（宋太宗至道三年，即公元997年）就在府州上面加了一级，叫“路”，而且其行政长官居然是四个，南宋时简称为帅（安抚使，管军事）、漕（转运使，管财政）、宪（按察使，管司法）、仓（常平使，管救济）。这就荒唐。唐代州县，只要承奉一个上司（观察使），宋代则要承奉四个，这地方官岂能好做？何况这四个大员，互不相属，都直接对皇帝负责，你说这事情可怎么办？所以宋的地方行政，简直一塌糊涂。
元代的荒唐，则是把“省”这个怪物制造出来了。省，原本是中央机关的官署名称，比如中书省、门下省、尚书省，在唐代是相当于宰相府的。元承宋制，也以中书省为最高行政机关，枢密院为最高军事机关，御史台为最高监察机关。不同的是，他们还要把这些机关派到地方上去。派到地方上的中书省叫“行中书省”，简称“行省”。派到地方上的枢密院叫“行枢密院”，简称“行院”。派到地方上的御史台叫“行御史台”，简称“行台”。可见所谓“行省”，就是“临时的、不在首都的，或行动中的中书省”，就像“行宫”是“临时的、不在首都的皇宫”一样，怎么会是地方行政区域名称呢？
所以，到明洪武九年（公元1375年）朱元璋准备废掉宰相之前，就先把地方上的“行中书省”废了，改称“承宣布政使司”，其长官则叫“承宣布政使”，简称“布政使”。使是官名，司是衙门，都不是区域名称。可见现在叫做“省”的这个地方行政区域，其实是没有正当名称的。叫省叫司都不通，就像把市、县叫做局、处于理不合一样，要叫也该叫“承宣布政使区”。不过朝廷只设了衙门（承宣布政使司），没有颁布区号，世俗的称呼难以改变，那就凑凑合合叫“省”吧！结果，真正的“省”（中书省）废掉了（而且也被忘掉了），不是“省”的东西反倒变成了“省”。
省一级的衙门，明代是三个：承宣布政使司、提刑按察使司、都指挥使司，简称藩司、臬司、都司，合称“三司”。清代减去都指挥使司，变成“二司”。二司的长官布政使和按察使，俗称藩台、臬台，同为省长。藩台管行政财政，臬台管司法监察。其实按察使称台还凑合，因为御史称台。布政使称台就没有道理了。然而清代不但藩司和臬司的长官称台，他们派出去的下属机构（分司）官员也称台，叫“道台”。这倒不去管他，糟糕的是明清和汉唐宋元一样，有了地方政权机构还不够，还要往下面派机构和官员。汉代是郡县之上加派刺史，结果变成州；唐代是州县之上加派观察使和节度使，结果变成道；宋代是府州之上加派帅、漕、宪、仓，结果变成路；元代则在道和路之上又加派行省、行院、行台，结果变成省。这样到了明清，法理上的地方行政区域是三级：省一级，府一级，州县一级。府在唐、宋、元三代，是“特别行政区”，其实是州，但在明清则是省之下、县之上的一级正式行政区，相当于现在的地级市。州在明清则基本上不再领县，其行政关系则或直属于省（少数），或隶属于府（多数），因此州县应视为同级。
这样原本也不错，问题是明清又往省里派“特派员”。明代派出的是三个：总督、巡抚、巡按。设置之初，大体上是总督管军事，巡抚管行政，巡按管监察。清代把巡按职责并入巡抚，只留下总督、巡抚两个。但明代的总督、巡抚、巡按是临时性的、非常设的，清代的总督和巡抚却是常驻常任，这就等于是在省长（布政使、按察使）之上又加“超级省长”（巡抚），诸省之上又加“太上省长”（总督多管二三个省，只管一省的则不设巡抚）。省上有省，官上有官，越搞越复杂。
省长们也不含糊，也往下派“太上皇”，这就是分司分道。分司分道也有两种：布政使派出的叫分守道，按察使派出的叫分巡道。这是明制，清代的道更复杂。这就在省与府之间又插进来一级。如果总督辖区（大区）算一级，省算一级，道算一级，府算一级，州县算一级，就有五级了。结果如何呢？即如钱穆先生所言：“变成管官的官多，管民的官少”，而且管民的官（就是县官和州官）不但少，地位还低，权力还小。州县上面有知府，知府上面有道台，道台上面有布政使和按察使，布政使和按察使上面有巡抚，巡抚上面有总督，总督上面有中央。州县被压在最底层，奉承巴结一大堆上司还来不及，哪有时间精力功夫心思去亲民？地方政治也就一塌糊涂。