郡、縣爲春秋戰國至秦代，逐漸形成的地方政權組織。春秋前期，楚、秦、晉等諸侯國開始在國內一些地方設縣;春秋末期，各諸侯國開始在邊地設郡。郡的面積雖比縣大，但因地處偏遠，行政建制一般比縣爲低。戰國時，各諸侯國在邊地分設郡、縣，逐漸形成縣統於郡的兩級制。“郡”字，從邑、君聲。君本義爲至尊，奉守軍令以行君政之地爲郡。“縣”字，從系持，爲倒首，倒首系掛之爲懸。“懸”、“縣”古時通用。縣與王城懸隔千里，取遙遠之意。楚莊王滅陳置縣，縣名至此始。
《說文》曰：周制，天子地方千里，分爲百縣，縣有四郡。《春秋左傳》曰：克敵者，上大夫受縣，下大夫受郡;說明春秋前期縣大於郡。公元前350年，秦國商鞅變法，遷都咸陽，置三十一縣。其後變法圖強，兼併一日千里：公元前327年，秦滅西戎設義渠縣;公元前278年，佔郢城置南郡;公元前277年，定黔中設黔中縣;公元前272年置南陽郡;公元前249年置山川郡;公元前248年置太原郡;公元前242年置東郡;公元前230年置潁川郡;公元前223年置楚郡;公元前222年置會稽郡。至公元前221年，秦兼併天下。秦始皇採納李斯建議，將天下分爲三十六郡。郡設守、尉、監各官。三年後，攻克南越陸梁地，增置桂林郡、南海郡、象郡，同時收取河套以南土地，設置四十四縣。是爲一統天下，大功告成。
郡的轄屬初本無定製，代有更替。秦統一天下後，確立郡、縣兩級制，郡比縣大。漢代以後承襲，至宋代改郡爲府，郡制遂廢。秦漢以後，縣的行政長官，萬戶以上稱縣令，萬戶以下稱縣長。唐代之縣分上、中、下各級，故不再以令、長分稱。宋代稱爲知某縣事，元代稱縣尹。明清稱知縣，爲正七品，俗稱“芝麻官”。
春秋前期，各國始設郡、縣，意在固邊。因爲近畿之地，肥碩之地均已分封，故設置郡縣以疇邊，管理懸隔千里之地。秦一統天下以後，丞相綰奏曰：“燕、齊、荊地方遙遠，不設置王，無法鎮守，請立諸子爲王。”秦始皇將事交付臣下商議，李斯力陳分封之弊，強調統合爲一，設置郡、縣，永保天下安寧。郡縣制是對分封制的否定，強調中央集權，保障政令暢通，確實優於封建制，深得秦始皇的肯定。但秦始皇想通過實行郡縣制，防止分裂，消弭混亂，永保江山社稷太平，豈不是異想天開。
