地級市的前身,可以追溯到唐宋時期的"州",和明清時期的"府",下領縣和散州(相當于今縣級市)。它是一種省與縣之間的二級行政單位,由一級行政單位的?。ㄔ髑鍟r期稱省,唐宋時期稱道或路)所直領。 民國初期,廢府存縣,各省置道,原府所轄各縣劃歸于道,改省、府、縣三級制為省、道、縣三級制,1927年,廢道改為省、縣(市)二級制,并在原府治所在縣,分出縣城設市,地位與縣平級。 1932年,中華民國開始于省與縣之間設置“行政督察區(qū)”,屬于準行政區(qū)劃單位,其管理機構行政督察專員公署是省政府派出機構。 1949年10月1日,新中國成立后,改行政督察區(qū)為專區(qū)。
1971年又改專區(qū)為地區(qū)。
1980年代,地區(qū)與市合并,實行市管縣體制改革,為當今地級市之肇始。
市管縣體制最早源于20世紀50年代早期。1950年,旅大行署區(qū)改為直轄市旅大市(1981年改名大連市),管轄金縣(1984年改名金州區(qū))、長山縣(1953年改名長??h),改制為遼寧省轄市后,繼續(xù)管轄金縣和長??h。 1951年,浙江省將省直轄的杭縣(1958年撤銷)劃歸杭州市管轄。 1958年,河北省撤銷“天津地區(qū)”,將武清、靜海等12個縣劃歸省轄天津市領導。 1959年9月17日,第二屆全國人大常委會第九次會議通過了《關于直轄市和較大的市可以領導縣、自治縣的決定》,對市管縣體制作出了法律上的規(guī)定,直接推動了市管縣體制的發(fā)展。
1960年,全國已有52個市領導243個縣,約占全國縣建制總數(shù)的八分之一。這次市管縣體制產生的契機是大躍進和人民公社運動,缺乏客觀的經濟文化基礎,隨之很快降溫。
1961年以后隨著經濟調整和整頓的開始,大量市管縣縣恢復原有體制,河北省恢復了全部專區(qū)和專員公署。至1966年全國管轄縣的市降至25個,管轄的縣數(shù)量不到1960年的三分之一,至此市管縣體制經歷了第一次大起大落。直到此時,省轄市的轄區(qū)范圍內,仍以非農業(yè)人口為主,且多為省會城市或重要工業(yè)城市。
1979年,國務院財經委員會派一批專家調研四川省產業(yè)結構問題,時任中國社會科學院財貿經濟所所長劉明夫明確提出了“中心城市”的概念。
1982年,中共中央第51號文發(fā)出了“改革地區(qū)體制、實行市領導縣體制”的通知,首先在江蘇試點1983年在全國試行。隨后中央又發(fā)出《關于地市州黨政機關機構改革若干問題的通知》,要求“積極試行地、市合并”,并把此作為1983年地方政府改革的一項重要內容。至此市管縣體制開始在全國范圍內推行,并且在國家的行政區(qū)劃序列里,正式將市分為地級市和縣級市。 2011年8月22日,安徽宣布撤銷地級巢湖市,并對原地級巢湖市所轄的一區(qū)四縣行政區(qū)劃進行相應調整,分別劃歸合肥、蕪湖、馬鞍山三市管轄。 2019年1月9日,國務院批復同意山東省調整濟南市、萊蕪市行政區(qū)劃,撤銷萊蕪市,其行政區(qū)劃并入濟南市。